欧盟《人工智能法案》已进入新阶段，对使用聊天机器人、生成式人工智能和合成内容的企业，相关重要透明度义务现已正式生效。
自2026年8月2日起，《欧盟人工智能法案》第50条将在整个欧盟范围内生效。该规定旨在确保消费者能够辨别何时正在与人工智能系统互动，以及何时看似真实的内容实为人工生成或经过篡改。
对于电商企业而言，这些变化可能涉及客服机器人、虚拟购物助手、AI生成的广告、产品图片、合成网红以及自动化编辑内容。
不过，该法规并未要求零售商对每一条由人工智能生成的产品描述或营销图片都进行标注。相关义务取决于系统的类型、内容的性质，以及企业是作为人工智能服务提供商，还是仅在使用第三方工具。
其中一项最明确的要求涉及直接与消费者互动的人工智能系统。
此类系统的提供商必须确保用户知晓其正在与人工智能进行交流，除非对于具备合理认知水平的人而言，这一点已显而易见。
对于在线零售商而言，这可能包括：
相关披露信息应最迟在首次交互时显示。例如，“您好，我是由人工智能驱动的购物助手”这样的提示信息，或界面中持续显示的“AI助手”标签，均可满足该要求。
零售商不应认为，仅凭机器人图标、不同寻常的机器人名称或自动生成的写作风格，就能充分说明该系统的人工性质。
尽管法律规定的披露义务主要由系统提供商承担，但电子商务企业应核实相关披露信息在其网站、应用程序及客户服务渠道上是否已正确显示。
供应商合同还应明确由谁负责实施、测试和维护该通知。
第50条还涵盖了由人工智能生成和处理的音频、图像、视频及文本内容。
生成式人工智能系统的提供商必须确保相关输出内容能够以机器可读的格式进行标识。这可能涉及元数据、水印、内容凭证或其他技术手段。
这一技术标注要求并不意味着每家零售商都必须在每一条由人工智能辅助生成的内容上添加醒目的“AI生成”标签。
对使用此类内容的企业所规定的可见披露义务范围较窄。这些义务主要涉及：
标准的产品描述、分类页面或促销邮件，仅因生成式人工智能参与了其制作，并不意味着必须自动标注可见的AI标签。
零售商越来越多地利用人工智能进行创作：
大多数普通商业文案无需标注醒目的“AI生成”标签。
当相关材料是为了向公众通报公共利益事项而发布时，针对人工智能生成的文本的具体披露义务即适用。
当电商企业发布涉及以下内容的AI生成内容时，此规定可能适用：
例如，对产品尺寸的简单描述通常不会触发该规定。但若由人工智能撰写的文章声称该产品具有医疗功效或符合环境法规，则可能需要接受更严格的审查。
即使人工智能生成的文本涉及公共利益问题，只要该内容经过实质性的人工审核，且有个人或公司承担编辑责任，则可能无需标注醒目标识。
审核工作不能仅限于基本的拼写或语法检查。
合格的编辑应评估内容实质、核实来源、更正不准确的陈述，并有权批准或否决最终版本。
零售商应记录以下内容：
这对于企业博客、可持续发展报告、监管政策解读以及产品安全相关内容尤为重要。
由人工智能生成的广告和产品图片并不自动要求标注可见标签。
当内容被认定为深度伪造时，主要可见披露义务即适用。
根据《人工智能法案》的定义，深度伪造（deepfake）是指由人工智能生成或经过篡改的图像、音频或视频内容，其外观与真实的人、物体、地点、组织或事件极为相似，且可能被误认为真实。
在电子商务领域，这可能包括：
当内容被认定为深度伪造时，必须在观众首次接触该内容时明确披露其人为制造的性质。
仅靠机器可读的元数据是不够的。消费者必须能够在不使用专业软件的情况下，识别出相关内容系由人工智能生成。
并非所有虚拟模型都必然属于深度伪造（deepfake）。
与被伪装成真实顾客的逼真虚拟网红相比，明显虚构的动画角色或显而易见的数字吉祥物，误导消费者的可能性较小。
零售商应考虑：
即使《人工智能法案》未要求标注，欧盟的广告和消费者保护法规仍可能适用。
企业不应让人产生这样的错误印象：即某产品是由真实客户使用、评价或推荐的，而实际上该客户完全是虚拟的。
常规的图像编辑不会自动触发《人工智能法案》的透明度要求。
诸如调整尺寸、色彩校正、锐化及降噪等基础调整，通常不太会被视为合成内容的生成。
当人工智能被用于进行实质性修改时，风险会随之增加，包括：
即使这些做法不属于“深度伪造”的严格定义范畴，也可能违反消费者保护规定。
新出台的透明度规定不应被解读为允许制造虚假客户评论。
发布虚假评论、推荐或用户证言，可能已构成违反欧盟消费者保护法的行为。
当人工智能生成的用户评价描绘了一个真实人物在描述从未发生过的经历时，该评价也可能被视为深度伪造内容。
零售商应明确区分以下内容：
最稳妥的做法是彻底禁止合成客户评论。
在线市场可能需要管理由数千家第三方卖家生成的AI内容。
企业应审查其系统是否：
提供自有AI商品信息生成工具的市场平台，还应评估自身是否仅作为部署方，抑或可能作为提供方承担额外责任。
电商企业现在应立即采取以下几项措施。
请识别所有与客户进行交互的聊天机器人、购物助手、语音助手及自动化支持工具。
确保每个系统都能明确标识自身为人工智能。
针对每套人工智能系统，需确定该公司是作为提供商、部署方、分销商还是进口商。
不要仅依赖供应商使用的术语。
明确指出哪些图像、音频或视频是通过人工智能生成或经过实质性修改的。
评估任何内容是否可能被认定为深度伪造内容。
请确认网站优化、图片压缩、电商平台上传或内容管理系统是否会删除AI服务商添加的元数据或水印。
针对涉及安全、健康、可持续发展、监管或其他公共利益主题的人工智能生成内容，建立有据可查的人工审核流程。
要求人工智能供应商说明：
市场营销、法务、客户服务、电子商务、内容和技术团队均应了解相关透明度要求。
合规责任不仅限于IT部门。
违反《欧盟人工智能法案》相关义务的行为，可能面临最高1500万欧元或公司全球年营业额3%的罚款，以较高者为准。
监管机构必须考虑相称性原则，包括企业的规模以及侵权行为的严重程度。
然而，罚款并非唯一需要关注的问题。
具有误导性的AI生成内容还可能导致：
《欧盟人工智能法案》并不禁止零售商使用聊天机器人或生成式人工智能。
该法案的核心原则是，不应误导消费者，使其无法分辨自己是在与真人互动，还是在浏览看似真实实则由人工智能生成的内容。
标注清晰的聊天机器人仍可提供快速高效的服务。经适当审核后，人工智能辅助生成的内容仍可提高生产力。只要呈现方式透明且不具误导性，虚拟模型和合成媒体仍可被使用。
对于电商企业而言，当务之急是识别人工智能与消费者直接互动的环节、合成内容可能被误认为真实内容的场景，以及需要人类编辑责任的领域。
随着人工智能越来越深入地融入在线零售领域，透明度既将成为一项法律义务，也将成为赢得消费者信任的竞争信号。
继续使用本网站即表示您同意使用 cookies。更多信息
本网站的 cookie 设置为 "允许 cookie"，以便为您提供最佳浏览体验。如果您在未更改 cookie 设置的情况下继续使用本网站，或点击下面的 "接受"，则表示您同意这样做。
