欧盟开始执行《AI法案》透明度规则，各公司竞相标注聊天机器人和深度伪造内容的使用

欧盟于8月2日开始执行《AI法案》的新透明度规则，将披露要求扩展至在欧盟境内使用的聊天机器人、深度伪造内容及其他AI生成内容，包括欧盟以外公司所使用的相关内容。与人直接互动的AI系统必须明确告知用户其面对的是AI，而生成式AI系统的提供者必须为AI生成或操纵的音频、图像、视频和文本添加机器可读标识。 新阶段还要求，公开传播描绘真实人物或事件的逼真深度伪造内容的主体，必须明确将相关内容标注为AI生成或经操纵内容。欧盟委员会的AI办公室与成员国主管部门将根据各自职权分担监管职责，同时欧盟委员会现已拥有直接监管通用AI模型提供者的权力，并可对被认定构成系统性风险的模型施加额外的风险管理义务。 零售、旅游、广告和客户服务等行业的企业正在调整网站、热线和营销流程以满足合规要求。律师表示，这些规则可能使AI的使用在商业运营中更加显性化，涵盖从投诉处理聊天机器人到呼叫中心情绪分析，再到AI辅助广告等场景。违反聊天机器人和深度伪造内容透明度义务的行为，最高可被处以1,500万欧元罚款，或按上一财年全球年度营业收入的3%处罚，以较高者为准。 企业和行业组织已警告称，法律不确定性、欧盟27个成员国之间执法不一致，以及如果消费者被大量AI披露信息淹没而产生的“标签疲劳”风险，都是潜在问题。欧盟表示，常规照片编辑可能属于例外情形，而AI模型提供者须在12月前落实针对合成媒体的机器可读标注。此次推进正被拿来与《通用数据保护条例》（GDPR）对数字商业实践的广泛影响相提并论，如今在欧盟提供AI驱动服务的公司正面临压力，需要判断这些规则在多大范围内适用于其产品和内容。