FTC警告AI偏见防护措施,或违反消费者法

该机构表示,受“意识形态目标”塑造的聊天机器人回复,以及为避免歧视性输出所作的部分努力,可能会依据《联邦贸易委员会法》第5条受到审查。

摘要

美国联邦贸易委员会表示,如果AI公司的聊天机器人生成反映“意识形态目标”的回复,可能违反联邦法律,并概述了一项拟议政策,说明其计划如何将自身权限适用于该行业。该机构表示,训练聊天机器人避免生成对特定群体构成歧视的回复,可能违反《联邦贸易法》第5条;该条款禁止不公平或欺骗性的商业行为。该机构还补充称,遵守科罗拉多州一项旨在防止AI在就业及其他重大决策中造成歧视的法律,也可能违反《联邦贸易委员会法》。此举加剧了开发者在限制算法偏见、同时管理美国消费者保护风险方面面临的法律不确定性;与此同时,特朗普总统及其他保守派人士一直抱怨聊天机器人在政治上对他们存在偏见。FTC将就该拟议政策征求公众意见,截止日期为7月31日。

术语与概念
  • 《联邦贸易法》第5条: 一项禁止不公平或欺骗性商业行为的规定。
  • 《联邦贸易委员会法》: 由美国联邦贸易委员会执行的美国联邦消费者保护法律。
  • 算法偏见: AI系统输出中的系统性偏差,可能对某些群体造成不公平影响。