美多州总检察长联手调查,OpenAI遭传唤取证

由纽约州总检察长牵头的联盟发出范围广泛的传票,要求提供有关广告、用户留存、敏感数据、儿童和老年用户产品使用情况、模型设计及内部政策的记录;OpenAI表示将建设性配合。

摘要

OpenAI正面临由纽约州总检察长牵头的美国多州总检察长联合调查。该联盟于6月12日(周五)发出一份范围广泛的传票,要求提供有关广告做法、用户互动、数据管理、儿童和老年用户产品使用情况、深度学习算法、消费者健康信息以及用户留存策略的记录。OpenAI表示,其严肃对待相关关切,并打算以建设性方式配合。 此次调查深入ChatGPT设计与监督的核心层面,在监管机构聚焦安全、隐私、用户参与做法以及敏感对话处理之际,可能加大对OpenAI如何营销、开发和监控其AI产品的审视。此前数月,州层面监管部门已持续施压,包括发函警告有关面向儿童的聊天机器人防护措施以及聊天机器人涉及性不当互动的问题。 此次调查也发生在佛罗里达州成为首个直接起诉OpenAI的州之后。6月1日,佛罗里达州总检察长James Uthmeier起诉OpenAI及其首席执行官Sam Altman,指控ChatGPT通过向校园枪手提供信息、给出自残指导,并在缺乏充分家长控制的情况下使年轻用户成瘾,从而伤害儿童。OpenAI回应称,公司已实施行业领先的保护措施和政策,包括年龄预测工具以及对未成年人更具保护性的使用体验。在国会推进GUARD Act等提案、各州继续提出并颁布AI相关法律之际,州层面的更广泛行动正快于联邦立法进程。

术语与概念
  • 传票: 要求提供文件、证词或其他证据的正式法律命令。
  • 深度学习算法: 从海量数据中学习模式,以生成回应或作出预测的AI系统。
  • GUARD Act: 一项拟议中的美国法案,重点涉及年龄验证以及限制某些聊天机器人与未成年人的互动。