EU、企業がチャットボットとディープフェイク利用の表示を急ぐ中でAI法の透明性ルールの施行を開始

欧州連合（EU）は8月2日、AI法に基づく新たな透明性ルールの施行を開始し、EU域内で利用されるチャットボット、ディープフェイク、その他のAI生成コンテンツに対する開示要件を、EU域外に拠点を置く企業が提供するものも含めて拡大した。人と直接やり取りするAIシステムは、利用者がAIを相手にしていることを明確に示さなければならない。一方、生成AIシステムの提供者は、AIが生成または改変した音声、画像、動画、テキストに機械可読の識別子を付与する必要がある。 今回の新段階では、実在の人物や出来事を描写した現実的なディープフェイクを一般公開で配信する者に対しても、そのコンテンツがAI生成または改変されたものであることを明確に表示するよう求めている。欧州委員会のAIオフィスと加盟国当局は、それぞれの権限に応じて監督を分担する。一方で欧州委員会は、汎用AIモデルの提供者を直接監督し、システミックリスクをもたらすと判断されたモデルに追加のリスク管理義務を課す即時の権限を得た。 小売、旅行、広告、顧客サービスにまたがる企業は、順守に向けてウェブサイト、電話窓口、マーケティングの業務フローを調整している。弁護士らによれば、これらのルールにより、苦情対応のチャットボットからコールセンターにおけるセンチメント分析、AI支援型広告に至るまで、商業活動全般でのAI利用がはるかに可視化される可能性がある。チャットボットとディープフェイクの透明性義務に違反した場合、1500万ユーロ、または直前の会計年度における全世界年間売上高の3%のいずれか高い方を上限とする制裁金が科される可能性がある。 企業や業界団体は、法的な不確実性、EUの27加盟国間での執行のばらつき、そして消費者がAIに関する開示表示にあふれることで生じる「ラベル疲れ」のリスクについて警告してきた。EUは、通常の写真編集は例外に該当する可能性があるとしており、AIモデルの提供者には、合成メディア向けの機械可読ラベリングを実装するために12月までの猶予が与えられている。この導入は、デジタル事業慣行に広範な影響を与えたGDPRになぞらえられており、EUでAI活用サービスを提供する企業は、自社の製品やコンテンツにこのルールがどこまで広く適用されるのかを見極めるよう圧力を受けている。