チャールズ3世は今週、エアシャーのダンフリーズ・ハウスに大手人工知能企業の幹部を集め、人類のためのAI開発に向けた原則を協議する。ディッチリー財団が主催する非公開サミットには、エヌビディア、OpenAI、アンスロピック、Google DeepMindの代表団、英国のAI担当相、IonQのニコロ・デ・マシ最高経営責任者(CEO)、AI倫理顧問のパオロ・ベナンティ氏が参加する。会合は、アンスロピックのダリオ・アモデイCEOが、再帰的自己改善によってAIスウォームが6~12カ月以内にインターネットを掌握する可能性があると警告する中で開かれる。OpenAIのサム・アルトマンCEOとイーロン・マスク氏は、最先端AI開発のペースを落とすことを支持している。 ディッチリー財団は、人間の尊厳、より強固なコミュニティー、人々と地球の繁栄に焦点を当てた憲章案を作成した。ただ、代表者らが署名するかどうかは明らかになっていない。英国は、AI開発の減速に反対する米国と、減速案を批判する中国の間で中間的な立場を模索している。英国のAI安全研究所は、自主的な合意を活用し、モデルの一般公開前に評価している。