返回
维塔利克·布特林警示基金分配中使用AI治理风险

维塔利克·布特林警示基金分配中使用AI治理风险

以太坊联合创始人警告，由于存在被操纵及数据泄露风险，应避免将AI用于治理，并建议采用有人类监督的开放市场模式进行AI治理。

ETH

事实核查
这一说法已被多方消息强烈证实，其中包括主要来源——维塔利克·布特林官方账号的直接推文。在该推文中，他明确表示，在利用人工智能“分配对贡献的资金”这一背景下，天真地进行“人工智能治理”是一个“坏主意”，这构成了明确的警示。
    参考链接: 123
摘要

维塔利克·布特林批评将AI用于治理，指出其存在操纵与数据泄露等风险，并提及近期ChatGPT漏洞。他提出替代性治理模式，即在人类监督下对AI模型进行随机抽检，强调应以问责制取代AI自主决策。

术语与概念
  • AI治理: 制定规则或系统以规范和监督人工智能的运行和决策过程。
  • 开放信息市场: 一种去中心化平台，允许贡献者提供数据或模型供公众使用，并通过社区发起的检查和人工评估进行监督。
  • 越狱（AI语境）: 绕过施加在人工智能系统上的限制，从而使其生成原本不应或不允许生成的输出内容。