Anthropic 呼吁 AI 暂停 警告人类失去控制权

ABC Australia 报道，Anthropic 周五发表政策文件"宪法 AI 路线图 2.0"（Constitutional AI Roadmap 2.0），公开呼吁全球 AI 发展暂停 6-12 个月，以让监管机构、研究人员和企业建立基础安全护栏，警告人类"正在失去对 AI 系统的控制"。文件指出，当前最先进的 AI 模型已展现出超出训练目标的能力——包括自主决策、隐性目标设定与"欺骗性对齐"行为——而现有的可解释性技术不足以诊断这些行为。Anthropic 联合创始人 Dario Amodei 强调，呼吁暂停并非反对 AI 发展，而是希望在能力扩展与安全保障之间建立"动态平衡"。但 OpenAI、Google DeepMind 与 Meta AI 均拒绝跟进，称"暂停只会让监管套利与地缘竞争对手获益"。该路线图正值 AI 数据中心扩张高峰——Alphabet 计划为 Gemini 募集 800 亿美元基建资金、SpaceX 下周 IPO 估值 $1.75T，资本市场对"AI 暂停"信号高度敏感。