六家 AI 巨头签署自愿安全协议：企业高管与研究人员怎么说

新闻摘要

2026年9月29日，六家大型科技公司的负责人签署了一项自愿协议，就如何审查和监督先进 AI 系统达成共识。该协议名为《前沿责任联合承诺》，列出了在内部控制和独立审计方面的共同做法。已签署协议或公开发表意见的高管们，随后就该文件的作用以及尚待明确的内容表达了不同看法。

协议涵盖的内容

签署方包括 Anthropic（首席执行官 Dario Amodei）、OpenAI（总裁 Greg Brockman）、Google（首席执行官 Sundar Pichai）、Meta（首席执行官 Mark Zuckerberg）、xAI（创始人 Elon Musk）和 Nvidia（首席执行官 Jensen Huang）。相关报道称，这项承诺是自愿性质的，不会建立具有约束力的执行机制。

根据半岛电视台、Axios 等媒体的报道，这些公司承诺：

• 建立“强有力的内部控制”，包括针对其 AI 模型的监控与检测系统；
• 设立内部团队，检查上述控制措施是否得到落实；
• 与独立的外部审计机构合作，对控制措施进行审查；
• 成立董事会层面的委员会，评估内部和外部审计的结果；
• 定期会面，共同制定安全标准。

AI 高管如何评价该协议

Anthropic 的 Dario Amodei 态度较为谨慎。他表示这项技术“存在非常真实的风险”，而应对这些风险的机制“仍在讨论之中”。这表明他将该协议视为整个进程中迈出的一步，而非一套已经定型的框架。

CBS News 的报道还收集了 Mark Zuckerberg 和 Elon Musk 等人在公告发布当天的反应。总体来看，各方普遍愿意采纳共同的审查做法，同时也承认许多细节仍在商讨之中。

自我审查在技术层面的意义

在 AI 开发领域，“安全审查”通常指在模型发布前后进行测试。常见做法包括红队测试，即由专业人员尝试让模型生成有害或不可靠的输出；以及各类评估，用于衡量网络安全能力或提供危险技术指令的能力等指标。监控系统会追踪已部署模型的实际使用情况，并标记出需要关注的模式。

独立审计为这项工作增加了外部监督环节。外部审计机构可以检查公司如何测试其模型、测试结果是否得到处理，以及内部流程是否与公开说明一致。董事会层面的委员会则能将这些审计结果纳入公司的正式决策流程。

研究人员的疑问

多位学者和分析师指出了其中尚未解决的问题。UNSW AI Institute 的 Toby Walsh 问道：“还有哪个万亿美元规模的行业是自己给自己批改作业的？”Asia Society Policy Institute 的 Alvin Wang Graylin 指出，该协议缺乏独立性和跨境监督机制。University of Montreal 的 David Krueger 表示，它可能只能将风险降低“1%”。

Axios 报道称，AI 从业者担心仅靠自我监管无法解决该行业面临的安全问题。Business Standard 将该协议的结构与往年的自愿承诺进行了对比，并质疑这种做法在2026年是否足够。

后续关注重点

截至相关报道发布时，协议的完整细节尚未公布。后续值得关注的要点包括：独立审计机构如何选定、审计人员可以查阅哪些内容、各公司多久会面一次，以及由此产生的标准是否会公开。对于学生和从业者而言，这一事件是一个很好的案例，展示了快速发展的技术领域如何在正式标准出台之前形成共同做法。

除另有说明外，文中所有时间和日期均指美国东部时间。相关信息来源于半岛电视台、Axios、CBS News、ABC News、Tech Monitor 和 Business Standard 的报道；调研期间未能获取 The Verge 的原始文章。