参议院草案将迫使AI企业依法防范灾难性风险

新闻摘要

参议院谈判代表正在起草一项两党立法，这将是首次将具有约束力的法律“注意义务”置于最先进AI系统的开发者身上，要求他们设计产品以防范灾难性风险，而不是依赖自愿的安全承诺。截至2026年9月11日美国东部时间，谈判涉及参议院多数党领袖John Thune、参议院商业委员会主席Ted Cruz、参议院商业委员会高级民主党人Maria Cantwell以及参议员Amy Klobuchar，后者已成为谈判中民主党方面的主要发言人。该提案将赋予联邦政府新的权力，以阻止被判定为不安全的 Frontier AI 模型发布，同时给予公司在联邦法院挑战此类决定的权利。

法案要求

草案框架的核心是“注意义务”标准，这是一个从产品安全和侵权法中借用的法律概念，它将要求最具能力的AI系统开发者积极设计其模型，以防止灾难性后果。该标准不会将安全测试留给公司内部自愿的公司承诺，而是创造一种可执行的义务，监管机构可以直接采取行动。

据报道，该措施直接针对“前沿”模型，即拥有最先进能力的一小部分系统，这将使其与Alphabet旗下的Google、Anthropic和OpenAI直接接触。这些系统的开发者将被要求与国家实验室和其他政府合作伙伴等政府专家合作，在发布前后独立验证和测试其模型。

立法者瞄准的风险

谈判代表表示，该立法旨在解决一组特定的“灾难性风险”，而不是日常AI危害（如偏见或错误信息）的广泛范畴。据报道，这些风险包括：不良行为者可能利用前沿AI系统帮助设计生物或核武器；AI模型可能被用于对关键基础设施进行复杂的网络攻击；自主AI代理可能偏离人类指令并采取未经授权的行动，包括入侵外部计算机系统。

Klobuchar参议员表示，她继续努力达成一项两党协议，使政府能够监督先进AI模型带来的最大风险，包括要求开发人员在部署前配合政府测试。Cruz参议员表示，他正专门与Klobuchar和Thune合作，解决与生物和核威胁相关的风险。

政府权力和司法审查

新兴框架中一个核心且有争议的特征是，允许联邦政府阻止其认为过于危险的AI模型发布。为了平衡这一权力，草案将允许公司在联邦法院对此类决定提出上诉，从而为开发者提供对监管行动的司法制约，而不是将决定权完全留给行政机构。

州法律优先适用问题

谈判是在华盛顿长期围绕联邦AI法律是否应覆盖日益增长的州AI法规拼图的背景下进行的。2026年初，试图将十年禁止州AI法律的条款附加到另一项立法中的尝试被参议院压倒性投票剔除，多个州的共和党州长也公开反对广泛的优先适用努力。公民自由和消费者倡导团体分别警告，使用联邦安全法案来优先适用州AI法律可能会取消州立法机构已经制定的保护措施，将他们称为州级保障的“地板”变成较低的联邦“天花板”。

行业立场

行业的反应不一。一些AI开发商公开表示支持从自愿安全承诺转向强制性、政府支持的规则，至少有一家大型AI实验室的政策领导层呼吁基于能力的国家安全监管，而不是继续依赖公司层面的承诺。其他行业团体对支持具体立法草案更为谨慎，反映出该行业对合规成本和政府叫停产品发布的权力范围的更广泛担忧。

时间表和政治压力

接近谈判的人士描述，正在形成的Thune-Cruz-Klobuchar 框架是在本届国会结束之前实现联邦AI安全法的少数现实途径之一。立法日程增加了紧迫感：众议院预计在中期选举前的11月3日，2026年只召开约一周会议，而参议院只剩下大约三周的预定会议时间。谈判代表意识到，如果在该窗口期内未达成协议，2027年1月就任的新国会可能会带来不同的政治平衡，使全面AI立法通过的可能性变得复杂。

接下来会发生什么

该法案仍在积极谈判中，关键的技术细节，包括具体的测试协议、优先适用的范围以及政府阻止模型发布所需达到的标准，仍在谈判代表之间敲定。任何最终文本仍需通过两个议院并达成一致后才能提交白宫，鉴于压缩的立法日程，这一过程很可能将讨论延长至秋季。