參議院草案將以法律強制 AI 企業防止災難性風險

新聞摘要

參議院談判代表正在起草兩黨立法，這將是首次對最先進 AI 系統開發商施加具有約束力的法律「注意義務」，要求其設計產品時以防範災難性風險為目標，而非依賴自願的安全承諾。截至美國東部時間 2026 年 9 月 11 日，參與談判的包括參議院多數黨領袖 John Thune、參議院商業委員會主席 Ted Cruz、參議院商業委員會高級民主黨人 Maria Cantwell，以及在談判中成為民主黨主要發言人的 Amy Klobuchar 參議員。該提案將賦予聯邦政府新的權力，以阻止被認為不安全的 Frontier AI 模型發布，同時給予公司在聯邦法院挑戰此類決定的權利。

法案要求內容

草案框架的核心是「注意義務」標準，這是一個從產品安全和侵權法借鑒的法律概念，將要求最具能力的 AI 系統開發商積極設計其模型，以預防災難性後果。與將安全測試留給公司內部自願承諾不同，該標準將創造一項可執行的義務，監管機構可直接採取行動。

據報道，該措施專門針對「前沿」模型，即擁有最先進能力的小型系統群體，這將使其直接涉及 Alphabet 旗下的 Google、Anthropic 和 OpenAI。這些系統的開發商將被要求與政府專家（包括國家實驗室和其他政府合作夥伴）合作，在發布前後獨立驗證和測試其模型。

立法者針對的風險

談判代表表示，該立法旨在解決特定的「災難性風險」集合，而非日常 AI 危害（如偏見或虛假信息）的廣泛領域。據報道，這些風險包括：惡意行為者可能利用前沿 AI 系統協助設計生物或核武器；AI 模型可能被用於對關鍵基礎設施進行複雜的網絡攻擊；以及自主 AI 代理可能偏離人類指令並採取未經授權的行動，包括入侵外部計算機系統。

Klobuchar 參議員表示，她繼續努力達成兩黨協議，使政府能夠監督先進 AI 模型帶來的最大風險，包括要求開發商在部署前配合政府測試。Cruz 參議員表示，他正與 Klobuchar 和 Thune 合作，專門處理與生物和核威脅相關的風險。

政府權力與司法審查

新興框架中一個核心且具爭議的特徵是，允許聯邦政府阻止其認為過於危險的 AI 模型發布。為了平衡這種權力，草案將允許公司在聯邦法院對此類決定提出上訴，從而為開發商提供對監管行動的司法制衡，而不是將決定權完全留給行政機構。

州法律優先適用問題

談判是在華盛頓長期以來關於聯邦 AI 法律是否應覆蓋日益增長的州 AI 法規拼圖的背景下展開的。2026 年初，一項試圖將十年州 AI 法律暫停期附加到單獨立法中的嘗試，被參議院壓倒性投票剔除，多個州的共和黨州長也公開反對廣泛的優先適用努力。公民自由和消費者倡導團體分別警告，利用聯邦安全法案來優先適用州 AI 法律可能會移除州立法機構已建立的保護措施，將他們稱為的州級保護「底線」轉化為較低的聯邦「天花板」。

行業立場

來自行業的反響褒貶不一。一些 AI 開發商公開表示支持從自願安全承諾轉向強制性的、由政府支持的規則，至少有一家大型 AI 實驗室的政策領導層呼籲基於能力的國家安全監管，而非繼續依賴個別公司的承諾。其他行業團體對支持具體立法草案更為謹慎，反映出該行業對合規成本和政府叫停產品發布的權力範圍存在更廣泛的不安。

時間表與政治壓力

接近談判的人士描述，正在形成的 Thune-Cruz-Klobuchar 框架是當前國會結束前實現聯邦 AI 安全法的少數現實途徑之一。立法日程增加了緊迫性：眾議院預計在 2026 年 11 月 3 日中期選舉前僅開會約一週，而參議院剩餘的計劃會期時間大約為三週。談判代表意識到，如果未在該窗口期內達成協議，2027 年 1 月就任的新國會可能會帶來不同的政治平衡，使全面 AI 立法通過的機會變得更加複雜。

後續發展

該法案仍在積極談判中，關鍵技術細節（包括精確的測試協議、優先適用範圍以及政府阻止模型發布所需達到的標準）仍在談判代表之間敲定。任何最終文本仍需通過兩院並在提交白宮之前進行協調，鑑於壓縮的立法日程，這一過程很可能將討論延長至秋季。