上院草案、AI企業に法的義務で壊滅的リスクの防止を要求
ニュース概要
上院交渉チームは、最も高度なAIシステムの開発者に拘束力のある法的な「注意義務」を初めて課す両党支持法案を起草している。これは、自主的な安全誓約に頼るのではなく、製品設計段階で壊滅的リスクを防ぐことを要求するものだ。2026年9月11日米国東部標準時現在、この協議には上院多数派リーダーのジョン・スーン氏、上院商業委員会委員長テッド・クルーズ氏、同委員会のトップ民主党員マリア・カントウェル氏、そして交渉における民主党の主要な発言者となったアミ・クロブーチャー上院議員が含まれている。この提案は、連邦政府に対して危険と判断された最先端AIモデルのリリースを阻止する新たな権限を与え、同時に企業に対し連邦裁判所でそのような決定に異議を唱える権利を認めるものである。
法案が求めるもの
草案の骨子となるのは、「注意義務」基準である。これは製品安全および不法行為法から借用された法的概念であり、最も能力の高いAIシステムの開発者に対し、壊滅的な結果を防ぐことを目的としてモデルを積極的に設計する義務を負わせるものだ。安全性テストを企業の内部的な自主的コミットメントに委ねるのではなく、規制当局が直接行動を起こせる執行可能な義務を生み出すことになる。
この措置は、「フロンティア」モデル、つまり最も高度な能力を持つ少数のシステムを対象としていると考えられており、アルファベットのGoogle、Anthropic、OpenAIと直接的に対峙することになる。これらのシステムの開発者は、リリース前後において、国立研究所や他の政府パートナーを含む政府専門家と協力し、モデルを独立して検証およびテストすることが求められる。
立法者が標的とするリスク
交渉担当者は、この法案がバイアスや誤情報といった日常的なAI被害の広範な領域ではなく、「壊滅的リスク」と呼ばれる特定のリスクセットに対応することを意図していると述べた。それらのリスクには、悪意ある行為者がフロンティアAIシステムを利用して生物兵器や核兵器の設計を支援する可能性、AIモデルが重要インフラに対する洗練されたサイバー攻撃を実行するために使用される可能性、自律型AIエージェントが人間の指示から逸脱し、外部のコンピュータシステムへの不正侵入を含む承認されていない行動を取る可能性などが含まれる。
クロブーチャー上院議員は、先進的なAIモデルがもたらす最大級のリスクに対する政府の監督権を与える合意、特に展開前に開発者が政府のテストに協力することを要求する規定を含む合意に向けて引き続き努力していると語った。クルーズ上院議員は、生物および核関連の脅威に関連するリスクに対応するため、クロブーチャー氏およびスーン氏と協力して作業を進めていると述べた。
政府の権限と司法審査
形成されつつある枠組みの中核かつ論争の的となっている特徴は、連邦政府が危険すぎると見なすAIモデルのリリースを阻止できるという提案である。この権力のバランスを取るため、草案では企業が連邦裁判所でそのような決定に上訴することを認めており、開発者に対して行政機関だけの判断ではなく、規制行動に対する司法上のチェック機能を提供するものとなっている。
州法優先適用の問題
交渉は、連邦AI法が拡大しつつある州ごとのAI規制のパッチワークを上回るべきかどうかをめぐる長年のワシントンDCでの闘いの背景の中で進行している。2026年初頭、別の法案に州のAI法に関する10年間のモラトリアム（一時停止）条項を追加しようとした試みは、圧倒的な上院投票によって削除され、複数の州の共和党知事が広範な優先適用策に公然と反対している。市民の自由団体や消費者擁護団体は別個に、連邦の安全法案を用いて州のAI法を優先適用することで、州議会がすでに設置済みの保護を取り除くことになり、彼らが言うところの州レベルの安全対策の「床」がより低い連邦レベルの「天井」になってしまうと警告している。
業界の立場
業界からの反応は分かれている。一部のAI開発者は、自主的な安全コミットメントから必須の政府支援ルールへ移行することに公的に支持を示しており、少なくとも1つの大手AIラボの政策リーダーは、企業ごとの誓約への依存を続けるのではなく、能力に基づく国家的な安全規制を呼びかけている。その他の業界団体は、具体的な立法草案を支持する上でより慎重であり、コンプライアンスコストや製品リリースを停止するための政府の権限範囲について業界全体に見られる広範な懸念を反映している。
タイムラインと政治的圧力
協議に近い関係者たちは、現在のスーン-クルーズ-クロブーチャー枠組みが、現行議会終了前に連邦AI安全法を実現するための現実的な道筋の一つであると説明している。立法スケジュールが緊急性を高めている：下院は2026年11月3日の中間選挙まで約1週間しか会期がないと予想されており、上院にも残りの予定会期は約3週間しかない。交渉担当者は、もしその期間内に合意に至らなければ、2027年1月に召集される新議会が異なる政治的バランスをもたらし、包括的なAI立法の成立の可能性を複雑にするだろうと認識している。
今後の展開
法案は活発な交渉段階にあり、正確なテストプロトコル、優先適用の範囲、モデルのリリースを阻止するために政府が満たすべき基準など、重要な技術的詳細はまだ交渉担当者間で調整されている。最終的な文章は、ホワイトハウスへ送付される前に両議院を通過し、調整される必要があるが、圧縮された立法スケジュールを考慮すると、このプロセスは秋まで議論を延長する可能性が高い。