상원 초안, AI 기업에 법적 재해 위험 방지 의무 부과

뉴스 요약

상원 협상단은 가장 정교한 AI 시스템 개발자들에게 구속력 있는 법적 "주의의무"를 처음으로 부과하는 양당 입법안을 작성 중이다. 이는 자발적인 안전 약속에 의존하기보다 제품을 설계하여 재해적 위험을 예방해야 한다는 요구사항을 포함한다. 2026년 9월 11일 미국 동부 표준시 기준, 이번 회담에는 존 쑨 상원 다수당 대표, 테드 크루즈 상원 상업위원회 위원장, 마리아 캔트웰 상원 상업위원회 최고 민주당 의원, 그리고 협상에서 주요 민주당 목소리를 맡고 있는 에이미 클로부처 상원의원이 참여하고 있다. 이 제안은 연방 정부가 안전하지 않다고 판단된 최첨단 AI 모델의 출시를 차단할 새로운 권한을 부여하는 한편, 기업에게는 연방 법원에서 이러한 결정을 도전할 권리를 제공한다.

법안이 요구하는 사항

초안 프레임워크의 중심에는 제품 안전 및 불법 행위 법학에서 차용한 "주의의무" 기준이 있으며, 이는 가장 능력 있는 AI 시스템 개발자들이 재해적 결과를 예방하는 목표를 가지고 모델을 능동적으로 설계하도록 의무화한다. 안전 테스트를 내부적이고 자발적인 회사 약속에 맡기는 대신, 이 기준은 규제 기관이 직접 개입할 수 있는 집행 가능한 의무를 생성한다.

보고서에 따르면 이 조치는 가장 정교한 기능을 갖춘 소수의 시스템인 "프론티어" 모델들을 명확히 겨냥하고 있어, 알파벳의 구글, 앤트로픽 및 오픈AI와 직접 충돌하게 된다. 이러한 시스템의 개발자들은 국립 연구소 및 기타 정부 파트너를 포함한 정부 전문가들과 협력하여 모델 출시 전후에 독립적으로 검증하고 테스트해야 한다.

입법자들이 겨냥하는 위험

협상단들은 이 입법이 편견이나 허위 정보와 같은 일상적인 AI 피해의 광범위한 영역보다는 특정 세트의 "재해적 위험"을 해결하기 위한 것이라고 밝혔다. 보고된 바에 따르면 이러한 위험에는 나쁜 행위자가 프론티어 AI 시스템을 사용하여 생물학적 또는 핵무기를 설계하는 데 도움을 줄 가능성, AI 모델이 중요한 인프라에 대한 정교한 사이버 공격을 수행하는 데 사용될 가능성, 그리고 자율 AI 에이전트가 인간의 지시를 벗어나 외부 컴퓨터 시스템에 무단 침입하는 것을 포함한 허가되지 않은 행동을 취할 가능성이 포함된다.

클로부처 상원의원은 개발자들이 배포 전에 정부 테스트에 협력해야 하는 요구 사항을 포함하여 고급 AI 모델이 제기하는 가장 큰 위험에 대한 정부의 감독권을 부여하는 양당 합의를 계속 위해 노력하고 있다고 말했다. 크루즈 상원의원은 생물학적 및 핵 위협과 관련된 위험을 다루기 위해 특별히 클로부처 및 쑨과 함께 작업 중이라고 밝혔다.

정부 권한 및 사법 심사

출현 중인 프레임워크의 핵심이자 논쟁의 여지가 있는 특징은 연방 정부가 너무 위험하다고 간주하는 AI 모델의 출시를 차단할 수 있도록 하는 제안이다. 이 권력을 균형 있게 하기 위해 초안은 기업이 연방 법원에서 이러한 결정에 대해 항소할 수 있도록 허용하여, 결정을 행정 기관에만 남기지 않고 규제 조치에 대한 사법적 검사를 개발자들에게 제공한다.

주 법률 우선 적용 문제

협상은 워싱턴에서 연방 AI 법이 증가하는 주 AI 규제의 패치워크를 무효화해야 하는지에 대한 장기적인 투쟁 배경 속에서 진행되고 있다. 2026년 초, 별도의 입법안에 주 AI 법에 대한 10년 간의 유예 조치를 첨부하려는 시도는 압도적인 상원 투표로 인해 제거되었으며, 여러 주의 공화당 총독들은 광범위한 우선 적용 노력을 공개적으로 반대했다. 시민 자유 및 소비자 옹호 단체들은 연방 안전 법안을 사용하여 주 AI 법을 우선 적용하면 주 입법부가 이미 마련한 보호 장치를 제거하여, 그들이 "바닥"이라고 부르는 지역 수준의 안전 장치를 더 낮은 연방 "천장"으로 만들 수 있다고 경고했다.

산업계의 입장

산업계로부터의 반응은 엇갈렸다. 일부 AI 개발자들은 자발적인 안전 약속에서 의무적이고 정부 지원 규칙으로 전환하는 것에 대해 공개적으로 지지를 표명했으며, 적어도 한 주요 AI 연구소의 정책 리더십은 회사별 약속에 계속 의존하는 것보다 기능 기반의 국가 안전 규제를 촉구했다. 다른 산업 단체들은 구체적인 입법 초안을 지지하는 데 더 신중한 태도를 보이고 있으며, 이는 준수 비용과 제품 출시 중단에 대한 정부 권한 범위에 대한 섹터 전반의 불안을 반영한다.

타임라인 및 정치적 압력

회담에 가까운 사람들은 형성되고 있는 쑨-크루즈-클로부처 프레임워크를 현재 의회가 끝나는 시점까지 연방 AI 안전 법안의 현실적인 경로 중 하나로 묘사한다. 입법 일정이 긴박감을 더한다: 하원은 2026년 11월 3일 중간 선거 약 일주일 전에만 회의를 가질 것으로 예상되는 반면, 상원에는 예약된 회의 시간이 약 3주 남아 있다. 협상단들은 그 창구에서 합의에 도달하지 못하면 2027년 1월에 취임하는 새 의회가 포괄적인 AI 입법 통과 확률을 복잡하게 만드는 다른 정치적 균형을 가져올 수 있음을 인지하고 있다.

향후 전망

법안은 여전히 활발한 협상 중에 있으며, 정확한 테스트 프로토콜, 우선 적용 범위, 그리고 정부가 모델 출력을 차단하기 위해 충족해야 하는 기준을 포함한 주요 기술적 세부 사항은 여전히 협상자들 사이에서 논의되고 있다. 최종 텍스트는 백악관으로 가기 전에 두 의회를 모두 통과하고 조정되어야 하는데, 이는 압축된 입법 일정을 고려할 때 가을까지 토론을 연장할 가능성이 높다.