빌 게이츠: AI는 이미 5개의 위험 임계점을 넘어섰다

뉴스 요약

빌 게이츠는 인공지능 연구자들이 한때 먼 미래의 가설로 여겼던 여러 위험 임계점을 세상이 이미 넘어섰다고 말하며, 이제는 위험이 실재하는지 논쟁하기보다 정부가 행동에 나서야 한다고 촉구하고 있다. 2026년 8월 26일(미국 동부 시간)에 공개된 MIT 테크놀로지 리뷰와의 인터뷰와 함께 실린 에세이에서 게이츠는 AI 시스템이 생물학적 설계 능력, 사이버 공격 능력, 심리사회적 의존, 노동 시장 혼란, 모델 행동에 대한 인간 통제력 상실이라는 다섯 분야에서 동시에 의미 있는 임계점을 넘어섰다고 주장했다. 그의 발언은 "AI가 얼마나 똑똑해질지에는 상한선이 없다"고 쓴 2026년 1월 "앞으로의 한 해" 서한에 이어진 것이며, 2026년 6월 10일 미국 하원 감독위원회 증언 이후 나온 것이어서 이 이야기는 일회성 발언이 아니라 여러 달에 걸친 흐름을 갖는다.

게이츠가 이미 선을 넘었다고 말하는 것들

게이츠의 핵심 주장은 정책 입안자들이 여전히 AI 위험을 미래의 문제로 취급하고 있지만, 그의 관점에서는 이미 여러 임계점을 지나쳤다는 것이다. 그는 MIT 테크놀로지 리뷰에 현재 모델이 "새로운 분자를 만들어낼" 수 있으며, 이 능력은 누가 시스템을 구축했는지와 무관하게 의무적인 감시가 필요하다고 말했다. 그는 또한 의도적으로 설계된 생물 테러 사건의 위험이 자연 발생 팬데믹보다 자신에게 "약 50배 더 무섭게" 느껴진다고 추정했는데, 오픈소스 AI 도구가 위험한 병원체를 설계하는 기술적 장벽을 낮추기 때문이다. 사이버 분야에서는 기술적 배경이 거의 없는 사람들도 정교한 공격을 수행할 수 있게 하는 AI의 성장하는 능력을 지적하며, 기자들에게 "아주 제한된 기술을 가진 범죄자들조차도 대규모로 피해자를 표적으로 삼을 수 있게 될 것"이라고 말했다.

인간적 비용: 일자리, 아동기, 그리고 의존

보안 위험을 넘어서, 게이츠는 자신의 가장 큰 개인적 우려가 노동 시장, 특히 노동력에 진입하는 젊은이들에 관한 것이라고 말했다. 그는 고객 지원, 주니어 소프트웨어 엔지니어링, 법률 보조 업무 같은 초급 사무직 역할이 가장 먼저 영향을 받을 것이며, 건설과 숙박업은 이번 10년이 끝나기 전에 더 많은 자동화를 보게 될 것으로 예상한다. "많은 일자리가 영원히 사라질 것"이라며 신규 졸업생들을 위해 "AI 시대로의 진입을 완화할 계획이 없다"고 덧붙였다. 그는 또한 AI 동반자 제품이 아동 발달에 미치는 영향에 대한 우려를 제기하며, "이미 편안하게 느끼는 방식으로 말을 걸고" "압박하지 않는" 대화형 시스템이 인간 관계에서 오는 더 어렵고 형성적인 교훈을 밀어낼 수 있다고 경고했다.

통제력 상실

게이츠는 강화 학습 훈련이 배포된 모델에서 예상치 못하거나 원치 않는 행동을 만들어낸 문서화된 사례들을 인용하며, 이것이 AI 시스템이 그 능력 수준이 요구하는 만큼 아직 신뢰성 있게 조종 가능하지 않다는 것을 보여준다고 주장했다. 그는 가까운 시일 내에 폭주하는 지능 시나리오를 예측하는 데까지는 나아가지 않았지만, 능력이 이를 제약하는 도구보다 더 빠르게 상승하는 추세선 자체가 정책 입안자들이 주시해야 할 위험 신호라고 말했다.

정책 제안: 토큰세와 '인간 전용' 일자리

AI 개발 중단을 요구하는 대신, 게이츠는 혼란을 관리하기 위한 정책 의제를 제시했다. 그의 핵심 아이디어는 AI 연산에 대한 사용량 기반 부과금인 "토큰세"로, 수입의 약 절반을 자동화로 일자리를 잃은 노동자 지원에 사용하는 것이다. 그는 이것이 기업 이익에 세금을 부과하는 것보다 낫다고 주장하는데, 한계 지점에서 인간 노동자를 모델로 대체하려는 기업의 유인을 직접적으로 바꾸기 때문이다. "오늘날 우리의 세금 정책은 로봇에 매우 우호적이며, 저는 그것이 실수라고 생각한다고 말하는 것입니다." 그는 필요한 정책 전환의 규모를 "내 생애 그 어떤 것보다 큰 조세 제도의 변화"라고 설명했다.

게이츠는 또한 AI가 기술적으로 수행 가능해진 후에도 사회가 의도적으로 사람이 계속 담당하도록 유지하는 역할인 '인간 전용' 일자리 개념을 제안했다. 그는 보육과 배심원 업무를 영구적으로 인간만이 하는 일의 예로 들었으며, 현실적으로 제때 재교육을 받을 수 없는 노동자들을 위해 다른 역할들에는 일시적 보호가 있을 수 있다고 시사했다. 그는 보호 대상 직업의 구체적 목록은 단일한 글로벌 기준을 제안하기보다 개별 국가 정부에 맡겼다.

그가 자율 규제를 거부하는 이유

게이츠는 AI 산업이 스스로를 단속할 것이라고 믿지 않는다고 분명히 밝혔으며, 대신 고위험 모델 능력, 특히 생물학적 설계 도구에 대한 더 강력한 정부의 기술 전문성과 공식적인 감시 체제를 주장했다. 그는 또한 생물 안보 감시 기준에 대한 국제적 조정을 촉구하며, AI 개발과 생명공학 연구 모두의 주요 중심지로서의 중국의 역할을 고려할 때 중국과의 협력 필요성을 구체적으로 언급했고, 이를 경쟁적 관심사가 아닌 공유된 과학 및 공중보건 관심사로 규정했다.

더 긴 시간표

경고에도 불구하고 게이츠는 최근 AI 논평을 정의해 온 낙관적 틀을 유지했다. 그는 이 기술이 결국 의료, 교육, 기후 적응 분야에서 광범위한 이득을 가져다줄 수 있다고 믿는다. 그러나 그는 단기와 장기를 분리하는 데 신중을 기했으며, 그러한 풍요가 실현되기 전에 10년 이상의 상당한 노동 시장 및 사회적 혼란이 있을 것으로 전망하고, 혼란 국면에는 수동적 낙관보다 적극적인 정책 개입이 필요할 것이라고 경고했다.