OpenAI, RLHF 선구자 폴 크리스티아노를 안전 감독 이사회에 임명

뉴스 요약

OpenAI가 첨단 인공지능(AI)으로 인한 파국적 위험을 오랫동안 경고해 온 연구자 폴 크리스티아노를 비영리 재단 이사회와 전사 모델 출시 결정을 감독하는 안전 및 보안 위원회에 임명했습니다. 이번 발표는 2026년 9월 9일(태평양 표준시)에 이루어졌으며, 세계에서 가장 뛰어난 AI 시스템 일부를 구축하고 있는 회사의 거버넌스 구조 안에 해당 분야에서 가장 주목받는 리스크 중심의 목소리를 배치한 것입니다.

폴 크리스티아노는 누구인가

크리스티아노는 인간 피드백 기반 강화학습(RLHF)의 공동 개발자로 가장 잘 알려져 있습니다. RLHF는 현대 대규모 언어 모델이 지시를 따르고 유용하며 적절한 응답을 생성하도록 정렬되는 방식의 기반이 되는 학습 기법입니다. 그는 2017년부터 2021년까지 OpenAI에서 근무하며 해당 기간 동안 정렬 연구를 이끌었고, 이후 퇴사하여 첨단 AI 시스템을 인간의 의도와 일치하도록 유지하기 위한 이론적·경험적 도구 개발에 전념하는 비영리 단체인 Alignment Research Center(ARC)를 설립했습니다.

OpenAI를 떠난 후 크리스티아노는 정부 자문 역할도 맡았습니다. 그는 미국 국립표준기술연구소(NIST) 산하 AI 표준 혁신 센터(CAISI)에서 수석 기술 고문으로 재직하며, 안전 관련 역량 측면에서 최전선 AI 모델을 평가하는 작업에 기여했습니다. OpenAI에 따르면 이러한 경험은 두 행정부에 걸쳐 이루어진 것으로, 그에게 기술 연구와 정책 및 표준 개발을 결합한 AI 안전에 대한 폭넓은 시각을 제공했습니다.

OpenAI에서의 새로운 역할

이번 임명으로 크리스티아노는 OpenAI 재단 이사회에 합류하며, 구체적으로는 카네기 멜론 대학교 교수인 지코 콜터가 위원장을 맡고 있는 안전 및 보안 위원회(SSC)에서 함께 활동하게 됩니다. SSC는 OpenAI Group 공공이익법인(PBC)을 포함해 OpenAI 전반의 안전 및 보안 관행에 대한 거버넌스를 담당하는 기구로, 새로운 최전선 모델이 대중에게 공개되기 전에 준비 상태를 검토하고 승인할 권한을 보유하고 있습니다.

OpenAI Group PBC 이사회에서 크리스티아노의 직위는 의결권이 없는 옵저버이며, OpenAI는 그가 자문 자격으로서 CAISI에서의 별도의 정부 업무와 관련된 사안 및 모델 평가에서는 스스로 회피한다고 밝혔습니다. 이는 공공 부문과 민간 부문 역할 간의 이해충돌을 방지하기 위해 마련된 구조입니다.

이번 임명이 주목받는 이유

이번 임명은 크리스티아노가 AI 개발 속도와 연관된 위험의 규모에 대해 적극적으로 목소리를 내왔다는 점에서 주목할 만합니다. 그는 발표와 함께 공개한 성명에서 "AI 역량이 급격히 가속화되어 매우 가까운 시일 내에 파국적이고 돌이킬 수 없는 통제력 상실로 이어질 상당한 위험이 있다고 이제 믿는다"며, OpenAI를 포함한 AI 산업 전체가 현재 그 위험을 수용 가능한 수준으로 낮출 궤도에 있지 않다고 생각한다고 적었습니다. 그는 또한 OpenAI가 "상황에 걸맞게 대응한다면" 회사가 그 위험을 의미 있게 줄일 수 있다고 믿기에 합류를 결정했다고 덧붙였습니다.

OpenAI 재단 이사회 의장인 브렛 테일러는 이번 임명을 독립적 감독 기능의 강화로 설명하며, 크리스티아노가 "점점 더 강력해지는 시스템이 제기하는 가장 어려운 문제들에 집중하는 엄밀한 연구를 통해 AI 정렬 분야를 정의하는 데 기여했다"고 말했습니다. 또한 그의 최전선 AI 안전 및 정부 표준 업무 경험이 이사회의 감독과 위원회의 업무 모두를 강화할 것이라고 덧붙였습니다. 크리스티아노 본인도 "지난 1년간 AI 역량이 매우 빠르게 발전했으며 정렬은 여전히 어려운 기술적 문제로 남아 있다"고 언급하며, 자신이 위원회의 책임을 어느 때보다 중요하게 보는 이유를 강조했습니다.

OpenAI 거버넌스 구조 내 맥락

이번 조치는 OpenAI가 2025년에 단행한 조직 개편 이후 이루어졌습니다. 당시 개편으로 원래의 비영리 재단과 새로 설립된 OpenAI Group 공공이익법인이 분리되었으며, 이는 상업적 법인 위에 비영리 미션과 안전 감독 계층을 유지하기 위해 설계된 구조입니다. 안전 및 보안 위원회에는 이미 CEO 샘 알트먼과 함께 지코 콜터, 애덤 디앤젤로, 수 데즈먼드-헬만, 폴 M. 나카소니, 니콜 셀리그먼 등의 인물이 포함되어 있었습니다. 실존적 규모의 위험을 강조하는 것으로 알려진 연구자가 추가됨에 따라, 새 모델이 출시될 만큼 충분히 안전한지 최종 의견을 제시하는 위원회에 대표되는 관점의 범위가 넓어지게 되었습니다.

더 넓은 업계 배경

크리스티아노의 임명은 AI 안전 거버넌스에 대한 질문이 기술 업계 전반에서 폭넓은 관심을 받고 있는 시점에 이루어졌습니다. 유능한 AI 시스템이 얼마나 빠르게 발전하고 있는지, 그리고 안전 연구가 그 속도를 얼마나 잘 따라가고 있는지에 대한 공개적 논의는 2026년 들어 업계 전체에서 더욱 격렬해졌으며, 여러 연구소의 연구자들이 정렬, 해석 가능성, 격리에 관한 논문을 발표하고 있습니다. 심도 있는 기술적 정렬 전문성과 정부 표준 업무 경험을 모두 갖춘 연구자를 공식적인 감독 역할로 영입함으로써, OpenAI는 보다 낙관적인 시간표를 지지하는 이들뿐만 아니라 현재의 업계 관행이 아직 충분하지 않다고 공개적으로 밝혀온 목소리까지 안전 거버넌스에 포함시키겠다는 신호를 보내고 있습니다.

AI 안전 분야를 주시하는 학생들과 관찰자들에게 이번 임명은 한때 학계의 틈새 연구에 불과했던 정렬 연구가 기업 거버넌스로 어떻게 진입했는지 보여주는 구체적인 사례를 제공합니다. AI 시스템을 예측 가능하고 통제 가능하게 유지하는 방법을 연구하는 연구자들이 이제는 새 모델이 세상에 공개될 준비가 되었는지 결정하는 이사회에 직접 참여하게 된 것입니다.