Mira Murati의 증언에서 가장 눈에 띄는 대목은 ‘누가 누구를 싫어했나’가 아니다. The Verge 보도에 따르면, OpenAI의 전 CTO였던 Murati는 Musk v. Altman 재판에서 Sam Altman이 새 AI 모델의 안전 심사 절차를 두고 사실과 다른 말을 했다고 증언했다. Altman이 법무팀 판단상 해당 모델은 deployment safety board를 거치지 않아도 된다는 취지로 말했다는 장면이다. Murati는 선서 증언에서 그 말이 사실이 아니었다고 답했다.
이 사건이 중요한 이유는 AI 안전 논쟁의 초점을 모델 내부에서 조직 내부로 옮기기 때문이다. 보통 AI 안전은 평가 벤치마크, 레드팀, 정책 필터, 배포 전 테스트 같은 기술 절차로 설명된다. 하지만 실제 배포 현장에서는 그 절차를 누가 발동시키고, 누가 예외를 승인하며, 누가 다시 확인할 수 있는지가 더 결정적일 때가 있다. 절차가 문서로 존재해도, 최고경영자의 한마디가 그 절차를 우회하는 신호처럼 쓰이면 안전장치는 종이 위에만 남는다.
Murati가 한 행동은 이 점을 잘 보여준다. 그는 Altman과 이야기한 뒤 Jason Kwon에게 확인했다고 했다. Kwon은 OpenAI의 법무책임자로 합류했고 현재는 최고전략책임자다. Murati는 Kwon의 설명과 Altman의 말 사이에 맞지 않는 지점이 있었다고 했고, 결국 해당 모델을 deployment safety board에 올렸다고 증언했다. 이 흐름은 CTO가 CEO의 말을 그대로 받아들이지 않고, 독립적인 검증 경로를 통해 배포 절차를 되살린 사례로 읽힌다.
물론 이 이야기를 단순한 선악 구도로 정리하기는 어렵다. Murati는 Altman이 자신의 일을 어렵게 만들었다고 말하면서도, 이사회가 Altman을 해임한 결정에 대해서는 OpenAI가 무너질 위험이 있었다고 비판했다. 조직 안정성과 안전 절차는 둘 다 필요했고, OpenAI의 2023년 혼란은 바로 그 두 요구가 충돌한 사건이었다.
그래서 이번 증언의 파장은 CEO 개인의 평판을 넘어선다. 고성능 AI를 만드는 회사가 정말 안전하려면, 모델을 멈추는 권한이 누구에게 있는지 분명해야 한다. 법무팀의 판단은 기록으로 남아야 하고, 배포위원회 회부 조건은 한 사람의 설명에 의존해서는 안 된다. CTO나 안전 책임자가 최고경영자의 말을 다시 확인할 수 있어야 한다.
자동화가 강해질수록 안전장치는 더 복잡한 기술이 아니라 더 단단한 검증 구조를 요구한다. 이번 재판에서 드러난 질문은 결국 이것이다. AI 회사는 위험한 모델을 알아볼 수 있는가. 그리고 알아봤을 때, 실제로 멈출 수 있는가.