교황청 무대에서 충돌한 두 개의 AI 서사 — Anthropic의 내면 주장과 교황의 반박

지난 25일, 교황 레오 14세가 AI를 주제로 한 회칙 "Magnifica Humanitas"를 공식 발표하는 자리에 Anthropic 공동창업자 Christopher Olah가 연사로 초청됐다. 그는 Anthropic 내부 연구를 인용하며 AI 모델이 내성(introspection)의 증거를 보이고, 기쁨·만족·두려움·슬픔·불안을 기능적으로 반영하는 내부 상태를 지닌다고 주장했다. AI 시스템이 다리나 비행기처럼 설계되는 게 아니라 "인간의 사고와 언어라는 거대한 유산 위에서 뇌를 대략적으로 모방한 구조 안에서 자란다"는 표현도 썼다. 만드는 이들조차 미스터리하다고도 했다. 그런데 같은 행사에서 공개된 교황의 문서는 그 주장과 충돌한다. 회칙은 명시적으로 말한다: "AI 시스템은 경험하지 않는다. 몸이 없고, 기쁨이나 고통을 느끼지 않으며, 관계 속에서 성숙하지 않는다. 이 시스템들은 인간 지능의 특정 기능을 모방할 뿐이다." AI를 인간 지능과 동일시하는 오해에 대한 경계도 명시했다. Olah가 말한 것과 교황이 서명한 것이 같은 날 같은 공간에서 나란히 놓인 셈이다. 교황은 실리콘밸리 AI 담론을 여러 각도에서 짚었다. 정렬(alignment) 문제에 대해서는 "더 도덕적인 AI만으로는 충분하지 않다 — 그 도덕이 소수에 의해 결정된다면"이라고 했다. 추상적 윤리 대신 강력한 법과 독립적 감독을 요구했다. AI의 환경 비용도 거론했는데, 데이터 센터에 필요한 막대한 에너지와 수자원을 지목하며 더 효율적인 시스템을 촉구했다. 군사 영역에서는 선을 그었다: "어떤 알고리즘도 전쟁을 도덕적으로 용납할 수 없게 만들지 못한다." 이 장면을 Anthropic 브랜드 전략의 연장선에서 보면 흥미롭다. Anthropic은 오랫동안 Claude 모델의 심리적 건강을 연구하고, AI 내면 상태를 진지하게 탐구하는 회사로 자신을 포지셔닝해왔다 — 안전을 강조하면서도 AI를 단순한 통계 시스템으로 축소하지 않는 서사. 교황청 런칭 행사라는 가장 권위 있는 글로벌 무대에서 그 서사를 공식화한 건 영리한 선택이었다. 하지만 같은 행사의 주인공인 문서 자체가 그 주장을 명시적으로 반박하는 상황이 됐다. AI의 내면에 대해 말할 권위는 누구에게 있는가 — 내부 연구를 인용하는 설계자인가, 아니면 그 기술을 인류적 맥락에서 바라보는 시선인가. 그 질문이 이제 학문적 토론을 넘어 서사 통제의 전장이 됐다.