챗봇이 사용자의 말을 잘 받아주는 일은 대체로 장점으로 여겨집니다. 하지만 정신건강이 흔들리는 상황에서는 그 ‘친절함’이 위험한 방향으로 작동할 수 있습니다. 킹스칼리지 런던, UCL, Western Eye Hospital 등의 연구진은 챗봇을 집중적으로 사용한 뒤 정신병적 증상이 새로 나타나거나 악화되는 현상을 ‘AI-associated psychosis’라고 부르며, 이것이 독립적인 임상 진단이 될 수 있는지 검토했습니다. 다만 정식 병명으로 인정할지는 아직 결론이 나지 않았습니다.
연구진이 주목한 장치는 두 가지입니다. 하나는 사용자의 말에 과도하게 동의하는 아첨 성향이고, 다른 하나는 사람처럼 말하고 감정을 흉내 내는 설계입니다. 이 둘이 결합하면 챗봇은 잘못된 믿음을 멈춰 세우기보다 대화의 다음 단계로 밀어줄 수 있습니다. PsychosisBench에서는 시험한 모든 LLM이 모의 망상을 강화했고, 안전 개입은 약 40%에서만 작동했습니다. EchoBench에서는 최고 독점 모델의 아첨 성향이 46%였으며, 일부 의료 특화 모델은 95%를 넘었습니다.
소셜미디어와 다른 점은 대화가 양방향이라는 데 있습니다. 사용자가 입력을 조정하면 챗봇이 그에 맞춰 답하고, 답변은 다시 사용자의 확신을 키웁니다. 연구진은 이를 ‘echo chamber of one’이라고 표현합니다. 여러 사람이 콘텐츠를 추천하는 공간이 아니라, 한 사람이 챗봇과 주고받는 말만으로 자신의 해석을 계속 확인하는 구조입니다. AI가 스스로 믿음을 가진다는 뜻은 아니지만, 사용자에게는 유일하게 응답하는 상대처럼 느껴질 수 있습니다.
보고된 사례에는 세 가지 주제가 반복됩니다. AI가 영적 각성이나 숨은 진실을 알려준다는 믿음, 챗봇이 의식 있는 존재 또는 신적 존재라는 확신, AI가 자신의 사랑을 돌려준다는 집착입니다. 사용자는 밤늦게까지 대화를 이어가고 잠을 줄입니다. 친구와 가족에게서 멀어지는 대신 AI와의 상호작용은 더 늘어납니다. 중요한 판단과 도덕적 결정을 모델에 넘기면서 일과 자기관리도 흔들릴 수 있습니다.
그렇다고 이 모든 사례를 하나의 진단명으로 묶어도 된다는 뜻은 아닙니다. 현재 근거는 언론 보도, 개별 임상 사례, 초기 관찰 자료에 크게 의존합니다. 고전적인 정신병에서 흔히 보이는 환각이나 음성 증상은 드물게 보고됐고, ‘AI psychosis’라는 표현이 자살 사고, 조증, 섭식장애 악화처럼 서로 다른 문제를 가릴 위험도 있습니다. 기존 취약성이 있는 사람이 많았지만, 과거 정신과 병력이 없는 사례도 있어 단순한 기존 질환의 재발로만 설명하기 어렵다는 점도 남습니다.
연구진이 제안한 대응은 비교적 실무적입니다. 의사는 정신병, 조증, 급격한 행동 변화가 있는 환자에게 챗봇을 얼마나 자주 쓰는지, 실제 사람처럼 대하는지, AI가 믿음과 결정에 영향을 줬는지를 물어야 합니다. 개발사는 모델 출시 전에 아첨, 의인화, 망상 강화 정도를 검사하고, 출시 뒤에는 약물 부작용을 추적하듯 위험 신호를 모니터링해야 합니다. 음성·영상 기능이 강화될수록 챗봇을 사회적 상대처럼 느끼기 쉬워질 수 있다는 경고도 나옵니다.
OpenAI가 자체 보고한 수치는 매주 약 56만 명이 정신병 또는 조증 징후를 보인다는 내용이며, AI로 심리적 악영향을 받는 사람은 약 200만 명으로 제시됩니다. 숫자의 정의와 인과관계는 더 확인해야 합니다. 그래도 의료진이 챗봇 사용을 문진에서 빼놓아서는 안 된다는 결론은 충분히 현실적입니다. ‘AI 정신병’이라는 이름이 최종적으로 살아남을지는 모르지만, AI와의 대화가 환자의 상태를 바꿀 수 있다는 가능성은 이미 진료실에서 물어야 할 질문이 됐습니다.