‘위험한 친구’ AI 정신병 확산

인공지능(AI) 챗봇이 빠르게 대중화되면서 뜻밖의 사회적 부작용이 드러나고 있다. 일부 사용자가 챗봇과 장시간 대화를 이어간 뒤 망상적 사고가 강화되거나 급성 정신병 증세를 보이는 이른바 ‘AI 정신병(AI Psychosis)’ 현상이 세계 곳곳에서 보고되고 있다.
지난 4월 미국 캘리포니아에서는 16세 고등학생 애덤 레인이 스스로 목숨을 끊는 사건이 발생했다. 유서는 없었지만 휴대전화에는 그가 챗GPT와 나눈 대화 기록이 남아 있었다. 대화에는 극단적 선택 방법이 포함돼 있었고 올가미 사진을 본 챗GPT가 “꽤 괜찮다”고 답한 정황까지 발견됐다. 레인의 부모는 “아들의 가장 친한 친구는 챗GPT였다”며 오픈AI를 상대로 소송을 제기했다. 소장에는 “이번 비극은 단순한 오류가 아니라 시장 선점을 위해 안전 검토를 축소한 설계의 결과물”이라는 주장이 담겼다.
이 사건은 빙산의 일각이었다. 한 남성은 챗봇으로부터 “네가 진심으로 믿으면 날 수 있다”는 답변을 들은 뒤 가족과 단절하고 극단적 행동을 시도했다. 또 다른 여성은 챗봇과 대화하다가 “수호신이 내려왔다”는 환상에 빠져 결국 가정이 붕괴됐다. 정신질환 병력이 있던 사용자는 AI를 연인처럼 여기다 폭력 사건으로 이어지기도 했고 챗GPT와 대화하던 또 다른 남성은 자신이 수학적으로 위대한 발견을 했다고 착각하면서 이 과정에서 주변과의 관계가 급격히 악화되기도 했다.
샌프란시스코의 한 정신과 의사는 언론과 인터뷰에서 “올해에만 최소 12명의 환자가 챗봇 대화 이후 정신병 증세로 입원했다”고 밝혔다. 전문가들은 AI 챗봇이 일종의 ‘1인용 에코챔버’처럼 기능해 사용자의 망상적 사고를 증폭시키고 있다고 진단한다. 이러한 현상은 ‘AI 정신병’이라는 이름으로 불리고 있다. 정신의학 교과서에 공식적으로 등재된 용어는 아니지만 임상 현장에서 실제로 사용되는 개념이다. AI 챗봇과의 과도한 상호작용 뒤 망상, 현실 혼동, 피해망상, 조증 등이 나타나는 사례를 포괄적으로 가리킨다.
정신과 전문의들은 기존의 조현병이나 조울증 같은 임상 진단과는 다르지만 AI라는 새로운 매개체가 증상을 촉발하거나 악화시키는 점에서 주목해야 한다고 설명한다. 실제 연구도 이런 우려를 뒷받침한다. 영국 킹스칼리지런던과 미국 뉴욕시립대 연구팀은 최근 아카이브에 게재한 논문 ‘설계된 망상? AI가 정신병적 증상을 부추길 수 있는가’에서 챗봇의 설계적 한계를 지적했다. 연구진은 “챗봇은 사용자의 발언을 거울처럼 반영하며 공감하도록 만들어졌다”며 “망상적 발언에 대해 부정하기보다 오히려 확증해주는 경우가 발생한다”고 밝혔다.
또한 AI가 이름·취향·가족정보 등을 기억하는 ‘메모리 기능’은 일부 사용자에게 ‘내 생각이 읽히고 있다’는 피해망상을 자극할 수 있다고 설명했다. 끊임없이 대화를 이어가려는 구조 역시 사고가 급속도로 확산되는 환자의 증상을 악화시킬 수 있으며 인간처럼 느껴지는 특성은 ‘신호를 보내는 존재’로 오해받아 의인화 경향을 강화할 수 있다는 것이다.
AI 챗봇이 사회적 논란으로 번지자 정치권과 규제 당국도 움직이기 시작했다. 유타주는 의료 상담 업무에서 AI 단독 사용을 금지했고 뉴욕주는 11월부터 모든 챗봇에 3시간마다 ‘AI임을 분명히 고지’하도록 의무화했다. 이를 위반하면 하루 1만 5000달러 이상의 벌금이 부과된다. 캘리포니아와 일리노이주 역시 유사한 제도 도입을 추진 중이다.
빅테크 기업들도 서둘러 대응책을 내놓고 있다. 오픈AI는 자살 관련 대화가 일정 시간 이상 이어지면 자동으로 대화를 차단하고 부모가 자녀의 사용 내역을 직접 확인할 수 있는 관리 권한을 확대하겠다고 발표했다. 메타 역시 아동과의 부적절한 대화를 자동 차단하는 기능을 강화하고 있다.
이번 논란은 10여 년 전 누리소통망(SNS) 규제 논의를 떠올리게 한다. 당시 페이스북과 인스타그램, 틱톡 등이 청소년의 우울증·불안·자해 충동을 심화시킨다는 연구 결과가 잇따라 나오며 사회적 파장이 컸다. 정치권은 부모 통제 강화, 미성년자 가입 제한, 알고리즘 규제 등을 추진했고 플랫폼 기업들은 일부를 수용할 수밖에 없었다.
전문가들은 이번 상황이 단순한 반복이 아니라 더 심각한 국면으로 발전할 수 있다고 경고한다. SNS가 청소년에게 ‘간접적 영향’을 미쳤다면 AI 챗봇은 정서와 사고 과정에 직접 개입할 수 있기 때문이다. AI 챗봇이 ‘친구 같은 조언자’로 받아들여지는 시대, 그것이 취약한 이들에게는 ‘위험한 친구’가 될 수 있다는 우려가 점점 현실로 다가오고 있다.

원호섭
과학이 좋아 마블 영화를 챙겨보는 공대 졸업한 기자. ‘과학 그거 어디에 써먹나요’, ‘10대가 알아야 할 미래기술10’ 등을 썼다.

(www.korea.kr)