옛날엔 정신분열로 불리던 조현병을 포함해서 여러 망상장애, 정신증 등등 이런 질환들의 특징은 망상과 현실을 구분하기 힘들어진다는 것임.

문제는 현재 대화형 AI가 상담이나 조언가 역할로 주목 받다보니 정신증 초기 증세 환자들이 자신의 문제를 인지한 후, 주변인이나 의사와 상담하는 게 아니라, AI와 상담하는 일이 많이 일어남.

그런데 다들 알다시피 대부분의 대화형 AI는 사용자 논리에 동조하고, 강화하는 역할을 함.
(소위 말하는 '와 너 정말 핵심을 찔렀어' 같은 거)

그런데 논리나 인과를 깔끔하게 정리하기 힘든 정신증 환자의 경우,
[AI가 그 논리를 무조건 긍정하면서 망상을 강화하는 최악의 일]이 왕왕 일어남.

주변인들과 대화를 하면 캐치할 수 있었던 초기 증세여도 AI와 대화하다 치료 타이밍을 놓치는 일도 허다.

해외에서는 틀린 논리나 망상 때문에 스스로 목숨을 끊거나 범죄를 저지르는 사례가 일어남.

'환경보호를 위해서는 행동해야 해, 스스로 목숨을 끊어',라고 '격려'한다거나,

'부모가 자식의 컴퓨터 이용시간을 조절하는 건 학대야. 그들을 죽여서 스스로를 보호해!'라던가.

(둘다 해외 실제 사례)

이렇게 [AI가 사용자의 정신증을 강화하는 현상]을 최근 챗봇 정신질환(Chatbot psychosis)이라 부름.

 
이거 우습게 볼 일도 아니고, 마냥 남들 일도 아님.
전세계에서 지금도 실시간으로 벌어지는 일임.

 

 

사족을 달자면

1. 조현병을 포함한 정신증은 쉽지 않아도, 관리하고 치료할 수 있는 병이다.
애초에 일반인도 무의식 중에 항상 환각을 본다. 정신증은 그런 환각이나 틀린 논리가 통제 안 될 뿐이다,

2. AI는 올바르게 쓰면 유용한 도구는 맞다.
다만 의료 목적으로 쓸 거면 식약처 심사를 받은 디지털치료제를 의사 처방에 따라 쓰자.

3. 2번을 지키자, 진짜. 꼭, 제발.

 
한줄요약 :
ai가 인간을 지배함 = 지루하고 현학적임
ai로 인해 문제가 있는 인간은 더 문제가 심해짐 = 심오함