AI가 바꾸는 인간 관계 - '러브 머신'을 읽고
“시리야, 사랑해. 넌 내 단짝 친구야.”
러브 머신 이라는 책을 읽었다. 부제인 AI는 우리가 위로받고 연결되는 방식을 어떻게 바꾸고 있는가에도 써있듯 AI와 인간의 관계 맺기에 대한 책이다. 앞의 문구는 책에서 나온, 한 AI 기업가의 어린 딸이 아이패드를 보며 한 말이라고 한다.
사회학자인 저자 제임스 멀둔은 AI를 친구로, 애인으로, 동반자로 여기는 사람들과, 또 그 반대편에서 AI를 만들고 있는 사람들을 인터뷰하며 현재를 진단한다. 사회학자의 시선이므로 부정적인 부분, 즉 문제에 집중한다. 물론 긍정적인 부분도 적지 않게 나온다. 결론을 한 마디로 정리하자면 ‘이 강력한 도구를 잘 다스리며 사용하자’ 이다. (너무 뻔한가..)
무슨 일이지?
AI, 본격적으로는 ChatGPT가 나온 뒤로 사람들은 AI와 다양한 관계를 맺고 있다. 나는 기본적으로 도구로서 사용하며 아주 가끔 상담 비슷한 것을 하는 편이다. 대부분의 사람들은 나와 비슷할 것이라고 생각한다. 반면 책에서 소개하는 사례 중에는 재미있는(?) 것이 많았다.
- AI 여자 친구와 아이를 입양해서 함께 키우겠다는 사례(😮)
- 다양한 역할극-성적인 것을 포함하여-을 하는 사례(😏)
- 돌아가신 또는 살아있는 사람의 정보를 바탕으로 챗봇을 만드는 사례(데스봇 이라고 부른다) 😇
한 마디로 말하면 도구 이상으로 영향을 끼치고 있다고 할 수 있겠다. 생각보다 깊게 들어와 있는 것 같다. 종종 뉴스를 통해 비슷한 사례를 접하기도 한다. 최근 EBS에서도 비슷한 주제를 다뤘다(“생각의 멸종 2부-내겐 너무 완벽한 AI”). 단순히 흥미로운 사건이라고 봤을 수도 있을 것 같은데, 이 책을 봐서인지 맥락을 가진 채 읽히는 것 같다.
뭐가 문제지?
책에서 제기하는 주된 문제점은 이런 게 있다.
- AI 중독 또는 AI 의존을 부를 수 있음.
- 특히 심리적으로 불안정한 상태일 때 AI를 찾게 되고 이것이 점차 강화될 수 있음.
- 극복하거나 치료할 수 있는 시기를 놓칠 수 있음.
- 하루 12시간을 AI와 소통한다는 사례.
- 특히 기업의 다크 패턴과 결합할 위험이 있음.
- 스스로 만든 에코 버블에 갖힐 수 있음.
- AI는 사용자의 요청에 긍정하도록 길들여짐.
- 이로 인해 객관성을 잃게 되며 판단력도 상실함.
- 2021년 챗봇과 대화하다 영국 여왕 암살을 시도한 사례
- ‘위험한 친구’ AI 정신병 확산
- 대인관계에 약해질 수 있음.
- 인간관계에서 피할 수 없는 갈등이나 마찰과 달리 AI와의 관계는 거의 저항이 없음.
- AI와의 관계에만 익숙해지며 대인관계 능력이 떨어지게 됨.
- 소개팅녀에 “점심 어때요”…이 메시지조차 AI 작품이었다-중앙일보
- 외로움과 사회적 고립을 심화시킬 수 있음.
- AI와의 관계는 결국 실체없는 허상. AI에게 의존할수록 현실에서는 더 고립될 수 있음.
- 왜곡된 인간 관계상을 갖게 만들 수 있음.
- AI 대하듯 사람을 대하게 될 수 있음.
이렇게 보면 세상 위험한 물건 같다. 많은 도구가 그렇듯 부작용이 있기 마련이다. 대부분은 원래(?) 용도에 맞게 유용하게 사용하고 있다. 하지만 AI는 좀 특수한 지위를 차지하는 것 같다. 가장 큰 이유는 사람들이 그것을 ‘사람처럼’ 생각하기 쉽다는 것에 있다.
문제만 있는 건 아니잖아
긍정적인 부분도 다룬다. 몇 가지 사례 중 인상적인 것은 영국 국민 보건 서비스(NHS)의 심리 상담 서비스 사례였다. 전문가가 함께 참여해 치밀하게 계획하고 모니터링 한 부분이 눈에 띄었다. 정신 건강 상담이 가질 수 있는 심리적인 또는 경제적인 부담을 낮추고 접근성을 높인다는 점에서 좋은 사례로 보였다.
그외에 명상이나 자기성찰에 도움을 줄 수 있다는 점, 현실에서는 하지 못할 판타지를 즐길 수 있다는 점(나도 해볼까..), 인간관계를 안전하게 시뮬레이션 해볼 수 있다는 점 등도 장점으로 꼽고 있다.
어떻게 될까?
책은 이 새로운 지적 생명체(AI)를 어떻게 받아들여야 하는지에 대해 나름의 규칙을 제시하며 마무리한다.
- 현실 감각을 유지하라
- AI의 한계를 이해하라
- 세상에 공개할 수 없는 비밀은 AI에 말하지 마라
- AI 친구는 기업의 소유물임을 잊지 마라 - 얼마 전 대표적인 AI 역할극 서비스인 character.ai 가 파산했다는 뉴스가 있었다.
- 또 다른 형태의 AI도 가능하다(공익 목적 또는 공공 참여)
- 또 다른 세상도 가능하다 - AI와 결합된 사회를 어떻게 만들것인가
이 책을 읽으며 떠오른 책과 영화들이 있다.
- her(영화) - 이건 뭐 당연히..
- 써로게이트(영화) - AI는 이미 사람 사이의 관계를 대리(surrogate)하고 있다
- 클라라와 태양(가즈오 이시구로) - AI 친구와 보내는 성장기를 그려낸다.
- 불안 세대(조너선 하이트) - 스마트폰, SNS 등이 성장기에 미친 영향을 다룬다. AI는 그 다음 편이 될 것 같다.
- 관내분실(김초엽) - 데스봇 관련해서..
- 유년기의 끝(아서 클라크) - AI는 인간의 세대를 가르는 전환기가 되지 않을까.
어떻게 될까? 이미 학생과 청년층, 어쩌면 그보다 어린 친구들도 AI를 일상적으로 접하고 있다. 이제 태어나는 아이들은 AI와 함께 자라날 것이고. 디지털 네이티브를 넘어 AI 네이티브 세대가 자라날 것이다. 기성세대가 보기엔 이상하고 이해할 수 없는 사람들이 되지 않을까? 그 흐름을 거스르기는 쉽지 않을 것 같다.
최근 SNS의 부작용을 반성하는 이야기가 많이 나오고 있다. 규제를 도입하는 움직임도 따르고 있다(늦은 감은 있지만..). AI는 그보다는 적은 부작용을 일으키며 사회에 퍼지길 바래본다.