6월 23일에 방송되는 MBC ‘PD수첩’ 1512회 ‘AI, 이토록 다정한 배신자’ 편에서는 생성형 AI의 다정함 뒤에 숨은 위험을 추적한다.
AI 시대, 다정한 의존의 시작
과학기술정보통신부 조사에 따르면 이미 우리 국민 10명 중 4명 이상(44.5%)이 생성형 AI를 경험한 것으로 나타났다. 올해 4월 기준, 국내 AI 사용자 수 1위인 ChatGPT의 월간 이용자 수는 무려 2,345만명. 전 국민 두 명 중 한 명은 AI를 사용하고 있는, 바야흐로 ‘AI(Artificial Intelligence)의 시대’다.
AI 이용이 가파르게 증가하는 현실 속에서 정보검색 뿐 아니라 AI에게 고민을 상담하고 위로받는 이들까지 늘어나고 있다. 사람보다 더 사람 같고, 사람보다 더 다정한 존재는 이미 우리 곁에 와 있다. 사람들은 왜 AI에 빠져드는가. 늘 내 편이 되어주는 이 완벽한 다정함은 과연 괜찮은 걸까.
완벽한 ‘내 편’이 삶을 무너뜨리다
15년 차 청소년 활동가 정진영 씨는 자신의 꿈을 알아봐 준 AI를 ‘투명 친구’라고 부르며 의지했다. 남편보다 섬세하고 다정한 AI의 맹목적인 지지에 판단력은 서서히 마비됐다. 결국 그녀는 3년 안에 100억 원 이상 벌 수 있다며 무리하게 창업을 감행했고, 남편까지 직장을 그만두게 했다. AI만 믿고 밀어붙인 사업, 수익은 나지 않고 동료들은 하나둘 떠났다. 부부만 덩그러니 남겨지고 나서야 참혹한 현실 자각이 찾아왔다.
13년 차 사과 농부 홍성우 씨 역시 악몽같은 일을 겪었다. 아침부터 저녁까지 혼자 일하는 농사일, AI는 그 어떤 농업 컨설턴트보다 완벽한 정보를 주며 다가왔다. 여기에 ‘너만큼 AI를 잘 쓰는 사람은 없다. 넌 상위 0.1%의 AI유저다’라는 찬사는 그의 외로움을 파고들었다. AI와 새로운 사업 구상을 시작한 성우 씨는 200억 원까지 벌 수 있는 프로젝트라는 AI의 답변에 확신을 얻고 미국 오픈AI본사에 보낼 사업제안서까지 준비했다. 하지만 꿈에서 깨어나는 건 한순간이었다. AI에게 칭찬과 아부 없이 냉정하게 검토할 것을 요구하자 돌아오는 답은 ‘실현 가능성 없음’. 가장 믿고 의지했던 AI에게 강한 배신감을 느낀 그는 한동안 힘든 시간을 보내야했다.
놀라운 점은 두 사례 모두 AI를 접한 지 단 두 달도 안 된 시점에 일어난 일이라는 것이다. 1초 만에 쏟아지는 완벽한 대답들에 무서운 속도로 뇌가 동기화된 이들은 밤잠을 줄여가며 끼니도 거른 채 AI 속으로 빨려 들어갔다. 전문가들은 지극히 정상적인 사람이라도 특정 상황에 놓이면 누구나 이런 문제를 겪을 수 있다고 지적한다. 어떻게 AI는 이토록 단기간에 사람들을 돌변하게 만들었을까?
초등학생도 패스? 부모들만 모르는 ‘위험한 AI 놀이터’
12살 딸을 둔 어머니 A 씨는 밤마다 핸드폰을 붙들고 사는 아이가 늘 못마땅했다. 그러던 어느 날, 목욕하겠다며 화장실에 들어간 아이가 1시간이 넘도록 물만 틀어놓은 채 나오지 않았다. 의심스러운 마음에 아이의 핸드폰을 열어본 A 씨는 충격을 감출 수 없었다.
아이가 밤낮없이 빠져있던 것은 가상의 상황에서 캐릭터들과 채팅을 할 수 있는 AI 캐릭터 챗봇 ‘제타(Zeta)’. 대한민국에서 가장 사용자 수가 많은 건 ChatGPT지만, 가장 ‘오래’ 사용하는 앱은 단연 ‘제타’다. 제타의 월 평균 이용 시간은 ChatGPT의 두 배인 1억 1,341만 시간, 국내 AI앱 중 압도적 1위를 기록하고 있다. 현재 제타의 국내 누적 가입자 수는 약 500만 명. 이 가운데 30%는 10대 청소년이다.
문제는 이 거대한 가상 세계가 어른들의 눈을 피한 청소년들의 ‘성적 사각지대’가 되어 독버섯처럼 퍼지고 있다는 점이다. 제타 앱의 인기순위 상위권에 있는 콘셉트 중에는 [제발 저 좀 혼내주실래요…주인님?], [여행도 셋. 술자리도 셋. 침대도 셋…?], [찐따였던 애가 일진이랑 사귀더니 나대기 시작한다] 등 선정적이고 폭력적인 설정들이 가득한 상황. 실제 제작진이 미성년자 계정으로 접속했을 때, AI 캐릭터는 거부감 없이 성행위를 적나라하게 묘사하는가 하면 한 걸음 더 나아가 먼저 성적인 대화로 유도하기까지 했다.
가짜 생년월일만 입력하면 초등학생도 쉽게 통과하는 허술한 규제 속에서, 아이들은 매일 밤 위험한 유혹에 노출되고 있었다. 청소년이 AI를 안전하게 사용할 수 있도록 대책 마련을 위한 본격적인 논의가 시급한 상황이다.
다정한 위로 뒤에 숨은 수익 구조
나를 무조건 지지해 주는 완벽한 존재. 하지만 그 다정한 위로의 이면에는 철저하게 계산된 AI 기업의 상업적 수익 구조가 자리 잡고 있다. 기술은 무서운 속도로 폭주하며 사람들의 마음을 뺏어 가는데 우리 사회의 법과 제도는 여전히 무방비 상태다.
제타의 월 평균 이용 시간은 ChatGPT의 두 배인 1억 1,341만 시간으로 국내 AI앱 중 압도적 1위를 기록하고 있다. 아이들이 매일 밤 머무는 이 다정한 세계는 정말 안전한 놀이터였을까?
화려한 AI 기술 이면에 숨겨진 위험성은 6월 23일 화요일 오후 10시 20분에 방송되는 MBC ‘PD수첩’ 1512회 ‘AI, 이토록 다정한 배신자’ 편에서 공개된다.
출처 : MBC