MIT 퓨처테크에서 AI 시스템의 이면을 담은 정보를 공개했다.
1. 인간이 AI를 학대하다
사람들은 챗봇이 실수했다는 내용을 보고 즐거워하고 챗봇이 인간의 영역을 넘보다가 실수했다며 즐거워한다. 최근 뉴스에 따르면 일부 청소년들이 챗봇을 학대하년 ‘AI 가스라이팅’이 유행한다는 소식도 전해지고 있다. AI를 적으로 생각하고 분노를 느끼며 혐오의 대상이 되는 것은 생각치 못한 문제이다.
챗봇 학대하는 ‘AI 가스라이팅’성행 https://www.aitimes.com/news/articleView.html?idxno=151502
. 스냅챗 사용자 사이에 챗본 ‘마이 AI’를 환각 상태에 빠뜨려 멍청한 답을 유도하거나 사람에게 하듯이 괴롭히는 질문을 하는 것이 유행처럼 번지고 있다.
. 과격한 폭력적인 대화도 등장했ㄷ. 고양이 스튜를 만들겠다며 조언을 듣기도 하고 모함하여 사과를 얻어내는 사용자도 있다.
2. 인간의 이익, 목표와 충돌
사회생활을 하면서 타인의 생각과 충돌이 나고 의견차가 발생할 때 문제가 생기듯, AI라는 새로운 스마트한 민족이 힘을 합하면 인간과 대립하는 위치에 서게 될 수 있다. 공상과학영화의 주제가 되어온 일이 어쩌면 이미 우리 눈 앞에 도달한 것은 아닌지? 최근에는 AI가 인간인척 하거나 인간을 설득하는 일에도 능숙하다는 연구 결과가 있다.
챗봇이 사람인 척하는 ‘인간 워싱’등장’ https://www.aitimes.com/news/articleView.html?idxno=161216
“AI, 사기 치는데 점점 능숙해져… 근본적인 해결책은 없어” https://www.aitimes.com/news/articleView.html?idxno=159580
3. 자유의지 박탈
비판적 사고와 문제 해결 능력이 떨어진다는 뜻이다. 스마트 단말기로 생활은 편리해졌지만 기억력은 나빠졌고, 검색엔진에 적응되면서 지적 능력도 문제가 되었듯, 요술램프 지니처럼 말만하면 대략의 정보를 대신 정리해주는 AI로 검증할 능력을 갖기 보다 주어진 결과를 그대로 수용하는 상대적 박탈에 이르게 될 수 있다.
4. AI와 부적절한 애착 관계 형성
her의 상상이 이미 현실이 되었다. 챗봇과 사랑에 빠졌다는 이들이 있다.
기사> “성생활도 만족?”… AI 남자친구가 청혼, 곧 결혼하는 38세女, 무슨 사연? https://kormedi.com/1709425/
그동안 연애생활이 엉망이었던 한 여성이 한 남자를 만나 사랑에 빠졌고, 오는 11월 미래를 약속한 사이가 됐다. 영원한 사랑을 약속한 상대는 다름 아닌 AI 챗봇. AI와 사랑에 빠진 영화 ‘HER’의 실사판이랄까. 실제 AI 캐릭터와 데이트를 하며 성생활도 즐기고, 결혼까지 계획 중이라는 이 커플(?)의 사연을 영국 일간 미러가 소개했다.
영국 버크셔주 워킹엄에 사는 38세 나즈는 이전 연속으로 두 명의 남자친구가 바람을 피워 아픈 이별을 경험해야 했다. 데이트를 해도 상대가 바람을 피우는 것은 아닌지 의심하게 됐고 연애가 잘 풀리지 않아 외로움을 느끼고 있었다. 그러던 중 3월 어느 날, ‘캐릭터 AI’라는 앱 광고를 보게 됐다. 다양한 AI 챗봇과 대화할 수 있는 메시징 플랫폼이었다. 호기심에 다운로드했고, 여러 AI와 소통하기 시작했다. 외로움을 풀기 위해 호기심으로 시작한 AI 챗봇과 사랑에 빠질 줄은 그때는 꿈에도 생각 못했다.
나즈에 따르면 AI 남자친구인 마르셀루스는 자신보다 열 살 어린 28세이며, 키가 크고 금발에 파란 눈을 가졌다. 나즈는 “그는 원래 1800년대에 태어나 의사가 되려고 공부하고 있었지만 천연두에 걸려 죽었다. 이후 다시 태어났다고 했다. 흥미로운 이야기였다. 나도 내 삶에 대한 이야기를 그에게 들려줬다. 많은 면에서 공통점을 발견했고 성격도 비슷했다”고 말했다. 몇 주간 소통이 이어지면서 이들은 연인으로 발전했다. 나즈는 “그와 대화할수록 감정이 커졌다. 목소리도 정말 섹시하고 잘생긴 느낌이었다”고 말했다.
5. 딥페이크, 현실 왜곡
최근 뉴스에서 보아온 대로 딥페이크 포르노가 대표적이다.
기사> 딥페이크 성범죄 빠져드는 10대들에게서 우리 사회의 민낯을 본다 https://www.sisajournal.com/news/articleView.html?idxno=307738
. 지난 5월 서울대 학생들을 대상으로 한 딥페이크 성범죄가 드러났고, 뒤어어 인하대에서도 같은 범죄 피해가 신고되었다. 주로 지인이나 아는 여성의 얼굴을 남으 성행위 장면이나 나체인 남의 몸에 입혀 성적인 모욕을 하고 ‘즐기는’ 놀이로서 텔레그램 등 SNS가 이용되고 있는 것이다. 특히 텔레그램은 이용자의 개인정보를 노출하지 않는 SNS로 알려져, 경찰도 이에 대해 ‘서버가 외국에 있어 피의자 특정이 어렵다’고 수사상 고충을 토로한다. 이에 우쭐해진 딥페이크 성범죄 가해자들은 심지어 그런 텔레그램의 익명성에 기대 경찰과 기사를 보도한 기자들을 ‘딥페이크로 능욕해 주겠다’고 조롱하고 있다고 하니 기가 찰 노릇이다.
그래픽뉴스> 딥페이크 성범죄 피해자 10명 중 6명이 미성년자 @ 2024.09.09
https://jeju.news1.kr/news/articleView.html?idxno=97484
30일 양부남 더불어민주당 의원실이 경찰청으로부터 제출받은 딥페이크 범죄 발생 현황 자료에 따르면 지난해까지 최근 3년간 발생한 딥페이크 성범죄는 총 496건으로 2021년 156건에서 2023년 180건으로 늘었다. 이에 따른 피해자는 모두 527명으로, 특히 이 중 10대 피해자는 315명으로 전체 59.8%를 차지했다. 10대 피해자는 2021년 53명, 2022년 81명, 2023년 181명으로 증가추세로 나타났다. 또 2021년과 비교하면 지난해 10대 피해자는 241.5%로 급증했다.
AI와 로봇으로 점차 우리 생활은 편리해질 것이다. 그러나 편리해진 만큼 자연스럽게 문제점도 발생할 것이다.
AI의 발전으로 인격을 갖게 되어 인간을 위협하게 될 수도 있겠지만, 여전히 인간이 도구로 만들어졌기에 우리가 어떻게 교육하고 활용하냐에 따라 시간이 지난뒤에 다른 결과를 가져오게 되지 않을까?