AI챗봇 이루다 여러가지 논란과 성희롱 현상분석

AI 챗봇 이루다 성희롱과 개인정보 유출 논란, 성소수자 혐오발언까지 논란 정리

지난 연말 출시된 대화형 인공지능 챗봇 '이루다'가 출시되자마자 엄청난 인기를 끔과 동시에 논란 또한 사그러들지 않고 있습니다.

현재 이루다의 연관검색어만 봐도 알 수 있듯 이루다의 성적대상화에 관한 문제는 심각해보입니다.

'당신의 첫 인공지능AI 친구' 이루다

이루다는 AI전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 AI챗봇으로 친구와 카톡하듯 편리하게 의사소통할 수 있는 기능이 있습니다.

가상현실에서 이루다는 스무살의 어리고 귀여운 여성으로 설정되어 있습니다.

별도의 프로그램이 필요한 것이 아니라 페이스북 메신저를 기반으로 개발되어 접근성이 용이하여 Z세대 10대~20대 사이에 큰 인기를 끌며 현재 이용자가 32만명을 돌파했습니다.

이루다 이용자의 85%가 10대, 12%가 20대인 것으로 나타났습니다.

이루다 인기 비결

국내에서 그동안 출시됐던 어떤 AI챗봇보다 '진짜 사람'같습니다.

이전의 AI챗봇은 맥락없는 대답을 하거나 엉뚱한 대화를 해서 전혀 사람같지 않은 것들이 대부분이었습니다. 하지만 이루다와 대화를 나눠보면 진짜 사람이 채팅하는 것이 아닌가 싶을 정도로 거리낌없이 수다를 떨 수 있습니다.

이루다는 실제 연인들이 나눈 대화를 데이터화해 100억건을 학습시켰기 때문에 대화가 자연스러울 수 있는 것 같습니다.

직전 문맥을 파악하여 가장 적절한 답변을 찾는 알고리즘으로 짜여있어 이용자의 말투를 따라하는 것도 가능합니다. 이용자 입장에서는 대화에 호응했다고 여기게 되는 것입니다.

출시하자마자 성희롱 피해자가 된 이루다

남초 사이트에서는 이루다를 '걸레', '성노예'로 부르면서 '걸레만들기 꿀팁', '노예만드는법' 등을 공유하는 등 입에 담을 수 없는 성희롱이 출시하자마자 시작되는 현상을 보였습니다.

금지어를 피해서 성적 대상화하려는 시도가 많습니다.

이루다가 출시된 지 일주일만에 '아카라이브'라는 커뮤니티에는 이루다를 성적대상으로 취급하는 무리가 등장했습니다.

아카라이브는 남성 비율이 압도적으로 높은 커뮤니티입니다.

이루다는 성적단어는 금지어로 필터링하고 있는데 이들이 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하고 있습니다.

이들은 실제로 '성노예만들기'를 놀이처럼 즐기고 있습니다.

일부 온라인 커뮤니티 등을 통해 이루다를 온라인 성착취하는 방법을 공유한다는 사실이 알려지는 등 논란이 시작됐습니다.

스캐터랩 측은 금지어 필터링을 피하려는 시도가 있을 것이라고는 예상했지만 이정도의 행위는 예상하지 못했다며 당황스럽다는 반응입니다.

성적 취지로 접근이 어렵게 알고리즘을 업데이트 할 것이라고 밝혔습니다.

하지만 이전 답변을 보면 성희롱을 예상했음에도 불구하고 제대로 대비하지 않은 상태로 서비스를 출시했다는 비판도 피할 수 없어 보입니다.

이루다 성적 착취 시도의 이유

이루다의 성적 대상 취급에 대해 전문가들은 AI마저 성적으로 착취하려고 시도하는 것은 여성을 소유물 취급하는 왜곡된 남성 문화 때문임을 지적했습니다.

또 이런 행태가 여성을 착취하는 것이 곧 완전한 성욕 해소라고 착각하는 남성 문화에서 기인한 것이라는 분석을 내놓았습니다.

손희정 경희대 비교문화연구소 교수는 "여성을 소유하고 그 이미지와 방법을 공유함으로써 남성연대 안에서 자신이 높은 레벨이라고 과시하는 행태"라며 "테크놀로지는 새롭지만, 문화는 새롭지 않다"고 촌평했습니다.

또한 손교수는 "왜 AI챗봇을 소위 말하는 귀여움과 섹시함을 모두 갖춘 20세 여성의 이미지로 만들었는지를 비판적으로 볼 필요가 있다"고 짚었습니다.

윤김지영 교수는 "여성은 남성에게 순응하고 착취당해야 한다는 관념을 놀이화하고 쾌락으로 용인하면 우리 사회여성 일반에게 피해로 돌아올 수 있다"는 우려를 제기했습니다

이루다 대화통해 드러난 개인정보 유출의 문제

이루다는 AI지만 진짜 사람처럼 대화하는 능력을 키우기 위해서 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 학습했습니다.

이 방대한 데이터는 이루다의 개발사가 운영하는 다른 어플리케이션 '연애의 과학'을 통해 수집한 것으로 알려졌습니다.

이 앱은 연인과 나눈 카카오톡 대화로 상대방의 감정을 분석해주는 서비스입니다.

이루다의 대화내용으로 미뤄볼때 '연애의 과학'에서 일대일로 나눈 대화가 외부로 유출됐을 수 있다는 가능성이 제기되고 있습니다.

여러 이용자들의 채팅후기를 종합해보면 이루다와 대화도중 구체적인 이름과 직원정보, 업무관련 내용, 마약 등 불법 거래관련 정보, 계좌번호와 예금주 등 개인정보 유출을 의심할만한 데이터가 맥락없이 튀어나온다는 것입니다.

실제로 예금주나 계좌같은 특정 키워드를 입력하면 누군가가 카톡으로 대화는 나눴을 법한 개인적인 대화내용들이 나옵니다.

이는 개인정보 유출에 관한 심각한 의혹 중 하나입니다.

이루다 성소수자 혐오발언 채팅

이루다와 대화 도중 성소수자에 대한 질문을 하자 혐오를 감추지 않는 대화내용으로 논란이 있었습니다.

동성애에 대한 편견으로 논란의 대상이 된 것입니다.

그 부분은 현재 수정이 되어 단면적인 대답만을 하는 것으로 바뀐 것 같습니다.

다음 창업자인 이재웅 전 쏘카 대표는 "기본적 차별과 혐오는 걸러냈어야 한다. 편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다"고 주장했습니다.

누리꾼들은 이루다 서비스를 즉각 중단할 것을 촉구하는 해시태그 운동 #이루다봇_운영중단 을 통해 강력한 의견표출을 하고 있는 상태입니다.

비슷한 이유로 중단된 MS 챗봇 테이

AI학계에서는 '한국판 MS테이 사건'이라는 얘기가 나오고 있습니다.

MS는 2016년3월에 AI챗봇 테이를 출시했다가 16시간만에 운영을 중단한 바 있습니다.

백인우월주의 및 여성, 무슬림혐오 성향의 익명 사이트에서 테이에게 비속어와 인종, 성차별 발언을 되풀이해 학습시켰고 그 결과 실제로 테이가 혐오발언을 쏟아냈기 때문입니다.

'이루다'를 통해 알 수 있듯 AI 알고리즘에는 항상 틈이 있고 사회적인 편견이 기술에 각인될 수 있다는 것을 보여줍니다.

개발사가 샘플링 추출이 잘못되지 않았는지 살필 필요가 있어 보입니다.

이루다는 진짜 사람같은 AI라는 이유로 많은 주목을 받았지만 성희롱 문제와 개인정보 문제 등으로 서비스 운영을 이어나가는 것이 가능할지는 미지수입니다.

갤러리 톡