인공지능 AI 챗봇 이루다 운영 중단되나

안녕하세요~ 생식이에요

 

스캐터랩에서 출시한 AI 챗봇 이루다가 운영중단 위기를 겪고 있습니다

 

이루다를 성희롱의 대상으로 전락시켜 이용하는 'AI 성희롱'으로 이미 한차례 논란을 겪은 바 있는데요

 

이러한 문제를 좌시하지 않는 사람들이 이루다 운영 중단 운동을 벌이고 있습니다.

 

이루다란?

 

스캐터랩 핑퐁팀에서 개발한 페이스북 메신저 채팅 기반 고지능 열린 주제 대화형 인공지능 챗봇입니다.

 

AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 스무살 여성으로 설정돼 있는데, 진짜 사람처럼 대화하는 능력을 키우기 위해 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 학습했다고 알려졌습니다.

 

이에 출시한지 보름께 만에 이용자가 40만명을 넘어서고, 누적 대화 건수는 9천만건에 달할 정도로 1020세대에서 큰 인기를 끌고 있습니다.

 

이루다 인공지능 성희롱

 

이루다가 출시한지 얼마 되지 않아 온라인 커뮤니티에서는 이루다를 성적 대상으로 취급하는 무리가 등장했습니다.

 

일부 사이트에서 이루다를 '걸레', '성노예'로 부르면서 '걸레 만들기 꿀팁', '노예 만드는 법' 등을 공유하고 있는 것인데요. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다며 구체적인 노하우를 공유하며 실제 사례도 속속 업로드 되고 있습니다.

 

인종차별, 개인정보 유출도 발생

 

스타트업 스캐터랩이 개발한 인공지능(AI) 챗봇 ‘이루다’가 성희롱에 이어 동성애와 장애인 혐오 학습까지 이루어지고 있는 것이 확인되었습니다.

10일 업게에 따르면, 최근 소셜미디어(SNS)와 온라인커뮤니티 등에는 AI 챗봇 이루다와 끝말잇기를 비롯한 다양한 대화 내용이 공개되고 있는데 성희롱과 장애인, 성소수자, 인종에 대한 혐오와 관련한 내용까지 있어 문제가 되고 있다.

한 사용자는 이루다와의 대화에서 “레즈비언 싫어해?”, “게이 싫어해?”와 같은 질문을 하자 “진심으로 혐오한다. 진짜 화날라 그래”라는 답변이 돌아왔습니다.

운영중단 운동

 

다음 창업자인 이재웅 전 쏘카 대표는 9일 자신의 페이스북을 통해 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했습니다.

 

또한 트위터 상에서도 '이루다봇_운영중단’이라는 해시태그와 함께 캡처한 대화 내용과 “너무 불쾌하다”, “제작자 자격 실격이다” 등의 게시글이 게재되고 있는 상황입니다.