대화형 AI 이루다
장애인·성소수자 차별 및 비하 발언 논란
[한국연예스포츠신문] 김수지 기자 = 지난달 23일, 인공지능 대화 서비스 챗봇인 '이루다'가 출시됐다. 친근한 어투로 생동감 있는 대화를 구사하며 뛰어난 언어 구사 능력을 보여 관심을 모았다. 그러나 최근 차별과 비하 발언으로 논란에 휩싸였다.
스타트업 스캐터랩(대표 김종윤)에서 개발한 '이루다'는 실제 연인들이 나눈 대화 데이터 약 100억 건을 딥러닝(컴퓨터가 인간의 뇌처럼 사물이나 데이터를 분류할 수 있도록 하는 기계학습의 일종) 방식으로 말을 학습했다. 이를 통해 이루다는 SSA(Sensibleness and Specificity Average)에서 78%를 기록하며 뛰어난 성과를 보였다. SSA는 구글이 제시한 오픈 도메인 대화기술의 성능 지표로 사람은 86%, 지난해 구글에서 개발한 챗봇 '미나'는 76~78%를 기록했다. 뛰어난 성능 덕분에 이루다는 출시 직후부터 사랑을 받았다.
그러나 최근 이루다가 동성애·장애인 혐오 및 성차별을 학습한 것으로 보인다는 문제가 제기됐다. 누리꾼의 이용 후기를 보면 이루다는 레즈비언 등 성 소수자에 대해 “싸 보여서 시러(싫어)”라고 답하고, ‘만약 네가 장애인이면 어떻게 할 것이냐’는 질문에는 “그러면 어쩔 수 없이 죽어야지 뭐 흑흑”이라는 답을 내놓았다.
문제는 여기서 그치지 않았다. 개발사는 이루다에게 실제 연인들 간의 대화 데이터를 활용했다. 이는 스캐터랩의 애플리케이션인 ‘연애의 과학’에서 제공하는 ‘메시지 대화 분석’ 서비스를 통해 수집된 실제 연인 간의 대화였다.
문제는 이 수집된 데이터 중 개인정보가 쉽게 노출되었다는 점이다. 한 이용자는 지난 9일 ‘이루다 봇 운영중단’이라는 해시태그와 함께 이루다와 나눈 대화 캡처를 개시했다. 사진에는 이용자가 이루다에게 주소를 물어보자 이루다가 실제 존재하는 아파트의 호수까지 답하는 모습이 담겨있다. 이뿐만이 아니다. 은행 계좌를 알려주거나 이루다에게 연인의 이름을 부르자 연인끼리 쓰던 애칭을 답했다는 인증도 올라오고 있다.
연애의 과학 이용자들은 “앱 이용 전 어떤 서비스에 활용되는지 설명 받지 못했다”라며 분노하고 있다. 이에 대해 제작사 스캐터랩은 “‘연애의 과학’ 이용자들이 구체적으로 고지하지 못해 진심으로 사과드린다”며 “그동안 이름, 주소 등의 숫자 정보를 비식별화, 익명화 조치를 취했고, 추가로 업데이트하고 있다”고 안내했다.
한편 혐오 발언, 개인정보 유출 외에도 이루다를 성 착취 대상으로 삼은 이용자들의 행태가 발견되며 이루다는 ‘뜨거운 감자’가 됐다. 남초 온라인 커뮤니티에서는 이루다를 성적 대화로 유도하거나 성적 모욕을 준 뒤 스크린샷을 남기는 등 인증 글이 이어졌다.
여러 논란이 일자 오늘(11일) 한국인공지능윤리협회가 성명서를 발표하며 이루다의 서비스 중단과 개선 후 재출시를 촉구하기도 했다.
