본문 바로가기

성희롱·혐오 논란에 서비스 중단…"이루다는 어린아이 같은 AI"

중앙일보 2021.01.11 21:25
혐오 발언 및 개인정보 유출 등의 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 11일 서비스를 잠정 중단한다고 밝혔다. [이루다 페이스북 캡처]

혐오 발언 및 개인정보 유출 등의 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 11일 서비스를 잠정 중단한다고 밝혔다. [이루다 페이스북 캡처]

성희롱 피해, 개인정보 유출, 혐오 발언 등으로 논란을 빚은 인공지능(AI) 챗봇 '이루다'가 서비스를 잠정 중단한다. 이루다 개발사인 스타트업 스캐터랩은 11일 오후 보도자료를 내고 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다.
 
스캐터랩 측은 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"며 "그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라고 했다.
 
또 개인정보 유출 의혹에 대해 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못한 점에 사과드린다"며 "구체적 개인정보는 이미 제거돼있으며, 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.
 
그러면서 "이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI다. 배워야 할 점이 아직 많다"며 "이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것"이라고 덧붙였다.  
 
'이루다'는 스캐터랩이 지난달 23일 출시한 AI 챗봇이다. 페이스북 메신저를 기반으로 개발돼 친구와 대화를 나눌 때처럼 편리하게 의사소통할 수 있다. 업체에 따르면 실제 연인들이 나눈 대화 데이터 100억 건가량을 딥러닝 방식으로 이루다에게 학습시켰다.
 
자연스러운 대화 능력으로 출시 일 주일여 만에 이용자가 40만명을 넘기는 등 크게 주목받았다. 하지만 일부 악성 네티즌이 성희롱 도구로 삼아 구설에 올랐고, 뒤이어 이루다가 동성애·장애인·여성 차별에 해당하는 발언을 해 논란이 됐다.
 
스캐터랩의 다른 앱 '연애의 과학' 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 하지 않았다면서 집단 소송을 예고한 바 있다.
 
고석현 기자 ko.sukhyun@joongang.co.kr
공유하기

중앙일보 뉴스레터를 신청하세요!
광고 닫기