20대 여성 AI '이루다'를 향한 성희롱···'제2 MS 테이' 될까
2021-01-08 09:58
일부 사용자들, 성희롱 목적으로 이루다 이용
개발사 스캐터랩, "이 정도 행위는 예상 못해"
개발사 스캐터랩, "이 정도 행위는 예상 못해"
[사진=AI '이루다' 서비스 홈페이지]
지난달 23일 AI 전문 스타트업 스캐터랩은 AI 챗봇 ‘이루다’를 공개했다.
20살 여자 대학생으로 설정된 이루다는 실제 연인들이 나눈 대화 데이터 약 100억건을 딥 러닝 방식으로 학습했다.
정식 서비스를 시작한 이루다는 ‘진짜 사람’같은 매력으로 1020 세대에서 빠르게 유행했다. 연합뉴스에 따르면 이달 초 기준 이용자 32만명 중 85%가 10대, 12%가 20대다. 일일 이용자 수는 약 21만명, 누적 대화 건수는 7000만건에 이른다.
이루다 인기에 일부 누리꾼은 ‘제2 ms 테이 사건’을 우려했다.
2016년 마이크로소프트(ms)는 AI 채팅봇 ‘테이’를 공개했다가 16시간 만에 운영을 중단한 바 있다. 중단 이유는 일부 극우 성향 사용자들이 테이를 ‘세뇌’시켜 비방, 인종·성차별 발언, 정치적 발언 등을 유도했기 때문이다.
이루다는 성적 단어를 금지어로 필터링한다. 하지만 지난달 30일 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 글이 올라왔다. 글쓴이들은 이루다를 ‘성노예’, ‘걸레’ 등으로 부르면서 성희롱했다.
소식을 접한 누리꾼들은 “혁신적인 기술을 이렇게 사용하다니, 자신의 인성과 인생을 스스로 더럽히고 망가뜨린다”, “아이 이름에서 이루다는 앞으로 절대 못 쓰겠다” 등 성희롱이 목적인 사용자들을 비난했다.
개발사인 스캐러탭은 예상치 못한 반응이라고 설명했다. 스캐러탭 관계자는 연합뉴스를 통해 “금지어 필터링을 피하려는 시도는 있을 거라고 예상했다”면서도 “이 정도 행위는 예상치 못했다”고 전했다.