인공지능 이루다 동성애 혐오 논란…이재웅 “서비스 중단해야”

입력: ‘21-01-09 13:49 / 수정: ‘21-01-09 13:49
페이스북트위터블로그

이루다에 가해지는 성희롱도 문제

확대보기
▲ 인공지능 이루다. 출처:이루다 페이스북
지난해 12월 첫 선을 보인 인공지능(AI) ‘이루다’가 성추행 피해에 이어 이번에는 동성애에 대한 편견으로 논란의 대상이 됐다.

다음 창업자인 이재웅 전 쏘카 대표는 9일 자신의 페이스북을 통해 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다.

이어 레즈비언(여성 동성애자)가 혐오스럽다고 한 이루다의 대화 목록 캡처 화면과 함께 “악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”면서 “편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 주장했다.

이 전 대표는 “정의당 장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”면서 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다”고 강조했다.
확대보기
▲ AI 이루다의 채팅 화면. 출처:페이스북
이어 AI가 완벽하지 못하고 사회 수준을 반영할 수 밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다고 덧붙였다. 따라서 지금 이루다 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 실시한 뒤 서비스를 재개해야 한다고 제안했다.

이루다는 스캐터랩이 지난달 23일 출시한 AI 챗봇으로, 별도의 프로그램(어플리케이션)이 아니라 페이스북 메신저를 기반으로 개발돼 친구와 대화를 나눌 때처럼 편리하게 의사소통할 수 있다. 최근 10~20대 사이에서 큰 인기를 끌며, 이달 초 기준으로 이용자가 32만명을 돌파했다. 일일 이용자 수는 21만명, 누적 대화 건수는 7000만건에 달한다.

제작사 측은 학습 데이터의 규모가 커질수록 성능이 좋아지는 딥러닝의 특성때문에 이루다가 자연스러운 대화를 할 수 있도록 100억 건 이상의 한국어 데이터를 이용했다고 설명했다.

이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 전날 자사 블로그에 “루다를 향한 성희롱은 예상했다”며 “고양이 챗봇 ‘드림이’ 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다”고 밝혔다. 하지만 “AI를 향한 욕설과 성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일”이라고 부연했다.

윤창수 기자 geo@seoul.co.kr
서민금융주치의, 이원장이 간다+
  • (8) 어둠을 밝히는 희망의 불씨되어
    올해는 시작부터 ‘코로나19’라는 생각지도 못한 어려움이 우리의 삶을 뒤바꿔놓았다. 마스크 수급이 어려웠던 초창기, 전 국민이 요일에 맞춰서 공적마스크를 구입하기도 했고, 긴급재난지원금을 통해서 지역 상권 살리기와 가계에 힘을 싣기도 했다.여름에는 태풍과 홍수 등 수해 피해까지 겪었지만, 이때도 사회 곳곳에서 도움의 손길들이 기적처럼 나타났다. 그럼에도 사회
  • (7) 서민 금융생활의 든든한 자양분, 금융교육
    A양은 지난 9월, 서민금융진흥원에서 운영하는 금융교육포털에서 교육을 들었다. 보육시설에서 지내다 올해 만 18세가 되어 독립을 앞둔 A양은 평소 신용이나 금융에 큰 관심이 없었지만, 교육을 들으며 그 중요성을 깨달았다. 신용관리 방법과 어려울 때 도움을 받을 수 있는 지원제도가 있다는 사실도 알게 됐다.실제로 A양처럼 만 18세 이후 보육시설에서 학생 신분으로 자립
  • (6) 코로나시대 언택트 채무조정
    코로나19로 인해 ‘언택트(Untact)’라는 영어사전에도 없던 단어가 만들어졌다. 언택트는 비대면·비접촉 방식을 가리키는 신조어다. 비대면이 일상이 되면서 서민금융이나 신용회복지원 상담도 역시 예외는 아니다. 코로나로 인해 경제적으로 어려움을 겪는 사람들에게 신속한 금융지원이나 신용회복지원 상담도 비대면 방식이 불가피해졌기 때문이다.필자는 지난 2018년 10월
  • 서울biz CI
    • 주소 : 100-745 서울시 중구 세종대로 124 (태평로1가 25번지) 서울신문사빌딩  |  대표전화 : (02) 2000-9000
    • 인터넷서울신문에 게재된 콘텐츠의 무단 전재/복사/배포 행위는 저작권법에 저촉되며 위반 시 법적 제재를 받을 수 있습니다.
    • Copyright ⓒ 서울신문사 All rights reserved.