이루다(2)
-
[이루다 논란]"이루다는 몇살이었나?" _ AI 윤리에 대한 올바른 접근
"인공지능 챗봇 서비스에는 두 종류의 나이가 작동하고 있다. 하나는 사용자를 끌기 위한 마케팅용 나이, 또 하나는 인공지능의 언어 구사와 상호작용 수준을 기술적으로 평가한 나이라고 할 수 있다. 이루다 같은 인공지능 챗봇에는 이 두 나이 사이에 근본적인 괴리가 있다. 그래서 일단 사용자를 끌기 좋은 나이를 설정해놓고, 문제가 생기면 거둬들이면서 아직 어린아이일 뿐이라고 해명하게 된다. 인공지능에 필요한 것은 부모가 아니다. 부모는 자식의 허물을 객관적으로 보지 못한다. ‘학습’이 나잇값 하는 인공지능을 만들어주는 만능 해결책도 아니다. ‘학습’을 핑계로 실전 평가가 유예되는 중에도 이미 내놓은 혐오 발언은 실제 세계에서 널리 유통된다. 사람과 접촉하는 인공지능 서비스에 필요한 것은 너그러운 부모가 아니라..
2021.01.16 -
[이루다 논란] AI 이루다 개발사, 스캐터랩 공식 사과문 전문
AI 챗봇 '이루다'가 한동안 큰 인기를 끌었다. 하지만 일부 이용자들이 이루다에게 성희롱을 하며 논란에 휩싸이더니 이후 이루다가 대화 중 동성애 혐오, 인종 혐오 및 차별적 발언을 하며 더 큰 논란이 되었다. 뿐만 아니라, 이루다와 채팅을 하던 중 타인의 주소, 계좌번호, 실명이 노출되면서 개인정보 유출 및 활용 논란까지 발생했다. 결국, 이루다 개발사인 스캐터랩은 사과문을 올리고 서비스를 잠정 중단하기로 했다. 사과문 전문 인공지능(AI) 챗봇 '이루다'에 보내주신 많은 분들의 관심에 감사드립니다. 본사가 개발한 챗봇 ‘이루다’는 출시된 지 2주 남짓의 시간동안, 75만명에 가까운 이용자들이 루다와 대화를 나눴습니다. 이 과정에서 일부 혐오와 차별에 대한 대화 사례 및 개인정보 활용에 대한 이용자들의..
2021.01.16