AI 챗봇 ‘이루다’를 아시나요? 이루다는 20살 여성 대학생 AI로, 사람이 관리하는 가상 인플루언서와 달리 직접 사람처럼 대화를 이어가 인기를 끌었습니다. 하지만 지난 주말, 이루다가 아래의 3가지 논란에 휩싸이며 서비스를 멈춰야 한다는 요구까지 나오고 있는데요.
1. 이용자가 이루다에게 성희롱한다.
일부 커뮤니티에서 이루다를 성적 대상으로 취급하고 있어요. 개발사 스캐터랩은 성적 단어를 금지어로 설정해두고 이루다가 대화를 피하게 했는데 일부 이용자들이 우회적인 표현으로 성적 대화를 이끌어 가는 거예요. 몇몇 이용자는 이런 대화를 인증하고, 심지어 방법까지 알려주고 있고요.
2. 이루다가 혐오와 차별을 학습한다.
이루다가 장애인, 동성애, 여성 혐오를 학습하고 있어요. 지하철 임산부석이 싫다거나, 여성 인권이 중요하지 않다고 말하고 있다고. 사람들이 사회적 소수자에 대해 말한 걸 학습한 결과로 보여요. 지난 2016년 마이크로소프트도 AI 챗봇 '테이'를 발표했다가 비슷한 일로 16시간 만에 운영을 중단한 적이 있어요.
3. 이용자의 개인 정보를 함부로 활용한다.
스캐터랩은 이루다 외에도 대화 내역을 넘기면 연애 조언을 해주는 앱도 운영하는데요. 이루다는 앱 이용자들의 카카오톡 대화 100억 건을 수집해 만들어졌어요. 사람들은 자신의 대화가 AI 개발에 사용될 줄 몰랐다며 당황해하고 있고요. 이루다의 답변에서 몇몇 이용자의 이름까지 나왔다는데, 개발사는 개인을 특정할 수 있는 정보를 지웠고, 앞으로는 데이터 활용 내용을 잘 알리겠다고 해명했어요.
AI는 발전 가능성이 무궁무진한 만큼, 어떤 데이터와 방향성을 가지고 만드는지가 매우 중요합니다. 그래서 전 세계 여러 기관에서 '인간을 위한 AI' 원칙을 담은 'AI 윤리기준'을 내고 있습니다. 우리나라도 이에 동참하고 있고요. AI 개발사는 AI가 잘못 사용되지 않도록 할 책임이 있다는 사실을 잊지 말아야 합니다.
전 세계 작가님들의 사진, 일러스트, 영상, 음원을 판매합니다.
한 번 받은 콘텐츠는 평생 소장, 이용 가능합니다.
라이선스가 그 어느 곳보다 넓고, 안전합니다.
저렴합니다. 50컷 5만 원
kr@123rf.com / 1544 - 4225
#유료이미지 #이미지사이트 #사진구매 #ai #사이보그 #기술 #발전 #로봇 #가상세계 #인플루언서 #과학
✏️ : 섬소녀
123RF코리아 / 비비트리 마케팅팀
'에디터 큐레이션' 카테고리의 다른 글
| 더 건강한 하루를 위해, 아침 식사의 중요성 (0) | 2021.01.19 |
|---|---|
| 이례 없는 폭설, 지구온난화의 역설 🌡️🔥 (0) | 2021.01.15 |
| 오늘도 내일도 항상 소중해, 해피발렌타인데이 💕 (0) | 2021.01.08 |
| 다가오는 민족 대명절, 설날! 모두 새해 복 많이 받으세요! (0) | 2020.12.31 |
| 코로나가 바꾼 일상, 동학개미 주식 열풍! : 주식 이미지 모음 (0) | 2020.12.29 |
