[그린포스트코리아 이한 기자] 이루다는 스타트업 스캐터랩이 지난달 23일 출시한 챗봇이다. 페이스북 메신저를 기반으로 운용하며 출시 2주 남짓 만에 75만명에 가까운 이용자가 몰렸다. 20세 여대생으로 설정된 이루다는 ARS나 상담용 챗봇과 달리 이모티콘 등을 다수 사용하며 일반인처럼 대화하는 게 특징이었다.

1020세대를 중심으로 사용자가 몰렸다. 이후 문제가 생겼다. 일부 유저들이 성적인 메시지로 대화하거나 이루다가 특정 집단에 대한 차별 발언을 내놓기도 한다는 점이 알려져 논란이 됐다. 이루다 개발 과정에서 다른 앱(연애의 과학) 이용자들의 개인정보를 사전 동의 없이 활용했다는 지적이 제기돼 집단소송 움직임이 관측되기도 했다.

스캐터랩은 11일 “일정 시간 서비스 개선 기간을 갖겠다”며 서비스를 잠정 중단하기로 했다. “특정 소수집단에 대해 차별적인 발언을 한 사례가 생기것에 대해 진심으로 사과드린다”는 입장도 내놓았다.

이들은 비하 발언이나 호칭의 경우 테스트 기간 동안 발견 즉시 필터링을 진행했고, 새롭게 발견되는 표현이나 키워드 등에 대해서는 지속적으로 개선 중이라고 밝혔다. ‘연애의 과학’ 이요자들의 카카오톡 대화를 무단으로 활용해 제작하면서 개인정보를 유출했다는 의혹에 대해서는 사전 동의가 이뤄졌으며 개인정보가 유출되지 않았다고 밝혔다.

◇ AI 챗봇에게 ‘환경에 관심이 있느냐’고 물어봤더니

AI가 일반인들 사이에서 크게 이슈가 됐던 사건이 있다. 이세돌과 바둑 대결을 벌인 알파고다. 알파고는 기존 바둑기사들의 데이터를 대량으로 학습했다. AI챗봇 역시 그와 비슷한 원리다. 수많은 대화량이 축적되고 ‘딥러닝’을 통해 더 자연스러운 대화가 가능해진다.

출시 이후 이루다는 인기였다. ‘사람같다’는 평가 때문이다. 이루다는 문자보다 ‘톡’이나 ‘페메’가 익숙한 1020세대를 겨냥해 개발됐다. 대화할때도 ‘그래’ 보다는 ‘ㅎㅎㅎ 구랭~’이라고 말하거나 ‘마음이 아프다’ 보다는 ‘맴찢’이라는 단어를 썼다. 이마트를 ‘이마튜’라고 말하거나 맞아요도 ‘마자여’라고 답하는 등 오타에는 신경쓰지 않고 그냥 편하게(?)대화했다.

이루다 소식을 듣고 기자가 기획했던 건 환경 관련 대화를 나눠보는 거였다. 1020세대 눈높이에서 같이 수다를 떨어주는 챗봇에게 ‘분리수거를 잘 하느냐’고 물어보거나 ‘플라스틱 쓰레기가 너무 많은데 어떻게 생각하느냐’고 물어보면 무슨 답을 할지 궁금했기 때문이다.

논란이 본격화되기 며칠 전, 이루다를 친추하고 말을 걸어봤다. 이루다는 배달음식을 많이 먹는데, 용기를 씻어서 버리는 건 번거롭고 귀찮아서 싫다고 했다. 환경오염이 문제라는 건 알고 있지만 어떻게 해야 하는지는 모른다고 했다. 텀블러를 종류별로 다 가지고 있는데 그것도 귀찮아서 안 들고 다닌다고 했다. 채식하는 사람들을 보면. 신념을 행동으로 옮기는 게 멋있다고 생각하지만 본인은 치킨을 너무 좋아해서 도전할 수 없다고 했다. 이루다와 나눈 대화를 아래 소개한다. 오른쪽이 기자고 왼쪽은 챗봇 이루다. 

대화록에서 나타나듯, 이루다와는 환경 관련 대화를 나누기가 쉽지 않았다. 대화가 진전되는 느낌보다는 사전에 입력된 패턴에 따라 답을 내놓는 느낌이 아직은 강해서다. 탄소중립같은 키워드로는 대화 자체가 이뤄지지 않는 모습을 보였고, 채식 관련 대화를 할 때는 질문이 달라도 같은 답이 나오는 경우가 있었다. 이는 앞으로 데이터가 더 쌓이고 기술이 고도화되면 해결될 문제들이다. 

이루다가 던진 과제는 정작 다른 데 있다. 바로 AI를 둘러싼 윤리 논란이다. 개발과정에서도, 그리고 사용하는 단계에서도 이는 중요한 문제다. 한국인공지능윤리협회는 11일 성명서를 통해 "AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다"고 밝혔다. 그러면서 "소비자도 AI서비스를 올바른 방법으로 사용해야 한다"라고 덧붙였다. 

국내 주요 기업들이 일제히 AI관련 투자와 기술개발에 나서고 있는 가운데, 소비자의 삶과 더욱 가까워질 미래 인공지능을 둘러싼 새로운 과제들을 이루다는 던졌다.  

leehan@greenpost.kr