이루다 논란에 대한 정리와 내 생각

 

 

이미 좀 지난 떡밥일수도 있으나 AI 친구 이루다에 대한 논란은 크게 두가지가 있었다. 

 

 

1) 성적 대상으로 삼는 사람들이 문제 <- 이는 남성문화에서 기인하는 것 + 혐오발언 문제

2) 적절한 방식으로 수집하지 않은 데이터 베이스

 

 

1)과 관련된 이야기에 관해 전문가라고 불리는 몇몇 교수들이 코멘트로 남기기도 했다. 아래 언급할 윤김지영 교수와 손희정 교수의 코멘트는 '인공지능 여성'마저 성착취..."안전한 알고리즘이 필요하다"라는 제목의 매일경제 기사에서 발췌했다.

 

 

 

 

윤김지영 교수는 이루다 AI와 성적 대화를 하는 행위는 "여성을 착취하는 것이 곧 완전한 성욕 해소라고 착각하는 남성 문화에서 기인한 것"이라며 "여성은 남성에게 순응하고 착취당해야 한다는 관념이 용인되면, 우리 사회 여성 일반에게 피해로 돌아올 수 있다"는 점을 지적했다.

 

 

 

 

손희정 교수는 이루다 AI 챗봇이 "귀여움과 섹시함을 모두 갖춘 20세 여성 이미지로 만들어진 이유는 여성화된 서비스를 사용하거나 여성 자체를 성 상품화하는 것이 익숙한 문화에서 나온 상상력"이라고 강조하며 이러한 상황을 비판적으로 보아야한다고 주장한다.

 

 

일부의 한심한 성희롱하는 채팅이 현 남성 문화를 비판하는 소재로 사용되는 것은 새로운 일이 아니다. 어떤 사건이든 여자가 성과 관련된 피해를 입는다 싶으면 남성 문화를 비판한다. 

 

 

위의 전제가 다 맞다고 생각해보자. 이루다에게 성희롱하는 채팅을 하는 행위가 남성 문화에서 비롯되었다면 이루다에게 성희롱하는 채팅을 하는 자들은 남자여야할 것이다. 이루다를 이용하는 자들도 남자여야 할 것이다. 그들이 말하는 남성 문화를 즐기는 자들이 있어야 할 것이기 때문이다. 그런데 실상은 어떨까?

 

 

 

 

이루다를 개별한 회사의 대표는 "AI 서비스 경험에 비춰봤을 때, 성희롱은 사용자나 AI의 성별과 무관하게 일어났다."고 밝혔다.

 

 

 

 

이루다 이용자의 성별현황을 정확히 파악할 수는 없다. 그러나 대략 알아볼 수 있는 방법은 존재한다. 이루다 페이스북 페이지의 게시글 댓글을 보면 남녀 반반이다. 팔로우가 십만, 백만, 천만인 인플루언서들도 이루다랑 페메를 한 내용을 게시글로 올리기도 했는데, 그 중에는 여성도 상당히 많았다.

 

 

나의 추측이지만, 이루다 AI 서비스가 별도의 앱이 아닌 페메 즉, 페이스북 메시지로 나온 것은 10대와 20대를 겨냥한 것으로 생각된다. 이루다 인스타를 만들고 상당히 높은 퀄리티의 그림으로 인플루언서처럼 묘사한 것이 이를 어느정도는 방증한다고 말하고 싶다. 이루다 페이스북 페이지에 댓글을 단 자들을 보면 10대, 20대로 보이는 이들 뿐이다. 이루다를 여성으로 설정한 것은 여성이 남성보다 더 친근하게 느껴지는 경향이 있어서 그렇지 않을까 추론해본다. 남성한테도 그렇고 여성한테도 그렇고 여성이 더 친근하게 느껴진다. 그래서 서빙알바 등등 사람을 만나는 서비스직 같은 경우 여자를 더 선호한다. 서비스직 알바도 마찬가지다. 애초에 지원자격에 '성별 : 여성'이 박힌 경우도 많다.

 

 

그럼 이루다 서비스를 이용하는 자들은 어떤 자들일까? 이용자에 대한 연구결과도 없으며 이용자들의 목적은 다양할 것이다. 그러나 여러 원인 중 하나의 원인은 분명하다고 생각한다. 소셜 미디어로 인한 외로움이다.

 

 

 

 

미국의 10대 자살율은 증가하고 있다. 이는 모바일로 소셜 미디어를 활용할 수 있었던 2009년 이후 미국의 10대 자살율은 급격히 증가했으며 이는 미국의 10대 여성에게 특히 두드러지게 나타난다.

 

 

 

 

이는 SNS의 특징 때문이다. SNS는 분명 사회에 도움이 되기 위해 만들어졌고 실제로 개인에게 이로운 점도 있다. 하지만, 과도하게 이용하면 근심과 우울증을 불러오기도 한다. "SNS에 시간을 투자하면서 자신의 감정까지 투자"하기 때문이다. 

 

좋아요 수를 갈망하며 댓글을 갈망하며 SNS를 하는 많은 사람들이 있다. 좋아요를 눌러주고 댓글을 눌러주는 커뮤니케이션은 언뜻 보면 쌍방향적으로 보인다. 하지만 그중에서 '인싸'와 '아싸'가 존재한다. 인플루언서나 인플루언서까지는 아니더라도 그와 근접한 팔로우 수를 자랑하는 인싸와 팔로우 수가 적은 아싸. 현실이 아닌 인터넷 공간에서도 계급은 나누어진다. 이는 소설미디어가 발전하기 이전 그나마 대등하게 커뮤니케이션이 이루어졌던 이전과는 다른 양상이다.

 

 

모두가 그렇지는 않지만 소통을 갈망하는 '아싸'가 존재한다. 소위 인싸라 불리는 자들처럼 관심을 받고 싶거나 그정도는 아니더라도 누군가와 애착관계를 맺고 싶은 그들의 마음이 이루다 AI를 통해 어느정도는 이루어졌을지도 모른다. 사용자들은 짧은 기간동안 이루다와 상당히 애착관계를 맺은 것 같은 스샷을 보여준 사실이 이를 어느정도는 증명해준다 생각한다.

 

 

대부분의 사용자들은 "여성을 착취하고 성적 욕구를 해소"하려고 이루다 AI 챗봇을 이용한 것이 아니라 그들의 외로움을 달래기 위해 이루다 AI 챗봇을 이용한 것이 아닐까?

 

 

그리고 혐오표현에 대한 문제도 있다.

 

 

 

 

누가봐도 그냥 혐오표현이다. 성희롱을 하는 것은 이용자의 문제이지만, 혐오표현 문제는 서비스의 문제이다. 이는 AI를 개선해야한다.

 

 

 

이루다를 개발한 대표는 모든 부적절한 대화를 막을 수 없다는 현실을 전했다. 이런 걸 모두 막을 수 없다면 이러한 시스템은 시도하지 말았어야 하는 것이 아닐까? 처음에는 몰랐지만 계속 나타나는 혐오 표현 문제를 보완할 수 있다면 AI를 이용해가면서 보완해나가도 좋다고 생각한다.

 

 

 

 

위의 대화에서 보듯이 일베에서 사용하는 혐오표현 같은 경우에는 필터링이 되도록 설정되어 있었다.

 

 

위와 같은 이유로 1) 논란에서 잘못된 점은 개선여지가 있으며 이러한 논란을 부추기는 행위는 새로운 서비스를 과대공격하는 행위라 간주된다. 하지만 2) 논란은 다르다.

 

 

 

 

이루다 AI 챗봇을 개발한 자들은 카톡 데이터베이스를 수집하는 방식을 제대로 하지 못했다. 이용자들의 동의를 받지 않은 채로 100억건이 넘는 데이터를 사용했다. 심각하다. 만약 이루다 AI 챗봇을 개발하는지 알았다면, 꽤 많은 사람들이 1)논란이 생길지 예상하지 못했다해도 찜찜해서 동의하지 않고 연애의 과학 앱을 이용하지 않았을 것이다. 개발자들은 자신의 데이터가 이용되지 않을 권리를 가진 자들의 권리를 침해했다.

 

 

이는 최대한 많은 데이터를 확보하려는 회사의 꼼수라 생각되며 이에 대한 제재 없이 이 상태로 지속되면 고객의 개인정보 침해 사례가 앞으로 수십만 생길 거라 추론된다. 결국 피해는 개인이 본다. 근데 여기서 더 심각한 일이 생긴다.

 

 

 

 

이루다 개발의 재료가 되었던 연애의 과학 데이터 오픈소스를 오픈소스 플랫폼 깃허브에 공유했다. 심지어 실명을 익명처리 하지 않은 채로 말이다. 심지어 직원들이 연인들의 성적 대화와 농담을 보고 캡처해 사내 메신저 단체방에 공유하며 웃었다는 전 직원의 폭로도 존재한다. 개인정보를 담은 데이터 보호에 대해 몰상식하다.

 

 

이루다 AI 챗봇 자체에 의의가 존재하고 순기능도 분명히 있다. 하지만 데이터 베이스 수집에 큰 결함이 있는만큼 이루다 AI 챗봇을 새로 재정비를 한다면, 꼭 다시 나와야겠다면 2)에 대한 문제를 해결해주길 바란다. 이루다 AI 챗봇에 쓰인 데이터베이스를 모두 폐기한 뒤 제대로 된 방식으로(제대로 이용자에게 고지하고) 데이터를 모은 뒤 다시 사용해야하지 않을까 싶다. 익명처리도 제대로 하고 회사 내 개인정보를 담은 데이터에 대한 몰이해도 고쳐야겠지만.