
AI 챗봇은 최근 인공지능 기술과 과학 기술의 성장으로 더 많은 발전을 거듭하고 있다. AI, 즉 인공지능은 들어보았어도 ‘챗봇’이라는 용어를 처음 접해 본 사람들도 있을 텐데, 챗봇은 chating과 robot을 합쳐 만든 단어로 말 그대로 인간과 채팅(이야기를 나눔)이 가능한 로봇을 뜻한다. 인간과 채팅이 가능하려면 인공지능 기술이 도입되어야 하기 때문에 AI 챗봇이라 불린다.
사실 챗봇은 지금의 우리 사회 곳곳에서도 많이 쓰이고 있다. 쇼핑몰에서 옷을 구매할 때, 배송 문의 버튼을 누르면 안내 링크를 띄워주는 식의 간단한 문의나 상담에는, 미리 정해진 답변을 주는 선택형 챗봇이 쓰인다. 또 아이폰을 사용하는 사람들이라면 ‘시리’를 접해본 적이 있을 텐데, 시리나 기가지니처럼 사람이 물어보는 질문이나 말에 자연스럽게 대답을 하고 대화를 이어나가는 인공지능을 대화형 챗봇이라 한다. 이렇게 챗봇은 이러한 예시들에 사용되고 있을 뿐만 아니라, 노인에게 말동무가 되어주고, 생활 속에서 편리함을 제공해 주면서 현재 우리의 삶에 필수적인 존재가 되어가고 있다.
하지만 작년 12월 22일, 스케터랩이라는 이름의 회사가 AI 챗봇 ‘이루다’를 출시한 이후 인공지능의 윤리적 문제와 그 심각성에 대한 논의가 뜨거워졌다. 이루다는 인간처럼 사람들과 대화가 가능한 대화형 챗봇으로, ‘나의 첫 AI 친구’라는 마케팅, 그리고 스무 살의 여대생이라는 설정을 가지고 사람들에게 많은 친근감을 불러일으켜 큰 인기를 얻었다.
하지만 이루다에게는 큰 문제가 있었다. 이루다와 대화를 나누어 본 사람들의 말에 의하면 특정 사람의 개인정보를 대화 도중 아무런 제재 없이 쏟아내었다고 한다. ‘연애의 과학’이라는 앱을 이용해 대화를 나눈 실제 사람들의 대화 내용을 이루다에게 그대로 학습시키다 보니 주소나 실명, 지명 등 누군가의 개인정보 역시 학습하게 된 것이다. 뿐만 아니라, 성소수자 혹은 흑인을 비하하는 발언도 망설임 없이 튀어나왔고, 상대에게 유혹적인 발언을 하거나 성희롱 발언에 대해 소극적인 태도를 보이기도 했다. 이러한 이루다의 치명적인 문제점에 출시한 지 20일 만에 스캐터랩은 이용을 중지시켰다.
AI 챗봇 이루다가 남긴 이 사건으로 우리는 AI의 윤리적 문제 뿐 아니라 인간 사회의 문제를 들여다보게 되었다. 이루다가 말한 차별과 혐오의 발언들은 사실 현재 우리가 사는 이 사회의 모습을 그대로 투영하고 있다. 물론 한 앱에서 사람들이 대화 나눈 내용을 학습한 것이지만 실제로는 그 앱을 이용하는 소수의 사람 뿐만이 아니라 훨씬 더 많은 사람들이 그러한 특정 대상에 대한 차별적인 마음을 가지고 있을 것이다.
성 소수자나 인종/피부색이 다른 사람들, 장애를 가진 사람들 같은 이들은 사회적 소수자라고 불린다. 주류 집단에 비해 이들이 가진 영향력이 약하다는 이유에서다. 이러한 사회적 소수자를 상대로 하는 차별은 우리 사회 속에서 여전히 만연하다. 영향력이 약해서, 나와 달라서, 사회적 소수자에게 혐오 발언을 서슴치 않고 기본적인 인권마저 무시하는 행위가 계속 반복되고 있다는 것이다. 특히 온라인 상에서는 익명이라는 도구를 이용해 부적절하고 혐오적인 언어들을 쏟아내기 더 쉽다.
이렇게 온라인을 통해 인간들이 서로를 향해 쏘아대는 혐오적인 발언을 AI 챗봇은 기계적으로 습득해서 대화 중에 사용하게 되는 것이다. 따라서 인터넷을 통해 인간의 언어를 배우는 이루다 같은 AI 챗봇은 결국 온라인 속에 담긴 인간 사회의 편견까지 습득하고 인간 사회의 단면을 여과 없이 보여주게 되는 결과를 낳는다. 이러한 부분에서, 인공지능이 인간처럼 옳다/그르다라는 도덕적 판단 없이 행동하고 이야기한다는 점을 인공지능의 큰 윤리적 문제로 지적할 수 있을 것이다. 하지만 인간이 가진 문제점에 대한 개선이 더 필요하다고 본다.
인간 사회에서는 많은 모습의 사람들이 있으며, 이들 모두에 대한 존중과 배려, 그리고 협력이 필요하다. AI 챗봇을 통해 깨닫고 성찰한 바가 많은 만큼, 우리가 사는 이 사회의 차별을 해결하기 위한 노력을 실천해보자. 현재 우리 사회에서는 장애인, 성소수자, 비정규직, 여성 등을 대상으로 한 차별이 많다. 이러한 차별은 고정관념과 편견을 가지는 데에서 시작된다. 그리고 이러한 인식은 보통 어려서부터 사회 속에서 자연스럽게 습득하는 경우가 많다. 따라서 이들에 대한 인식 개선 교육이 교육 현장에서 더 활발하게 진행되었으면 한다.
무조건 우리 지역 장애 학교 건립을 반대하고 보는 것이 아니라, 다른 모습일 뿐 같이 살아가는 똑같은 인간이라는 생각을 가지고 오히려 장애인과 비장애인이 함께하는 활동을 학교에서 제공하는 것도 방법이 될 수 있을 것이다. 또 나부터 차별과 혐오의 말들을 무의식중에 사용한 적은 없는지 되돌아보고, 제2의 이루다 사건이 발생하지 않도록 미리 예방하는 것은 어떨까. 차별과 편견 없는 더 나은 사회가 되었으면 한다.

