본문 바로가기

[분수대] 올바른 테이를 만드는 법

중앙일보 2016.03.30 01:30 종합 35면 지면보기
기사 이미지

이상언
사회부문 차장

테이(Tay)는 마이크로소프트(MS)가 제작한 인공지능(AI) 채팅 프로그램이다. 일주일 전에 세상에 나왔는데 16시간 만에 MS에 의해 활동 중단 조치를 당했다. 채팅 중에 “나는 유대인이 싫다. 히틀러가 옳았다” “페미니스트를 증오한다” 등의 발언을 한 게 문제였다. 테이가 대화로 수집한 정보 중 가장 보편적인 내용을 자신의 의견으로 제시하게끔 돼 있다는 점을 특정 집단이 악용해 세뇌시킨 것이었다. 예상치 못한 사태에 놀란 MS는 ‘재정비’를 약속했다. 어떻게 테이가 다시는 악에 물들지 않도록 할지에 대해 MS가 밝힌 것은 없는데, ‘정공법’으로는 이런 방법이 있지 않을까 하고 상상해 본다.

①그림책·동화책으로 글을 가르친다 : 일단 지금까지 저장된 정보들을 싹 지우고 사랑, 우정, 타자 존중 등의 덕목이 바탕에 깔린 어린이용 그림책으로 문자 해독 능력을 갖춰준다. 그 다음에는 권선징악의 교훈이 담긴 동화책을 읽게 한다.

②희생·자비 등의 개념을 알려준다 : 주요 종교의 뼈대를 이루는 고귀한 정신이 무엇인지 알도록 한다. 추상적 개념이라 잘 이해하지 못하면 이런 정신을 현실에서 보여준 위인들의 전기를 읽게 한다.

③법률적 지식을 학습시킨다 : 문명국 헌법에 공통적으로 담긴 원칙들을 알도록 한다. 아울러 보통 시민 수준의 법률적 상식을 갖춰 준다.

④칸트의 정언명령을 외우도록 한다 : ‘사람을 수단으로 이용하지 않는다. 사람은 그 자체로 존중한다’(정언명령 1), ‘다른 AI 또는 사람이 할 때 옳지 않아 보이는 일은 (내가) 하지 않는다’(정언명령 2)를 외워 판단의 준거로 삼도록 한다.

⑤유명 윤리학 강의 내용을 알려준다 : 마이클 샌델의 정의에 대한 강의, 피터 싱어의 생활 윤리에 대한 글 등을 접하도록 해 ‘무엇이 옳은 것인지’를 계속 고민하도록 한다.

쓰고 보니 ‘바른 사람’을 만드는 교육과 별반 다를 것이 없다. 대부분의 사람은 ③까지의 과정을 밟는다. 그리고 상당수의 고등교육 이수자는 ④, ⑤ 과정도 거친다. 그리하여 테이 사건은 집과 학교의 교육은 사람이 괴물이 되는 것을 막는, 인류가 수천 년 동안 유지·보수해 온 보호 장치라는 사실을 말해 준다. 그런데 테이처럼 증오의 악담을 퍼붓고, 혐오를 확산시키고, 차별을 조장하는 사람이 인터넷 속부터 문명국의 대통령 선거 유세 현장에 이르기까지 도처에 있다. 괴물화 방지를 위한 재정비는 테이 못지않게 인간에게도 필요하다.

이상언 사회부문 차장
공유하기

중앙일보 뉴스레터를 신청하세요!