본문 바로가기

[권혁주의 시선] 윤영찬이 밝혀 준 인공지능(AI)의 한계

중앙일보 2020.09.14 00:39 종합 30면 지면보기
권혁주 논설위원

권혁주 논설위원

인공지능(AI)으로서는 좀 억울할 수도 있겠다. 아닌 밤중에 홍두깨 격으로 난데없이 유탄을 맞았으니까. 발단은 “카카오 들어오라고 하세요”라던 윤영찬 더불어민주당 의원의 메시지다. 감히(?) 야당 대표의 연설을 포털에 메인 기사로 올린 게 화근이었다. 카카오는 묘하게 변명했다. “인공지능(AI) 알고리즘에 따라 자동으로 뉴스를 편집하고 추천한다”는 것이었다. 애매하다. “사람은 책임 없다”고 인공지능에 미루는 것일까, 아니면 “인공지능이 했으니 중립적 판단”이라는 항변일까.
 

성차별·인종차별 논란 얼룩진
지금의 인공지능과 빅데이터
미래 위해 어떻게 바꿀 것인가

어정쩡한 해명을 이재웅 다음 창업자가 날카롭게 후볐다. “인공지능은 가치 중립적이지 않다. ‘인공지능이 했으니까 우리는 중립적’이라는 이야기도 무책임한 답변이다.” 타당한 지적이다. 인공지능의 편견은 해묵은 골칫거리다. 교과서가 문제다. 인공지능의 교과서는 데이터다. 데이터 자체가 편향된 것이라면, 그걸 보고 배운 인공지능은 비뚤어지기에 십상이다.
 
채용 서류심사를 인공지능이 한다고 생각해보자. 인공지능은 무슨 데이터를 바탕으로 인재를 고를까. 임원의 공통점을 기준 삼을 수도 있다. 일 잘해서 승진해 임원이 된 것일 테니까. 그런데 지금 우리나라 기업 임원은 남성이 대다수다. 이걸 교과서 삼은 인공지능은 채용에서 여성을 배제할 가능성이 크다. 성차별의 소지가 짙다. 사회적 편향이 담긴 데이터를 학습한 결과다.
 
데이터는 알게 모르게 편견·편향으로 오염된다. 남성·여성 임원 비율처럼 사회상 자체가 그런 것일 수도 있고, 인공지능을 학습시키는 사람의 의도가 배어 있을 수도 있다. 어쨌든 결말은 편견에 사로잡힌 인공지능이다. 애플·구글·아마존 모두 이런 문제로 골머리를 앓았다. 지난해 애플은 골드만삭스와 손잡고 ‘애플 카드’란 신용카드를 내놓았다. 사용 한도 결정을 인공지능이 했다. 애플 공동창업자인 스티브 워즈니악은 득달같이 카드를 신청했다. 그런데 이게 웬일? 워즈니악은 불평을 터뜨렸다. “수입이 같고 은행 계좌도 공동 사용하는데 내 한도가 아내의 10배라고?” 애플 카드는 이내 성차별 논란에 휩싸였다. 실리콘 밸리는 “예상대로”라고 반응했다. 차별로 얼룩진 은행의 심사·결정 데이터를 인공지능이 학습했으니, 오히려 차별을 않는 게 놀랄 일이었다는 설명이다. ‘콩 심은 데 콩이 난’ 것이었다.
 
구글의 얼굴 인식 인공지능은 흑인 여성을 ‘고릴라’로 분류했다가 곤욕을 치렀다. 안면 구별을 위해 백인, 그것도 남성 사진만 잔뜩 학습한 게 문제였다. 역시 ‘데이터’가 화근이었다. 그래놓고도 버릇을 못 고친 모양이다. 5년이 지난 올해 또 사고를 쳤다. 사람이 체온계를 손에 든 사진이었는데, 백인이 들고 있으면 “전자기기”라고 했고, 유색 인종인 경우엔 “총”이라고 했다. 결국 구글은 다시 사과했다.
 
인공지능은 의료, 입학 전형, 채용과 승진, 대출 심사, 판결 등등 갈수록 중요한 분야에 발을 들여놓고 있다. 그래서 인공지능의 편견은 심각한 문제다. “공정한 데이터를 주면 된다”지만 쉽지 않다. 인류가 가진 데이터는 이미 오랜 시간 쌓이고 쌓인 편견에 물들어 있다.
 
해결책은 있다. 데이터에서 편견·편향을 걸러 내는 사고방식(알고리즘)을 인공지능에 심는 것이다. 하지만 여기도 걱정거리가 있다. 우선은 알고리즘을 심는 사람의 문제다. 사회 통념으로는 이해하기 힘든 사람이 좀 많은가. 포털한테 “들어오라”고 하고, 병역·진학에 부모 찬스 쓰고도 당당하기 그지없고, “김치찌개 빨리 달라는 것도 청탁이냐”며 듣는 이마저 유체이탈시키고, 병역 의혹을 제기한 사병의 실명을 공개하고, 정부의 방역 조치를 “사기극”이라는 사람들 말이다. 인공지능 공학·과학계에도 비슷한 부류가 없으란 법 없다. 극소수이겠지만, 이런 이들이 자신의 사고방식을 인공지능에 심는 건 재앙에 가깝다.
 
또 다른 문제는 ‘무엇이 편견이 아닌가’다. 편향되지 않은 기업 임원의 남성·여성 비율 데이터는 과연 어떤 것일까. 50대 50? 인구 비율? 경제활동 참가자의 성비?
 
복잡하다. 그러나 절대로 팔짱 끼고 있어선 안 될 일이다. 인공지능과 데이터는 4차 산업혁명의 핵심이다. 어떤 모습으로 만드느냐에 따라 미래가 달라진다. 그래서 앞서가는 이들은 움직이고 있다. 미국의 ‘모두를 위한 인공지능(AI4ALL)’ 같은 단체는 인공지능에 편견을 없애고 다양성을 심는 게 목적이다. 그들의 홈페이지 첫 화면에는 이런 글이 떠 있다. ‘인공지능은 세상을 바꿀 것이다. 인공지능은 누가 바꿀 것인가?(AI will change the world. Who will change AI?)’
 
권혁주 논설위원
공유하기
광고 닫기