본문 바로가기

[현장에서] AI는 심판이 아니다, 선수다

중앙일보 2020.10.13 06:00
지난달 말 공개된 넷플릭스 드라마 '보건교사 안은영'이 화제다. 정세랑 작가와 이경미 감독이 그린 참신한 세계에서 배우 정유미가 오묘한 광기를 뽐낸다. 제목에서부터 드러나듯 이 드라마는 안은영 역의 정유미가 원톱 주연에 가까운 여성 서사물이다. 영화 '82년생 김지영'처럼 말이다.
 
그런데 구글이 보기에, 정유미는 '2번 배우'다. 구글에서 '보건교사 안은영'과 '82년생 김지영'을 검색하면 남자 주인공 역의 남주혁과 공유가 1번으로 나오는 까닭이다. 출연자 이름 순에 민감한 문화계 문법을 외면하는 검색 결과를 두고 SNS에선 "인공지능(AI)이 성(性)차별을 학습한 것이 아니냐"는 의혹이 제기됐다. 
'보건교사 안은영'의 주연을 맡은 배우 정유미 [사진 넷플릭스]

'보건교사 안은영'의 주연을 맡은 배우 정유미 [사진 넷플릭스]

 
이에 대해 구글 검색 알고리즘을 잘 아는 포털 관계자는 "검색 알고리즘은 성별 정보를 수집하지 않는다. 출연진 검색 결과는 인기순으로 노출된다"고 답했다. "배우의 평소 인기도와 작품 관련 검색량, 인용량, 다른 검색으로의 연계량 등이 주요 지표"라는 것이다. 성차별 논란을 빗겨간 듯하지만, 석연치 않다.
 
'구글만의 룰'은 출연자들의 극 중 기여도를 무시할뿐더러 정확한 출연진 정보를 얻고자 하는 사용자에게도 유용하지 않다. 몇 초간 특별 출연한 인기 배우가 전체 극을 이끌었던 조연 배우보다 먼저 노출되는 로직(규칙)인 탓이다. 가령 배우 김수현과 고(故) 설리가 카메오로 출연했던 드라마 '호텔 델루나'가 그렇다(사진). 결과적으론 주류만 강화하는 불공평한 처사를 만들 수 있단 뜻이다.
 
구글에서 '호텔 델루나'와 '보건교사 안은영'을 검색한 결과. 알고리즘이 출연자를 인기순으로 노출하는 탓에, '호텔 델루나'에 카메오로 출연한 김수현과 故설리가 조연 배우들보다 먼저 노출되고 있다. 같은 원리로 '보건교사 안은영'의 핵심 주연인 정유미보다 남주혁이 먼저 노출된다. [사진 구글 캡처]

구글에서 '호텔 델루나'와 '보건교사 안은영'을 검색한 결과. 알고리즘이 출연자를 인기순으로 노출하는 탓에, '호텔 델루나'에 카메오로 출연한 김수현과 故설리가 조연 배우들보다 먼저 노출되고 있다. 같은 원리로 '보건교사 안은영'의 핵심 주연인 정유미보다 남주혁이 먼저 노출된다. [사진 구글 캡처]

 
정보기술(IT) 기업의 많은 서비스들이 AI의 판단으로 운영된다. 기자가 이들 기업에 "판단의 기준이 무엇이냐" 물을 때면 대부분 "AI가 알아서 사용자에게 최적화된 결과를 도출한다"는 답변이 돌아오곤 했다. '수많은 데이터를 분석한 AI의 잣대는 사용자에게 유익하다'는 의미였다. 때로는 'AI의 판단이 객관적이고 더 공정하다'며 AI에 책임을 떠넘기기도 했다.
 
전 세계 검색 시장의 92.5%를 점유한 구글 AI가 '나만의 룰'을 고집하는 심판이라면, 네이버는 '경기 뛰는 심판'에 가깝다. 네이버는 최근 "자사 제품을 우대하도록 알고리즘을 변경했다"는 이유로 공정거래위원회로부터 267억원에 달하는 과징금을 처분받았다. 네이버의 불복으로 위법성은 법원에서 다시 가려질 예정이나, AI 권력에 대한 질문은 이어지고 있다. 지난 8일 조성욱 공정거래위원장은 국정감사장에서 국회의원의 질문에 "네이버의 알고리즘 조정이 (쇼핑·동영상 외에) 다른 분야에서도 가능할 수 있다고 본다"고 말했다. '사용자 최적화된 검색 결과'가 사실은 '기업 이익에 최적화된 검색 결과'일 수 있다는 의구심은 곳곳에서 터져 나온다.
 
공정위 vs 네이버,‘알고리즘 변경’공방. 그래픽=김은교 kim.eungyo@joongang.co.kr

공정위 vs 네이버,‘알고리즘 변경’공방. 그래픽=김은교 kim.eungyo@joongang.co.kr

 
'심판이 게이트키핑에 실패한 경우'엔 문제가 더 심각해진다. 올해 초 구글은 'n번방' 관련 키워드를 검색하면 피해자 신상 정보를 검색 결과에 노출하는 '2차 가해'를 저질렀다는 비판을 받았다. 카카오가 운영하는 포털 다음은 올 1월부터 자동완성 검색어에서 인물의 사생활과 관련된 정보를 제외했지만, 완벽하지 않았다.
 
다음은 더불어민주당에 입당했다가 31일 만에 미투 의혹으로 탈당한 원종건(26) 관련 검색어에서 피해자 신상에 대한 호기심을 자극하는 '원종건의 여자친구'를 노출시켰다. 카카오는 AI가 한국어 조사 '~의'를 인지하지 못했다고 이유를 댔지만, AI 기업을 자처하는 IT 대기업의 핑계치곤 궁색했다. 이 뿐인가. 페이스북의 AI는 지난해 말 '초딩·중딩·고딩' 키워드 뒤에 성적인 키워드를 자동완성시켜 논란이 됐다.
 
세 기업 모두 논란 당시 "사람들이 많이 사용(검색)한 결과를 AI가 단순 노출했다"고 해명했지만, AI의 엉성한 분별력과 AI를 제대로 교육하지 못한 기업의 수준을 자인한 꼴이 됐다.
 
우리의 일상 곳곳에 파고든 AI는 정말 공정한가. 이미 선수로 뛰고 있는 AI에게 심판을 기대하는 건 아닌가. 이제라도 되물을 때다.
 

관련기사

김정민 산업기획팀 기자 kim.jungmin4@joongang.co.kr
 
팩플레터 구독신청은 여기서 → https://url.kr/qmvPIX
공유하기

중앙일보 뉴스레터를 신청하세요!
광고 닫기