본문 바로가기

본문

[노트북을 열며] 인공지능 ‘알파스타’는 GG를 치지 않았다

중앙일보 2019.02.14 00:27 종합 30면 지면보기
손해용 경제정책팀장

손해용 경제정책팀장

다른 이슈에 묻혀 주목받지 못한 뉴스가 하나 있다. ‘알파고’로 바둑계를 평정한 구글 딥마인드가 개발한 스타크래프트(이하 스타) 인공지능(AI) ‘알파스타’가 프로게이머를 꺾었다는 소식이다. 스타의 ‘경우의 수’는 바둑과 마찬가지로 무한대. 여기에 넓은 전장에서 수백 가지의 유닛·건물을 동시에 제어해야 하기에 AI가 넘볼 수 없는 영역으로 여겨왔다. 하지만 11번의 인간과의 대전에서 알파스타는 10승 1패의 압승을 거뒀다.
 
경기를 뜯어보면 변칙적인 착점으로 프로 바둑기사를 당황케 한 알파고를 연상시킨다. 프로게이머는 보통 본진 입구에 ‘관문’을 짓고 초반 공격을 방어한다. 하지만 알파스타는 입구 대신 ‘미네랄’ 옆에 지었다. 정교한 컨트롤이 힘들어 인간은 잘 사용하지 않은 ‘분열기’를 활용하는 모습도 인상적이다.
 
주목할 점은 알파스타가 패배한 경기에서 전세가 한참 기울었음에도 GG(스스로 경기에 패배했음을 인정하는 말로, 스타의 기본 매너)를 선언하지 않았다는 점이다. 결국 스타의 시스템상 알파스타의 건물과 유닛이 모두 파괴당할 때까지 의미 없는 경기가 이어졌다. 알파스타가 인간이었다면 ‘매너가 없다’고 욕을 먹을 일이다.
 
AI가 인간의 예절과 윤리에 어긋나는 행동을 보여 물의를 빚은 사례는 많다. 아마존은 2014년부터 비밀리에 AI를 활용한 채용 프로그램을 개발해오다 최근 이를 접었다. 이 프로그램은 입사지원서를 약 5만 개 키워드로 분석해 최상의 조건을 갖춘 지원자를 가려낸다. 문제는 이 AI가 ‘여성’이라는 단어가 들어가면 선택을 배제했다는 점이다. 남성이 많은 정보기술(IT) 기업에 축적된 인사 데이터를 학습하다 보니 AI가 ‘남성 편향적’으로 서류 분류를 했다는 분석이다.
 
MIT대 미디어랩에 따르면 사진 분류 AI는 백인일 경우 인간임을 99%의 정확도로 맞추지만 흑인은 최고 35%까지 에러가 발생했다. 마이크로소프트의 챗봇 테이는 일부 사용자들의 악의적인 교육으로 욕설과 인종차별 발언을 내뱉어 운영이 중단되기도 했다.
 
알프레드 노벨은 광산채굴 노동자를 위해 만든 다이너마이트가 대량 살상 무기가 되리라곤 상상도 못했다. 우리 생활을 빠른 속도로 파고드는 AI도 비슷한 전철을 밟을 공산이 크다. 설정된 목표만 수행하는 AI는 인간의 존엄성이나 생명·윤리에 대한 가치판단을 기대할 수 없기 때문이다.
 
우주 물리학자 스티븐 호킹, 알파고를 개발한 데미스 허사비스, 테슬라의 최고경영자 일론 머스크 등이 모여 만든 ‘아실로마 AI 원칙’이 시사하는 바가 크다. AI의 윤리와 가치에 대해 규정한 10항의 내용은 이렇다. ‘고도의 AI는 목표와 행동이 인간의 가치와 일치하도록 설계되어야 한다’ 
 
손해용 경제정책팀장
공유하기

Innovation Lab

Branded Content

광고 닫기