본문 바로가기

본문

[책 속으로] 인간을 넘어서는 인공지능 … 피할 수 없다면 대비하라

중앙일보 2017.12.09 01:00 종합 24면 지면보기
DEEP INSIDE │ '라이프 3.0'이 예측한 인공지능과 인류의 미래

라이프 3.0

라이프 3.0

라이프 3.0
맥스 테그마크 지음
백우진 옮김, 동아시아
 
“초지능-우주 오딧세이(파이낸셜 타임스)” "미래는 초지능의 시대(네이처)” "물리학자가 탐구한 인공지능의 미래(사이언스)” "기계가 통제하는 사회, 반드시 나쁘지는 않다(가디언)”
 
지난 8월 미국에서 출간된 『라이프 3.0』은 영미 언론의 큰 주목을 받았다. 지은이는 MIT에 재직 중인 물리학자이자 ‘생명의 미래 연구소(Future of Life Institute)’ 공동 설립자. 연구소의 모토는 "기술은 생명이 전례 없이 번성할 잠재력을 제공하고 있다. 생명이 스스로를 파괴할 잠재력 역시 마찬가지다. 우리가 변화를 만들어 나가자!” 이 책이 전달하려는 중요 메시지다.
 
지은이는 인공지능(AI)이 가져올 미래에 대해 극히 낙관적이다. 지구를 벗어나 은하계 너머까지 생명이 퍼져나갈 무한한 가능성에 2개 장 약 110쪽을 할애할 정도다.
 
그는 또한 위험을 경고하는 데도 적극적이다. 인류는 인공지능의 시대에 이미 들어섰기 때문이다. 미국에서는 구글과 테슬라의 자율주행차가 운행 중이고 IBM의 인공지능 ‘왓슨’은 의료와 대학행정 등 분야에서 진즉에 사용되고 있다. 무엇보다 인공지능이 인공지능을 설계하는 시대도 열리고 있다.
 
지난 10월 구글은 자신들의 기계학습 소프트웨어로 하여금 뛰어난 ‘자식’ 기계학습 소프트웨어를 만들게 하는 데 성공했다고 발표했다. 자동화 기계학습(AutoML) 프로젝트에서 설계한 이미지 인식 소프트웨어(NASNet) 얘기다. 기존에 인간이 만든 최고의 프로그램보다 4% 포인트 높은 인식률을 보였다고 한다.
 
초지능 AI가 다른 태양계나 은하계에 정착한 뒤 인간을 불러오는 것은 쉽다. 다만 AI가 이런 목적을 갖도록 인간이 AI를 제어하거나 통제할 수 있어야 한다는 전제 조건을 지켜야 한다. [사진 동아시아]

초지능 AI가 다른 태양계나 은하계에 정착한 뒤 인간을 불러오는 것은 쉽다. 다만 AI가 이런 목적을 갖도록 인간이 AI를 제어하거나 통제할 수 있어야 한다는 전제 조건을 지켜야 한다. [사진 동아시아]

그렇다면 언젠가 인간과 동등한 수준의 보편적 인공지능이 만들어질 가능성도 배제할 수 없다. 일단 그 단계에 도달하면 프로그램의 성능은 기하급수적으로 개선될 것이다. 자신이 자신의 정보처리 능력을 개선하는 과정이 반복될 것이기 때문이다. 바로 옥스포드대학 철학교수 닉 보스트롬이 『슈퍼인텔리전스』에서 제시한 특이점이다.
 
책의 핵심은 인공지능이 가지는 목표가 우리와 일치해야 한다는 것이다. "범용인공지능(AGI)의 진정한 위험은 악의가 아니라 능력이다. 인간을 넘어서는 AI는 자신의 목표를 아주 잘 달성할 수 있을 텐데, 만일 이들 목표가 우리의 것과 일치하지 않는다면 우리는 곤경에 빠질 것이다.”
 
책은 『슈퍼인텔리전스』와 공통점이 많다. 다른 점은 초지능의 위험이 피할 수 없는 것이라는 증명을 시도하지 않는다는 것이다. 빡빡한 철학적 설명 대신 그는 어느 시나리오가 더욱 가능성이 크고 바람직한지를 생각해보라고 요구한다.
 
AI의 미래 역할에 대한 전문가의 의견은 저마다 다르다. 지은이는 구글의 창업자 래리 페이지를 디지털 이상주의자로 분류한다. 인공지능이 발달해 인간 수준에 이르는 것은 시간문제이며, 그것은 인류의 번영을 보장한다는 입장이다. 『마음의 아이들』을 쓴 한스 모라벡이나 『특이점이 온다』의 레이 커즈와일이 여기에 속한다.
 
이에 대해 기술 회의론자들은 그렇게 고도로 발달한 AI는 등장하지 않을 것이라고 주장한다. 중국 바이두의 수석 과학자인 앤드루 응이나 여러 산업용 로봇을 개발한 MIT 교수 로드니 브룩스가 여기에 속한다. 이들은 인간 수준의 능력을 지닌 인공지능은 사실상 불가능하거나 수백 년이 지난 뒤에야 등장할 것이라고 본다.
 
지은이의 입장은 초지능의 등장을 확언할 수도, 배제할 수도 없다는 것이다. "앞으로 몇십 년 내에 뭔가 정말로 극적인 일이 벌어질 가능성이 있는 상황이라면, 지금은 그 일이 좋은 방향이 되도록 준비를 시작하기에 정말로 알맞은 시기다.”
 
맥스 테그마크

맥스 테그마크

생명의 미래 연구소는 지난 8월 소장 맥스 테그마크 인터뷰를 홈페이지에 실었다. 질문자는 연구소 소속의 과학소통 전문가 아리엘 콘이다. 아래는 그 요약.
 
인공지능이 가져올 충격에 대해서는 이미 많은 책이 나와 있다. 이 책의 특별한 점은 무엇인가.
"내가 보기에 대단히 중요한 논점을 대부분의 과학자가 놓치고 있다. 문제는 이것이다. 일단 우리의 기계가 모든 방면에서 우리를 능가하게 되면 어떤 일이 일어날 것인가? 우리의 생애 내에 초인적 인공지능이 나타날 것인가? 이것을 통제하는 것은 가능하고 바람직한가. 만약 그렇다면 누가 통제할 것인가? 인류는 인공지능의 시대에 살아남을 수 있을까? 만일 초지능이 우리에게 필요한 모든 것을 제공하고 우리가 기여할 것이 전혀 없게 된다면 어떻게 될까. 우리 자신의 의미와 목적은 어떻게 찾을 수 있을까. 나는 인류가 AI와 함께 멋진 미래를 창조할 가능성을 낙관적으로 본다. 하지만 이런 일은 저절로 이뤄지지 않는다. 우리는 처음부터 일을 제대로 하고 싶다. 처음 이후에는 기회가 없을지 모르기 때문이다.”
 
그다지 걱정할 것 없다고 말하는 AI 연구자들이 여전히 많다. 그들에게 뭐라고 대답하고 싶은가?
"세계의 주요 연구자들이 의견을 완전히 달리하는 근본적인 질문이 두 개 존재한다. 첫째, 초인적 범용 인공지능이 가능하기는 한가. 만일 가능하다면 우리는 언제 그것을 가지게 될 것인가? 일부에서는 그런 일이 결코 일어나지 않는다거나 앞으로 수 백 년이 걸려야 가능하다고 본다. 다른 많은 사람은 ‘앞으로 몇십년’이라고 생각한다.
둘째, 만일 인간 수준을 넘어서는 인공지능을 갖게 된다면 어떤 일이 일어날 것인가? 진지한 연구자 중 많은 사람의 견해는 “이것이 실현된다면 최고로 좋은 일이 될 수 있지만 막대한 문제를 낳을 가능성도 존재한다”는 것이다. 내 관심사는 일이 잘될 가능성을 높이기 위해 오늘 우리가 구체적으로 할 수 있는 일이 무엇이냐고 묻는 데 있다.”
 
장단기 위험 중 어느 쪽에 집중해야 하느냐와 관련한 논쟁도 매우 많다.
"양쪽에 모두 초점을 맞춰야 한다. 단기적 문제의 예를 들자면 다음과 같다. 오류가 없고 맡겨진 일을 제대로 하며 해킹을 당하지 않는 컴퓨터를 어떻게 하면 만들 수 있을 것인가? 장기적으로는 당신이 원하는 일을 하리라고 당신이 신뢰할 수 있는 초지능 기계를 도대체 어떻게 하면 만들 수 있을까?”
 
초지능이 등장한 미래 사회와 관련해 당신이 희망하는 것과 두려워하는 것에 대해 설명해달라.
"우리에게는 긍정적 전망이 정말로 필요하다. 만일 우리가 빈곤과 질병 등을 몰아내기에 충분한 지능을 손에 넣게 된다면 그때 우리는 어떤 종류의 사회를 갖고 싶어할까? 만일 인공지능이 이런 과제를 해결하는 데 우리를 도와줄 수 있는 것으로 밝혀진다면 우리가 원하는 것은 무엇인가? 만일 우리가 매우 강력한 인공지능을 갖게 된다면 이들의 목표가 우리와 일치하는 것은 결정적으로 중요하다. 마지막으로, 이런 기계들이 지속적으로 가지는 목표는 어떤 것이 되어야 할까? 이것은 어떤 방식으로 결정되어야 할까. 이 논의에는 모든 사람이 참가해야 한다. 모두의 미래가 걸려 있기 때문이다.”
 
왜 그리고 언제 우리는 실제로 일어날 가능성이 낮은 결과에 신경을 써야 하는가?
"결국에는 인간의 지능을 기계가 복제하는 날이 올 것이다. 나를 비롯해 인공지능 연구자 대부분은 그 가능성이 매우 낮다고 보지 않는다. 중요한 질문은 ‘언제’ 그 시기가 당도하느냐는 것이다. 우리가 인간 수준의 인간 지능을 만드는 데 접근하기 시작하면 거대한 판도라 상자와 만나게 된다. 우리는 이 상자를 매우 조심스럽게 열고 싶다. 그리고 충분한 보호수단을 사전에 확실히 갖춰놓고 싶다.”
 
조현욱 ‘과학과 소통’ 대표 
 
◆ 맥스 테그마크는
다중우주론 분야에서 최고 권위를 지닌 물리학자다. 미국 캘리포니아 아실로마에서 앞으로 이루어질 AI 연구의 윤리 기준을 제시한 ‘아실로마 AI 원칙’을 발표했다. 국내에선 지난 4월 우주를 수학적으로 해석한 『맥스 테그마크의 유니버스(Our Mathematical Universe)』를 출간했다. 2014년 생명의 미래 연구소를 공동 설립했다. 연구소는 일론 머스크 테슬라 CEO 등으로부터 수천만 달러를 기부받아 인공지능이 인류에 이롭게 사용될 수 있도록 지원하는 일에 앞장서고 있다.

Innovation Lab

Branded Content

트렌드뉴스

많이 본 뉴스
댓글 많은 기사