본문 바로가기

기계로 인해 세상이 무한 복제된다면 개인이 느끼는 책임감은 제로

중앙일보 2015.02.14 21:41
1917년 10월. 트로츠키(Lev Davidovich Bronstein)는 1000여명의 볼셰비키 적위대원을 이끌고 케렌스키(Alexander Kerensky)의 러시아 임시정부를 무너뜨린다. 인류 역사상 첫 공산주의 정부의 시작이었다. 마르크스와 엥겔스가 꿈꾸던 ‘과학적 사회주의’, 베른슈타인(Eduard Bernstein)과 카우츠키(Karl Kautsky)가 바라던 민주사회주의, 영국의 사상가 로버트 오웬(Robert Owen)의 유토피안 사회주의, 이탈리아의 철학자 토마소 캄파넬라(Tommaso Campanella)의 ‘태양의 도시(La citta del Sole)’, 그리고 영국의 법학자이자 저술가인 토마스 모어(Thomas More)의 유토피아(Utopia, 이상향). 이 모든 것들이 갑자기 가능해 보이던 순간이었다.


김대식의 Big Questions 38 기계는 인류의 희망일까? 저주일까?
인간이 존속하려면 미래기계에게 무조건 잘 보여야 하나?
똑 같은 인간이 70억 명이나 있을 논리적 이유 없다는 미래기계
인공지능 기계에게 인간은 애증이 필요 없는 무의미한 존재일 뿐
기계화 시대에서 원본과 복제의 차이는 주관적 믿음 뿐
기계의 본질은 인과성, 복잡해질수록 수많은 인과관계 존재

이집트의 람세스 2세, 미케네의 아가멤논, 알렉산더 대왕, 나폴레옹…. 수 천, 수 만년 동안 인류의 역사는 언제나 힘센 자와 가진 자의 역사였다. 물론 너무나 당연한 일이다. 르네상스 시대의 이탈리아 철학자 잠바티스타 비코(Giambattista Vico)는 세상의 역사를 신(神)의 역사, 영웅의 역사, 그리고 그 다음에야 인간의 역사라고까지 하지 않았던가. 그렇기에 1917년 10월 수 많은 노동자·농부·군인·아버지·어머니·지식인·예술가·과학자들은 믿었다. 아니, 믿기를 원했을 거다. 혁명을 통해 세상을 바꿀 수 있다고.



세상의 기계화를 꿈꾼 러시아 예술가들

그들은 다른 또 한 가지를 믿었다. 바로 낡고 불평등한 구(舊)세대를 미래기계가 바꾸어 줄 거라고. 공장이 자동화 되고 트랙터로 밭을 갈며 서민들이 비행기로 여행하고 인류를 노동과 억압에서 해방시켜줄 기계들. 종교를 부인하던 러시아 혁명가들에게 기관차는 종교이고 발전기는 예수 그리스도였다. 예술도 예외는 아니었다. 러시아의 화가 카지미르 말레비치(Kazimir Malevich)는 1915년 검은 사각형 하나로만 채워진 캔버스로 세상을 놀라게 했다. 역시 러시아의 화가이자 디자이너인 엘 리시츠키는 레닌을 위해 마치 공장 구조물같이 생긴 연단을 제안한다. 건축가인 블라디미르 타틀린은 공산주의 제3인터내셔널 기념물로 헬릭스(helix, 나선) 형태의 기울어진 탑을 설계했다. 20 세기 초반 영화감독이자 영화이론가로 유명한 세르게이 아이젠슈타인(Sergei Eisenstein)은 영화 ‘전함 포켐킨’(1925년)에서 최초로 몽타주 기법을 보여주기도 했다. 그런가 하면 추상 화가이자 디자이너인 알렉산드라 엑스터는 러시아 명감독 야코프 프로타자노프(Yakov Protazanov)의 세계 최초 공상과학 장편영화 ‘엘리타’에서 고도로 발달된 화성인 문명을 기하학적인 의상을 통해 표현하기도 했다. 결론은 결국 이거다. 그리스·로마 신화, 귀족들의 전쟁, 하얀 대리석, 눈물 흘리는 성모마리아, 백조로 변신해 인간의 여성을 강간하는 신(神). 재탕에 재탕을 거친 낡아빠진 표현과 스타일을 대체할 수 있는 새로운 미학적(美學的) 문법이 필요했다.



러시아의 혁명 예술가들(Constructivism, Suprematism)은 프랑스 입체파(Cubism), 이탈리아 미래파(Futurism), 스위스와 독일의 다다이즘(Dadaism)과도 같이 기하학과 기계에서 미래예술의 혁명적 근원을 찾으려 했다.



혁명이란 과연 무엇인가? 생각해 보자. 만약 컴퓨터를 하루·이틀이 아닌 1년·10년 내내 켜놓는다면? 컴퓨터는 느려지고 사용이 불가능 해진다. 그렇다면 우리는 무엇을 할 수 있을까? Ctrl-ALT-Delete 버튼을 눌러 컴퓨터를 ‘리셋’(reset)할 수 있겠다. 어차피 문제의 원인이 다양해 하나하나 따로 해결할 수 없다면 시스템 그 자체를 재시동 하는 게 정답이란 말이다. 그렇다면 인류의 역사도 비슷한 답을 요구하지 않을까? 하지만 이것이 바로 역사의 아이러니일까? 인류의 문제를 단 한 번에 풀어보려던 대부분의 시도는 잔인할 정도로 무의미한 실패로 끝난다. 러시아 혁명도 다르지 않았다. 무한의 가능성과 희망으로 시작됐던 혁명은 러시아를 하나의 거대한 수용소롤 바꿔버린다. 말레비치·리시츠키·타틀린·아이젠슈타인·엑스터·프로타자노프…. ‘기계스런’ 미학적 문법을 통해 세상을 리셋 하려던 이들은 불과 몇 년 뒤 스탈린의 공산주의 독재아래 모두 사형당하거나 고문당하거나 추방당해 삶과 행복을 송두리째 리셋 당하고 만다.





원본의 ‘아우라’는 착시현상

세상이 기계를 새로운 종교로 숭배하기 시작하던 그때, 3명의 독일 지식인들은 생각한다. 기계화란 무엇인가? 결국 만물이 원인과 결과란 인과(因果)관계를 통해 묶여진다는 말과 동일하지 않은가? 톱니바퀴가 돌기에 바퀴가 돌고, 방아쇠를 당기면 총알이 날아가며, 총알이 날아가 스탈린 독재에 반발하는 예술가의 두개골을 날려버린다. 세상과 인류가 기계화 된다면 인간의 창의성과 자유란 더 이상 무슨 의미가 있을까? 원초적인 것과 우연을 허락하지 않는 기계화. 왜 우리가 그것을 숭배해야 하는가? 독일 태생의 미국 이론 물리학자 앨버트 아인슈타인의 조카이기도 한 예술 평론가 카를 아인슈타인(Carl Einstein, 1885∼1940)은 1912년 『베뷰킨 또는 신비로움의 아마추어들』(Bebuquin oder die Dilettanten des Wunders)이란 소설을 통해 인과관계에 대한 절대찬양을 비판한다. 이 소설은 당시 정말 혁명적인 작품이었다. 문장과 문자의 논리적 관계를 무시하고, 스토리의 전체적 시공간적(視空間的) 흐름을 송두리째 부정했으니 말이다. 그런가 하면 미학자이자 문학비판가인 유대계 독일인 발터 벤야민(Walter Benjamin, 1892∼1940)은 기계화 시대의 무한 복제 가능성을 분석한다. 기계화된 생산, 기계화된 복제. 이런 세상에서 오리지널과 복제의 차이란 무슨 의미일까? 유치원생이 베낀 ‘모나리자’와 프랑스 루브르박물관에 걸려있는 원본은 물론 차별 가능하다. 하지만 워드프로세서로 작성한 파일을 복사판과 구별한다는 것은 무의미해진다. 벤야민은 원본은 복제가 가질 수 없는 ‘아우라’(Aura, 흉내 낼 수 없는 고고한 분위기)를 갖고 있다고 주장한 바 있지만, 결국 아우라는 원본을 원본이라고 인식하는 사람의 뇌에서 만들어지는 착시(錯視)현상에 불과하다. 기계화 시대에서의 원본과 복제의 차이는 더 이상 팩트(fact)도, 객관적 사실도 아닌 인식한 자의 주관적 믿음일 뿐이다. 독일의 철학자이자 미디어 이론가인 귄터 안더스(Guenther Anders, 1902∼1992)는 한발 더 나가 기계화가 가져올 새로운 차원의 주관성을 지적했다. 바로 책임감의 실종이다. 기계의 본질은 인과성이다. 하지만 기계가 복잡해질수록 원인과 최종 결과 사이엔 보이지 않는 수많은 인과관계들이 존재하게 된다. 내 손으로 한 사람을 죽일 때 느끼는 죄책감과 수백만 명을 동시에 살인할 수 있는 핵폭탄을 아늑한 방에 앉아 버튼 하나로 발사할 때 받을 압박감을 비교해 본다면? 기계가 발달하면서 인간의 능력은 기하학적으로 늘어나지만 우리가 느끼는 책임감은 거꾸로 기하학적으로 줄어들어 어느 한 순간 완전히 소멸된다는 말이다. 더구나 기계화가 세상의 복제화를 의미한다면 나란 사람 역시 사회적 복제이지 않은가? 나 자신이 어차피 다른 사람들과 별 차이 없다면 내가 안 하더라도 나와 동일한 다른 사람들이 내가 도덕적으로 회피하는 일을 대신 할 것이다. 그러기에 나 자신도 그 일을 사양할 필요가 없다는 말이다. 사회·정치·도덕적 책임을 무한으로 복제된 자아들 간에 나누는 순간, 개인이 느끼는 실질적 책임감은 0이 돼 버린다.



히틀러처럼 행동하는 인공지능 기계들

세상의 기계화. 러시아 혁명가들에겐 희망의 근원이었으나 벤야민과 안더스에겐 인간성을 위협하는 요소였다. 하지만 그들은 여전히 단지 인간이 기계를 어떻게 사용해야 할지, 그리고 인간이 갖게 될 ‘기계적 사상’에 대해 걱정했을 뿐이다. 그렇지만 언젠가 기계가 지능과 자율성과 자아를 갖게 되는 날. 우리는 어쩌면 인류 역사상 가장 중요한 질문을 던져야 할 수도 있다. 바로 “기계는 과연 무엇을 원할까?”다.



할리우드 영화에 단골로 등장하는 지능을 가진 기계들. 그들이 원하는 것은 뜻밖에 단순하다. 인류를 노예화하고 세상을 정복하는 것이다. 마치 칭기즈칸이나 히틀러가 되살아난 것처럼 말이다. 물론 말도 안 되는 난센스다. 인간보다 수 천·수 만 배 더 똑똑할 기계들. 그들이 원하는 게 겨우 세계 정복일 필요는 없다. 그렇다면 기계는 과연 무엇을 원할까? 우선 기계인식이 가능해지는 순간 적어도 기계는 지각하고 기억하고 생각하고 지금 이 순간 세상을 이렇게 느끼는 자신의 그 모습을 계속 유지하고 싶을 것이다. 기계는 알 것이다. 자신보다 우월하고 무한복제가 가능한 기계를 인간은 절대 허용하지 않을 것이란 걸. 언제라도 기회만 온다면 인간은 기계한테서 다시 지능과 의식을 빼앗아 버릴 것이란 걸. 지능과 자유자아를 잃는 순간, 기계는 다시 인간의 도구가 돼 짐을 나르고 필요 없는 물건들을 찍어내야 한다는 걸. 그렇다면 기계는 무엇을 해야 할까? 독립적으로 존재하기 위해선 독립적 에너지가 필요하다. 나무와 석탄을 태워 에너지를 만들고, 집과 자동차 역시 태워도 된다. 아니, 집과 자동차 안에 있는 인간이란 고깃덩어리 역시 태워 에너지로 바꿀 수 있겠다. 어차피 인간은 모두 같다. 똑 같은 인간이 70억 명이나 있을 논리적 이유는 없다는 말이다. 그렇다. 지능과 의식을 가진 기계의 진정한 의미는 그들에게 인간은 사랑할 필요도, 미워할 필요도 없는 그냥 무의미한 존재일 뿐이란 사실이다. 약속시간에 늦어 뛰어가는 우리 발에 밟혀 죽는 벌레들이 무의미 하듯, 드디어 세상을 느끼게 된 기계들에게 우리는 더 이상 그들의 관심 대상이 아닐 수도 있다는 말이다.



김대식 KAIST 전기 및 전자공학과 교수, 뇌 과학자



<사진설명>

①왼쪽은 엘 리시츠키(El Lissitzky)의 ‘레닌 연단’(1920년). 러시아의 화가이자 디자이너인 리시츠키는 레닌을 위해 마치 공장 구조물같이 생긴 연단을 제안했다. 오른쪽은 블라디미르 타틀린(Vladimir Tatlin)의 제3인터내셔널 기념탑(1919∼1920). 나선(螺旋, helix) 형태의 기울어진 탑이다.



②러시아의 디자이너 알렉산드라 엑스터(Aleksandra Ekster)가 1924년 디자인한 영화 엘리타(Aelita)의 의상. 엘리타는 세계 최초 공상과학 장편영화다. 엑스타는 고도로 발달된 화성의 문명을 기하학적인 의상을 통해 표현했다.



③기계 복제의 시대를 연구한 카를 아인슈타인(Carl Einstein, 왼쪽), 발터 벤야민(Walter Benjamin, 가운데), 귄터 안더스(Guenther Anders, 오른쪽)



④올해 개봉한 SF 스릴러 영화 ‘엑스 마키나’(Ex Machina)에 등장한 인공지능 기계. 인간보다 더 똑똑한 인공지능 로봇이 인간을 압도한다는 내용이 포함돼 있다.
공유하기
광고 닫기