-AI 둘러싼 기업인들의 모순
-그들은 불을 지르면서 끄려고 한다

AI에 대한 인간의 불안은 지난 2004년 윌스미스 주연의 영화 <아이, 로봇>에서 재현되었다. (사진=CJ CGV)

[데일리비즈온 박종호 기자] “완전한 인공지능의 발전은 인류의 종말을 초래할 수 있다.” 스티븐 호킹 박사의 이 유명한 말은 작년 3월, 그가 사망하며 다시금 언론을 통해 회자되었다.

실제로 철학자이자 연구자인 닉 보스트롬은 2014년 출판한 인공지능에 대한 한 저서에서 “테슬라와 스페이스엑스의 창립자인 엘론 머스크 등도 통제를 벗어날 위험이 있는 ‘슈퍼 인공지능’ 기계들이 인간에게 가할지도 모를 실존적 위협에 대해 경고하고 있다”고 서술했다. 엘론 머스크는 이것이 핵무기보다도 더 큰 위험이 될 수 있다고 보았다. 여기에 1980년대 실리콘 밸리에서 시작된 ‘트랜스휴머니즘’까지 더해졌다. 트랜스휴머니즘은 신기술과 인공지능을 통해 인간의 신체적·지적 능력을 향상시키고 나아가 인간과 기계의 융합을 주장하는 이데올로기를 말한다. 지난 2002년 세계적인 석학인 프랜시스 후쿠야마 역시 트랜스휴머니즘을 인류역사상 최대의 위기로 평가한 바 있다.

이와 관련해 ‘특이점(Singularity)’이라는 용어가 있다. 머지않아 기계가 인간을 뛰어넘게 된다는 예측을 기반으로 한다. 일설에 의하면 미국의 SF 소설가인 버너 빈지가 1993년 발표한 논문 ‘다가오는 기술적 특이점’에서 최초로 사용되었다. 이후로 이 용어는 인공지능이 인류의 지능을 넘어서게 될 불확실한 어느 시점을 가리키게 되었다. 그때가 되면 인간의 머리로는 상상할 수 없는 새로운 시대가 열릴 것이라는 이야기다. 

◆ 불을 지르는 동시에 끄려는 연구자들  

실리콘 밸리의 기업인들과 관련 지식인들은 이 특이점을 미래의 핵심 문제로 꼽았다. 학계에서는 특이점이 2000년대를 거치며 하나의 학파로 자리잡았다.

저명한 철학자는 레이 커즈와일은 이 특이점을 일어나야 할 바람직한 사건으로 보고 있다. 물론 이런 기술낙관론은 아직까지는 소수의견에 불과하다. 그럼에도 불구하고 많은 사람들은 기술발전이 불가피하게 급격히 발달하면서 그로 인한 특이점은 필연적으로 나타날 것이라고 전망한다. 그러므로 이를 막고자 하는 노력은 많은 이들에게 공감을 사지 못하고 있다. 오히려 인류 전체를 준비시켜 특이점의 부정적 영향을 줄여야 한다는 주장에 초점이 모아지고 있다.

그러나 여기에는 한 가지 역설이 분명하게 드러난다. 과학자들과 기업인들이야말로, 자신들이 우려하는 바로 그 기술의 발전을 이끄는 장본인이라는 점이다.

미국뿐만 아니라 프랑스나 한국에서도 AI와 관련된 윤리단체와 각종 위원회가 늘어나고 있다. 미국의 경우 이 단체들은 실리콘 밸리의 기업들로부터 재정지원을 받으며 상당한 영향력을 뽐낸다. 이들은 기계의 반란으로부터 인류를 보호하기 위해 규범과 규율을 제정하고자 한다. 오픈에이아이(OpenAI)의 경우 엘런 머스크를 비롯해 페이팔의 공동창업자인 피터 틸 등 여러 기업인들을 통해 2015년 설립됐다. 스카이프의 공동창업자인 얀 탈린 역시 ‘생명의 미래 연구소(FLI)’라는 기관을 설립했다. 이 기관은 기술 발전과 관련된 ‘실존적 위험’을 줄이기 위한 연구를 표방한다. 엘론 머스크가 1000만 달러를 지원하기도 했다. 

대학까지 만들어졌다. 이름부터가 ‘싱귤래리티 대학’이다. 인류에게 닥친 거대한 도전들에 맞서 디지털 기술 분야의 리더들을 교육하고 책임감을 심어주기 위해 세워졌다고 한다. 역시나 기업인·엔지니어·평론가들의 기금을 통해 설립됐다.

그리고 이런 종류의 기관 중 가장 유명한 곳은 아마도 AI 파트너십(Partnership on AI)일 것이다. 구글, 애플, 페이스북, 아마존, 마이크로소프트, IBM 등의 창업자들에 의해 결성됐다. 이와 관련해 피터 디아만디스는 2017년 파리의 한 언론사에 기고한 글에서 “언젠가는 정치인들도 깨닫게 되겠지만 그때는 너무 늦다. 그들을 앞서가야 한다. 나는 정치인이나 단기적 정책의 힘보다 기업인들의 힘을 믿는다”고 말한 바 있다. 그리고 모두가 이 신념을 공유하고 있다.

디스토피아. (사진=픽사베이)

장-가브리엘 가나시아의 저서 『특이점의 신화』에서는 이런 흥미로운 상황을 이렇게 요약하고 있다. “결국 우리는 ‘방화하는 소방관’들을 목도하고 있는 셈이다. 일부러 불을 지르고 다니는 한편, 스스로에게 좋은 역할을 부여하며 불을 끄는 시늉을 해 보이고 있는 것이다.”

실제로 많은 사람들은 이러한 기업들이 주장하는 자칭 인류애에 의심의 눈초리를 보내고 있다. 이들이 모든 사안에 있어서 이런 식으로 이타적이지는 않기 때문이다. 그들이 세금이나 노동법에 있어서도 동일한 태도를 보일까? 오늘날 전문가와 철학자, 각종 시민사회들은 입을 모아 자사가 개발한 기술의 미래에 대해 불길한 예측을 쏟아내고 있다. 그렇다면 그들은 왜 그러한 단체에 오히려 자금을 지원하고 있는 것일까.

르몽드 디플로마티크는 지난 수 년 간의 기획기사를 통해 “기업의 성공은 두 세기 전부터 변화를 거듭해온 하나의 모델에 기인하고 있다”고 주장했다. 기업들은 해결책을 마련한 후에야 문제를 알린다는 것이다.

로잔공과대학의 교수인 파네즈는 몇 해 전부터 유토피아적이면서도 디스토피아적인 “약속의 경제”가 모습을 드러내고 있다고 밝혔다. 그는 “기술 분야 스타트업들의 출현은 위험투자자들의 투자에 기반을 두고 있다”고 설명했다. 물론 혁신을 주도하는 전문 기술자들과 문외한인 자본가들의 이해관계가 같을 수는 없다. 하지만 그는 이런 “발전에 불안요소를 담는 것이 문외한들을 유혹”하는 방식이라고 주장했다. (계속)

저작권자 © 데일리비즈온 무단전재 및 재배포 금지