[데일리비즈온 서은진 기자] 현재 미국에서는 동영상 조작기술인 ‘딥페이크’를 두고 대책마련에 의견이 분분하다. 내년 예정되어있는 대선을 앞두고 혹여 있을지 모르는 악용사례가 우려되기 때문이다. 심지어는 외교 및 안보위협으로도 이어질 수 있다는 주장에 미국 정계는 촉각을 곤두세우고 있다.

딥페이크란 정교한 머신러닝(기계학습) 알고리즘을 이용해 조작된 이미지나 동영상을 말한다.다른 사람의 동영상에 유명 정치인이나 연예인의 얼굴을 감쪽같이 합성해 실제로 하지 않은 발언이나 행동을 한 것처럼 만들 수 있다.문제는 이런 딥페이크 동영상의 진위를 구별하기가 거의 불가능하다는 점이다. 포토샵으로 유명한 어도비의 부사장 데이나 라오는 가짜 동영상을 만드는 기술의 진보가 워낙 빨라서 기술을 이용해 딥페이크를 적발하는 게 곧 매우 힘들어질 것이라고 말했다. 그는 “이 싸움은 군비 경쟁이 될 것”이라고 전망했다. 딥페이크 제작 기술의 발전에 맞서 이를 적발하려는 쪽에서도 관련 기술을 발달시키는 경쟁의 순환고리가 전개될 것이란 뜻으로 풀이된다.

경제면에서는 기업의 신규 주식공개(IPO) 직전 경영자의 범죄 행위와 관련해 허위 동영상을 확산하거나 주식 등 경제 관련 허위정보를 결합해 영상을 배포할 경우 산업 전반에 큰 타격을 줄 수 있다. 미국에서는 특히 딥페이크는 허위조작 정보와 결합해 선거에 상당한 영향을 미칠 수 있다며 전전긍긍하고 있다. 가령 대선 투표 전날 후보자에게 불리한 조작 영상이 유포될 경우 사실을 바로잡을 시간이 부족해 돌이킬 수 없는 결과를 가져올 수 있다. 안보 측면에서는 국가 간 정보전쟁의 도구로 활용될 수도 있다. 실제 미국과 일부 유럽 국가는 러시아와 중국이 딥페이크를 정보전에 이용하고 있음을 크게 우려하기도 했다. 

미국 프린스턴대의 ‘과학과 국제안보 연구소’는 지난 9월 유튜브에 핵전쟁 시뮬레이션 결과를 공개했다. 러시아가 칼리닌그라드 인근 기지에서 처음 쏘아올린 핵무기 하나가 지구적인 핵전쟁으로 이어져 5시간도 채 지나지 않아 사망자 3410만 명을 비롯해 9130만 명의 인명피해를 가져올 것이라는 내용이다. 영상에서는 누가 최초에 핵무기 발사를 명령했는지 나오지 않는다.

문제는 인공지능(AI)을 이용해 영상과 음성을 실제에 가깝게 합성할 수 있게 되면서 이런 시나리오의 가능성을 완전히 배제하기 어렵게 되었다. 평소 호전적인 성향을 보여온 지도자를 사칭해 핵무기 발사를 명령하면 그 지시를 의심하지 않을 수도 있다. 인공지능 기술을 이용한 사기가 국제적인 안보위기를 불러올 수 있다는 얘기다. 보안업체 큐브피아의 권석철 대표는 “드론을 이용한 사우디 유전 공격에서 볼 수 있듯이 전문가들이 예측한 우려가 영화 속에서만이 아니라 현실에서 이미 일어나고 있다”며 “기술의 좋은 점만 부각되지만 위험한 측면을 인식하고 대응책을 마련할 때가 됐다”고 말했다. 

미국도 지난해 중간선거 전부터 딥페이크의 정치적 영향에 대해 주목하고 있다. 특히 내년 46대 대통령 선거를 앞두고 딥페이크에 대한 대응방안 마련에 시동을 걸고 있다. 여기에는 미국의 IT기업들이 적극적으로 나서는 모양새다. 다만 미국은 딥페이크 기술이 시장혁신을 가져올 수 있기 때문에 기술경제적 차원 등에서 전체를 악으로 보기는 힘들다는 의견이다. 국가안보차원의 문제로 인식해 대응 모색에 적극적이지만, 표현의 자유 보호와 산업 향상을 위해 콘텐츠 규제는 최소한으로 할 전망이다.