자율자동차의 브레이크가 고장나서 멈출 수가 없다. 몇 m 앞에 횡단보도가 있는데, 사람들과 반려동물이 차량이 돌진하는 것도 모르고 건넌다. 사고를 피할 수 없다.

이럴 때 사람이 운전한다면, 본능에 따라 운전대를 조작할 것이다. 차선을 변경한다면, 결과적으로 운전자 자신이 어떤 사람(혹은 반려동물)을 희생자로 선택하는 것이다. 운전자는 중앙분리대로 운전대를 꺾어서 피해를 자신에게 돌릴 수도 있다.

자율자동차는 이럴 때 어떻게 할까? 다시 말해서 이런 상황을 대비해서 자동차 회사는 ‘자율주행 소프트웨어’를 어떻게 짜야 할까? 이렇게 곤란한 상황에 빠졌을 때 어떤 선택을 해야 하는지를 묻는 윤리문제를 보통 ‘트롤리 문제’라고 한다.

자율자동차가 점점 현실에 가까워지면서 오래된 이 윤리문제가 최근 자주 등장하고 있다.

고장난 자율자동차의 직진방향 횡단보도에는 노숙자와 범죄자가 지나간다. 그 옆 차선으로 2마리의 고양이가 걸어간다.

어떻게 해야 할까? 그나마 사람이 아닌 고양이 쪽으로 방향을 바꾸는 사람이 많을 것이다. 그러나 1차선에 어린아이, 2차선에 노인이 있을 경우는 어떨까? 혹은 1차선에 여성, 2차선에 남성이 있을 경우는?

이런 복잡하고 다양한 ‘트롤리 문제’를 대규모로 조사한 자율자동차 윤리문제 연구결과가 나왔다.

미국 MIT 미디어 랩은 신뢰성 있는 대규모 조사를 위해 2016년 ‘윤리기계’(Moral Machine)을 만들었다. 온라인 게임 같은 방식으로 해답을 내게 한 데다, 다국어로 진행하다 보니 전세계 200여개 국가에서 200만 명 이상이 조사에 참가했다.

‘윤리기계’ 만들어 200여개 국가 의견 조사 

이 윤리기계는 233개 국가에서 4000만 개의 결정을 모아서 분석했다. 연구원들은 이 데이터를 전체적으로 분석한 다음 연령, 교육, 성, 수입 그리고 정치적 및 종교적 관점 등의 소주제로 나눠 분석했다. 이러한 신상 자료를 제출한 사람은 49만명이나 된다.

이번 연구의 주저자인 미국 MIT대학 미디어랩의 에드먼드 아와드(Edmond Awad)박사는 네이처에 연구결과를 발표하고 “사람들이 가장 먼저 용인하는 3가지 공통 요소를 발견했다”고 말했다.

첫 번째, 당연히 동물 보다 사람의 생명을 구하는 것을 우선해야 한다는 것이다. 두 번째는 소수의 사람 보다 많은 사람을 구해야 한다는 점이었고, 세 번째는 나이든 사람 보다 젊은 사람의 생명을 구해야 한다는 것이다.

좀 더 세부적인 조사에서 사람들은 남성에 비해 여성을 구하기를 원했고, 뚱뚱한 사람보다는 운동선수를 선호했다. 높은 지위에 있는 사람의 생명은 노숙자, 범죄자보다 좀 더 가치있게 여겨졌다.

동시에 모든 지역에서 무단횡단자보다 규정을 지키는 행인의 생명을 우선한다는 공통점을 나타냈다.

연구원들은 인구학적 특징에 바탕을 둔 분류에서는 어떤 도덕적인 차이를 발견하지 못했다. 그러나 문화적, 지리적 관점에서 도덕적 우선순위가 다소 차이가 나는 더 큰 클러스터가 존재하는 것을 발견했다.

윤리도덕의 기준에서 세계는 크게 ‘서부’ ‘동부’ ‘남부’로 나뉘었다. 그리고 거대한 이 세 클러스터 사이에서 윤리적 우선순위의 차이가 나타났다.

예를 들어 ‘남부’ 국가들은 비교적 나이 든 사람 보다 젊은 사람을 구해야 한다는 경향이 강했는데, 이는 특히 노인에 대한 공경심이 강한 ‘동부’ 클러스터와 비교해서 두드러졌다.

아와드는 “이같은 도덕적 우선순위의 차이는 트롤리 문제와 같은 공공영역의 이슈를 토론할 때 기본적인 토대가 될 수 있다”고 말했다.

이론적으로 이러한 우선순위는 자율자동차에 탑재할 소프트웨어에 반영될 수 있다. 문제는 이 우선순위의 차이가 사람들이 새로운 기술을 수용할 때 반영되어야 하는가이다.

이 실험은 일부 편향된 결과를 만들어 냈을지 모른다. 온라인 게임 형태로 조사가 진행됐기 때문에 노인들의 생각보다 젊은이들의 생각이 더 많이 반영됐을 것이다.

무엇보다 위험한 것 중 하나는 이런 연구결과가 ‘세계적으로, 대규모로’ 진행됐다는 이유로 자율자동차의 자율결정 과정을 유도할 수 있다는 점이다.

실제 상황에서 판단해야 할 윤리문제는 더욱 복잡하고 미묘한데 비해, 이를 적절히 반영하지 않은 것도 한계를 보였다. 예를 들어 MIT 연구진은 일반적으로 ‘노인보다 젊은이를 살린다’고 했지만, 그 경계선이 매우 미묘하다.

또 두 가지 이상의 기준이 겹칠 경우도 있다. 신호를 지키고 건너는 사람과 무단횡단하는 사람이 있을 경우, 단순히 나이만 가지고 우선순위를 정하는 것이 옳은 것인가에 대해 지적이 나올 수 있다.

인공지능이 인간의 윤리의식 마저 정복할까

자율자동차에 대한 모순된 생각도 존재한다.

사람들은 자율자동차가 고장나서 제멋대로 움직일 때, 자동차 탑승객을 보호하기 보다 보행자를 보호하기를 원한다. 그러나 자신이 구매해야 할 차량은 그 반대의 기능을 더 선호할 것이다.

때문에 이 문제에 대한 해답은 쉽게 나오지 않는다.

물론 자율자동차를 움직이는 인공지능 윤리를 단순 여론조사를 바탕으로 만들 수는 없다. 때문에 이러한 결정을 하는데 있어서 많은 대중이 참여하는 것이 중요하다.

이번 연구에 참여한 MIT미디어랩의 이야드 라환(Iyad Rahwan) 조교수는 “이러한 플랫폼에서 공공의 관심은 우리들의 예상을 뛰어 넘는다”고 말했다.

한편 인공지능의 성능 향상이 해결책이 될 수 있다는 주장도 있다. 자율성을 가지고 있는 인공지능이 언젠가 인간의 윤리의식도 습득, 최대한 올바른 선택을 통해 이를 적용할지 모른다는 기대다.

어찌 되었든, 인공지능과 같은 기술의 발전이 사람들로 하여금 윤리와 철학에 대해 다시끔 상기시키도록 한다는 점은 아이러니가 아닐 수 없다.

<이 기사는 사이언스타임즈(www.sciencetimes.co.kr)에도 실렸습니다. 데일리비즈온은 직접 작성한 글에 한해 중복송고를 허용합니다.>