핫이슈인공지능 오류로 사망자 낸 우버, \

인공지능 오류로 사망자 낸 우버, '윤리지능' 갖춘 자율 차 가능할까?

우버가 자율 주행 차 사고 영상을 공개했다 / 출처 네이버 TV 에서 캡처
최근 우버의 시험 주행 차량과 테슬라 모델 X 차량의 자율 주행 관련 두 건의 사망사고는 자율 주행이 아직 기술적으로 완벽하지 않다는 현실을 보여준다. 우버 차량의 사고 영상에 대해 "사람이었어도 갑자기 뛰어든 보행자를 피할 수 없었을 것이다"라는 의견과 "사람이라면 뭔가 조치를 할 수 있었을 것이다"라는 의견이 엇갈리기도 한다. 자율 주행이 상용화되기 위해서는 자율 주행 차가 사람이 육안으로도 식별하기 어려운 장애물을 인식할 수 있어야 한다. 그러나 아직은 주변 사물 인식이나 이에 대처하는 능력이 미흡한 상황이다. 

자율 주행이 상용화되기 위해서 기술의 완성도가 높아져야 한다는 것은 두말할 필요가 없는 얘기다. 하지만 기술 개발 이외에도 사회적, 환경적, 법률적, 윤리적으로 해결돼야 할 문제들이 존재한다. 예를 들어 수천 대의 자율 주행 차량들이 운전자 없이 도로를 주행하면서 매연을 내뿜고 교통 체증을 유발한다면 사회적으로 받아들여지기 어려울 것이다. 그래서 자율 주행의 활성화는 친환경차 및 카셰어링 등 공유 경제 모델의 활성화를 수반해야 한다.
출처 게티이미지뱅크
이 밖에도 자율 주행에는 첨단 기술과는 일견 어울리지 않아 보이는 철학적이고 윤리적인 문제도 존재한다. 예측할 수 없는 돌발 상황으로 사고 발생 시, 몇십 분의 1초 이하의 짧은 순간에 자율 주행 차량은 운전자와 탑승객을 보호하기 위한 최선의 선택을 해야 할 것이다. 그러나 그 선택이 운전자의 생명뿐 아니라 주변의 다른 차량 운전자나 보행자들의 생명에도 영향을 끼칠 수 있다면 그때는 어떤 선택을 하는 것이 옳을까? 

가령, 어떤 사고가 발생했을 때 스티어링 휠을 조작하지 않을 경우 운전자가 생존할 확률은 10% 미만에 불과하지만 스티어링 휠을 틀 경우 생존 확률이 높아진다고 치자. 하지만 이렇게 운전대를 조작할 경우 소풍을 가는 도보 위 유치원생들을 칠 수 있는 확률 역시 높아진다고 가정하자. 지금은 이러한 상황에 대한 판단은 운전자에게 맡기고 거기에 대한 윤리적 책임은 실질적으로 묻지 않고 있다. 

하지만 자율 주행 시스템이 제대로 운영되기 위해선, 이런 돌발 상황에 부딪혔을 때 시스템이 과연 어떤 선택을 하도록 만들 것인지를 프로그램의 로직에 미리 담아놓아야 한다. 즉 개발자들이 기계로 하여금 사전에 어떤 가치 판단을 내리게 할 것인지를 미리 결정해 놓아야 한다는 뜻이다.
출처 게티이미지뱅크
철학자들은 1960년대부터 트롤리 딜레마(Trolley Dilemma)와 같이 위기 상황에서의 윤리적 딜레마에 대한 고찰을 해 왔다. 최근 자율 주행의 대두와 더불어 이 이슈가 새롭게 주목받고 있다. 트롤리 딜레마란 가상의 선로를 주행하는 어떤 전차가 그대로 진행할 경우 선로에 묶인 5명의 사람을 칠 것이 확실한 상황에서 당신이 주행 선로를 바꿀 경우, 바뀐 선로에 1명이 묶여 있다면 5명의 목숨을 구하기 위해 고의적으로 1명을 죽게 할 것인가에 대한 질문이다. 
EBS1 시사 교양 프로그램 <세상의 모든 법칙> 중 한 장면. 우리는 종종 보행자를 우선으로 할 것인지, 운전자를 우선으로 할 것인지 딜레마에 빠진다 / 출처 네이버 TV에서 캡처
트롤리 딜레마에 대한 각종 연구 및 설문 조사에서 응답자들은 70~90%의 비율로 5명을 구하는 쪽을 택하겠다고 답했다. 그러나 바뀐 선로에 묶여 있는 1명이 자신의 가족인 경우에는 그 비율이 현저하게 떨어졌다. 다른 설문 조사에서는 운전자에게 해가 되는 결정을 할 수 있는 자율 주행 차량이라면 사지 않겠다는 응답이 과반수를 넘기도 했다. 이에 대한 연장선 상에서 요즘에는 차량이 운전자와 보행자의 안전을 어느 비율로 우선시할 것인지에 대한 연구가 활발하다. 

가령 MIT 미디어랩(MIT Media Lab)에서는 현재 '모럴 머신(Moral Machine)'이라는 별도의 웹사이트(moralmachine.mit.edu)에서 자율 주행 환경 시나리오에 맞게 트롤리 딜레마 상황을 제시하고 다양한 상황에 대한 웹사이트 방문자들의 응답을 받고 있다. MIT 미디어랩은 이를 통해 보행자 대비 승객 보호 정도, 기계의 개입 정도, 나이, 성별, 교통 규칙 준수 여부 등에 따라 더 보호돼야 할 대상에 대한 일반인들의 생각을 집대성하고 있다. 한국어로도 입력이 가능하며, 13가지 시나리오에 답을 다 하고 나면 당신의 성향이 응답자 전체 평균 대비 어느 정도인지도 확인할 수 있다. 
출처 MIT 미디어랩 모럴 머신 웹사이트 캡처
사실 자율 주행 개발자들의 궁극적인 목표는 이런 딜레마 상황에 놓이지 않는 것일 것이다. 몇 년 전까지 세계 최대 자동차 시장이었던 미국에서는 매년 약 3만 5000명의 교통사고 사망자가 발생했는데, 이는 정원을 700명 가깝게 늘린 A380기가 매주 한 대씩 추락하는 꼴이다. 

한국은 2015년 기준 5539명이 (2016년 4292명) 교통사고로 사망했으며, 인구 10만 명 당 교통사고 사망자 수가 9.1명으로 경제협력개발기구(OECD) 회원국 평균(5.3명)의 거의 두 배에 육박하는 숫자를 보이고 있다. 교통사고는 대부분의 국가에서 안전사고 사망 (질병이 아닌 다른 원인의 사망) 원인 중 자살 다음으로 큰 비중을 차지한다. 
봉평터널 참사 1년…졸음운전 대형사고는 여전 / 출처 연합뉴스 TV
국내에서는 졸음운전으로 속도를 줄이지 못한 대형 버스가 승용차를 덮치는 사고 영상이 많은 사람들에게 두려움을 안기기도 했다. 교통사고의 90% 이상은 운전 부주의, 음주운전, 과속, 신호 위반 등 인적 오류(human error)에 기인한다. 자율 주행이 제대로 구현될 경우 인류는 교통사고로 인한 인명 손실을 획기적으로 줄일 수 있을 것으로 기대된다. (그전에 졸음운전 대형 차량의 전방 주시 강제 제동 등은 현재 기술로도 충분히 구현 가능하기 때문에 이 분야의 의무화가 시급하다.)

영화 <인터스텔라(2014)> 포스터 / 출처 네이버 영화
심리적으로 비행기 사고를 자동차 사고보다 더 두려워하는 사람들이 많지만 확률적으로는 비행기 사고를 당할 확률이 훨씬 낮다. “자율 주행도 운전자 주행보다 월등히 높은 안전성이 검증된 후에는 사회적으로 받아들여질 것이고, 그때에는 사람이 자동차를 운전하는 게 불법이 될 것”이라는 자율 주행 대세론자들의 주장이 현실이 될지도 모른다. 

자율 주행에도 "우리는 답을 찾을 것이다, 늘 그랬듯이"라는 영화 <인터스텔라>의 한 대목이 그대로 적용될 수 있을 것이다. 하지만 2030년이 되더라도 자율 주행 차량은 전 세계 운행 차량의 5% 미만일 것이며 그 문제를 해결하기 위해서는 많은 시행착오와 희생 또한 언제나 그랬듯이 수반될 것이다. 몇 십 년 후 손주들에게 할아버지, 할머니는 자동차도 운전할 줄 안다고 운전면허를 자랑하는 시대가 올지도 모른다. 그러나 적어도 앞으로 몇 년 간은 고속도로에서 전방 주시를 게을리하지 않는 편이 좋을 것 같다. 

글 방범석

* 필자 약력
- 연세대 기계공학과 졸업(학·석사), MIT 슬론경영대학원 경영학 석사(MBA)
- 딜로이트 서울사무소 자동차 산업 담당 디렉터 역임
- 現 자동차 산업 전략 컨설팅사 베릴스 코리아(Berylls Strategy Advisors Korea) 대표

인터비즈 박성지 정리
inter-biz@naver.com
찜하기이글을 다시 읽고 싶다면
위로가기