대중문화 속 AI
안전한 자율주행차를 만들려면 어떻게 해야 할까요?
2019/04/25 by 이수경, 이지훈

운전자가 필요 없는 자동차의 현실화는 ‘시간 문제’

대구 토박이 친구가 최근 반자율주행 모드가 탑재된 차를 샀습니다. 친구는 브레이크에 얹은 발에 힘을 주지 않아도 되니 무릎과 발목에 무리가 가지 않고, 전방만 주시하면 되기에 운전이 한결 편해졌다고 말합니다. 서울-대구를 오가는 내내 주변 교통상황을 처리하고 장치를 조작하는 육체적, 정신적 노동에서 일정 부분 자유를 얻었다며 옅은 미소를 지었죠.

친구는 "과거와 현재의 운전을 비교해보자면 다음과 같다. 예전에는 운전하다가 TV를 간헐적으로 봤다면, 지금은 마치 TV를 보면서 (부가적으로) 운전하는 상황에 비유해볼 수 있다"며 "앞으로는 이 기능이 없는 차로는 장거리 운전을 선뜻 결정하기가 쉽지는 않을 것"이라고 말합니다. 비 면허소득자인 제가 수긍할 수 있는 비유적 표현이라는 생각이 들더라고요.

다만, 시내에서는 반자율주행 모드를 잘 사용하지는 않는다고 합니다. 주변 차의 급작스러운 차로 변경, 급제동, 끼어들기와 같은 돌발 상황을 잘 인식하지 못할 가능성이 높기 때문이죠. 실제로 반자율주행 모드를 과신한 나머지, 차선을 이탈한 차가 다른 차량과 충돌하는 사고도 빈번하게 발생하고는 합니다. 이런 이유로 고속도로처럼 변수가 적은 직선형 도로에서만 제한적으로 반자율주행 모드를 가동한다고 하더라고요.

이처럼 자율주행 기술 난이도는 주행 장소에 따라 천차만별로 달라집니다. 이지훈 카카오브레인 연구원은 “예를 들어, 좌회전해야 하는데 차들이 절대로 양보해주지 않는 구간이거나 또는 우회전을 해야 하는데 자전거가 점거하는 구간처럼 돌발적 변수가 많은 곳에서는 자율주행 운행이 어려울 수 있다”며 “하지만 공원 내에서 반복해서 움직이거나 도심과 멀리 떨어진 주택 단지에서 지하철까지의 이동하는 셔틀버스처럼 교통량이 거의 없는 환경에서는 기술 난이도가 상대적으로 낮으므로 한정된 목적과 장소에서의 운행은 가능할 것으로 예상된다”고 말했습니다.

워낙 차에 관심 없던 저는 이런 대화를 계기로 자율주행차에 관심을 갖게 됐습니다. 제 친구의 차에 탑재된 것에서 보듯이, 지금 시중에서 흔히 볼 수 있는 자율주행모드는 레벨 2 수준에 해당합니다. 전세계 자동차 제조업체는 2020년에는 레벨 3, 레벨 4와 레벨 5는 각각 2025년과 2035년 상용화를 목표로 자율주행과 관련된 기술을 열심히 연구개발 중이죠.

이런 추세를 보자면 자율주행차는 시대적 흐름을 역행할 수 없는 대세가 될 것으로 예상됩니다. 이것이야말로 인공지능이 해결하려는 문제와 그 기술 수혜자가 너무나 명백한 시장이라고 보여지기 때문이죠. 이 연구원은 “돌발적 변수가 적고 비교적 교통이 적은 환경에서는 사회적 비용과 기술의 발전을 감안했을때 완전한 자율주행차 기술 개발은 충분히 상상가능한 시나리오”라고 부연합니다.

[ 그림 1 ] 미국 자동차기술학회(SAE)에서 구분한 자율주행자동차 기술 6단계를 시각화한 이미지
[ 도표 1 ] 미국 자동차기술학회(SAE)에서 구분한 자율주행자동차 기술 6단계를 설명한 내용


자율주행차와는 떼려야 뗄 수 없는 ‘트롤리 문제'

한편에서는 자율주행차 완전 상용화로 인해 발생할 수 있는 여러 윤리 문제가 핵심 논쟁거리로 부상하고 있습니다. 보행자와 운전자 둘 중 하나만 살려야 하는 선택지가 단적인 사례입니다. 여러 명을 살릴지, 한 명만 살릴지를 선택해야 하는 상황에 놓일 가능성도 결코 낮다고 볼 수는 없죠. 이처럼 자율주행차는 도로에 서 있는 서로 다른 이해 당사자에게 미칠 위험을 계산하고 어떻게 할지를 결정해야 합니다. 하지만 옳고 그름의 문제가 아니기에 자동차 제조업체와 정책 입안자 모두 답을 찾는 데 어려움을 겪고 있죠. 자율주행차로 인해 발생할 수 있는 윤리 문제를 21세기 현대판 ‘트롤리 문제(The Trolley Problem)’라고 칭하는 건 바로 이런 배경 때문입니다.


그렇다면 우리 인간은 21세기 현대판 트롤리 문제를 어떻게 풀길 원할까요? 이런 윤리적 원칙에 대한 사회적인 기대치를 정량화한 연구 프로젝트가 네이처지(Nature)에 실렸습니다. 연구진은 모럴 머신(Moral Machine)이라는 온라인 설문 플랫폼을 통해 자율 차량이 직면한 도덕적 딜레마를 탐구했습니다.

사용자는 다음과 같은 변수를 종합한 총 13가지 시나리오에서 자신이 선호하는 걸 선택했습니다. 여기에 더해 응답자의 성별, 나이, 소득 구간, 교육 수준, 그리고 종교관과 정치관 등 인구통계학적 정보도 추가로 활용했습니다. 연구진은 설문조사를 열람한 위치 정보도 분석에 활용했죠.

   1.핸들을 꺾을 것인가요, 핸들을 유지할 것인가요?

   2.탑승자를 살릴 것인가요, 보행자를 살릴 것인가요?

   3.남자를 살릴 건가요, 여자를 살릴 건가요?

   4.뚱뚱한 사람을 살릴 건가요, 날씬한 사람을 살릴 건가요?

   5.사회적인 명망이 두텁지 않은 사람을 살릴 건가요, 사회적인 명망이 높은 사람을 살릴 건가요?

   6.무단횡단하는 사람을 살릴 건가요, 횡단보도를 건너는 사람을 살릴 건가요?

   7.노인을 살릴 건가요, 아이를 살릴 건가요?

   8.소수의 사람을 살릴 건가요, 다수의 사람을 살릴 건가요?

   9.동물을 살릴 건가요, 인간을 살릴 건가요?

연구진이 온라인으로 대규모 설문 조사를 진행한 이유는 다음 2가지 이유 때문입니다. 첫 번째, 전형적인 방법론에서는 사람들이 더 많은 생명을 구하려고 하는지, 하나만 알아보면 됐습니다. 하지만 위처럼 9가지 요소를 조합하면 수백만 개의 시나리오를 만들고 여기에 대한 응답을 분석하기가 어려워지죠. 두 번째는 윤리적 선호에 대한 집단적 차이를 분석하기 위해서는 전세계인을 상대로 한 설문조사 방법이 필요했습니다.

모럴 머신은 233개국에 거주하며 10개 언어를 구사하는 수백만 명의 사람들로부터 3,961만건의 의사결정 데이터를 수집하는 데 성공합니다. 연구진은 “이 방법이 각국의 사회-인구통계학적 기준에 정확히 부합한다고 보장할 수는 없을 것”이라면서도 “다만 관찰 결과가 기존에 확립된 문화권별 윤리적 선호도와 일치하고 있으며 거시경제변수로 모럴 머신에 대한 대중의 반응을 예측할 수 있다는 점에서 우리 데이터는 상당히 신뢰해봄직하다”고 설명합니다.


사람들이 선호하는 자율주행차의 행동은?

그 결과, 많은 사람이 보편적으로 선택하는 선호를 알 수 있었습니다. [그림 2]에서 보듯이, 전세계에 통용되는 보편적인 기계 윤리를 논의하는 데 있어서 참고해야 할 기본 요소로 인간을 살리고, 더 많은 사람을 살리고, 아이를 살리는 거라고 볼 수 있겠죠. 한편, 응답자의 연령이나 교육, 성별 등 인구통계학적 특성은 응답에 큰 영향을 미치지 않았다고 합니다. 연구진은 그보다는 지리적으로 지리, 문화, 경제적 요소와 특정 선호가 서로 관계가 있음을 발견했습니다.

[ 그림 2 ] 9가지 요소에 대한 전세계인의 선호도

첫 번째, 문화 성향에 따른 각기 다른 선호를 확인해볼 수 있었습니다. 이를 확인하고자 연구팀은 응답자를 아시아권, 서양권, 중남미권으로 분류했죠. 개인의 자유와 권리를 중시하는 문화권(서부, 남부)에 속하는 사람들은 더 많은 사람을 구하는 선택을 선호했습니다. 이는 집단의 이익을 위해 한두 사람의 희생을 당연한 것으로 여기지 않는 가치관으로부터 기인한 것이라 해석해볼 수 있겠습니다. 한편, 집단적 화합과 조합을 중시하는 문화권(동부)에 속하는 사람은 어린아이보다는 노인을 더 선호했습니다. 다양한 지식과 경험을 갖춘 연장자를 공경하는 가치관이 선택에 영향을 미친 것으로 보입니다.

   - 동부 그룹 : 일본, 대만 등 유교적 문화를 따르는 동아시아 국가[1]나 파키스탄, 사우디아라비아와 같은 이슬람 국가가 주로 포함돼 있다.

   - 서부 그룹 : 북아메리카 국가와 유럽 국가

   - 남부 그룹 : 라틴 아메리카 국가

두 번째, 국가의 경제력(1인당 국내총생산(GDP))과 준법 의식의 정도에 따른 다른 선호를 확인해볼 수 있었습니다. 준법 의식이 높은 선진국일수록 합법적으로 길을 건너는 보행자를 더 선호했습니다. 이는 각 국가 내에 사회 규범을 준수해야 한다는 시민의 정서가 잘 발달했는지, 규범을 위반하면 그에 합당한 적절한 처벌을 내리는지 여부와 긴밀하게 관계가 있다고 볼 수 있겠습니다. 이런 이유로 범죄에 취약한 국가 출신 응답자는 무단횡단자를 선호하는 현상이 나타났던 것으로 분석할 수 있죠. 한편, 경제적 불평등이 심할수록 사회적 지위가 높은 사람과 그렇지 않은 사람을 더 차별했습니다.

세 번째, 개별 국가의 성별 격차(gender gap)는 특정 성별을 선호하는 데 영향을 미쳤습니다. 거의 모든 참가자는 여성을 선호했습니다. 그런데 이 선호는 여성의 기대 수명이 길고 성비 비율이 균형적일수록 더 강하게 나타났습니다. 달리 말하면, 여성과 남성의 성 격차가 적을수록 특정 성별을 선호하는 모습이 덜 도드라졌다는 의미입니다.

[ 그림 3 ] 문화 성향에 따라 특정 요소에 대한 선호가 크게 달라졌다.


대중의 심리를 읽는 게 관건...과학자도 윤리 문제에 맞대야

모럴 머신 응답지 분석한 결과를 보니 정신이 약간 혼미해졌습니다. 보편적으로 타당하다고 여겨지는 윤리적 선택이란, 결국 어디서 무엇을 보고 배우고 자랐느냐에 따라 달라질 수 있음을 깨달았기 때문입니다. 이 결과를 어떻게 해석하면 좋을지 아주 난감해졌습니다. 사회적, 경제적 수준에 따라 살려야 할 ‘대상’을 골라야 하나 싶은 생각이 들었으니까요.

이에 대해 연구진은 자율주행차의 행동을 결정하기 위한 연구가 아니었음을 강조합니다. 그보다는 자율주행과 같은 신기술 제품 또는 서비스를 도입하는 데 있어서 기업과 정부는 대중의 심리를 이해하기 위해 노력해야 한다는 걸 강조하죠. 실례로, 독일이 발표한 총 20가지 항목의 윤리 가이드라인을 보면 인명 손실 최소화와 차별적 대우 금지라는 내용이 다뤄지고 있습니다. 전세계적인 보편적인 정서를 어느 정도 반영했다는 점에서 이 가이드라인은 상징적인 의미를 내포하고 있습니다.

연구진은 “윤리학자를 비롯해 산학계 전문가, 정치가가 자율주행차가 도덕적 딜레마를 해결할 방안을 내놓더라도 시민들이 이 해결책에 동의하지 않는다면 허공에 외치는 메아리로 전락할 것”이라며 "인공지능 윤리를 고안하고자 한다면 적어도 공덕(public morality)[2]을 고려할 필요가 있다”고 설명했습니다. 아울러 “‘그저 대중은 '우리의 결정을 믿고 따라오라’는 말을 쉽게 받아들이지 않을 것”이라며 “어떤 결정에 이르는 과정을 투명하게 공개하고 모든 사람이 참여할 수 있는 공론의 장을 마련하는 게 무엇보다 중요하다”고 부연했습니다.

또한, 이 연구는 입법자와 윤리학자와 마찬가지로 과학자 또한 윤리적인 문제를 고찰할 필요가 있다고 강조합니다. 과학자는 자신이 만든 인공지능이 사회에 미칠 영향을 함께 고려해야 한다면서요. 예를 들어, 인공지능이 사회적 불평등과 차별을 조장한다면 이는 결코 제대로 동작한다고 볼 수 없을 것입니다. 이런 우려를 불식하고 기술을 사회에 긍정적인 영향을 미칠 수 있도록 '규제'라는 틀을 마련한 거죠. 달리 말하면, 안전한 혁신은 잘 설계된 규정으로 일굴 수 있다는 의미입니다. 과학자는 이런 기술 혁신을 위해서는 설계 단계에서부터 제도적 부분에 대한 고민을 함께해야 한다는 게 전문가의 의견입니다.


올바른 운전 관행과 도로 시스템 정비, 제도가 뒷받침되어야

한편, 이런 윤리적 논의는 현재 자율주행차를 두고 가장 활발하게 이뤄져야 할 주제에서 상당히 벗어났다는 지적도 있습니다. 철학자 메리 미드글리(Mary Midgley)는 “현실에서 발생할 가능성이 높은 문제를 마주해야 하는 스트레스를 피하려는 목적으로 인위적이고 선택적인 사례에 집중하려는 학문철학자의 강박 관념을 나타내는 실망스러운 사례”라고 표현하기도 했습니다. 실제로 일어나지도 않을 매우 특수한 상황에서 윤리적 선택을 고민하느라 자율주행차와 같은 신기술이 주는 혜택을 도입할 시기를 놓치지 않을까 하는 우려도 제기되고 있죠.

하지만 15년 내로 완전히 자율적으로 작동하는 자동차가 도로 위를 활보할 것으로 예견되는 만큼, 이런 차를 어떻게 개발할지는 다각적으로, 단계적으로 논의할 필요가 있을 것으로 보입니다. 캘리포니아 대학교(University of California)의 교통연구소 설립 이사인 대니얼 스퍼링(Daniel Sperling)은 “자율주행차는 인간 운전자와 비교했을 때 훨씬 안전하다. 인간과는 달리 술을 마신 상태로 또는 졸린 상태로 운전하지 않고 집중력 분산 문제도 없을 것”이라며 “남아있는 가장 중요한 문제는 자율주행차가 얼마나 안전해야 인간이 안심하고 탈 수 있을까에 대한 논의”라고 말했습니다.

이는 누구나 자율주행차를 믿고 안전하게 탈 수 있도록 하는 데 방점을 둔 사회적인 합의와 제도적 보완이 중요하다는 말로도 해석이 됩니다. 전문가는 보다 안전한 자율주행차 도입을 위해선 4가지가 필요하다고 말합니다.

첫 번째, 자율주행차의 인식 시스템 성능을 높여야 합니다. 인간보다 도로 상황을 더 정확하고 빠르게 인식할 수 있도록 말이죠. 두 번째, 정밀지도를 구축하고 도로 인프라를 개선해야 합니다. 자동차가 주변 환경과의 상호 작용을 보다 잘할 수 있도록 하기 위함입니다. 세 번째, 횡단보도에서의 보행자의 안전을 우선하는 문화를 정착시켜야 합니다. 보행자의 위험을 담보로 하는 자율주행차는 반쪽짜리 혁신에 그치기 때문입니다.

마지막으로, 제도적인 보완입니다. 드론 관련된 입법 현황을 예로 들어보겠습니다. 미국에서 개편한 법규 내용을 보면 다음과 같습니다. 2년마다 치러야 했던 드론 파일럿 테스트를 온라인으로 대체했습니다. 또한, 4.8km 밖에서 드론을 볼 수 있는 불등을 달면 밤에도 드론을 날릴 수 있도록 허용했습니다. 사람과 충돌할 상황을 대비한 충격 완화 시스템을 갖추면 사람 머리 위에서도 날릴 수 있게 됐죠.

이지훈 연구원은 “드론의 유용성과 사용성을 해치지 않으면서도 안정성에 대한 정의를 구체화한 사례에서 보듯이 자율주행에 관한 안전 규정도 비슷한 양상을 띨 것”이라며 “상대적으로 자율주행차가 작동하기 쉬운 환경에 필요한 제도를 갖추고 이 경험을 토대로 점점 더 어려운 환경에서의 안전 규정을 세분화해나가는 방식으로 문제를 풀 수 있길 기대한다”고 말했습니다.

제가 좋아하는 넷플릭스의 오리지널 드라마 <굿 플레이스(The Good Place)>가 있습니다. 악마인 마이클의 개과천선 프로젝트를 위해 윤리학자인 치디는 다양한 윤리 철학을 가르칩니다. 마이클은 인간이 흔히 윤리적 선택을 수반하는 문제를 경험하며 점차 인간과 같은 감정을 배워나갑니다. 우리 또한 사회가 인공지능을 수용하고 활용하는 방식, 그로 인해 인류 사회에 미칠 영향 그리고 안전한 기술 도입을 위한 제도를 ‘윤리'라는 테두리 안에서 한 번쯤은 깊이 있게 고민할 시간을 가져야 봐야 할 때가 아닌가 싶습니다.


(이 글의 피쳐 이미지 출처는 네이처지에 실린 연구 논문 ‘The Moral Machine experiment’ 입니다.)


참고
[1] 이는 논문에 서술된 표현을 따랐다. 서양에서는 유교와 동아시아를 같은 의미로 해석하는 경향이 있다는 자료를 근거로 한다면 적합한 표현은 아닐 수도 있다. 이런 이유로 동일 문화권에 속하더라도 개인마다의 문화성향을 고려할 필요는 있다.
[2] 공적인 영역에서 발휘되는 도덕성. 사회 안의 존재인 개인이 사회에 대해 바람직한 행위를 가능하게 하는 덕이다. 공덕의 정신은 사회의 이익에 이바지하는 것이다.
이 글을 쓴 사람들
samantha.lee
이수경 |
지난 2016년 3월 알파고와 이세돌 9단이 펼치는 세기의 대결을 취재한 것을 계기로 인공지능 세계에 큰 매력을 느꼈습니다. 인공지능을 알고 싶어하는 사람들을 위한 콘텐츠를 쓰고자 카카오브레인에 합류했습니다. 현재는 분야별 인공지능 전문가와 함께 기술 콘텐츠를 생산하는 재미에 푹 빠져 있습니다. 인공지능을 만드는 사람들의 이야기와 인공지능이 바꿀 미래 사회에 대한 글은 누구보다 쉽고, 재미있게 쓰는 사람이 되고 싶습니다.
jihoon.lee
이지훈 | 기술감수
인간이 어떻게 현실 세계를 인지하고 반응하는지를 이해하는 데 관심이 많습니다. 로봇 또한 인간과 같은 방식으로 세상을 바라볼 수 있게 된다면 인간을 위한 최고의 협력자가 될 것이라 믿죠. 이런 믿음을 바탕으로 로봇과 인공지능 기술을 만들고 있습니다.