Auto&News 주요뉴스

자율주행차 개발에 매진하는 구글을, 나는 믿을 수 없다
기사입력 :[ 2017-10-21 09:33 ]
자율주행차는 반사회적 역기능도 있을 수 있다

[박상원의 Pit Stop] 많은 사람들이 흥분해 하는 자율주행차 시대는 분명 기대되는 게 사실이지만 언론을 통해 부각되는 장점만큼 우리의 삶에 대한 선택권을 억제시키는 단점이 아직까지 제대로 드러나고 있지 않은 것도 사실이다. 우선 당신의 차에 탑재된 네비게이션으로 경로를 설정할 때, 시스템이 우범 지역으로 분류된 곳을 피해가게 한다면 그 지역은 어떻게 될까? 그 지역 통행량이 감소할 것이고, 경제는 비활성화될 것이며, 범죄율이 높은지 아닌지와 무관하게 몰락할 것이다. ‘피그말리온 효과’(self fulfilling prophecy), 즉 예언한 대로 현실화되는 현상이 발생하는 것이다.

이 질문은 2003년부터 2006년, 르노삼성자동차에서 시험 엔지니어로 일하면서 네비게이션 시스템을 평가할 때 가장 궁금했던 것이었다. 왜냐하면, 과거 모터쇼 참관을 위해 디트로이트의 낙후된 도심을 지나지다가 섬찟한 순간들이 많았기 때문에, 이러한 기능도 추가되어야 하는 것은 아닌지 생각했기 때문이다. 돌이켜보면 고지식했던 ‘초년병’ 엔지니어의 생각처럼 네비게이션 기능 속에 ‘최근 범죄율 증가 지역 회피’ 옵션이 있었다면, ‘범죄지역’으로 지정된 곳들은 회생의 기회가 아예 분쇄되는 그러한 치명적인 사회적인 결과도 가지고 오지 않았을까?



다행히 오늘날 대다수 네비게이션 시스템에는 이러한 기능은 없다. 한편, 많은 이들이 예상하는 바와 같이 자율 주행차가 미래의 대세가 된다면, 자율주행차의 경로 선택을 담당하는 알고리즘의 논리가 향후 사회적 문제로 급부상할 수밖에 없다. 이러한 결정을 내리는 알고리즘은 사용자의 요청에 대응함은 물론 자의적인 결정을 내릴 것이기 때문이다. 후자의 경우 자율주행차를 탑승한 사용자가 만취가 되어 인사불성이라면, 당연히 자율주행차의 기능은 사용자가 가고자 하는 목적지로 ‘알아서’ 가게 된다.

그렇다면 무슨 문제가 생기는 것인가? 앞서 언급한 네비게이션의 사례를 보자. 시스템에 ‘우범지역’이라는 기능이 있다고 가정할 때 그 정의의 기준은 누가 어떻게 내릴 것인가? 또한, 이로 인하여 우범지역이지 않은 장소가 자신들도 모르는 사이에 그렇게 분류된다면 누가 책임질 것인가? 이처럼, 향후 5년에서 10년 내로 다가올 자율주행차의 시대에서는 자동차가 탑승자의 동선(動線)을 자동차 시스템이 자율적으로 정할 수 있게 되기에, 구글과 같은 상업적인 회사의 시스템의 경우 해당 알고리즘이 사용자를 위해 엄정한 객관성을 유지할지 의문이다. 안타깝게도, 그렇지 않게 될 것 같은 징조들이 우리의 주변에 많은 것이 오늘날의 현실이다.



2016년 6월 10일, 미국의 어느 유튜브 동영상은 구글이 미국 민주당 대선후보인 힐러리 여사에 대한 구글 검색 결과를 호의적으로 산출되도록 조작했다고 비난했다. 이에 구글을 그렇지 않다고 발표했으나, 이 논란은 구글의 검색 결과가 전세계적으로 얼마나 인정받고 있는 지를 역설적으로 보여주고 있다. 이 뉴스가 자동차에 관심 있는 독자들에게 중요한 이유는 구글이 자율주행차 개발에 가장 앞서 있는 기업이기 때문이다. 구글은 지난 2008년 프리우스를 개조하여 캘리포니아 주에서 자율주행차 프로그램을 시작했으며, 현재는 캘리포니아, 텍사스, 워싱턴주와 아리조나에서 도합 150만 마일 이상의 누적주행거리를 통해 자율주행시스템의 완성도를 많이 다듬은 상태이다.

구글은 어떤 회사인가? 사용자들이 구글의 서치엔진에 입력하는 검색어를 바탕으로 사용자들의 관심을 역으로 분석, 사용자에게 직접 관련 제품이나 서비스로 직접 마케팅(direct marketing)을 시도하는 회사이며, 현재 그룹 전체 수익의 90%가 아직도 서치엔진을 통한 마케팅에서 창출되고 있는 회사이다. 따라서, 구글은 자율주행차 시스템을 개발함에 있어 동일한 상업 위주의 알고리즘을 적용할 것이다.

그렇다면 구글은 자율주행차를 직접 제조할 것인가? 그렇지 않다. 이 사업 모델(business model) 또한 안드로이드 체제처럼 자율주행차의 운용체제에 대한 기술료를 낮게 책정하여, 완성차 업체들이 최대한 사용하도록 유도할 것이다. 이미 구글은 피아트-크라이슬러, 현대차그룹 등 일부 완성차 업체들과 해당 시스템의 사용에 대한 논의를 심도 있게 진행 중이다. 반면, GM이나 폭스바겐, 토요타 등은 삼성, 소니 및 화웨이 등 IT업계 거인들이 안드로이드 체제에 종속되어 핸드폰 시장에서 하드웨어 제조업체로 입지가 축소된 것에 주목, 이러한 형태가 자율주행차에서도 반복되지 않도록 자체적인 시스템 개발에 열중하고 있다.

문제는 구글이던 토요타이던, 자율주행차 시스템을 개발하는 회사들은 지적재산권을 이유로 해당 시스템의 알고리즘을 공개하지 않을 것이다. 문제는 이 시스템은 금융이나 핸드폰 OS와는 달리, 사람의 생명이 의존하는 고속주행 기기의 주행 논리를 자율적으로 결정한다는 점에 있어 분명 사회적 이슈가 될 것이다.



‘어두운 연못’(Dark pool: 이하 다크풀). 미국의 유명한 작가인 마이클 루이스(Michael)가 지난 2014년 3월 출간했던 ‘Flash Boys‘라는 책에서 등장하는 미국 거대 금융업체들이 사용하는 금융 거래 도구의 하나이다. 다크풀은 고객이 다량의 주식을 시장에 매도할 때 발생하는 문제를 해결하기 위해 등장한 고도의 컴퓨터 시스템이며, 해당 시스템의 알고리즘은 각 업체들의 지적재산권으로 인해 공개되지 않았다.

만약 당신이 캘리포니아 공무원 연금(CALPERS)라는 거대 투자회사로 삼성전자 총주식 2%를 가지고 있다고 하자. 이는 현재 기준으로 이는 총 280만 주에 해당된다. 어떠한 이유로 보유한 주식의 50%를 매도해야 하게 된다면, 시장의 참가자들(다른 투자가들)이 삼성전자라는 거인의 1%에 해당되는 거대한 양의 주식을 소화하지 못할 경우, 주가는 당연히 떨어지게 된다. 이럴 경우 일정기간에 걸쳐 분할 매각이 가능하겠지만, 이를 위해서는 분할된 물량을 받아줄 상대들을 찾아야 하고, 각종 수수료 발생 및 낮은 주가(예를 들어 상대방은 주당 125만원으로 협상)를 통해 제 값을 못 받게 될 것이다.

블랙풀은 이러한 문제를 해결해주는 시스템으로, 누가 왜 삼성전자 주식의 1%를 파는지 알지 못하게 판매 알고리즘을 만든다. 즉, 골드만삭스의 블랙풀을 통해 삼성전자 주식의 1%를 매도하게 되면, 커다란 블랙박스에 들어간 것처럼 삼성전자 주식을 사고자 하는 매입자들은 상대방이 캘리포니아 공무원 연금인지를 모르게 되며, 단지 해당 회사의 투자 매력도만 보게 되고 주문하게 되기 때문에 매도자는 주가를 최대한 현재 주가에 맞춰 팔 수 있게 된다.

문제는 골드만삭스의 다크풀 알고리즘이 진정 매입자나 매도자를 위해 코딩이 됐는지, 또는 자사의 이익을 위해 코딩이 됐는지는 개발자와 경영진만 알 수 있다는 점이다. 금융업체에서 이미 구현되고 있는 이러한 자율적 알고리즘이 개발자 또는 시스템의 소유자 마음대로 결정이 되는지 아닌지를 판단할 수 없는 상황이라면, 자율주행차 시스템의 알고리즘은 얼마나 객관적일 수 있는지 의문시된다.



예를 들어 여러분이 구글의 안드로이드 오토모바일이라는 자율주행시스템을 장착한 마세라티 르반떼를 탑승했다고 치자. 서울에서 부산을 가는 경로를 결정함에 있어서 물론 시스템은 현재 교통상황과 과거 동일한 시기의 교통체증 데이터를 분석하여 최적의 경로를 찾을 것이다. 허나, 운전을 하지 않게 된 탑승객들이 도중에 식당을 가고 싶다거나, 또는 숙박을 하고 싶다는 등 어떤 소비적인 행동을 위해 자율주행차 시스템에게 음성으로 지시를 내릴 때, 구글이 만든 시스템은 어떤 결과를 낼 것인가? 구글에게 자신의 업소를 찾게 해 달라고 마케팅 비용을 가장 많이 지불한 업소에게 검색 결과의 우선권을 줄 수 있는 것이 아닌가? 

더 나아가 다양한 경로 중에 존재하는 어느 지방자치단체가 구글에게 자신의 지역에 대한 검색결과를 더욱 잘 나오게 마케팅 비용을 지불한다면, 그렇지 않은 지역의 상업적 결과는 어떨 것인가? 이렇게 자율이라는 미명으로 개인들이 자신의 선택권을 포기하게 된다면, 자신의 결정을 대신 해주게 되는 시스템은 분명 사회적 공익성을 위해 알고리즘을 검증 받아야 하지 않을까? 특히, 사람들이 탑승하는 자동차라는 기기라는 특수성을 고려한다면, 자율주행차에 있어 이러한 검증은 한층 더 깐깐하게 진행되어야 할 것이다. 여러분들은 구글이 제시하는 경로만 따라가는 세상에 살 것인가?

자율주행차 시대의 편리함 뒤에는 이러한 단점들이 분명히 있다는 점을 함께 고민하고 싶고, 필자는 그러한 시대가 오더라도, 최대한 ‘자율성’에 선택의 자유를 포기하지 않고자 한다. 물론, 술에 취해 인사불성이 된 상황만 아니라면 말이다. 밝을수록 그림자는 더욱 어두운 법이다. 그것이 1800년대이던, 2100년대이던.



칼럼니스트 박상원 (자동차 애널리스트)

Copyright ⓒ Entermedia.co.kr. 무단전재 및 재배포 금지
뒤로가기 인쇄하기 목록



*/?>