당신은 주제를 찾고 있습니까 “자율 주행 자동차 윤리적 문제 해결 방안 – [뉴스G] 인공지능이 ‘도덕’을 배울 수 있을까?“? 다음 카테고리의 웹사이트 https://sk.taphoamini.com 에서 귀하의 모든 질문에 답변해 드립니다: https://sk.taphoamini.com/wiki/. 바로 아래에서 답을 찾을 수 있습니다. 작성자 뉴스EBS 이(가) 작성한 기사에는 조회수 46,954회 및 좋아요 176개 개의 좋아요가 있습니다.
Table of Contents
자율 주행 자동차 윤리적 문제 해결 방안 주제에 대한 동영상 보기
여기에서 이 주제에 대한 비디오를 시청하십시오. 주의 깊게 살펴보고 읽고 있는 내용에 대한 피드백을 제공하세요!
d여기에서 [뉴스G] 인공지능이 ‘도덕’을 배울 수 있을까? – 자율 주행 자동차 윤리적 문제 해결 방안 주제에 대한 세부정보를 참조하세요
http://home.ebs.co.kr/ebsnews/menu2/newsVodView/evening/10476297/H?eduNewsYn=
자동차 운전 도중 갑자기 10여명의 사람들이
도로에 뛰어듭니다.
멈추기에는 너무 긴박한 시간,
열 명과의 충돌을 피하기 위해 방향을 틀면
한 명의 보행자를 치게 됩니다.
이때 여러분이라면 어떤 판단을 하시겠습니까?
대부분은 다수보다 소수의 희생이 낫다는 쪽으로
결론을 내리게 되죠.
또 다시 갑작스럽게 한 무리의 사람들이
도로에 뛰어듭니다.
이들을 피하기 위해 핸들을 돌리면
이번에는 벽에 부딪히면서
운전자 본인이 사망하게 됩니다.
이런 상황에서는 어떤 선택을 하시겠습니까.
어떤 행동이 옳고 그른지를 판단하고 결정을 내릴 때
사람들이 겪을 수 있는 딜레마인데요.
만약 인공지능이라면 어떤 선택을 할까요?
최근 프랑스 툴루즈 경제대 연구원은
사람이 운전하지 않는 자율주행차가
이처럼 피할 수 없는 상황에 처했을 때
누구를 보호하도록 설계할 것인지에 대한
논의가 필요하다며 문제를 제기했습니다.
스스로 운전하는 자율주행차는
윤리를 모르기 때문입니다.
인공지능의 윤리는 자율자동차만의 문제는 아닙니다.
의료 현장이나 전쟁터에 투입되는 로봇들 역시
도덕적 판단이 필요한 상황에서
올바른 결정을 할 수 있을지에 대한
의구심이 커지고 있는데요.
물에 빠진 사람들을 구조하는 인공지능 로봇이
살아날 확률이 더 높은 사람만 구출한다는
영화 속 이야기가 현실화 될 가능성이 높아진 겁니다.
로봇이 윤리적 결정을 내려야 할 상황이 점점 더 많아지자
과학자들의 사이에서 인공지능에게 윤리를 가르치려는
시도가 이뤄지고 있습니다.
인공지능이 도덕적인 의사결정에 도달하게 하는
소프트웨어를 만드는 건데요.
미국 렌셀레어 공대의 셀머 브링스요드 박사는
로봇이 내리는 모든 결정에 대해
사전에 윤리적인 검토를 할 수 있는 프로그램을
연구하고 있습니다.
미리 예측하지 못한 상황에서도
‘생명은 소중하다’와 같은 대원칙에 입각해
인공지능이 스스로 도덕적 추론을 거치도록 하는 겁니다.
컴퓨터 과학자 마이클 앤더슨과 수전 앤더슨 부부는
‘메드에덱스’라는 시스템을 설계했는데요.
의료 분야에 투입된 로봇에게
여러 가지 의무가 주어졌을 때
과거 인간 전문가가 내린 결정들을 참고해
자신의 의무를 비교, 평가함으로써
최선의 선택을 하도록 하는 것입니다.
과연 인공지능이 인간의 윤리적인 사고방식을
배울 수 있을까요?
인간과 로봇의 공존을 위한 길은 아직도 멀어 보입니다.
자율 주행 자동차 윤리적 문제 해결 방안 주제에 대한 자세한 내용은 여기를 참조하세요.
자율주행자동차, 트롤리 딜레마 문제없어 – 테크월드뉴스
특히, 윤리적 문제와 책임 주체에 관한 문제를 꼽을 수 있으며, 다른 분야와 관련된 엔지니어들은 이미 수년간 이런 문제를 다뤄왔다. 테슬라와 같은 반 …
Source: www.epnc.co.kr
Date Published: 7/30/2022
View: 4446
자율 주행 자동차 윤리적 문제 해결 방안 | 자율주행차와 트롤리 …
자율 주행 자동차 윤리적 문제 해결 방안 주제에 대한 자세한 내용은 여기를 참조하세요. … “트롤리 문제, 알고리즘은 못풀어…운전의 사회적 의미 파악 …
Source: ppa.covadoc.vn
Date Published: 5/21/2021
View: 7972
자율주행자동차: 로봇으로서의 윤리와 법적 문제
자율주행자동차는 스스로 주행환경을 인식하면서 목. 표지점까지 자율적으로 운행하는데, 운행 도중 윤리적 판. 단이 필요한 사고 상황, 예를 들어 트롤리 딜레마 사례와.
Source: library.krihs.re.kr
Date Published: 5/19/2022
View: 5574
자율주행을 위한 문제해결 방안
스테판 야누흐(Stephan Janouch) 자동차 마케팅 수석 매니저, 자일링스(Xilinx) 자율주행 기능을 제공하기 위해서는 SWaP-C 과제를 해결할 수 있는 중앙 프로세싱 모듈 …
Source: www.autoelectronics.co.kr
Date Published: 6/9/2022
View: 8323
‘자율자동차 윤리’ 문제, 2백만명의 답은? – 사이언스타임즈
한편 인공지능의 성능 향상이 해결책이 될 수 있다는 주장도 있다. 자율성을 가지고 있는 인공지능이 언젠가 인간의 윤리의식도 습득, 최대한 올바른 선택 …
Source: www.sciencetimes.co.kr
Date Published: 11/17/2021
View: 4736
자율주행차는 얼마나 윤리적인가① – 한국일보
따 – 안전기술구글레벨자율주행윤리대한도로고리상용화. … 안전성 △악용 △개인정보보호 △킬러로봇 등의 문제와 해결방안에 대해서 살펴보았다.
Source: m.hankookilbo.com
Date Published: 11/21/2021
View: 6461
자율주행자동차가 사용화되기 전에 해결해야 할 윤리적·법적 문제
미국 국제자동차기술자협회(Society of Automotive Engineers; SAE International)에서는 도로를 주행하는 자동차의 자동화를 5단계로 나누었고, …
Source: www.knun.net
Date Published: 11/12/2021
View: 5160
자율주행차 윤리적 이슈 부상…”사회적 합의 필요” – 연합뉴스
이 교수는 “자율주행차 운행과 관련된 윤리적 문제는 인간에 대해 인간 … 대한 책임을 확보할 수 있는 법률적 해결방식 정비가 필요하다는 것이다.
Source: www.yna.co.kr
Date Published: 12/24/2021
View: 9229
Top 45 자율 주행 자동차 윤리적 문제 해결 방안 6160 Votes …
Summary of article content: Articles about ‘자율자동차 윤리’ 문제, 2백만명의 답은? – Sciencetimes 한편 인공지능의 성능 향상이 해결책이 될 수 …
Source: aodaithanhmai.com.vn
Date Published: 2/2/2021
View: 3828
The Best 자율 주행 자동차 윤리적 문제 해결 방안 New Update
전체강의 강의목록 – 에듀퓨어 – edupure.net New Update · 주제에 대한 추가 정보 보기 자율 주행 자동차 윤리적 문제 해결 방안 · 주제와 관련된 키워드 …
Source: ge.foci.com.vn
Date Published: 8/4/2021
View: 181
주제와 관련된 이미지 자율 주행 자동차 윤리적 문제 해결 방안
주제와 관련된 더 많은 사진을 참조하십시오 [뉴스G] 인공지능이 ‘도덕’을 배울 수 있을까?. 댓글에서 더 많은 관련 이미지를 보거나 필요한 경우 더 많은 관련 기사를 볼 수 있습니다.
![[뉴스G] 인공지능이 '도덕'을 배울 수 있을까?](https://i.ytimg.com/vi/FXOmc1drCkE/maxresdefault.jpg)
주제에 대한 기사 평가 자율 주행 자동차 윤리적 문제 해결 방안
- Author: 뉴스EBS
- Views: 조회수 46,954회
- Likes: 좋아요 176개
- Date Published: 2016. 3. 25.
- Video Url link: https://www.youtube.com/watch?v=FXOmc1drCkE
자율주행자동차, 트롤리 딜레마 문제없어
[테크월드=선연수 기자]경쟁에서 앞서 나가기 위해 자동차 제조업체는 미래를 내다보고 면밀히 계획을 짜야 한다. 현재 자동차 제조업체가 바라보는 자동차 산업의 미래는 자율주행자동차다. AI가 제어하는 자동차는 더 빠른 속도로 서로 가깝게 주행할 수 있어 도로의 차량 수용 능력을 높인다. 또한, 자동차 사고가 발생할 수 있는 상황에서 빠르게 반응해 더 안전할 수 있다. 전 세계 곳곳에서 자율주행자동차 시험 운행이 진행되고 있으며, 최초로 상용화된 자율주행자동차가 일반 대중에게 판매되는 것은 시간문제일 뿐이다.
자율주행자동차 사고 책임의 주체
자율주행자동차가 잠재성을 완전히 실현하려면 공개적인 사용 전에 짚고 넘어갈 문제가 몇 가지 있다. 특히, 윤리적 문제와 책임 주체에 관한 문제를 꼽을 수 있으며, 다른 분야와 관련된 엔지니어들은 이미 수년간 이런 문제를 다뤄왔다.
테슬라와 같은 반자율주행차에서, 향후 완전 자율주행차로 나아가는 데 있어 중요한 문제 중 하나는 사고의 책임을 물을 대상이다. 현재 반자율주행차는 충돌 발생 시 이에 대한 책임을 운전자가 지는 것으로 탑승자를 규정하고 있다. 그러나 만약 자율주행자동차가 충돌한다면 누가 책임질 것인가? 이 질문에 대한 답을 얻기 전엔 자율주행자동차는 보험에 들 수 없으며, 따라서 공공 도로에서 운행할 수 없다.
자율주행자동차는 여러 잠재적 책임 주체를 가진다. 자동차 소유자, 제조업체, 소프트웨어 개발자, 서브시스템 제조업체가 모두 사고에 책임이 있을 수 있다. 만약 자동차가 도로 규칙을 준수했다면 제조업체에 잘못의 책임이 있는 걸까? 지금까지 책임지겠다고 직접 표명한 제조업체는 볼보뿐이며, 2015년 10월 자사의 자율주행자동차에 대한 책임을 수용할 것이라고 밝혔다.
트롤리 딜레마
자율주행자동차 제조업체가 직면한 윤리적 문제와 관련해 가장 많이 언급되는 시나리오 중 하나가 ‘트롤리’ 딜레마다. 이는 사고가 불가피할 때 자동차의 소프트웨어가 어느 방향을 취할지 결정해야 하는 상황을 의미한다. 원래 트롤리 시나리오는 5명이 있는 선로를 향해 달려가는 고장난 열차와 선로 전환기 앞의 한 사람과 관련된 문제로, 전환기 앞의 결정권을 가진 사람이 아무 행동을 하지 않으면 5명의 사람이 죽게 되고, 전환기를 당겨 방향을 돌리면 1명이 죽게 된다. 이제 자율주행자동차 시대에선 전환기 앞의 사람을 자동차의 소프트웨어가 담당하게 된다. 만약 사고가 일어날 것이 확실한 상황에서 도로의 한 쪽에는 엄마와 아기가 있고, 자동차 앞쪽엔 한 무리의 어린 학생들이 길을 건너고 있으며, 도로의 다른 쪽은 절벽이라면, 자동차가 내릴 수 있는 가장 윤리적인 결정은 무엇일까? 자동차가 방향을 틀어 엄마를 치는 것일까, 아이들에게 돌진하는 것일까, 아니면 절벽으로 몰아 차 안에 탄 사람을 죽도록 하는 것일까?
메르세데스는 이 상황에 대해 자동차는 운전자를 보호할 일차적인 책임이 있다고 발표했으나, 해당 표명은 상황을 잠재우는 대신 ‘킬러 로봇’이라는 헤드라인으로 장식됐다.
트롤리 딜레마 논제의 비현실성
현실적인 상황을 평가하기 위해선 이런 상황이 얼마나 일어나기 어려운지, 그리고 자율주행자동차가 어떻게 동작하는지 자세히 알 필요가 있다. 트롤리 딜레마에서 상정되듯이 매우 제한적인 공간에서 자율주행자동차는 트롤리 결정을 내리는 상황을 맞닥뜨리기 전에 환경에 반응한다. 자율주행자동차는 속도를 늦추고 센서의 범위를 확대해 주변 환경에 대해 최대한 완벽한 그림을 확보한다. 이런 작업이 이뤄짐으로써 자율주행자동차는 누구를 죽여야 할 것인가에 대한 결정을 내려야 하는 상황에 놓일 가능성이 훨씬 낮다. 그런데도 만약 해당 상황에 놓인다면, 초기에 위험을 감지하지 못하고 자동차를 위험한 상황에 빠뜨린 메인 라이다(LiDAR)와 레이더, 초음파 센서의 잘못일까?
자율주행자동차가 선택할 상황에 놓이지 않을 두 번째 이유는 자율주행자동차는 인간 운전자보다 훨씬 빨리 멈출 수 있다는 사실이다. 충돌 가능성이 있는 상황이 감지되면, 자동차는 밀리초만에 제동하기 시작한다. 센서의 범위가 차량의 정지거리를 훨씬 넘어서기 때문에 자동차가 치명적인 상황에 처할 경우는 훨씬 줄어든다. 어떠한 이유로 충돌이 불가피해졌다면, 브레이크뿐 아니라 센서 역시 안전벨트를 조이거나 에어백을 작동시키는 등 운전자를 보호하기 위한 다양한 조치를 취할 수 있다.
자동차의 라이다 센서는 자동차 주변 영역에 대해 3차원 모델을 구성한다. 이후 알고리즘으로 영역 내 모든 위험을 탐지하며, 다른 센서 시스템을 이용해 라이다가 감지한 위험의 진위 여부를 이중으로 검사한다. 이때 잘못된 감지라 해도 적시에 위험을 인식하지 못하는 것보다는 바람직하다.
전체 시스템은 세대를 거칠 때마다 향상된다. 따라 센서는 더 빨라지고 더 섬세해지며, 위험을 평가하는 소프트웨어 알고리즘 역시 더욱 정교해진다. 시스템 기능 향상은 잘못된 감지가 발생할 가능성이 줄어드는 것을 의미하며, 안전 시스템의 충분한 배치를 보장함으로써 자율주행자동차를 더욱 안전하게 만든다.
실질적인 위협, 해킹
마지막으로 남은 치명적인 위험은 바로 외부로부터의 해킹이다. 차량의 소프트웨어는 그 어떤 것이라도 변경된다면, 도로 위에서의 안전이 보장되지 않는다. 사이버 보안은 자율주행자동차 제조업체에게 남겨진 가장 큰 과제이며, 이를 해결하기 위해 제조업체들은 적극적으로 노력하고 있다. 무선 차량 간 통신(V2V) 시스템은 전체 안전 시스템에서 필수적인 기능 블록으로, 전방에 위험이 존재할 경우 자동차가 다른 차량의 동작 정보를 얻어 더 일찍 제동할 수 있도록 한다. 이는 V2V 시스템이 어떻게 활용될 수 있는지 보여주는 한 예다.
개발자와 해커 간의 전쟁은 자율주행자동차의 진정한 위험이며, 승객과 일반 대중의 안전뿐 아니라 자율주행자동차의 성공을 보장하기 위해선 개발자가 반드시 이겨내야 하는 전쟁이다. 악의적인 위협은 앞서 언급한 자동차의 트롤리 딜레마나 진정한 책임 주체와 같은 인지할 수 있는 위협보다 훨씬 더 실제적인 문제다.
글: 마크 패트릭(Mark Patrick)
자료제공: 마우저 일렉트로닉스
자율 주행 자동차 윤리적 문제 해결 방안 | 자율주행차와 트롤리 문제, 정의란 무엇인가? 답을 믿으세요
We are using cookies to give you the best experience on our website.
You can find out more about which cookies we are using or switch them off in settings.
자율주행을 위한 문제해결 방안
자율주행을 위한 문제해결 방안
2018년 07월호 지면기사 / 글│스테판 야누흐(Stephan Janouch), 자동차 마케팅 수석 매니저, 자일링스(Xilinx)
스테판 야누흐(Stephan Janouch)
자동차 마케팅 수석 매니저, 자일링스(Xilinx)
자율주행 기능을 제공하기 위해서는 SWaP-C 과제를 해결할 수 있는 중앙 프로세싱 모듈을 구현해야 한다. DAPD 및 신경망 가속, 안전 프로세서를 위한 고도의 통합 솔루션인 징크 울트라스케일+ MPSoC는 작고, 가볍고, 전력효율이 뛰어난 솔루션을 개발할 수 있도록 지원한다.
자동차 업계에서 가장 뜨거운 이슈 중 하나는 자율주행이다. 기존 자동차 제조사들을 비롯해 새롭게 자동차 시장에 진출하는 기업들 모두 자율 기능을 갖춘 자동차를 개발하는 데 주력하고 있다. 이러한 자율 기능 개발자는 프로세싱 성능과 센서 기술을 크게 향상시키면서도 비용을 낮출 수 있는 ‘무어의 법칙’으로부터 이득을 얻을 수 있다.
이러한 자율주행은 완전 자율주행에서 운전자와의 제어 공유에 이르기까지 다양한 기능을 포괄해야 하는 매우 복잡한 분야이다. 미국 SAE(Society of Automotive Engineers)는 서로 다른 자율 기능을 분류하기 위해 자율성을 구분할 수 있는 몇 가지 레벨을 정의했다(그림 1).
자율성 레벨이 높을수록 자동차는 환경을 이해하고, 이와 동일한 환경 내에서 안전이 유지될 수 있어야 한다. 자동차가 환경을 이해하고 안전하게 상호작용할 수 있으려면, 관련 프로세싱 성능과 함께 초음파, GPS, 레이다, 카메라, 라이다에 이르기까지 다양한 방식의 센서가 필요하다.
이러한 각기 다른 방식의 센서는 자동차의 전반적인 환경 데이터를 제공한다. 완벽한 그림을 만들기 위해서는 자율주행 차량에 이러한 요소들을 함께 융합해야 한다. 각기 다른 센서의 배치 및 방식은 구현되는 자율성 레벨에 따라 달라진다. 카메라는 차선유지 지원, 사각지대 감지, 교통표지판 인식과 같은 애플리케이션에 사용되며, FMCW(Frequency Modulated Continuous Wave)로 구현되는 레이다는 객체와의 거리를 결정하는 데 사용된다.
반면, 레벨2 이상에서는 자동차 환경에 대한 포괄적인 이해 능력이 중요하다. 이를 통해 자동차는 위치 및 주변 장애물을 식별하여 안전하게 운행할 수 있다. 환경에 대한 이해는 카메라나 레이다, 라이다와 함께 GPS(Global Positioning System) 데이터를 이용해 얻을 수 있다. 하지만 자체 GPS 데이터는 정확도가 달라지기 때문에 의존할 수 없으며, 빌딩이나 인프라에 의해 쉽게 차단될 수 있다.
자동차가 환경을 이해하고 조치를 취하도록 하는 것이 자율 기능을 실현하는 핵심이다. 6개 레벨 모두 의도치 않은 작동이나 조치로 인해 인명이나 주변 환경을 위험에 처하게 할 수 있다. 따라서 자율 기능은 디자인과 해당 모든 요소의 안전성을 보장할 수 있는 프레임워크 내에서 개발되어야 한다. ISO 26262에 따라 개발하는 것은 자율주행 차량을 위한 필수요건이다.
이 표준은 이를 준수할 경우 안전성을 보장하고, 각각의 ASIL(Automotive Safety Integrity Levels)과 함께 허용 가능한 고장률을 정의한 프레임워크를 제공한다. 또한 자율주행 솔루션은 전 세계 시장에 구축된 이후 여러 혹독한 환경에 노출될 수 있다. 이러한 환경에서 시스템이 동작할 수 있도록 자동차 등급의 컴포넌트는 AEC-Q100 이상의 광범위한 품질 보증과 인증이 필요하다.
아키텍처
자율 기능을 구현하는 핵심은 중앙 프로세싱 모듈이다. 자율 기능을 성공적으로 구현하기 위해서는 중앙 프로세싱 모듈에 다음과 같은 기능이 포함되어야 한다:
– DAPD(Data Aggregation, Pre-processing and Distribution) – 이는 프로세싱 장치와 프로세싱 장치 내의 가속기 사이에서 정보의 기본적인 프로세싱 및 라우팅, 스위칭을 수행하는 다양한 센서 방식들과 인터페이스한다.
– 고성능 직렬 프로세싱 – 데이터 추출 및 센서 융합, 그리고 입력을 기반으로 높은 수준의 의사결정을 수행하는 고성능 프로세싱 요소. 일부 애플리케이션에서는 신경망이 고성능 직렬 프로세싱 내에 구현된다.
– 안전 프로세싱 – DAPD 디바이스에서 전처리를 통해 제공되는 감지된 환경과 신경망 가속 및 고성능 직렬 프로세싱 요소들의 결과에 따라 실시간 프로세싱 및 차량 제어를 수행한다.
중앙집중화된 프로세싱 모듈을 구현하여 설계자는 전력 및 열이 제한된 환경에 배치할 때 발생하는 기존 SWaP-C(traditional Size, Weight and Power – Cost) 과제와 함께 여러 인터페이스 및 확장성, 규정 준수, 성능 문제들을 해결할 수 있다. 이러한 SWaP-C 과제는 DAPD 및 안전 프로세서로 처리할 때 특히 명확하게 확인할 수 있다.
과제 해결
이러한 과제를 해결하기 위한 한 가지 솔루션은 동일한 실리콘 내에서 DAPD의 인터페이스, 전처리 및 라우팅 기능뿐만 아니라 안전 프로세싱 및 잠재적인 신경망 가속을 수행할 수 있는 단일 디바이스를 사용하는 것이다. 이러한 고도의 통합 접근방식은 SWaP-C에 상당한 도움이 되는 고집적 솔루션을 구현할 수 있도록 해준다.
자일링스 자동차 등급 징크(Zynq®) 울트라스케일+(UltraScale+™) MPSoC 이기종 SoC(System on Chip)을 사용하면 이러한 고집적 솔루션을 구현할 수 있다. 이 디바이스 제품군은 프로그래머블 로직과 함께 4개의 고성능 ARM A53 코어를 통합해 고집적 프로세싱 소자를 구성하고 있다. 또한 징크 울트라스케일+ MPSoC는 실시간 제어를 위해 최고 ASIL C까지 안전 기능을 구현할 수 있는 록스텝(Lockstep) 듀얼 ARM R5 프로세서로 구성된 RPU(Real-Time Processing Unit)를 제공하며, 안전 우선 애플리케이션에 적합하다.
이 RPU는 필요한 기능안전을 제공하기 위해 하드웨어나 유도된 단일 이벤트에서 모두 우발성 단일 고장을 줄이거나, 감지하고, 완화시킬 수 있도록 설계됐다. 이러한 디바이스는 프로세서 시스템 리소스와 프로그래머블 로직 간의 기능을 효율적으로 분할할 수 있다.
DAPD에 따른 핵심 과제 중 하나는 각기 다른 인터페이스 표준을 따르는 다양한 센서 방식들과 인터페이스할 수 있어야 한다는 것이다. 일반적인 솔루션들은 카메라, 레이다, 라이다 등 고대역폭 인터페이스를 위한 MIPI, JESD204B, LVDS, GigE와 같은 고속 인터페이스를 사용하는 다양한 센서 방식들과 인터페이스한다. 하지만 DAPD는 CAN, SPI, I2C, UART와 같은 저속 인터페이스와도 인터페이스할 수 있어야 한다.
징크 울트라스케일+ MPSoC의 프로세싱 시스템(PS)과 프로그래머블 로직(PL)은 SPI, I2C, UART, GigE를 비롯한 다양한 산업 표준 인터페이스를 지원하며, PL IO의 유연성을 통해 MIPI, LVDS, 기가비트 시리얼 링크와 직접 인터페이스할 수 있어 IP 코어를 사용해 PL 내부에 상위 레벨의 프로토콜을 구현할 수 있다. PL 내에 프로토콜을 구현하면, 개정된 표준을 쉽게 적용할 수 있을 뿐만 아니라 솔루션 내에서 특정 센서 인터페이스 수를 유연하게 제공할 수 있다.
또한 자일링스의 자동차 등급 징크 울트라스케일+ MPSoC가 제공하는 프로그래머블 로직은 신경망 가속을 가능하게 한다. 프로그래머블 로직의 병렬 속성은 스테이지 사이의 전통적인 외부 메모리 병목현상을 제거함으로써 기존 CPU/GPU 기반 접근방식에 비해 반응성 및 결정성이 뛰어난 신경망을 구현할 수 있다. 이러한 신경망은 프로세서 시스템에서 프로그래머블 로직까지 기능을 원활하게 이동시킬 수 있는 SDSoC™ 시스템 최적화 컴파일러를 이용해 C, C++, OpenCL과 같은 하이레벨 언어로 구현할 수 있다.
또 다른 과제는 안전 프로세서를 구현하는 것이다. 이는 DAPD 및 고성능 직렬 프로세싱으로부터 수신된 명령에 따라 동작이 이뤄져야 한다. 이러한 명령은 해당 환경 내에서 차량이 안전하게 운행될 수 있도록 해준다. 안전 프로세서는 조향, 가속, 제동과 같은 차량 제어와 직접 상호 작용해야 한다. 이는 자율주행 차량에서 매우 중요한 부분이다. 여기에서 오류는 인명 피해를 초래할 수 있다. 자일링스의 자동차 등급 징크 울트라스케일+ MPSoC는 안전 프로세싱을 구현하는 데 사용할 수 있는 RPU 내에 록스텝 듀얼 ARM R5코어를 내장하고 있다.
RPU 코어의 록스텝 기능과 함께 몇 가지 추가적인 완화 조치가 구현됐다. RPU와 긴밀하게 결합된 메모리 및 캐시를 위한 ECC(Error Correction Code)가 포함돼 있으며, DDR 메모리는 DEDSEC(Double Error Detection Single Error Correction) 코드로 보호된다. 캐시와 메모리에 ECC가 포함됨으로써 자율주행 차량의 제어를 구현하는데 필요한 데이터 및 애플리케이션 프로그램의 무결성을 보장한다.
작동 전에 하드웨어 결함을 없애기 위해 전원이 켜져 있는 동안 BIST(Built-in Self-Test)도 제공된다. 또한 추가적인 BIST는 필요 시 사용자의 요청에 따라 동작 중에 실행될 수 있다. 징크 울트라스케일+ MPSoC 아키텍처는 디바이스 내의 메모리와 주변장치 기능을 격리하여 구현할 수 있다.
자일링스의 자동차 등급 징크 울트라스케일+ MPSoC에 이러한 기능들이 포함됨으로써 동일한 실리콘 내에 DAPD 및 잠재적인 신경망 가속과 같은 안전 프로세싱을 구현할 수 있다. 업계를 선도하는 디바이스 품질을 보장하기 위해 자일링스는 업계의 요구사항을 수렴하여 내부의 품질 제어 프로그램인 Beyond-AEC-Q100에 통합했다.
자일링스는 이 프레임워크 내의 테스트 요건을 두 배로 늘려 자동차 디바이스의 충분한 안전 마진을 확보하고 있다. 또한 더 높은 집적도는 최종 솔루션에서 요구하는 PCB 설계 및 인터커넥션 복잡성을 줄이는 것은 물론, 낮은 전력소모를 제공한다.
‘자율자동차 윤리’ 문제, 2백만명의 답은? – Sciencetimes
자율자동차의 브레이크가 고장나서 멈출 수가 없다. 몇 m 앞에 횡단보도가 있는데, 사람들과 반려동물이 차량이 돌진하는 것도 모르고 건넌다. 사고를 피할 수 없다.
이럴 때 사람이 운전한다면, 본능에 따라 운전대를 조작할 것이다. 차선을 변경한다면, 결과적으로 운전자 자신이 어떤 사람(혹은 반려동물)을 희생자로 선택하는 것이다. 운전자는 중앙분리대로 운전대를 꺾어서 피해를 자신에게 돌릴 수도 있다.
자율자동차는 이럴 때 어떻게 할까? 다시 말해서 이런 상황을 대비해서 자동차 회사는 ‘자율주행 소프트웨어’를 어떻게 짜야 할까? 이렇게 곤란한 상황에 빠졌을 때 어떤 선택을 해야 하는지를 묻는 윤리문제를 보통 ‘트롤리 문제’라고 한다.
자율자동차가 점점 현실에 가까워지면서 오래된 이 윤리문제가 최근 자주 등장하고 있다.
고장난 자율자동차의 직진방향 횡단보도에는 노숙자와 범죄자가 지나간다. 그 옆 차선으로 2마리의 고양이가 걸어간다.
어떻게 해야 할까? 그나마 사람이 아닌 고양이 쪽으로 방향을 바꾸는 사람이 많을 것이다. 그러나 1차선에 어린아이, 2차선에 노인이 있을 경우는 어떨까? 혹은 1차선에 여성, 2차선에 남성이 있을 경우는?
이런 복잡하고 다양한 ‘트롤리 문제’를 대규모로 조사한 자율자동차 윤리문제 연구결과가 나왔다.
미국 MIT 미디어 랩은 신뢰성 있는 대규모 조사를 위해 2016년 ‘윤리기계’(Moral Machine)을 만들었다. 온라인 게임 같은 방식으로 해답을 내게 한 데다, 다국어로 진행하다 보니 전세계 200여개 국가에서 200만 명 이상이 조사에 참가했다.
‘윤리기계’ 만들어 200여개 국가 의견 조사
이 윤리기계는 233개 국가에서 4000만 개의 결정을 모아서 분석했다. 연구원들은 이 데이터를 전체적으로 분석한 다음 연령, 교육, 성, 수입 그리고 정치적 및 종교적 관점 등의 소주제로 나눠 분석했다. 이러한 신상 자료를 제출한 사람은 49만명이나 된다.
이번 연구의 주저자인 미국 MIT대학 미디어랩의 에드먼드 아와드(Edmond Awad)박사는 네이처에 연구결과를 발표하고 “사람들이 가장 먼저 용인하는 3가지 공통 요소를 발견했다”고 말했다.
첫 번째, 당연히 동물 보다 사람의 생명을 구하는 것을 우선해야 한다는 것이다. 두 번째는 소수의 사람 보다 많은 사람을 구해야 한다는 점이었고, 세 번째는 나이든 사람 보다 젊은 사람의 생명을 구해야 한다는 것이다.
좀 더 세부적인 조사에서 사람들은 남성에 비해 여성을 구하기를 원했고, 뚱뚱한 사람보다는 운동선수를 선호했다. 높은 지위에 있는 사람의 생명은 노숙자, 범죄자보다 좀 더 가치있게 여겨졌다.
동시에 모든 지역에서 무단횡단자보다 규정을 지키는 행인의 생명을 우선한다는 공통점을 나타냈다.
연구원들은 인구학적 특징에 바탕을 둔 분류에서는 어떤 도덕적인 차이를 발견하지 못했다. 그러나 문화적, 지리적 관점에서 도덕적 우선순위가 다소 차이가 나는 더 큰 클러스터가 존재하는 것을 발견했다.
윤리도덕의 기준에서 세계는 크게 ‘서부’ ‘동부’ ‘남부’로 나뉘었다. 그리고 거대한 이 세 클러스터 사이에서 윤리적 우선순위의 차이가 나타났다.
예를 들어 ‘남부’ 국가들은 비교적 나이 든 사람 보다 젊은 사람을 구해야 한다는 경향이 강했는데, 이는 특히 노인에 대한 공경심이 강한 ‘동부’ 클러스터와 비교해서 두드러졌다.
아와드는 “이같은 도덕적 우선순위의 차이는 트롤리 문제와 같은 공공영역의 이슈를 토론할 때 기본적인 토대가 될 수 있다”고 말했다.
이론적으로 이러한 우선순위는 자율자동차에 탑재할 소프트웨어에 반영될 수 있다. 문제는 이 우선순위의 차이가 사람들이 새로운 기술을 수용할 때 반영되어야 하는가이다.
이 실험은 일부 편향된 결과를 만들어 냈을지 모른다. 온라인 게임 형태로 조사가 진행됐기 때문에 노인들의 생각보다 젊은이들의 생각이 더 많이 반영됐을 것이다.
무엇보다 위험한 것 중 하나는 이런 연구결과가 ‘세계적으로, 대규모로’ 진행됐다는 이유로 자율자동차의 자율결정 과정을 유도할 수 있다는 점이다.
실제 상황에서 판단해야 할 윤리문제는 더욱 복잡하고 미묘한데 비해, 이를 적절히 반영하지 않은 것도 한계를 보였다. 예를 들어 MIT 연구진은 일반적으로 ‘노인보다 젊은이를 살린다’고 했지만, 그 경계선이 매우 미묘하다.
또 두 가지 이상의 기준이 겹칠 경우도 있다. 신호를 지키고 건너는 사람과 무단횡단하는 사람이 있을 경우, 단순히 나이만 가지고 우선순위를 정하는 것이 옳은 것인가에 대해 지적이 나올 수 있다.
인공지능이 인간의 윤리의식 마저 정복할까
자율자동차에 대한 모순된 생각도 존재한다.
사람들은 자율자동차가 고장나서 제멋대로 움직일 때, 자동차 탑승객을 보호하기 보다 보행자를 보호하기를 원한다. 그러나 자신이 구매해야 할 차량은 그 반대의 기능을 더 선호할 것이다.
때문에 이 문제에 대한 해답은 쉽게 나오지 않는다.
물론 자율자동차를 움직이는 인공지능 윤리를 단순 여론조사를 바탕으로 만들 수는 없다. 때문에 이러한 결정을 하는데 있어서 많은 대중이 참여하는 것이 중요하다.
이번 연구에 참여한 MIT미디어랩의 이야드 라환(Iyad Rahwan) 조교수는 “이러한 플랫폼에서 공공의 관심은 우리들의 예상을 뛰어 넘는다”고 말했다.
한편 인공지능의 성능 향상이 해결책이 될 수 있다는 주장도 있다. 자율성을 가지고 있는 인공지능이 언젠가 인간의 윤리의식도 습득, 최대한 올바른 선택을 통해 이를 적용할지 모른다는 기대다.
어찌 되었든, 인공지능과 같은 기술의 발전이 사람들로 하여금 윤리와 철학에 대해 다시끔 상기시키도록 한다는 점은 아이러니가 아닐 수 없다.
(25600)
자율주행차는 얼마나 윤리적인가①
편집자주 가속화한 인공지능 시대. 인간 모두를 위한, 인류 모두를 위한 AI를 만드는 방법은? AI 신기술과 그 이면의 문제들, 그리고 이를 해결할 방법과 Good AI의 필요충분조건
지난 칼럼까지는 현재 인공지능의 발달 과정에서 발생한 5대 윤리 문제, 곧 △AI의 편향성 △오류와 안전성 △악용 △개인정보보호 △킬러로봇 등의 문제와 해결방안에 대해서 살펴보았다.
하지만 인공지능 기술은 지금 이 시간에도 끊임없이 발달하고 있으며, 향후 새로운 AI기술이 개발되면 역시 이에 따른 역기능, 부작용, 윤리 문제가 함께 발생할 수 있다. 따라서 인공지능 윤리 문제는 위의 5가지 문제에만 국한된 것이 아니며, 향후 장래에 또 다른 AI 윤리 문제들이 얼마든지 생길 수 있는 것이다. 오늘은 현재 가장 우선적으로 발생할 수 있는 AI 윤리 문제 중 하나인 ‘자율주행차 윤리 문제’에 대해서 이야기해 보고자 한다.
지난 2018년 말, 구글은 자회사 웨이모를 통해, 미국 피닉스 지역에서 세계 최초로 ‘레벨4’의 자율주행택시 서비스를 개시한다고 하여 전 세계를 놀라게 했다.
자율주행차의 기술 발달 수준은 0~5단계까지 나눌 수 있는데 0·1·2단계를 부분자율주행 단계, 3·4·5단계를 완전자율주행 단계라 한다. 현재 많이 활용하고 있는 테슬라의 오토파일럿이나 현대기아차의 스마트 크루즈 시스템 같은 경우는 2단계에 해당된다. 아직 3단계도 상용화한 기업이 없는 상황에서, 구글은 독보적인 기술력을 앞세워 레벨4의 시대가 도래했음을 선언한 것이다.
하지만 필자는 이 소식을 듣고 기술적 놀라움과 함께 안전에 대한 염려가 우려됐다. 2021년 6월, 미국 도로교통안전국은 테슬라의 오토파일럿 사용과 관련된 사망사고 30건에 대한 조사에 착수했다고 밝혔다. 아직 자율주행 기술의 결함이나 과신으로 인해 사망이나 부상사고가 꾸준히 발생하고 있는 상황에서, 자율주행기술에 대한 충분한 검증과 테스트 없이 출시하고 상용화하는 것은 인간의 목숨을 담보로 하는 매우 위험한 일이 될 수 있다.
자율주행차가 일반 대중에게 상용화되려면 총 5가지의 프로세스를 거쳐야 한다. 첫째, 레벨5라는 기술적 완성도는 기본적으로 갖춰야 한다. 출시 전 철저한 검증과 테스트를 통해 운행 도중에 오작동하거나 고장 나는 일이 절대 없어야 한다.
둘째, 지능형교통시스템(ITS, Intelligent Transport System)이 모든 도로와 차량, 관련 시설에 기본 인프라로써 갖춰져야 한다. 전국의 가로수나 도로 곳곳, 신호등, 차량, 건물 등에 모두 센서가 설치되어 자율주행차와 실시간으로 데이터를 송수신하며 교통 상황을 초고속으로 처리할 수 있어야 한다.
셋째, 도로교통법이나 보험관련법 등 기존 법에 대한 개정이 필요하다. 자율주행차가 등장하면서 기존과는 다른 상황들이 발생하게 되고 이에 따라 지켜야할 규정과 자율주행차 사고 시 책임 소재에 따른 보험처리 기준 등을 새로 설정해야 할 것이다.
넷째, 자율주행차가 해킹이나 개인정보유출 등이 이루어지지 않도록 철저한 보안 기술이 탑재돼야 한다. 항상 인터넷으로 연결돼 있는 자율주행차가 해커의 먹잇감이 된다면, 출입문 잠금장치 해킹, 가속 감속 해킹, 조향 장치 해킹 등으로 탑승자에게 매우 위험한 상황이 발생할 수 있다.
마지막으로, 가장 중요한 ‘자율주행차 윤리 알고리즘’이 갖춰져야 한다. 도로상에서 발생할 수 있는 수많은 경우의 수에서 과연 자율주행차는 어떤 알고리즘을 통해 어떤 판단과 결정을 내려야 하는지에 대한 윤리적 기준이 설정돼야 한다.
다음 칼럼에서는 바로 이 ‘자율주행차 윤리 알고리즘’이 왜 중요하고, 어떤 이슈가 있으며, 어떻게 안전성과 윤리성이 갖춰진 알고리즘을 만들 수 있는지에 대해 고민해 보기로 한다.
전창배 IAAE (국제인공지능&윤리협회) 이사장
전창배 IAAE (국제인공지능&윤리협회) 이사장
0 0 공유 저장
세상을 보는 균형, 한국일보 Copyright © Hankookilbo
자율주행자동차가 사용화되기 전에 해결해야 할 윤리적·법적 문제
미국 국제자동차기술자협회(Society of Automotive Engineers; SAE International)에서는 도로를 주행하는 자동차의 자동화를 5단계로 나누었고, 현재 우리는 3단계(Conditional Automation; Limited Self-Driving Automation)에서 4단계(High Automation; Self-Driving Under Specified Conditions)로 넘어가고 있는 자율 주행 자동차를 보고 있다.
자율 자동차 업계를 선도하는 몇몇 외국 자동차 회사들은 대략 2018년에서 2020년 사이에는 완전 자동화된 5단계(Full Automation; Full Self-Driving Automation)의 ‘운전자 없는 차량’(driverless cars)을 상용화할 것이라고 선언했다.
여러분은 완전 자율주행이 가능한 자동차가 시판된다면 이를 구입할 생각인가? 내 손으로 기계로 조작하며 도로를 달리는 드라이빙의 쾌감을 버릴 수 없다는 생각 때문이었는지는 모를 일이지만, (명성인지 오명인지 혼란스런 상태지만) 자동차의 나라 독일에서 실시한 관련 조사에 설문에 응답한 사람의 64~67%가 자율주행차량에 별 관심이 없다고 답했다. 우리나라 사람들은 어떻게 대답할까?
지금까지 인공지능이나 자율주행차량이라는 이름으로 등장한 차량이 관계된 크고 작은 사고는 적지 않았지만, 2016년 5월 미국 플로리다에서 발생한 테슬라 모델 S 차량과 트레일러의 충돌사고는 지금까지 그 정확한 원인에 대한 당사자들의 합의가 도출되지 못하고 있다. 이 충돌사고에서 운전자가 사망한 원인에 대해서 지난 12일 미연방교통안전위원회(NTSB)가 또 다시 새로운 검토보고서를 제출했다. 이에 따르면 테슬라의 자율 주행 시스템이 도로에서 운전자의 주의를 분산하게 만든 것이 사고의 원인이었다고 한다. 도로에서 수 만 명의 목숨을 구할 잠재력이 완전한 현실이 될 때까지는 운전자들에게 조심해서 운행해야한다는 조언도 덧붙였다.
완전 자율화 차량의 그 잠재력이 현실이 되면 교통사고 0%의 시대가 도래 할 것이라고 전망하는 사람도 있지만, 그렇게 되기 위해서는 (도로나 신호 등 기반인프라가 완전하게 구축되어야 하는 등의 기술적 전제를 논외로 하더라도) 도로를 주행하는 모든 차량은 인공지능이 운전하는 자동차라야 하고, 피할 수 없는 사고 상황이 발생하지 않아야 하고, 설령 그런 충돌 상황이 닥친다면 물리법칙까지도 극복할 수 있는 능력을 가진 차량이 만들어져야만 한다며 장밋빛 전망의 비현실성을 지적하기도 한다. 물론 인간의 과실과 착오로 인해 발생하는 사고만을 줄일 수 있다면, 연간 전 세계적으로 수 십 혹은 수 백 만 이상의 엄청난 목숨을 구할 수 있을 것이라는 전망을 단순히 공상으로 치부해버릴 수는 없을 것이다.
완전 자율화가 구현된 경우는 물론, 그 이전 단계들에서도 특정 모드에서 자율 주행을 담당하고 있던 자율 주행 시스템이 심각한 사고 상황에 직면하게 되고, 자신이 판단할 수 있는 내용이 아니므로 그 판단을 인간 탑승자에게 넘겨주어야 하는 대상이지만, 예를 들어 시간적인 문제로, 이에 대해 인간이 신속하게 상황을 파악해 적절히 대처할 수 있는 가능성이 배제된 상태라면, 그 판단은 자율 주행 시스템의 인공지능에게 넘겨줄 수밖에 없을 것이다. 이런 경우 자율 주행 시스템의 인공지능이 어떻게 반응하도록 만들어야 할 것인가!
“자율주행차량의
교통사고 알고리즘(Accident-Algorithm)은
어떻게 만들어져야 할 것인가?”
썩 유쾌하지 않은 브레인스토밍이겠지만, 만약 2인이 탑승한 자율주행차량이 달리는 차선의 맞은편에서 대형트럭이 달려오고 있었고, 완전자율주행차량도 예상하지 못한 기술·환경적 문제로 인해 트럭이 갑자기 차선을 벗어나 자율주행차량을 향해 달려오고 있다고 하자. 인간에게는 불가능했겠지만, 자율 주행 시스템은 아주 짧은 시간에 자신을 향해 달려오는 트럭의 진행방향과 차량의 대략적인 무게를 인식한다. 주변 환경에 대한 정보를 분석하니 당장 오른쪽 보도 쪽으로 차량의 진행 방향을 틀지 않으면 트럭과의 충격을 피할 수 없을 것이고, 자신의 차량에 탑승한 2인의 승객은 사망할 것이라는 계산이 나왔다. 그런데 불행하게도 그 보도에는 한 명의 노인이 걸어가고 있었다. 귀한 생명이 희생될 수 있는 심각한 문제이기에 인간탑승자에게 판단을 넘기려고 해도, 컴퓨터의 계산상 인간이 사태를 인식하고 합리적으로 의사결정을 하고 반응할 수 있는 여유가 없다는 결과가 나왔다. 즉, 자율 주행차량 스스로 그 상황에 대처할 수밖에 없다면 어떻게 대응하도록 프로그램화 할 것인가?
이미 누구나 한 두 번은 생각해 볼 기회가 있었을 이러한 사례에서 윤리적 난제(ethical dilemmas)가 무엇인지는 쉽게 알 수 있다. 사고는 결코 발생하지 않을 것이라는 비현실적인 이유를 제외한다면, 자율주행차량에 미리 이러한 사고 상황에서 해야 할 일 처리 매뉴얼을 장착해야하는 것은 설계자, 제조자, 판매자, 구매자는 물론 제조, 판매 및 도로교통 등을 관할하는 국가기관도 피할 수 없는 일이다. 사람이 운전하는 차량을 세상의 모든 도로에서 몰아내고 인공지능이 작동하는 자율주행차량만이 자동차를 운행하는 도로와 세상을 상정하지 않는 한, 이러한 피할 수 없는 사고 상황을 대비하여 자율주행차량 시스템에 미리 설정되어야 할 우선순위(pre-set priorities)는 무엇이어야만 하는지가 문제인 것이다.
어떤 경우라고 항상 자율주행차량에 타고 있는 승객을 우선시할 것인가? 아무런 잘못 없이 희생되어서는 안 될 보행자를 우선해야 하는 것은 아닌가? 공정이 우선인가? 공익을 우선해야하는 것은 아닌가? 어쩌면 누군가의 운명을 미리 결정하는 일일 수 있는 그런 내용의 매뉴얼을 미리 만들어서는 안 되는 것인가?
만약 2:1의 생명이 아니라 10명과 1명의 희생 중에 어느 것을 선택해야 한다면 조금 더 그 선택은 쉬워질 것인가? 90대의 노인과 9살의 초등학생 중 한 명을 희생해야만 하는 안타까운 상황에서는 어떤 선택을 해야 하는가? 어떤 경우라고 예정된 기존의 진행 방향을 결코 변경해서는 안 되고 각자의 운명을 받아들이게 해야 하는 것일까?
윤리학에서 가장 대표적인 사고실험(thought experiments)의 예로서 활용되고 있는 풋(Foot)의 Trolley dilemma(광차(鑛車)의 딜레마)는 자율주행차량의 사고알고리즘과 관련해서도 예외 없이 등장한다. 형사법 영역에서 전통적인 논쟁거리인 카르네아데스의 널빤지(Plank of Carneades)의 딜레마도 이와 유사한 구조를 가지고 있다.
1차선의 좁은 도로에서 앞서 걸어가는 90대 노인과 9세의 초등학생 중 어느 한 명의 생명이 희생될 수밖에 없는 상황이라면 여러분은 어떤 선택을 할 것인가? 어느 한쪽을 신속하게 선택하지 않으면 두 사람 모두가 희생되는 상황이면 어떨까? 90대의 노인을 선택하는 사람들도, 9세의 어린아이를 선택하는 사람들도 그들 나름의 정당한(?) 이유들을 제시할 수 있을 것이다. 하지만 여기서 그 중 누군가를 선택하는 자체가 기술자들의 윤리강령(IEEE의 Code of Ethics)에 위반이라는 주장도 있다. 모든 사람들을 공정하게 다루고 인종, 종교, 성별, 장애, 연령, 국적, 성적 정향, 성 정체성 등을 이유로 차별하는 행위에 개입하지 말라는 윤리강령에 위반하는 것이라는 말이다. 그렇다면 가능한 선택지가 무엇인지에 대해 린(Lin)은 핸들을 돌리지 않고 두 사람을 모두 충돌해 버리는 방법이 있지만 이것은 둘 중 한 사람에게 나쁜 편견을 가지고 그를 충돌한 경우보다도 윤리적으로 더 악한 결과라고 말한다. 그렇다면 어떻게 해야 하는가? 린은 “만약 자동차가 계속 직진할 경우에는 10명 혹은 100명의 보행자가 사망하게 될 것이나, 핸들을 틀어 주행방향을 바꾼다면 단지 1명의 보행자의 목숨이 희생되는 경우라면 어떤 결정이 윤리적인 것인가?”라며 좀 더 쉬운 선택을 할 수 있도록 도와준다. 린은 이런 수적 차이가 있다면 10명 혹은 100명의 목숨을 구하는 선택을 하라는 요구 쪽으로 기운다. 자, 과연 그렇게 하는 것이 옳은 선택이며 윤리적인 것일까?
히틀러의 나찌 독일은 인종청소와 종족학살을 생명의 질과 가치를 따져 처리했다. 그들이 보기에 가치 없는 생명이나 사회와 국가에 해가 되는 목숨은 제거하는 것은 정당하고도 칭찬받을 일이었다. 악몽에서 벗어난 지구에 사는 오늘날의 인류는 생명을 질과 양으로 비교 형량 하는 것은 허용되지 않는 일이라고 믿고 있고, 그런 말을 입에 담는 것조차 터부로 되어있다. 그럼에도 위와 같은 선택은 정당한 것일까? 그렇지 않다면 그럼 100명 혹은 10명이 아니라 10명 혹은 1명의 보다 적은 사람을 살리고 다수를 희생하는 것은 보다 윤리적이고 합법적인 것인가?
만약 내가 탑승한 승용차량과 충돌을 피할 수 없는 대상들이 5톤 트럭과 자전거 탑승자라면 나의 자율주행차량의 시스템에 무엇과 충돌하라고 입력할 것인가? 약한 자전거를 보호하자고 운전자를 희생하는 프로그램이 된 차량을 누가 과연 용기 있게 구입할 것인가? 앞서 달려가는 2대의 원동기장치 자전거 운전자 중 1인은 머리 보호대를 착용하고 있고, 다른 1인은 착용하지 않았다고 하면, 누구와 충돌해야 하는가? 그나마 상처를 적게 입을 것으로 예상되는 도로교통규범을 준수한 사람과 충돌하는 것이 옳은가? 만약 그렇게 사고 알고리즘이 만들어진다면 자신에게 닥칠 지도 모르는 사고 상황에서 피해자가 되지 않으려면 오토바이를 탈 때는 헬멧을 착용하지 않아야 하는 것은 아닌가? 그럼에도 머리보호대 미착용의 법 위반으로 제재를 받아야 할까?
이 모든 난제들은 어느 일방이 혹은 쌍방만의 합의로 해결할 문제가 아니라는 것이 특징이다. 내가 희생되는 공익, 내가 손해 보는 정의를 선뜻 받아들이지 못하는 것이 인지상정이라면, 설계자, 제조자, 판매자, 구입자, 사용자, 국가의 해당관청뿐만 아니라 국민 모두의 이해관계가 충돌하게 될 이 난제를 해결하기 전에 완전자율주행차량의 완성을 본다는 것은 인류 모두의 불행이 될 수도 있을 것이다.
자율주행차 윤리적 이슈 부상…”사회적 합의 필요”
국토부 세미나에 입법·행정·사법부 모두 참여
자율주행차가 사고 냈다
(캘리포니아 AP=연합뉴스) 지난달 14일(현지시각) 캘리포니아 산타클라라 교통국이 제공한 구글 자율주행차 렉서스 SUV의 훼손된 모습.
이 자율주행차는 캘리포니아 마운틴뷰에서 공영버스가 주행중이던 차선으로 천천히 들어가 버스 오른쪽을 들이받은 것으로 버스 장착 카메라에 녹화돼 있다.
(서울=연합뉴스) 성혜미 기자 = 자율주행차 상용화에 속도가 붙으면서 윤리적 이슈가 중요한 과제로 떠오르고 있다.
예상치 못한 상황에서 자율주행차가 그대로 달리면 행인을 치고, 핸들을 꺾으면 벽에 부딪혀 운전자가 사망할 때 등 윤리적 딜레마에 맞닥뜨렸을 때 어떤 기준을 프로그래밍할지, 법적·금전적으로 누가 책임질지 등에 관한 문제이다.
국토교통부는 7일 오후 2시 서울상공회의소에서 입법·행정·사법부 구성원이 모두 참여한 가운데 ‘자율주행차 윤리세미나’를 개최한다고 6일 밝혔다.
광고
이중기 홍익대학교 법과대학장 겸 로봇윤리와 법제연구센터 소장은 발제문을 통해 “자율주행차는 운행의 목적상 부분적으로 자율적 주체성을 인정할 수도 있지만, 기본적으로 운행과 관련된 윤리적 문제는 로봇이 아닌 인간의 문제”라고 밝혔다.
인공지능이 객관적으로 주어진 데이터와 자료를 처리하고 해석해 정보를 생성하고 정보의 소통맥락에 따른 다양한 사회적 의미를 인식할 수 있다면 도덕적 주체가 될 수 있지만 현재 수준에서는 그렇지 않다는 것이다.
이 교수는 “자율주행차 운행과 관련된 윤리적 문제는 인간에 대해 인간이 어떻게 자율주행차를 설계, 제조, 사용할 것인가에 대한 문제를 다루는 것”이라고 정의했다.
그는 자율주행차의 알고리즘에 ▲ 동기를 중시하는 의무론적 윤리설 ▲ 결과를 중시하는 공리주의 윤리설 ▲ 행위자의 통찰력을 중시하는 플라톤의 윤리설을 적용했을 때 부작용을 각각 지적했다.
만약 자동차 충돌사고로 운전자의 사망과 행인의 사망 중 하나를 선택해야 하는 경우 의무론적 윤리설에 따라 프로그래밍하면 어느 쪽으로도 ‘도덕적 의무’를 위반하는 게 되기 때문에 답을 찾을 수 없게 된다.
자율주행차에 결과론적 윤리설을 프로그래밍하면 운전자 1명의 사망과 행인 5명의 사망 중 선택하라 하면 운전자 1명의 사망을 선택한다. 이는 자동차 제작사에 대한 소송으로 이어질 수 있다.
행위자의 통찰력을 중시하는 윤리설을 자율주행차에 적용하려면 침착함, 절제, 평안함 같은 덕목을 프로그래밍해야 하는데, 이 자체가 힘들다.
이 교수는 “자율주행차가 윤리적 판단을 내려할 경우 다양한 견해가 제시될 수 있고 해답은 하나 이상이 존재하거나 상대적일 수 있다”며 “결국 제조자가 구체적 문제에 대해 사회 구성원에게 정보를 제공하고 다양한 해결책 중 어느 것을 선택할지에 대한 공감대를 형성해야 한다”고 강조했다.
아울러 자율주행차의 운행에 따른 경제적 이익뿐만 아니라 그것이 야기할 잠재적 위험에 대해 반드시 사회적 논의를 거쳐야 한다는 입장이다.
예외적 상황에 대한 윤리적 타당성을 사전에 검토하고, 예상할 수 있는 피해에 대한 제작사와 운행자의 공동기금 조성, 위험사고에 대한 책임을 확보할 수 있는 법률적 해결방식 정비가 필요하다는 것이다.
이 교수는 “지금까지 자동차 사고의 90%는 운전자의 운행과실에 원인이 있었지만 자율주행차가 활성화되면 제조자와 도로환경이 주된 원인이 될 것”이라며 “책임보험의 역할이 크게 줄고 자동차 제작사는 물론 도로관리자, 교통신호 관리자의 책임이 커질 것”이라고 전망했다.
이 교수는 교통사고특례법, 자동차손해배상보장법, 제조물책임법, 보험법, 자동차관리법, 도로교통법, 도로법, 통신비밀보호법 등 자율주행차 운행과 관련한 각종 법률을 정비하고 필요하다면 특별법을 제정해야 한다고 제안했다.
이번 세미나에는 서울서부지법 남현 판사와 국회 입법사무처 박준환 사무관, 국토부·도로교통공단·한국전자통신연구원 관계자 등이 참석할 예정이다.
제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
Top 45 자율 주행 자동차 윤리적 문제 해결 방안 6160 Votes This Answer
자율주행차와 트롤리 문제, 정의란 무엇인가?
자율주행차와 트롤리 문제, 정의란 무엇인가?
상단영역
본문영역
전체메뉴
Read More
Read More
과학기술
사이언스타임즈 뉴스레터 신청
사이언스타임즈 뉴스레터 수신거부
Read More
자율주행자동차가 사용화되기 전에 해결해야 할 윤리적·법적 문제
공지사항
BEST 10
포토뉴스
Read More
Read More
Read More
See also Top 30 지방 분해 주사 가격 The 185 Latest Answer
2016 VOL 326
2016 VOL 326
Read More
See more articles in the same category here: https://aodaithanhmai.com.vn/toplist/blog.
자율주행자동차, 트롤리 딜레마 문제없어
[테크월드=선연수 기자] 경쟁에서 앞서 나가기 위해 자동차 제조업체는 미래를 내다보고 면밀히 계획을 짜야 한다. 현재 자동차 제조업체가 바라보는 자동차 산업의 미래는 자율주행자동차다. AI가 제어하는 자동차는 더 빠른 속도로 서로 가깝게 주행할 수 있어 도로의 차량 수용 능력을 높인다. 또한, 자동차 사고가 발생할 수 있는 상황에서 빠르게 반응해 더 안전할 수 있다. 전 세계 곳곳에서 자율주행자동차 시험 운행이 진행되고 있으며, 최초로 상용화된 자율주행자동차가 일반 대중에게 판매되는 것은 시간문제일 뿐이다. 자율주행자동차 사고 책임의 주체 자율주행자동차가 잠재성을 완전히 실현하려면 공개적인 사용 전에 짚고 넘어갈 문제가 몇 가지 있다. 특히, 윤리적 문제와 책임 주체에 관한 문제를 꼽을 수 있으며, 다른 분야와 관련된 엔지니어들은 이미 수년간 이런 문제를 다뤄왔다. 테슬라와 같은 반자율주행차에서, 향후 완전 자율주행차로 나아가는 데 있어 중요한 문제 중 하나는 사고의 책임을 물을 대상이다. 현재 반자율주행차는 충돌 발생 시 이에 대한 책임을 운전자가 지는 것으로 탑승자를 규정하고 있다. 그러나 만약 자율주행자동차가 충돌한다면 누가 책임질 것인가? 이 질문에 대한 답을 얻기 전엔 자율주행자동차는 보험에 들 수 없으며, 따라서 공공 도로에서 운행할 수 없다. 자율주행자동차는 여러 잠재적 책임 주체를 가진다. 자동차 소유자, 제조업체, 소프트웨어 개발자, 서브시스템 제조업체가 모두 사고에 책임이 있을 수 있다. 만약 자동차가 도로 규칙을 준수했다면 제조업체에 잘못의 책임이 있는 걸까? 지금까지 책임지겠다고 직접 표명한 제조업체는 볼보뿐이며, 2015년 10월 자사의 자율주행자동차에 대한 책임을 수용할 것이라고 밝혔다. 트롤리 딜레마 자율주행자동차 제조업체가 직면한 윤리적 문제와 관련해 가장 많이 언급되는 시나리오 중 하나가 ‘트롤리’ 딜레마다. 이는 사고가 불가피할 때 자동차의 소프트웨어가 어느 방향을 취할지 결정해야 하는 상황을 의미한다. 원래 트롤리 시나리오는 5명이 있는 선로를 향해 달려가는 고장난 열차와 선로 전환기 앞의 한 사람과 관련된 문제로, 전환기 앞의 결정권을 가진 사람이 아무 행동을 하지 않으면 5명의 사람이 죽게 되고, 전환기를 당겨 방향을 돌리면 1명이 죽게 된다. 이제 자율주행자동차 시대에선 전환기 앞의 사람을 자동차의 소프트웨어가 담당하게 된다. 만약 사고가 일어날 것이 확실한 상황에서 도로의 한 쪽에는 엄마와 아기가 있고, 자동차 앞쪽엔 한 무리의 어린 학생들이 길을 건너고 있으며, 도로의 다른 쪽은 절벽이라면, 자동차가 내릴 수 있는 가장 윤리적인 결정은 무엇일까? 자동차가 방향을 틀어 엄마를 치는 것일까, 아이들에게 돌진하는 것일까, 아니면 절벽으로 몰아 차 안에 탄 사람을 죽도록 하는 것일까? 메르세데스는 이 상황에 대해 자동차는 운전자를 보호할 일차적인 책임이 있다고 발표했으나, 해당 표명은 상황을 잠재우는 대신 ‘킬러 로봇’이라는 헤드라인으로 장식됐다. 트롤리 딜레마 논제의 비현실성 현실적인 상황을 평가하기 위해선 이런 상황이 얼마나 일어나기 어려운지, 그리고 자율주행자동차가 어떻게 동작하는지 자세히 알 필요가 있다. 트롤리 딜레마에서 상정되듯이 매우 제한적인 공간에서 자율주행자동차는 트롤리 결정을 내리는 상황을 맞닥뜨리기 전에 환경에 반응한다. 자율주행자동차는 속도를 늦추고 센서의 범위를 확대해 주변 환경에 대해 최대한 완벽한 그림을 확보한다. 이런 작업이 이뤄짐으로써 자율주행자동차는 누구를 죽여야 할 것인가에 대한 결정을 내려야 하는 상황에 놓일 가능성이 훨씬 낮다. 그런데도 만약 해당 상황에 놓인다면, 초기에 위험을 감지하지 못하고 자동차를 위험한 상황에 빠뜨린 메인 라이다(LiDAR)와 레이더, 초음파 센서의 잘못일까? 자율주행자동차가 선택할 상황에 놓이지 않을 두 번째 이유는 자율주행자동차는 인간 운전자보다 훨씬 빨리 멈출 수 있다는 사실이다. 충돌 가능성이 있는 상황이 감지되면, 자동차는 밀리초만에 제동하기 시작한다. 센서의 범위가 차량의 정지거리를 훨씬 넘어서기 때문에 자동차가 치명적인 상황에 처할 경우는 훨씬 줄어든다. 어떠한 이유로 충돌이 불가피해졌다면, 브레이크뿐 아니라 센서 역시 안전벨트를 조이거나 에어백을 작동시키는 등 운전자를 보호하기 위한 다양한 조치를 취할 수 있다. 자동차의 라이다 센서는 자동차 주변 영역에 대해 3차원 모델을 구성한다. 이후 알고리즘으로 영역 내 모든 위험을 탐지하며, 다른 센서 시스템을 이용해 라이다가 감지한 위험의 진위 여부를 이중으로 검사한다. 이때 잘못된 감지라 해도 적시에 위험을 인식하지 못하는 것보다는 바람직하다. 전체 시스템은 세대를 거칠 때마다 향상된다. 따라 센서는 더 빨라지고 더 섬세해지며, 위험을 평가하는 소프트웨어 알고리즘 역시 더욱 정교해진다. 시스템 기능 향상은 잘못된 감지가 발생할 가능성이 줄어드는 것을 의미하며, 안전 시스템의 충분한 배치를 보장함으로써 자율주행자동차를 더욱 안전하게 만든다. 실질적인 위협, 해킹 마지막으로 남은 치명적인 위험은 바로 외부로부터의 해킹이다. 차량의 소프트웨어는 그 어떤 것이라도 변경된다면, 도로 위에서의 안전이 보장되지 않는다. 사이버 보안은 자율주행자동차 제조업체에게 남겨진 가장 큰 과제이며, 이를 해결하기 위해 제조업체들은 적극적으로 노력하고 있다. 무선 차량 간 통신(V2V) 시스템은 전체 안전 시스템에서 필수적인 기능 블록으로, 전방에 위험이 존재할 경우 자동차가 다른 차량의 동작 정보를 얻어 더 일찍 제동할 수 있도록 한다. 이는 V2V 시스템이 어떻게 활용될 수 있는지 보여주는 한 예다. 개발자와 해커 간의 전쟁은 자율주행자동차의 진정한 위험이며, 승객과 일반 대중의 안전뿐 아니라 자율주행자동차의 성공을 보장하기 위해선 개발자가 반드시 이겨내야 하는 전쟁이다. 악의적인 위협은 앞서 언급한 자동차의 트롤리 딜레마나 진정한 책임 주체와 같은 인지할 수 있는 위협보다 훨씬 더 실제적인 문제다. 글: 마크 패트릭(Mark Patrick) 자료제공: 마우저 일렉트로닉스‘자율자동차 윤리’ 문제, 2백만명의 답은? – Sciencetimes
자율자동차의 브레이크가 고장나서 멈출 수가 없다. 몇 m 앞에 횡단보도가 있는데, 사람들과 반려동물이 차량이 돌진하는 것도 모르고 건넌다. 사고를 피할 수 없다. 이럴 때 사람이 운전한다면, 본능에 따라 운전대를 조작할 것이다. 차선을 변경한다면, 결과적으로 운전자 자신이 어떤 사람(혹은 반려동물)을 희생자로 선택하는 것이다. 운전자는 중앙분리대로 운전대를 꺾어서 피해를 자신에게 돌릴 수도 있다. 자율자동차는 이럴 때 어떻게 할까? 다시 말해서 이런 상황을 대비해서 자동차 회사는 ‘자율주행 소프트웨어’를 어떻게 짜야 할까? 이렇게 곤란한 상황에 빠졌을 때 어떤 선택을 해야 하는지를 묻는 윤리문제를 보통 ‘트롤리 문제’라고 한다. 자율자동차가 점점 현실에 가까워지면서 오래된 이 윤리문제가 최근 자주 등장하고 있다. 고장난 자율자동차의 직진방향 횡단보도에는 노숙자와 범죄자가 지나간다. 그 옆 차선으로 2마리의 고양이가 걸어간다. 어떻게 해야 할까? 그나마 사람이 아닌 고양이 쪽으로 방향을 바꾸는 사람이 많을 것이다. 그러나 1차선에 어린아이, 2차선에 노인이 있을 경우는 어떨까? 혹은 1차선에 여성, 2차선에 남성이 있을 경우는? 이런 복잡하고 다양한 ‘트롤리 문제’를 대규모로 조사한 자율자동차 윤리문제 연구결과가 나왔다. 미국 MIT 미디어 랩은 신뢰성 있는 대규모 조사를 위해 2016년 ‘윤리기계’(Moral Machine)을 만들었다. 온라인 게임 같은 방식으로 해답을 내게 한 데다, 다국어로 진행하다 보니 전세계 200여개 국가에서 200만 명 이상이 조사에 참가했다. ‘윤리기계’ 만들어 200여개 국가 의견 조사 이 윤리기계는 233개 국가에서 4000만 개의 결정을 모아서 분석했다. 연구원들은 이 데이터를 전체적으로 분석한 다음 연령, 교육, 성, 수입 그리고 정치적 및 종교적 관점 등의 소주제로 나눠 분석했다. 이러한 신상 자료를 제출한 사람은 49만명이나 된다. 이번 연구의 주저자인 미국 MIT대학 미디어랩의 에드먼드 아와드(Edmond Awad)박사는 네이처에 연구결과를 발표하고 “사람들이 가장 먼저 용인하는 3가지 공통 요소를 발견했다”고 말했다. 첫 번째, 당연히 동물 보다 사람의 생명을 구하는 것을 우선해야 한다는 것이다. 두 번째는 소수의 사람 보다 많은 사람을 구해야 한다는 점이었고, 세 번째는 나이든 사람 보다 젊은 사람의 생명을 구해야 한다는 것이다. 좀 더 세부적인 조사에서 사람들은 남성에 비해 여성을 구하기를 원했고, 뚱뚱한 사람보다는 운동선수를 선호했다. 높은 지위에 있는 사람의 생명은 노숙자, 범죄자보다 좀 더 가치있게 여겨졌다. 동시에 모든 지역에서 무단횡단자보다 규정을 지키는 행인의 생명을 우선한다는 공통점을 나타냈다. 연구원들은 인구학적 특징에 바탕을 둔 분류에서는 어떤 도덕적인 차이를 발견하지 못했다. 그러나 문화적, 지리적 관점에서 도덕적 우선순위가 다소 차이가 나는 더 큰 클러스터가 존재하는 것을 발견했다. 윤리도덕의 기준에서 세계는 크게 ‘서부’ ‘동부’ ‘남부’로 나뉘었다. 그리고 거대한 이 세 클러스터 사이에서 윤리적 우선순위의 차이가 나타났다. 예를 들어 ‘남부’ 국가들은 비교적 나이 든 사람 보다 젊은 사람을 구해야 한다는 경향이 강했는데, 이는 특히 노인에 대한 공경심이 강한 ‘동부’ 클러스터와 비교해서 두드러졌다. 아와드는 “이같은 도덕적 우선순위의 차이는 트롤리 문제와 같은 공공영역의 이슈를 토론할 때 기본적인 토대가 될 수 있다”고 말했다. 이론적으로 이러한 우선순위는 자율자동차에 탑재할 소프트웨어에 반영될 수 있다. 문제는 이 우선순위의 차이가 사람들이 새로운 기술을 수용할 때 반영되어야 하는가이다. 이 실험은 일부 편향된 결과를 만들어 냈을지 모른다. 온라인 게임 형태로 조사가 진행됐기 때문에 노인들의 생각보다 젊은이들의 생각이 더 많이 반영됐을 것이다. 무엇보다 위험한 것 중 하나는 이런 연구결과가 ‘세계적으로, 대규모로’ 진행됐다는 이유로 자율자동차의 자율결정 과정을 유도할 수 있다는 점이다. 실제 상황에서 판단해야 할 윤리문제는 더욱 복잡하고 미묘한데 비해, 이를 적절히 반영하지 않은 것도 한계를 보였다. 예를 들어 MIT 연구진은 일반적으로 ‘노인보다 젊은이를 살린다’고 했지만, 그 경계선이 매우 미묘하다. 또 두 가지 이상의 기준이 겹칠 경우도 있다. 신호를 지키고 건너는 사람과 무단횡단하는 사람이 있을 경우, 단순히 나이만 가지고 우선순위를 정하는 것이 옳은 것인가에 대해 지적이 나올 수 있다. 인공지능이 인간의 윤리의식 마저 정복할까 자율자동차에 대한 모순된 생각도 존재한다. 사람들은 자율자동차가 고장나서 제멋대로 움직일 때, 자동차 탑승객을 보호하기 보다 보행자를 보호하기를 원한다. 그러나 자신이 구매해야 할 차량은 그 반대의 기능을 더 선호할 것이다. 때문에 이 문제에 대한 해답은 쉽게 나오지 않는다. 물론 자율자동차를 움직이는 인공지능 윤리를 단순 여론조사를 바탕으로 만들 수는 없다. 때문에 이러한 결정을 하는데 있어서 많은 대중이 참여하는 것이 중요하다. 이번 연구에 참여한 MIT미디어랩의 이야드 라환(Iyad Rahwan) 조교수는 “이러한 플랫폼에서 공공의 관심은 우리들의 예상을 뛰어 넘는다”고 말했다. 한편 인공지능의 성능 향상이 해결책이 될 수 있다는 주장도 있다. 자율성을 가지고 있는 인공지능이 언젠가 인간의 윤리의식도 습득, 최대한 올바른 선택을 통해 이를 적용할지 모른다는 기대다. 어찌 되었든, 인공지능과 같은 기술의 발전이 사람들로 하여금 윤리와 철학에 대해 다시끔 상기시키도록 한다는 점은 아이러니가 아닐 수 없다. (25354)
자율주행자동차가 사용화되기 전에 해결해야 할 윤리적·법적 문제
미국 국제자동차기술자협회(Society of Automotive Engineers; SAE International)에서는 도로를 주행하는 자동차의 자동화를 5단계로 나누었고, 현재 우리는 3단계(Conditional Automation; Limited Self-Driving Automation)에서 4단계(High Automation; Self-Driving Under Specified Conditions)로 넘어가고 있는 자율 주행 자동차를 보고 있다. 자율 자동차 업계를 선도하는 몇몇 외국 자동차 회사들은 대략 2018년에서 2020년 사이에는 완전 자동화된 5단계(Full Automation; Full Self-Driving Automation)의 ‘운전자 없는 차량’(driverless cars)을 상용화할 것이라고 선언했다. 여러분은 완전 자율주행이 가능한 자동차가 시판된다면 이를 구입할 생각인가? 내 손으로 기계로 조작하며 도로를 달리는 드라이빙의 쾌감을 버릴 수 없다는 생각 때문이었는지는 모를 일이지만, (명성인지 오명인지 혼란스런 상태지만) 자동차의 나라 독일에서 실시한 관련 조사에 설문에 응답한 사람의 64~67%가 자율주행차량에 별 관심이 없다고 답했다. 우리나라 사람들은 어떻게 대답할까? 지금까지 인공지능이나 자율주행차량이라는 이름으로 등장한 차량이 관계된 크고 작은 사고는 적지 않았지만, 2016년 5월 미국 플로리다에서 발생한 테슬라 모델 S 차량과 트레일러의 충돌사고는 지금까지 그 정확한 원인에 대한 당사자들의 합의가 도출되지 못하고 있다. 이 충돌사고에서 운전자가 사망한 원인에 대해서 지난 12일 미연방교통안전위원회(NTSB)가 또 다시 새로운 검토보고서를 제출했다. 이에 따르면 테슬라의 자율 주행 시스템이 도로에서 운전자의 주의를 분산하게 만든 것이 사고의 원인이었다고 한다. 도로에서 수 만 명의 목숨을 구할 잠재력이 완전한 현실이 될 때까지는 운전자들에게 조심해서 운행해야한다는 조언도 덧붙였다. 완전 자율화 차량의 그 잠재력이 현실이 되면 교통사고 0%의 시대가 도래 할 것이라고 전망하는 사람도 있지만, 그렇게 되기 위해서는 (도로나 신호 등 기반인프라가 완전하게 구축되어야 하는 등의 기술적 전제를 논외로 하더라도) 도로를 주행하는 모든 차량은 인공지능이 운전하는 자동차라야 하고, 피할 수 없는 사고 상황이 발생하지 않아야 하고, 설령 그런 충돌 상황이 닥친다면 물리법칙까지도 극복할 수 있는 능력을 가진 차량이 만들어져야만 한다며 장밋빛 전망의 비현실성을 지적하기도 한다. 물론 인간의 과실과 착오로 인해 발생하는 사고만을 줄일 수 있다면, 연간 전 세계적으로 수 십 혹은 수 백 만 이상의 엄청난 목숨을 구할 수 있을 것이라는 전망을 단순히 공상으로 치부해버릴 수는 없을 것이다. 완전 자율화가 구현된 경우는 물론, 그 이전 단계들에서도 특정 모드에서 자율 주행을 담당하고 있던 자율 주행 시스템이 심각한 사고 상황에 직면하게 되고, 자신이 판단할 수 있는 내용이 아니므로 그 판단을 인간 탑승자에게 넘겨주어야 하는 대상이지만, 예를 들어 시간적인 문제로, 이에 대해 인간이 신속하게 상황을 파악해 적절히 대처할 수 있는 가능성이 배제된 상태라면, 그 판단은 자율 주행 시스템의 인공지능에게 넘겨줄 수밖에 없을 것이다. 이런 경우 자율 주행 시스템의 인공지능이 어떻게 반응하도록 만들어야 할 것인가! “자율주행차량의 교통사고 알고리즘(Accident-Algorithm)은 어떻게 만들어져야 할 것인가?” 썩 유쾌하지 않은 브레인스토밍이겠지만, 만약 2인이 탑승한 자율주행차량이 달리는 차선의 맞은편에서 대형트럭이 달려오고 있었고, 완전자율주행차량도 예상하지 못한 기술·환경적 문제로 인해 트럭이 갑자기 차선을 벗어나 자율주행차량을 향해 달려오고 있다고 하자. 인간에게는 불가능했겠지만, 자율 주행 시스템은 아주 짧은 시간에 자신을 향해 달려오는 트럭의 진행방향과 차량의 대략적인 무게를 인식한다. 주변 환경에 대한 정보를 분석하니 당장 오른쪽 보도 쪽으로 차량의 진행 방향을 틀지 않으면 트럭과의 충격을 피할 수 없을 것이고, 자신의 차량에 탑승한 2인의 승객은 사망할 것이라는 계산이 나왔다. 그런데 불행하게도 그 보도에는 한 명의 노인이 걸어가고 있었다. 귀한 생명이 희생될 수 있는 심각한 문제이기에 인간탑승자에게 판단을 넘기려고 해도, 컴퓨터의 계산상 인간이 사태를 인식하고 합리적으로 의사결정을 하고 반응할 수 있는 여유가 없다는 결과가 나왔다. 즉, 자율 주행차량 스스로 그 상황에 대처할 수밖에 없다면 어떻게 대응하도록 프로그램화 할 것인가? 이미 누구나 한 두 번은 생각해 볼 기회가 있었을 이러한 사례에서 윤리적 난제(ethical dilemmas)가 무엇인지는 쉽게 알 수 있다. 사고는 결코 발생하지 않을 것이라는 비현실적인 이유를 제외한다면, 자율주행차량에 미리 이러한 사고 상황에서 해야 할 일 처리 매뉴얼을 장착해야하는 것은 설계자, 제조자, 판매자, 구매자는 물론 제조, 판매 및 도로교통 등을 관할하는 국가기관도 피할 수 없는 일이다. 사람이 운전하는 차량을 세상의 모든 도로에서 몰아내고 인공지능이 작동하는 자율주행차량만이 자동차를 운행하는 도로와 세상을 상정하지 않는 한, 이러한 피할 수 없는 사고 상황을 대비하여 자율주행차량 시스템에 미리 설정되어야 할 우선순위(pre-set priorities)는 무엇이어야만 하는지가 문제인 것이다. 어떤 경우라고 항상 자율주행차량에 타고 있는 승객을 우선시할 것인가? 아무런 잘못 없이 희생되어서는 안 될 보행자를 우선해야 하는 것은 아닌가? 공정이 우선인가? 공익을 우선해야하는 것은 아닌가? 어쩌면 누군가의 운명을 미리 결정하는 일일 수 있는 그런 내용의 매뉴얼을 미리 만들어서는 안 되는 것인가? 만약 2:1의 생명이 아니라 10명과 1명의 희생 중에 어느 것을 선택해야 한다면 조금 더 그 선택은 쉬워질 것인가? 90대의 노인과 9살의 초등학생 중 한 명을 희생해야만 하는 안타까운 상황에서는 어떤 선택을 해야 하는가? 어떤 경우라고 예정된 기존의 진행 방향을 결코 변경해서는 안 되고 각자의 운명을 받아들이게 해야 하는 것일까? 윤리학에서 가장 대표적인 사고실험(thought experiments)의 예로서 활용되고 있는 풋(Foot)의 Trolley dilemma(광차(鑛車)의 딜레마)는 자율주행차량의 사고알고리즘과 관련해서도 예외 없이 등장한다. 형사법 영역에서 전통적인 논쟁거리인 카르네아데스의 널빤지(Plank of Carneades)의 딜레마도 이와 유사한 구조를 가지고 있다. 1차선의 좁은 도로에서 앞서 걸어가는 90대 노인과 9세의 초등학생 중 어느 한 명의 생명이 희생될 수밖에 없는 상황이라면 여러분은 어떤 선택을 할 것인가? 어느 한쪽을 신속하게 선택하지 않으면 두 사람 모두가 희생되는 상황이면 어떨까? 90대의 노인을 선택하는 사람들도, 9세의 어린아이를 선택하는 사람들도 그들 나름의 정당한(?) 이유들을 제시할 수 있을 것이다. 하지만 여기서 그 중 누군가를 선택하는 자체가 기술자들의 윤리강령(IEEE의 Code of Ethics)에 위반이라는 주장도 있다. 모든 사람들을 공정하게 다루고 인종, 종교, 성별, 장애, 연령, 국적, 성적 정향, 성 정체성 등을 이유로 차별하는 행위에 개입하지 말라는 윤리강령에 위반하는 것이라는 말이다. 그렇다면 가능한 선택지가 무엇인지에 대해 린(Lin)은 핸들을 돌리지 않고 두 사람을 모두 충돌해 버리는 방법이 있지만 이것은 둘 중 한 사람에게 나쁜 편견을 가지고 그를 충돌한 경우보다도 윤리적으로 더 악한 결과라고 말한다. 그렇다면 어떻게 해야 하는가? 린은 “만약 자동차가 계속 직진할 경우에는 10명 혹은 100명의 보행자가 사망하게 될 것이나, 핸들을 틀어 주행방향을 바꾼다면 단지 1명의 보행자의 목숨이 희생되는 경우라면 어떤 결정이 윤리적인 것인가?”라며 좀 더 쉬운 선택을 할 수 있도록 도와준다. 린은 이런 수적 차이가 있다면 10명 혹은 100명의 목숨을 구하는 선택을 하라는 요구 쪽으로 기운다. 자, 과연 그렇게 하는 것이 옳은 선택이며 윤리적인 것일까? 히틀러의 나찌 독일은 인종청소와 종족학살을 생명의 질과 가치를 따져 처리했다. 그들이 보기에 가치 없는 생명이나 사회와 국가에 해가 되는 목숨은 제거하는 것은 정당하고도 칭찬받을 일이었다. 악몽에서 벗어난 지구에 사는 오늘날의 인류는 생명을 질과 양으로 비교 형량 하는 것은 허용되지 않는 일이라고 믿고 있고, 그런 말을 입에 담는 것조차 터부로 되어있다. 그럼에도 위와 같은 선택은 정당한 것일까? 그렇지 않다면 그럼 100명 혹은 10명이 아니라 10명 혹은 1명의 보다 적은 사람을 살리고 다수를 희생하는 것은 보다 윤리적이고 합법적인 것인가? 만약 내가 탑승한 승용차량과 충돌을 피할 수 없는 대상들이 5톤 트럭과 자전거 탑승자라면 나의 자율주행차량의 시스템에 무엇과 충돌하라고 입력할 것인가? 약한 자전거를 보호하자고 운전자를 희생하는 프로그램이 된 차량을 누가 과연 용기 있게 구입할 것인가? 앞서 달려가는 2대의 원동기장치 자전거 운전자 중 1인은 머리 보호대를 착용하고 있고, 다른 1인은 착용하지 않았다고 하면, 누구와 충돌해야 하는가? 그나마 상처를 적게 입을 것으로 예상되는 도로교통규범을 준수한 사람과 충돌하는 것이 옳은가? 만약 그렇게 사고 알고리즘이 만들어진다면 자신에게 닥칠 지도 모르는 사고 상황에서 피해자가 되지 않으려면 오토바이를 탈 때는 헬멧을 착용하지 않아야 하는 것은 아닌가? 그럼에도 머리보호대 미착용의 법 위반으로 제재를 받아야 할까? 이 모든 난제들은 어느 일방이 혹은 쌍방만의 합의로 해결할 문제가 아니라는 것이 특징이다. 내가 희생되는 공익, 내가 손해 보는 정의를 선뜻 받아들이지 못하는 것이 인지상정이라면, 설계자, 제조자, 판매자, 구입자, 사용자, 국가의 해당관청뿐만 아니라 국민 모두의 이해관계가 충돌하게 될 이 난제를 해결하기 전에 완전자율주행차량의 완성을 본다는 것은 인류 모두의 불행이 될 수도 있을 것이다.
So you have finished reading the 자율 주행 자동차 윤리적 문제 해결 방안 topic article, if you find this article useful, please share it. Thank you very much. See more: 자율주행자동차 해결방안, 트롤리 딜레마 해결방안, 자율주행자동차 문제점, 자율주행자동차 윤리적 문제 토론, 자율주행자동차 상용화, 자율주행자동차 트롤리 딜레마 토론, 자율주행 자동차 윤리적 문제 기사, 자율주행자동차 윤리적 딜레마
키워드에 대한 정보 자율 주행 자동차 윤리적 문제 해결 방안
다음은 Bing에서 자율 주행 자동차 윤리적 문제 해결 방안 주제에 대한 검색 결과입니다. 필요한 경우 더 읽을 수 있습니다.
이 기사는 인터넷의 다양한 출처에서 편집되었습니다. 이 기사가 유용했기를 바랍니다. 이 기사가 유용하다고 생각되면 공유하십시오. 매우 감사합니다!
사람들이 주제에 대해 자주 검색하는 키워드 [뉴스G] 인공지능이 ‘도덕’을 배울 수 있을까?
- EBS
- EBS뉴스
- 뉴스G
- 인공지능
- 도덕
YouTube에서 자율 주행 자동차 윤리적 문제 해결 방안 주제의 다른 동영상 보기
주제에 대한 기사를 시청해 주셔서 감사합니다 [뉴스G] 인공지능이 ‘도덕’을 배울 수 있을까? | 자율 주행 자동차 윤리적 문제 해결 방안, 이 기사가 유용하다고 생각되면 공유하십시오, 매우 감사합니다.
