자율주행자동차의 윤리적 딜레마 확인해볼까요

+ 브런치로 이전하였습니다. 아래 링크는 이 글을 좀 더 가다듬은 글입니다.

어느 버스 운전사의 선택이라는 얘기가 있다.스위스 시내 버스 운전사가 내리막길을 운행하던 중 브레이크가 고장난 것을 알게 되었습니다.그 전에는 수많은 관광객, 그러니까 한 아이가 있다!기사는 "다수를 살릴 것인지, 아니면 어린 목숨을 구하나"를 선택해야 하고 결국 아이를 살인다. 사람들은 어린아이를 죽인 살인을 가리켰지만 재미가 없어 기사는 죽은 애에게 가서 미안하다, 미안하다.아들아라고 했다는 가슴 아픈 사연.

>

_그렇다. 사람의 생명은 누구에게도 판정할 수 없다.어떤 선택을 하든 그 선택이 옳다고 할 수 있는 윤리적 잣대가 없다.하지만 이 선택을 사람이 아닌 자율주행 자동차가 해야 한다면?

>

_자동차의 소프트웨어화, 스마트카, 전기차, 자율주행자동차까지! 많은 대기업이 새로운 시대의 새로운 자동차 산업으로 확장하면서 떠오르는 문제가 바로 자율주행자동차의 윤리적 선택에 대한 딜레마다.

>

_22개 MIT테크놀로지 리뷰에 'Why Self-Driving Cars Must Be Programmed to Kill'이라는 논문이 소개됐다. 자율주행자동차가 누군가를 죽이도록 설계돼야 하는 이유라는 섬뜩한 논문에서는 자율주행자동차가 불가피한 문제 상황을 가정해 윤리적 딜레마를 다뤘다. 어떤 선택도 옳다고는 할 수 없다.최근 시험 중이던 구글의 자율주행 자동차가 처음부터 상대 운전자의 과실이 아닌 컴퓨터 판단 오류로 문제를 일으키면서 현실적인 문제가 됐다. 인명피해는 없었지만 돌발상황에서 어떤 선택을 내려야 할 컴퓨터가 인명을 희생시킨다면 그 책입니다는 누구에게 있는가에 대해서는 의견해야 할 문제다.

>

_자율운전 자동차 혹은 자율주행 자동차의 소프트웨어 연구들은 어떻게 설계해야 하는가.컴퓨터는 어느 쪽이 옳은지에 대한 답을 주는 잣대가 없다.결국 이런 상황에서 제 연구가 설계한 대로 결정을 내리겠지만 책입니다.은 누구에게 상점이 되는거야? 설계한 연구? 자율주행차를 구입하면서 모든 조항에 동의한 운전자?나는 공리주의에 입각해 돌발상황에서 더 적은 사람을 죽이도록 설계된 자동차를 구입하는 것에 동의한다. 나는 몇 명이 내가 죽도록 설계된 자동차를 구입하는 것에 동의할 것이다. _누구도 자유로울 수 없는 상황에서 구글과 이 회사는 자율 주행 자동차 상용화라는 목표를 2~3년 이내로 하고 있다. 큰 기업이라 시장을 가장 먼저 잡아야 하는 것도 이해할 수 있지만 이미 언급한 문제는 어느 정도 해결됐다고 상용화할 수 있는 문제는 아니라고 본다.

>

>

_비슷한 로봇의 윤리 문제를 다룬 대표적인 영화 어린이, 로봇을 언급하며 마무리하려고 할 것이다.주인공 델 스푸덱(윌 스미스)은 아이 한 명과 차를 타고 물에 빠졌는데 그걸 발견하고 물에 뛰어든 로봇에게 아이를 구하라고 명령했지만 로봇은 스푸덱을 구할 확률이 더 높다며 스푸덱을 구하고 아이는 죽는 트라우마를 겪을 것이다. 이 때문에 로봇에 대한 불신과 아날로그에 대한 향수가 남게 된다. 컨버스를 사랑하는 남자.

제1원칙:로봇은 인간에 해를 주어서는 안 된다. 그리고 위기에 처한 인간에게 모른 척해서도 안 된다.제2원칙: 제1원칙에 어긋나지 않는 한 로봇은 인간의 명령에 복종해야 한다.제3원칙: 제1원칙과 제2원칙에 어긋나지 않는 한 로봇은 로봇 자신을 지켜야 한다.

2004년에 2035년을 그린 이 영화에서 계속 언급되는 '(아이작 아시모프의)로봇 3원칙'은 로봇이 어떤 경우에도 인간을 해치지 않도록 설계하기 위해서 만든 원칙이었다 그러나 이 원칙이 서로 충돌할 인간이 위협 받는 대재앙이 초래할 것입니다.뭐 이건 영화일 뿐 소설가가 만든 원칙일 뿐인데.이처럼 현실에 적용하기 위한 현실적이고 절대적인 원칙을 바탕으로 모든 것에 적용할 수 있는 원칙을 설계하고 이를 표준화하는 과제가 남아 있는 것은 아닐까.