인간들이 ‘자율주행 기술’ 발전 속도를 못따라간다 평가 받는 이유

자율주행 어디까지 왔나
트롤리 딜레마
사회적 합의 필요해

자율주행차는 꾸준히 발전하고 있다. 현재 상용화되어 도로를 주행하는 자율주행차는 2단계 수준이다. 그리고 특정 지역에서는 3, 4단계 수준의 기술이 시범 운영되거나, 상업 서비스로 제공되고 있다. 구글의 자회사 웨이모는 미국 애리조나주 피닉스에서 2020년부터 유로 로보택시를 운영하며 3천만 km 이상의 무인 주행거리를 기록하였고, 중국의 바이두 아폴로 고 역시 10개 도시에서 1억 km가 넘는 누적 운행 거리를 쌓으며 4단계 수준의 상업 서비스를 제공하고 있다. 최종적인 5단계는 아직 연구 개발 단계에 있으며, 미래의 기술로 전망되고 있다.

이와 반면 현재 자율주행기술과 관련된 윤리적 딜레마를 포함한 여러 상황은 제도적, 법적, 그리고 사회적 합의의 구축 속도가 기술 발전의 속도를 따라가지 못하고 있는 현상을 보인다. 기술의 급격한 발전 속도, 윤리적, 사회적 합의의 복잡성, 그리고 법률 및 제도 마련의 시간 소요 이유로 격차가 발생하고 있다. 이에 대한 격차를 줄이기 위해서 개인적 수준을 넘어 국가적 수준으로 나아가 노력해야 한다.

트롤리 딜레마

먼저 트롤리 딜레마란, 윤리학에서 논의되어 온 사고 실험이다. ‘최대 다수의 최대 행복’을 추구하는 공리주의적 관점과 어떠한 상황에서도 살인을 금지하는 의무론적 관점 사이의 충돌을 보여주는 질문이다. AI의 판단이 인간의 판단과 구별하기 어려워지는 지금, 트롤리 딜레마를 어떻게 해결할 것인가. 이는 개발자 영역과 제도적 영역에서 가장 화두로 다루어지고 있는 질문이다.

2017년 구글의 AI 시니어 펠로우 제프 딘은 자율주행차의 AI가 단편적인 판단이 아닌, 사고 자체를 막는 것을 목적으로 한다고 언급하였다. 이는 사고 발생 시의 딜레마 해결이 아닌, 사고 자체를 최소화하는데 개발자들이 초점이 맞혀져 있음을 알 수 있다. 하지만 여러 소비자는 ‘위험을 최소화하는 자동차’를 원하고 있고, 이에 대한 문제 해결이 되지 않을 시, 구매하지 않는다는 반응이 다수이다.

함께 본 기사: “1만 키로가 넘어” 세계에서 가장 긴 고속도로, 길이는 어느정도일까?

지속적인 논의가 필요한 과제

먼저 책임의 소재를 따져야 한다. 운전자에게 책임을 묻는 것이 옳은가, 개발자에게 책임을 묻는 것이 옳은가, 아니면 AI에 책임을 묻는 것이 옳은가. 사고 발생 시에는 여러 책임자가 존재한다. 제조사, 소프트웨어 개발사, 운전자, 그리고 AI 등 우리는 이에 대한 책임 소재를 분명히 해야 할 것이다.

이에 따라 여러 윤리적 충돌이 발생한다. 어떤 원칙을 우선시해야 하냐에 대해서는 여러 이해관계자, 전문가, 그리고 국제적 조화가 필요할 것으로 보인다. 아울러 대중적 공감대 형성이 무엇보다 중요하다.

아직은 기술의 발전에 비해, 제도적 장치가 마련되지 않은 상황이다. 우리는 여러 윤리적 충돌 속에서 바람직한 방향 제시해야 한다. 그리고 개발자 영역에서는 ‘아실로마 AI 원칙’을 기반으로 개발이 이루어져야 할 것이다.

자율주행 기술은 혁신적인 잠재력을 바탕으로 인간의 삶에 편리함을 준다. 하지만 그에 따른 제도적, 사회적 합의를 이루어 나가는 것이 현재 자율주행기술의 가장 큰 과제로 남겨진다.