영란 선배는 6개월 동안 우리가 밤 새우기를 잠자듯 하며 마침내 완성한 보고서를 미련 없이 덮었다.

“이제 이건 됐고. 보고 자료는 어떻게 만들지?”

“보고서를 이렇게 고생해서 지금 막 다 썼는데, 무슨 보고 자료를 또 만들어야 돼요?”

“이런 두꺼운 보고서를 누가 한 장이라도 들춰 보겠어. 청에 계신 분들 다들 바쁜 분들인데. 간단하게 정리해서 파워포인트 세 장짜리 슬라이드로 만들어 보여줘야지.”

영란 선배가 말하는 ‘청’이란 우리 회사에 연구 용역을 맡긴 어느 공공 기관이었다. 이미 야근을 시작한 지도 오래되어 가고 있었기에 영란 선배는 나의 좌절한 표정은 무시하고 바로 파워포인트 자료의 첫 줄을 쓰기 시작했다.

일러스트_ 김상민 기자

“일단 그분들이 제일 좋아하실 만한 주제는 이거야. 절벽 옆을 차 타고 가고 있는데 갑자기 어떤 보행자가 길에 확 튀어나온 거야. 그러면 인공지능 운전장치는 어떻게 해야 할까. 차를 확 틀어? 아니면 그냥 가던 길 가? 차를 틀면 절벽에서 떨어져서 운전자가 죽을 확률이 55%고, 그대로 직진하면 보행자가 죽을 확률이 100%일 때. 이때 사고 방지 프로그램은 어떤 선택을 해야 하지?”

나는 잠깐 생각한 후 대답했다. 나는 지친 상태였다. 오래 생각하고 싶지는 않았다.

“운전자가 합법적으로 잘 가고 있었으니까, 어쨌건 우리는 별 잘못한 게 없잖아요. 그냥 직진.”

“그러면 튀어나온 사람을 죽게 하자고? 운전대를 틀어도 운전자가 살 확률이 45%는 되는데?”

“할 수 없잖아요. 우리 잘못은 아니니까. 너무 잔인한가?”

“그런데 아주 짧은 시간 안에 상황을 판단한다는 것도 어렵잖아. 그렇게 사람을 쳤는데, 나중에 보니까 거기는 절벽 중에서도 좀 푹신한 절벽이어서 사실은 운전자가 살 확률이 거의 90%는 되는 데였다면? 그랬다면 어떡해.”

“푹신한 절벽 같은 게 있어요?”

“말하자면 그렇다는 거지.”

“그렇다고 확 틀어 버려요? 자동차를 산 사람은 사고 방지 인공지능 운전 기능이 있어서 안전하다고 생각하고 샀을 텐데, 그럴 때 운전자를 보호해 주지 않는다고 하면 싫어할 거 같은데요.”

“하기야, 자동차를 잘 팔리게 하려면 아무래도 자동차 사는 사람 편을 드는 쪽으로 규정을 만들라고 해야겠지. 그런데 그래도 만약에 운전자가 100세 노인이고 보행자는 10세 어린이면?”

“그때는 좀 거시기하기는 하네요. 어쩌죠? 그러면 인공지능 프로그램에 운전자와 보행자의 나이를 비교해서 보행자가 너무 어리면 보행자를 구하고 운전자를 희생하도록 설정해 놔야 할까요?”

“그것도 좀 이상하지. 무슨 목숨의 가치가 나이 순으로 결정돼야 하는 거야?”

나는 잠시 말 없이 고민했다. 시계를 보니 지하철이 끊길 시각이 다가오고 있었다.

“그러면 이렇게 하죠. 이럴 때 누구 목숨을 구할지를 각자 자기 취향대로 선택하게 하죠.”

“그래도 법적인 기준 원칙은 있어야지. 만약에 정말로 사고가 났으면 고의로 사람을 쳤냐, 안 쳤냐, 일반적으로 얼마나 위험을 알 수 있는 상황이었냐, 이런 게 중요할 텐데. 이 정도면 양심적인 선택이었다, 아니다 하는 어떤 기준은 필요하다고.”

“그러면 이렇게 하면 어때요? 매년 연초에 정부에서 공식 설문조사를 해서 대한민국 일반인들이 이럴 때 평균적으로 어떤 걸 택하는지 알아보는 거죠. 그래서 그걸 기준으로 잡죠.”

“운전자가 죽을 확률이 55%일 때는 그렇게 조사해서 결정했다고 치고, 50%나 60%일 때는 또 어떻게 해? 30%면, 80%면? 그리고 사람 목숨 가치를 다수결로 따진다는 게 좀 이상하잖아?”

“사실 그래서 우리 보고서 내용에 법적, 윤리적, 기술적 문제로 분류해서 다 분석하고 연구했던 건데, 그걸 어떻게 몇 마디로 줄여서 요약해요. 아휴, 전 모르겠어요. 복잡한 문제가 결론이 그렇게 간단할 리가 없죠.”

그렇게 말하고 보니 더 이상 생각나는 것이 없었다. 우리의 묵묵한 밤은 더 늦어지기만 했다. 마침내 영란 선배가 말했다.

“그냥 대충 너랑 나랑 가위바위보 해서 이긴 사람 생각대로 쓰자.”

“그렇게 대충 해도 돼요? 이거 대한민국 자동차 전체에 적용될 원칙을 만드는 연구잖아요?”

“어차피, 지금 일본이랑 미국에서 규정이 안 나왔기 때문에 실제 규정은 아직 안 만들 거라고. 일본 규정이 나와야 한국 공무원들은 규정을 만드니까. 한국 규정이라는 게 다 그렇잖아. 일본 규정 따라 하고, 너무 이상해 보이면 미국 규정도 좀 집어 넣고. 좀 민감한 거면 유럽 거도 참고 하고.”

밤은 깊었고, 아무리 생각해 봐도 영란 선배의 말 이상으로 논리적인 원칙은 없었다. 고심 끝에 나는 가위를 내기로 결심했다.

* * * * * * * * * * * * * * * * * * * * * * * * * * * ** * * * * * * * * * * * * * * * * * * * * * * * * * * *

새로운 기술이 등장할 때마다 항상 새로운 윤리와 법적 책임에 관한 논쟁은 같이 나타나곤 한다. 더 적극적으로 이러한 논쟁을 주도할 수 있는 환경을 만드는 것은 갈수록 중요해질 것이다.

한편으로 약간 다른 이야기이지만, 오히려 아직 중요해 보이지 않는 먼 미래의 논쟁거리를 미리 대비해 보는 것도 나는 할 만한 일이라고 생각한다. 예를 들면, 지금 우리나라 당국이 ‘로봇 인권에 대한 기준’이나, ‘외계인 대상 폭력 범죄의 범위’를 미리 정해 보고자 하는 것이다.

이런 주제는 당장 닥친 문제가 아니기에 과감히 다루는 데 부담이 없는데, 의외로 현실적인 이익과 연결될 수도 있다고 본다. 특정 기술에서 앞서 나가는 국가 이미지를 꾸미기도 좋은 데다가 언젠가 규정이 없어 시도되지 못하는 사업을 먼저 유치하기 위해 대비하거나, 해당 분야에 사회의 관심을 환기하는 효과가 있다. 하다 못해, 갑자기 찾아온 미래의 어느 날 그 문제가 실제로 생겼을 때 담당 정부 부서가 어디가 될지 미리 정해 두는 효과도 있을 것이다.

곽재식 화학자·소설가

Related Posts Plugin for WordPress, 

Blogger...
Posted by KHross

댓글을 달아 주세요