최근 아마존 인공지능 채용 시스템이 이력서에 ‘여성’이라는 단어가 포함되면 감점을 해서 논란이 일었다. 원인은 인공지능이 학습한 데이터에 있었다. 아마존에서는 지난 10년간 회사에 제출된 이력서 데이터를 학습시켜 인공지능 시스템을 구현하였다고 한다. 남성 직원 비율이 60%인 아마존의 현실이 영향을 주어 여성에게 불리한 의사결정을 하게 된 것이다.

왜 이런 서비스가 제대로 검토되지 않고 사용된 것일까? 전문가들은 인공지능 의사결정을 블랙박스에 비유한다. 의사결정 과정이 감춰져 잘 보이지 않는다는 것이다.

이처럼 인공지능이 채용 등 고도화된 업무영역까지 맡게 되면서 의사결정의 투명성에 대한 요구도 함께 커지고 있다. 유럽연합(EU)은 지난 5월 발효된 일반개인정보보호법(GDPR)을 통해 알고리즘에 의한 자동화된 처리를 받지 않을 권리, 설명을 요구할 권리를 명기하고, 이를 위반하는 기업에 매출액의 4% 등에 상응하는 과징금을 부과하겠다고 나섰다.

인공지능 의사결정 과정을 투명하게 보여주는 기술은 없을까? 다행히 지난해부터 미국 국방성 산하 국방위고등연구계획국(DARPA)에서는 인공지능 의사결정 과정을 설명해주는 XAI(Explainable AI·설명 가능 인공지능) 기술을 연구해오고 있다고 한다.

많은 기업들이 인공지능 기술을 제품이나 서비스 혁신에 앞다퉈 적용하고 있지만, 편향된 데이터를 학습한 인공지능이 개발될 수 있다는 점을 간과해서는 안된다. 제품에 적용하기 전에 충분하고도 면밀한 검토가 필요하며, XAI와 같은 보완 기술에 대한 연구도 병행해야 할 것이다.

<이종범 | 카이스트 석사과정>

 

Related Posts Plugin for WordPress, 

Blogger...
Posted by KHross

최근 네 차례에 걸쳐 연재된 경향신문 ‘생태계가 바뀐다’ 기획의 마지막 기사는 ‘2050년의 기상예보’였다. 최고기온이 40도가 넘는 폭염이 이어지고, 아열대 지방처럼 예측 못할 비가 쏟아지기도 하며, 따뜻해진 바닷물 대신 인공동굴에 들어가는 것으로 피서를 하고, 스키를 타려면 해외로 나가야 하는 2050년의 기후 풍경을 보여주었다. 지난여름의 폭염을 겪은 사람이라면 고개가 끄덕여지는 미래였다.

공상이 아니라 현실로 다가올 법한 미래의 날씨를 제시했다는 이 기사에서는 각종 미래 예측에 그동안 단골로 등장하던 인공지능 기술이 별로 보이지 않는다. 홀로그램 기술을 사용하는 인공지능 기상캐스터가 폭염 소식을 전하고, 손목에 찬 스마트칩에서 요즘의 재난문자 비슷한 메시지를 가상 영상으로 띄우는 게 전부다. 오히려 에어컨 대신 ‘패시브쿨링 컨디셔너’를 사용해서 만드는 ‘마이크로 기후’가 미래 첨단기술처럼 들린다. 2050년쯤이면 세상을 놀랍도록 멋지고 편한 곳으로 만들어 준다던 인공지능은 뜨거운 공기로 가득 찬 세상에서 제 할 일을 부여받지 못했다.

일러스트_김상민 기자

한두 차례 폭염을 겪었다고 해서 우리가 미래를 상상하는 방식이 곧바로 바뀌지는 않을 것이다. 그래도 각종 인공지능에만 의존하지 않으면서 30여년 후 미래를 예측하게 된 것은 의미 있는 변화라고 할 수 있다. 인공지능을 대신하여 미래 예측의 중심에 등장한 것은 폭염에 시달리는 ‘인공지구’다. 인공지구는 인간이 만든 지구, 더 정확하게 말하자면 인간이 망친 지구를 뜻한다. 인간이 지구를 만든 것이 아니라 애초에 지구가 인간을 만들었다고 해야겠지만, 지금 지구의 모습에 인간의 발자국이 너무 크고 깊게 남아 있기에 “인간이 지구를 새로 만들고 있다”는 말이 어색하지 않게 되었다. 긴 지구의 역사에서 처음으로 ‘인간의 시대’, 즉 ‘인류세’가 시작되었다고 할 만하다. 인공지구란 바로 그 인간의 시대를 통과하고 있는 지구의 처지를 일컫는다.

인공지능과 인공지구 모두 인간의 활동으로 말미암아 생겨나거나 변모한 존재들이지만 우리는 양쪽에 대하여 사뭇 다른 관계를 설정하고 있다. 우리는 스스로 만든 인공지능을 보면서 경이와 두려움을 고백하는 데 익숙하지만, 인공지구에 대해서는 이것이 우리 손으로 빚어낸 결과임을 쉽게 인정하지 않으려 한다. 인공지능은 막 성장을 시작하고 있을 뿐이지만, 우리는 먼 훗날 이것이 불러올 변화를 상상하면서 미리 호들갑을 떤다. 반면 인공지구는 언제 어떻게 될지 모르는 불안한 상태인데도 우리는 여전히 무심하다. 많은 사람이 인공지능을 향해 달려들면서 인공지구로부터는 도망치고 있다. 일론 머스크 같은 사람은 우리가 만든 지능이 어떤 파국을 불러올지 모른다면서 우리가 망친 지구를 버리고 화성으로 옮겨 가자고 한다.        

인공지능과 인공지구에 대한 관심과 행동의 심각한 불균형은 학계와 정부 모두에서 발견할 수 있다. 세상 모든 변화의 중심에 인공지능이 있다는 생각은 식상할 정도로 널리 퍼져 있다. 가령 유발 하라리가 쓰는 ‘사피엔스’의 역사와 미래 서사는 인공지능과 생명공학에 특별한 지위를 부여한다. 근대 기술을 통해 자기 외부의 세계를 정복한 사피엔스에게 남은 목표는 자기 자신의 영생과 행복이며 그 새로운 탐구 혹은 정복의 핵심에 인공지능이 있다. 인간은 인공지능을 거울처럼 손에 들고 호모 사피엔스를 넘어 호모 데우스(‘신이 된 인간’)로 향한다. 하라리도 ‘생태학적 위기’를 말하기는 하지만, 그의 역사에서는 인공지능이 인공지구보다 더 중요한 자리를 차지한다.  

산업 성장 동력으로 이어질 수 있는 ‘인공’에만 관심을 기울이는 정부의 정책도 인공지구가 아니라 인공지능을 향한다. 인공지능은 돈이 되고 인공지구는 돈이 되지 않는다. 무려 4차 산업혁명의 핵심인 인공지능 앞에서 인공지구는 상대가 되지 않는다. 그래서 인공지구는 쉽게 정책의 공간으로 들어가지 못하고 어떻게든 산업으로 만들어야 겨우 관심을 받는다. 예를 들어, 인공지구의 한 현상인 미세먼지 문제가 심각해지자 ‘공기산업’이라는 참신한 개념과 분야가 주목받기 시작했다. 공기산업은 새 제품을 내놓고 각종 자격증을 취득한 전문가를 양성하게 될 것이다. 이런 시각과 대책은 인공지구를 인공지능과 비슷한 방식, 즉 새로운 경제적 기회로 대하고 있고, 따라서 인공지구의 근본적 문제들을 직시하지 못한다.

인간은 인공지능에 의해 구원받거나 멸망하지 않을 것이다. 인공지능으로 영생을 얻거나, 인공지능을 통해 사피엔스를 넘어선 존재가 되어 다른 행성으로 도망치는 일은 불가능하다. 인공지능이 스스로 인간을 공격하고 정복하려 드는 일도 일어나지 않을 것이다. 우리는 결국 인공지구에서 먹지 못하고 숨 쉬지 못하게 되어 사라질 것이다. 폭염 끝에서 우리는 호모 사피엔스의 운명이 인공지능이 아니라 인공지구에 달렸다는 것을 비로소 깨닫는다. 자기 몸 주위에 스마트하게 ‘마이크로 기후’를 만들어 버틴다고 해도 인공지구의 힘 앞에서 무력할 것이다.

만능 해결사 같은 인공지능에 한계를 부여하는 것은 인공지구이다. 인공지능의 가능성도 인공지구의 관점에서 생각할 때 더 현실적으로 구현될 수 있다. 2100년에도 인간은 인공지능과 결합해서 신이 되지 못한 채, 여전히 인공지구의 땅과 대기 속에서 발버둥치고 살면서 이런저런 일에서 인공지능의 도움을 받게 될 것이다. 인류세의 인간은 인간이 만든 지능과 인간이 만든 지구라는 조건 사이에서 살게 되었다. 

인공지능과 인공지구를 함께 고민하는 작업은 그동안 인공지능으로 가득 차 있던 미래 예측과 미래 정책에 인공지구를 더 많이 등장시키는 것에서 시작할 수 있다. 인공지능에 대해서 이야기할 때마다 인공지구에 대해서도 얘기한다면 우리는 지금보다 더 현실적인 미래를 그릴 수 있을 것이다. 다음 폭염과 다음 미세먼지가 올 때까지 인공지구는 잊고 다시 인공지능에 몰두할 가능성이 더 크겠지만.

<전치형 과학잡지 ‘에피’ 편집위원·카이스트 교수>

Related Posts Plugin for WordPress, 

Blogger...
Posted by KHross

최근에 영국 공영방송 BBC는 한국이 인공지능산업에 가장 최적의 문화적인 환경을 가지고 있다고 극찬한 바 있다. 곰이 인간이 되고 자연물 등에서도 초인간적인 능력이 있다는 전통 무속신앙이 이를 지원하는 기초배경이 된다는 것이다. 물론 보기에 따라서는 다소 비아냥거림으로 볼 수도 있지만 한국이 좀 더 인공지능에 친화적인 것은 사실로 보여진다. 다만 최근 한 세미나의 인공지능에 관한 발제에서 너무 윤리적인 문제를 집중부각한 사례를 보고 그 방향성에 대하여 간단하게 의견을 개진하고자 한다.

제4차 산업혁명시대를 맞이하여 인공지능 등에 있어서 윤리적인 문제가 자주 화두가 되는 것은 불가피한 점이 있다. 그러나 그 논의의 중심을 바로잡을 필요가 있다고 본다. 왜냐하면 이들 문제를 너무 추상화하거나 이론적으로 접근하게 되면 불필요한 혼란을 야기할 수 있기 때문이다. 가능하면 이 문제도 인공지능의 산업진흥과 지원측면에서, 좀 더 실질적인 차원에서 접근할 필요가 있다.

예를 들어 보행자나 차내 승객 중 어느 쪽이 다칠 수밖에 없는 상황을 가정하여 이런 경우에 어떠한 행동을 하여야 할 것인지가 통상적으로 자주 나오는 질문이다. 그러나 이 문제는 인간에게도 어려운 문제이고 실제 사건화되었을 경우에는 보는 시각에 따라 달라질 수 있고 나라마다 그리고 담당 판사마다 다른 생각이 나올 수 있는 사안이다.

따라서 이와 같이 해답이 결코 명쾌하지 않은 사안을 가지고 이에 대한 답을 인공지능에게 요구할 수는 없다고 본다. 그리고 이와 같이 어려운 질문에 다소 현학적인 토의를 즐기는 분위기는 바뀌어야 할 것이다. 물론 중요한 문제임은 틀림이 없고 이를 부인하는 것은 결코 아니다.

그러나 위와 같은 상황에서의 최적의 해결방안은 일반화하기가 어려운 부분이고 또한 보는 시각에 따라 달라질 수 있다. 이런 복잡한 문제에 대한 답을 인공지능에게 지금단계에서 요구하는 것은 무리이고 그 실효성도 없다고 본다. 그리고 해당 사정하에서의 결정 및 행위에 대한 최종적인 심사는 사법부의 사후 판단사항이기도 하기 때문이다.

다만 지금 단계에서 기댈 수 있는 가장 기초적인 키워드는 합리성일 것이다. 물론 추상적인 개념이다. 그렇지만 더 이상의 개별해답은 불가능하고 또한 의미가 없다. 따라서 어떤 주어진 상황에서 최적의 합리성을 추구하도록 그 방향성을 제시하면 될 것이다. 이에 대한 철학적인 연구는 인간과 인공지능 모두에게 필요한 부분이지 결코 인공지능에 한정된 윤리문제는 아닐 것이다. 오히려 인공지능이 양산화됨으로써 그간 숨어 있던 철학적 및 인본적인 근본 의문이 표면화되는 것에 불과하기 때문이다.

따라서 그 무엇보다도 당장 급한 사항은 이런 경우에 인공지능에 대하여 어떠한 조건하에서 인공지능의 행동에 면제부를 줄 수 있는지에 대한 현실적인 해답을 찾는 방향에서 이 논의가 실질적으로 진행되어야 한다는 점이다. 그렇지 않고 현학적인 논의에 머무른다면 이러한 논의 자체가 잘못하면 인공지능산업발전 자체에 불필요한 직간접적인 장애로 작용될 수 있기 때문이다. 지금은 이를 해결하도록 노력할 시기이다.

그런 의미에서 무엇보다도 인공지능산업의 육성에 최우선을 두고 이에 방해되거나 걸림돌이 되는 각종 법제도를 재정비할 필요가 있다고 본다. 그리고 인공지능에 대하여 좀 더 애정을 가지고 긍정적이고 친화적인 자세를 가지는 것이 필요하다. 지식재산관련법에 있어서도 일본과 같이 인공지능의 창작물도 제대로 보호받을 수 있게 하고, 인공지능의 특성상 자료의 수집, 분석 및 활용단계에서의 저작권법 위반의 소지가 있는 사항에 대하여도 한정된 범위 내에서 특칙을 부여할 필요가 있다. 그리고 인공지능 관련 법제도와 관련 사회인프라가 촉진되어 한국이 명실상부한 인공지능분야의 국제적인 허브로 성장할 수 있도록 이를 최우선적으로 지원하는 방향으로 범국가적인 역량이 집중되어야 할 것이다.

<김승열 변호사·카이스트 겸직 교수>

 

Related Posts Plugin for WordPress, 

Blogger...
Posted by KHross

이세돌 9단에 이어 세계 1인자인 중국의 커제(柯潔) 9단까지 완파한 인공지능 프로그램 ‘알파고’가 바둑계 은퇴를 선언했다. 알파고의 개발자인 구글 딥마인드의 데미스 허사비스 최고경영자는 “이번 행사가 알파고가 참가하는 마지막 바둑 대국”이라고 발표했다. ‘인간계를 완전 정복했으므로 더 이상 배울 게 없다는 거냐’는 자조 섞인 우스갯소리가 터져나올 만큼 알파고의 바둑 실력은 대단했다.

중국 바둑랭킹 1위 커제 9단이 25일 중국 저장성 우전에서 열린 알파고와의 2번째 대국 중 머리를 감싸며 고민하고 있다. 우전 _ 신화연합뉴스

그러나 이번 대국을 단순히 인공지능과 인간 대표의 대결이라는 관점에서 바라봐서는 안될 것 같다. 인간과 인공지능의 공존 가능성을 다시금 확인할 수 있었기 때문이다. 커제 9단과의 2차전에서 보여준 119수가 단적인 예다. 바둑기사들이라면 쉽게 착상할 수 없는 수였다. 그러나 막상 알파고의 수가 놓이자 커제의 돌들이 꼼짝달싹 못했다. 그나마 바둑계는 지난해 이세돌 9단 패배의 충격에서 벗어나 알파고와의 공존을 모색하던 터였다. 바둑계가 신봉해온 ‘초반 포석’은 이미 자유로운 감각의 알파고 신개념수에 무력해졌다. 벌써 바둑계는 인간의 부족한 부분을 ‘알사범’ 알파고에게서 배우고 있다. 인간의 고정관념인 ‘정석’을 가르치는 대신 개념 위주의 학습방법을 채택하는 바둑 지도자들도 생겼다. 허사비스가 언급했듯 알파고의 목적은 ‘바둑계 평정’이 아니었다. 인간의 영역에서는 해결할 수 없는 분야에서 보편적인 인간의 쓰임에 기여하는 이른바 ‘범용 인공지능’을 개발하겠다는 것이다. 즉 바둑에서처럼 고정관념에 사로잡혔거나, 혹은 엄청난 물적·인적 부담 때문에 엄두를 낼 수 없는 분야에서 인간을 돕는 역할을 하는 인공지능의 출현을 모색하고 있다. 입원 환자의 상태가 나빠지면 인공지능이 종합적으로 판단해서 의료진에게 곧바로 알려주는 앱(스트림스)이 대표적인 예다. 질병을 진단·치료하고 신약을 개발하는 등의 분야에서 활용될 수 있다. 알파고처럼 인간이 축적한 데이터를 넘어 스스로 학습해서 고난도의 지적 작업을 수행할 수 있는 것이다.

지금은 초보단계라지만 인간과 인공지능의 공존 사이에서 염두에 둬야 할 사항이 있다. 인공지능은 철저하게 ‘착한 인간’을 위해 복무해야 한다는 것이다. 테러와 범죄에 악용되지 않도록 안전장치도 마련할 필요가 있다. 인공지능이 편리한 도구냐, 흉기냐는 결국 인간에게 달려있다. 아무리 엄청난 괴력을 갖춘 인공지능이라도 결국 인간의 도구일 뿐이다.

Related Posts Plugin for WordPress, 

Blogger...
Posted by KHross

영화 <라라랜드>를 보고 나서 큰 의문과 회의에 휩싸였다. 여기저기서 가져왔다지만 장면들은 예뻤고, 평범한 대로 음악도 듣기 좋았다. 특히 ‘달콤 쌉싸름한’ 사랑 이야기가 관객들의 호응을 얻을 만하다는 생각이 들었다. 그럼에도, 결정적으로 영화의 큰 줄거리에 도무지 공감하기 어려워, 마음속 ‘별점’을 두 개 반 정도만 줬었다. 약간의 고뇌와 좌절을 겪지만 젊은 백인 미남 미녀가 젊은 날의 ‘꿈’이라는 것을 장쾌하게 이뤄버린다는 성공 서사가 단순하고도 이상했다. 내가 본 LA는 트럼프가 싫어한다는 멕시코, 코리아, 차이나 등에서 온 키 작은 노동자들의 도시이기도 했다.

현실이 어려울수록 판타지의 미감이 더 빛을 발할 수 있고 이야기를 깊이 있게 하는 데 제약이 있는 뮤지컬 양식을 빌렸다는 점을 감안해도 납득이 안됐다. 그러나 영화 사이트를 보니 서사나 주제에 비판적인 사람들은 소수에 불과했고 영화는 최고의 찬사를 받고 있었다. ‘완벽하다’ ‘황홀하다’면서 수사의 파티를 벌이고 있는 것은 특히 영화 비평가들이었다. 비평은 형식주의에 기울어 퇴락했는가? 내게 이 영화는 예쁜 판타지라기보다 거친 자기계발 서사로 보인다.

영화 '라라 랜드'의 한 장면

남자 주인공은 전능자다. 마음껏 ‘예술과 상업성’ 사이를 왕래하며 다 성취한다. 여자 주인공의 꿈을 이루는 데도 결정적인 도움을 준다. 그녀도 ‘꿈’이란 걸 멋지게 이룬다. 도대체 그 ‘꿈’은 무엇인지? 공연 첫날에 막강한 캐스팅 디렉터의 눈에 띄어 벼락 스타가 되는 것? 역시 ‘캘리포니아 드림’이며 할리우드다. 꿈과 현실 사이엔 거의 아무런 장애가 없다. 고뇌와 성장통은 죄의식 없는 ‘성공’이라는 것을 더 맛깔나 뵈게 하는 양념 간장 정도다.

누구나 되고 싶은 것(욕망)과 할 수 있는 것(능력·현실) 사이의 차이 때문에 좌절을 겪는다. 더욱이 저 항목들은 절대평가되지 않고 철저히 상대평가된다. 우리는 ‘타인의 욕망’을 내 삶 위에 겹쳐보며 욕망과 능력 사이의 괴리를 더 아프게 느낀다. 어떤 고매한 분들은 ‘네 자신의 삶을 살라’는 조언을 주지만, 그것은 기껏 위약이거나 또 다른 성공 전략의 일부다. 평생-상대평가-시스템으로부터 탈주하여 ‘진정한 자신’이 되는 것은 속세에서는 거의 불가능하다. 아이건 어른이건 우리는 상대평가에 너덜너덜해진 자의식을 늘 매만지고 우울해한다.

특히 등수 매기기와 경쟁을 처절히 버티고 내면화하며 자라온 젊은 친구들은 20%쯤의 자기긍정과 10%의 정신승리, 나머지는 온통 자기비하와 그것을 견디는 방어기제로 된 ‘뇌구조’를 갖고 있는 것 아닐까? 비율은 대학서열, 다니는 직장의 종류, 외모에 대한 자신감에 따라 다를 수 있다. 그러나 압박감은 비슷하다. 10~20대 자살률이 증명한다. 본의 아니게 저고용 초고령화 사회에 태어난 그들은 아직 도착하지도 않은 4차 산업혁명이나 인공지능(AI)과도 전투를 벌여야 한다. 그래서 그들은 실로 복잡하고 치열하게 고뇌한다. 이런 헬조선에서의 고민은 <라라랜드>의 그것과 차원이 다르다.

한국에서 자라나는 대부분의 사람들은 평범한 직장인·노동자나 영세 자영업자가 된다. 그런데 이 사회는 평범한 사람이 헤쳐 살아가야 하는 자본주의 사회의 실제 메커니즘과 윤리는 가르치지 않는다. 유럽의 어떤 나라들처럼 중·고등학교 때부터 노동자의 권리와 근로기준법 같은 진짜 삶의 규범을 가르치지는 못할망정, 막연히 ‘꿈을 이뤄야 한다’거나 ‘성공해야 한다’는 바람을 집어넣는다. 평범한 사람들의 노동과 연대에 대한 경멸과 증오도 불어넣는다. 그것은 물론 ‘타인의 욕망’과 자기경멸을 가르치는 것에 다름 아니다. 그래서일까? 초등학생들도 아이돌이나 건물주가 되는 게 ‘꿈’이라 하고, 스물 몇 살 된 친구가 ‘제가 아직 이룬 게 없어요’ 같은 말을 한다.

가난과 평범은 실패가 아니다. 그런데 계급, 학벌, 젠더로 가로놓인 엄청난 격차가 대다수의 인간을 엑스트라나 들러리처럼 초라하게 만든다. 그래서 한쪽에서는 ‘꿈’이라는 환각을, 다른 한쪽에서는 분노와 자포자기를 대량생산한다. 노조 가입률이 10%밖에 안되고, 을과 병들이 늘 아귀다툼을 하는 사회에서 이런 마음의 악순환은 자연스러운 것일지 모른다.

물론 노래와 춤이 꿀처럼 흐르고 ‘내 꿈이 이뤄지는’(feat. Park GH) 라라랜드에 살고 싶다. 하지만 그보다 먼저 근로기준법이 지켜지고 칼퇴근·생리휴가·육아휴직이 불이익이 되지 않는 사회, 노동조합 활동가와 가난한 예술가들이 블랙리스트에 오르지 않는 사회, 평범한 행복과 작은 성공이 죄스럽지 않은 ‘랜드’로 가고 싶다. 그래서 또 촛불을 든다.

천정환 | 성균관대 교수·국문학

Related Posts Plugin for WordPress, 

Blogger...
Posted by KHross