‘보일링 포인트’, 인간 가치 위협하는 비인간 지능 “인공지능=현대문명의 신?”

입력 2020. 01.09. 17:32:30

[더셀럽 김지영 기자] ‘보일링 포인트’에서 인공지능과 인간이 공존하는 시대의 이면을 짚어본다.

9일 오후 방송되는 KBS1 교양프로그램 ‘다큐인사이트’에서 2020 신년기획으로 ‘보일링 포인트’ 3부작을 방영한다. 이날 방영되는 2부 ‘비인간 지능이 던지는 질문’에서는 ‘나만을 위한 추천 알고리즘’, ’신의 지위에 오른 인공지능’, ‘객관적인 인공지능의 판단’, ‘로봇처럼 사고하는 인간의 탄생’. 그리고 가상화 혁명이 낳은 또 다른 모습을 알아본다.

지난 2016년 3월, 이세돌 9단과 구글 딥마인드팀이 개발한 인공지능 ’알파고‘의 대국이 열렸다. 3월 9일부터 15일까지 총 5번의 대국. 알파고의 상대가 세계 바둑 최강자 이세돌 9단이라는 점에서 전 세계의 주목을 받았다. 이세돌 본인을 비롯해 모든 이들이 인간의 승리를 예상했지만, 알파고는 5국 중 4국에서 이세돌 9단을 이겼다.

특히 2국의 37수는 딥마인드 개발자 허사비스가 “아주 오랫동안 회자될 것”이라고 지목할 정도로 의외의 한 수였다. 알파고는 입력한 데이터에 대해 지정된 결과를 산출하는 기계이기를 멈춘 것이다. ’비인간 지능‘의 탄생을 알리는 순간이었다. 인공지능이라는 말에는 인간이 만들어냈고 통제할 수 있다는 의미가 내포되어 있다. 하지만 과연 그럴까. ’비인간 지능’과 인간이 공존해야 하는 시대. 그런데 인공지능은 완전한 것인가.

우리가 인공지능의 보편화에 있어서 가장 걱정하는 부분은 일자리의 자동화이다. 사람이 하던 일을 기계가 대체하면서 일자리가 사라지고 모든 것이 자동화되는 SF 영화 속 미래. 실제로 일부 공장이나 서비스 직종에서는 벌어지고 있는 일이기도 하다. 그러나 우리가 정말 걱정해야 할 부분은 ‘의식의 자동화’이다. 우리는 이미 인공지능 세상 속에서 살아간다. 인공지능 알고리즘이 추천해주는 영화를 보고, 음악을 듣고, 목적지까지 가장 빨리 도착하는 길을 찾는다.

알고리즘의 추천을 받아들이는 과정에서 우리는 무비판적이다. 쉽게 휩쓸리고 모순적인 인간의 선택보다는 수많은 데이터를 바탕으로 한 기계가 객관적이고 이성적이라고 믿어 의심치 않는다. 그런 대리 판단의 영역은 단순히 취향에만 국한되지 않는다. 최근 미국의 퍼시픽리그에서는 인공지능 심판이 도입되었다. 스트라이크 존의 판단을 대신하는 로봇 심판. 이 심판의 결정에 불복하다가 인간 감독이 퇴장당하는 사건까지 벌어졌다. 미국 로스앤젤레스의 경찰(LAPD)은 범죄가 일어날 지역을 예측해주는 프레드 폴(Predpol) 시스템을 도입했다.

우리는 이제 판단을 기계에게 맡기고 있다. 옆자리의 동료 대신 기계에게 질문한다. 이제는 인간 스스로 인공지능에게 객관성의 옷을 입히고 있다. 그러나 우리는 인공지능이 어떠한 과정을 거쳐 그 결과를 도출해냈는지 전혀 알 수 없다.

어떤 기술이라도 아직 완벽하진 않으며 누구의 손에 있느냐에 따라서, 어떻게 사용하느냐에 따라서 인간에게 다른 결과를 안겨다 줄 수 있다. 위조, 편향, 감시라는 세 분야에서 이미 기계 지능은 활동하기 시작하였으며 이것이 인간 사회의 신뢰도를 높일지, 감시의 디스토피아를 만들지는 불분명하다. 게다가 이미 기술의 능력이 확정된 것처럼 사회는 토론하기를 멈춘 채 기술을 운명적으로 받아들이려는 태도까지 보이고 있다.

중국은 이미 ‘텐왕(天网)’, 하늘의 그물이라는 감시 시스템을 시행 중이다. 이 프로젝트는 중국 내 CCTV를 4억 개까지 늘리는 것이 목표. 4억 개의 눈을 통해 중국 공안은 모든 곳을 실시간으로 감시할 수 있게 됐고 손쉽게 국민들에게 ‘소셜 크레딧(사회 신용 점수)’이라는 디지털 평점을 매기는 것이 가능해졌다. 디지털 점수가 높은 사람은 대학 진학을 비롯해 세율, 대출, 취업 등에서도 혜택을 받고 점수가 낮은 사람은 차별을 받는다. 실제로 한 분석에 따르면 디지털 신용 점수가 낮은 사람은 반국가적인 행위를 할 가능성이 높다는 이유로 중국 국민 중 약 2천만 명의 비행기와 기차 이용이 금지됐다. 중국인들은 이 점수를 쌓기 위해 자신의 행동을 검열하고 인공지능의 기준에 맞추기 위해 노력하기 시작했다. 중국만의 일이 아니다. 인공지능에 인간을 끼워 맞추는 상황. 판단도 선택도 전부 기계에게 맡기는 우리는 과연 인간의 가치를 가지고 있는 것일까.

‘다큐 인사이트’의 2020 신년기획 ‘보일링 포인트’는 오후 10시 방영된다.

[더셀럽 김지영 기자 news@fashionmk.co.kr / 사진= KBS 제공]