☞ 이전기사 : 인스타그램 '강박'이 가져올 무시무시한 미래 http://omn.kr/1m7ql
   
지난 2일 KBS1 <다큐 인사이트>는 2010년대를 기점으로 가상이 현실보다 큰 힘을 가지게 된 오늘의 세상을 진단했다. 그에 이어 지난 9일 방송된 2부 '비인간 지능'에선 한 발 더 나아가 지능을 가지게 된 AI의 시대에 인간의 존재론에 대해 이야기했다. 

AI(Artificial Intelligence), 인공지능, 사전적 정의에 따르면 사고나 학습 등 인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술이다. 이는 기계가 인간을 모방하고 그런 기계를 인간이 통제할 수 있다는 전제가 깔려있다.

'보일링 포인트- 2부 비인간 지능'의 프리젠터로 자선 전 구글 그로스 마케터, 2019년 다보스포럼 글로벌 쉐이퍼, 모바일 IT 전략가인 주영민씨 '이제 AI란 단어를 버릴 때'라고 단언한다. 이미 기계는 자신의 독창성과 고유성을 가지고 인간과 다른 지능의 단계에 이르렀다는 것이다. 그래서 방송에선 AI 대신 '기계 지능', '비인간 지능'이란 용어를 썼다. 

AI가 인간을 추월한 첫 번째 유적지 대한민국

그 시작은 바로 우리가 기억하는 이세돌 9단과 알파고의 바둑 대국이다. 2016년 3월 9일, 첫 번째 대국에서 이세돌 9단은 패배했다. 하지만 사람들은 그저 한 인간이 기계를 상대해 패배한 사건으로 생각했다. 과연 그럴까? 이어진 3월 10일의 대국, 알파고의 37수, '지금 뭐하는 거죠? 드디어 알파고가 빈틈을 보이기 시작했군요'라는 기사의 말처럼 인간이라면 두지 않을 수였다. 그러나 알파고는 승리했다. 심지어 그 37수는 승패를 가르는 전환점이자, 신의 한 수였다. 

인간이 입력한 데이터를 따르지 않은, 인간은 헤아릴 수 없는 심오한 한 수. 바로 그 순간을 주영민씨는 인공 지능의 초월성을 처음 드러낸 코페르니쿠스적 전환의 순간이라 정의내린다. 

이 사건이 의미하는 바는 두 가지다. 그 첫째는 이제 기계는 더 이상 인간이 가르치는 대로 행동하지 않는다는 것이다. 독립적으로 학습하고 판단하여 행동하기 시작한 기계지능이 되었다. 문제는 그 결과에 이르는 과정이 인간이 헤아릴 수 없을 정도로 복잡하다는 점이다. 둘째는 그런 기계 지능의 등장으로 이제 인간은 지식의 정수 자리를 내어주게 되었다는 것이다. 

그나마 알파고는 데이터로 입력한 인간 가이드가 있었다. 그 후 등장한 알파제로의 경우 두 개의 기계 알고리즘이 서로 학습하는 형태여서 인간의 도움이 필요 없었다. 그런데 이 알파제로가 단 3일만에 알파고를 꺽었다. 벽돌깨기부터 바둑, 스타크래프트까지 그 영역을 확장해 가고 있는 딥마인드의 기계 지능. 과연 도래할 다음 10년 우리가 맞이할 시대는 어떤 것일까? 알파제로는 스스로 해석하고 판단하는 알고리즘의 등장을 의미한다. 하루 수백만 번이라도 스스로 시행착오를 조절할 수 있는 능력을 가진 기계 지능의 등장 말이다. 

여기 기계지능이 어떤 상황에 와 있는지를 보여주는 상징적인 사건이 있다. 최근 미국 프로야구에는 AI 심판이 도입됐다. 스트라이크 존에 대해 인간 심판과 AI 심판이 서로 다른 판정을 내리고, 이에 인간 심판이 AI 심판의 판정에 불복하여 항의를 하다 쫒겨난 것이다. 

이 사건은 이미 기계 지능이 많은 현실 영역에서 인간의 수행 능력을 압도하고 있음을 알려준다. 구글에 디지털 광고를 하고 싶은 스타트업 기업은 자신이 광고하고 싶은 타깃과 메시지, 상품 서비스 내용을 광고 플랫폼에 알려주기만 하면 된다. 그러면 구글 플랫폼이 알아서 광고를 설정해 준다. 마케터는 이 가상 세계의 시그널을 받고 따르기만 하면 되는 것이다. 

판단, 지능, 선택, 결정

어느덧 우리 사회 많은 부분에서 기계가 우리 운명을 조율하고 있다. 인간인 우리조자 사람은 주관적이고 편향적이고 결함이 있다고 생각하고 그에 반해 기계는 객관적이라면서 무조건적인 신뢰를 보내고 있다. 주영민씨는 마치 과거 신의 판단에 무조건 복종하듯 오늘날 우리는 신의 섭리를 기계 지능으로 대체하고 있는 건 아닌가라고 반문한다. 대다수 사람들은 자신의 일자리를 기계가 대체할까봐 전전긍긍하는 데 머물러있지만, 기계는 한 술 더 떠서 판단, 지능, 선택, 결정의 능력으로 인간을 초월하고 있다는 것이다. 

AI의 도움으로 많은 돈을 벌고 있는 세계 최대 헤지펀드 설립자 레이 달리오는 그래서 "두렵다"라고 말한다. AI가 자신에게 돈을 줄지는 모르지만 과연 어떤 과정으로 그 판단을 내리는 것인지 알 수 없어서라고 한다. 

AI연구의 권위자 뉴욕대 조경현 교수 역시 같은 맥락의 우려를 표명한다. 그는 번역 인공 지능이 '좋은 아침'이라는 단어를 '공격하다'로 번역하는 바람에 이스라엘에 체포될 뻔했던 팔레스타인 남자의 사례를 들며 "이 사건은 AI의 편협합을 그대로 보여주는 사건"이라고 말했다. 아울러 그는 "기득권 중심으로 편집된 데이터 때문에 피해를 보는 다수가 얼마든지 발생할 수 있다"고 경고한다. 

감시하고 위조하고 편향된 기계 지능 
   
인간들은 먼 미래에 자신들과 똑같은 모습을 한 터미네이터가 나타날 것을 걱정하고 있지만, 정작 현실의 다양한 영역에서 이미 기계 지능은 가공할 만한 위협적 존재로 대두되고 있다. 

최근 두드러지고 있는 대표적인 영역은 감시 산업이다. 그 중에서도 안면 인식이 폭넓게 도입되고 있다. 중국에서 야심차게 기획하고 있는 텐황 프로젝트가 있다. 전국의 CCTV에 안면인식 기능을 탑재하는 것으로 1억 2천만대에 달하는 CCTV를 4억대까지 늘릴 계획이라 한다. 이 전국적인 단일 영상 감시 시스템은 간단하게는 무단 횡단하는 사람을 검색하여 그 대상에게 벌금을 물리는 것으로 시작하지만, 거리 전광판에 그의 얼굴을 공표하는 자동화된 인민 재판으로 발전할 수도 있는 무시무시한 시스템이다. 

그래서 최근 홍콩 시위 참가자들은 이런 안면 인식 시스템에 맞서기 위해 마스크를 착용했다. 그러자 홍콩 정부는 마스크 금지법을 내놓았고, 시위자들은 머리를 길러 가리거나, 레이저 빔으로 안면인식 시스템을 교란하고자 했다. 이처럼, 감시의 영역으로 간 기계 지능은 그저 범죄차 색출을 넘어 국가의 정치적 반대파 억압과 색출에 악용된다. 

한편 프리젠터 주영민씨가 가장 우려한 건 추천 알고리즘이었다. 가깝게는 내비게이션에서 부터 물건을 사고, 음악을 듣고 여행지를 선택하는 데 있어 우리가 무의식적으로 의존하고 있는 기계지능이 '추천 알고리즘'이다. 

추천 알고리즘이 위험한 이유는 우리가 점점 이 추천을 무비판적으로 따르게 되고, 그에 따라 고민하고 선택할 필요를 점점 느끼지 않게 된다는 점 때문이다. 더구나 이 추천이라는 게 취향과 관심사에 따른 알고리즘 축적의 결과물이기에, 당연히 기계지능은 익숙하고 좋아할 만한 것만을 추천할 테고, 이는 점점 더 인간의 인식 폭을 좁히는 결과를 낳을 수 있다는 것이다. 만약 이로 인해 내 세계의 감정과 가치관, 의식, 신념마저도 편향된 정보로 구축된다면? 추천 알고리즘에 일상적 행동 패턴이 종속된 인간을 과연 '로봇'과 다르다고 할 수 있겠느냐는 것이다.

이렇듯 방송은 이 지점에서 가장 중요한 질문을 던진다. 'AI가 인간을 프로그래밍하는 건 아닌가'라는 물음. AI는 모순적 존재인 인간을 AI의 입맛에 맞춰 그 본질적인 모호성을 제거하려고 하고 있는 것은 아닌가 하는 생각. '과연 우리가 원하는 사회는 AI에 통제된 사회인가, 여전히 모호하지만 본질적인 가치를 지니는 인간성을 존중받는 사회인가'라는 '우리의 인간성은 어떻게 지켜져야 하는가'란 문명사적 관점의 고민이 대두된다. 

방송은 어느새 우리를 둘러싸다 못해 압도하고 있는 기계지능의 세상을 짚어보는데서 나아가 인간의 사고와 판단을 대신하는 자리에서 '신'의 자리를 넘보는 기계 지능의 존재를 점검한다.

결국 그 질문은 언제나 본질적이며 철학적이다. '인간'은 무엇인가. 데카르트의 정의처럼, 나는 생각한다, 고로 존재한다는 인간이 그 정의의 몫을 기계에게 넘겨주었을 때, 인간은 무엇인가라는 원론적인 반문이다. 일상의 익숙함이 어느덧 우리의 사고를 장악하고, 사회의 편리함이 정치를 조종할 수 있는 가공할 만한 존재 앞에 우리의 고민은 좀 더 신중해야 한다고 방송은 주문한다.