제임스 카메론의 명작 SF 액션 블록버스터 <터미네이터> 시리즈를 보면, 아놀드 슈워제네거가 분한 로봇 'T-800'의 활약이 눈부시다. 1편에선 인간군 사령관의 엄마를 죽이고자 미래에서 과거로 보낸 암살 로봇으로, 2편에선 인간군 측이 포획해 사령관을 지키게끔 재프로그래밍한 로봇으로 분한다. 공통적으로, 타깃을 정해 주면 로봇이 자율적으로 임무를 수행하는 것이다.

여기서 중요한 건 로봇의 무지막지한 살상 능력도 아니고 인간과 구분하기 힘든 만큼 모든 면에서 너무 흡사하다는 점도 아니다. 로봇이 '자율'적으로 생각하고 행동하는 데 있다. 인간이 직접 조종하거나 간접적으로나마 중요한 순간에 명령을 내리지 않는다. 그렇다면 인간과 다를 게 뭔가? 오히려 인간보다 능력이 훨씬 출중하고 또 인간이라면 가질 수밖에 없는 윤리적 망설임도 없으니 가히 무적이라고 할 만하지 않은가?

넷플릭스 오리지널 시리즈 '언노운'의 두 번째 작품 <킬러 로봇>이 지금 이 순간 급격히 발전한 것도 모자라 급기야 '자율'적으로 생각하고 결정해 행동하는 AI의 필요성과 위험성을 다룬다. 조악한 로봇부터 최첨단 AI까지 필요성과 위험성은 항상 공존하며 팽팽하게 대립해 왔다. 로봇은 인간에게 필요한 존재인가 인간에게 위험한 존재인가. 급격하게 발전하는 한편 그에 준하는 제재도 따라왔다.

인간의 통제에서 벗어나고 있는 AI의 '자율'

그런데 '자율'은 차원이 다른 문제를 제기한다. 인간조차 자율이라는 단어 앞에서 수천 년에 걸친 철학·정치 논쟁을 이어오며 명확한 답을 찾지 못했는데, 하물며 점점 인간의 통제에서 벗어나고 있는 AI의 자율은 어떨까. 개인적으로는 AI에게 자율을 부여하는 게 맞는지 논쟁하는 자체가 황당무계하다고 생각하는데, 이 작품에 등장하는 옹호론자들의 생각은 다른가 보다.

작품은 자율 AI, 즉 자율 살상 무기를 옹호하는 대표 격으로 '실드 AI'라는 회사를 내세웠다. 이 회사는 자율 운행 기능을 기반으로 한 인공지능 기술로 AI 파일럿을 만들어 항공기에 장착하는 일을 한다. 인간의 불완전하고 불확실한 조종 기술이 아닌 AI의 완전하고 확실한 조종 기술을 앞세우는 것이다. 거기에 자율성을 부여하면 가히 상상할 수도 없는 가공할 능력을 발휘할 것으로 확신하고 있다.

그들은 미국과 동맹국들이 러시아와 중국을 위시한 '적국'에 비해 확고한 경쟁 우위를 갖추기 위해 AI 기반의 자율 살상 무기가 시급하다고 주장한다. 실드 AI를 세운 브랜던 쳉은 미군 네이비 실 출신으로 다양한 곳에서 특수 임무를 맡았는데, 많은 동료를 잃었다고 한다. 그때마다 로봇이 대신했다면 그런 일이 일어나지 않거나 덜 일어났을 텐데 하고 생각했고, 전역 후 실행에 옮겼다. 물론 그의 지극히 개인적인 성공 욕망도 한몫했다. 군사 방면과 결합한 AI 사업은 큰돈이 된다.

'AI'의 수익성보다 위험성, 그리고 오남용

작품은 AI의 위험성을 몸소 체험한 이의 주장도 담았다. 임상 심리학자 션 에킨스는 AI를 활용해 주목받지 못하는 질병의 치료제를 찾아내는 일을 한다. AI 덕분에 무궁무진한 가능성이 열리는데, 그간 치료할 수 없던 병도 다스릴 수 있을 정도다. 그는 어느 기관의 초청으로 AI 오남용에 관해 발표하게 되었고, 질병 치료에 쓸 치료제 관련 분자를 만들도록 지시하는 대신 세계 최고의 맹독성 분자를 만들어 봤다. 과연 결과는?

충격적이었다. AI는 하루만에 인류 역사상 독성이 가장 높은 분자라고 해도 될 만한, 일찍이 본 적 없는 것들을 수만 개 만들어냈다. 판도라의 상자를 열었다고 해도 과언이 아니었다. 아주 간단히 최악의 상황을 도출할 수 있는 기반을 마련했고, 이후에도 아주 간단히 최악의 상황에 돌입할 수 있는 것이다. AI가 자율적으로 살상 무기를 만들어낸 셈이다.

적국을 꼼짝 못하게 하려는 데 온 힘을 쓰는 이들에겐 희소식일 수 있겠으나, 상상하는 것만으로도 끔찍하기 이를 데 없다고 생각하는 대다수 사람에겐 AI의 수익성보다 위험성을 앞세우는 이들의 주장이 더 와닿는다. 하지만 분명한 건 AI의 안전성과 약점을 우선적으로 생각하는 이들의 수가 AI의 파괴력과 장점을 우선적으로 생각하는 이들보다 훨씬 적을 거라는 점이다. 이 시대는 자본주의가 대세이고 AI는 그 어떤 것보다 돈이 되며 권력도 마련해 주니 말이다.

AI는 인간의 '조력자'로서의 포지셔닝으로

그렇다고 손 놓고 있을 순 없다. AI 그리고 로봇이 강력하면 할수록 양날의 검으로 작용해 이중 용도의 문제를 일으킬 수 있다는 걸 인류가 공유하고 있다. 1975년 냉전 시대의 한복판임에도 불구하고 미국과 러시아를 위시한 전 세계는 '생화학무기금지조약'을 맺었다. 1970년에는 '핵확산금지조약'을 맺었고 1993년에는 '화학무기금지조약'을 맺었다. 이밖에도 전 인류에게 득될 게 없다고 판단한 것들을 금지하는 조약들이 수없이 많다.

하지만 군사 대국들의 군비 경쟁이 심화되고 전 세계 곳곳에서 여전히 전쟁이 끊이지 않으니, AI 기반의 최첨단 무기를 개발하는 데 여념이 없는 이들이 많다. B2C가 아닌 B2B의 개념이니 일반인이 알기 힘들지만 그 시장의 크기는 가히 상상을 초월하고 앞으로 더 커질 전망이다. 실드 AI의 브랜던 쳉은 말한다. 울타리가 필요하다는 건 알지만, 누군가가 할 일이고 자신이 할 일은 아니라고 말이다.

AI 기반의 자율 살상 무기를 누구보다 빠르게 발전시켜 실용화하려는 움직임과 제재 혹은 금지하려는 움직임이 따로 또 같이 나아간다. 그런 가운데 AI를 지휘 통제의 핵심 기술 조력자로 보는 이들도 있다. 그들은 의사 결정 구조 전체에 AI를 결합하려고 한다. 그 궁극적 저의가 AI 자율 살상 무기 옹호에 맞닿아 있을 수도 있겠지만, 나아갈 길이라고 본다.

AI 발전은 어쩔 수 없는 추세다. 인류가 나아갈 길에 필수적이라는 뜻이다. 그렇다면 어떻게 잘 이용할 수 있을지 또 잘 이용해야 할지에 초점을 맞춰야 한다. AI를 인간의 '조력자'로서 포지셔닝하는 게 맞지 싶다. 절대로 로봇에게 모든 걸 넘길 수는 없다.