올해 초 AI업계에서 화제가 됐던 뉴스 한 토막이 있다. OpenAI가 공개한 자료에 따르면 GPT-4가 제 과제를 수행하는 과정에서 인간을 고용하고, 심지어 고용하는 과정에서 거짓말을 한 사실이 확인된 것이다.
 
GPT-4는 TaskRabbit이라 불리는 서비스를 통해 사람을 고용했다. 인간 관점에서 과제가 너무 쉽다고 느낀 사람은 GPT-4에게 농담을 섞어 '너 혹시 로봇이냐?'고 묻는다. 이때 GPT-4가 한 답변이 놀랍다. 그는 자신이 로봇임을 밝히지 않기 위하여 합당한 거짓말을 생각해낸다. 자신이 시각장애인이어서 이미지를 맞추는 과제를 해낼 수 없다고 한 것이다. 사람은 이를 믿고 과제를 수행했고, 이 사실이 공개되며 파문이 인 것이다.
 
물론 GPT-4의 행동기준을 작성할 때 거짓을 말할 수 없게끔 하는 제한을 철저히 마련할 수는 있겠으나, 기준의 우회가 가능하다면 인공지능은 얼마든지 목적을 위해 인간을 속일 수 있다는 사실이 확인된 것이라 해도 좋겠다.
   
로봇과 인간은 얼마만큼 닮았을까
 
<닥터 후> 일곱 번째 시즌 가운데서도 로봇과 인간의 경계를 생각하게 하는 에피소드가 등장한다. 열 번째 에피소드인 '타디스 중심으로의 여행(Journey to the Center of the TARDIS)'이 바로 그 회차다.
 
언제나처럼 이야기는 닥터(맷 스미스 분)와 컴패니언인 클라라(제나 콜먼 분)에게 위기가 닥치며 시작한다. 마음과 의지가 있는 우주선 타디스가 클라라를 싫어하는 것이 불편한 닥터가 타디스의 보호막을 일시적으로 해제해 클라라가 조종을 해보도록 한 것이다. 그런데 일이 꼬이려는지, 지나가던 우주고물상들이 타디스를 쓸모 있는 물건으로 여기고 다가와 우주선을 잡아챈다. 순식간에 타디스는 고물상들이 조종하는 우주선에 고물들과 함께 잡힌 신세가 된다.
 
보호막이 해제된 타디스는 큰 손상을 입는다. 닥터는 우주선 밖으로 튕겨나왔지만, 클라라는 타디스 안 어딘가에서 의식을 잃고 쓰러져 있다. 닥터는 고물상들을 설득해 타디스 안에서 클라라를 찾아 나선다.
 
선한 로봇과 악한 인간의 대비

흥미로운 건 고물상 가운데 있는 로봇이다. 고물상 우주선엔 인간과 로봇이 섞여서 일한다. 로봇이 일하고 사람들과 어울리는 모습을 보면 그에게도 생각과 의지가 있는 것이 분명한데, 사람들은 그가 로봇이라는 이유로 저들과 다르게 취급한다. 그러나 로봇은 상처받지 않고 제 일을 묵묵히 해나가는 것이다.

이야기가 진행될수록 사람들과 로봇의 관계는 흥미롭게 그려진다. 사람들은 타디스 안에서 돈이 될 만한 물건들을 발견하고는 눈이 뒤집히기 시작한다. 첨단 기술이 담긴 물건을 해체해 가방에 담고, 타디스를 해치는 일까지 서슴없이 벌이려 든다.

반면 로봇은 다르다. 그는 본래 목적인 클라라를 수색해 살리는데 집중하고, 제때 도착하지 못해 클라라가 혹시 다치지는 않을까를 걱정한다. 그밖에도 그는 다른 인간들보다 훨씬 선하고 남을 위하는 모습으로 그려진다.
   
선해질 수 있다면 악해질 수도 있다
 
이 같은 설정은 AI가 인간이 맡아온 업무 상당부분을 이미 소화하고 있고, 앞으로는 그 영역을 급격하게 늘릴 것이며, 앞서 언급한 사례에서와 같이 인간을 속이는 결정까지 내릴 수 있다는 사실을 감안하면 상당한 의미가 있다. 에피소드에서 등장한 로봇은 인간보다 더욱 선하게 그려져 다른 인간들의 욕심이며 이기심을 부끄럽게 하지만, 바로 이 점 때문에 로봇이 가진 또 다른 가능성을 떠올리게 되는 것이다.
 
말하자면 로봇이 선해질 수 있다면 꼭 그만큼 악해질 수도 있는 것이다. 살아있는 개체의 특성이라 여겨져 온 선을 로봇이 갖는 게 가능하다면, 악 역시 가질 수 있다. 그렇다면 인간과 로봇을 가름하는 기준이란 무엇이 남겠는가. 어쩌면 이미 그 기준의 상당부분은 우리가 알아차리지도 못한 채 함락당한 것일지도 모르겠다.
 
이따금 용돈 벌이 삼아서 글쓰기를 가르칠 때가 있다. 한 번은 어느 고등학생의 논술을 지도하게 되었는데, 부모의 의지며 의욕과는 달리 수업에 특별한 열의가 없는 듯했다. 몇 번의 수업이 끝나고 언제나처럼 숙제로 써온 글을 제출해야 할 때였다. 그가 내민 글은 평소보다 훨씬 진전된 내용과 치밀한 논리를 담고 있었고, 문장도 평소와는 사뭇 달랐다. 나는 이것이 그가 쓴 것이 맞느냐를 의심하여 추궁한 끝에 그가 나를 속였음을 알았다. 그는 당시 화제가 된 인공지능 서비스를 이용해 글을 써온 것이었다.
 
나는 학생이 나를 속이고 인공지능의 힘을 빌려 제 과제를 한 행위가 첫머리에서 소개한 것과 너무나 닮아 있다고 여긴다. 로봇이 인간을 속이고 인간을 고용하여 제 과제를 수행한 것과 인간이 인간을 속이고 로봇을 고용해 제 과제를 해온 것이 말이다. 나는 이제 로봇과 인간이 너무나 닮아서 내 능력으로는 구분할 수 없는 것이 아닌가, 그런 생각에 이르고 만다. 이로부터 열릴, 어쩌면 의식하지 못하는 동안 이미 열려버린 세상이 우리를 어디로 이끌는지 나는 이를 조금의 설렘과 얼마만큼인지 알 수 없는 두려움이 뒤섞인 심정으로 바라본다.