앞으로 3년 뒤, 'AI판사'가 사형을 결정하면 생기는 일

(*영화의 전개와 결말을 알 수 있는 내용이 포함되었습니다.)

"판사는 식사 전보다 식사 후에 관대하다"는 말을 법조계의 농담으로 치부할 순 없어 보인다. 2011년 이스라엘 가석방 위원회의 가석방 허가율에 관한 연구는 '배고픈 판사'의 까칠함을 입증했다. 반대로 배가 부르면 관대해졌다.

물론 '배고픈 판사'의 까칠함이 순수하게 배고픔 때문인지, 아니면 다른 요인이 작용했기 때문인지에 관한 학계의 논쟁은 해소되지 않았다. 분명한 것은 인간 재판관이 생물학적 피로나 외부 환경에 영향을 받으며 그것들 외에도 사회적 편견이나 정치적 신념 같은 '소음(Noise)'에 취약한 불완전한 존재라는 사실이다.

티무르 베크맘베토브 감독의 신작 <노 머시: 90분>은 바로 이 인간적 한계를 극복하기 위해 등장한 'AI 판사'가 사형을 결정하는 가장 극단적인 권력을 쥐었을 때 벌어지는 일을 그린다. 영화는 AI가 사법 시스템을 장악한 2029년을 배경으로, 자신과 한 팀인 AI 시스템에 의해 "무고하게" 아내 살해범으로 지목된 형사 레이븐(크리스 프랫 분)의 90분 사투를 다룬다.

'스크린라이프' 기술의 확대

<서치>를 통해 '스크린라이프(Screenlife, 스마트폰·PC 화면 등 디지털 기기의 스크린으로 장면을 구성하는 표현방식)'라는 장르를 대중에게 각인한 베크맘베토브 감독이 이번 작품에서 그 문법을 한 단계 발전시켰다.

기존의 '스크린라이프'가 노트북이나 스마트폰 화면이라는 2차원적 평면(Frame)에 갇혀 있었다면, <노 머시: 90분>은 관객을 디지털 데이터가 물리적으로 구현된 3차원의 법정으로 초대한다. 영화 속 카메라는 CCTV, 보디캠, 드론, 스마트폰 등 수십 개의 시선을 넘나든다. 현란한 볼거리를 제공하는 것을 넘어, 모든 것이 기록되고 감시당하는 2029년의 파놉티콘(원형 기둥 형태의 감옥)을 시각적으로 체험하게 만든다.

주인공 입장에 서기 마련인 관객은 레이븐과 함께 법정의 쏟아지는 데이터의 홍수 속에 갇힌다. 유죄 지수 97.5%를 가리키는 붉은 인터페이스(서로 다른 두 개 이상의 독립된 컴퓨터 시스템 구성 요소 간에 정보를 교환하는 공유 경계)와 1초씩 줄어드는 타이머는 관객에게 주인공과 동일한 수준의 압박감을 선사한다. 이러한 기술적 장치는 "데이터는 거짓말을 하지 않는다"는 영화 속 AI의 대전제가 얼마나 공포스러울 수 있는지를 피부로 느끼게 한다.

AI 판사와 최종심급

영화의 핵심 갈등은 인간 형사 '레이븐'과 AI 판사 '매독스'(레베카 퍼거슨 분)의 대립이다. 여기서 매독스는 인간의 형상을 하고 있지만(실제 배우가 연기했지만), 철저히 데이터와 확률에 입각해 판단하는 알고리즘의 의인화다.

영화 속 '머시(Mercy)' 시스템은 사법 지체와 인간의 오류를 해결하기 위해 도입됐다. 실제로 현대 법학에서도 AI를 활용한 양형 예측이나 판례 분석 논의가 활발하다. 영화는 "92%의 확률이면 합리적 의심의 여지가 없다"고 규정하고 즉각적인 사형을 집행한다.

하지만 여기서 치명적인 쟁점이 발생한다. 사법적 정의는 확률인가, 아니면 최선을 다한 확신인가? 레이븐은 데이터의 파편(CCTV, 통신기록)이 모여 만든 유죄의 맥락을 깨트리기 위해 고군분투한다. 데이터는 '사실(Fact)'의 조각일 뿐, 그 자체로 '진실(Truth)'은 아니기 때문이다. 사실이 확률로 이어진다면 진실은 확신의 문제다.

가장 논쟁적인 지점은 '누가 최종 버튼을 누르는가'이다. 영화에서 AI 판사 매독스는 인간의 개입 없이 독자적으로 사형을 선고하고 집행 명령을 내린다.

현실의 유럽연합(EU) 인공지능법(AIAct)은 사법적 판단이나 생체 정보 활용과 같은 시스템을 '고위험 AI(High-risk AI)'로 분류한다. 이 법 14조는 이러한 시스템이 자연인에 의해 효과적으로 감독될 수 있도록 설계되어야 한다고 명시하며, '인간의 개입(Human-in-the-loop)'을 필수적인 안전장치로 요구한다. AI가 내놓은 결괏값에 인간이 최종적인 검토 권한과 책임을 가짐으로써 '자동화 편향(Automation Bias)'을 방지하기 위함이다.

하지만 영화는 최소한의 안전장치조차 거세된 AI 세상이 얼마나 디스토피아인지를 말하고자 하는 듯하다. 레베카 퍼거슨이 연기한 매독스의 차가운 눈빛은 책임지지 않는 권력의 공포를 상징한다. 기계는 오류를 범할 수는 있어도, 그 오류에 대해 고뇌하거나 책임지지는 않기 때문이다.

'인간 판사는 완벽한가'

영화는 AI의 냉혹함을 비판적으로 그리기 위해 극단적인 설정을 취했지만, 역설적으로 관객은 "그렇다면 인간 판사는 완벽한가?"라는 질문을 마주하게 된다. 인간 재판관은 앞서 언급한 생리적 요인(배고픔)뿐만 아니라, 인식의 한계, 정치적 성향, 편견, 나아가 개인적 부패와 오염의 문제로부터 자유롭지 못하다. 반면 AI는 적어도 이러한 인간적 흠결에서는 자유롭다.

사법 영역의 본질이 결국 '증거(Fact) 싸움'이라면, 감정을 배제하고 방대한 데이터를 처리해 사실관계를 확정하는 데 있어서는 AI가 인간보다 훨씬 유능할 수밖에 없다. 일각에서 우려하는 '증거 조작'의 문제 역시, 증거가 완벽하게 조작되었다면 인간 판사 또한 오심을 피할 수 없다는 점에서 AI만의 결함이라 보기 어렵다. 철학적으로는 '사실(Fact)보다는 '진실(Truth)을 찾아야 하지만, 현실의 얘기는 아니다. 사실에 근거하지 않은 진실이라는 확신이 더 무서울 때도 있다.

따라서 영화는 일종의 우화로 이해해야 한다. 오히려 영화가 우리에게 던지는 건설적인 시사점은, AI 판사에 대응해 피고인을 조력할 AI 변호사를 도입하여 데이터 분석의 균형을 맞추는 사법 체계의 유효성이 아닐까.

스릴러의 외피를 쓴 철학적 질문

<노 머시: 90분>은 90분이라는 러닝타임(영화 속 시간과 실제 상영 시간이 일치하는 리얼타임 구성) 동안 관객의 도파민을 자극하는 오락 영화다. 크리스 프랫의 인간적 절박함과 레베카 퍼거슨의 기계적인 냉담함의 대비가 극의 긴장감을 팽팽하게 유지한다.

하지만 엔딩 크레딧이 올라갈 때 남는 것은 결국 질문이다. 메시지가 현실을 치받는다. 효율성을 위해 사법의 권한을 어디까지 기술에 이양할 것인가. 데이터가 보여주는 '경향성'이 한 인간의 운명을 결정짓는 '확정적 증거'가 될 수 있는가. 또는 어쩌면 편견투성이 인간보다 AI 법조인이 더 인간적일 수 있지 않은가.

실제로 영화에서 AI 판사는 더할 나위 없이 인간적이었다. 영화로 만든 윤리학이었다. 4일 개봉.

안치용 영화평론가

덧붙이는 글 이 기사는 르몽드디플로마티크에도 실립니다.

오탈자 신고

오마이스타

앞으로 3년 뒤, 'AI판사'가 사형을 결정하면 생기는 일

[안치용의 영화적 사유] <노 머시:90분>

글자 크기조절

안치용의 영화적 사유

추천 연재

패밀리사이트