'허위정보 확산'은 전 세계가 공통으로 겪고 있는 문제입니다. 국가를 가리지 않고 정치, 사회 등 다양한 분야에서 허위정보가 등장하고 있습니다. 허위정보는 개인의 명예 실추부터 사회 분열까지 다방면으로 문제를 일으킬 수 있습니다. 우리는 페이스북, 트위터 등 소셜미디어의 성장을 지켜봤습니다. 그리고 유튜브까지 등장하면서 인터넷을 통해 확산하는 정보의 양은 전과 비교가 불가능 할 정도로 늘었습니다.
디지털 플랫폼의 성장은 누구나 손쉽게 정보를 만들고, 확인할 수 있다는 장점도 있지만 허위정보가 빠르게 확산할 수 있다는 단점도 있죠. 그렇다면 다양한 디지털 플랫폼이 등장한 시대에서 우리는 어떻게 허위정보의 확산을 막을 수 있을까요?
허위정보 생산의 새로운 도구로 떠오른 인공지능
최근 들어 가장 큰 관심을 받는 키워드는 단연 '인공지능'입니다. 챗GPT(ChatGPT) 한 번쯤 써보셨죠? 선두 주자였던 오픈AI의 챗GPT 이후 구글이 바드를 공개하는 등 간편하게 이용할 수 있는 인공지능 기술이 연달아 발표되고 있습니다. 이런 기술을 사용하다 보면 자연스레 '기술의 발전이 내 삶에 영향을 끼칠 수 있겠다'는 생각이 듭니다.
하지만 기술의 발전이 늘 긍정적인 방향으로만 흘러가진 않죠. 인공지능 기술도 마찬가지입니다. 올해 3월 트럼프 전 미국 대통령이 맨해튼에서 경찰에게 체포되는 이미지가 트위터를 통해 퍼졌습니다. 이미지 속 특유의 머리카락 모양과 익살스러운 표정은 누가 봐도 트럼프 전 대통령이라고 믿게 했는데요. 여러 곳에 퍼진 이미지의 시작은 디지털 자료 분석단체 '벨링캣'의 창립자
엘리엇 히긴스의 트윗이었습니다. 히긴스는 인공지능 이미지 생성 툴 '미드저니'를 통해 이 이미지를 만들었다고 밝혔습니다.
인공지능이 만든 이미지로 허위정보가 확산된 비슷한 사례는 연이어 나왔습니다. 올해 5월 트위터에서 미국 국방성의 본청 청사 '펜타곤'에 대형 폭발이 있었다는 정보가 이미지와 함께 올라왔는데요. '블룸버그 피드(Bloomberg feed)'라는 계정에 올라온 이 트윗도 얼마 지나지 않아 AI로 제작된 이미지에 허위정보가 추가된 것으로 밝혀졌습니다. 미국의 극우 집단 '프라우드 보이즈(Proud Boys)'를 분석해 관련 서적을 쓴 작가 앤디 캠벨은
본인의 트위터를 통해 해당 트윗이 언론사 '블룸버그(Bloomberg)'를 사칭한 계정의 허위정보임을 지적했습니다.
이뿐만 아니라
'AI가 저널리즘을 대체할 수 있을까요?'를 보면 미국의 정보통신 전문 매체 씨넷도 AI를 활용하는 과정에서 문제를 일으켰는데요. 씨넷은 이용자에게 별도의 공지 없이 AI를 활용해 기사를 작성했습니다.
하지만 AI를 활용해 작성한 기사에 허위 정보가 들어가 있었음에도 이를 알아차리지 못했습니다. 악의가 있던 것은 아니었지만 결국 한 달이 지나서야 77개의 기사에 허위 정보가 포함됐음을 인정하고 이를 바로잡았죠.
새로운 기술이 허위정보 생산의 도구가 된다면?
앞서 살펴본 내용은 인공지능이 허위정보 확산에 악용될 경우 발생할 수 있는 문제의 단편적 예시입니다. 이런 단편적 예시를 보면 조금 더 복잡한 방식으로도 악용할 수 있다고 추정할 수 있죠. 쉽게 토론할 수 있는 사례를 들어보겠습니다.
지난 2020년 MBN은 딥페이크 기술을 활용해 김주하 앵커의 AI를 개발해 뉴스에 도입했습니다.
기술이 적용된 영상을 보면 김 앵커의 목소리까지 더해져 큰 어색함을 느낄 수 없습니다. 물론 아직까진 사람과 차이가 있다는 것은 인지할 수 있는 수준이지만 기술이 더 발전된다면 격차가 좁혀질 수 있겠죠.
지난 제20대 대통령 선거에서 등장했던 윤석열 국민의힘 후보, 이재명 더불어민주당 후보의 AI도 유사합니다. 뉴스 앵커, 정치인이 말하는 모습을 인공지능으로 구현할 수 있는 상황입니다.
MBN 이혁근 기자가 2021년에 작성한 논문
'AI 앵커에 대한 시청자 반응 연구: 인간 앵커와 AI 앵커의 비교 실험을 중심으로'를 보면 AI 뉴스 제작 과정을 확인할 수 있는데요. 아직까진 "사람이 뉴스 원고를 입력하면 소프트웨어가 해당 원고를 읽는 AI 앵커 영상을 합성해내는 방식"이라고 합니다. 이 방식을 악용한다면 어떻게 될까요?
유튜브에서 자극적인 제목과 이미지로 허위정보를 전달하는 영상 한 번쯤 보셨을 텐데요. 이런 영상들은 주로 텍스트를 음성으로 변환해 주는 TTS(Text to Speech)를 이용합니다. 대부분 기본적인 툴을 이용하기 때문에 사람이 직접 녹음한 목소리가 아니라는 걸 쉽게 알아차릴 수 있습니다. 사람이 직접 등장하지 않기 때문에 영상을 보면서 정보를 의심하기도 비교적 쉽겠죠.
하지만 앞서 언급한 딥페이크 기술을 활용한 뉴스 앵커, 정치인의 AI가 등장하면 상황이 달라집니다. 실존 인물인 뉴스 앵커의 얼굴과 목소리로 뉴스 형식을 갖춰 전달한다면, 유력 정치인이 자신의 주장을 펼치듯 정보를 전달한다면 의심의 수준이 낮아질 수 있습니다. 메시지를 전달하는 사람에 따라 정보의 신뢰도가 높아질 수 있기 때문이죠. 이처럼 기술이 발전해 더 정교한 묘사가 가능해진다면 허위정보 확산의 우려는 더 커질 겁니다.
지금 필요한 건 '확신하기 전에 확인하는 습관'
그렇다면 우리는 허위정보 해결을 위해 확산 경로를 차단해야 할까요? 다양한 대비책을 마련해야겠지만 수많은 이용자가 다양한 플랫폼을 활용해 정보를 만드는 환경에서 확산을 막는 것은 불가능합니다. 그렇다면 우리는 기술의 발전이 만들어 낸 허위정보를 방치할 수밖에 없을까요? 그렇지 않습니다. 정보 확산을 막을 순 없어도 정보를 받아들이는 과정에서 해결책을 찾을 수 있기 때문입니다.
허위정보의 위협에 대한 대응은 정보를 곧이곧대로 믿지 않는 것에서부터 시작합니다. 수많은 정보 중 근거 자료가 확실한 정보만 받아들인다면 우리는 허위정보의 위협에서 조금이나마 자유로울 수 있습니다. 결국 '확신하기 전에 확인하는 습관'이 필요한 셈이죠. 더 많은 시민이 확신하기 전에 확인하는 습관을 지니고 있다면 객관적인 근거가 없는 허위정보가 확산되더라도 피해를 줄일 수 있습니다.
그래서 누군가의 발언 혹은 널리 확산된 정보를 객관적인 자료로 검증해 사실여부를 가리는 '팩트체크'는 허위정보를 해결하는 효과적인 방법이 될 수 있습니다. 물론 팩트체크는 허위정보를 뿌리 뽑을 수 있는 만능열쇠는 아닙니다. 하지만 팩트체크를 수행하다 보면 자연스레 정보를 끊임없이 의심하고, 사실인지 확인하며 근거가 있는 정보를 받아들이게 됩니다. 이를 통해 검증된 정보의 확산이 이뤄질 수 있습니다.
또한 팩트체크는 단순히 허위정보를 검증해 거짓을 밝혀내는 활동에서 그치지 않습니다. 팩트체커는 정보를 검증하는 과정에서 사실은 무엇인지, 우리는 어떻게 사실을 확인할 수 있는지를 함께 고민하게 됩니다. 사실 여부를 결정하는 최종 판정 단계에선 선입견을 배제하고 객관적인 근거를 바탕으로 정보를 바라보는 냉철함을 얻기도 합니다. 그런 의미에서 '팩트체크'는 단순한 정보검증 활동을 넘어 '디지털 시대를 살아가는 시민의 필수역량'입니다.
우리에겐 더 많은 '시민팩트체커'가 필요합니다
정리해 보면 허위정보는 '바이러스', 팩트체크는 '백신'과 같습니다. 우리는 바이러스와 백신의 관계를 코로나19 시기의 경험으로 이해하고 있습니다. 허위정보라는 바이러스는 박멸되기 어렵고, 큰 위험을 만듭니다. 하지만 팩트체크라는 백신이 있다면 바이러스를 척결할 순 없어도 위험을 예방하고, 스스로를 보호할 수 있습니다. 더 많은 시민이 백신을 접종할 때 바이러스의 위협이 현저히 줄어드는 것도 마찬가지입니다.
그래서 우리는 더 많은 시민 참여 팩트체크가 필요합니다. 단순하게는 검증이 필요한 정보를 제보하는 것부터 조금 더 깊게 들어가 정보를 직접 검증하는 것까지 팩트체크의 모든 과정에서 시민의 역할이 필요합니다. 다양한 분야의 수많은 허위정보를 검증하기 위해선 다양한 팩트체커가 모여야 합니다.
물론 정보를 검증하는 과정은 쉽지 않고, 큰 노력이 필요합니다. 다양한 분야에서 등장하는 수많은 허위정보를 혼자서 검증하기엔 벅찹니다. 그래서 시민팩트체커의 협업이 중요합니다. 2021년 11월에 오픈 팩트체크 플랫폼 '팩트체크넷' 1주년 토론회
"객체에서 주체로 - 시민과 함께하는 팩트체크의 의미"에서 나온 협업 경험이 이를 증명합니다.
구현정 시민팩트체커는 활동과정을 돌아보며 "처음에 개인적으로 팩트체크 할 때는 배운대로 하면서도 판정을 내릴 때 움츠러들었는데 다른 시민 팩트체커들과 협업하면서 마음이 편해졌다", "여러 사람이 정보를 더하다 보니 내 눈에 안보이던 것도 볼 수 있게 됐고 최종 결론을 내릴 때 책임감도 나눌 수 있었다"라고 설명했습니다.
이제 모든 시민이 팩트체커가 될 때입니다.
'시민팩트체커 협업 그룹'은 시민 참여 팩트체크를 통해 더 나은 사회를 만들어 가고자 합니다. 팩트체크가 무엇인지 궁금하다면, 함께 팩트체크에 도전해보고 싶다면 시민팩트체커 협업 그룹에 참여해보세요. 시민 협업 팩트체크 결과물은 시민팩트체커 협업 그룹과 '디지털 시민광장' 캠페인즈를 통해 더 많은 시민에게 전달할 예정입니다. 앞으로 이 여정에 어떤 일들이 있을지는 알 수 없습니다. 하지만 시민 참여 팩트체크가 확산될 때 우리는 더 나은 세상을 마주하게 될 것입니다. 우리에겐 더 많은 시민팩트체커가 필요합니다. 시민 참여 팩트체크가 더 나은 세상을 만드는 여정에 함께해 주세요.
덧붙이는 글 | 글쓴이 바다는 사회적협동조합 빠띠 활동가입니다.