| 이 기사는 청년참여연대 2023 바위치기 캠페인에서 제작한 뉴스 콘텐츠로, 시리즈 연재물 입니다. 총 세 편의 글이 연재될 예정입니다.[편집자말] |
혐오콘텐츠 규제 방식은 '자율규제'
'혐오표현'이란 무엇일까?
2021년 국가인권위원회에서 발표한 <혐오표현 리포트>에 따르면 혐오표현은 성별, 장애, 종교, 나이, 출신지역, 인종, 성적지향 등을 이유로 어떤 개인·집단에게 ①모욕, 비하, 멸시, 위협 또는 ②차별·폭력의 선전과 선동을 함으로써 차별을 정당화·조장·강화하는 효과를 갖는 것이다.
혐오표현은 욕설, 비난, 음란 발언과는 구분된다. 혐오표현은 욕설과 같은 뚜렷한 모습을 갖고 있지 않기 때문에 유동적이며, 맥락 속에서 드러난다는 특징을 갖는다.
혐오표현이 '맥락' 속에서 드러난다는 특징은 온라인 환경 속에서 특히 불리하게 작동한다. 명백한 욕설이 아니니 '이 정도는 괜찮다' 혹은 '이게 왜 혐오표현인가' 하고 다양한 해석의 여지를 남겨두기 때문이다. 그렇기에 혐오콘텐츠를 규제하는 작업은 까다로울 수밖에 없다.
상황이 이렇다 보니 소셜미디어 플랫폼 내 혐오콘텐츠 규제는 법적 규제가 아닌, 이용자와 기업의 협업으로 규제하는 '자율규제' 형식으로 이루어진다. 자율규제란 이용자가 문제 콘텐츠를 신고하고 기업이 삭제 조치를 하는 시스템이다. 다만 이러한 시스템에는 큰 허점이 있다. 우선 기업 내 자체 가이드라인의 규정이 모호하며, 모니터링 활동을 AI가 하기에 혐오표현의 맥락을 완전히 파악하기 어렵다.
유튜브로 살펴보는 자율규제 현황
국내에서 가장 활성화된 소셜 미디어 플랫폼 중 유튜브의 사례만 봐도 혐오콘텐츠 관리와 모니터링이 허술하다는 점을 알 수 있다. 국내 유튜브 콘텐츠를 관리하고 모니터링하는 기업으로 '구글코리아'를 자연스럽게 떠올릴 것이다.
그러나 지난 2022년 11월, 청년참여연대에서 발표한 <유튜브 감시 보고서>에 따르면 구글코리아는 광고마케팅, 세일즈 업무만 담당할 뿐, 유튜브 콘텐츠를 관리·모니터링하는 부서가 없다. 유튜브 업무와 관련해서는 국가기관과 소통을 담당하는 대외정책협력 역할만 있는데, 이마저도 1인이 혼자 담당할 뿐이다.
혐오콘텐츠 관리나 규제를 강제하는 국내법이 없다 보니 이에 대응하는 해외 플랫폼 기업의 태도 또한 불성실한 모습이다. 앞서 2022년 10월 21일, 국회 과학기술정보방송통신위원회에서 당시 이슈가 되었던 '망사용법' 관련 질의를 위해 김경훈 구글코리아 사장을 증인으로 세웠다. '유튜브 국내 이용자 가입 수', '국내 매출액 수' 등 기본적인 현황을 질의했으나 김경훈 구글코리아 사장은 위 같은 질문에 "확인해 보겠다", "잘 알지 못한다" 등 모르쇠로 일관했다.
해외 플랫폼 기업 내 혐오콘텐츠 방치하는 정부기관 현황
해외 플랫폼 기업 내 혐오콘텐츠 방치 문제에는 정부도 기여하고 있다. 정부에서는 방송의 공공성과 공정성을 보장하고 통신의 건전한 문화를 위해 방송통신심의위원회(이하 방심위)를 설치했다. 그러나 방심위에서는 유튜브에 대한 혐오콘텐츠 모니터링을 사실상 하고 있지 않다.
▲ <표1> 차별·혐오표현 콘텐츠 시정요청 현황 출처 = 청년참여연대 <유튜브 감시 보고서> 2022.11 ⓒ 참여연대
청년참여연대의 유튜브 감시보고서를 확인한 결과 방심위가 2021년부터 2022년 6월까지 유튜브에 시정요청한 전체 건수는 2676건으로 집계 됐다. 그중 혐오·차별 콘텐츠를 시정요청한 건수는 6건에 불과했다. 2676건 중 고작 6건에 불과했던 것이다.
이는 비단 유튜브만의 문제가 아니었다. 방심위가 페이스북, 인스타그램, 트위터 등 시정요청 건수는 각각 1579 / 3624 / 3만5503건을 기록했지만 혐오·차별 콘텐츠를 시정요청한 건수는 각각 1, 2, 5건을 기록했다.
구글 한국지부를 담당하는 구글코리아에 유튜브 담당이 없고, 관련 현황도 파악하지 않고 있다면, 혐오콘텐츠 모니터링과 규제, 즉 '자율규제'는 도대체 어디서 이뤄지고 있는 것일까?
'자유'는 자격이 있는 대상에게 주어지는 것
올바른 '자유'를 위해 온라인 혐오산업 규제법 마련해야
기업과 정부가 '자율규제'라는 명목하에 혐오콘텐츠를 방치하는데 피해는 오롯이 국민들이 받고 있다. 하루빨리 정부는 문제를 해결하기 위해 제재를 가해야 한다. 이번 10월 10일부터 10월 27일까지 18일간 과학기술정보방송통신위원회 소관 국정감사가 이뤄진다. 이번 국정감사에 구글코리아의 출석 여부는 확인되지 않은 상황이다.
과연 구글코리아는 작년과 다른 태도로 임할 것인가? 이러한 질문에 기대가 들지 않는다. 해외 플랫폼 기업 입장에서 한국의 혐오콘텐츠로 인한 영향, 상황 등에 신경을 쓸 이유가 없기 때문이다. 구글, 유튜브, 메타, 엑스(구 트위터)와 같은 해외 플랫폼 기업의 혐오산업을 규제할 수 있는 근거법이 만들어지지 않는 한, 국내 이용자들의 보호 조치에 관심을 기울이지 않을 것이다.
이용자와 기업, 정부의 3주체로 자율규제가 제대로 이뤄지기 위해서는 기울어진 권력의 장을 바로 세워야 한다. 기본적인 정보 수집이나 혐오콘텐츠 유통, 관리 현황을 알 수 있도록 하고 혐오산업을 규제하기 위한 최소한의 규제를 명시하는 근거법이 만들어져야 한다.
- 이 기사는 생나무글입니다
- 생나무글이란 시민기자가 송고한 글 중에서 정식기사로 채택되지 않은 글입니다.
- 생나무글에 대한 모든 책임은 글쓴이에게 있습니다.
