큰사진보기
▲  유튜브 수퍼챗 상위 5개 채널 혐오표현 콘텐츠 모니터링 현황
ⓒ 참여사회	관련사진보기

지난 10월 29일, 축제를 즐기러 온 청년들이 거리에서 고통스럽게 삶을 마감하는 끔찍한 참사가 발생했다. 사건은 소셜미디어와 언론 등을 통해 실시간으로 빠르게 퍼져나갔다. 속보가 뜨기 시작하자 어김없이 '그들'이 현장에 나타났다. 참사 현장에 나타난 유튜버 중 한 명인 가로세로연구소의 김세의는 구급 대원들이 숨 가쁘게 구조활동을 벌이는 현장을 1시간가량 중계하고 26만 원의 수입을 벌었다.

1인 미디어 발달로 우리 사회가 사건과 이슈를 감각하는 방식이 달라졌다. '콘텐츠성'을 확보하기 위해 경쟁하는 유튜버들은 더 자극적이고 민감한 소재로 콘텐츠를 제작한다. '핫한' 사회적 사건뿐 아니라 소수자를 겨냥한 자극적인 '혐오표현' 또한 수익 창출의 단골 소재가 된다.

유튜브가 명시한 커뮤니티 가이드라인에서는 '증오심 표현 콘텐츠'를 금지한다. 인종, 성별, 성 정체성, 장애 등 혐오표현에 대한 정의와 규제 방향을 구체적으로 명시하고 있지만 거의 지켜지지 않는다. 혐오표현은 맥락과 뉘앙스를 통해 드러나기 때문에 AI로 식별하기도 어렵다. 결국 사람이 해야 하는 일인데, 유튜브 서비스를 담당하는 구글코리아는 마케팅과 광고 업무만 할 뿐, 콘텐츠를 모니터링할 부서도 인력도 없는 실정이다.

유튜브 혐오산업이 가능한 이유는 해외 디지털 플랫폼의 혐오 콘텐츠를 규제할 법적 근거가 없기 때문이다. 여기에 문제의식을 느낀 6명의 청년들은 혐오 콘텐츠 모니터 활동을 기획하고, '유튜브 감시 보고서'를 발표했다. 약 4개월 동안 유튜브 슈퍼챗 상위 5개 채널 3만3000여 개의 영상 제목과 썸네일을 확인하고, 혐오표현이 드러난 콘텐츠의 내용과 수익 현황을 파악했다. 구글 한국지부인 구글코리아와 방송통신심의위원회에 혐오 콘텐츠 규제 현황을 물었다.

청년참여연대가 확인한 혐오 콘텐츠 수익은 '빙산의 일각'에 불과하다. 제대로 된 규제가 없다면, 더 많은 혐오 콘텐츠가 생산될 것이다. 콘텐츠 제작자의 양심이나 유튜브 이용자 개인의 감수성에만 기대는 것은 한계가 있다. 혐오산업이 가능한 '판'을 깔고 수익을 창출하는 거대 플랫폼 기업에 책임을 묻는 근본적인 해결책이 필요하다. '포괄적 차별금지법'과 '온라인폭력 방지법'을 마련하고, 구글코리아와 같은 플랫폼 기업에 혐오표현 모니터링 의무를 부과할 법제도를 마련해야 한다. 온라인 혐오 콘텐츠 규제, 더 이상 미뤄선 안 된다.