[혐오 사회] 30일 이른 아침 「긴급 대응령」발동 호흡한 네이바·카카오의 12시간
입력 2022.11.02.오전 6시 수정 2022.11.02. 오전 6시 02분
최·백합 기자
유해 투고 대응 조직 긴급 대응, 차단 후의 이의 제기
계접수된 투고 노출 차단
작성자 서비스 제한 조치도
편집자
사상자 307명, 사망 155명, 「이태원 참사」로 모토쿠니민이 큰 충격을 받은 이 때, 헴크는 「혐오」가 다시 꿈을 꾸고 있다.종류도 종류도 다양하다.정부가 피해자 지원 방침을 내면, 「춤추어 놀러 가서 샀지만, 왜 내가 낸 세금을 사용하는 것인가」라고 하는 반응으로부터, 「단체에 나온 중국인이 눌렀다」라고 하는 근거가 없는 의혹과 인종·성별의 분열이 일어난다.
혐오 투고에는 가해자나 피해자도 존재하지 않는다.가해자는 다른 혐오 가해자에 의해서 피해자에게 전락해, 전염병과 같이 일순간으로 퍼진다.결국 이것을 막을 수 있는 것은 한국 사회의 심야 노력 뿐이다.
참사 이후숨을 자른 우리의 이틀을 되돌아 보고 혐오 사회를 빠져 나가고, 우리가 어디에 가야할 것인가를 조사했다.
이태원 대형 압사 참사에 의한 국가 애도 기간이 계속 되고 있는 1일, 서울 용산구 이태원 참사 현장에 경찰 병력이 출입을 통제하고 있다.
「할로윈 파티가 진행중의 이태원에서 압사 사고가 발생했습니다.선정적인 영상, 사진은 물론, 악의가 있는 소문, 혐오 발언등이 예상되기 때문에, 모두 모니터링 강화 바랍니다.」
30일 이른 아침 「긴급 대응령」발동
365일 24시간 신고 접수된 투고를 보고 조치한다.평상시 같으면, 유해한 투고자에게 이의를 제기하는 사람이 많지만, 새벽의 시간이라고 신고 건수도 많지 않다.인공지능(AI)으로 필터링 할 수 있는 이미지에는, 지극히 선정적 또는 포르노에 준하는 투고가 대부분이다.
29 히마 한밤중에 이태원(이태원) 압모든 일 고 관련의 뉴스가 하나 둘 전해졌다.사고에 관해서 확인되어 있지 않은 사실이 퍼지는 일도 원천을 차단하는 것은 불가능했다.방송 회사도 현장에 있는 시민들의 전화 인터뷰를 여과 없게 내고 있던 상황이 계속 되었다.
현지의 상황을 잘 모르는 이용자가 피해자에게 향해서 독설을 따르기 시작해, 다시 이것을 반론하는 문장이 계속 되어 「혐오」와「증오」, 세대·성별간의 갈등을 조장 하는 악성의 코멘트까지 등장해, 상황은 걸을 수 없는 만큼 커졌다.
유해 투고를 관리하는 네이바 이용자 보호 파트와 카카오 모니터링 전임 팀은 긴급 대응령을 발동시켰다.이 사태와 같이 사회적 파장이 크고 2차 피해가 염려되는 경우, 긴급 대응에 들어간다.
이번 긴박한 상황이 계속 된 30일 새벽녘, 모자이크나 애매하게 해 처리등의 조치를 하고 있지 않는 현장 사진이나 영상, 사고에 관해서 확인되지 않았던 사실등이 온라인상에서 급속히 퍼지면서 모니터링을 실시하는 2사의 사원은 한층 더 바빠졌다.매일 영상을 차단하고 이용자가 볼 수 없게 숨기는 것을 해야 했다.
30일 정오 「이태원 사태」긴급 공지 후, 유해 투고 집중 차단
30일 정오 네이바와 카카오는 이태원 사태 긴급 대응령발동 12시간에 게시문 관련의 긴급 공지를 올렸다.참사 현장의 사진, 영상을 최대한 삼가해 허위의 사실등의 유포를 중단해 주었으면 한다고 하는 권고 사항을 게시했다.이후 따라지는 신고건을 처리해, 검색, 기획, 사업 팀 등 관련 기관을 총동원해 유해한 투고를 찾아내 블록하기 시작했다.선정적인 사진과 영상은 하나 둘씩 자취를 싸, 혐오와 미움을 담은 코멘트는 숨겨졌다.
네이바는 모니터링 전임 팀과 긴급 신고 센터에서 유해 투고 대응을 담당하고 있다.
유해한 투고에 의한 피해를 최소한으로 억제하기 위해서 보고가 들어가면, 감시 후에 그 투고를 블록 해, 다음에 작성자에게 이의를 제기한다.음란 투고에 대해서는 리얼타임에 이미지를 감지하고 노출을 막는 AI기술 「X-eye」를 적용중이다.
이태원 참사 후, 네이바는 투고 모니터링을 강화하고 있다.지난 30일부터 카페, 브로그 등 커뮤니티 통지를 통해서 약관에 위반하는 컨텐츠는 신고 수속을 통해서 처리하도록(듯이) 안내하고 있다.
카카오, 「오픈 채팅」도 노출을 블록
보고 누적시에 유저 ID를 정지
카카오는 이용자 보호 파트를 중심으로 대응중이다.
평상시는 유선, 온라인으로 신고한 후에 대응하지만, 이번 사태와 같이 중대한 문제가 발생하면 액티브 모니터 링에 돌입한다.보고를 받은 투고는 노출을 블록 합니다.특정의 투고나 코멘트 뿐만이 아니라, 문제 컨텐츠를 무분별하게 공유한 카카오 토크 오픈 채팅도 검색 결과에 노출하지 않는 등 조치 대상이 된다.
코멘트의 경우, 신고가 없어도 운영 정책에 위반했을 경우, 「세이프 보트」의 인공지능(AI) 기술로 분석해 블라인드 처리한다.
신고가 누적되는 경우, 해당 게시물을 준 이용자에 대해서도 조치를 실시한다.카카오 토크에서는, 친구 리스트로부터 검색 및 노출 제한으로부터 메세지 전송 제한, 대화방 이용 제한, 서비스 전체 이용 제한까지 일시적·영구적으로 가능하다.다음에, ID를 한때 또는 영구히 정지할 수 있습니다.
카카오 관계자는 「이용자 보호 파트와 제휴 부서가 주말부터 긴급 대응에 들어갔다」라고 해 「모니터링을 강화하는 한편, 외부 기관과 협업해 컨텐츠 규제 가이드 라인 등 이용자 보호 정책을 만들고 있다」라고 이야기했다.
Facebook, Twitter 등 주요 SNS도 대응에 나섰다.Twitter는, 기계 학습등을 이용해 운영 원칙에 위반하는 컨텐츠를 식별·삭제하고 있다.악의가 있는 투고에 대한 신고를 받아 해당 컨텐츠를 감시하는 Twitter 운영 원칙 시행 팀을 운영중이다.Facebook도 독자적인 가이드 라인과 악용 사례 신고 채널을 통해서 조치하고 있다.
(주) 예의 같게 퇴고가 충분하지 않기 때문에, 적당 다시 정리하고 있습니다.
