소셜 미디어 시장의 성장이 지속되고 있는 가운데, 이용자들의 디지털 이용에 대한 종합적인 대책 마련 필요성이 제기되고 있다. 실제 정보통신정책연구원(KISDI)이 한국미디어패널조사의 SNS 이용행태 조사결과를 분석한 바에 따르면, 전체 응답자 중 SNS 이용률은 2020년 52.4%에서 2021년 55.1%, 2022년 57.6%로 꾸준한 증가 추세를 보이고 있다. 주요 소셜 미디어 기업들은 신규 유입 증가 및 커뮤니티 확장에 따라 이용자의 온라인 범죄 인식 강화를 위한 제도 구축 및 자극적인 유해 콘텐츠 노출 차단 시스템 고도화 등 안전한 플랫폼 생태계 조성을 위해 발빠르게 대응하고 있다.
▲소셜 라이브 플랫폼 ‘하쿠나 라이브’, 이용자 보호를 위한 가이드라인 및 AI 기술 적용
글로벌 영상 기술 기업 하이퍼커넥트는 자사의 소셜 라이브 플랫폼 ‘하쿠나 라이브(이하 하쿠나)’ 내에 이용자의 안전을 위해 하쿠나 커뮤니티 가이드라인을 보완하고 AI 기술을 활용한 실시간 모니터링 시스템을 통해 유해 콘텐츠 차단에 힘쓰고 있다.
하쿠나는 지난 3월 ‘하쿠나 헬프센터'를 개편하고 ▲온라인 괴롭힘 및 그루밍 대응 가이드 ▲하쿠나 이용 시 발생할 수 있는 안전 문제 예방을 위한 가이드 등 이용자의 쾌적한 플랫폼 이용을 위한 제도적 방침을 발표했다. 하쿠나 서비스를 이용하는 모든 이용자의 안전한 라이브 스트리밍 환경을 위해 호스트, 게스트, 시청자 입장에서 유해 콘텐츠 대응 가이드를 세분화하여 제시했으며, 특히 온라인에서 발생할 수 있는 괴롭힘, 그루밍 행위가 범죄에 해당함을 인지할 수 있도록 사례 중심의 설명을 제공했다. 가이드라인 뿐만 아니라 법률적인 관리 감독 체계도 갖췄다. 하쿠나는 2021년도부터 법조계 출신 전문가들로 구성된 ‘커뮤니티 안전 감독 위원회’를 내부적으로 운영하며 서비스 관련 신고, 수사기관 또는 사법기관 협조 현황, 서비스 등을 수시 관리 감독 및 점검해 커뮤니티 환경을 개선하고 있다.
하쿠나는 최근 하쿠나 2.0 대규모 업데이트를 진행하는 등 기술적 안전 장치를 마련해 이용자가 건강한 소통 경험에 집중할 수 있도록 실시간 대응 체계를 구축하고 있다. 유해 음성, 채팅 콘텐츠 차단을 위해 실시간 인공지능(AI) 모니터링 시스템을 운영하고 있으며, 24시간 모니터링 인력 및 신고 시스템을 동원해 이용자들의 요청에 신속하게 대응하고 있다. 또한 모니터링하는 항목 및 위반 콘텐츠에 따른 제재 방안을 상세하게 설명하며 신뢰할 수 있는 안전한 플랫폼 운영을 강조했다.
하이퍼커넥트 관계자는 “서비스 운영 기업으로서 디지털 위법 행위를 예방하기 위해 법제적 차원의 해결책 마련에 앞서 자발적인 대응책을 준비해야 한다는 책임감을 인지하고 있다”며 “앞으로도 이용자들이 하쿠나를 안전하고 건강하게 즐길 수 있도록 제도적, 기술적 장치를 지속 강화해나갈 방침이다”라고 말했다
▲ 틱톡, 이용자 보호 정책 수립 및 전문가 협력 통해 유해 콘텐츠 대응
틱톡은 지난 3월 유엔 등 전 세계 100개 이상의 기관과 커뮤니티 구성원들의 의견을 반영해 통합 가이드라인을 개정했다. 강화된 가이드라인 내에는 ▲딥페이크(deepfake·합성 조작) 콘텐츠 심사 강화 ▲증오발언 및 증오행위 제재 기준 확대 등 플랫폼 내에서 새로운 형태로 발생하고 있는 유해 콘텐츠를 제재하기 위한 목적으로 마련된 제도가 포함되었다. AI 기술을 통해 생성된 합성 미디어 콘텐츠에 대한 심사 가이드라인을 강화함으로써 최근 사회적 문제로 대두된 불법 딥페이크 콘텐츠를 제한하겠다는 것이다. 이어 틱톡은 온라인 괴롭힘과 혐오표현으로부터 이용자가 안전한 환경을 구축하기 위해 플랫폼에서 벌어지는 증오 발언 및 혐오 행위에 대한 보호 대상을 확장하였다. 기준에 적합하지 않은 콘텐츠와 이를 게재한 이용자에게는 콘텐츠 삭제 등 위반 수위에 따라 상응하는 조치를 적용한다. 이 외에도 틱톡은 글로벌 차원에서의 업계 전반 다양한 전문가, NGO, 국제기구 등과의 협력을 통해 커뮤니티 안전 대책을 강화하고 있다.
▲ 제페토·이프랜드, 윤리적 기술 고도화로 이용자가 안전하게 놀 수 있는 메타버스 조성
비대면 교류 트렌드로 주목되는 메타버스 업계도 안전한 커뮤니티 환경을 조성하기 위해 노력하고 있다. 네이버제트의 ‘제페토’는 지난 3월 개최된 ‘GDC 2023(Game Developers Conference 2023)’를 통해 건강한 커뮤니티 형성을 위해서는 이용자의 주체적 참여와 유해 콘텐츠에 대한 신속한 대처 및 교육에 주목해야 한다고 강조했다. 이와 관련해 네이버제트는 국제 디지털 안문 자문 단체인 ‘인호프’(INHOPE)와의 파트너십을 체결을 발표했다. 독립적인 운영 체제의 자문에 따라 글로벌 표준에 맞는 정책과 기술을 도입하고, 플랫폼 내 차별 행위 예방을 위한 모니터링 기술 고도화, 신고 핫라인 구축 등의 방식으로 협력하고 있다.
SKT 텔레콤 메타버스 플랫폼 ‘이프랜드’는 최근 플랫폼 내에서 비도덕적인 행위를 방지할 수 있도록 모니터링 기능을 강화했다. 24시간 모니터링을 통해 신고에 대한 즉각 대응 시스템을 갖춘 것이다. 이를 통해 신고 내용에 대한 폭력 수준에 따라 강제탈퇴, 활동 정지 등 단계별 제재를 진행하며 사용자의 안전한 메타버스 이용을 위한 제도적 장치들을 추가하고 있다. / scrapper@osen.co.kr
