총선 허위 정보… 효과적으로 대응하려면

오는 4월 제22대 국회의원 총선거를 앞두고 국내 양대 포털 네이버와 카카오를 비롯해 국내외 주요 정보기술(IT) 기업들이 총선에 영향을 줄 수 있는 딥페이크 차단 조치에 나섰다. 딥페이크 기술 부작용이 심각해지면서 방송통신위원회는 주요 플랫폼들에게 선제적인 자율규제를 강구할 것을 주문했다. 기업들은 유해 콘텐츠 대응책 재정비 및 공동 대응에 나서겠다고 밝혔다. 

딥페이크 차단 '총력'

네이버와 카카오, 메타 등 국내외 기업들이 딥페이크 대응에 나섰다. /사진=네이버

딥페이크 콘텐츠가 정치적으로 악용되는 사례가 늘면서 국내외 플랫폼·IT 기업들은 대책을 내놓고 있다.

네이버는 딥페이크에 대응하기 위해 이용자가 검색창에 유해 딥페이크 제작 관련 검색어를 입력하면 안내 문구를 표시할 계획이다. 이달부터 블로그, 카페 등에서 딥페이크 콘텐츠를 올리면 제재를 받을 수 있다는 주의 문구도 노출하고 있다. 네이버의 대화형 인공지능(AI) 서비스 클로바X도 사용자가 음란성 콘텐츠나 얼굴 합성을 요청할 경우 답변을 제공하지 않도록 했다.

네이버는 다음달 초 모바일 애플리케이션(앱)의 뉴스 탭 내에 22대 국회의원 선거에 대비한 총선 페이지를 마련한다. 총선 페이지 오픈과 함께 가짜뉴스·딥페이크 방지책도 공개할 방침이다. 앞서 네이버는 딥페이크 관련 24시간 모니터링 전담 부서를 운영하고 선거 관련 허위 정보 신고 센터를 신설하는 등 대응책을 밝혔다.

카카오는 카카오브레인의 이미지 생성 AI 모델 '칼로'에 보이지 않는 워터마크 기술 도입을 검토중이다. 비가시성 워터마크란 일반 이용자에게는 보이지 않지만, 기술적으로 AI를 활용해 만들어진 이미지임을 알 수 있게 하는 일종의 표식을 남기는 기술을 말한다.

IT업계 차원에서의 대응 방안도 추진되고 있다. 네이버, 카카오, 구글코리아, 메타, SK커뮤니케이션즈, 틱톡 등은 국회의원 및 재보궐 선거의 공정성과 신뢰성을 제고하기 위한 자율협의체를 구성한다. 공동 대응을 통해 다가오는 총선에서 딥페이크와 가짜 뉴스가 선거의 공정성을 해치는 일을 막겠다는 취지다.

한국인터넷기업협회에 따르면 이들 기업은 지난 2월16일 뮌헨안보회의(MSC)에서 발표된 기술 협정과 같은 협약문 발표에 합의했다. 협약은 선거에 영향을 미치기 위해 악의적으로 제작·편집한 딥페이크 콘텐츠를 대상으로 한다. 기업들은 ▲악의적 선거 딥페이크 관련 위험 완화를 위한 노력 ▲악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의 ▲외부 전문가 그룹과의 지속적 논의 등 대응 방안을 마련해 빠른 시일 내에 발표할 예정이다. 

ㅡㅡ지우지 말아 주세요 ㅡㅡ

온라인카지노 커뮤니티 일등!! 온카 https://onca888.com