제안이유 및 주요내용
최근 한 대학에서 여성의 얼굴에 음란물을 합성한 딥페이크 영상물이 유포된 사건에 이어 비슷한 종류의 텔레그램 대화방이 잇따라 발견되면서 딥페이크 범죄의 심각성이 드러나고 있음.
인공지능 기술의 급격한 발전에 따라 누구든지 손쉽게 인공지능 기술을 이용하여 딥페이크 영상 등을 생성해 낼 수 있게 되었고, 이러한 정보가 무분별하게 확산될 가능성이 높아져 심각한 경제적ㆍ정신적 피해 등을 야기할 수 있다는 우려가 더욱 커지고 있음.
이에 인공지능 기술을 이용하여 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물을 대상자의 의사에 반하여 편집ㆍ합성 또는 가공한 정보의 유통을 금지하고 위반 시 처벌하도록 하며, 과학기술정보통신부와 방송통신위원회가 딥페이크로 인한 명예훼손 등의 피해 실태 파악, 딥페이크 영상 유통 실태 및 관련 국내외 기술 동향 파악, 유통 방지를 위한 기술 개발의 촉진, 교육ㆍ홍보 등의 시책을 추진하도록 함으로써 건전한 정보통신망 이용환경을 조성하려는 것임(안 제44조의7, 제44조의11신설 등).