프로젝트의 중요성 및 필요성

• - Grand View Research의 'South Korea Deepfake AI Market Size & Outlook' 자료에 따르면, 국내 딥페이크 탐지 시장은 4,760만 달러에서 1억 3,730만 달러로 성장할 것으로 예상되며 연평균 성장률은 42.3% 수준에 달함
• - N번방 사건 이후에도 2024년 8월 대학가, 중·생 딥페이크 집단 유포, 유료 불법 합성물 제작 및 유포 등의 사건이 잇따라 발생하며 딥페이크 음란물이 심각한 사회적 위협으로 부각됨
• - 생성형 AI의 대중화로 누구나 고품질 딥페이크 콘텐츠를 제작하고 유포할 수 있게 되면서 피해 규모가 기하급수적으로 확대될 가능성이 높으나, 현행 법과 제도 대응 및 피해자 지원만으로는 선제적 억제와 차단에 한계가 있어 실시간 탐지, 판별, 예방을 위한 기술적 기반 마련이 시급함
• - 압축, 크롭, 재생성 등 다양한 공격에 강건하며 실시간 성능을 갖춘 디지털 워터마크 기술과 C2PA 기반 콘텐츠 진위성 검증 기술의 개발 및 표준화된 평가체계 구축이 연구되며, 본 연구는 방송미디어통신위원회와 한국정보통신진흥협회의 딥페이크 유통 차단 이행점검 체계 실증을 통해 딥페이크 대응 역량 향상에 기여하는 것을 목표로 함

다양한 공격에 강건하며 실시간성 성능을 갖춘 딥페이크 억제 기술 개발

딥러닝 기반 동영상 비가시성 워터마크 및 멀티모달 통합 워터마크 시스템 개발

다양한 공격에 강건한 이미지 비가시성 워터마크 삽입 및 추출 기술 개발

영상 변형에 강건한 딥러닝 기반 비가시성 동영상 워터마킹 모델 개발

비가시성 워터마킹 기반 출처 인증 및 이력관리 C2PA 통합 인증 플랫폼 구축

엣지 디바이스용 워터마킹 경량화 및 C2PA와 블록체인 연계 기술 개발

워터마크 기술 성능 검증을 위한 표준 평가체계 및 벤치마크 프레임워크 구축