차세대 AI 위협 분석
AI 모델이 고도화될수록 나타나는 예측하기 어려운 행동, 자율적 의사결정으로 인한 비의도적 출력 등 차세대 위협 요소를 분석
XAI를 활용한 딥페이크 생성 방지
모델 출력에 큰 영향을 미치면서도 시각적으로 눈에 띄지 않는 픽셀에 집중적으로 교란을 주입함으로써 딥페이크 생성을 방지하는 적대적 공격 기술
2026년, 다양한 공격에 강건하며 개인정보 무단 도용 방지를 위한 실시간성 성능을 갖춘 딥페이크 억제 기술개발(노이즈주입형), 한국인터넷진흥원
토킹헤드 생성 방지
다단계 모달리티 정합성 파괴 기법과 STFT 도메인 마스킹을 통해 전이성과 강건성을 모두 보장하는 토킹헤드 모델 대상 음성 보호 기술
2026년, 다양한 공격에 강건하며 개인정보 무단 도용 방지를 위한 실시간성 성능을 갖춘 딥페이크 억제 기술개발(노이즈주입형), 한국인터넷진흥원
딥보이스 생성 방지- RoVo
원본 음성의 잠재공간에 음질 저하를 최소화한 적대적 교란을 삽입하여, 원본 화자를 모사한 딥보이스 생성을 억제하고 교란 제거 공격에 대응
2026년, 엣지 AI 보안을 위한 Robust AI 및 분산 공격 탐지 기술 개발, 정보통신기획평가원
딥보이스 생성 방지 - RoCo
무단 딥보이스 생성을 방지하기 위해 원본 음성의 코덱 잠재 코드에 음질 저하를 최소화한 방어용 교란 코드를 결합하는 코드 기반 음성 보호 기술
2026년, 엣지 AI 보안을 위한 Robust AI 및 분산 공격 탐지 기술 개발, 정보통신기획평가원, / 2026년, 생성형 AI 보안 위협 대응 기술 개발, 정보통신기획평가원
딥보이스 생성 방지 - NaVo
무단 딥보이스 생성을 방지하기 위해 자연 배경음 형태의 범용 적대적 오디오를 생성하고, 이를 원본 음성과 혼합하여 화자 특징 추출을 방해
2026년, 다양한 공격에 강건하며 개인정보 무단 도용 방지를 위한 실시간성 성능을 갖춘 딥페이크 억제 기술개발(노이즈주입형), 한국인터넷진흥원
음성 특징 분석을 통한 딥보이스 탐지
딥보이스 악용 방지를 위해, 딥러닝 기반 오디오 코덱과 언어 모델 BERT를 활용해 딥보이스 음성을 탐지하는 새로운 음성 특징 추출 기술
2024년, 엣지 AI 보안을 위한 Robust AI 및 분산 공격 탐지 기술 개발, 정보통신기획평가원
Head Feature 기반 노이즈 주입을 통한 딥페이크 생성 방지 적대적 공격
딥페이크 방지를 위해 소스 이미지에 인지되지 않을 정도의 미세한 노이즈를 주입함으로써 딥페이크 생성 결과물을 효과적으로 방해하는 적대적 공격 기술
2024년, 생성형 AI 보안 위협 대응 기술 개발,정보통신기획평가원
