국방 AI 적대적 공격 대응
국방 분야에서의 AI 보안과 프라이버시 보호를 위해 적대적 공격을 탐지하고 대응하는 기술을 개발하여, 국가 안보에 기여하는 AI 활용 방안을 연구
사이버 국방 AI 보안
사이버 지휘통제 및 능동대응 핵심 인공지능 모델에 대한 공격/위협에 대응하기 위하여 인공지능 입력 데이터 패킷에 심층 검사를 통해 공격을 탐지/차단하는 기술
2024년, 사이버전장관리 인공지능 모델 보안 기술, 국방진흥기술연구소
완전 무인 매장 AI 기만 공격 및 방어
적대적 패치에 대한 완전 무인 매장 내 객체 탐지 모델의 견고성 평가 프레임워크 구축 및 다양한 적대적 패치 시나리오 제시와 패치 생성 알고리즘 기술
2023년, 엣지 AI 보안을 위한 Robust AI 및 분산 공격 탐지 기술 개발, 정보통신기획평가원
AI 기반 생체정보 프라이버시 보호 기준 개발
생체정보의 수집, 처리, 저장 및 활용 과정에서 개인정보와 프라이버시를 보호하기 위한 가이드라인, 정책, 기술적 조치를 마련하는 기술
2020년, 함수암호로 생체정보를 보호하는 DID 기반 인증 및 전자서명 기술개발, 정보통신기획평가원
분할 AI 모델 학습 데이터 복원 방지
분할 학습 환경에서 모델 전도 공격을 통한 데이터 프라이버시 침해를 방지하기 위해 공격 시 특정 이미지로 복원되도록 유도하는 TrapMI 기술
2023년, 엣지 AI 보안을 위한 Robust AI 및 분산 공격 탐지 기술 개발, 정보통신기획평가원
MLLM을 활용한 이상 탐지
MLLM을 활용한 적대적 예제 탐지. 탐지 과정을 투명하게 공개해 신뢰성을 높이고, 추가 학습 없는 적대적 공격에 대한 방어 가능성 제시
2024년, 생성형 AI 보안 위협 대응 기술 개발, 정보통신기획평가원
연합학습 환경 데이터 복원 공격 성능 개선
연합학습의 학습 이미지를 복원 공격하는 경우 발생하는 노이즈에 픽셀값 변환 기법을 적용함으로써 복원 품질 및 공격 성능을 높이는 기술
2023년, 엣지 AI 보안을 위한 Robust AI 및 분산 공격 탐지 기술 개발, 정보통신기획평가원
이미지 생성 모델의 정보 추론 공격 기술
Text-to-Image 모델의 학습 이미지를 찾기 위해 쿼리 이미지와 가까운 여러 장의 이미지를 반복 생성함으로써 학습 이미지를 찾을 확률을 높이는 공격 기술
2023년, 엣지 AI 보안을 위한 Robust AI 및 분산 공격 탐지 기술 개발, 정보통신기획평가원
