AI안전성연구센터가 11월 28일과 29일 양일간 곤지암 리조트에서 개최된 2024 한국정보보호학회 동계학술대회 CISC-W'24에서 한국인터넷진흥원 우수논문상과 학회 우수논문상을 수상했다.

이번 학술대회는 정보보호 분야의 연구자들이 최신 연구 성과를 공유하고, 심도 있는 토론을 펼친 자리였다.

이 행사는 한국정보보호학회가 주최하고 과학기술정보통신부, 국가정보원, 행정안전부 등이 후원하였으며, 다양한 연구 주제가 발표되어 정보보호 기술의 전망과 발전 방향을 모색하는 기회를 제공했다.

특히, 한국인터넷진흥원 우수논문상을 수상한 나현식 박사 과정은  「영어 및 한국어 탈옥 완화 템플릿을 활용한 PromptGuard의 탐지 성능 및 실효성 분석」이라는 논문을 발표했다. 이 논문은 LLM에 대한 탈옥 공격 탐지에 사용되는 PromptGuard의 성능을 심층적으로 분석하여, 앞으로 탈옥 공격에 어떻게 대비할지 에 대해 방향성을 제시하였다.

또한, 학회 우수논문상을 수상한 박대얼 석사 과정은 「대규모 언어모델 한국어 탈옥 프롬프트 분류기 연구」라는 논문을 발표했다. 이 연구는 한국어 탈옥 공격 프롬프트를 사전에 탐지할 수 있는 데이터셋과 탐지 모델을 개발한 점에서 주목받았다.

한국정보보호학회는 이번 학술대회를 통해 200여 편의 논문이 발표되었으며, 참가자들 사이에서는 정보 보호 기술의 미래에 대한 활발한 논의가 이루어졌다고 밝혔다. 학회는 앞으로도 정보 보호 연구의 질적 성장을 도모하고, 관련 전문가들이 네트워킹할 수 있는 기회를 제공하는 데 힘쓸 예정이다.