숭실대학교 소프트웨어학부 최대선 교수는 11월 27일 서울에서 열린 ‘2024년 사이버보안 정책 포럼’에서 주제 발표와 패널 토론을 통해 생성형 AI와 디지털 신기술로 인한 사이버보안 위협 및 대응 방안에 대해 논의하였다. 이번 포럼은 AI와 디지털 기술 발전으로 인한 사이버 위협에 대응하기 위해 산·학·연·관이 협력하는 자리로, AI 안전성과 사이버보안의 미래 방향성을 제시하며 큰 주목을 받았다.

최대선 교수는 이번 포럼 주제 발표에서 AI의 안전성 문제를 중심으로 사이버 공격과 방어의 균형을 강조했고, 토론에서는 신원 확인 시스템과 AI 통제력 문제에 대해 구체적인 해결 방안을 제안했다. 

최대선 교수는 주제 발표에서 “AI의 악의적 사용, 적대적 공격, 통제력 상실 등은 국가 안보와 디지털 사회 전반에 심각한 위협이 될 수 있다”며, 대응 방안으로 ▲입력된 프롬프트(명령어)의 유해성을 평가해 사전 탐지 ▲생성된 콘텐츠의 유해성을 검열하는 사후 평가 ▲AI 시스템에 긴급 중지 기능 내장 ▲위험성이 높은 학습 내용을 제거한 설계 원칙 적용 등을 제안했다. 이어 “AI 위협은 ‘창과 방패의 대결’과 같아 공격 자체를 완전히 막을 수는 없지만, 피해를 줄이는 것이 목표”라고 강조했다.

이어진 패널 토론에서는 ‘디지털 신기술 위협과 사이버 보안의 나아갈 방향’을 주제로 논의가 진행됐다. 최대선 교수는 “올해는 알뜰폰 비대면 본인확인 개통 사고로 인해 비대면 본인확인의 근간이 흔들린 해였다”며, “신원 확인을 뚫는 문제 중 가장 큰 위협은 트러스트 앵커(Trust Anchor)로, 이에 대한 경각심이 필요하다”고 언급했다. 이어 “신분증 사진만으로도 멀티 팩터 인증이 가능해지는 만큼, 전자신분증의 확산과 이를 뒷받침할 보안 강화가 중요한 과제”라고 덧붙였다.

숭실대학교는 최근 최대선 교수가 센터장으로 이끄는 ‘AI 안전성 연구센터’를 설립하여 관련 연구를 강화하고 있으며, LG유플러스와 협력해 사이버보안학과를 신설했다. 최대선 교수는 “인재 양성을 위해 단기 교류 프로그램과 체험 프로그램, 보안 관련 자격증 활성화, 인증 프로그램 운영이 필요하다”며 “학생들이 보안 인재의 중요성을 인식하도록 지속적인 노력이 이어져야 한다”고 말했다.

또한, 최대선 교수는 “AI와 같은 디지털 신기술의 위협이 커지고 있는 만큼, 정부는 AI 악용 가능성과 통제력 상실에 대응하기 위한 더 큰 규모의 전담 조직 설립을 검토해야 한다”고 제안했다.