AI 안전성 연구센터(센터장 최대선, 숭실대학교 소프트웨어학부 교수)는 2024년 12월 09일 숭실대학교 전산관에서 'AI 안전성 연구 센터 세미나'를 개최하고 엔키화이트햇과의 연구협력(MOU)을 체결했다. 세미나에는 온라인과 오프라인으로 약 50명가량이 참석했다.

세미나는 최경진 한국인공지능 법학회 회장의 '글로벌 AI규제 동향' 관련 발표로 시작되었다.

 

최경진 회장은 AI 규제 입법에 있어 “국내 AI 경쟁력을 확보하고 AI 리더 그룹과 협업하며, 국제 거버넌스에 적극 참여하고, 신뢰할 수 있는 AI 프레임워크를 개발하는 노력이 모두 어우러져야 한다”고 말했다. 그는 이를 위해서 “글로벌 동향을 면밀히 분석해야 한다”고 강조하며 발표를 마쳤다.

 

이어 최대선 센터장이 ‘AI 안전성 이슈와 전망’에 대해 발표했다. 최대선 센터장은 "AI 안전성 이슈는 크게 4가지 '△AI에 대한 적대적 공격 △AI 악용 △통제력 상실 △국가 안보 위협(CIB)'로 나눌 수 있다"고 말했다. 이로 인한 문제 발생을 최소화 할 수 있는 방안으로 AI 사용제한, 통제 가능한 설계 원칙 적용, 지속적인 모니터링 및 업데이트 등을 제시하며 "AI 위협에 대한 기술적인 대응은 결국 '창과 방패의 대결'로 공격을 완전히 막을 수는 없으나, 최소화하도록 막는 것이 목표"라고 강조했다.

그는 “AI 안전성 연구센터가 AI 위험관리 연구, 국방 AI 적대적 공격 대응 연구, AI 신뢰성 제고 연구를 활발히 해오고 있으며, 지난달 27일 AI 안전컨소시엄 참여를 위한 업무협약(을 체결했다"고 덧붙였다. 이를 통해 "AI 안전성 연구센터는 빠르게 변화해가는 AI 안전성에 대한 주제, 정책, 법률 등에 대해 지속적인 토론과 연구를 추진하겠다"며 세미나를 마무리했다.