AI 안전성 연구센터(센터장 최대선, 숭실대학교 소프트웨어학부 교수)는 2024년 11월 27일 판교 글로벌 R&D센터에서 열린 AI 안전연구소 개소식에 참석해 대한민국 AI 안전컨소시엄 참여를 위한 업무협약(MOU)을 체결했다.

 

AI안전연구소(AISI)는 AI 기술의 발전과 함께 커지는 AI 오용, 통제력 상실 등 다양한 위험성에 대응하기 위해 설립된 연구소로, 대한민국의 AI 안전 연구와 정책 개발을 총괄하는 중요한 허브로서의 역할을 수행할 예정이다. AI 안전성 연구센터는 이러한 연구소 개소와 함께 대한민국 AI안전컨소시엄에 주요 참여 기관으로 합류하여, AI 안전성을 위한 연구 협력과 정책 개발을 추진하게 되었다.

 

이번 개소식에는 유상임 과학기술정보통신부 장관, 류광준 과기정통부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이경우 대통령실 AI·디지털 비서관 등 정부 주요 인사와 오승필 KT CTO, 최대선 숭실대 AI 안전성 연구센터장, 오혜연 카이스트 AI연구원장, 방승찬 ETRI 원장을 비롯한 AI분야 산·학·연 관계자 40여 명이 참석해 AI 안전성 확보를 위한 협력 의지를 다졌다.

 

유상임 과기정통부 장관은 축사에서 "AI 안전은 AI 기술 발전의 필수 전제이며, 우리 모두가 함께 해결해 나가야 할 중요한 도전 과제"라며, "AI안전연구소와 산학연의 협력으로 대한민국을 AI 안전 연구의 글로벌 허브로 성장시키겠다"고 강조했다.

AI 안전성 연구센터는 이번 대한민국 AI안전컨소시엄에 산·학·연의 주요 기관들과 함께 참여하여 AI 안전 프레임워크(위험 식별·평가·완화) 연구 및 실증, AI 안전 관련 정책 연구, 국제 규범 대응 등의 활동을 본격적으로 추진할 예정이다. 특히 컨소시엄에는 네이버, KT, 카카오, LG AI연구원 등 주요 산업계와 숭실대, 서울대, 카이스트, 고려대 등 학계, 그리고 TTA, NIA 등의 연구기관이 참여하고 있으며, AI 기술의 안전성 강화를 위한 폭넓은 협력을 이어가고 있다.

 

한편, AI 안전성 연구센터는 숭실대학교의 여러 연구실과 함께 연세대, 성균관대 등 국내 주요 대학 연구실, 법제도 전문가 및 산업계 전문가들과 협력하여 다학제적인 접근을 통한 AI 안전 연구를 지속하고 있다. 이번 MOU 체결을 통해 AI 기술 발전의 위험 요소에 대한 대응을 강화하고, 안전하고 신뢰성 있는 AI 기술 환경을 구축해 나갈 예정이다. AI 안전성 연구센터는 이를 통해 대한민국의 AI 안전 연구와 정책 개발의 중심이 되고, 글로벌 경쟁력을 강화하는 데 주력할 계획이다.

[관련 기사]

 정부, AI안전연구소 판교에 설립···"기술‧정책 역량 조속 확보" - ZDNet korea