글로벌 AI안전 허브로! AI안전연구소 개소

인공지능(AI) 위험에 대응하고 글로벌 협력을 통해 AI 안전성을 지원해나갈 연구 전담조직 ‘AI안전연구소’가 문을 열었다. 과학기술정보통신부는 11월 27일 경기 성남시 판교 글로벌R&D센터에서 AI안전연구소 개소식을 가졌다.
AI안전연구소는 AI의 기술적 한계와 인간의 AI 기술 오용, AI 통제력 상실 등으로 발생하는 다양한 AI 위험에 체계적·전문적으로 대응하기 위한 AI 안전연구 전담조직이다. 과기정통부에 따르면 2023년 11월 열린 ‘영국 AI 안전성 정상회의’ 이후 불과 1년 만에 미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 모두 AI안전연구소를 설립하며 기민하고 체계적인 국제 AI 안전 협력체계가 구축되고 있다. 우리 정부도 지난 5월 열린 ‘AI 서울 정상회의’에서 AI안전연구소 설립과 안전한 AI에 대한 국제 협력을 강조한 바 있다. 당시 윤석열 대통령은 “우리나라 AI안전연구소 설립을 추진해 국제 AI 안전성 강화를 위한 관계망에 동참할 것”이라고 의지를 밝혔다.
앞으로 AI안전연구소는 산·학·연 기관의 연구 협력과 정보 교류를 위한 안전연구 중심지이자 10개국이 참여하는 ‘국제 AI안전연구소 관계망’의 일원으로 역할을 수행하게 된다. 이를 통해 AI 안전 분야의 기술·인력을 육성하고 과학적 연구데이터에 근거한 AI 안전 관련 정책의 개발과 선진화를 추진할 계획이다.



이날 개소식에는 류광준 과기정통부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이경우 대통령실 AI·디지털비서관, 오승필 KT 최고기술책임자, 오혜연 한국과학기술원 AI 연구원장, 이은주 서울대 AI신뢰성 연구센터장, 방승찬 한국전자통신연구원장 등이 참석했다.
국가AI위원회 국제 자문위원인 요슈아 벤지오 캐나다 몬트리올대 교수는 영상 축사에서 AI안전연구소의 역할에 대해 업계와 협업을 통한 AI 위험 평가 방법 연구 및 발전, AI 안전성 요건 수립 지원, 국제 협력을 통한 AI 안전체계 조화를 강조했다.
엘리자베스 켈리 미국 AI안전연구소장은 “한국과 미국의 AI안전연구소가 AI 위험을 줄이고 혜택을 극대화하며 혁신을 촉진하는 공통된 과학적 기준을 구축해나가자”고 전했다.
이어 김명주 AI안전연구소장은 “연구소는 규제 기관의 성격이 아니라 국내 AI 기업들이 국제 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관의 역할을 하겠다”고 말했다.
개소식 이후 ‘대한민국 AI 안전 연합체’ 협약식도 열렸다. AI 분야 산·학·연 기관 24곳이 참여한 가운데 AI 안전에 관한 정책연구와 평가, 연구개발의 협력을 위해 업무협약을 체결했다. 앞으로 AI안전연구소와 연합체 참여기관이 함께 정책연구와 AI 안전관련 기술 협력을 중점적으로 추진할 계획이다.
유상임 과기정통부 장관은 “AI 안전은 지속가능한 AI 발전의 전제로 AI 분야에 종사하는 모두가 함께 해결해나가야 할 가장 큰 도전과제”라며 “AI안전연구소를 중심으로 산·학·연 연구역량을 결집해 AI 안전의 기술·정책적 역량을 확보하고 우리나라 AI 산업 혁신을 촉진할 안전기반을 구축해나가는 한편 국제 AI 안전 연대의 주도적인 역할을 수행하며 아시아·태평양 지역을 대표하는 AI 안전 연구허브로 발전해나갈 수 있도록 적극 지원하겠다”고 말했다.

서경리 기자


AI 안전 연합체 참여기관

*산업계
네이버(퓨처AI센터), KT(책임감 있는 AI센터), 카카오(AI Safety), LG AI연구원, SK텔레콤(AI거버넌스 TF), 삼성전자, 코난테크놀로지, 뤼튼테크놀로지스, 이스트소프트, 포티투마루, 크라우드웍스, 트웰브랩스, 라이너

*학계
서울대(AI신뢰성 연구센터), 카이스트(AI공정성 연구센터), 고려대(정보보호대학원), 성균관대(AI신뢰성 연구센터), 숭실대(AI안전성 연구센터), 연세대(AI임팩트연구소)

*연구계
한국정보통신기술협회(AI신뢰성 센터), 한국지능정보사회진흥원(AI정책본부, 디지털사회전략연구실), 정보통신정책연구원(AI？디지털융합단), 소프트웨어정책연구소(AI정책연구실)

*참여기관은 향후 추가로 모집할 예정임.

(www.korea.kr)