AI 정상회의서 ‘서울 선언’ 채택 “안전·혁신·포용 조화롭게 추진”

“대한민국은 국제사회의 책임 있는 일원으로서 인공지능(AI) 안전, 혁신, 포용을 조화롭게 추진해나가겠습니다.”
5월 21일 윤석열 대통령은 리시 수낙 영국 총리와 공동으로 주재한 ‘AI 서울 정상회의’ 개회사를 통해 이렇게 선언했다. 윤 대통령은 청와대 영빈관에서 화상으로 참석했다. 윤 대통령은 “생성형 AI 등장 이후 AI 기술이 전례 없는 속도로 발전하면서 인류 사회에 막대한 파급 효과를 가져올 것으로 전망된다”며 AI 규범과 거버넌스의 중요성을 강조했다.
정부는 2023년 유엔총회 기조연설, 뉴욕대 디지털 비전 포럼 연설 등에서 AI로 인한 새로운 디지털 규범 정립의 필요성을 역설해왔다. 2023년 9월에는 자유, 공정, 안전, 혁신, 연대 등 다섯 가지 원칙을 담은 ‘디지털 권리장전’을 수립했다. 윤 대통령은 “AI 서울 정상회의는 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것”이라고 내다봤다.
AI 서울 정상회의는 AI의 안전과 혁신, 포용성을 주제로 글로벌 지도자들이 의견을 나누고 전략을 수립하는 자리다. 2023년 11월 영국 블레츨리 파크에서 개최된 ‘AI 안전성 정상회의’의 후속 회의로 AI 시대를 선도하기 위한 글로벌 커뮤니티의 결속을 강화하는 데 목적을 둔다.
윤 대통령과 수낙 총리는 AI 서울 정상회의가 열리기 하루 전에 공동명의 기고문을 발표했다. 양국 정상은 “지난해 11월 블레츨리 파크에서 AI의 안전성에 주목했다면 이번 서울에서는 AI의 잠재력을 완전히 실현하기 위한 AI 거버넌스의 세 가지 원칙을 국제사회에 제시하겠다”고 밝혔다.
AI 서울 정상회의에는 카말라 데비 해리스 미국 부통령, 저스틴 트뤼도 캐나다 총리, 올라프 숄츠 독일 총리, 로렌스 웡 싱가포르 총리, 기시다 후미오 일본 총리, 조르자 멜로니 이탈리아 총리, 에마뉘엘 마크롱 프랑스 대통령, 베라 요우로바 유럽연합 부집행위원장이 참석했다. 국제기구 대표로는 안토니오 구테레쉬 유엔 사무총장과 마티아스 코먼 경제협력개발기구(OECD) 사무총장이, 글로벌 AI 기업 대표로는 데미스 허사비스 구글 딥 마인드 회장, 이재용 삼성전자 회장, 이해진 네이버 창업자, 브래드 스미스 마이크로소프트 사장 등이 참석했다.
이들은 AI가 가진 위험요소를 최소화하면서 잠재력은 최대한 구현하고 이를 통해 창출된 혜택은 인류 모두가 누릴 수 있는 방안을 논의했다. 특히 정상들은 ‘서울 선언’과 그 부속서인 ‘AI 안전 과학에 대한 국제협력을 위한 서울 의향서’를 채택했다. 기업 최고경영자(CEO)들은 ‘프론티어 AI 안전 서약’에 참여했다.



AI 안전연구소 간 네트워크 조성, 글로벌 협력 촉진
서울 선언은 AI 거버넌스의 3대 우선 목표로 안전·혁신·포용을 제시하고 각국 AI 안전연구소 간 네트워크를 조성하며 글로벌 협력을 촉진할 것을 다짐하는 내용을 담고 있다. 서울 의향서는 AI 안전성 제고를 위한 상호 협력 등의 세부 사항을 도출하고 프론티어 AI 안전 서약은 AI 선도 기업들이 책임 있는 AI 개발을 약속하는 자발적 공약이다.
윤 대통령이 내세운 첫 번째 AI 글로벌 거버넌스 목표는 ‘혁신’이다. AI 혁신이 환경오염 등 난제를 풀어가는 데 도움을 주고 글로벌 경제에 새 성장 동력을 부여할 것이라는 전망이다. 윤 대통령은 “AI가 가진 커다란 잠재력을 구현하기 위해선 자유롭고 개방적인 연구개발을 통해 AI의 혁신을 추구해야 한다”고 부연했다.
두 번째는 ‘안전’이다. 매일 새로운 AI 모델이 등장하는 상황에서 언제 어디에서 어떤 위협이 발생할지, 이를 적절히 관리하는 좋은 방법은 무엇인지를 끊임없이 고민해야 한다는 것이다. 윤 대통령은 “AI가 미칠 수 있는 악영향을 최소화하고 우리 사회의 안녕과 민주주의가 훼손되지 않도록 AI의 안전성을 확보해야 한다”며 “영국, 미국을 비롯한 주요국들의 AI 안전연구소 설립 노력을 환영한다”고 말했다.
끝으로는 ‘포용성’을 들었다. 거주 지역 및 소득 수준과 관계없이 누구나 AI의 혜택을 누릴 수 있도록 포용성을 확보, 미래세대에게 혜택이 이어지는 ‘지속가능한 AI 발전’이 이뤄져야 한다는 의미다.
윤 대통령은 “각국 정상들은 AI 안전, AI 혁신, AI 포용이라는 3대 목표에 공감대를 이뤘고 AI의 위험과 기회를 균형 있게 다뤄야 한다는 기본 방향을 공유하게 됐다”며 “AI 정상회의가 글로벌 AI 거버넌스 구축을 선도하는 플랫폼으로 자리매김하고 차기 개최국인 프랑스의 리더십을 기대한다”고 전했다.

서울 장관 성명도 채택
AI 서울 정상회의에 이어 5월 22일 서울 한국과학기술연구원(KIST)에서 열린 ‘AI 글로벌 포럼’에서도 AI의 균형 있는 발전을 위한 정부 역할의 중요성이 조명됐다. 한덕수 국무총리는 개회식 축사를 통해 “서울 선언은 AI 글로벌 거버넌스의 미래를 제시했다는 점에서 중요성이 크다”며 “일관성 있고 상호 운용이 가능한 AI 국제 거버넌스 체제를 구축해나가는 데 지속적으로 노력할 것”이라고 말했다.
이날 포럼에서는 고위급 라운드테이블, 전문가 세션, 장관 세션이 진행됐다. 먼저 고학수 개인정보보호위원회 위원장, 미셸 도넬란 영국 과학혁신기술부 장관, 크리술라 자카로풀루 프랑스 개발국제협력부 국무장관, 자닐 푸투치어리 싱가포르 정보통신부 선임 국무장관 등 고위급 인사 70여 명의 열띤 논의가 펼쳐졌다.
참석자들은 오픈소스 모델과 데이터 공유를 통한 AI 혁신 방안을 논의했으며 AI 위험성 평가는 사실과 데이터를 바탕으로 이뤄져야 한다는 점에 공감을 표했다. 프론티어 AI 기술의 오남용을 줄이기 위해 제3자 테스트의 제도화가 필요하다는 의견, 고급 AI 시스템의 안정 보장을 위해 적절한 국제 보고제도가 필요하다는 의견도 나왔다. 뿐만 아니라 국가 간 디지털 격차 해소를 위해 국제사회가 함께 노력해야 한다는 데 의견을 모으며 AI 모델에 언어·사회문화적 다양성을 반영하기 위한 최근 기술 개발 현황에 대해 이야기했다.
정부와 기업, 학계, 시민사회 등이 참석한 전문가 세션은 AI가 기후 변화, 공중보건 위험 등과 같은 글로벌 과제 해결에 기여할 방안에 무게를 실었다. 이와 더불어 디지털 시대의 기본 가치 보장, 지속가능한 혁신, 국제 협력 방안 등에 관한 깊이 있는 논의가 이뤄졌다.
이어진 장관 세션에서는 ‘AI 안전, 혁신, 포용 증진을 위한 서울 장관 성명’이 채택돼 AI 서울 정상회의의 의의를 더했다. 이종호 과학기술정보통신부 장관과 미셸 도넬란 영국 과학혁신기술부 장관의 주재로 미국, 일본, 프랑스, 독일, 캐나다, 호주, 유럽연합, 유엔 등 21명의 대표단, 국내외 유수 기업과 학계·시민사회 등 22명의 주요 인사가 참석했다.
이들은 전날 윤 대통령이 정상 세션에서 강조한 AI 안전 연구소의 네트워킹 등 글로벌 협력 방안과 AI의 잠재적 부작용에 대해 회복 탄력성을 확보하기 위한 혜안을 공유했다. 이를 토대로 ‘서울 장관 성명’을 채택했고 여기에는 저전력 반도체 등 AI 확산에 따른 막대한 전력 소모에 대응하기 위한 대한민국의 AI·반도체 비전이 포함됐다.
AI 서울 정상회의와 AI 글로벌 포럼을 공동 개최한 조태열 외교부 장관은 “AI에 관한 다양한 국제 이니셔티브들이 조화롭게 이뤄질 수 있도록 우리나라가 AI의 안전·혁신·포용이라는 하나의 방향성을 제시했다”고 평가했다. 이어 “이를 명시한 서울 선언과 안전성에 관한 구체적 실천 계획을 담은 서울 의향서 채택이 국제사회의 AI 거버넌스 논의의 새로운 기준을 제공하게 된 점이 의미 깊다”고 덧붙였다.
이종호 과기부 장관은 “지난해 블레츨리와 이번 서울에서의 성과를 2025년 프랑스에서 개최되는 AI 행동 정상회의로 이어나가 국제사회의 역량을 결집하고 AI의 안전·혁신·포용을 달성하는 ‘서울 효과’를 일으키기를 바란다”며 “AI 거버넌스와 규범 정립을 위해 AI 서울 정상회의와 AI 글로벌 포럼에서 확보한 리더십으로 국제사회와 긴밀히 연대해나가겠다”고 밝혔다.

이근하 기자

(www.korea.kr)