"AI로 생성된 결과물" 고지해야…AI기본법 시행령 입법예고

정부가 인공지능(AI)산업 육성을 위한 지원 사업 기준 등을 명확히 하고 국가 AI정책 추진을 위한 지원 기관의 지정·운영 등을 규정했다.

또한 AI 안전·신뢰 확보를 위한 제도를 구체적으로 명확하게 하고, 인공지능 영향평가에 포함해야 할 사항도 구체적으로 규정했다.

과학기술정보통신부는 12일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법' 제정에 따른 'AI기본법 시행령' 제정안을 마련해 이날부터 내달 22일까지 입법예고한다고 밝혔다.

'AI기본법'은 AI산업 발전과 AI의 안전·신뢰 기반 조성을 위해 지난해 12월 여·야 합의로 국회를 통과해 내년 1월 시행을 앞두고 있다.

과기정통부는 AI기본법의 입법 취지를 잘 살릴 수 있도록 산업계·시민단체·전문가·관계부처 등의 폭넓은 의견 수렴을 거쳐 시행령 제정안을 마련했다.

지난 9월 8일 과기정통부는 국가AI전략위원회에 AI기본법 하위법령 제정방향의 설명과 함께 관계기관의 의견 청취를 위해 시행령 초안을 공개하는 한편, 같은 달 17일에는 고시와 가이드라인을 추가 공개하며 전체 하위법령에 대한 대국민 의견 수렴에 나섰다.

이 과정에서 수렴한 의견을 검토·반영해 시행령 제정안을 마련했고 입법예고 절차를 통해 추가 의견을 계속해서 수렴할 계획이다.

과기정통부는 글로벌 규범 동향과 국내AI 산업의 성장을 고려해 규제보다는 진흥에 무게를 두고, 필요최소한의 유연한 규제체계를 도입하기 위해 관계부처의 의견을 충분히 청취하면서 중복되거나 유사한 규제를 최소화하는 데 집중했다.

이러한 제정방향에 따라 마련한 시행령 제정안에서는 AI기본법이 현장에서 조속히 안착할 수 있도록 법률에서 위임된 사항을 구체화·명확화하고 국내 AI산업 육성과 안전·신뢰 기반 조성이라는 가치를 균형 있게 반영했다.

시행령 제정안은 먼저, AI산업 육성을 위한 지원 사업 기준 등을 명확히 했다.

국내 AI산업 육성을 위해 법률에서 정하는 AI 연구개발(R&D), 학습용데이터 구축, AI도입·활용 등 지원 대상·기준·내용을 명확히 규정하고, AI 집적단지의 지정 기준과 절차를 마련해 국내 AI산업 지원을 위한 법제도 기반을 구체화했다.

이어서, 국가 AI정책 추진을 위한 지원 기관의 지정·운영 등을 규정했다.

AI산업 육성과 안전·신뢰 기반 조성을 위한 지원기관에 관한 사항을 시행령에서 구체화했다.

AI 안전·신뢰업무를 전문적·효율적으로 수행하기 위한 인공지능안전연구소, AI관련 정책 개발과 국제규범 정립·확산을 지원하기 위한 인공지능정책센터, AI집적단지 업무의 종합 지원을 위한 AI집적단지 전담기구 등의 지정·운영을 위한 사항을 시행령에 반영했다.

또한 AI 안전·신뢰 확보를 위한 제도를 구체화하고 명확히 했다.

투명성·안전성 확보 의무, 고영향AI 판단 기준 및 사업자 책무, 인공지능 영향평가 등 AI 안전·신뢰 기반 조성과 관련한 법률상 추상적 규정에 대해서는 시행령에서 구체적이고 명확하게 해 기업 경영의 리스크를 해소하는 데 주력했다.

투명성 확보 의무는 사업자가 고영향 AI 또는 생성형 AI를 이용한 제품·서비스를 제공할 때 인공지능에 기반해 운용된다는 사실을 사전에 이용자에게 고지하게 했다.

실제와 구분하기 어려운 결과물에 대해서는 생성형 AI를 통해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있도록 하되, 이용자의 연령이나 신체적 조건 등을 고려하게 했다.

안전성 확보 의무 대상이 되는 AI시스템의 기준에 대해서는 해외 규범(미국 10의 26승) 동향과 AI 기술 발전을 고려해 학습에 사용된 누적 연산량이 10의 26승 부동소수점 연산(FLOPs) 이상인 시스템으로 정했다.

고영향 AI는 사용영역, 기본권에 대한 위험의 영향, 중대성, 빈도 등을 고려해 고영향 AI 여부를 판단하도록 시행령에 세부 기준을 마련하고, 고영향 AI 확인 절차도 구체화했다.

과기정통부가 수행하는 고영향 AI 확인절차는 기본 30일이 걸리며 1회에 한해 기간을 30일 연장할 수 있는데, 이 경우에는 연장 사유와 기간을 명시해 AI사업자에게 문서로 통보하게 해 기업의 부담을 완화했다.

이와 함께 AI제품·서비스가 사람에게 미치는 영향을 AI사업자가 자율적으로 평가하고 부작용을 완화할 수 있게 인공지능 영향평가에 포함해야 할 사항을 시행령에 구체적으로 규정했다.

영향받는 기본권이 무엇인지, 해당 기본권은 어떻게 영향을 받는지, 그리고 영향 완화 방안 등에 관한 사항을 포함해 영향평가 제도를 실효성 있게 운용할 예정이다.

과기정통부는 안전·신뢰 기반 조성 제도의 조속한 현장 안착을 위해 구체적인 기준과 의무 이행 방법, 모범 사례 등을 반영한 고시와 가이드라인도 마련할 계획이다.

한편, 과기정통부는 AI기본법 시행 초기 제도의 현장 안착과 기업에 대한 준비 기간을 제공하기 위해 과태료 계도기간을 최소 1년 이상 운영할 계획이며, 구체적 운영방식과 기간을 확정하기 위해 의견을 수렴하고 있다.

과태료 계도기간에는 AI기본법 적용 등 법규정에 대한 기업의 어려움을 해소하기 위해 AI기본법 지원 플랫폼인 통합안내지원센터(가칭)를 운영하고, 법적용에 관한 기업 등의 문의 사항에 대해서 상세하게 안내할 계획이다.

아울러 해당 플랫폼을 통해 AI기본법령과 가이드라인에 대한 의견을 지속해서 수렴해 향후 법령 또는 가이드라인 개정 때 필요한 사항을 반영하는 등 급변하는 AI 환경을 감안해 제도를 개선해 나갈 계획이다.

시행령 제정안은 과기정통부 누리집(www.msit.go.kr) '입법/행정예고' 게시판에서 확인할 수 있다. 제정안에 대한 의견은 다음 달 22일까지 이메일이나 우편 등으로 제출할 수 있다.

배경훈 부총리 겸 과기정통부 장관은 "AI기본법 시행령 제정안은 AI G3 강국 지위를 확고히 하기 위한 제도적 초석이 될 것"이라며 "입법예고 기간에 현장의 다양한 의견을 수렴해 AI산업 발전과 안전·신뢰 기반 조성이라는 입법취지를 시행령에 잘 반영할 수 있도록 철저히 준비하겠다"고 말했다.

문의: 과학기술정보통신부 인공지능안전신뢰정책과(044-202-6293)

(www.korea.kr)