인공지능(AI)법은 어쩌다가 규제법이 되었을까?

2024년 11월 26일, 이날 인공지능법을 의결한 과방위는 자축 분위기였다.

• 최형두, "AI G3의발판을 닦았다."
• 이해민, "기본법이 시작이고 지금부터 법의 완결성은 더해갈 것."
• 한민수, "이렇게 중요한 법안에 힘을 합쳐서 법안심사 소위도 잘 거치고 전체회의까지 왔다."
• 정동영, "AI G3 국가로 만드는 데 국가차원의 총력을 기울이기 바란다."
• 조인철, "대한민국의 인공지능 산업 발전을 위한 굉장히 큰 걸음이다."
• 이정헌, "AI 기본법을 마련하고 또 통과를 앞두고 있는 상황이어서 기쁘다."
• 최민희 위원장, "지금 통과된 인공지능 관련 법안은 지원에 초점을 맞춘 법안이다. 시민사회가 걱정하는 인공지능의 고영향 및 고위험 부분에 대하여는...(중략)...필요한 후속입법과 개정안을 준비하도록 하겠다."

미리 밝히는데, 이날 인공지능법 의결에 대해 황정아 의원이 발언한 기록은 없다. 아무튼 상임위에서 의결된 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'은 2025년 1월 10일 본회의 통과, 1월 21일 공포되었다. 1년 경과규정을 거쳐 2026년 1월 시행된다.

▣ 황정아, 인공지능 기본법 상 규제를 유예하자

그런데, 이 법이 시행도 되기 전에 황정아 의원이 개정안을 발의(2025-4-17)했다. 인공지능법에 담겨있는 일부 규제조항에 대해서는 시행을 3년 유예하자는 내용이다. 인공지능 사업자에 대한 과도한 규제는 기술 발전을 저해하고 기업 혁신을 위축시킬 수 있다는 이유에서다. 황정아 의원이 유예를 주장한 과도한 규제는 인공지능법 제31조부터 35조까지다. 어라? 인공지능 기본법에 과도한 규제가 있다고?

내년 시행 AI기본법, 규제조항은 3년 유예로...황정아, 법 발의

내년 시행 AI기본법, 규제조항은 3년 유예로...황정아, 법 발의

▶인공지능법 제31조~제35조

황정아 의원이 과도한 규제라고 주장한 제31조~제35조의 내용은 무엇일까? 인공지능의 투명성·안전성, 사업자 책무, 고영향 인공지능 영향평가에 대한 내용이다. 우선, 앞으로 고영향 인공지능이라는 말이 자주 나오는데, 이 법에서 정한 그 정의 먼저 살펴볼 필요가 있다.

<고영향 인공지능>이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템이다. 예를 들면, 에너지의 공급, 먹는물 생산 공정, 보건의료 제공 및 이용체계의 구축·운영, 디지털의료기기의 개발 및 이용, 원자력시설 관리 및 운영, 범죄 수사 등을 위한 생체인식정보, 채용 대출 심사 등에 관한 평가, 교통체계 작동 및 운영, 공공기관 의사결정, 학생 평가 등이다. 이를 '고영향'으로 할지 '고위험'으로 할지 논란이 있었는데, 과방위에서는 <고영향>으로 정의했다.

이러한 정의에 근거하여 제31조부터 35조까지를 간략히 요약하면,

• 제31조(인공지능 투명성 확보 의무): 인공지능 사업자의 고지 및 표시의무를 규정한 조항이다. "이건 AI가 만든거다"라고 사용자에게 알려한 한다는 것이다.
• 제32조(인공지능 안전성 확보 의무): 대규모 AI는 더 철저하게 위험관리를 하고 정부에 보고해야 한다는 내용이다.
• 제33조(고영향 인공지능의 확인): 사업자는 자신의 AI가 고영향(고위험) AI인지 먼저 확인하고, 필요하면 정부에 물어보라는 내용이다.
• 제34조(고영향 인공지능과 관련한 사업자의 책무):고영향(고위험) 인공지능 운영의 안전성 신뢰성을 담보하기 위한 사업자의 의무에 관한 사항이다. 안전하고 투명하게 엄격히 관리하고 그 내용을 문서로 남기도록 하고 있다.
• 제35조(고영향 인공지능 영향평가): AI 사업자에게 사람의 기본권에 미치는 영향평가를 권장하고, 공공기관은 영향평가가 된 제품·서비스를 우선적으로 사용해야 한다는 내용이다. 국가기관이 AI를 도입할 땐, 영향평가를 마친 것부터 쓴다는 말이다.

인공지능기본법 규제 규정

각 규제조항에 대한 필자의 해석이 틀릴 수 있으니, 좀 길더라도 조문 원문도 함께 기록해둔다. 참고용이다.

제31조(인공지능 투명성 확보 의무)
① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.
② 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다.
③ 인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다. 이 경우 해당 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다.
④ 그 밖에 제1항에 따른 사전고지, 제2항에 따른 표시, 제3항에 따른 고지 또는 표시의 방법 및 그 예외 등에 관하여 필요한 사항은 대통령령으로 정한다.

제32조(인공지능 안전성 확보 의무)
① 인공지능사업자는 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능시스템의 안전성을 확보하기 위하여 다음 각 호의 사항을 이행하여야 한다.
1. 인공지능 수명주기 전반에 걸친 위험의 식별·평가 및 완화
2. 인공지능 관련 안전사고를 모니터링하고 대응하는 위험관리체계 구축
② 인공지능사업자는 제1항 각 호에 따른 사항의 이행 결과를 과학기술정보통신부장관에게 제출하여야 한다.
③ 과학기술정보통신부장관은 제1항 각 호에 따른 사항의 구체적인 이행 방식 및 제2항에 따른 결과 제출 등에 필요한 사항을 정하여 고시하여야 한다.

제33조(고영향 인공지능의 확인)
① 인공지능사업자는 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우 그 인공지능이 고영향 인공지능에 해당하는지에 대하여 사전에 검토하여야 하며, 필요한 경우 과학기술정보통신부장관에게 고영향 인공지능에 해당하는지 여부의 확인을 요청할 수 있다.
② 과학기술정보통신부장관은 제1항에 따른 요청이 있는 경우 고영향 인공지능 해당 여부를 확인하여야 하며, 필요한 경우 전문위원회를 설치하여 관련 자문을 받을 수 있다.
③ 과학기술정보통신부장관은 고영향 인공지능의 기준과 예시 등에 관한 가이드라인을 수립하여 보급할 수 있다.
④ 그 밖에 제1항에 따른 확인 절차 등에 관하여 필요한 사항은 대통령령으로 정한다.

제34조(고영향 인공지능과 관련한 사업자의 책무)
① 인공지능사업자는 고영향 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우 고영향 인공지능의 안전성·신뢰성을 확보하기 위하여 다음 각 호의 내용을 포함하는 조치를 대통령령으로 정하는 바에 따라 이행하여야 한다.
1. 위험관리방안의 수립·운영
2. 기술적으로 가능한 범위에서의 인공지능이 도출한 최종결과, 인공지능의 최종결과 도출에 활용된 주요 기준, 인공지능의 개발·활용에 사용된 학습용데이터의 개요 등에 대한 설명 방안의 수립·시행
3. 이용자 보호 방안의 수립·운영
4. 고영향 인공지능에 대한 사람의 관리·감독
5. 안전성·신뢰성 확보를 위한 조치의 내용을 확인할 수 있는 문서의 작성과 보관
6. 그 밖에 고영향 인공지능의 안전성·신뢰성 확보를 위하여 위원회에서 심의·의결된 사항
② 과학기술정보통신부장관은 제1항 각 호에 따른 조치의 구체적인 사항을 정하여 고시하고, 인공지능사업자에게 이를 준수하도록 권고할 수 있다.
③ 인공지능사업자가 다른 법령에 따라 제1항 각 호에 준하는 조치를 대통령령으로 정하는 바에 따라 이행한 경우에는 제1항에 따른 조치를 이행한 것으로 본다.

제35조(고영향 인공지능 영향평가)
① 인공지능사업자가 고영향 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 사전에 사람의 기본권에 미치는 영향을 평가(이하 "영향평가"라 한다)하기 위하여 노력하여야 한다.
② 국가기관등이 고영향 인공지능을 이용한 제품 또는 서비스를 이용하려는 경우에는 영향평가를 실시한 제품 또는 서비스를 우선적으로 고려하여야 한다.
③ 그 밖에 영향평가의 구체적인 내용·방법 등에 관하여 필요한 사항은 대통령령으로 정한다.

이상의 규제조항을 보면 법적 의무화 범위가 넓고 상당히 구체적인 느낌이다. 그리고 <고위험 AI> 뿐만 아니라 <생성형 AI>까지 규제대상에 포함시킨 것은 좀 과도한 생각이 든다. 그러나 이 규제조항이 전체적으로 과도한 규제인지 아닌지를 판단하는 것은 필자의 능력을 넘어서는 부분이다. 대신, 인공지능법을 만들 때 이 규제조항이 어떻게 들어갔는지를 추적해 보는게 이 글의 목표다.

▣ 21대국회 인공지능법 추진 경과

사실 인공지능 기본법은 21대 국회에서 제정될 뻔 했다. 인공지능 관련법은 2020년 7월부터 발의되기 시작했다. 최초 발의는 이상민 의원의 '인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률안'이다. 이후 10여건의 인공지능법안이 발의됐고, 4차례의 법안소위 논의를 거쳤다. 2023년 2월 14일에 과방위 법안소위 차원의 대안을 의결했다. 그러나 이후 정치권의 정쟁으로 국회 운영이 정상적으로 되지않아 상임위 및 본회의 의결까지는 가지 못했고, 2024년 5월 29일 21대 국회 임기종료와 함께 폐기되었다. 당시 법안소위에서 의결된 인공지능법 대안에는 규제조항이 어떻게 담겨있을까?

(당시 회의록, 발의 법안, 관계자 인터뷰 등을 토대로 21대국회 과방위 소위에서 합의된 대안과 22대 국회 통과된 법안을 비교해보면, 아래 표와 같다.)

구분	인공지능 규제사항
21대, 22대 공통사항	1) 고위험영역 인공지능의 확인에 대한 규정 2) 고위험영역 인공지능 고지 의무 3) 고위험영역 인공지능과 관련한 사업자의 책무
22대국회 신설	1) 생성형 인공지능에 대한 규제 2) 대규모 AI의 안전성 확보 의무 3) 고위험(고영향) 인공지능의 영향평가

21대 국회 대안에는 없었는데, 22대 국회에서 생성형 인공지능 규제, 대규모 AI의 안전성 확보의무, 고위험 인공지능 영향평가가 추가되었다. 추가 규제는 누가 왜 넣었을까? 한편 21대 소위 합의안에서는 "우선허용, 사후규제 원칙"을 법률에 명시했었다고 하는데, 22대 통과 법안에는 이런 원칙은 빠져있다. 아무튼 21대 국회에서 인공지능법 제정은 최종 불발되었다.

▣ 22대국회 인공지능법 추진 경과

22대 국회가 시작된 후 인공지능법이 다시 발의되기 시작했다. 22대 최초 발의 법안은 안철수 의원의 '인공지능 산업 육성 및 신뢰 확보에 관한 법률안'이다. 2024년 5월 31일에 발의했다. 이후 총 19건의 인공지능 법안이 발의됐고, 이를 종합적으로 심사해서 2024년 11월 26일, 과방위에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(대안)을 의결한 것이다. 이 법안이 처리되는 과정을 주요 단계별로 살펴본다.

▶2024년 9월 3일 1차 법안소위

인공지능법안이 과방위 법안소위에서 처음으로 논의된 날은 2024년 9월 3일이다. 이날 법안소위에 상정된 법안은 안철수(5-31), 정점식(6-17), 조인철(6-19), 김성원(6-19), 민형배(6-28), 권칠승(7-4), 한민수(8-22) 의원의 법안 총 7건이다. 이 날은 법안의 내용에 대한 구체적인 심사가 이루어지지 못했다. 시급한 법이니 빨리 할거냐, 시간을 두고 충분히 할거냐 그런 정도의 논의에 그쳤다. 보통 이런 종류의 법안은 정부(안)이 있을 경우, 정부(안) 중심으로 심의가 되는데, 인공지능법은 정부제출 법안이 없다. 그러니 누구 법안을 중심으로 심의할 것인지를 정해야 한다. 굉장히 중요한 부분이다. 그 정황이 회의록에 남아있다.

수석전문위원 ○○○ 보고드리겠습니다.
(생략)
7건의 법안 중 정부의견에 가장 근접하다고 평가할 수 있는 정점식 의원안의 내용이 전체적으로 타당하다고 보며 이 법안을 중심으로 개별조문의 수정과 추가 논의가 될 수 있을 것으로 봅니다. 다음 20쪽을 보시면, 제정법안이므로 축조심사가 필요해 조문의 전체체계를 설명드리되 설명의 편의를 위해 정점식 의원안을 중심으로 설명드리겠습니다.
(중략)
이하 정점식 의원안을 기준으로 개별규정들에 대해서 특별히 설명드릴 내용으로 46쪽을 보시면...
(이하생략)

과방위 수석은 7건의 법안 중 정점식(안)을 기본으로 심사하겠다는 입장을 밝혔다. 이에 대해 특별히 다른 의견을 내는 의원은 없었다. 정점식(안)은 22대 국회에서 안철수 의원 다음으로 낸 법안이다. 2024년 6월 17일, 정점식 의원 등 국민의힘 108인의 의원이 발의했는데, 국힘 당론으로 추진한 법안이다. 정부와 협의한, 아니 사실은 정부(과기부)에서 만든 법안이다. 과기부는 여기에 추가규제를 담았다. 다만 정점식 의원의 이름을 빌려서 발의했다. 정부(안)이 아닌 것처럼 한 것이다. 정점식 의원은 과방위 위원도 아니다. 국토위 의원이다. 이날 회의 중 신성범 의원은 이렇게 이야기한다.

신성범 위원 : 이게 하늘에서 갑자기 뚝 떨어진게 아니고 전임 국회에서부터 논의가 됐던 사안 그리고 정부에서도 의견을 갖고있는 것 같고 또 전향적인 자세를 보여주는 측면 (중략) 정점식 의원안을 중심으로 해서 수석님하고 정부하고 협의해서 안을 만들고 그 조문을 갖고 다음에 소위원장께서 말씀하신 축조심사나 이렇게 하는게, 그 때 의견을 제시하고 이러는게 맞지않나 싶어요.

이 말은, 정점식(안)을 중심으로 과기부와 국회 과방위 수석이 수정안을 만들면 다음 소위에서 구체적으로 논의하자. 이런 말이다. 1차 소위는 사실상 그렇게 끝났다. 이로써 법안의 실질적 주도권이 과기부와 국회 수석에게 넘어간 것이다.

※ 정점식 법안을 주목해야 하는 이유

정점식(안)을 주목해야 하는 이유는 이게 사실상 정부(안)이기 때문이다. 규제조항 중심으로 1차 법안소위 심사 대상 7건의 법안을 비교해보면 아래 <표>와 같다.

현행법 규제조항	안철수(안)	정점식(안)	조인철(안)	김성원(안)	민형배(안)	권칠승(안)	한민수(안)
제31조(인공지능 투명성 확보 의무)	있음 *생성형 포함	있음 *생성형 포함	있음 *생성형 없음	있음 *생성형 없음	있음 *생성형 포함	있음 *생성형 없음	있음 *생성형 포함
제32조(인공지능 안전성 확보 의무)	없음	있음	없음	없음	없음	없음	없음
제33조(고영향 인공지능의 확인)	있음	있음	있음	있음	있음	있음	있음
제34조(고영향 인공지능과 관련한 사업자의 책무)	있음	있음	있음	없음	있음	없음	있음
제35조(고영향 인공지능 영향평가)	없음	없음	없음	없음	없음	없음	없음

현행 인공지능 기본법에서 규제조항으로 분류되는 제31조부터 제34조까지의 내용이 정점식(안)과 동일하다. 제32조(인공지능 안전성 확보 의무)의 경우 정점식(안)에만 있는 내용인데, 단순히 일정 규모 이상 AI라고 하여 안전 확보 의무를 부담하게 하는 것은 과잉금지원칙에 반할 우려도 있다.

정점식 의원_이훈기 의원

※ 제35조는 어떻게 들어갔나?

제35조(고영향 인공지능 영향평가)는 일단 1차 법안소위 상정 7건 법안 중에는 없다. 이 규제조항을 처음으로 법안에 담아 발의한 의원은 이훈기 의원이다. 과방위 소속 위원이고, 1차 법안소위 직후인 9월 12일에 발의했다. 이훈기 의원 법안 중 해당 조문은 아래와 같다.

제29조(인공지능 영향평가)
①고위험영역 인공지능 관련 사업자는 인공지능 제품 또는 서비스를 제공하기 전에 국민의 기본권에 미치는 영향을 평가(이하 “영향평가”라 한다)하기 위하여 노력하여야 한다.
② 과학기술정보통신부장관은 중소기업등의 영향평가 실시를 지원하기 위한 사업을 추진할 수 있다.
③ 국가기관등은 고위험영역 인공지능을 이용한 제품 또는 서비스를 제공받으려는 경우에는 영향평가를 실시한 제품 또는 서비스를 우선적으로 고려하여야 한다.
④ 제1항에 따른 영향평가의 구체적인 내용ㆍ방법 및 제2항에 따른 사업의 추진 등에 필요한 사항은 대통령령으로 정한다.

이훈기(안)의 제29조는 현행법 제35조와 매우 유사하다. 그런데, 이런 의문이 든다. 이훈기(안)의 인공지능 영향평가 조항은 누가 만들었을까? 이훈기 의원이 직접 만들었을까? 혹시 이 또한 과기부가 만들어 이훈기 의원에게 발의토록 한 것은 아닐까? 아무튼 이렇게 제31조부터 35조까지의 인공지능 규제조항이 설계되었다. 이 부분에 대해서 과방위 법안소위 심사에서는 어떤 논의가 오갔는지, 2차 법안소위 심사 속기록을 살펴보자.

▶2024년 11월 21일 2차 법안소위

인공지능법안의 구체적인 내용이 처음 진행된 날이다. 1차 소위 이후 이날까지 추가로 발의된 인공지능법안은, 황희(8-27), 배준영(8-28), 이훈기(9-12), 김우영(9-24), 이정헌(10-29), 황정아(11-1), 이해민(11-11), 정동영(11-11), 최민희(11-14), 조승래·이인선*2건(11-18), 정희용(11-18) 의원 법안이다. 이렇게 총 19건의 법안이 함께 심사되었다. 그런데 위에서 본 것처럼 1차 법안심사에서 정점식(안)을 중심으로 과기부와 국회 수석전문위원이 대안을 만들었기 때문에 추가로 발의된 법안은 별 의미가 없다.

인공지능 기본법 처리경과

현재 문제가 된 제31조부터 35조까지의 규제, 즉 인공지능 투명성 확보 의무, 안전성 확보 의무, 고위험 영역 인공지능의 확인, 고위험영역 인공지능과 관련한 사업자의 책무, 영향평가 이 부분에 대해서 소위에서는 단 한사람도 문제를 제기하지 않았다. 그럼 소위에서 주로 무슨 이야기를 했냐? 고위험·고영향 중 어떤걸 쓸까? 법안 제목을 뭘로 하는게 좋겠니? 과태료를 얼마로 할까? 일부 표현이나 용어는 수정하는게 좋겠다. 이런 정도의 내용이라고 보면 된다. 대한민국 인공지능 산업의 발전을 위해 그렇게 중요한 법이라고 하는데, 법안심사 내용이 이렇게 허술하다는 것이 무척 놀랍다.

★ 인공지능 기본법은 어쩌다 규제법이 되었나?

인공지능 기본법이 통과됐을 때 "세계 두 번째로 인공지능법을 마련"했다며 떠들석했다. 그 때만 해도 인공지능 기본법의 규제에 대해 아무도 말하지 않았다. 그런데 과방위 위원으로서 이 법안을 심사했던 황정아 의원이 인공지능 기본법을 규제법이라며 규제조항에 대한 3년 유예를 주장했다. 그렇게 인공지능 기본법은 규제법이 되었다. 어쩌다 이렇게 되었나? 전체적으로 다시 한번 정리해본다.

1. 21대 국회에서 사실상 합의를 이룬 인공지능법은 여야정쟁으로 제정되지 못했다. 다만, 당시 합의(안)은 현행 인공지능법 보다는 규제 수준이 대체로 낮았다.
2. 22대 국회에서 과기부는 정부안을 제출하지 않았다. 대신 정점식 의원 발의 법안에 정부측 입장과 필요사항을 담았다. 과방위 법안소위에서는 정점식(안)을 중심으로 심사가 이루어졌다.
3. 현재 인공지능 기본법의 규제 조항은 정점식 법안(제31조~제34조)과 이훈기 법안(제35조)의 내용에 근거하고 있다.
4. 과방위 법안소위에서 법안을 심사할 때 이 기본법에 담겨있는 규제적 요소에 대해서는 아무도 문제제기를 하지 않았고, 당연히 정부측 의도대로 통과되었다.
5. 참고로 과기부가 정부안을 국회에 제출하지 않은 이유는 자체 규제심사를 회피하면서 이 법을 빨리 제정하려고 했던 것으로 보인다.(정부가 법안을 준비하고, 의원 이름으로 대신 발의하는 청부입법의 전형이다)
6. 인공지능법의 규제조항 시행을 3년 유예하자는 황정아 의원은 정작 인공지능법 의결 과정에서 아무런 문제제기를 하지 않았다. 이것도 좀 납득이 가지 않는다.

아무튼 황정아 의원의 주장이 사실이라면, 인공지능 산업의 진흥을 위해 만든 법이 인공지능 기술발전을 저해하고 기업혁신을 위축시키는 요인이 되었다. 황정아 의원의 주장이 전적으로 옳다는 뜻은 아니다. 그러나 이번 인공지능법을 계기로 국회의원의 청부입법 문제, 정부에서 설계한 규제가 의원입법 형식으로 추진되는 경로, 국회 상임위 법안 심사의 허술함 등을 전반적으로 복기해 볼 필요가 있다.