1. AI 기본법 추진 배경 및 진행 경과
인공지능(AI) 기술은 이제 국가 경쟁력의 핵심 요소로 자리 잡았다. 미국, 중국을 비롯한 주요국들이 AI 기술 패권을 두고 치열한 경쟁을 벌이는 가운데, 우리나라도 AI 산업 육성을 위한 법적 기반 마련이 시급하다는 주장이 있다. 과학기술정보통신부(이하 과기부)는 인공지능 정책의 기본 방향과 투자 방향, 전문 인력 양성을 포함한 기반 조성, 윤리 원칙 확산과 신뢰 기반 구축, 그리고 AI로 인한 사회 변화에 대해 대응하기 위해서 AI 기본법이 필요하다는 의견이다.
이러한 배경 하에서 21대 국회는 기존 7개의 법률안을 통합한 '인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안'을 과학기술정보 통신위원회 법안소위에서 통과시켰다. 그러나 이 법안은 시민사회의 강력한 반발에 부딪혔다. 참여연대는 "우선 허용·사후 규제 원칙이 문제일 뿐 아니라 고위험 인공지능에 대하여 아무런 금지나 처벌 조항이 없다"며 비판했다. 또한 "신뢰할 수 있고 안전한 인공지능을 장려하기 위해서는 금지되는 인공지능, 고위험 인공지능 등에 대한 명확한 규정과 이에 대한 의무, 책임 및 권리구제에 대한 실효성 있는 방안을 포함한 기본법적 내용을 담아 22대 국회에서 제대로 논의하여 제정할 것"을 촉구했다.
이후 22대 국회에서 법안이 재 논의되어, 2024년 11월 26일 국회 과학기술정보방송통신위원회는 19개 법안을 병합 심사한 후 법사위 위원회 대안으로 통과시켰다. 마침내 2024년 12월 26일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)'이 국회 본회의를 통과했으며, 2025년 1월 14일 국무회의에서 최종 의결되었다.
2. 법안의 주요 내용과 한계
이번에 통과된 AI 기본법의 가장 큰 문제점은 크게 세 가지로 요약할 수 있다.
첫째, AI 서비스에 대한 금지 조항이 없다는 점이다. EU의 AI Act는 'Unacceptable Risk(수용 불가능한 위험)'라는 개념을 도입하여 살상 무기에 탑재되거나, 인간의 잠재의식을 왜곡·조종하거나, 특정 집단의 취약성을 악용하는 AI를 명시적으로 금지하고 있다. 반면 우리나라의 AI 기본법은 이러한 위험한 AI 서비스에 관한 규정조차 두지 않았다.
둘째, 고위험 AI에 대한 규제 실효성이 미흡하다. 법안은 고위험 AI를 규정하고는 있으나, 위반 시 제재 조항이 직접적이지 않고 시정을 위한 행정조치마저 과기부의 재량에 맡겼다. 이는 첨단산업 지원을 주 업무로 하는 과기부가 법안을 전담하게 된 시점부터 예견된 일이었다. 국가인권위원회가 2023년 8월 AI 감독·규제 업무를 독립된 제3의 기관이 수행해야 한다고 지적했음에도, 이러한 우려가 반영되지 않았다. 국무총리 산하에 국가인공지능위원회를 두도록 한 것은 그나마 다행이지만, 이 위원회에는 실제 AI의 영향을 받는 시민의 처지를 대변할 수 있는 구성원이 포함되어 있지 않다. 고위험 AI 사업자의 의무 위반에 대한 처벌도 미약하여, 과기부의 시정명령을 이행하지 않을 때만 과태료가 부과되는 수준이다. AI의 영향을 받는 자에 대한 정의는 포함되었으나, 정작 이들의 권리와 구제 방안에 관한 조항은 찾아볼 수 없다.
셋째, AI 서비스 개발의 근간이 되는 지식재산권 보호와 관련된 내용이 미비하다. AI 개발에 사용되는 학술과 지식, 지식 생산자와 창작자의 권리, 그리고 지속적인 지식 재생산을 위한 제도적 장치가 빠져 있다. 범용 AI 사업자의 학습 데이터 공개 의무도 빠졌다. 관련 조항은 제31조의 '인공지능의 투명성 확보 의무' 중 생성형 AI 결과물 표시 의무가 전부인데, 이마저도 최근 딥페이크 논란에 따른 사후적 대응으로 보인다. 문화체육관광부가 저작권 문제로 우려를 제기했음에도, 정청래 법사위원장은 "미진한 부분은 개정안으로 해결하면 된다"라며 원안 통과를 강행했다. 하지만 이로 인한 피해가 저작권자들에게 광범위하게 발생할 수 있다는 점을 고려할 때, 이처럼 서둘러 법을 제정해야 할 이유가 있었는지 의문이다.
3. 국제 기준과의 괴리
2019년 5월 경제협력개발기구(OECD) 산하 디지털 경제 정책 위원회(CDEP, 현재는 DPC로 이름 변경)의 제안에 따라 OECD 이사회 장관급 회의는 AI 원칙을 채택하였다. 여기에는 OECD 회원, G20 등 40개 국가가 서명했으며 우리나라도 여기에 서명한 국가 중 하나이다. OECD AI 원칙은 포용적 성장과 지속 가능한 개발, 인권과 민주주의 가치 존중, 투명성 및 설명 가능성, 견고성과 보안성, 그리고 책임성이라는 다섯 가지 핵심 가치를 담고 있다. 비록 구속력은 없지만, 서로 다른 방향성을 보이고 있었던 EU와 미국(당시 트럼프 행정부)이 함께 합의했다는 점에서 국제적으로는 중요한 기준점이 되고 있다. 또한 2021년 11월에는 유네스코가 193개 회원국의 만장일치로 AI 윤리 권고안을 채택했으며, 2024년 3월에는 UN 총회에서는 AI 시스템의 안전성과 신뢰성에 관한 결의안을 채택했다.
이번에 통과된 AI 기본법은 이러한 국제 기준과 상당한 괴리를 보인다. 주요한 문제점은 크게 세 가지로 요약된다.
첫째, 국제적 협력과 표준화에 대한 고려가 미흡하다. OECD AI 원칙은 국제적으로 통용할 수 있는 거버넌스와 정책 환경의 중요성을 강조하고 있으나, AI 기본법은 제13조 3항에서 과기부 장관의 국제표준 기구와의 협력 의무만을 간단히 언급할 뿐이다. UN 결의안이 강조하는 국제적 안전장치와 표준의 공식화, 개발도상국과의 협력을 통한 격차 해소 등의 내용도 찾아볼 수 없다.
둘째, AI 시스템의 전 주기적 관리 체계와 윤리적 고려 사항이 결여되어 있다. OECD AI 원칙은 투명성, 설명 가능성, 견고성 등 구체적인 윤리적 원칙을 제시하고, 설계 단계부터 윤리적 고려 사항을 반영할 것을 강조한다. 그러나 AI 기본법은 이에 대한 구체적 기준과 실행 방안을 제시하지 못하고 있다. AI 서비스의 설계, 개발, 테스트, 배포, 사용, 폐기에 이르는 전 과정에서 윤리적 기준을 어떻게 적용하고 관리할 것인지, 기업의 역량에 따른 차별화된 지원과 감독은 어떻게 이루어질 것인지 등 실질적인 내용이 부족하다.
셋째, 디지털 격차 해소에 대한 고려가 부족하다. 현재 우리 사회는 디지털 리터러시와 AI 리터러시의 차이에 따른 격차가 점차 확대되고 있다. OECD AI 원칙과 UN 결의안은 이러한 격차 해소의 중요성을 강조하고, 특히 UN은 선진국들이 개발도상국을 지원하여 AI 기술의 혜택이 공정하게 분배되어야 한다고 명시하고 있다. 그러나 AI 기본법은 이러한 디지털 격차 해소를 위한 구체적인 방안을 담고 있지 않다.
4. 제언
국회를 통과한 AI 기본법은 우리나라 최초의 AI 관련 기본법이라는 상징성에도 불구하고, 실질적인 내용 면에서 많은 아쉬움을 남긴다. 특히 AI 서비스의 잠재적 위험성에 대한 고려가 부족하고, 시민의 권리 보호보다는 산업 진흥에 초점이 맞춰져 있다는 점에서 우려된다. 이제라도 정부와 국회는 AI 기본법의 한계를 인정하고, 보완 입법과 시행령 마련에 속도를 내야 한다.
첫째, 금지되어야 할 AI와 고위험 AI에 대한 명확한 규정과 실효성 있는 규제 방안을 마련해야 한다. 둘째, AI 감독을 위한 독립적인 기구를 설치하고, 이 기구에 실질적인 권한을 부여해야 한다. 셋째, AI 서비스의 전 생애주기에 걸친 윤리적 관리 체계를 구축하고, 이를 위한 구체적인 지침을 제시해야 한다. 또한 정부는 AI 기술의 혜택이 모든 시민에게 공평하게 돌아갈 수 있도록 디지털 격차 해소를 위한 실질적인 정책을 마련해야 한다. AI 리터러시 교육을 강화하고, 취약계층에 대한 지원을 확대하며, AI 서비스의 접근성을 높이기 위한 구체적인 방안을 수립해야 할 것이다.
마지막으로, AI 관련 법 제도를 마련하는 과정에서 시민사회와 전문가들의 의견을 충분히 수렴하고, 국제 사회의 기준과 발맞춰 나가려는 노력이 필요하다. AI 기술의 발전 속도와 그 영향력을 고려할 때, 이는 더 이상 미룰 수 없는 과제다.
전체댓글 0