정부는 7540억 원을 들여 범부처 AI전환 전력질주(AX-Sprint) 프로젝트를 추진 중이다. 이에 맞춰 보건복지부도 공공의료 인공지능 전환에 이어, 지난 3월 31일 '디지털 의료기기 신속 상용화'와 '보건의료 전주기 AI전환 사업'을 잇달아 발표했다. 같은 날 국회 앞에서는 'AI데이터센터 특별법' 반대 기자회견이 열렸다. 시민사회는 재생에너지 원칙도 없고, 지하수 고갈∙탄소 배출∙송전망 입지에 따른 환경 부담은 지역에 떠넘기는 '특례법'이라고 규탄했다. 두 장면은 정부가 산업진흥을 위해 공세적으로 AI 전환을 밀어붙는 동안, 그 영향을 받는 사람과 환경에 대한 보호는 의제 바깥에 있다는 사실을 보여준다.
AI 피해와 환경 피해는 서로 다른 영역이지만 전통적 법체계로 포착하지 못한다는 공통점이 있다. 즉, 피해가 광범위하게 분산되고, 인과관계를 입증하기 극히 어려우며, 드러났을 때는 이미 되돌리기 어렵고, 피해자가 자신이 피해를 입었다는 사실조차 모르는 경우가 많다는 것이다. 기존의 법리(계약·불법행위)는 피해자가, 개별적으로, 직접적 피해를 입증할 때 작동하도록 설계되어 있다. 하지만 AI 피해와 환경 피해는 이 전제를 충족하지 않는다.
지금은 AI 면접 스크리닝으로 탈락한 구직자가 알고리즘이 자신을 무슨 이유로 걸러냈는지 모른다. 조류 충돌로 인해 무안공항-제주항공같은 참사가 일어날 것을 걱정한 사람도, 기후위기 시대에 광대한 탄소흡수원인 갯벌이 사라지는 것을 우려한 사람도 "법률상 이익이 없다"는 이유로 새만금신공항 취소소송의 원고가 되지 못했다. 1297명의 소송인단중 단 3명만 원고로 인정받은 것이 이 구조의 귀결이다.
하지만 "법률상 이익이 없다"는 사법적 판단은 피해가 없다는 뜻이 아니다. 그것은 내 삶에 영향을 미치는 중요한 결정에 목소리를 낼 자격을 박탈당했다는 뜻이다. 그렇다면 우리는 법제도적 공백 상태에 있는 공공의 이익과 시민의 권리를 보호하기 위해서 무엇을 해야 할까.
첫째, 영향받는 사람의 권리를 법제화해야 한다.
유럽연합 인공지능법(EU AI Act, 2024)은 AI 시스템의 직접 사용자가 아니더라도 그 결정으로 권리와 이익이 달라지는 자를 '영향받는 사람(affected person)'으로 규정하고, 고위험 AI 시스템의 영향을 받는 사람에게 다음 권리들을 부여하였다. 자신에게 영향을 미친 AI 결정의 논리와 근거에 대한 설명요구권, 완전 자동화된 결정에 대해 인간의 재검토를 요청할 수 있는 인간검토요구권, AI 결정에 불복하여 이의를 제기할 수 있는 이의제기권, 고위험 AI 시스템이 사용되고 있다는 사실을 통지받을 수 있는 알 권리가 그것이다(☞관련자료 바로가기).
한국 인공지능기본법은 '영향받는 자'를 언급하지만, 설명·검토·이의제기 권리를 그에게 직접 부여하는 규정은 없다. 만일 알고리즘이 잘못 작동하고 있다는 사실을 알게 된다고 해도 개별 시민이 설명을 요구하거나 이의를 제기할 창구가 없다. 이를 보완하기 위해 독립 감독기구를 통한 집단 구제 창구의 신설이 필요하다.
환경 분야에서도 원고적격의 기준을 개인의 "법률상 이익"에서 집단의 "사실상 영향"으로 확대해야 한다. 환경 파괴는 본질적으로 집단적 피해이므로, 환경단체나 비정부기구(NGO)에 공익을 대표하는 소송의 원고적격을 부여하는 입법이 필요하다. EU 대표소송 지침(Directive 2020/1828)은 적격 단체가 소비자의 집단적 피해를 대리해 소송을 제기할 수 있게 했다(☞관련자료 바로가기). 이 모델을 공공의 환경·기술 피해 영역으로 확장하는 것이 바람직하다.
둘째, 보호되는 이익의 범위를 확대하고 입증 책임을 전환해야 한다.
새만금 간척지의 변모를 처음부터 지켜보며 기록하고 있는 시민생태조사단 오동필 단장은 이렇게 말한다.
"새만금사업으로 저렴한 생선과 패류 가격이 상승해 서민의 음식이 비싸지면서 가계에 직접적인 부담이 생겼습니다. 해산물이 풍부하던 음식문화를 더 이상 누릴 수가 없게 되었습니다. 또 낚시와 조개잡이, 생태 체험과 탐조의 공간이 사라졌습니다. 해안가에서 누릴 수 있었던 이 공유지의 가치는 특정 개인이 아니라 우리 모두의 것이었습니다."
이 말 속에 담긴 피해는 매우 광범위하고 회복하기 어려운 실질적 손해이며, 금전 보상으로 갈음될 수 없다. 공유지의 훼손, 지역 공동체의 문화적 상실, 미래세대의 생태적 권리 침해는 집합적 피해로 인정되어야 한다.
동시에 피해를 입증하는 책임의 방향을 전환해야 한다. 공중보건학 뿐만 아니라 환경법과 국제법에서 사전주의 원칙은 피해가 과학적으로 완전히 입증되기 전이라도 심각한 위험이 있다면 예방 조치를 취해야 한다고 요구한다. 사후 피해에 대하여 피해자가 피해를 입증하고서야 구제하는 것이 아니라, 개발자·사업자가 사전에 특정 기술 또는 개발사업의 안전성을 먼저 증명하도록 해야 한다.
셋째, 시민지식이 정책 과정에 실질적으로 반영되도록 제도화해야 한다.
수많은 국내외 시민과학의 사례들은 현장의 경험에서 축적된 앎(Lay knowledge)이 전문가 지식이 놓치는 정보를 담고 있다는 것을 보여준다. 앞에서 본 오동필 단장의 증언은 대규모 간척사업이 식품 가격과 지역주민의 생활 방식에 미친 영향에 대한 삶의 언어이다. 이런 지식은 정부가 작성하는 환경영향평가 보고서에서 절대 볼 수 없는 내용이다. 이런 시민지식은 정책의 지식 기반을 넓히고, 침묵당했던 목소리를 포함하며, 환경 부담의 불균등한 분배를 드러낸다(☞관련논문 바로가기).
오르후스협약(Aarhus Convention, 1998)은 현재 및 미래 세대의 모든 사람이 건강한 환경에서 살 권리를 보호하기 위해, 시민과 시민사회단체에게 정보접근권, 의사결정 참여권, 사법접근권이라는 세 가지 절차적 권리를 국제 기준으로 부여했다. 오르후스협약은 원래 정부가 보유한 환경 정보에 시민이 접근할 수 있게 하는 데 초점을 맞췄다.
그러나 그 논리 순서(알아야 참여하고, 참여해야 다툴 수 있다)를 뒤집어 시민지식의 제도화에 적용하면, 시민의 권리가 아니라 국가가 이행해야 할 의무로서 세 단계가 도출된다. 결정 이전 단계에서 지역 주민과 이용자의 경험을 체계적으로 수집·기록하는 절차의 의무화, 수집된 지식의 반영 여부와 이유의 명시적 기록, 무시되었을 때 독립된 기구에 이의를 제기할 수 있는 통로의 보장이 그것이다. 한국은 오르후스협약에 가입하지 않았지만, 이 원칙은 입법 기준으로 충분히 참조할 수 있다.
현재 정부가 AI전환 정책을 속도전처럼 추진하는 가운데, 환경영향평가를 면제하고 인허가 절차를 간소화하는 AI데이터센터 특별법은 이러한 방향과 정면으로 충돌한다. 임상적 근거가 부족한 기술의 시장진입을 용이하게 하는 인공지능 응용제품 신속 상용화 계획은 오히려 정책 당국에 대한 시민들의 신뢰를 저하시키고 갈등을 촉발할 뿐이다. 기술의 속도만큼 시민의 민주적 참여를 보장하고 기술이 초래하는 윤리적 문제들을 해결하는 사회적 제도도 함께 발전해야 한다.
AI 전환과 대규모 개발사업이 동시에 가속화되는 지금, 두 분야가 공유하는 문제 구조에 대한 공통의 해법이 필요하다. 원고적격의 확대, 보호 이익의 확장, 시민지식의 제도화 - 이 세 방향이 결합될 때, 결정의 영향권 안에 있는 사람들이 비로소 법의 보호권 안으로 들어올 수 있다. 시민을 보호하는 전력질주가 먼저다.
전체댓글 0