시민단체, 인공지능 챗봇 '이루다' 인권위에 진정

"인공지능·알고리즘 오남용으로 인한 인권침해에 국가의 보호 필요"

혐오발언과 개인정보 유출 등의 논란을 빚은 인공지능(AI) 챗봇 '이루다' 사건과 관련해 개발사를 조사하고 정부에 관련 제도 개선을 권고해달라는 진정이 국가인권위원회에 접수됐다.

민주사회를위한변호사모임, 정보인권연구소, 참여연대, 차별금지법제정연대, 진보네트워크센터 등 인권·시민단체들은 3일 "'이루다' 사건은 개별 인권침해 사안일 뿐만 아니라 인공지능 기술의 남용이 인권에 미칠 수 있는 부정적인 영향을 보여준 대표적인 사안"이라며 인권위에 관련 정책 전반에 대한 개선 권고를 요청했다고 밝혔다.

이들은 "'이루다' 사건은 사적 영역의 문제 또는 한 기업의 일탈 행위가 아니"라며 "기업의 자율적 규제를 대안으로 제시하는 일부 주장에 깊은 우려를 표한다"고 밝혔다.

이들은 "'이루다' 사건으로 드러난 인공지능, 알고리즘 오남용으로 인한 광범위한 인권침해와 차별의 위험성은 국가의 적절한 보호조치를 통해 예방·방지돼야 한다"며 "'이루다' 사건은 인공지능의 남용으로 인한 프라이버시권 및 표현의 자유 침해에 국가의 제도적 보호가 부재했음을 드러낸 사안"이라고 강조했다. 국제규범인권은 사인에 의한 인권침해에 국가가 적절한 보호조치를 취하지 않는 경우도 국가에 의한 인권 침해로 보고 있다.

이어 "우리나라는 이른바 제4차 산업혁명이라는 미명 아래 상업적 분야에서 인공지능 기술 등 신기술이 무비판적으로 도입되고 있으며 개인정보의 상업적 활용이 무분별하게 허용된다"며 "정보 주체인 시민들의 권리를 보장하기 위한 입법적, 행정적 기반은 전무하다"고 지적했다.

이들은 "오히려 시민사회의 우려와 반대에도 불구하고 도입된 '데이터 3법'으로 인해 개인정보의 동의 없는 상업적 활용이 폭넓게 허용되고 인공지능 기술, 자동화 의사결정 등에 대한 규제도 없다"고 꼬집었다.

이들은 "유엔 인권최고대표, 유엔 의견과 표현의 자유 특별보고관 등은 인공지능기술 활용으로 인한 프라이버시 및 표현의 자유 침해 방지를 위한 구체적인 제도를 수립하고 정보주체의 권리를 보장할 것을 권고하고 있다"며 "호주 국가인권위원회, 연방반차별국, 네덜란드 인권위원회 등 해외 국가인권기구들은 인공지능기술에 따른 인권침해와 차별을 막기 위해 적극적인 조치를 취하고 있다"고 설명했다.

그러면서 "인권위는 이처럼 공적 보호의 부재로 인한 인권침해 상황을 엄중히 인식해 신속히 관련 정책을 점검하고 권고를 내려야 한다"고 했다.

이들은 정책권고 제안서에 인권위가 '이루다' 사건과 관련해 철저한 조사와 배상을 권고할 것을 촉구하며 △사적주체도 대상에 포함하는 실효성 있는 영향평가제도 구축 및 감사제도 도입 △인공지능에 의한 차별을 규율하기 위한 기반으로서 평등법(차별금지법)의 제정 △프로파일링 및 자동화된 의사결정 거부권 등 정보주체의 권리 보장 △개인정보보호법 상 가명정보 및 동의제도에 관한 규정 정비 및 구제절차 보장 △인공지능 기술의 활용에 있어 기업 등이 준수해야할 가이드라인 개발 및 보급 등을 권고할 것을 제안했다.