한국 사회의 주류 공론장이 AI 기술의 급속한 개발과 장밋빛 전망에만 경도된 채, 그 뒤에 가려진 생태 파괴와 자원 착취라는 부작용은 외면하고 있다는 전문가들의 비판이 제기됐다. 특히 한국의 AI 담론이 기술만능주의에 편향돼 있고, 소수 전문가 집단에 의해 폐쇄적으로 형성되고 있다는 지적이다.
김병권 녹색전환연구소장, 김지연 고려대 과학기술학연구소 박사, 김혜린 기후자원정의센터 아크 대표, 이광석 서울과학기술대 교수 등은 20일 오후 서울 마포구 서교동 청년문화공간 JU에서 열린 '첨단 AI가 지불하는 거대한 생태 비용' 토론회에 참석해 이같이 밝혔다.
이광석 교수는 "한국에서 AI는 마치 청정기술이나 고된 노동과 비효율로부터 인간을 해방하는 도구, 문명사적 발전의 상징처럼만 다뤄진다"며 "그러나 이는 허상에 가깝다. 우리는 AI 실체를 제대로 파악해야 한다"고 지적했다.
이 교수는 AI의 부정적 측면에 대해 "요새는 연구자들조차 책을 덜 읽는다. 외국 서적 전자파일을 AI에 집어넣어 요약해달라고 하는 식"이라며 "독서, 요약, 정리, 생각을 AI가 대신하면서 생기는 사고의 공백, 이게 인간에게 어떤 영향을 미칠 것인가"라고 우려했다.
노동 면에선 "주류 언론이나 공학자들은 '인간해방'이라나 일자리가 사라질 거란 관망적 평가로 일관하나, 현실에서 진짜로 무슨 일이 일어나고 있는지 봐야 한다"고 말했다. 그러면서 "매끄러운 AI 자동화 환상 뒤엔 보이지 않는 노동, '유령 노동'이 있다"며 "데이터 라벨링, 콘텐츠 필터링 등 AI 시스템 유지를 위해 저임금으로 수행되는 불안정한 노동"을 말했다.
김병권 소장도 "'소수의 천재'만 동원되는 게 아니라 평범한 사람들의 막대한 노동이 투입되고 있다"고 말했다. 윤리적 문제가 없도록 AI 시스템에 들어갈 막대한 데이터를 정제하는 노동은 주로 케냐 등의 남반구 국가 노동자들을 시급 1~2달러 저임금으로 대거 고용해 이뤄지고 있다.
이 교수는 나아가 "AI의 '스마트함'은 지구의 '고통'을 연료로 삼는다"며 "과거 산업공해는 눈에 보였지만, AI의 독성은 당장 눈에 안 보인다. 그러나 시공간을 가로지르는 파괴적인 영향을 미친다"고 강조했다. 탄소 배출, 수질 오염, 전자 폐기물 등의 생태·기후 파괴와 전력 에너지 과다 소비, 무차별적인 광물 채굴 등의 문제다.
"엄청난 노동·광물·전력 집약 산업"
김병권 소장은 "우리 대부분이 AI는 진실을 이야기하고 '가끔' 실수한다고 착각한다"며 "그러나 AI는 확률론적 앵무새"라고 말했다. "AI 설계상 통계적으로 가장 빈번히 등장하는 내용을 추출해 답할 뿐"이라며 "확률적으로 그럴듯한 이야기를 하는 것인지, 진실과 사실을 이야기하는게 아니"라는 것이다.
김 소장은 또 "시장지배력을 높이려는 과도한 출혈경쟁과 과대광고에 기반한 현재의 AI 시장에 대한 거품론은 유럽, 미국 등에서 강력하게 등장하고 있지만, 한국은 그렇지 않다"며 "'거품이 있을지언정 기술이 발전하니 괜찮다'는 최근 (하정우) AI 수석의 발언은 더 놀라웠다"고 비판했다. "거품이 꺼지면 일부 소수는 이익을 볼 테지만, 우리 같은 일반 시민은 매우 큰 피해를 보게 된다"며 "이를 쉽게 숨기는 발언"이라고 지적했다.
나아가 "AI의 위험성을 계속 미래의 문제처럼 다룬다"며 "먼 미래에 낙관적으로 쓰일 건지, 아닌지를 이상적인 수준에서 얘기하지만, 문제는 지금 당장 이 순간에 사회적으로, 생태적으로 AI가 위험하게 쓰이고 있다는 사실"이라고 밝혔다. 그 예로, 최근 미국 국방부와 앤트로픽사의 갈등을 들었다. 앤트로픽은 자사의 AI 기술을 미국인 감시와 자율 살상 무기 개발에 이용하는 것을 반대하면서 미국 정부와 마찰을 빚고 있다.
김혜린 대표는 "AI는 엄청난 물질적 기반을 토대로 한 산업"이며 "AI 학습에 쓰이는 GPU 반도체도 매우 금속 집약적인 부품임을 알아야 한다"고 말했다. GPU의 성분은 구리, 철, 주석, 실리콘, 니켈 등의 금속이다.
"기술 담론에 대중이 참여해야"
김지연 박사도 "AI는 들쭉날쭉한 지능에 가깝다"며 "복잡한 작업을 수행하는 한편, 매우 단순한 작업에서 황당하게 실패하는 현상"이라고 말했다. 이어 "제 분야에선 합리적이고 효율적인 의사 결정을 하다가도, 어느 순간엔 상식적으로 형편없는 결정을 내리는 전문가와 유사하다"며 "AI는 기술만의 문제가 아니라 근대적 세계관과 연관됐다"고도 밝혔다.
그는 "과학주의와 전문가주의를 표방한 근대사회는 표준적인 질서를 내세워 빠른 성장을 추구하고, 대중을 고립시키고 침묵하게 했다"며 "이는 반론을 허용하지 않고, 논쟁을 제거하며, 전문가들에게만 발언권을 주게 된다"고 설명했다.
김 박사는 이 측면에서 "일방적 접근이 아닌 관계적 접근"과 "대중의 개입과 참여"를 강조했다. 그는 "다양한 행위자 사이에서 나타나는 갈등을 드러내며 논쟁을 활성화하고 가시화해야 한다"며 "이를 위해 기술에 대한 대중의 개입을 가능케 하는 제도가 필요하다. AI 사용자들의 문제 제기와 경험 공유가 의미 있는 역할을 할 수 있다"고 제안했다.
그러나 "현재 국가인공지능전략위원회는 엘리트 전문가 중심의 위원회로 대중적이고 다양한 견해를 모으고, 논쟁을 만들고, 담론을 활성화하는 데엔 전혀 기여하지 못한다"며 "프랑켄슈타인의 잘못은 괴물을 만든 것이 아니라 방치한 것에 있다는 말을 기억해야 한다"고 경고했다.
김병권 소장은 "'진보'를 자처한 정부가 정체성의 표현으로 첨단 기술을 적극 수용한 역사를 보면, 이들 정부가 기술지상주의를 확장시키는데 책임이 있지 않느냐"며 "이재명 정부는 어느 정부보다 첨단 기술에 집착하고 있다"고 지적했다.
그러면서 "빠르게 확장하는 산업과 이 산업의 부작용을 우려하고 피해를 받는 시민들이 있을 때, 정치는 사회가 한 쪽에 치우지지 않도록 균형을 잡아야 하는데도 정치가 기술과 함께 가버리니 (비판) 의견이 나오기가 어렵게 된다"고 밝혔다. 그는 "지구 생태계의 수용 능력 범위 안에서 작동하는 생태적 인공지능이 가능하도록, 국가의 통제가 필요하다"고 강조했다.
전체댓글 0