AI를 향한 유발 하라리의 경고, 우린 왜 이토록 자기파괴적일까?

<와이어드>를 창간한 케빈 켈리가 2002년 구글의 파티에 참석했다가 래리 페이지와 이야기를 나누었다.

"래리, 나는 아직도 이해가 안 돼요. 수많은 검색 회사가 있어요. 이런 상황에서 웹 검색을 무료로 제공한다고요? 그렇게 하면 뭘 얻을 수 있죠."

그가 진짜 목표는 검색이 아니라고 설명했다.

"우리는 인공지능(AI)을 만들고 있어요."

이때만 해도 이랬다. 이미 AI는 자칫 인간을 뛰어넘었을지 모른다.

인간의 존엄은 복잡한 생명 시스템과 지능에 근거한다. 그런데 근거가 AI와 합성 생물학에 의해 도전받고 있다. 우리는 노래방 기계에게 노래 가사를 아웃소싱하면서 노래 가사를 기억에서 삭제했다. 얼마 후면 인간의 지능조차도 두뇌 바깥의 AI 클라우드 시스템에게 맡기고 말 것이다. 그때의 인간을 여전히 '호모사피엔스', 지혜로운 인간이라고 부를 수 있을까. 여전히 인간은 다른 생물과는 구별되는 존엄성을 주장할 수 있을까.

유발 하라리가 <넥서스>에서 AI의 위험성을 경고함과 동시에 강력한 자정 장치를 요청한다.

"우리가 지혜로운 사람이라면 우리는 왜 이토록 자기 파괴적일까? 우리는 지구상에서 가장 영리한 동물인 동시에 가장 어리석은 동물이다. 우리는 핵미사일과 초지능 알고리즘을 만들어낼 수 있을 정도로 영리하다. 하지만 통제할 수 있는지 확실하지 않고 통제하지 못하면 우리를 파괴할 수 있는 것들을 덮어놓고 생산할 정도로 어리석다. 우리는 왜 이렇게 할까? 인간 본성의 어떤 부분이 우리를 자기 파괴의 길로 내모는 걸까?"

그가 답한다. "그것은 인간 본성 탓이 아니라 정보 네트워크 탓"이라고 주장한다. "진실보다 질서를 우선시한 탓에 인간의 정보 네트워크들은 엄청난 힘을 만들어냈지만 지혜는 거의 만들어내지 못했다."는 것.

저자는 우리 시대의 현자다. 한편 선지자다. 저자는 물론 <넥서스> 조차도 대중에게 널리 알려 있기에 특별히 정리할 필요를 느끼지 못한다.

뜻밖의 부분에서 정독을 하게 됐다.

관료제의 유래와 이에 대한 특별한 문제의식이다.

"신화와 관료제는 모든 대규모 사회를 떠받치는 두 개의 기둥이다. 하지만 신화는 매혹을 불러일으키는 반면 관료제는 의심을 사는 경향이 있다."

"관료제는 세상을 있는 그대로 이해하는 데 초점을 맞추는 대신, 세상에 새로운 인위적 질서를 도입하는 데 몰두한다."