구글과 페북이 내 친구보다 날 더 잘 알고 있다고? 정말?

구글과 페이스북은 친구보다 우리를 잘 알까. 트위터나 유튜브를 많이 보면 가짜뉴스와 편향적 견해에 지배당하게 될까. 인공지능은 인간의 지능이 하는 일을 대신할 수 있을까.

<알고리즘이 지배한다는 착각>은 이 같은 질문에 답하는 책이다. 저자인 데이비드 섬프터 스웨덴 웁살라 대학교 응용수학과 교수는 세 가지 면에서 알고리즘의 능력과 가능성을 평가한다. 첫째, 인간을 분석하는 능력, 둘째, 인간에게 영향을 미치는 능력, 셋째, 인간처럼 될 수 있는 가능성이다.

저자의 결론은 한결같다. 알고리즘에는 인간을 분석하고 인간에게 영향을 미치는 능력이 있고, 알고리즘을 인간처럼 만들기 위한 연구도 진행되고 있다. 하지만 이에 대한 과대평가는 경계해야 한다.

페이스북은 친구보다 우리를 잘 알까?

저자는 먼저 미할 코진스키 스탠퍼드 경영대학원 교수의 연구와 언론이 그의 연구가 알려진 방식을 예로 들며 '알고리즘이 인간을 분석하는 능력'이 과대평가됐다고 주장한다.

미할 교수의 연구에 따르면, 페이스북 이용자의 '좋아요'를 수집해 일정한 알고리즘 모형으로 분석하면, 이용자의 성격, 지지 정당, 성적 지향 등을 예측할 수 있다. 이 모형에는 40~100개의 변수 차원이 반영된다. 우리가 다른 사람을 성격, 성별, 나이, 계급, 직업 등 몇 개의 변수로 파악하는 것에 비교하면 훨씬 많은 변수를 고려하는 셈이다.

<뉴욕타임스>는 미할 교수의 연구를 다룬 기사에서 "다른 누구보다도 페이스북이 당신을 더 잘 안다"는 표제를 달았다. 다른 언론들도 "어떻게 당신의 친구들보다 페이스북이 당신을 더 잘 알까", "당신의 가족보다 페이스북이 당신을 더 잘 안다"라는 제목의 기사로 미할 교수의 연구를 전했다.

저자는 이같은 보도가 명백히 과장됐다고 이야기한다. 미할 교수의 모형이 제공하는 결과는 확률적 예측에 불과하기 때문이다. 실제 저자는 미할 교수가 교육용으로 공개한 익명의 페이스북 이용자 데이터에서 두 사람을 무작위로 추출해 '좋아요'를 통한 성격 예측과 실제 성격 검사 결과가 들어맞을 확률을 살폈다. 그 결과 "정답률은 무작위 예측보다 약간 더 나은 수준인 60%였다."

게다가 미할 교수의 예측 모형은 50개 미만의 '좋아요'를 누른 이용자에 대해서는 유효한 결과를 낼 수 없다. "그런데 과거 조사의 결과 50개가 넘는 사이트에 '좋아요'를 누른 페이스북 사용자들은 전체의 18%에 불과했다."

저자는 미할 교수의 연구에 대한 정확한 요약은 "잠정적 결과들은 페이스북이 일부 사람들을 그들과 가까운 지인들 못지않게 잘 안다는 사실을 시사한다"는 것이라고 주장한다.

인간을 분석하는 다른 알고리즘의 상황도 크게 다르지 않다. 음악 스트리밍 서비스 '스포티파이'의 데이터 전문가 글렌 맥도널드는 "개인에게 새로운 음악을 제안하는 경우에는 추천곡 열 개 가운데 하나라도 당신의 마음에 든다면 우리는 만족한다"며 자사 음악 추천 알고리즘의 한계를 인정한다.

범죄자의 인종, 성별, 나이, 기소내용, 전과 등을 토대로 재범률을 예측하도록 개발된 알고리즘의 정확도는 법조인 훈련을 받지 않은 일반인들의 예측 정확도와 크게 다르지 않았다.

알고리즘에 대한 찬양과 음모론, 양쪽 모두에 지쳤다면

'알고리즘이 인간에게 영향을 미치는 능력'이나 '알고리즘이 인간처럼 될 수 있는 가능성'에 대해서도 저자는 과대평가를 경계한다.

페이스북의 데이터 과학자 애덤 크레이머는 약 11만 5000명의 뉴스피드에서 긍정적 게시물을 최소 10%에서 최대 90%까지 제거하고 부정적 게시물을 평소보다 많이 배치하는 실험을 했다. 그 결과 긍정적 게시물을 제거당한 사용자들은 한 달에 부정적 단어를 대략 한 개 더 사용하는 것으로 나타났다. 저자는 이에 대해 "통계적으로는 유의미하지만 미미한 수준"이라고 평가한다.

신경망 인공지능이 인간의 지능과 같은 범용 지능으로 발전할 가능성에 대해서도 저자는 비관적이다. 현 단계의 인공지능은 '팩맨'과 같은 간단한 게임도 스스로 학습해 플레이하지 못하며 '스타크래프트'를 학습해 플레이하는 것은 거의 불가능한 과제로 여겨진다. 저자는 현재 최고 수준의 인공지능과 가장 비슷한 생물은 대장균이라고 주장한다.

저자가 알고리즘의 가치를 평가절하만 하는 건 아니다. 알고리즘이 인간을 분석하는 능력은 잘해야 인간과 대등한 수준이지만, 그 속도는 인간을 아득히 능가한다. 체스나 바둑, 계산과 같은 분야에서 인공지능은 이미 인간의 능력을 뛰어넘었다. 인간과 알고리즘이 적절히 협업한다면, 지금보다 훨씬 나은 미래를 만들어갈 수 있다고 저자는 전망한다.

결국 저자가 강조하는 건 알고리즘에 대한 합리적 평가와 정확한 이해다. 알고리즘에 대한 찬양과 음모론, 양쪽 모두에 지쳤다면 읽어볼만한 책이다.