과학의 객관성

[최무영의 과학이야기] <11> 과학의 성격 <중>

과학의 객관성

흔히 과학의 객관성이란 말을 씁니다. '객관성'이란 말을 잠깐 생각해 봅시다. 예컨대 '과학은 객관적이다'라는 말이 무슨 뜻이겠어요? 어떻게 이해해야 할까요? 과학의 객관성에 관해 가장 극단적인 주장은 이른바 '과학적 실재론(realism)'이라고 하는 겁니다. 이 과학적 실재론은 과학 이론이 결국 우리가 생각하는 자연의 실재(reality)를 반영한다고 믿는 겁니다. 물론 옳은 과학 이론을 말하는 건데 적어도 그것은 참이고 진리라는 이야기지요. 여기서 말하는 진리라는 것은 철학의 독단(dogma)이나 종교의 초월적 진리를 말하는 것은 아니고, 적어도 '어림(approximation)으로는 참'이라고 믿는 것이지요.

예를 들면 공기가 주로 산소와 질소로 이뤄져 있다고 누구나 믿잖아요? 그것을 안 믿는 사람 있어요? 산소는 두 개의 산소 원자로 이뤄져 있고, 질소도 마찬가지입니다. 물이 산소 원자 한 개와 수소 원자 두 개가 붙은 H2O 분자로 이뤄져 있다는 것을 안 믿는 학생 혹시 있어요? 다 믿죠? 이게 바로 과학적 실재론을 보여주는 듯합니다. 보니까 다 믿잖아요. 그래서 과학이 객관성이 있다고 말하는 겁니다. 다른 의견이 없나요?

학생: 시대별로 객관성이 좀 다르지 않나요? 역사적으로 본다면 계속 객관성이 무너져 온 것 같은데요.
학생: 종교 같은 것은 실재한다고 말할 수 없을 것 같아요.

좋은 지적이네요. 여기서 말하는 과학적 실재론은 모두 믿으니까 그렇다는 얘기가 아닙니다. 그 전에 왜 믿느냐를 생각해 봅시다. 여러분은 H2O 분자가 존재한다고 다 믿잖아요. 왜 믿죠? 그것은 종교적 믿음과는 분명히 다른 맥락일 겁니다. H2O 분자가 있다는 것을 왜 믿나요? 이는 우리가 하느님이 있는지를 믿느냐 하고는 다르게 실제로 관측 결과가 있으니까 믿는 거지요. 관측을 통해서 우리의 감각 기관과 연결을 하는데 그 결과의 타당성 때문에 믿는 겁니다.

정량적인 관측 결과는 수치로 표시하지요. 그런데 한 가지 문제는 결과의 수치가 비슷하다고 해서 타당성을 판단할 수 있지 않다는 점입니다. 예를 들어, 어떤 과학 이론 체계가 주는 값이 10인데, 관측해 보자 10.00001이 얻어졌다면 그 이론은 맞는 건가요, 안 맞는 건가요?

학생: 어느 정도 가까우면 맞는 것으로 인정해야 한다고 생각합니다.

좋아요. 10.1이 얻어졌다면? 그래도 맞아요? 그럼 한 11쯤 나오면?

학생: 안 맞아요.

그럼 어디까진 맞는 거고 어디부터는 안 맞는 거예요?

학생: 어느 정도까지 정한 오차 범위를 넘어가면 신뢰하지 않는 거죠.

그러면 신뢰할 수 있는 오차의 범위란 어떻게 정하나요? 그리고 그렇게 정해진 범위에 드는 결과가 얻어졌다면 이론은 타당하다고 믿을 수 있는 거여요? 언제나?

주어진 관측 결과를 적절하게 해석해야 한다는 조건이 이론을 반드시 한 가지로 결정할 수 있는 것은 아닙니다. 관측 결과는 일반적으로 다른 이론 체계에서도 얼마든지 해석이 가능합니다. 그리고 이론이 어림의 의미로도 참인지 아닌지를 그 예측이 관측 결과가 수치적으로 유사하다는 것만으로 결정할 수 없는 경우가 대부분입니다. 즉, 이론의 타당성을 판단하려면 다른 기준이 있어야 한다는 겁니다. 결국 수치적 유사성은 과학적 실재론을 주장하기에 불충분하고, 그래서 과학적 실재론의 관점에서 객관성을 받아들이기는 어렵다는 것이 현재 지배적인 생각입니다.

다른 관점은 이른바 '상호주관성(Intersubjectivity)'이란 것입니다. 과학은 엄밀한 의미로 개별 과학자의 입장에서 보면 주관적이지만 대다수의 과학자들이 서로 동의할 수 있는 방식으로 이뤄져 있다고 생각합니다. 대다수 과학자들이 서로 동의할 수 있는 방식이란 바로 관측과 논리적 추론입니다. 그러므로 이론 체계를 만들 때 논리적 추론의 정합성을 유지하고 관측과 일치를 통해서 대다수의 과학자들이 합리적으로 수용할 수 있고, 이 경우에 객관적 성격을 가지게 된다고 받아들이는 겁니다. 그런 관점에서 객관성을 부여할 수 있다는 거지요.

현재 많은 사람들은 과학 이론의 객관성에 관해 실재론의 관점보다 상호주관성의 관점이 더 타당하다고 생각합니다. 물론 이런 문제에는 정답이 있는 것이 아닙니다. 여러분이 각자 생각을 해 보고 나름대로 결론을 내려 보기 바랍니다.

(매주 화, 목, 금 연재)

* 이 연재기사는 지난 2008년 12월 '최무영 교수의 물리학 강의'라는 제목의 책으로(책갈피 출판사) 출판되었습니다