메인화면으로
정보
  • 페이스북 공유하기
  • 트위터 공유하기
  • 카카오스토리 공유하기
  • 밴드 공유하기
  • 인쇄하기
  • 본문 글씨 크게
  • 본문 글씨 작게
정기후원

정보

[최무영의 과학이야기] <57> 엔트로피와 정보 ③

그동안 맥스웰의 악마와 엔트로피를 통해서 알게 된 중요한 사실은 우리가 관측을 해서 자연현상을 해석하려 할 때, 해석을 하려고 하는 대상 자체뿐만 아니라 대상에 대한 정보가 우리에게 얼마나 전해질 수 있느냐 하는 문제도 매우 중요하다는 점입니다. 예전에는 대상 자체의 성격이 현상을 결정한다고 믿었고, 원리적으로 대상에 대한 정보는 우리에게 완전히 전해질 수 있다고 믿었는데, 사실은 그렇지 않다는 거지요. 따라서 자연을 해석할 때에는 대상 자체의 성격 못지않게 대상에 대한 정보가 우리에게 얼마나 전해질 수 있느냐 하는 점도 아주 중요합니다.

예를 들어 우리가 무엇을 보면 눈으로 빛을 받아들이는데 이것은 결국 정보를 받아들이는 겁니다. 이런 정보의 처리, 정보를 얻고, 필요 없는 정보를 지우고 하는 과정들이 모두 엔트로피와 직결돼 있는 문제이지요. 정보를 음(-; negative)의 엔트로피, 곧 네겐트로피(negaentropy)라고도 말하며, 반대로 엔트로피를 잃어버린 정보(missing information)라고 부릅니다. 이는 자연의 해석에 매우 중요한 역할을 할 수 있습니다. 뭇알갱이계로부터 일의 형태로 에너지를 얻어낼 때 그 내부에너지를 완전히 이용할 수 없는 이유도 내부에너지라는 거시적 기술에 관련된 정보의 문제 때문이지요. 우리가 자연을 해석하고 이해하는 현상 자체도 사실 우리 두뇌의 정보 처리 과정으로서 그것이 해석하려는 대상과 마찬가지로 중요하다는 것입니다.

그러면 정보에 대해 구체적으로 살펴볼까요. 다소 전문적인 내용이므로 잘 이해하지 못해도 괜찮습니다. 그냥 지나가도 되지요. 모두 W가지의 사건이 일어날 수 있는 상황에서 사건 r의 확률(probability)을
이라 하면, (r = 1,2,....,W)정보는


로 정의합니다. 주어진 상황에 대한 확률에 로그(log)를 붙이고 확률을 곱한 뒤 합하니까 정보란 결국 확률의 로그의 평균으로 주어지네요. (여기서
는 정보의 기준을 정하는 상수입니다.)


주사위를 던지는 경우를 생각해 봅시다. 주사위에서 1, 2, 3, 4, 5, 6 중에 어느 하나가 나올 텐데 제대로 만든 주사위라면 모든 확률이 같아서 각각 1/6입니다. 따라서W = 6 인 모든 r에 대해
이고
이 되어서 정보가 가장 적은 경우가 되지요. 이 최소 정보를 0으로 놓기 위해
으로 정합시다. 그러면 위의 식에서 I = 0이 되고, 우리는 아무런 정보를 가지고 있지 못합니다.

그런데 만일에 주사위를 던지고 그 결과를 봐서, 곧 측정을 해서 2가 나왔음을 알았다고 합시다. 그러면 확률이 어떻게 되는 셈인가요? 확실히 알므로 확률은 r = 2일 때만 1이 되고 나머지에서는 0이 됩니다. 즉
이므로
에서 r = 2일 때는 1 곱하기 log 1이니 0이 되고 다른 항들은 0 곱하기 log 0인데, log 0 보다는 0이 더 강하므로 이도 0이 됩니다. 따라서
이고, 정보는
이 되니 완벽한 정보를 가진 셈입니다.

여러분이 선다형 문제로 시험을 치른다고 합시다. 다섯 개의 보기 중에서 하나를 선택할 때 공부를 전혀 하지 않아서 아무것도 모르면 확률이 모두 1/5이지요. 이 경우에 정보가 가장 적어서,
라 놓으면 정보는 I = 0입니다. 그런데 여러분이 어느 정도 공부했기 때문에 3번하고 4번 중에 하나라는 것을 안다고 합시다. 그러면 확률이 각각 1/2이기 때문에 완벽하지는 않지만 정보가 조금 있는 겁니다. 정의 식에 넣어 계산하면 정보가
임을 알 수 있습니다.

가장 간단하게는 W = 2인 상황을 생각할 수 있습니다. 예를 들어 '예', '아니오'의 두 가지가 가능한 경우로서 사실 모든 상황은 결국 이 간단한 경우의 조합으로 나타낼 수 있습니다. 이 경우에 정보는 에 해당하는데 이를 비트bit라고 부르며 정보의 기본단위로 정하지요. 얼마 전에 언급했지만 셈틀에서 흔히 다루는 바이트(B)란 대체로 여덟 비트를 말합니다. 곧 8 bit = 1 B 라 생각하면 되지요.

엔트로피란 정보가 얼마나 모자라는지 나타내는 지표입니다. 서로 부호가 반대라고 할 수 있고, 따라서 정보를 네겐트로피라고 부르지요. 식으로는

로 쓸 수 있습니다.

여기서 W는 일어날 수 있는 경우(사건)의 수 또는 상태의 수입니다. 주사위를 던질 때는 W = 6이고 다섯 보기 중에 하나를 선택하는 문제에서는 W = 5이지요. 정보가 전혀 없으면 모든 경우의 확률이 같으므로
로 주어집니다. 그러면 엔트로피는
가 되어서 앞에서 논의한 엔트로피의 정의와 같아집니다. 주어진 상황에 대해 정보는 0이고 엔트로피는 최대값을 가지게 되지요. 반면에 정보가 완전하다면
어느 한 가지, 예컨대
이고 나머지는 모두 0이므로 엔트로피는 S = 0이 됩니다. 이는 r =1인 경우만 일어날 수 있으므로 사실 일어날 수 있는 경우의 수는 W = 1인 셈이 되어서 엔트로피가 0이라 생각할 수 있지요. 아무튼 정보가 완전하면 엔트로피는 0이고, 반면 정보가 전혀 없으면 엔트로피는 최대가 됩니다. 이게 바로 정보와 엔트로피의 관계입니다. 간단하지요. 물론 단위를 맞추려면 엔트로피에 볼츠만상수 를 붙이면 됩니다.

통계역학이란 많은 구성원들로 이루어진 뭇알갱이계를 거시적인 관점에서 다루는 이론체계인데 바로 이러한 엔트로피와 정보를 다루는 물리학의 방법이라 할 수 있습니다. 지난 시간에 소개했던 "모든 것이 정보"라는 말처럼 정보와 엔트로피는 핵심적인 역할을 한다고 여겨지며, 통계역학의 중요성은 갈수록 높아지고 있습니다. 다양한 고체와 액체 등 응집물질, 특히 생명현상을 보이는 생체계에 대한 이해와 해석은 결국 정보 및 엔트로피와 결부되어 있지요. 아마도 21세기에 자연의 해석에서는 정보가 가장 중요한 열쇠가 되리라 예상합니다. 이른바 정보기술(IT), 나노기술(NT), 생물기술(BT) 등 현대기술은 대부분 통계역학과 양자역학이 바탕을 이룬다고 할 수 있습니다.

학생: 그러면 어떤 대상을 측정해서 정보를 얻으면 엔트로피가 줄어드는 건가요?

그게 바로 조금 전에 이야기했던 브릴루앙의 악마 추방입니다. 측정하면 일반적으로 측정한 대상의 엔트로피는 줄어들지만 측정하는 주체의 엔트로피는 늘어난다는 것이지요. 물론 뒤에 측정이 반드시 엔트로피 증가를 수반하지 않을 수 있다는 사실이 알려지면서 문제가 됐지만 말입니다.

학생: 결국 엔트로피가 계속 증가한다면 지구의 생명체는 멸종하는 것 아닌가요?

지구도 열려있는 계입니다. 지구가 만약 닫혀있는 계라면 지구에는 생명이 존재할 수가 없습니다. 지구는 어디에 열려 있을까요? 가장 중요한 것은 바로 해입니다. 해는 지구로 끊임없이 빛을 비추어서 에너지를 공급하고 있습니다. 지구는 해로부터 받는 에너지의 대부분을 다시 방출하지만 일부는 생명을 키우기 위해 씁니다. 이 에너지를 통해 생명체는 엔트로피가 늘어나지 않도록 국소적으로나마 유지할 수 있습니다.

여러분은 음식을 왜 먹습니까? 먹기 위해서 산다는 우스개도 있지만 엄밀하게는 살기 위해서 먹어야 합니다. 음식을 먹는 의미는 에너지를 공급받기 위함입니다. 식물은 해로부터 받은 에너지를 직접 이용하는데, 동물은 이를 직접 이용하지 못하고 식물을 먹어서 식물이 만든 에너지를 먹습니다. 또는 다른 동물로부터 에너지를 공급받기도 합니다. 각각 초식동물, 육식동물이라 부르지요.

사람은 어떤가요? 보통 동물, 식물을 닥치는 대로 먹으니 잡식이라고 이야기합니다. 그런데 초식동물인 토끼에게 고기를 먹여보면 그 뒤로 풀 보다 고기를 더 잘 먹게 된다고 합니다. "중이 고기 맛을 알면 절간에 빈대가 남아나지 않는다"라는 속담이 생각나네요. 그러나 토끼는 고기만 먹으면 오래 살지 못하고 일찍 죽는다고 합니다. 토끼의 몸이 채식에 맞춰 진화가 되어 있는데 육식을 해서 그렇지요. 사람도 마찬가지입니다. 사람이 고기를 먹기 때문에 잡식이라고 하지만 사실 사람의 신체구조와 생리학적인 측면을 보면 초식동물에 가깝습니다. 따라서 채식을 주로 해야 하는데, 고기를 많이 먹다보니까 토끼처럼 건강에 문제가 생기는 겁니다.

사망률 1위의 원인이 뭔지 알아요? 옛날에는 굶어 죽는 것이 꽤 높았을 터인데 요즘 대부분의 나라에서는 굶어죽는 것 보다는 너무 많이 먹어서 죽는 경우가 훨씬 많습니다. 그런가 하면 아프리카나 아시아의 가난한 나라에서는 아직도 굶어죽는 사람이 많습니다. 이는 사실 이른바 제 3세계에서만 그런 것은 아니고 미국에서도 굶어죽는 사람이 많습니다. 아마도 우리나라, 북한은 물론이고 남한에서도 굶주림에 허덕이는 사람이 꽤 있을 것입니다. 한쪽에서는 식량이 남아돌아가 버려서 환경을 오염시키고, 한쪽에서는 식량이 모자라 죽어가는 세계이니까 참으로 어처구니없고 심각하다고 하지 않을 수 없습니다. 혹시 추천한 책 중에 ≪굶주리는 세계≫를 읽어본 학생 있는지요? 그 책을 보면 문제의 핵심이 무엇인지 알 수 있겠지요.

생태계는 조화가 잘 유지되어 나가야 하는데, 물리학의 관점에서 보면 해로부터 받은 에너지의 순환이 잘 이루어져야 한다는 것입니다. 그런데 여기서 에너지란 표현을 썼지만 사실 더 본질적인 것은 에너지가 아니라 엔트로피입니다. 생명을 유지하기 위해 해로부터 받는 것은 네겐트로피라 할 수도 있고, 정확하게는 에너지와 엔트로피를 같이 고려한 자유에너지(free energy)라고 부르는 양입니다. 아무튼 에너지의 전체 양은 변하지 않지만 엔트로피는 끊임없이 증가하는데 이를 어떻게 막아 내는가는 현대 문명과 인류뿐만 아니라 궁극적으로는 지구의 생태계에 극히 중요합니다.

일상에서 흔히 에너지 위기라고 말하는데 에너지란 없어지지 않으므로 '에너지가 부족하다', '에너지가 비싸다' 등의 말은 엄밀하게는 잘못된 표현이라 하겠습니다. 문제는 에너지가 아니라 엔트로피입니다. 에너지를 사용하면 엔트로피가 증가합니다. 에너지 자체를 소비해 버리는 것은 아니고 쓰기 좋은 형태에서 쓰기 나쁜 형태로 바꾸는 것인데, 이것이 바로 엔트로피를 증가시키는 것이지요. 다시 말하면 전체의 정보를 일부 잃어버리는 셈입니다. 여러분이 공부를 하는 것도 따지고 보면 결국 정보 및 엔트로피 때문으로 이러한 정보와 엔트로피는 인간의 삶에서 가장 핵심적인 문제라 하겠습니다.

암과 당뇨병, 그리고 고혈압, 동맥경화, 심근경색 같은 순환기 질환 등 이른바 성인병은 대부분 생활 습관, 특히 식생활과 깊은 관련이 있습니다. 결국 사람과 같은 초식동물이 육식을 하기 때문에 이러한 병에 걸릴 확률이 높아집니다. 물론 먹는 것 다음으로도 운동 부족과 환경오염 등이 중요한 영향을 미칩니다. 내가 학생일 때에는 학교 교정에 자동차가 없었고, 공기도 맑아서 걷는 것이 쾌적했습니다. 아무런 불편하다는 생각 없이 유쾌하게 걸어 다녔는데 지금은 걸으려면 많이 불편합니다. 교정에도 자동차가 많아서 매연이 심하고 심지어 난폭한 운전에 위협도 느낍니다. 그러니 모두들 자동차를 타고 다니게 되지요. "악화가 양화를 구축한다"고 해야 할까요. 이같이 자동차를 타고 다니니 몸이 편해져서 좋은 것 같지만 사실 환경오염과 운동 부족을 같이 일으켜서 건강도 해치고, 엔트로피의 측면에서 매우 부정적인 영향을 끼치는 것입니다.

혹시 작가 권정생 선생님을 아는 학생이 있나요? ≪몽실언니≫, ≪강아지 똥≫, ≪도토리 예배당 종지기 아저씨≫ 등 많은 감동적인 글을 쓰셨는데 그 삶은 더 감동적입니다. 이라크 침략 등 전쟁을 막으려면 자동차를 타지 말아야 한다고 하셨지요. [2007년에 타계하셨습니다.] 아무튼 몸이 편해지고 물질이 풍요로워져서 대량소비를 하는 행태가 과연 삶의 질을 높여주고 우리를 정말 행복하게 만들어주는지 특히 정보의 관점에서 인류, 생태계 및 우주의 미래와 함께 깊이 생각해보았으면 합니다.

이 기사의 구독료를 내고 싶습니다.

+1,000 원 추가
+10,000 원 추가
-1,000 원 추가
-10,000 원 추가
매번 결제가 번거롭다면 CMS 정기후원하기
10,000
결제하기
일부 인터넷 환경에서는 결제가 원활히 진행되지 않을 수 있습니다.
kb국민은행343601-04-082252 [예금주 프레시안협동조합(후원금)]으로 계좌이체도 가능합니다.
프레시안에 제보하기제보하기
프레시안에 CMS 정기후원하기정기후원하기

전체댓글 0

등록
  • 최신순