이번 강의에서는 혼돈과 질서의 문제를 어느 정도 자세히 다루기로 하겠습니다. 이것은 고전역학의 핵심 문제인데, 양자역학에서도 생각할 수 있지만 너무 전문적이므로 고전역학의 체계에서만 생각해 보기로 하지요.
  
  혼돈과 질서: 역사적 조명
  
  고대에는 세계가 본질적으로 혼돈이라고 생각했습니다. 중국에서도 혼돈이라는 표현이 쓰였고 그리스에서도 카오스란 우주를 뜻하는 말이었지요. 그런데 근대로 넘어오면서 우주에서 규칙성을 발견하게 됐습니다. 대표적인 것이 행성계의 운동으로 그 규칙성을 표현한 것이 바로 케플러의 법칙입니다.
  
  행성계의 운동이 규칙적이라고 이해하면서 예측할 수 있게 됐습니다. 모든 게 뒤죽박죽이라서 규칙성이 없으면 예측할 수 없지요. 이에 따라 근대에는 세계의 본성은 혼돈이 아니라 질서라고 생각을 바꾸게 된 것입니다. 그리고 카오스의 반대말인 코스모스(cosmos), 곧 질서가 우주를 상징하는 말이 됐습니다.
  
  질서가 있으면 예측할 수 있는데 이에 대한 자신감을 극단적으로 표현했던 사람이 라플라스(Pierre-Simon Laplace)입니다. 수학과 천체역학에 업적을 남긴 그는 예측가능성을 과학의 핵심요소로 생각하였고, 우주의 초기조건과 모든 힘을 알고 그 많은 자료에 대해 계산을 수행할 능력만 있다면 우주의 미래는 완벽하게 정해져서 예측할 수 있다고 주장했습니다. 고전역학의 성공을 통해 받아들여지게 된 결정론의 관점이 극명하게 나타나는 지적이지요. 아무튼 이런 관점이 자연과학을 낳았다고 할 수 있습니다. 뭔가 질서가 있어야 다양한 자연현상을 설명하고 예측할 수 있는 것입니다. 이에 따라 보편지식 체계를 추구할 수 있게 되었고, 이론과학으로서 물리를 낳았지요.
  
  그런데 실제 세계는 과연 질서정연한가요? 물론 질서가 있는 경우도 있습니다. 태양계의 운동에 의해 계절은 어김없이 봄, 여름, 가을, 겨울이 찾아옵니다. 이를 보면 질서가 있는 것 같지만, 반면에 혼돈스러운 것도 많습니다. 대표적인 것이 도박이지요. 질서정연하게 결과가 주어진다면 누가 도박을 하겠습니까? 로또를 왜 열심히 사겠어요? 당첨자가 결정돼 있다고 하면 그 사람 말고는 아무도 사지 말아야지요.
  
  여러분은 자신에게 뿐 아니라 다른 사람에게도 커다란 해를 끼치는 담배를 피우지 않으리라 믿고 싶습니다. 사실 담배는 웬만한 마약 이상으로 해롭다고 합니다. 예를 들어 대마초보다 암이나 순환기 질환 등 건강에 훨씬 치명적이고 육체적 중독성도 비교도 되지 않을 정도로 심하다고 알려져 있습니다. 대마초는 피우면 범죄라고 하고 감옥에 가게 됩니다. 그런데 희한하게도 담배는 정부에서 권장합니다. 물론 보건복지부에서는 해롭다고 하면서도 한쪽으로는 (전에는 전매청이라고 아예 정부의 한 부서였던) 담배인삼공사라는 '공기업'에서 담배를 대량으로 만들어 팔고 있어요. [요새는 '세계화'인지 '미국화'인지에 맞추어 KT&G라고 부르던가요.] 하기는 도박도 범죄행위로 잡혀가는데 한쪽에서는 강원랜드니 로또니 하면서 정부가 도박을 장려하잖아요. 참으로 모순의 현실입니다.
  
  다른 얘기가 길어졌는데, 아무튼 담배연기가 올라가는 것을 보면 규칙적으로, 질서정연하게 올라가지 않아요. 혼돈스럽게 보입니다. 수도꼭지를 틀어서 물이 나오는 것을 보아도 상당히 혼돈스러운 경우가 있습니다. 그리고 흔들이를 그냥 놔두면 질서 있게 움직이지만 주기적으로 밀어주면 아주 이상하게, 곧 혼돈스럽게 흔들리기도 합니다. 그래서 그네도 조심해서 밀어주는 편이 좋습니다. 원리적으로 혼돈 현상이 생겨날 수 있습니다. 끓는 물도 아주 혼돈스러운 것이지요.
  
  혼돈의 흥미로운 예로서 당구도 있습니다. 당구대는 보통 직사각형으로 돼 있는데 당구공을 큐로 때리면 어디로 간다고 예측할 수 있기 때문에 당구를 칠 수 있는 것입니다. [엄밀하게는 당구공의 크기를 무시해서 점으로 가정하는 경우입니다.] 예측을 못하면 당연히 당구를 못 치겠지요. 그런데 만약 당구대 모양을 정확히 원으로 만들면 어떻게 될까요? 직사각형과 똑같이 잘 칠 수 있습니다. 그러면 직사각형이 아니고 원도 아니라 운동장(stadium)모양이라면 어떻게 될까요? 직사각형의 양쪽에 반원을 붙인 모양인데 불규칙하거나 이상한 모양은 아니고 규칙적인 모양입니다. 그런데 이러한 운동장 모양의 당구대에서 당구를 치면 500 점을 치는 사람이나 100 점을 치는 사람이나 똑같습니다. 어쩌면 50 점을 치는 사람이 500 점을 치는 사람을 이길 수도 있을 겁니다. 그 이유는 직사각형 모양에서와 달리 운동장 모양의 당구대에서는 당구공의 움직임을 예측할 수가 없기 때문입니다. 여기서 당구공의 운동은 혼돈스럽게 됩니다. 이를 운동장 문제(stadium problem)라고 하지요.
  
  이처럼 질서와 혼돈 양쪽이 우리 일상생활에서 흔히 나타납니다. 질서를 보이는 것도 있고 혼돈스러운 것도 많이 있습니다. 그런데 질서의 반대말이 뭘까요?
  
  학생: 무질서요.
  
  혼돈이 아니고요? 좋아요, 질서와 혼돈을 서로 대조적인 것, 반대 개념이라고 생각하기 쉬운데 반드시 그렇지는 않습니다. 혼돈이 질서가 전혀 없이 그야말로 아무렇게나 마구잡이인 것이 아니지요. 혼돈 속에서도 놀라운 질서가 숨어 있습니다. 그뿐만 아니라 질서 쪽에서도, 예를 들어 그네의 운동은 아주 간단하고 질서가 있는데, 이를 주기적으로 밀어주면 - 질서 있게 밀어주는데도 불구하고 - 아주 혼돈스러울 수 있습니다. 운동장 문제도 마찬가지지요. 당구공의 운동은 뉴턴의 운동 법칙에 의해서 움직여지는 것으로 지극히 결정론적입니다. 결정론적이라는 것은 예측가능하고 질서정연한 것인데, 운동장 문제에서 당구공은 결정론적임에도 불구하고 혼돈스럽습니다.
  
  그러면 결정론이란 무슨 뜻일까요? 뉴턴의 운동 법칙은 결정론입니다. 초기조건이 주어지면, 곧 공을 던질 때 어떤 빠르기로 어떤 각도로 던질지가 정해지면 어디에 떨어질지도 결정되어 있습니다. 이같이 '결정'이란 말에는 질서가 전제되어 있는데, 놀랍게도 이러한 '질서'에서도 '혼돈'이 나올 수 있습니다. 당구대나 흔들이도 운동이 결정돼 있지만 혼돈스러울 수 있다는 거지요. 이러한 성격을 강조하기 위해 '결정론적 혼돈(deterministic chaos)'이라는 표현을 씁니다. 이런 걸로 미루어보면 질서와 혼돈은 단순히 서로 반대 개념이 아니라고 짐작할 수 있지요. 서로 맞물려 있다고 생각할 수 있겠습니다.
  
  혼돈이라는 현상이 발견된 시기는 1950년대에서 1960년대입니다. 이론적으로 연구되기 시작한 것은 1970년대 후반에서 1980년대부터니 생각해보면 20여년밖에 안됐습니다. 그러니 상당히 새로운 현상입니다. 양자역학보다도 나중에 발견되고 이해된 현상이지요. 이러한 혼돈 현상은 물론 처음에는 물리에서 발견됐지만 물리뿐만 아니라 화학, 생물, 천문학, 수학, 여러 가지 공학, 경제학이나 지리학 같은 사회과학들, 그리고 예술에까지 영향을 미쳤습니다. 양자역학이나 상대성이론은 쿤의 입장에서 새로운 패러다임이라는 조건을 잘 만족하는데 혼돈도 새로운 패러다임이라고 주장하는 사람도 있습니다. 글쎄요, 양자역학에 비하면 미흡한 면이 있다고 생각됩니다.
  
  어떻게 보면 혼돈 현상이 뒤늦게 알려진 것이 오히려 다행인지도 모르겠네요. 만일 혼돈 현상이 먼저 알려졌다면 질서를 전제한 예측이 가능하리라 생각하지 못했을 터이고 고전역학이 확립되기 어려웠을지도 모르겠습니다.