수백 년 동안이나 큰 성공을 거두고, 현대의 일상과 우주여행에도 활용되는 뉴턴 역학이 근본적으로 틀린 이론이라는 것을 우리는 가끔 듣는다. 상식과 부합되는 뉴턴의 이론이, 상식과 부합하지 않는 양자 이론과 상대성 이론에게 자연의 원리를 넘겨준 것을 상식적으로 납득하기는 쉽지 않다. 아직도 우리에게는 뉴턴 역학이 친하다. 인간이 지각하고 다룰 수 있는 자연의 영역이 넓어지면서 뉴턴 역학으로는 대답하기 힘든 자연현상들이 쌓였고, 이것은 20세기를 맞는 과학자들이 해결해야 할 몫이었다. 여기서는 뉴턴 역학 자체를 좀 더 음미하고, 뉴턴 역학이 함의하는 세상을 함께 보자.
결정론
뉴턴의 운동 제2법칙은 시간에 대한 미분 방정식으로 쓰여진다. 가속도는 단지 힘을 질량으로 나눈 값이고, 힘은 고려하는 계에 주어진(결정된) 값이다. 운동을 결정하는 속도는 가속도를 한 번, 위치는 다시 한 번 더 적분하여 구할 수 있다. 적분을 한 번 할 때마다 적분상수가 하나씩 나타나며, 뉴턴 역학은 2차 미분방정식이므로 총 2 개의 적분상수를 갖게 된다. 다루고 있는 계의 초기 속도와 위치, 2 개의 조건을 ‘초기조건 (initial condition)’이라고 부른다. 2 개의 초기조건에 의하여 2 개의 적분상수는 완전히 결정된다. 즉, 초기조건이 주어지면 뉴턴의 운동방정식의 해는 개연성 없이 결정되며, 과거는 현재와 미래를 다른 경로 없이 하나로 결정하는 것이다. 라플라스가 호언장담 한 “우주의 모든 입자의 위치와 속도를 안다면 우주의 미래를 예측할 수 있다.”로 대변되는 결정론을 뉴턴 역학은 주장한다.
그렇다면, 우리의 선택은 의미 없는 환상인가? 자유의지는 없는 것일까? 우리가 무엇을 하든지 간에 이미 과거에 다 결정된 것이 아닌가? 우리가 열심히 살거나, 나쁜 짓을 한다든가 해도 그것은 과거에 이미 결정한 것을 내가 행할 뿐, 무슨 의미가 있는가? 모든 것은 이미 결정되었는데, 내 존재는 무슨 의미가 있는가? 결정된 미래에서 현재는 도대체 가치 있는 것인가? 등의 의문은 정당하고 당연히 제기되어야 할 것으로 느껴진다. 여러분들은 어떠한가? 다행히 뉴턴역학은 실용적이나, 근본적으로는 틀린 이론이라고 하니 다행이다. 삶은 결정되지 않았다. 내 삶의 미래는, 과거의 우주가 결정하는 것이 아니라 현재의 내가 결정할 수 있을 것 같다.
그렇다면, 결정론을 패퇴시킨 양자역학에서는 운동의 변화에 대해서 어떠한 관점을 갖고 있는가? 양자이론 역시 미분방정식으로써 양자역학적 운동방정식을 풀면, 마찬가지로 초기조건(혹은 경계조건)에 의해 해가 결정된다. ‘결정된다’에서 우리는 또 우울해진다. 양자이론으로도 결정에서 자유로울 수 없나? 결국 지금 내가 결정할 수 있다고 느끼는 것은 다 헛것이 아닌가? 여러분들이 만날 수 있는 교양과학 책과 강좌에서, 이러한 여러분의 걱정을 더 해주는 것을 때때로 본다. “양자역학이 함의하는 것은 부분적 혹은 전체적으로 결정론이다.”라고 주장하는 것을 보기도 한다. 과연 그런가?
양자역학(혹은 양자장론)의 운동방정식은 물질의 운동상태를 하나로 결정하지 않고, 어느 상태가 될 수 있는지에 대한 확률을 알려준다. 양자역학의 해인 상태함수 혹은 상태벡터를 정확히 안다고 하더라도, 계의 물리량이 결정되는 것은 아니다.[1]
실체는 측정 가능한 물리량이지, 추상적 (복소) 상태함수가 아니다. 상태함수는 양자역학을 기술하는 수학 체계에서 물리량을 상태의 기대값으로 드러내게 하는 인위적 방편이며 상태함수 자체가 물리적 실체를 나타내는 것은 아니다. 양자이론을 기술하는 수학적 프레임 워크가 달라질 경우에, 상태함수가 아닌 다른 수학적 도구로 실체적 물리세계가 기술될 수도 있다. 아직 우리에게는 양자이론과 중력이론이 원만한 합일을 이루지 못했으니, 이러한 개연성에 대해서 닫아두기는 힘들 것 같다.
고전역학에서는 같은 운동상태에서 출발하면 미래의 운동상태가 하나로만 결정되지만, 양자역학에서는 같은 상태로 출발한다고 하더라도 미래의 물리량 값이 다를 수 있다. 어떠한 물리량을 가질 것인가를 정확히 확률에 알려주지만, 결정하지는 않는다. 100% 결정할 수 없다는 것은, 100% 비결정론적이라는 이야기다.
탁자 위로 주사위를 굴린다고 생각해보자. 우리는 주사위가 멈추었을 때, 1부터 6까지의 숫자 중 하나가 결정된다는 것을 확실히 알고 있지만 그것이 어떤 숫자일지는 불확실하다. 1부터 6까지의 눈들 중에 하나가 나올 것이고 그 확률이 각각 1/6이라는 것을 알지만, 어느 숫자로 결정될 것까지 말하지는 못한다. 물론 이 주사위의 어떤 눈이 나올 것인가는, 고전역학적으로 이미 결정되어 있다. 탁자와 주사위의 물리적 성질과 사람의 손을 떠날 때의 주사위 운동상태에 따라서 이미 어떤 숫자가 나올 것인지 결정되어 있다. 거시세계의 운동은 뉴턴 역학으로 거의 설명할 수 있기 때문에, 이 예가 적절하지 않을 수 있다. 개념적으로 이해할 수 있도록 예를 든 것이며, 확률이 결정되었다고 결과가 결정된 것이 아닌 예로 생각하면 될 것 같다. 확률을 정확히 알고 있다고 해서, 결과를 정확히 맞출 수는 없다. 양자역학의 해는 확률에 대한 것이며, 그 계의 물리량이 얼마인지를 말하는 것이 아니라 가능한 물리량의 값들에 확률을 배정하는 것이다. 무엇이 결정될 지를 결정적으로 예측할 수 없다. 입자들이 꽤 많은 경우에 통계적인 예측이 가능하고, 그 예측에 대한 신뢰를 가질 수 있다고 하더라도 원론적으로 결정되었다라고 말할 수는 없다.
이렇게 가능성의 결정과 결과의 결정을 동일시 한 것이 아니라면, 운동방정식 해의 불확실성과 혼동한 탓이 아닌가 싶기도 하다. 100만불의 상금이 걸려있는 밀레니엄 문제 중의 하나인 나비에-스토크스 방정식처럼 운동방정식의 해가 불확실하다고 비결정론적이라고 할 수는 없다. 해가 불확실하지만, 유체역학의 기본이 되는 이 방정식은 고전역학 틀 안에 있기 때문에 결정론적이다.
어느 경우에서라도, 양자역학을 결정론적이라고 할 수 없다.[2]
[1] 양자역학의 해인 상태함수는 가능한 여러 상태들의 중첩이며, 계의 고유값(eigenvalue)과 대응되는 물리량이 나타날 확률을 알려준다.
[2] 부분적 결정론이라고 하는 것도 안 된다. 부분적 결정론은 결정론의 본질과 다르며, 오히려 인식론에 혼동을 줄 수 있다. 100% 결정할 수 없는 것은 결정론이 아니라고 100% 이야기해야 더 적합하다. 40%만 결정론적인 이론은 스스로 개념과 용어를 명확히 하지 않은 탓이다.