물리학 문제와 수학 문제

지난 주에 미국 클레이 재단에서 발표했던 밀레니엄 문제 가운데 하나가 풀렸다는 뉴스가 화제가 되었다. 문제의 논문인 건국대 조용민 교수의 논문을 보니, 물리학적인 가치를 따질 만한 능력은 안 되지만 적어도 수학적으로는 밀레니엄 백만 달러 문제와 별 상관이 없다는 것은 알 수 있었다. 물리 전공자들의 의견을 들어 보면 물리학적으로는 상당히 중요한 결과인 것 같은데, 수학자들에게는 수학 논문이 아니라는 게 너무나 분명해서 대학 홍보팀과 언론의 과장이 심하다는 게 당연한 결론이었다.

그런데 조용민 교수가 백만 달러 문제를 못 풀었다는 식으로 다시 기사가 나가니까, 이번에는 이걸 또 오해한 반응이 많았다. 그래서 이번 기회에 물리학의 문제와 수학의 문제가 어떤 차이가 있는지를 써 두는 게 좋겠다는 생각이 들었다.

1. 물리 문제인가, 수학 문제인가?

클레이 재단에서 발표한 수학 문제인 "양-밀스 이론의 존재성과 질량 간극"은 분명히 물리학의 문제이다. 그런데 왜 이걸 "밀레니엄 7대 수학 문제"로 발표하였을까?

양-밀스 이론에 앞서, 전형적인 물리학의 이론이 수학적으로 합리화된 예로 "디랙 델타 함수(Dirac delta function)"를 들 수 있다. 영국의 물리학자인 디랙(Paul Dirac)은 뛰어난 통찰력의 소유자이면서 수학 실력 또한 대단히 뛰어난 인물이었다. 그는 델타 함수라는 개념을 이용하여 양자역학의 여러 복잡한 계산을 간명한 방식으로 해결하였는데, 문제는 델타 함수는 함수가 아니라는 점이었다.

폴 디랙

델타 함수는 다음 조건

\[\delta(x) = \begin{cases} +\infty, & x = 0 \\ 0, & x \ne 0 \end{cases}\]

이면서

\[\int_{-\infty}^\infty \delta(x) \, dx = 1\]

을 만족하는 함수이다. 값이 \(\infty\)를 가진다는 것도 그렇고, 단 한 점에서만 0이 아닌데 적분 결과는 1이라니 이런 말도 안 되는 일이. 예컨대 적분해서 2가 되는 함수인 \(2\delta(x)\)는 \(x=0\)에서 어떤 함수값을 가져야 할까?

수학자 입장에서는 이런 걸 함수로 부른다는 건 본능적으로 거부감이 느껴지는 일이다. 그렇지만 물리학자들은 이 함수를 너무나 잘 활용하였고 계산 결과도 실제 현상과 딱딱 맞아 떨어졌다. 그렇다면 델타 함수가 작동하는 데에는 수학자들이 모르는 새로운 수학적 원리가 있다고 생각하는 것이 자연스러울 것이다. 물리학자들에게야 이 자체로 새롭고 유용한 수학이겠지만, 기존의 수학으로는 설명할 수 없는 개념이니 수학자들에게는 함수, 적분 등을 확장한 새로운 개념이 필요하였다.

함수와 적분을 확장한 새로운 이론을 구축하려면, 확장된 개념이 잘 정의된다는 것을 보여야 하고, 새로운 정의가 기존의 정의와 모순되지 않는다는 것을 보여야 하고, 이 이론이 얼마나 일관성이 있는지를 하나하나 보여야 하니 보통 일이 아니다.

여기에 성공한 수학자가 프랑스의 로랑 슈바르츠(Laurent Schwartz)였다. 그는 분포(distribution)라는 개념을 --- "초함수"로도 불린다. --- 이용하여 새로운 수학 이론을 개발하였다. 이 이론에서 디랙 델타 함수에 해당하는 분포(초함수)는 억지스러운 괴물이 아니라 너무나 자연스러운 수학적 대상이 된다. 나는 석사1년차에 이 이론을 공부하면서 그 우아함에 완전 감동받았다.

수학자의 눈으로 보면, 슈바르츠의 분포(초함수)는 기존의 수학과 전혀 어색하지 않게 어울리고, 이걸 델타 함수와 같이 해석하는 쪽이 폭력적(?)으로 보인다. 거꾸로 생각하면 그만큼 디랙의 통찰력이 놀랍기도 하다.

당연한 일이지만 이 이론은 디랙 델타 함수에 대한 이해를 더욱 깊게 하였고, 물리학자들이 아무런 걱정 없이 이런 종류의 함수를 사용할 수 있게 하였다. 이 업적은 대단히 위대한 것이어서 슈바르츠는 1950년 그의 나이 35살에 필즈 메달(Fields medal) 수상자로 선정되었다.

로랑 슈바르츠

양-밀스 이론의 경우도 비슷하다. 이 이론은 양전닝(楊振寧)과 밀스(Robert Mills)가 개발한 것으로, 물리학적으로는 매우 잘 작동하지만 수학적인 정립은 아직 완성되지 않은 상태이다. 마치 디랙 델타 함수가 그랬던 것처럼. 클레이 재단에서 요구한 것은 현재의 양-밀스 이론을 일반화하여 수학적인 설명을 하도록 한 것이다. 디랙 델타 함수를 수학적으로 설명하는 분포(초함수) 이론을 슈바르츠가 만들어낸 것처럼 물리학적 이론을 설명하는 새로운 수학을 만들라는 뜻이다. 15쪽짜리 논문으로는 불가능하다는 것이 너무나 당연하다.

조건이 이러하니, 양-밀스 이론을 사용하여 아무리 놀라운 물리학적인 결과를 만들어낸들 밀레니엄 문제가 풀렸다고 할 수는 없다. 양-밀스 이론을 뒷받침하는 일관성 있는 수학 이론이 존재할 것이라는 방증은 되겠지만, 이 자체로 수학 이론이 되는 것은 아니다. 디랙 델타 함수를 이용하여 물리학자들이 아무리 놀라운 결과를 많이 얻어도 그 자체로 로랑 슈바르츠의 분포(초함수) 이론이 되지 않는 것처럼.

게다가 조용민 교수의 결과는 특정한 게이지군(gauge group)에서 양-밀스 이론을 이용하여, 질량이 0보다 크게 됨을 보인 것이므로 일반적인 게이지군에 대한 양-밀스 이론을 구성하라는 밀레니엄 문제와는 거리가 멀어도 너무 멀다. 어쩌면 조용민 교수의 결과가 양-밀스 이론을 수학적으로 구성하는 데 있어 큰 힌트가 될지는 모르겠지만 이 논문이 백만 달러 수학 문제를 풀었다는 기사는 명백히 잘못되었다.

2. 수학 문제를 물리학자가 풀면?

인터넷 기사에 달린 댓글에는 "물리학자가 풀었다고 하니까 수학자가 깎아내리려 한다"는 내용의 글이 있었다. 정말로 뭘 모르고 하는 소리이다. 주변 물리학자들의 의견을 보면, 이번 논문에 대해 물리학적으로는 의미가 있지만 밀레니엄 문제를 푼 것은 전혀 아니라고 한다. 수학자만 비판적인 게 아니라는 말이다. 오히려, 이 문제는 물리학에 대한 지식 없이는 접근조차 어렵기 때문에, 만약 물리학자가 이 문제를 해결하더라도 어느 수학자도 놀라지 않을 것이다.

밀레니엄 문제로 양-밀스 이론을 선정하는 데 주도적인 역할을 한 에드워드 위튼(Edward Witten)의 경우, 세계적으로 유명한 뛰어난 물리학자이지만 1990년에 필즈 메달을 수상하기도 하였다. 그의 이론은 수학의 미해결 문제를 해결하는 놀라운 아이디어를 제공하고 있지만 실험으로 확인하기는 곤란하였다. 그러니 노벨상을 받기는 어려워도 수학적인 우아함만으로 필즈 메달을 받을 수 있었다. 수학자에게 수여하는 필즈 메달을 물리학자에게 준다는 사실에 수학자들이 놀라기는 했어도 이걸 부끄러워 한 수학자가 있었을 것 같지는 않다.

에드워드 위튼

우리나라에서 중고등학교 수학은 점수로 서열화되는 것이어서, 수학을 전공하지 않은 보통 사람들은 수학자를 실력 순서로 줄 세울 수 있다고 생각하는 것 같다. --- 사실 모든 분야를 다 서열화해서 생각하는 것 같다. --- 이렇게 생각하면, 물리학자가 어려운 수학 문제를 해결하는 것이 전혀 다른 분야의 인물이 갑자기 툭 튀어나와 선두로 나선 것처럼 보일 테고, 줄 지어서 잘 가다가 순위가 하나씩 밀린 수학자들에게 미움을 받을 것이라는 생각이 그럴 듯하기도 하다.

그러나 실제로는 수학자들은 자기 전공 분야가 아니면 잘 모르는 게 보통이어서, 실력 순서로 줄을 세운다는 것부터 말이 안 되고, 그게 가능하다손 쳐도 분야별로 여러 줄이 생겨야 한다. --- 세계수학자대회(ICM)를 수학자들이 4년마다 모여 수학 시험으로 실력을 겨루는 무대라고 생각하는 사람도 있었다. 천하제일무도회? --- 물리학자가 양-밀스 이론을 수학적으로 확립한다면, 그냥 그 분야로 새로운 줄이 생기는 것이지, 갑자기 모든 분야를 초월해서 세계 최고의 수학자가 되는 것은 아니다. 그러니 물리학자가 수학 문제를 해결한다고 해서 수학자가 기분 나빠하거나 부끄러워할 이유가 전혀 없다.

3. 조용민 교수의 논문은 가치가 없는가?

과장 보도의 문제점이 바로 여기에 있다 하겠다. 내 전공 분야가 아니어서 잘 알지는 못하지만, 주변 물리학자들의 의견으로는 조용민 교수의 논문이 물리학적으로 상당히 중요한 내용이라고 한다. 이 결과가 일반적인 양-밀스 이론을 구축하는 데 크게 공헌할 가능성도 있어 보인다. 그런데, 신문 독자들이 모두 어른이어서 그런지, 언론 보도에는 본질적인 면은 무시되고 "백만 불 수학 문제를 풀었다"라는 식으로 그저 금전적인 부분만 부각되었다.

어른들에게는 "십만 프랑짜리 집을 보았어요."라고 해야 한다. 그래야 "야, 참 멋진 집이겠구나!"하고 감탄한다.

이랬다가 다시 "백만 불 수학 문제 못 풀었다"라는 식으로 보도가 되면, 당연히 독자들은 논문 자체가 가치 없는 것으로 생각할 수밖에 없다. "백만 불 수학 문제를 풀었다"는 식으로 제목을 뽑지 않으면 지면에 게재조차 되기 어려워서 이런 일이 자주 반복되는 것 같은데, 이런 기사라면 차라리 안 실리는 쪽이 더 도움이 될 것 같다. 당장 "그러면 그렇지. 한국은 아직 멀었어."라는 반응이 나오니 말이다.

이상하게도 이번 일에 대해 어느 기자도 사실 확인을 할 생각을 전혀 안 한 것 같다. 그냥 홍보 자료 그대로 베껴 쓰기만 하고, 내용의 진실성에 대해 알아보려고 다른 물리학자나 수학자에게 의견을 구하는 일을 전혀 하지 않았다. 뒤늦게 몇몇 언론에서 수학계의 의견을 다루기만 했을 뿐이다. 기자의 소임은 받아쓰기가 아니라 물어보기일 텐데, 정말로 기자답지 못한 태도들이었다.

한 가지 이해할 수 없는 점은 한국일보 인터뷰에서 조용민 교수가 "틀린 점이 있으면 논문으로 반박하라"라는 말을 했다는 사실인데, 이런 말을 한 것으로 보아 조용민 교수는 자신이 밀레니엄 문제를 해결했다고 생각하는 것 같다. 백만 달러 상금에 대해 얘기하는 것을 보아도 그렇다. 어쩌면 조용민 교수는 이번 논문의 내용을 바탕으로 정말로 밀레니엄 문제를 해결하여 논문을 준비 중일 수도 있겠다. 그렇지만 적어도 이번 논문이 밀레니엄 문제를 해결한 것과 거리가 먼 것은 명백하여 고개를 갸우뚱하게 만든다. 더구나 주변의 물리학자나 수학자들이 지적하는 것은 "논문이 틀렸다"가 아니라 "논문에 틀린 곳이 없다고 해도 밀레니엄 문제를 해결한 것은 아니다"인데 왜 저런 반응을 보였는지 납득이 안 된다.

언론 보도에서는 조용민 교수의 논문에 대해 "수학계가 반발한다"는 식으로 마치 논문의 가치를 완전히 부정하는 것처럼 썼는데, 이 부분도 독자들에게 오해를 불러 일으키기 딱 좋은 표현으로 보인다. 수학계의 의견은 논문이 틀렸다는 것이 아니라 "그 논문은 수학 논문이 아니다"라고 할 수 있다. 클레이 재단에서 밀레니엄 문제의 풀이로서 검토를 할 필요조차 없다는 말이다. 수학자들의 반응을 굳이 표현하자면 반발이 아니라 무관심에 가까울 것 같다. 나중에 양-밀스 이론이 완벽하게 수학적으로 정립되면서 조용민 교수의 아이디어가 핵심적인 역할을 한다면, 해당 분야의 수학자들은 이번 논문을 읽어야 하겠지만, 지금으로서는 순수하게 물리학 분야인 논문을 수학자가 읽을 필요는 거의 없기 때문이다.

참고 글 추가: 이철희 박사의 슬로우 뉴스 기고 - 조용민 교수의 7대 수학 난제 해결 논란, 어떻게 볼 것인가