잊혀진 한국의 수학자

몇 년째 쓰고 있는 책의 원고 일부. 올해는 탈고해서 책 내고 싶었는데, 아직도 반 정도밖에 못 썼다.

ICM 개막식이 끝나면 열심히 검색할 기자들을 위하여 올려둔다.

-----

수학의 발전이 서양을 중심으로 이루어지다 보니 수학사에 우리나라 사람의 이름이 등장하는 일은 드물다. 그러다 보니 우리나라의 수학자를 소개하는 글에는 현대의 수학자는 별로 없고, 기껏해야 고대의 수학자들이 등장하는 게 고작이었다.

우리나라의 현대 수학은 일제 시대에 겨우 시작되었고 수학과가 생긴 것은 해방 이후였다. 이렇게 짧은 역사에 세계적인 수학자를 기대하는 것은 어쩌면 과욕일지도 모르겠다. 그러나 정작 우리 한국인들만 모르고 있었던 수학자가 있으니, 그는 바로 캐나다 브리티시 컬럼비아 대학 수학과의 이임학(李林學, Rimhak Ree) 교수이다.

1922년에 태어난 이임학 교수는 1939년에 경성제국대학에 입학하여 본격적인 수학을 접하게 되었는데, 당시는 수학과가 없어 물리학과로 입학하여 공부를 하였다고 한다. 물리학과를 수석으로 졸업한 후 얼마 지나지 않아 해방이 되었다. 경성제국대학이 경성대학으로 바뀌면서 수학과가 새로 생겼는데, 일본인 교수들이 떠난 직후여서 졸업생들 가운데 투표로 몇 분의 교수를 선출하였다고 한다. 이때, 교수로 선출된 분이 바로 이임학 교수였다.

미군정 치하이던 1947년 어느 날, 이임학 교수는 남대문 시장을 지나가다 미군이 버린 쓰레기 더미에서 [미국 수학회지(Bulletin of American Mathematical Society)] 한 권을 발견하였다. 지금이야 학술지만이 아니라 공부할 책도 다양하지만, 당시 우리나라에서 수학 관련 책을 구하기는 극히 어려운 상황이었다. 이임학 교수의 경우, 어렵게 빌린 책을 사진관에서 한 장 한 장 찍어서 공부한 적도 있다고 한다. 복사기 한 대 없던 시절에 필사하기에는 양이 너무 많은 책으로 할 수 있는 최선의 방책이었다. 한 달 월급이 거의 고스란히 들어가는 일이었지만. 이런 상황에서 쓰레기 더미에서 발견한 미국 수학회지는 엄청난 보물이었다. 한 장 한 장 책을 탐독하던 이임학 교수는 막스 초른(Max Zorn)의 논문을 읽다가 논문 끝에 제시된 미해결 문제를 발견하였고, 어렵지 않게 이 문제를 해결한 이임학 교수는 막스 초른에게 편지를 보냈다.

보통은 결과를 논문으로 작성하여 학술지에 투고해야 하지만, 당시에는 아무도 외국 저널에 논문을 투고하는 방법을 몰랐기에 이런 식으로 편지를 보낸 것이다. 편지를 받은 초른은 이임학 교수의 논문을 정리하여 대신 투고하였는데, 이것이 외국 저널에 실린 한국인의 첫 논문이었다. 비유해서 말하자면, 한국의 수학은 쓰레기 더미에서 꽃을 피운 셈이다. 해방 직후, 제대로 된 수학과도 없던 우리나라에서, 거의 독학으로 공부한 수학자의 논문이 학술지에 실렸다는 것은 지금 생각해도 대단한 일이 아닐 수 없다.

그 후 간간이 외국 수학자들과 교류하던 이임학 교수는 1953년 캐나다 브리티시 컬럼비아 대학의 초빙으로 유학을 가게 된다. 그는 다른 대학으로부터도 오라는 제의를 받았지만, 한번 간다고 약속한 학교를 바꾼다는 것은 옳지 못한 일이라 생각하여 그대로 브리티시 컬럼비아 대학으로 간 것이다.

캐나다로 유학을 간 이임학 교수는 그곳에 도착해서야 자신이 초른에게 보냈던 논문이 학술지에 실렸음을 알게 된다. 우리나라 수학계의 초창기가 얼마나 열악한 환경에 있었는지를 증명해 준다 하겠다.

2년만에 박사 과정을 마친 후 --- 그는 수학으로 박사 학위를 받은 두 번째 한국인이다. --- 세계 유수의 대학에서 교수 초빙 제의가 올 무렵 이임학 교수는 크나큰 사건을 겪게 된다. 여권을 연장하기 위해 찾아갔던 영사관에서 그의 여권을 압수해 버린 것이다. 뜻밖에 무국적자가 되어 버린 그에게 캐나다 정부는 영주권과 시민권을 주어, 그는 이후 캐나다 인으로 평생을 살아야 했다.

어느 인터뷰에서 "조선말로 해주세요. 조선말로 해주세요. 조선말을 들으면 다시 생각나는 것들이 많습니다."라고 말할 정도로 조국을 잊지 못하고 있는 그에게 대한민국은 보상이 아니라 오히려 박해를 가한 셈이었다. 그리고 그 이후로 그는 잊혀진 한국인이었다.

당시 수학계에서는 단순군(單純群, simple group)의 분류가 집중적으로 연구되고 있었다. 여기에 크게 공헌한 인물로 프랑스의 수학자 슈발리(1909-1984, Claude Chevalley)가 있다. 그는 프랑스 수학자들의 비밀 단체인 부르바키(Nicola Bourbaki)의 회원이었는데, 일본의 Tohoku Mathematical Journal (東北數學雜誌)에 발표한 논문을 통해 리대수(Lie algebra)로부터 리군(Lie group)을 구성하는 방법을 제시하여 단순군의 분류에 새로운 장을 열었다. 그러나 슈발리 자신은 물론이고, 부르바키에 속한 다른 초일류 수학자들조차 슈발리가 얻은 군이 정확히 어떤 성질을 갖고 있는지를 규명하지 못하고 있었다.

슈발리의 발견으로부터 얼마 지나지 않아, 이임학 교수는 1957년 논문에서 슈발리가 발견한 군의 구조를 명확하게 밝혔고 이것은 향후 유한 단순군을 발견하는 데 있어 확실한 이론적 토대가 되었다. 나아가 이임학 교수는 1960년에 새로운 종류의 단순군들을 발견하여 리군(Ree group)이라 명명하였다. 한글로는 이것이 Lie group과 마찬가지로 ``리군''이 되지만, 둘은 전혀 다른 내용이다. 

그의 아이디어는 대단히 명쾌하면서도 효과적이었기에 이후 단순군 연구에 큰 영향을 미쳤다. 그의 구성 방법에 따르면 몇 개의 단순군을 더 찾을 수 있지만, 리군(Ree group)을 제외한 나머지는 몇 년 앞서 일본의 스즈키가 다른 방법으로 발견하여 스즈키 군(Suzuki group)으로 불린다. 그러나 스즈키 군의 구조를 명확히 밝혀낸 것 또한 이임학 교수임은 물론이다.

이임학 교수는 1996년에 대한수학회 창립 50주년 기념 학회에 참석하기 위해 우리나라를 찾았다. 대학원생이었던 필자는 이때 비로소 이임학 교수를 직접 뵐 수 있었는데, 정말 감동적이었던 장면은 평소 때의 학회에서는 한 번도 뵌 적이 없는 원로 교수들이 오로지 스승인 이임학 교수를 뵙기 위해 찾아온 것이었다. 제자라고 해도 모두 70에 가까운, 그야말로 우리나라 수학계의 원로 중의 원로들. 이런 분들이 이임학 교수를 뵙고서 너무나 기뻐하는 모습을 보니 정말 감동적이었다.

이임학 교수는 특별 강연에서 자신의 발견이 운이 좋아 우연히 발견한 대단치 않은 일이었다며 극히 겸손한 모습을 보였다. 그렇지만 그의 업적은 디외도네(Jean Dieudonne)가 자신의 책 [순수 수학의 파노라마(A Panorama of Pure Mathematics)]에서 군론에 이바지한 위대한 수학자 21인 가운데 한 명으로 이임학 교수를 꼽을 정도로 훌륭한 것이었다. 유한 단순군의 분류에 있어서 사실상 이론적인 면을 완전히 끝낸 게 바로 그였으니까 말이다. 어떤 의미에서는 이후의 역사는 이임학 교수의 이론에 따라 유한 단순군을 하나하나 찾아나간 것뿐이라고 해도 될 정도이다.

이임학 교수의 강연 후, 질문 시간이 주어지자, 군론을 전공한 젊은 교수 한 분이 너무나 겸손한 말투와 모습으로 이 노교수에게 질문을 하였다. "제가 미국에서 군론을 공부할 때, 필독 논문 중의 하나가 한국인이 쓴 것임을 알고 얼마나 자랑스럽고 기뻤는지 모릅니다."라며 말을 시작한 그 교수의 눈에는 정말로 존경과 흠모의 빛이 넘치고 있었다. 필자는 아직도 그 장면을 잊을 수가 없다.

서구에 비해 수학 후진국이던 일본에서 수학이 획기적으로 발전하게 된 것은 데이지 다카기(1875-1960) 라는 수학자 덕분이었다. 당시 수학 최강국이던 독일에서 유학하고 온 그로부터 본격화된 일본의 현대 수학은 그의 제자들을 거치면서 튼튼한 기초가 확립되었고, 이를 통해 일본은 수학계 최고의 상인 필즈 메달을 받은 수학자를 세 명이나 배출할 정도로 비약적인 발전을 이룰 수 있었다.

이에 비해 우리는 위대한 수학자를 가지고 있었으면서도 최근까지 그가 누구인지조차 몰랐을 정도로 철저하게 잊고 살았으니 이 얼마나 안타까운 일인가? 만약 이임학 교수가 대한민국 정부의 배려로, 여권을 뺏기는 일없이 연구를 계속할 수 있었다면 어떻게 되었을까? 그 분의 지도를 받은 한국인 수학자들이 많이 나왔을 것이고, 따라서 우리나라의 수학도 더욱 빠르게 발전할 수 있었을 것이다. 그리고 어쩌면 우리나라가 군론에 있어 세계 최고가 되어 있을지도 모를 일이었다.

그러나 유학생의 여권을 뺏는 이해할 수 없는 일로 인해 그는 한국인이 아닌 캐나다 인이 되어야만 했고, 그로 인해 한국 수학계와 완전히 단절되고 말았으니 참으로 가슴 아픈 일이 아닐 수 없다.

기나긴 식민지 경험과 전쟁으로 인해 피폐했던 우리나라 수학계도 이제는 양과 질 양면에서 어느 정도 성과를 거두는 단계에 이르렀다. 그럼에도 위대한 수학자를 배출하지 못했다는 열등감 아닌 열등감에 시달려 온 듯하다. 그러나 이제는 잊지 말자. 우리에게는 위대한 수학자 이임학이 있음을.

후기: 게으른 필자가 원고를 묵히고 있는 사이, 이임학 선생님께서 2005년 1월 영면하셨다.