학생들이 수학 공부하면서 흔히 가지게 되는 궁금증 가운데 하나가 이것일 듯하다. "왜 하필 미지수를 나타내는 문자가 x인가?"

여기에는 여러 가지 설명이 있는데, 그 가운데 가장 웃겼던 것은 "X-ray, X-file처럼 x는 알 수 없는 무언가를 상징한다. 그래서 수학에서도 미지수를 x로 나타낸 것이다."라는 것이었다. 이 완벽한 본말전도라니.

문자를 이용하여 수식을 나타내는 방법이 개발되면서 수학은 급속히 발전하였다. 미지수를 이용하여 등식을 만들고 식만 잘 정리하면 답이 튀어나오는 방식은 마술과 다름없을 만큼 획기적이었다.

그러나 17세기까지 미지수를 이용하여 식을 나타내는 방식은, 지금의 눈으로 보면 기묘하기 짝이 없었다. 예를 들어, 일차방정식은 미지의 양을 A라 할 때 2A-5=3과 같이 쓰고 방정식을 풀었지만, 이차방정식이 되면, 미지의 양 A를 두 번 곱한 양은 전혀 다른 기호를 써서 나타내었다. Q-3A+2=0과 같이.

이런 방식은 미지수를 문자로 나타내었다기보다는 말로 된 수식을 몇 가지 기호로 고친 꼴에 불과하였다. 미지수의 제곱에 해당하는 부분을 quadratica를 줄여 Q로 나타내는 식.

여기에서 탈피하여 미지수의 제곱을 Q가 아니라 A와 A의 곱으로 나타내는 방식을 도입하면서 방정식 풀이는 세련된 수학이 될 수 있었다. 이 방식의 선구자는 프랑스의 비에트(François Viète)와 데카르트(René Descartes).

특히 데카르트는 저서 "방법서설(Discours de la méthode)"의 부록이었던 "기하학(La géométrie)"에서 이미 알고 있는 양을 알파벳 앞쪽 문자인 a, b, c 등으로 나타내고 미지의 양을 알파벳 뒤쪽 문자인 x, y, z로 나타내면서 지금과 같은 방식을 확립하였다. 여기에 x의 제곱, 세제곱 등을 x의 오른쪽 위에 2, 3을 써서 일관성 있게 나타내어, 미지수를 자유자재로 다룰 수 있게 하였다.

그러니까 지금 우리가 미지수를 x로 나타내게 된 것은 바로 데카르트 때문이라 할 수 있다.

그렇다면, 왜 데카르트는 많은 문자 가운데 x를 사용하였을까? 알파벳 뒤쪽 문자를 쓴다면 x 대신 z를 쓸 수도 있는데.

데카르트가 미지수를 뜻하는 기호로 사용하였던 알파벳 x, y, z 가운데 특별히 x가 더 많이 쓰인 이유로 활자 문제를 드는 경우가 있다. 세 글자 가운데 x가 그나마 많이 쓰이는 글자이어서 여유분 활자가 많았고, 이런 이유로 식자공이 다른 문자보다 x를 미지수 기호로 선택할 것을 제안했다는 것이다. 흥미로운 일화이기는 하나 사실인지 확인하기는 어렵다.

또, 프랑스어에서 x가 별로 쓰이지 않아서 문장과 헷갈리지 않게 x를 골랐다는 주장도 있으나, 장식 있는 문자를 제외하고 세어 보면, 프랑스어에서 가장 적게 쓰이는 문자는 x > y > z > w > k이다. 프랑스어에서 k는 사실상 안 쓰인다고 할 수 있으니, 잘 안 쓰이는 글자를 택한다면 k를 고르는 게 낫다. 그게 아니라도 z가 x보다 훨씬 적게 쓰이니, 역시 x를 선택한 이유를 설명할 수가 없다.

미지수를 x로 나타낸 유래를 아랍어에서 찾는 경우도 있다. TED 강연 가운데 하나인 Why is 'x' the symbol for an unknown?에서는 Terry Moore가 x의 유래를 아랍어 شيء로 설명하고 있다. "어떤 것(something)"을 뜻하는 이 단어를 이슬람 수학자들이 미지수를 나타내는 데 사용하였고, "셰이(shei)"로 읽히는 이 단어를 중세 스페인 학자들이 xei로 쓴 게 미지수 x의 기원이라는 것이다.

TED의 내용이 모두 올바른 것은 아니지만, Moore의 강연은 특히 오류가 많은데, 그럼에도 꽤 인기가 있었는지 여기저기서 이 강연을 인용하는 것을 볼 수 있었다. 그래서 이 긴 글을...

우선, 이 강연에서 Moore가 중세 스페인어에 대해 무지하다는 걸 알 수 있다. Moore는 스페인어에 /sh/ 발음이 없어서 그리스 문자 χ를 빌려왔다고 설명하는데, 중세 스페인어에는 /sh/ 발음이 있었고, 그 글자가 바로 x였다. 그러니까 그리스 문자를 빌려오고 어쩌고 할 필요 없이, 중세 스페인 학자들은 원래부터 x를 써왔다는 말이다.

지금은 스페인어에서 x가 /흐/ 비슷한 소리가 나지만, 16세기까지도 이 글자는 /sh/ 소리였다. 그래서 세르반테스가 쓴 작품은 "돈키호테"가 아니라 "돈키쇼테(Don Quixote)". 스페인 축구 선수 Xavi를 /하비/가 아니라 /샤비/처럼 읽는 이유도 이 사람이 카탈루냐 출신이고, 카탈루냐어에서는 중세 스페인어와 비슷하게 x를 /sh/처럼 소리내기 때문이다.

또, 이슬람 수학자들이 아랍어 شيء를 줄여서 첫 글자 ش(sh)로 미지수를 나타내기는 하였으나, 제곱을 나타내는 글자는 ﻡ(m)이고 세제곱을 나타내는 글자는 ﻙ(k)여서, 유럽 수학자들이 미지수와 그 제곱, 세제곱을 별도의 기호로 나타낸 것과 별로 다르지 않다. 그러니 이슬람 수학자들의 표기법을 받아들여서 ش에 해당하는 x를 미지수로 쓰게 되었다는 것은 좀 억지스럽다.

그리고 무엇보다도 이 주장은 새로운 것이 아니다. 웹스터 사전에도 실렸을 정도이니 한 이백년 정도는 된 주장이다. 유명한 수학사학자 캐조리(Florian Cajori, 1859-1930)는 이 주장에 대해 역사적인 근거가 없다고 설명하고 있다.

그렇다면 왜 데카르트는 미지수를 나타내는 문자로 x를 골랐을까? 흥미로운 주장 가운데 하나로, 독일의 루돌프(Christoph Rudolff)가 미지수를 나타내기 위해 사용하였던 기호가 x와 비슷하여 데카르트가 착각하였다는 것도 있다.

루돌프는 당대에 영향력 있었던 수학 책을 쓰면서, 미지수를 radix로 부르고, 독일 필기체 r와 x를 합친 기호를 사용하였다. 물론 그도 이전 수학자들처럼 제곱, 세제곱 등등을 전혀 다른 기호로 나타내었으므로, 미지수를 문자로 나타낸 원조라 하기는 조금 어렵다.

루돌프의 책 Coss. 기호 설명 가운데 위에서 두 번째가 radix이다.
- 캐조리(Cajori)의 A History of Mathematical Notations에서 인용

어쩌면 데카르트는 흔히 쓰이던 루돌프의 기호와 비슷한 문자를 골랐는지도 모른다. 그렇지만 데카르트가 남긴 기록 가운데 루돌프의 기호와 미지수 x를 함께 쓴 것들이 있어서 적어도 데카르트가 기호를 착각하였다는 주장은 옳지 않다.

데카르트가 문자 x를 고른 이유에 대한 정답은 아마도 "알 수 없다"가 되어야 할 것 같다. 현재 알려져 있는 여러 학설들이 거의 모두 억측이거나 역사적인 근거가 부족하기 때문이다.

미지수를 문자로 나타낸다는 아이디어 자체는 데카르트가 최초라 하기 어렵겠지만, 제곱, 세제곱 등등을 다른 기호로 나타내는 대신 문자 x를 다시 이용하여 나타낸다는 것은 데카르트의 획기적인 착상이라 할 만하다. 이것이야말로 미지수를 문자로 나타내고 식을 직접 연산한다는 대수학의 핵심적인 철학이고, 데카르트의 방식이 널리 퍼질 수 있었던 근본 이유였다.