본문 바로가기

본문

기하·대수학 활용 해석기하학 만든 ‘곡선의 아버지’

중앙선데이 2017.12.10 01:00 561호 27면 지면보기
[수학이 뭐길래] ‘나는 생각한다 고로 존재한다’ 데카르트
네덜란드의 화가 세바스티안 브랑스의 ‘보머험(벨기에 지역)에서의 약탈’(1625~1630). 30년 전쟁은 용병들로 치러진 전쟁이었다. 전쟁이 장기화되면서 용병들에게 적절한 임금이 전달되지 못했을 때, 용병들의 약탈은 상황을 더욱 악화시켰다.

네덜란드의 화가 세바스티안 브랑스의 ‘보머험(벨기에 지역)에서의 약탈’(1625~1630). 30년 전쟁은 용병들로 치러진 전쟁이었다. 전쟁이 장기화되면서 용병들에게 적절한 임금이 전달되지 못했을 때, 용병들의 약탈은 상황을 더욱 악화시켰다.

중·고등학교 때 함수의 그래프를 그려 본 기억이 있을 것이다. 요즘 학생들도 중1 때부터 일차함수의 그래프를 배우고 그린다. 그리고 고등학교에 들어가서는 도형의 방정식이나 이차함수의 그래프를 공부한다. 그때 기하학 그래프와 그 그래프에 대응하는 방정식이나 함수를 같이 배우는 것이 얼마나 중요한 의미를 지니는지를 깨닫고 공부하는 학생들은 거의 없을 것이다. 그러나 그것은 수학의 발전 과정에서 무엇보다도 중요하고 혁명적인 사건이었다. 이 문제를 이해하기 위해서는, 근대 서유럽의 가장 중요한 철학자 중 한 사람인 데카르트의 고민을 들여다볼 필요가 있다.
 
데카르트가 살았던 시기의 서유럽은 극도로 불확실하고 불안정한 곳이었다. 16세기 초에 시작되었던 가톨릭과 개신교 종파 간의 갈등은 17세기에 더욱 심화되었다. 가령, 1610년 프랑스에서는 가톨릭과 개신교 사이의 갈등을 완화하고 종교에 대한 관용을 주장하던 앙리 4세가 광신 가톨릭교도에 의해 살해되었다. 당대 프랑스 사회에 큰 충격을 준 사건이었다. 이후 프랑스 각지에서는 앙리 4세의 장례식과 추모식이 거행되었다. 10대의 데카르트가 다니던 라 플레슈라는 예수회 학교 역시 예외가 아니었다. 서로 자신의 교리가 가장 확실함을 주장하고 있었으나, 누구도 무엇이 확실한 진리인지는 가늠하기 어려웠다.
데카르트가 20대에 들어선 즈음에는 세계 최초의 세계대전이라고까지 불리는 ‘30년 전쟁’(1618~48)이 일어났다. 데카르트는 네덜란드로 건너가 여러 군주에게 봉사하면서 30년 전쟁의 참혹상을 지켜봤다. 세상을 경험하는 것만으로는 참된 진리에 이르기에 부족해 보였다. 1630년대 초, 데카르트는 전쟁으로부터 벗어나 네덜란드에 정착한 뒤 깊은 사색에 들어갔다. 『세계』(1664)와 『인간론』(1662)이 집필된 건 바로 이 시기였다.
 
 
갈릴레오 종교재판 보고 사후 출판
그런데 출판을 앞두고 갈릴레오의 종교재판 소식이 전해졌다. 서유럽에서 가장 저명한 학자 중 하나인 갈릴레오가 자신이 펴낸 책 때문에 재판을 받는다면, 자신 역시 안전할 리 없었다. 결국 『세계』와 『인간론』은 데카르트 사후에 출판되었다. 모든 것이 불확실해 보였던 시기에 피론주의라는 고대의 극단적인 회의론이 유행하기 시작했던 것은 우연의 일치가 아니었다. 진리도 참된 지식도 존재하지 않는다는 피론주의의 주장은 불확실성의 시대와 잘 어울렸다.
 
이렇듯 불확실하고 회의적인 상황에서 데카르트는 회의주의의 거센 파도에 정면으로 맞서 절대 확실한 진리 탐구의 여정에 나섰다. 그는 먼저 체계적 의심의 방법을 통해 조금이라도 의심의 여지가 있거나 논쟁적인 지식은 철저히 부정해 나갔다. 이 과정에서 그는 ‘나는 생각한다. 고로 존재한다’라는 부정할 수 없는 결론에 이르렀다. 바로 이 명제를 철학의 제1원리로 삼은 데카르트는 그로부터 신의 존재 증명과 이성에 대한 확신을 통해 참된 진리를 위한 새로운 방법론에 관한 논의로 나아갔다.
 
데카르트

데카르트

데카르트는 인간이 확실한 인식에 도달할 수 있는 능력을 지니고 있다고 보았다. 사회에 불확실한 지식이 팽배해 있는 것은 인간이 이성을 올바르게 사용하지 않기 때문이었다. 그는 이성을 올바르게 사용해 참된 진리로 나아갈 수 있는 새로운 연구 방법에 대해 고민하기 시작했다.
 
데카르트가 보기에 새로운 학문 방법을 위한 가장 훌륭한 선례는 수학으로 보였다. 그는 기하학과 대수학의 연구 방법에 주목했다. 그가 보기에 기하학은 공리와 같은 가장 간단하고 확실한 명제들로부터 시작해 복잡한 기하학적 정리들을 유도해낼 수 있는 미덕을 지니고 있었다. 그리고 대수학은 간단한 기호를 사용해 계산을 효율화할 수 있었고, 추상적인 미지의 양을 다루는 데도 유용했다.
 
다만 기하학과 대수학의 방법에는 단점이 존재했다. 우선 기하학과 대수학에서는 추상적이고 아무 소용도 없어 보이는 문제들을 다루는 경우가 많았다. 대수학의 경우, 이자나 환율 계산 등의 실용적인 목적과 함께 발전하였지만, 고차방정식 풀이로 발전하면서는 실용적인 목적과는 동떨어진 채 너무 복잡해지고 있었다. 전통적인 기하학적 방법 역시 근대 초에 등장한 다양한 곡선을 다루는 데는 효율적이지 못했다. 대포알의 궤적을 계산하기 위해서도, 경사면 운동을 논하기 위해서도 다양한 곡선에 대한 연구는 불가피했으므로, 기하학은 바뀌어야 했다.
 
이런 상황에서 데카르트는 기하학과 대수학의 장점을 모두 가지면서도 단점은 지니지 않는 새로운 수학적 방법을 찾기 시작했다. 데카르트는 모든 문제에 접근할 때, 가장 단순한 것으로부터 시작해 새롭고 복잡한 지식으로 나아가야 한다고 보았다. 이를 위해 곡선 연구의 경우, 가장 단순한 직선으로부터 시작해 복잡한 곡선의 연구로 나아가고자 했다. 복잡한 문제를 효율적으로 다루기 위해서는 직선 등을 간단한 기호로 나타내고, 복잡한 문제를 단순한 문제로 나눈 뒤, 구하고자 하는 것을 정확하게 열거하는 순으로 나아가야 했다. 바로 데카르트가 개발한 해석기하학의 방법이었다.
 
 
『방법서설』 뒤에 실린 ‘기하학’에서 소개
데카르트는 해석기하학의 방법을 『방법서설』(1637) 뒤에 실린 ‘기하학’에서 소개하고 있다. 이 방법을 이해하기 위해 좀 더 구체적으로 살펴보자. 가령, 데카르트는 ‘기하학’ 2편에서 곡선의 성질을 다루면서 비례자라고 불리는 기구를 사용해 복잡한 곡선을 작도하는 방법을 소개하고 있다.(아래 그림) 비례자는 Y점을 중심으로 자 YZ와 YX가 서로 벌어질 수 있는 구조로 되어 있다. 이때 점 B에서 자 YX에 수직이 되도록 자 BC를 연결한다. 그런 다음 점 C에서 자 BC와 만나도록 직각자 DCZ를 놓는다. 이때 YX를 움직이면 점 C가 움직이면서 점 D가 연쇄적으로 움직인다. 움직이는 점 D를 모두 이으면 점 A에서 시작되는 새로운 곡선을 얻게 된다. 마찬가지 방식으로, 자 YX를 움직일 때 점 F와 H가 그리는 점들을 이으면 각각 새로운 곡선이 만들어진다.
 
이제 아래의 곡선을 연구하여 참된 지식을 얻으려 한다고 하자. 전통적인 기하학의 방법으로는 곡선에 대한 만족스러운 정보를 얻기가 힘들다. 그런데 곡선 위를 움직이는 점의 자취를 (x, y)로 놓으면 구체적인 곡선의 방정식이 얻어진다. 가령, 점 D가 그리는 곡선의 방정식을 구하기 위해 점 D의 좌표를 (x, y)로 놓고, 변하지 않는 일정한 값을 가지는 선분 YE의 길이를 a라고 두자. D의 좌표를 (x, y)로 둘 때, 선분 YC는 x가 되고, 선분 CD는 y가 된다. 이때 삼각형 YBC와 삼각형 YCD의 닮음 관계를 활용하면, x4-a2x2-a2y2=0이라는 4차식이 만들어진다. 마찬가지 방식으로, 점 F의 좌표를 (x, y)라고 놓고 삼각형 YCD와 삼각형 YDE, 그리고 삼각형 YEF 간의 닮음을 활용하면 변수 x, y에 관한 8차 방정식이 유도된다. 가장 단순한 직선에서부터 시작해 직선 위의 점과 선분에 간단한 기호를 부여하고, YX를 들어 올릴 때 삼각형의 닮음 조건들을 정확하게 열거하여 계산하면 새로운 곡선이 만들어지는 것이다.
 
마찬가지 방식으로, 아래 그림에서 고정된 G점을 중심으로 자 GL이 아래위로 움직이고 KL과 NL의 길이가 변하지 않으면서 아래위로 함께 움직이면, KN을 연장한 KC가 GL과 교점 C에서 만난다. 이때 자 GL이 아래위로 움직이면 점 C는 계속해서 움직이면서 새로운 곡선을 만들어 낸다. 이 곡선에 관해 좀 더 자세히 살펴보기 위해서는 곡선의 방정식을 구할 필요가 있다. 이를 위해 변하지 않는 선분 GA의 길이를 a, 선분 KL의 길이를 b, 선분 NL의 길이를 c, 그리고 움직이는 점 C의 좌표를 (x, y)라고 두자. AK를 x축으로 놓고 AG를 y축으로 놓은 상태에서 삼각형 KNL과 삼각형 KCB의 닮음, 그리고 삼각형 LCB와 삼각형 LGA의 닮음을 활용하면, 점 C가 그리는 곡선의 방정식 y2=cy-y+ay-ac가 얻어진다.
 
데카르트는 자신이 발견한 새로운 수학적 방법(해석기하학)을 통해 다양한 곡선에 대한 참된 지식을 얻을 수 있었다. 그리고 철학 및 과학의 다른 분야들에서도 새로운 방법을 통해 참된 진리에 도달할 수 있을 것이라고 보았다. 『방법서설』 뒤에 이어지는 ‘굴절 광학’ ‘기상학’ ‘기하학’ 부분은 그러한 방법이 적용된 새로운 지식의 모습을 보여 주었다. 흔히 데카르트의 해석기하학을 이야기할 때 데카르트가 천장에 기어 다니는 거미를 보며 좌표평면을 떠올렸다고 이야기한다. 하지만 데카르트의 해석기하학은 보다 진지한 철학적 고민의 산물이었다. 그리고 그가 예견한 것처럼 이후 다양한 분야에서 큰 성과를 거두었던 효과적인 연구 방법이었다. 지금 배우는 수학이 고통스럽더라도 데카르트가 아니었으면 더 고통스러운 수학 시간이 되었을 걸 생각해 보자. 아무쪼록 변수 x, y와 친해지길 바라며, 학생들에게 건투를 빈다.
 
 
조수남 수학사학자 sunamcho@gmail.com
서울대 과학사 및 과학철학 협동과정 박사. 현 서울대 강사이다. 과학사와 수학사를 연구하고 있다. 고등과학원 초학제연구단에서 연구했으며, 『욕망과 상상의 과학사』 등을 썼다.

구독신청

공유하기

Innovation Lab

Branded Content

광고 닫기