Korean Article Bank

한국신학논문은행에 대하여

2004/08/23 (02:17) from 80.139.162.115' of 80.139.162.115' Article Number : 353
Delete Modify Fischer Access : 3852 , Lines : 123
과학혁명의 지배자들 : 다비트 힐베르트



다비트 힐베르트 : 수학에 해결할 수 없는 난제란 없다



과학혁명의 지배자들 : Ernst Peter Fischer 저서, 이민수 옮김, 양문출판사 (742-2565), 2002 (원서 : Leonardo, Heisenberg & Co : Piper Verlag GmbH, 2000), Page 168~180



칸트를 반박하다.

고르단의 문제

대상들 사이의 관계를 중시한 기하학

우리는 알아야만 하며 알게 될 것이다
결정할 수 없는 명제들

수학적 물리학에의 도전

출애굽




다비트 힐베르트 (David Hilbert, 1862~1943) 는 조용하고 촌티 나는 동프로이센 사람이었다. 괴팅겐의 눈부신 수학 전통을 대표하는 인물인 그는 자신의 강점을 아주 잘 알고 있었음에도, 항상 겸손하게 행동했다. 힐베르트는 수학의 모든 영역에서 가장 어려운 문제와 가장 포괄적인 주제를 선택했지만, 언제나 큰 성공을 거두었을 뿐 아니라 미래 수학의 문제들을 명확히 제시했다. 따라서 전세계가 그의 말에 탐욕스러울 정도로 주의 깊게 귀를 기울인 것은 어쩌면 당연한 일이었다. 하지만 그는 인생의 말년에 자신이 쌓아온 찬란한 승리가 무너지는 것을 경험했다. 평생 동안 각별하게 지낸 동료들이 죽은 이후, 모든 수학적인 문제는 완전히 결정 가능할 것이라는 그의 희망은 반박되었다. 곧이어 히틀러의 국가사회주의는 평생 힐베르트의 정신이 구현되었던 괴팅겐을 폐허로 만들었다. 힐베르트가 사망한 1943 년, 괴팅겐에는 더 이상 수학자가 없었다. 그리고 2 년 후 그의 부인 힐데가 그 뒤를 따랐을 때, 힐베르트의 고향 쾨니히스베르크는 잿더미로 변해 있었다.

칸트를 반박하다.
1862 년 1 월 3 일, 힐베르트는 프로이센의 쾨니히스베르크에서 교양시민계급의 아들로 태어났다. 19 세기에 쾨니히스베르크에서 태어난 모든 사람은 힐베르트처럼 임마누엘 칸트의 말과 글을 읽으면서 학창시절을 보냈다. 힐베르트에게 칸트의 말과 문장은 깊은 인상을 남겼다. 그는 칸트의 충고를 진지하게 받아들였고, 자신의 이성을 스스로 사용하기로 결심했다. 힐베르트는 대학 시험을 치렀고, 학업 (수학) 을 끝낼 무렵 감히 이 유명한 철학자에 대해 한 가지 반론을 제기했다. 당시 그는 스물두 살이었고, 칸트가 그랬던 것처럼 그때까지 고향을 떠나지 않고 있었다.

1884 년, 힐베르트가 칸트에 대해 제기한 반론은 19 세기 전반의 수학자들이 거두었던 크나큰 성공을 이용한 것이었다. 그것은 바로 유클리드 기하학과는 전혀 다른 기하학이 있을 수 있다는 이론의 약진이었다. 칸트는 유클리드가 공간을 기술한 방법은 논리상 필연적으로 (선험적, a priori) 주어져 있고, 결코 경험에 의해 (후험적, a posteriori) 영향을 받을 수 없다고 주장했다. 그리고 힐베르트는 비 유클리드 기하학의 도움으로 수학에 대한 칸트의 철학적인 가정을 반박했다.

힐베르트가 없었다면 수학은 오늘날처럼 발전할 수 없었을 것이다. 어쨌든 칸트는 기하학적 판단은 물론 산술적인 판단이 경험에서 파생될 수 없고, 유클리드 공간처럼 우리와 함께 우리 안에서 선험적으로 나타난다는 의견을 대변했다. 힐베르트는 박사과정 시험을 통해 이 부분에 대한 보다 정확한 반론을 제기했다. 즉 그것은 후험적일 수 있다는 것이다. 여기서는 우선 그의 의견이 옳았다는 것과 당시 쾨니히스베르크에서 누구도 그의 이론에 반론을 제기하지 않았다는 것만을 확인해둔다.

고르단의 문제
힐베르트는 칸트의 그늘에서 벗어났다. 그러나 그의 본질적인 관심은 수학에 긍정적인 기여를 함으로써 자신의 이름을 수학 연감에 남기는 것이었다. 그의 재능은 대학에 입학하기 전까지 특별히 눈에 띄지 않았다. 힐베르트는 후일 수학을 "나중에 공부하려고 했기 때문에 대학에 들어가기 전까지는 수학에 별 관심을 두지 않았다." 라고 말했다. 대학에서 공부하는 동안 나는 2 년 연하의 헤르만 민코프스키, 그리고 서른이 채 안 된 나이에 교수로 임명된 아돌프 후르비츠와 친밀한 우정을 나누었다. 그후 이 세 사람은 함께 '수학적 지식의 모든 사각지대' 를 샅샅이 뒤졌다.

힐베르트는 '불변식의 왕' 이라 불린 고르단을 탐구하면서 전문가들 사이에 '고르단의 문제' 로 알려진 문제에 주목했다. 에미 뇌터를 다룰 때 이미 말했듯이 불변식은 당시 수학의 주요 주제였다. '불변식' 이란 사상이나 연산 (혹은 변위) 을 통해 변화하지 않는 것을 말한다. 그 당시에 불변식의 내부구조는 이미 알려져 있었다. 계수와 차수가 주어지면 적어도 이론적으로는 서로 다른 불변식을 모두 써내려갈 수 있고 전체 개수를 셀 수 있다. 여기서 고르단의 문제가 제기된다. 즉 그것은 임의의 불변식을 유한 개의 불변식들을 가지고 이것들의 유리 함수나 정함수로 표시할 수 있는 유한기저가 존재하는가의 문제였다.

힐베르트는 고르단의 문제로 많은 성과를 낼 수 있다고 판단했다. 힐베르트에게 이 문제는 단순하고 명확하게 표현할 수 있고, 한편으로는 어렵지만 접근이 가능하다는 매력을 지니고 있었다. 그는 이 문제의 해답이 '숨겨진 진리' 로 가는 길을 열어줄 수 있다는 의미에서 중요하다고 생각했다. 그래서 그는 쾨니히스베르크의 젊은 수학강사로 일하면서 고르단의 문제를 상세하게 연구했고, 1888 년 11 월 마침내 한 가지 대답을 제시할 수 있었다. 그 해답은 수학세계를 혼란스럽게 만들었고, 고르단은 "이것은 수학이 아니라 신학이다!" 라고 외칠 정도였다.

수학자들이 기대했던 것은 그들이 찾고 있는 유한기저의 구조 및 방식이었다. 하지만 힐베르트가 그들에게 보여준 것은 유한기저가 존재한다는 증명이었다. 즉 그들이 찾고 있는 유한기저가 틀림없이 존재한다는 주장이었다. 그러니까 힐베르트는 유한기저를 상세하게 구성하지 않은 채 유한기저가 존재한다는 증명 이외에는 어떤 것도 보여주지 않았다. 후일 힐베르트는 자신의 강의에서 이런 방식의 수학적 증명, 즉 실체를 정확하게 논증하지 않은 채 무엇인가의 존재만을 주장하는 단순한 예를 들었다.

많은 사람들이 앉아 있는 강당 안에 머리카락 수가 가장 적은 한 사람이 있다. 이때 내가 그 사람을 개인적으로 모르고, 그에 대해 뭐라 자세하게 말할 수 없다고 할지라도 그런 (머리카락 수가 가장 적은) 사람은 반드시 존재한다.


힐베르트는 고르단이 찾았던 유한기저가 존재하지 않는다고 가정한다면 모순이라는 것을 밝힘으로써 그 존재를 증명했다. 결국 유한기저는 필연적으로 있는 것이다. 이런 독창적인 방법으로 힐베르트는 고르단의 문제를 알렉산더 대왕이 고르디우스의 매듭을 단칼에 끊어버린 것처럼 해결했다. 불과 스물여섯 살에 불과했던 수학 강사는 졸지에 유명해졌다. 그는 수학 분야에서 탄탄한 강력을 쌓을 수 있었을 뿐 아니라 결혼을 해 아버지가 됨으로써 안정된 시민으로서의 생활 역시 영위했다.

대상들 사이의 관계를 중시한 기하학
1895 년, 힐베르트는 괴팅겐 대학으로 초빙되었다. 가우스가 괴팅겐 대학에서 연구를 시작한 지 곡 100 년 만인 그해 3 월 그는 괴팅겐에 도착했다. 그리고 괴팅겐은 그의 인생에서 쾨니히스베르크 다음 체류지이자 인생의 종착점이 되었다.

힐베르트는 쾨니히스베르크에서 강의한 8 년 동안 한번 다룬 주제는 두 번 다시 다루지 않았다. 그는 강의만 다양하게 한 것이 아니라 연구도 마찬가지였다. 어쨌든 학생들은 젊은 선생 힐베르트가 준비가 잘된 날은 '간단하고, 자연스럽고, 논리적으로' 강의를 진행했지만, 준비가 부족한 날은 두려워하고 있음을 금방 알 수 있었다. 어떤 날은 강의를 중단하고 학생들을 집으로 돌려보내는 일도 있었다.

우선 연구자 힐베르트는 가우스처럼 수학의 가장 아름다운 영역이라고 느낀 대수 이론에 천착했다. 그리고 1897 년, 수학 분야에서 이후의 연구들을 결정해 버린 《정수론 연구 Zahlbericht》를 발표했다.

한편 힐베르트는 대학시절 한 교수가 기하학적 대상에서 명칭이란 중요하지 않으며, 점, 선, 평면 대신 책상, 의자 혹은 맥주잔으로 바꾸어 불러도 별로 상관이 없다고 말한 것에 대해 계속해서 깊이 생각해왔다. 그리고 그는 1898 년과 1899 년의 겨울학기에 기하학의 원칙을 강의하면서 그때의 시간으로 거슬러 올라가 당시 사람들을 놀라게 할 만한 책 《기하학의 원칙 Grundlagen der Geometrie》을 출판한다. 힐베르트는 이 책에서 점, 직선, 평면을 정의하는 것을 분명히 포기했다. 점, 직선, 평면은 그들 사이의 상호 관계를 결정하는 규칙이 그들에게 적용될 때에만 그 적용 방식대로 존재한다는 것이다. 예를 들어 힐베르트는 "직선에는 적어도 두 개의 점이 있다." 라는 식으로 이런 규칙들을 조심스럽게 확정했다. 원의 규칙은 다음과 같다.

M 이 평면에서 임의의 점이라면, 선분 MA 가 서로 일치하는 모든 점 A 의 총체는 원이라고 불린다.


힐베르트는 유클리드와 완전히 다른 방식으로 작업했지만, 그와 동일한 인식에 도달했다. 2000 년 전의 그리스 기하학자 유클리드는 선, 직선, 평면 등을 정확하게 정의했다. 그러나 그는 '같다' 혹은 '교차한다' 라는 표현들이 무엇을 의미하는지 정의하지 않았다 (힐베르트는 '같다' 라는 단어 대신 '서로 일치한다' 라는 말을 사용한다). 대신 괴팅겐의 기하학자 힐베르트는 대상들 사이의 관계를 중시했다. 또 그는 한 점이 한 선 위에 '있다' 는 말과 두 평면 '사이에 있다' 는 말의 의미를 보다 명확하게 표현했다. 예를 들어 "한 중심점과 같은 거리에 있는 점의 집합체인 원으로부터 임의로 존재할 수 있는 것은 구 모양이다."

우리는 알아야만 하며 알게 될 것이다
1900 년 가을, 파리 국제 수학대회에서 '수학적인 문제' 라는 개막 강연을 한 힐베르트는 참가자들을 향해 몇 가지 질문을 제기했다.

향후 다가올 새로운 세기에 잠재되어 있는 발전의 비밀과 과학이 직면한 진보를 들여다보기 위해 우리 중 누군가가 감춰진 미래의 베일을 벗기지 않을까요? 미래를 이끌 수학자들은 어떤 특별한 목표를 추구할까요? 새로운 세기에는 수학적인 사상의 넓고 풍요로운 평야에서 어떤 새로운 방법과 사실을 발견하게 될까요?


이것은 오늘날까지 수학계에서 가장 유명한 연설이다. 힐베르트의 말은 "모든 수학적인 문제들은 풀 수 있다." 라는 확신에 근거하여 그 의미와 생명력을 얻었다. 여기에 연구의 자극제가 숨어 있다.

우리는 '저기에 문제가 있다. 해답을 찾아라' 라는 외침을 우리 안에서 끊임없이 듣고 있습니다. 여러분들은 그 해답을 순수한 사고를 통해 발견할 수 있습니다. 왜냐하면 수학에는 이그노라비무스가 없기 때문입니다.


힐베르트는 천천히, 그러나 독일어로 말했다. 그러므로 파리의 청중들 중 얼마나 많은 사람들이 그의 말을 이해했는지는 모를 일이다. 그러나 그들은 라틴어 '이그노라비무스 (Ignorabimus)' 가 무엇과 관련이 있는지는 명확하게 이해할 수 있었다. 그것은 19 세기에 과학적인 이해의 한계를 강조한 심리학자 에밀 뒤부와 레이몽의 강연과 관련이 있었다. 그는 "Ignoramus et ignorabismus.", 즉 "우리는 알지 못하고, 그리고 우리는 알 수 없을 것이다." 라고 말했다.

힐베르트는 그런 입장을 싫어했다. 그는 20 세기의 과학자들은 다른 관점을 가져야 한다고 설파했다. 그래서 그는 1930 년 쾨니히스베르크의 강연에서 "우리는 알아야만 하며, 알게 될 것이다." 라고 말했고, 이 문구는 그의 묘비에 새겨져 있다.

1900 년 여름 파리에서 힐베르트는 수학적 문제들로 구성된 23 개의 목록을 제시했다. 그는 자신이 제시한 수학적 문제들의 해답을 구하는 것이 수학이라는 학문에서 최고의 진보라고 생각했다. 힐베르트는 이 문제들을 선별할 때, 앞에서 고르단의 매듭과 관련해 언급된 판단 기준을 적용했다. 또한 일반 대중을 고려하여 한 가지를 더 부가했다.

프랑스의 한 나이 든 수학자는 말했다. 당신이 수학 이론을 거리에서 만난 첫번째 사람에게 설명할 수 있을 정도까지 분명히 알지 못한다면, 그것은 완전한 이론이 아니다. 수학 이론을 위한 이런 철저함, 즉 명확성과 이해하기 쉬운 속성을 나는 수학 문제로부터 훨씬 많이 요구하고 싶다. 왜냐하면 명확하고 쉽게 이해할 수 있는 것은 우리를 매혹시키고, 복잡한 것은 우리를 겁먹게 하기 때문이다.


힐베르트는 미래 수학의 첫번째 과제로 칸토르의 '연속체의 농도에 관한 문제' 를 언급했다. 이 과제가 대부분의 독자에게 탄성을 이끌어 내지는 못한다 하더라도, 힐베르트가 놀라운 주제를 선택하기 위해 노력했다는 확신만은 갖게 한다. 비록 노력이 그의 희망과는 다른 결과를 빚었을지라도 말이다.

여기에서 관건이 되고 있는 칸토르는 1915 년 일흔번째 생일 때, 자신이 만든 '천국' 에 대한 동료들의 뜨거운 찬사를 받았다. '천국' 이란 그의 집합론, 즉 수학적인 대상과의 관계를 집합의 형식으로 풀어 놓은 것을 말한다. 이때 한 집합의 원소들의 수는 '농도' 라고 명명된다. 칸토르는 여러 집합의 농도를 비교하고자 했고, 이때 그는 진기한 문제에 직면했다.

그가 자연수를 집합으로 파악했을 때, 그 농도는 무한히 컸다. 그렇지만 자연수와는 다른 수도 분명히 존재한다. 예를 들어 정수, 유리수, 소수가 있다. 이렇게 모든 실수를 묶어놓으면 그 농도가 자연수처럼 무한한 집합을 얻는다. 이런 무한성의 형식을 구별하기 위해서, 칸토르는 자연수의 농도에 셀 수 있게 무한하다는 의미로 '가부번적' 이라는 이름을 붙였고 실수의 농도에는 셀 수 없이 무한한, 즉 '비 가부번적' 이라는 이름을 붙여주엇다. 그리고 언어 표현상 서로 다른 이 두 가지 무한성이 수학적으로도 구별될 수 있음을 칸토르는 우아하게 (유명한 대각선 논법을 통해) 논증했다.

분명한 점은 '셀 수 없이 무한하다' 는 개념은 실재할 뿐 아니라 '셀 수 있게 무한하다' 는 것보다 훨씬 쉽고 타당하게 증명될 수 있다는 사실이다. 이런 (상식적으로 분명한) 통찰은 아름다웠지만, 거기에서 그치지 않고 또 다른 새로운 질문을 이끌어냈다. 즉 '가부번적인 무한과 연속적인 무한 외에 다른 농도가 있는가' 라는 문제이다. 물론 칸토르는 그런 질문까지 파고들지는 않았다. 그리고 1900 년 힐베르트가 23 개의 목록 첫 머리에서 이 문제를 제기했을 때에도 해답은 나오지 않았다.

결정할 수 없는 명제들
미국의 수학자 폴 J. 코언이 힐베르트의 첫번째 문제를 푼 것은 1960 년대에 들어선 때였다. 하지만 이때 '풀었다' 라는 단어는 적절하지 않을 것이다. 힐베르트는 무한성의 세번째 형식, 혹은 그 이상의 형식이 있는지 알고자 했다. 하지만 코언은 무언가 다른 것을 제시했다. 즉 그는 "이 문제는 결정될 수 없다." 라는 기이한 결론을 보여주었다.

이런 단순한 명제 이면에는 결정 가능성이란 표제어를 수반하는 수학의 특별한 진보가 숨어 있다. 여기서 쿠르트 괴델을 언급해야만 한다. 1931 년, 당시 25 세의 빈 태생 논리학자 괴델은 수학에서 모든 것이 증명될 수는 없고, 숫자와 도형의 제국에서도 모든 것을 알 수는 없다는 것을 증명했다. 괴델은 형식적으로 결정될 수 없는 명제의 존재를 증명했다. 좀더 정확하게 말하자면, 모순 없이 구성된 공리 (증명되지 않는 근본적인 진리) 로 세워진 사고의 건물 (형식화된 체계) 은 불완전하게 남아 있을 수밖에 없다는 것을 의미한다. 혹은 가능한 한 단순하게 말하자면, 이런 체계 안에서 증명될 수 없는 정리들은 모든 수학의 범주에서 정확하게 표현될 수 없다는 것이다. 결국 힐베르트의 첫번째 문제는 결정 불가능하다. 결국 수학에서 이그노라비무스는 없다는 그의 희망은 이루어질 수 없는 것이다.

괴델은 힐베르트의 도전에 아주 구체적으로 반응했다. 힐베르트는 1928 년 (아마도 너무 큰 자기 확신을 바탕으로) '젊은 수학 세대를 위한 과제' 로서 네 가지 문제를 제시했다. 그 과제에서 중요한 점은 수학적 이론의 기본 원칙 (공리) 의 무모순성과 추론 가능성이었다. 1930 년 괴델은 모든 문제를 풀었다. 물론 문제의 해법을 발견했다는 의미는 아니다. 오히려 그는 힐베르트의 문제를 와해시켰다. 이 문제와 관련해 괴델의 동창인 시인 로베르트 무질은 다음과 같이 주석을 달았다.

속을 파헤치던 수학자들은 정리될 수 없는 무엇이 있다는 것을 갑자기 찾아냈다. 실제 그들은 맨 아래를 보았고 전체 건물이 공중에 떠 있음을 발견했다.


사람들은 괴델의 부정적인 결과에서 긍정적인 면 역시 발견했다. 첫째, (형식적 틀에 머물러 있는) 증명 가능한 이념과 (형식적 틀을 넘어선) 진실의 이념 사이에 차이가 제시된 것 같다. 마치 그것은 기계의 지성과 인간 뇌가 지닌 속성의 차이를 파악한 것처럼 보인다.

둘째, 모든 것이 엄밀하게 추론될 수 없다면, 과학자들은 일종의 자유를 다시 얻을 수 있는 것이다. 예를 들어 형식적인 결정 불가능성으로 인해 선택의 자유가 주어졌다는 것이 분명해졌다. 사람들은 실제 세 개, 네 개 혹은 끝없이 많은 무한성이 존재하는지 선택할 수 있고, 이렇게 자유로운 결정에 따라 그에 적합한 수학을 추진할 수 있다.

그럼에도 너무 많은 결정 불가능성으로 인해 힐베르트는 완전히 기분을 망치고 말았다. 특히 네덜란드인 브로우베르가 완전히 새로운 수식화를 수학에 도입함으로써 그는 몹시 화가 나버렸다. 예전부터 브로우베르는 수학에서 논리학이 우위에 있는 것을 아주 싫어했다. 이런 사고의 형식이 진리를 발견하기에 적절한 도구라고 생각하지 않았기 때문이다. 그래서 그는 자신이 애매하게 '직관주의 (intuitionimus)' 라고 불렀던 독립적인 방식을 발전시켰다.

수학적 물리학에의 도전
힐베르트는 '수학은 인간의 정신에 의해 세워진 구조물이고, 그 구조물의 대상은 오로지 우리의 육체 안에만 존재한다' 는 것을 기본적으로 가정했다. 그래서 그는 수학이란 학문을 해석하는 것을 참을 수가 없었다. 힐베르트는 숫자와 도형이 자연에도 숨어 있음을 보았다. 그는 자신이 제시한 수학의 새로운 원칙이 다른 학문을 개혁할 수 있을 것이라는 확신을 가졌다.

우리는 수학을 새롭게 했다. 이제 물리학을 새롭게 할 것이다. 그 다음은 화학이 될 것이다.


실제 힐베르트는 1900 년 이후 수십 년 동안 그 당시 혁명적으로 진보한 물리학에 강한 관심을 보이기 시작했으며, 리하르트 쿠란트와 함께 《수학적 물리학의 방법 Methoden der mathematischen Physik》이란 방대한 교과서를 출판하는 구체적인 성과도 보였다. 오늘날 이론 물리학 교과서에 나오는 '힐베르트 공간' 은 바로 그 책에서 소개된 것이다. 《수학적 물리학의 방법》에는 원자 현실을 수학적 형식으로 파악하기 위해 필요한 함수들이 정의되어 있다. 괴팅겐이 20 년 후에 생겨난 새로운 원자물리학 양자론의 중심지가 될 수 있었던 것은 그곳에 힐베르트가 있었기 때문이다.

출애굽
1930 년대 초, 괴델의 이론으로 힐베르트의 수학적 계획이 무너져갈 당시 그의 세계 자체도 붕괴되어갔다. 권력을 잡은 나치는 유대인 과학자들을 추방했다. 당대 최고의 물리학자와 수학자들은 밤새 대학에서 쫓겨났고 독일에서 추방당했다. 에미 뇌터와 리하르트 쿠란트도 마찬가지였다. 힐베르트에게 어떤 종교를 믿느냐는 전혀 중요하지 않았다. 그는 누가 중요한 수학적 문제에 해답을 줄 수 있는가만 물었다. 고령의 힐베르트가 나치의 교육장관 옆에 앉았을 때, 교육장관은 그에게 괴팅겐의 수학이 끔찍한 유태인의 영향에서 벗어난 후 잘 되어가고 있는지 물었다. 힐베르트는 이렇게 대답했다.

"괴팅겐의 수학 말씀입니까? 그런 건 더 이상 없습니다."

1943 년 2 월 14 일, 그는 괴팅겐에서 숨을 거두었다.

Backward Forward Post Reply List