수학기초론

요약 수학의 기초에 관한 연구로서 현대수학의 한 분과이다. 그리스수학에서부터 비유클리드기하학의 발견을 거쳐 공리주의 사상에 도달하였다.

원래 경험적으로 발생한 수학인 이른바 그리스수학이, 유클리드의 《기하학원본(스토이케이아)》에 이르러 비로소 연역적(演繹的)인 체계를 갖추게 되었다. 흔히 《원본》이라고도 불리는 이 체계의 공리(公理)·공준(公準)에 대한 비판이 비(非)유클리드기하학의 발견으로 발전하였다. 그리하여 근대의 공리주의(公理主義)의 사상에 도달하였다.

한편, 19세기 말에 G.칸토어에 의하여 집합(集合)의 개념이 제창되었다. 이는 수학의 기초에 관계되는 매우 유용한 개념이라는 것이 인식되었다. 이를테면 자연수에 관한 G.페아노의 공리계(公理系), J.W.R.데데킨트의 자연수론, 무리수론 등에 기본적이고 유용한 공헌을 하였다. 이는 나아가 수학의 각 분야에 침투하였다.

한편, 1901년 B.러셀이 칸토어의 정의에 의한 집합론의 역리(逆理, 또는 背理)를 발견하였다. 이것은 많은 수학자에 의하여, 수학의 기초를 반성·비판하는 동기가 되었다. 즉, 집합의 개념이 스스로 그의 역리를 이끌어내고, 형식논리 자체의 기초에 반성과 비판을 유발하여, 드디어 수학기초론이 생겨났다고 볼 수 있다. 수학이란 어떠한 것이어야 하는가라는 입장에 따라 수학기초론은 러셀의 논리주의(論理主義:logicism), L.E.J.브로우베르의 직관주의(直觀主義:intuitionism), D.힐베르트의 형식주의(形式主義:formalism) 등으로 갈라져 나가게 되었는데, 현재 연구가 활발한 분야다.

논리주의
논리주의는 수학을 논리학의 한 분과로 보는 입장이다. 수학은 임의의 사물과 그의 성질에 대해서 항상 성립하는 사항을 형식적으로(내용과는 관계없이) 다루는 학문이다. 그렇다면 이야말로 옛날부터 논리학이라고 일컬어져 온 분야가 아니겠느냐라고 그들은 생각하는 것이다. 그들은 또한 ‘논리학은 수학의 청년시대며, 수학은 논리학의 장년시대’라고 말한다. 이 입장에서 이른바 기호논리의 형식으로 수학을 재구성하려고 한 결과 환원공리(還元公理)·무한공리(無限公理)·선택공리(選擇公理) 등을 가정하였는데, 그 자신도 불만족하다는 뜻을 표명하고 있다.

직관주의
직관주의는 수학적 진리나 대상이, 수학을 생각하는 정신과는 별도로 존재하는 것이 아니라, 정신활동력에 의해 직접 다루어지는 것이라고 하는 입장이다. L.크로네커, H.푸앵카레, L.E.J.브로우베르 등에 의하여 대표된다. 예를 들면, 브로우베르는 배중률(排中律)의 무제한 사용은 부당하다고 주장한다. 이를테면 명제 '성질 P를 가지는 자연수는 존재하거나 존재하지 않거나의 어느 한쪽이다'가 있다. 여기서 성질 P를 가지는 자연수가 실제로 구성되거나 또는 존재한다고 가정할 때, 모순을 유도하는 증명이 실제로 제시되었을 경우에만 옳다. 어느 쪽의 사실도 미확정인 경우에는 위의 명제는 참이라고도 거짓이라고도 말할 수 없다.

따라서 배중률은 일반적인 논리법칙이라고 할 수는 없다는 것이다. 이러한 입장에서 수학을 재구성하자면 종래 수학의 어떤 부분에까지 미쳐야 하고, 어떻게 수정해야 하느냐 하는 것이다. 그는 형식주의를 표방하고 나온 힐베르트와 대립하며, 극적인 논쟁을 벌인 적이 있다.

형식주의
형식주의는 힐베르트에 의하여 대표되는 공리주의가 이에 해당된다. 철저하게 형식화된 수학의 공리계의 무모순성(無矛盾性)을 증명하고자 하는 데서 비롯되었다고 할 수 있다. 무모순성의 증명이란, 이미 무모순이라고 알려진 확실한 기초 위로 환원하는 것이다. 수학적 증명의 거의 모든 근거가 되고 있는 논리나 집합론적 방법까지도 이의 무모순을 환원할 만한 기초란 무엇인가, 또 그 방법은 무엇인가라는 물음에 답하여, 그는 ‘유한(有限)의 입장(立場)’ ‘초수학(超數學:metamathematics)’ 등을 제창한다. 이 형식주의는 수학기초론에서 K.괴델의 불완전성정리(不完全性定理), 자연수론의 무모순성의 증명, 기타 공리적 집합론 등 많은 성과를 올리고 있다.