수리논리학

대체로 '논리학'이라는 용어는 형식논리학만을 나타내지만, 문맥에 따라서는 때로 방법론이나 인식론의 문제에까지도 확장되어 쓰인다.

'형식논리학'은 문장과 연역적 추론의 구조를 그 문장의 내용에서 추출한 논리적 구조만을 다루는 방법에 의해 탐구하는 이론이다. 이런 의미에서 논리학을 형식논리학이라 한다.

오늘날 수리논리학이라는 용어는 대체로 현대논리학 또는 기호논리학이라는 말과 동의어로 쓰인다. 그러나 수리논리학이라는 용어는 때때로 '수학의 논리학', 즉 메타 수학을 나타내기 위해 유보되기도 한다. 메타 수학은 연역체계들에 대한 이론으로, 여기에는 논리적 구문론, 즉 증명이론, 논리적 의미론, 회귀함수이론 등이 포함된다.

이와 같은 연역적(수학적) 체계에 관한 이론으로서의 수리논리학은 수학기초론의 핵심부를 이루고 있다. 수학기초론의 나머지 부분은 철학적 문제들로 수학적 인식의 문제와 수학적 대상의 존재론적 지위의 문제 등으로 이루어져 있으며, 이에 관해서는 논리주의·형식주의·직관주의 등의 이름하에 상이한 수리철학적 견해들이 전개되고 있다. 그러나 수리논리학이라는 용어는 일반적으로는 현대논리학 또는 기호논리학과 같은 의미로 쓰인다.

현대논리학은 19세기 후반에 시작되었으며, 초창기의 일부 저술들에게는 로지스틱(logistic)이라고도 불렸다. 현대논리학과 전통논리학을 구분해주는 것은 기호를 이용한 기법과 수학적 방법에 의존한다는 점뿐만 아니라, 형식화의 엄청난 위력과 폭 넓은 적용 범위에도 있다.

전통적인 아리스토텔레스 삼단논법에서도 술어변항기호가 등장하는 것으로 보아 기호의 사용이 현대논리학만의 전유물은 아니다.

그러나 전통적 삼단논법은 비수학성을 특징으로 하고 있다. 오늘날의 용어로 말하자면 삼단논법은 명제논리(=문장논리)가 아니라 술어논리(=양화논리)이며 그것도 각각의 명제 또는 문장마다 단 하나의 양화사만을 허용하는 단항양화논증(singularly general argument)만을 다루는 논리학이다.

명제논리에서는 요소명제와 명제연결사가 기본단위이다. 명제논리에서의 타당성 평가는 요소명제의 내적 구조를 더 이상 문제 삼지 않는다. 그저 요소명제들의 진리치와 명제연결사들 간의 순수 외연적 진리함수관계에만 주목하면 된다. 그러나 삼단논법은 명제논리가 아니라 술어논리이기 때문에 타당성 평가에서도 판단들의 진리치에 따른 순수 외연적 진리함수관계가 아니라 판단의 내적 구조를 살펴보아야 한다. 특별히 삼단논법에서는 내적 구조 중에서도 판단을 구성하는 개념들간의 귀속관계 여부에 주목한다.

그러나 판단에서의 주어개념과 술어개념이란 문법적 구분에 따른 것으로서, 어떤 개념이 주어개념이 되느냐 술어개념이 되느냐가 판단의 내용에 본질적인 차이를 주지 않고, 단지 능동태와 수동태처럼 수사학적 강조점의 차이만을 나타낼 때도 얼마든지 있다. 그러므로 우연적인 문법적 기준에 따른 판단의 내적 구조의 분석은 일상언어의 논리적 구조를 정확히 밝혀주기에 미흡한 점이 있다. 더욱이 주어-술어 구분에 입각한 판단분석은 형식논리학의 두 축을 이루고 있는 명제논리와 술어논리의 조화를 어렵게 한다.

아리스토텔레스의 논리학을 신봉하는 사람들이 명제논리의 원조라 할 수 있는 메가라-스토아 학파의 논리학을 오랫동안 적대시했다는 것은 잘 알려진 사실이다. 더욱이 단항양화논리로서의 삼단논법은 주어개념이 술어개념에 귀속하는지에만 주목하기 때문에, 둘 이상의 개념들 상호간에 성립하는 귀속관계 이외의 수많은 관계들(예를 들면 '동일하다', '보다 크다', '사랑한다' 등)을 다루는 논증의 타당성 평가를 제대로 수행하지 못하여 술어논리로서도 큰 약점을 안고 있다. 이 점은 특히 동일성관계·함수관계·연속관계 등 여러 가지 수학적 관계를 많이 다루는 수학자들에게 크게 불만족스러웠던 삼단논법의 비수학적 특징의 하나인데, 이는 근대 이후 논리학 발달사에 수학자들이 기여했던 이유 가운데 하나이기도 하다.

수리논리학에 대한 최초의 발상은 G.W. 라이프니츠에서 비롯된다.

그는 일상언어는 그 애매모호함 때문에 적절한 사유수단이 아니라고 생각했다. 그래서 모든 추론과정과 사유과정을 순수 수학적 계산과정으로 환원할 수 있는 보편적 추론언어로서 인공언어의 구성을 제안했다. 그러나 그의 제안은 그저 구상으로만 그치고 실현되지는 못했다. 논리학의 현대적 발전은 G. 불과 A. 드 모르간의 작업과 더불어 본격적으로 시작되었다.

불은 라이프니츠의 정신을 이어받아, 제한된 대수적 틀에서 형성된 논리의 예로 불대수(Boolean Algebra)를 보여주었다. 여기서는 집합론과 명제논리가 대수학의 한 특수한 형태로 소개되면서 집합론과 명제논리의 구조가 근본적으로 동일함을 보여주고 있다. 거의 비슷한 시기에 드 모르간은 이항관계대수로 이루어진 논리대수의 기초를 마련했다. 그러나 이들은 자신들이 고안한 논리체계들의 성격을 완전하게 규명하지 않고 단지 일상 대수와의 차이점만을 지적하는 데 그쳤다. 어쨌든 이를 기점으로 수학에서 순수 논리적 추론의 역할에 대한 탐구가 부각되면서 W.S. 제본스, E. 슈뢰더, C.S. 퍼스, G. 프레게 등이 활발한 연구활동을 벌였다.

그중에서도 프레게는 명제논리와 술어(양화)논리를 현대적 형식으로 완전하게 고안함으로써 현대논리학의 시조로 불린다.

원래 프레게는 '수' 개념을 탐구하다가 수열(sequence) 개념에 대한 논리적 분석에서 라이프니츠처럼 일상언어의 부정확성 및 애매성 등의 문제를 인식하고는 이를 처리하기 위한 적절한 수단의 필요에서 현대논리학을 창시하게 되었다. 그가 〈개념기호법 Begriffsschrift〉(1879)이라는 저서에서 제시한 형식논리체계는 다음과 같다.

먼저 부정 기호와 함언 기호를 원초적 연결사로 하고 분리규칙(Modus Ponens)과 대입규칙(rule of substitution)을 추론규칙으로 하는 진리함수적 명제계산 방법이 마련된다. 다음으로 명제를 전통적인 주어-술어 구분방법 대신에 함수(function)와 독립변항(argument)으로 분석한다. 이 새로운 분석방법을 통해 양화기호는 형식적 기호논리체계에 효과적으로 도입된다. 양화기호의 도입이야말로 기호논리학의 역사에서 가장 중요한 진일보라 할 수 있다.

이같은 장치를 바탕으로 명제논리의 6개 공리와 술어논리의 3개 공리로 이루어진 완전한 공리체계가 제시된다. 이렇게 제시된 새로운 형식의 논리학은 오늘날 수리논리학이 지향하는 특징들인 엄밀성·경제성을 잘 보여주고 있으며, 러셀과 화이트헤드의 대작 〈수학원리 Principia Mathematica〉(1910)에서 더욱 발전된 형태로 나타났다. 하나의 형식체계로서의 수리논리학 체계의 구성은 일반적으로 다음 4단계의 형식화 절차에 따라 이루어진다.