수학에서 유명한 역설 중에 거짓말쟁이의 역설이 있습니다. 이것은 “이 문장은 거짓이다”라는 이야기에 대해 생각해 보면 알 수 있죠. 저 진술이 진실이라면 저 문장은 거짓이므로 저 문장이 거짓이라는 말이 거짓입니다. 그리고 저 문장이 거짓이라면, 이 문장이 거짓이라는 말이 거짓이므로 따라서 저 진술은 진실입니다. 이 역설은 바로 이 부분이 흥미로운 점인데, 진술을 거짓이라고 가정하고 시작하든 진실이라고 가정하고 시작하든 두가지 결론을 동시에 낼 수 있으며, 증명이 끝나지 않는다는 것입니다.
수학이나 논리학을 조금이라도 공부해 보신 분들은 너무나 잘 알만한 예시이므로 이 역설에 대한 설명은 이 정도로 해 두겠습니다. 이 역설로 이야기를 시작한 이유는, 이 역설에서 발견한 또 다른 흥미로운 점 때문입니다. 이 역설에 대해서 생각을 하기 시작하면, 논리적으로는 생각을 끝낼 수 없습니다. 몇 번 정도의 논리적 단계를 거친 후에는 결론이 참과 거짓을 무한히 반복하기 때문에 어느 지점에서 생각을 끊어야 하며, 이것은 논리적이지 않은 행위입니다. 따라서 이와 같은 역설은 논리적으로 생각한다는 행위 그 자체에 대해 고찰하지 않으면 결론을 낼 수 없죠.
저 문장의 반대인 경우는 어떨까요? “이 문장은 진실이다”고 말해봅시다. 이 문장을 진실이라고 가정하면, 이 문장이 진실이라는 것이 진실이므로 증명이 끝납니다. 이 문장은 진실입니다. 이 문장을 거짓이라고 가정하면, 역시 이 문장이 진실이라는 것이 거짓이므로 증명이 끝납니다. 이 문장은 거짓입니다. 물론 누구나 금방 알 수 있듯이, 이번에는 증명이 금방 끝나버립니다. 저는 이것도 굉장히 흥미롭다고 생각하는데, 아마 그렇지 않은 분들도 있을 겁니다. 하지만 그 다음, 이건 여러분도 흥미로울 겁니다. 이 문장은 처음에 가정을 어떻게 하느냐에 따라 결론이 달라집니다. 이 문장을 진실이라고 가정하면 결론은 진실이 되고, 이 문장을 거짓이라고 가정하면 결론은 거짓이 됩니다. 이번에는 논리적으로는 금방 결론을 낼 수 있는데, 여전히 무엇이 진실인지 결론을 낼 수 없습니다. 처음에 가정을 어떻게 하느냐에 따라 결론이 달라지기 때문입니다.
좀 더 파고들어 가 보죠. 이와 같은 유형의 역설은 진술에 “이 문장”이라는 것을 허용했기 때문에 발생합니다. “x는 거짓이다”의 변수 x에 “x는 거짓이다”라는 문장 그 자체를 넣는 것이 문제인데, 이 문제 때문에 20세기 초의 수학자들은 굉장히 골치아파했었습니다. 그 전의 수학자들은 그냥 수학이 아직 덜 발달된 것일 뿐, 수학을 발전시켜 나가다 보면 언젠가 저 문제를 해결할 수 있는 좋은 수학적 체계를 발견할 수 있을 것이라고 믿었죠.
그런데 이런 문제에 대해 쿠르트 괴델이 이상한 정리를 증명해버립니다. 바로 “불완전성의 정리(Incomplete theorem)”라는 것입니다. 이걸 제대로 이해하기는 좀 어려운데, 일상언어로 표현하자면 “충분히 강력한 공리계에서, 증명할 수 없는 진술이 반드시 존재한다”고 합니다. 충분히 강력한 공리계란, 우리가 잘 쓰고 있는 정수론의 수 체계, 해석학의 이론 체계, 기하학의 공리 같은 것들을 이야기합니다. 즉, 적당한 약속과 규칙을 통해서 여러가지 진술들의 진리값(참 또는 거짓)을 증명할 수 있는 체계죠. 공리계를 잘 설계하면 수많은 수학 문제를 해결할 수 있기 때문에 공리계는 굉장히 중요한 역할을 합니다. 그리고 수학자들은 공리계를 잘 해결하면 그 공리계에서 출제할 수 있는 “모든” 문제를 풀 수 있다고 생각한 것이죠. 하지만 그렇지 않았다는 것이 괴델의 증명입니다. 어떤 문제는 공리계의 언어로 출제했는데도 불구하고 그 공리계의 언어만으로는 참인지 거짓인지 증명할 수 없다는 겁니다. 처음에 다뤘던 역설이 그와 같은 사례죠.
다시 처음으로 돌아와서, 하나씩 생각해 보죠. 거짓말장이 역설의 경우, 결론을 낼 수 없는 무한한 단계의 논리적 고리에 갇힙니다. 진실을 말하는 역설의 경우, 가정을 어떻게 하느냐에 따라 결론이 달라집니다. 그럼 여기서 중요한 것은 무엇인가? 어떤 경우에는 “논리적인 사고방식” 만으로는 해결할 수 없는 문제가 존재하고, 주어진 공리계를 깨트려 버리는 사고방식이 필요하다는 점입니다. 실은, 이 얘기를 하려고 서론을 길게 끌었습니다.
세상의 모든 문제를 논리적인 사고방식으로 해결할 수 있다면 세상 살기가 편했을 겁니다. 어떤 문제를 제시하더라도 그 일들이 왜 발생하고 어떻게 해결할지 항상 추론할 수 있기 때문이죠. 하지만 실제로는 늘 그렇게 되지는 않는데, 그건 인간이 세상의 문제를 풀기 위해 필요한 정보를 충분히 갖지 못한다는 한계 때문이기도 하지만, 어떤 경우에는 충분한 정보를 갖고 있음에도 불구하고 논리적으로 해결할 수 없는 문제를 마주치기 때문입니다.
이제 갑자기 자기계발에 도움이 되는 이야기를 여기에 이어 붙여보겠습니다. 사람들은 누구나 살아가면서 자기가 맞닥뜨린 문제를 해결하기 위해 해법을 찾아 헤메입니다. 그러다보면 답이 어딘가에 반드시 존재하고, 만약 자신이 답을 모른다면 누군가 답을 제시할 것이라고 생각할 수 있죠. 왜냐고요? 답이 존재한다는 희망 자체가 없으면 답을 찾을 의욕도 안 생기니까요. 그러니 어딘가에 답이 있고 누군가가 답을 안다고 생각하죠. 만약 정답처럼 보이는 해법을 제시한 사람이 눈앞에 나타났다면 어떨까요? 이제 정답을 알아냈으니 문제는 전부 해결되었다고 생각하겠죠. 정말 그럴까요? 그렇지 않을 수 있습니다. 주어진 사고체계 안에서는 문제가 해결된 것 처럼 보이겠지만, 실제로는 그런 것 처럼 보일 뿐 문제는 여전히 남아 있을 수 있어요. 예를 들어, “이 문장은 진실이다”는 명제를 증명할 때, 이 문장이 진실이라는 가정한 경우만 검토하고 거짓이라고 가정하는 경우는 검토하지 않으면 이게 어째서 문제가 되는지 알지 못하고 증명이 끝났다고 생각할 수 있듯이 말이죠.
결론입니다. 어떤 문제를 해결하기 위해서는 알고있는 지식과 익숙한 사고방식 내에서 해법을 찾는 것도 중요하지만, 자신이 생각하고 있는 사고의 틀을 깨트리고 체계 밖으로 나가서 바라보는 것이 필요한 경우가 있습니다. 그럼 이제 생각해 보세요. 제가 지금 적은 이 글은 진실일까요? 아니면 거짓일까요? 저는 이 글이 진실이라고 주장하고 있습니다만, 이 글이 진실이라는 주장을 증명하기 위해서 가정을 어떻게 세우느냐에 따라 결론이 달라지겠죠?
여기까지 읽었으면, 이제 한가지 더 생각해 봅니다. 자신의 말이 진리이고 진실이라고 주장하는 사람의 말을 어떻게 믿을 수 있을까요?