포퍼의 반증주의가 가지는 한계
포퍼의 반증주의는 과학자들이 가장 좋아하는 과학 방법론으로 손꼽힌다. 포퍼에 따르면 (좋은) 과학자란 자기 자신에게 엄격하고 실험 결과에 승복하며 자신의 가설에 대한 비판마저 공명정대하게 취급하는 사람이며. 이는 과학자들 자신이 생각하는 이상적인 과학자 상이기도 하기 때문이다. 그러나 과학자들에게서 좋은 평가를 받는다 해서 포퍼의 반증주의도 문제가 없는 방법론이라 평가할 수는 없다. 실제로 포퍼의 방법론은 실제 과학 현장에서 이루어지는 과학 활동들을 제대로 기술하지 못한다는 단점뿐 아니라 논리적 결함까지도 안고 있다.
가. 포퍼의 반증주의의 논리적 결함 - 1
포퍼가 반증주의를 과학 방법론으로 제시했던 중요한 이유 중 하나는 반증이 연역 추론 규칙을 따르는 것이며, 따라서 입증과는 달리 논리적으로 결함이 없다는 판단을 했기 때문이었다. 보편 진술 하나로만 이루어진 가설을 반증할 때는 논리적 결함 없이 반증이 이루어질 수 있다.
그러나 과학 이론이 단 하나의 보편 진술만으로 이루어지는 것은 아니다. 경험적 시험대에 오르는 가설음 아무리 간단하게 추려낸다 해도, 그 가설은 핵심 주장뿐 아니라 여러 가지의 보조가설로 이루어져 있는 경우가 보통이다. 그리고 이 경우 반증 사례가 나와도 가설을 직접적으로 반증할 수 없다는 논리적인 문제에 직면하게 된다.
포퍼의 반증주의가 기대고 있는 반증의 논리는 후건 부정의 규칙으로 요약된다. 그런데 실제 과학 이론에서 시험의 대상이 되는 가설, 즉 전건은 단순한 하나의 문장이 아니다. 대부분의 경우 가설은 핵심 주장(들)과 보조 가설들로 이루어져 있다. 보조 가설에는 그 당시 사용되는 실험 도구들에 적용되는 이론들이나 당시에 경험적 참이라고 생각되던 기본적인 사실들 등 다양한 것들이 포함된다.
포퍼는 결정적 입증은 불가능해도 결정적 반증은 가능하다는 점에 착안하여 반증주의를 과학 방법론으로 삼았다. 따라서 결정적 반증이 논리적으로 불가능하다는 것은 포퍼의 반증주의에 꽤 큰 위험이 된다.
나. 포퍼의 반증주의의 논리적 결함- 2
후건 부정의 규칙에 의해 쉽게 반증되는 명제는 "모든 00는"으로 시작하는 보편 진술이다. 그리고 과학 이론의 경엔 이러한 보편 진술 형태의 가설이 많으므로 포퍼는 보편 진술에서의 입증과 반증의 비대징에 신경을 쓴 것이었다. 그러나 "0 0한 것이 있다."는 형태의 존재 진술에서는 입증과 반증의 비대징이 보편 진술에서와는 반대로 일어나며, 이것은 포퍼의 반증주의에 중대한 논리적 결함을 안겨 준다.
존재 진술의 예로 "희지 않은 백조가 존재한다."라는 명제를 생각해 보자. 내가 지금 잡아 관찰하고 있는 백조가 희다고 해서 이 명제가 반증되는 것은 아니다. 이 명제는 모든 백조가 희다고 주장하는 것이 아니라, 어딘가에 희지 않은 백조가 적어도 한 마리는 존재한다는 것을 말할 뿐이기 때문이다. 따라서 아무리 많은 흰 백조를 관찰한다 해도, 이 명제를 완전히 반증할 수는 없다. 이 세상의 모든 백조를 관찰하고 그 결과 그 백조들이 모두 희다는 것이 밝혀질 경우에만 이 명제가 반증되는데, '이 세상의 모든 백조를 관찰하는 것'이 불가능하기 때문이다.
존재 진술의 입증은 어떻까? 만약 관찰된 백조들 중 희지 않은 것이 단 한 마리만 있다고 해도 "희지 않은 백조가 존재한다."는 명제는 참이 된다. 이처럼 존재 진술은 결정적인 반증은 불가능하지만, 절정직인 입증은 가능하다. 그런데 과학 이론들 중에는 존재 진술 형태의 명제를 포함하는 것도 있으므로. "과학이론의 결정적인 입증은 불가능해도 결정적 반증은 가능하다."라는 이유로 반증주의를 내세웠던 포퍼의 입장은 매우 불리해질 수밖에 없다.
다. 실제 과학사와 포퍼의 반증주의 간의 괴리
실험과 관찰을 올바르게 했다는 전제 하에. 어떤 이론이 실험 관찰에 의해 반증되었다면 그것은 이론의 핵심 가설과 보조 가설들 중 적어도 하나는 틀렸다는 것을 의미한다. 그렇다면 그것들 중 어느 것을 먼저 의심해야 할까? 포퍼의 반증주의를 충실하게 따르는 이상적인 과학자라면 이론의 핵심이 되는 가설을 폐기하고 관찰 사례를 설명할 수 있는 새로운 가설을 만들어야 할 것이다. 그러나 실제 과학사에서는 그런 일이 잘 벌어지지 않는다. 그 가장 대표적인 예로. 뉴턴 역학과 천왕성의 궤도 문제를 다루었던 과학자들의 태도를 살펴보자.
1781년 허설에 의해 천왕성이 발견된 이후, 많은 천문학자들이 뉴턴 역학을 이용하여 천왕성의 움직임을 예측하고 실제 관측 결과와 비교해 보는 작업을 수행했다. 그런데 관측이 거듭될수록 천왕성의 실제 움직임은 뉴턴 역학으로 계산한 결과와 조금씩 다르다는 것이 밝혀졌다. 이 경우 포퍼의 반증주의에 의한다면 뉴턴 역학의 핵심 주장들, 즉 보편 중력의 법칙이나 운동의 3법칙 등이 페기 되고 천왕성의 실제 움직임을 설명할 수 있는 새로운 법칙들로 대체되어야 했겠지만, 당시의 과학지들은 그렇게 하지 않았다.
당시의 과학자들은 뉴턴 역학을 의심하는 대신, 천왕성 궤도 계산에 사용된 보조 가설들을 의심했다. 그 보조 가설들 중에는 "태양계의 행성은 수성, 금성. 지구. 화성, 목성, 토성, 천왕성뿐이다."라는 것도 포함되는데, 1843년 영국의 애덤스와 1845년 프랑스의 르베리에를 비롯한 몇몇 천문학자들은 태양계 행성의 수에 대한 이 보조 가설을 의심했다.
그들은 천왕성 궤도 바깥쪽에서 또 다른 행성이 공전하고 있을 것이라고 생각했고, 그 미지의 행성이 어떤 위치에 있어야 뉴턴 역학으로 계산했을 때 천왕성의 움직임이 실제 관측 결과처럼 나오는지를 알아보았다. 그리고 1846년, 독일의 갈레에 의해 천왕성 바깥쪽에서 새로운 행성이 발견되었다. 그 행성은 애덤스와 르베리에가 계산했던 바로 그 위치에 있었으며, 후에 '해왕성'이라는 이름과 태양계의 8번째 행성이라는 자격을 얻었다.
천왕성 궤도 사례에서 모든 천문학자들이 다 태양계 행성 수에 관한 보조 가설만을 의심했던 것은 아니다. 당시 망원경의 성능이나 관측의 신뢰성 등에 관한 보조 가설들도 많이 의심되었다. 그러나 뉴턴 역학 자체가 틀렸을 것이라 의심한 과학자들은 거의 없었고, 뉴턴 역학의 핵심 주장들은 20세기 초 아인슈타인의 상대성 이론이 인정되기 전까지 그대로 수용되면서 많은 역학적 연구의 기본 이론으로 군림했다.
반증 사례가 나와도 보조 가설들만 폐기되고 핵심 가설은 그대로 유지되었던 과학사적 사례는 뉴턴 역학의 예 말고도 많이 있다. 수명이 긴 이론들의 경우, 반증 사례가 몇 개 나왔다고 해서 이론의 핵심 주장이 바로 의심되거나 반증된 예를 찾는 것이 더 어려울 정도로, 이론의 핵심 주장들은 반례가 웬만큼 쌓이기 전까지는 의심되거나 반증되지 않는다.
물론 포퍼 자신도 자신의 방법론이 과학 활동의 모든 단계에서 실제 활동과 정확히 일치한다고 주장하지는 않았다. 그도 평소의 과학 활동에서는 단 하나의 반증 사례가 이론을 즉각 반증시키지는 않는다는 것을 알고 있었으며. 자신의 방법론은 평상시보다는 과학 이론이 진보하는 시기에 더 잘 적용될 것이라고 말했다. 그러나 과학사를 깊이 연구했던 학자들은 과학 이론이 변동되는 시기에도 포퍼의 방법론이 그리 잘 맞지 않는다고 주장하며 다른 대안을 내놓았다.
포퍼의 반증주의에 대한 대안들은 크게 두 종류로 구분될 수 있다. 한 가지는 반증주의 자체를 거부하는 것이고, 다른 하나는 실제 과학 활동의 모습을 잘 묘사할 수 있도록 반증주의를 더 세련되게 다듬는 것이다. 전자의 활동을 했던 대표적인 과학 철학자가 토머스 쿤이고, 후자의 노선을 택한 대표적인 과학 철학자가 임레 라카토슈이다.