가설 연역적 방법론은 "가설은 적어도 원리적으로는 시험할 수 있어야 한다"는 정도의 요구를 제외하면 발견의 맥락에서는 거의 제한을 두지 않았고. 그 대신 정당화의 맥락에서 엄격한 제한을 둠으로써 이 과정에서 과학과 과학이 아닌 것의 구분을 가능하게 하고자 했다. 그러나 가설 연역주의자들의 희망은 곧 벽에 부딪치고 말았다.
1. 다층적 모형에서 비롯되는 문제
가설 연역적 방법론의 정당화 과정 중 가장 하위층에서 수행되는 작업은 가설에서 연역에 의해 관찰 가능한 예측들을 이끌어내고 경험직인 관찰을 통해 그 예측이 맞는지 틀리는지 확인하는 것이다. 그런데 가설 연역적 방법론의 이론 구조는 다층적이므로, 상위 가설들의 정당화 방법도 이야기해야 한다. 가설 연역주의자들은 상위의 가설들은 하위 가설의 정당화에 의해 간접적으로 정당화된다고 주장한다.
가설 연역주의의 시각으로 뉴턴 역학의 정당화 과정을 분석해 보자. 뉴턴의 법칙들과 케플러의 법칙들, 갈릴레오의 법칙들은 똑같은 '법칙'이라는 이름으로 불리기는 하지만, 완성된 뉴턴 역학 체계에서 이들이 차지하는 지위는 동일하지 않다. 케플러의 법칙들과 갈릴레오의 법칙들은 뉴턴의 법칙들로부터 연역적으로 도출되므로 뉴턴의 법칙들보다 하위 수준의 법칙이라 할 수 있다. 그리고 케플러의 법칙들과 갈릴레오의 법칙들로부터는 각각의 개별 예측 사례들을 연역적으로 도출할 수 있다. 케플러 법칙들의 개별 예측이 실제 경험과 잘 맞아떨어지면 케플러 법칙이 정당화되고, 케플러 법칙의 정당화는 뉴턴 법칙도 간접적으로 정당화시켜 준다. 갈릴레오 법칙에서도 마찬가지의 규직이 적용된다.
그런데 뉴턴의 법칙은 케플러의 법칙뿐 아니라 갈릴레오의 법칙도 함축하므로, 케플러 법칙의 사례들의 확인은 갈릴레오의 법칙도 정당화시켜 준다. 갈릴레오 법칙의 사레들 역시 케플러 법칙까지 정당화시켜 주는 것은 물론이다. 다층적 이론 구조에서 비롯된 이러한 특성은 실제 과학 활동에서 벌어지는 일들을 귀납주의보다 잘 설명하는 것 같아 보이지만, 논리적으로는 심각한 문제를 초래한다. 논리식을 교묘하게 꾸미면 어떤 진술을 정당화하는 증거들은 그것이 무엇이든 임의의 모든 진술들을 정당화한다는 결론이 나와 버리기 때문이다. 그러나 완전한 해결책은 얻기 어려웠고, 1970년대 후반부터는 극소수의 철학자들을 제외하면 가설 연역주의 자체에 관한 진지한 논의를 찾아보기 힘들게 되었다.
지금까지 알아본 문제는 과학 이론을 다층 구조로 보는 시각 때문에 생긴 것이고, 이것은 귀납적 방법과는 구별되는 현대 가설 연역주의에서만 볼 수 있는 특성이다. 그렇다면 귀납적 방법과 공유하는 부분에서는 문제가 없을까? 그렇지는 않다. 가설 연역적 방법과 귀납적 방법이 공유하는 부분, 즉 가장 하위 층에서의 정당화 역시 매우 심각한 문제에 직면한다. 이 말썽을 일으키는 장본인은 바로 귀납적 방법론의 발견의 맥락을 곤경에 빠뜨렸던 '귀납의 문제'이다.
2. 정당화의 과정에서 발생하는 '귀납의 문제'
시험 명제에서 연역을 통해 개별 예측 사례를 도출하고, 실제 관찰을 통해 예측이 옳은가를 확인하는 것이 귀납적 방법과 가설 연역적 방법에서 이루어지는 정당화의 첫 걸음이다. 그런데 현대적 가설 연역주의에서는 징당화의 과정이 엄격하게 이루어져야 한다고 주장한다. 따라서 가설이 한 번의 시험을 통과했다고 해서 바로 가설을 법칙이나 원리의 지위로 올려 주려고 하지는 않는다. 그렇다면 얼마나 많이 시험을 통과해야 가설이 옳다는 것이 증명될 수 있을까?
상식적으로 한번 생각해 보자. 예측과 경험 관찰의 비교를 모으는 방법으로 그 가설의 옳음이 증명되었다(proved)고 할 수 있을까? '증명(proof)'이란 논리적으로 가능한 모든 경우에 대해 틀릴 가능성이 전혀 없음이 밝혀진다는 것이다. 따라서 완전한 증명은 논리적, 수학적 과정에서만 이루어질 수 있으며, 순수한 논리만으로 이루어지지 않고 경험이 개입될 수밖에 없는 과학이라는 학문에서는 '증명'을 기대하기는 힘들다.
그렇다면 이보다 좀 약한 개념인 '검증(verification)'은 어떨까? 검증은 틀릴 가능성이 없음이 경험적 검사를 통해 밝혀진다는 것을 뜻하는 말로, 20세기 초반의 논리 실증주의자들이 강조했던 개념이다. 그런데 어떤 가설이 옳다는 것이 검증되려면 가설과 관련된 '모든' 예측 사례들이 다 경험에 의해 옳다고 밝혀져야 한다. 그러나 '모든' 예측 사례들을 다 시험하는 것은 실질적으로 불가능하다. 따라서 귀납적 방법에서든 가설 연역적 방법에서든 가설을 '검증'하는 것은 불가능하다.
실제로 20세기 초중반의 과학 철학자들은 경험과 관련된 시험을 통한 정당화에서는 가설의 검증이 불가능하다는 것을 깨닫고, 검증보다도 약한 개념인 '입증'으로 후퇴했다. 경험으로 확인된 사례, 즉 경험적 중거가 가설을 지지하는 정도만 보겠다는 것이다. 가설이 100% 지지되면 그것이 곧 검증이 되겠지만, 100%의 지지도를 얻는 것은 실질적으로 불가능하니 높은 화률로 입증되기만 하면 가설이 정당화되는 것으로 보자는 것이 입증 개념을 주장하는 사람들의 생각이다. 이는 현실적으로 만족될 수 있는 대안처럼 보이지만, 입증 개념도 논리적으로 불완전하기는 마찬가지이다. 다음과 같은 간단한 계산으로도 그 이유를 쉽게 알 수 있다.
"이 마을에는 100마리의 흰 백조가 있다."라는 가설의 지지도를 계산한다고 해 보자. 이 마을에서 흰 백조가 70마리 관찰되었다면 가설의 지지도는 100분의 70, 즉 '70/100'이므로 0.7 또는 70%가 될 것이며, 95마리의 흰 백조가 관찰되었다면 지지도는 0.95, 즉 95%가 될 것이다. 그런데 대부분의 과학 가설들은 100개 정도의 사례만 이야기하는 진술이 아니라, "모든 ㅇㅇ는"으로 시작하는 보편 진술이다. 따라서 보편 진술의 지지도 계산식에서 분모는 무한대가 된다. 입증 사례를 많이 모은다면 분자가 커지긴 하겠지만, 분자에 아무리 큰 수가 온다고 해도 분모가 무한대이므로 이 식의 값은 0이 될 수밖에 없다.
이처럼 귀납 추론이 가진 문제들은 귀납적 방법론은 물론 가설 연역적 방법론까지 곤경에 빠뜨리고 만다. 과학자들이야 이 문제에 크게 신경 쓰지 않고 자신의 연구를 묵묵히 수행하면 되지만, 과학자들의 활동을 논리적으로 뒷받침해야 하는 과학 철학자들에게는 굉장한 골칫거리가 아닐 수 없었다. 과학 철학자들은 어떻게든 이 문제를 헤처 나가야 했으며, 그 대응 방식은 크게 두 가지로 나뉠 수 있다. 한 가지는 과학 방법론에서 귀납이 차지하는 부분을 축소시키거나 지지도 계산식을 보정해서 실제로 시용할 수 있는 형태로 만들고 어느 정도의 한계는 인정하는 방식이다. 그리고 다른 한 가지는 귀납에 전혀 의존하지 않는 방법론을 찾는 것이었다.