과학적 진리의 국소적 실재성에 대한 가설

400년전 과학혁명이 일어난 이후 현대과학은 우리에게 놀랄 만큼 정확한 지식과 편리한 기술을 제공하였다. 그러나 이러한 과학지식이 진리인지에 대한 답변은 아직 대답되지 않은 채 남아있다. 철학자들은 근사적 참, 즉 완벽한 진리는 아니지만 실제 사실에 가까운 진리라는 개념을 어떻게 정립해야 하는지 아직도 고민하고 있다. 일각에서는 소위 반실재론자라 불리는 철학자들이 나타나, 과학지식은 진리가 아니며 단지 세상을 편리하게 기술하는 설명 도구라고 주장한다. 많은 과학철학자들은 이에 반대되는 실재론의 입장에 서 있지만, 과학적 진리가 어떤 뜻인지, 정당성을 확보할 수 있는지 대답하지 못하고 있다.

 

과학적 진리를 논하는데 거론되는 문제 중 하나는 과학적 진리가 계속해서 변화해 왔다는 사실이다. 굳이 귀납 논증의 불완전성을 거론하지 않아도, 과학적 진리는 실제로 시간이 지나면서 바뀌어 왔다. 과학혁명 초창기에 시공간이 고정되어 있다는 주장은 과학적 진리였지만, 현대에는 시공간이 유동적이라는 주장이 과학적 진리가 되었다. 한때 심리학자들은 보상과 처벌만으로 인간 행동을 이해할 수 있다고 주장했지만, 현대심리학자들은 보상과 처벌만으로는 인간 행동을 이해할 수 없다고 주장한다. 계속해서 변하는 과학적 진리는 과학적 진리를 철학적으로 이해하는데 어려움을 부과한다. 과학적 진리란 무엇인가? 계속해서 변하는(그리고 변할) 진리가 과연 진리인가?

 

 

무엇이 문제인가

모든 과학적 진리가 변화했던 것은 아니다. 전자의 존재는 한번 입증된 이후 계속해서 유지되었다. 물론 전자의 상태나 구조에 대한 이론은 계속해서 바뀌어 왔지만, 그 어느 이론도 전자를 부정하지 않았다. 비슷하게 에테르는 맥스웰 방정식이 인기를 누리는 동안에도 그 존재 여부가 검증의 영역에 머물러 있었으며, 쿼크 역시 이론의 설명력과는 별개로 검증의 영역에 놓여있다가 실험적 증거가 발견되면서 존재자로 인정되었다. 이밖에 유한하고 일정한 광속이나 베르누이 현상, 고생물의 진화 등 개별적인 사실들은 시간이 지나도 계속해서 과학적 진리로 인정되었다. 실제로 바뀐 것은 대개 불확실한 가설이나, 이론이었다.

 

물론 존재자나 개별 사실도 귀납 논증의 한계를 지니고 있지만, 현실적으로 존재자나 개별 사실이 반증된 사례는 없거나 극히 드물기 때문에 불변의 진리로 봐도 큰 문제는 없다. 문제는 과학이론은 이와 달리 계속해서 변화해 왔다는 점이다. 어제의 뉴턴역학은 무너졌고 오늘의 주류경제학도 위태롭다. 그렇다면 상대성이론이나 행동경제학도 변할수 있지 않은가? 그렇다면 그러한 이론들을 참으로 받아들일 이유가 있는가? 이에 대한 과학철학/과학사학의 대응은 수학적 구조와 이론의 성숙성에 의존하고 있다.

 

이론의 성숙성은 충분히 성숙된 과학이론만이 참일수 있다는 개념이다. 천동설은 실제 사실을 안정적으로 잘 설명해왔기 때문에 성숙한 과학이론이라고 할 수 있다. 그러나 플로지스톤설은 수십가지 형태의 플로지스톤 개념이 난립했기 때문에 성숙된 이론이라고 판단할 수 없다. 그렇기 때문에 플로지스톤설의 폐기는 과학이론의 불완전성을 보여주는 증거가 아니라 단지 성숙한 과학이론의 불변성을 지지하는 사례일 뿐이다. 이 주장은 제안자가 성숙한 과학이론의 기준을 제안하지 않았기 때문에 기준이 모호하다는 비판을 받았으나, 찰스 길리스피는 그의 <객관성의 칼날(이필렬 역,새물결,2005)>에서 수량화/정량화와 실험을 성숙한 과학이론의 기준으로 제안했다. 실제로 정량화와 정밀한 측정을 도입한 과학 분야는 이전에 비해 패러다임이 안정되고 예측이 정확해지는 경향이 있으며, 그렇기 때문에 성숙된 과학이론만을 참으로 인정하자는 주장은 받아들일 만 하다.

 

수학적 구조는 구조적 실재론에서 나왔다. 구조적 실재론에 따르면 과학이론들은 참이 아니며, 단지 그 이론이 가진 수학적 구조만이 참이다. 가령 뉴턴역학의 경우, 만유인력의 존재나 고정된 시공간은 참이 아니며 다만 역학이 가지고 있는 수학적 설명(F=ma 등)만이 참이다. 이러한 이론 하에서는 모든 과학이론이 정도의 차이만 있을뿐 모두 사실의 근사적 참이기 때문에, 과학이론의 변천은 정확도의 증가일 뿐이며 이론 역시 존재자나 개별 사실과 마찬가지로 타당하다고 주장할 수 있다. 

 

그러나 구조적 실재론은 물리학 이외의 영역에는 적용하기 힘들 수 있다. 물리학과 달리 화학이나 생물학, 심리학에서 많은 이론들은 수학적인 예측을 하지 않는다. 특히 생물학이나 심리학과 같은 복잡계 과학들은 수학적으로 정확한 예측이 힘든 편이나, 이러한 분야의 이론들도 물리학 못지않게 안정적인 패러다임을 구축해온 성숙한 이론들이었다. 또한 구조가 보존되었다는 말의 의미도 문제가 될 수 있다. 가령 양자화학은 이온 결합 이론의 보다 구체화된 버전인가? 인지심리학이 행동주의심리학의 구조를 보존하고 있다고 말할 수 있는가? 이러한 몇가지 문제는 필자가 국소성을 통해 문제를 설명하고자 시도하게 만들었다.

 

국소성

국소성이란 특정한 영역이나 특정한 위치에서만 작용하는 어떤 성질을 의미한다. 가령 군법은 헌법에 비해 국소적이다. 왜냐하면 군법은 군대라는 한정된 영역에서만 통용되는 반면, 헌법은 국가의 모든 영역에서 통용되기 때문이다. 이를 과학이론에 적용한다면 국소적인 과학이론이란 모든 사실이 아니라, 특정한 영역의 사실만을 설명하는 이론이라고 할 수 있다. 실제로 장하석과 피터 갤리슨은 과학이론이 국소적이라고 주장한 바 있다. 장하석은 과학이론이 태생적으로 국소적이며, 과학의 발전은 국소적인 과학이론이 외부영역에서도 적용가능한지 검증해온 역사라고 제안했다.

 

과학이론에 국소성은 낮선 개념일 수 있다. 왜냐하면 어떠한 과학이론도 자신이 국소적이라고 주장하지 않기 때문이다. 뉴턴역학은 거시계에서만 작동하는 물리학이 아니라 미시세계에서도 작동한다고 주장되었다. 하지만 대부분의 과학이론은 국소적인 상황과 데이터를 기반으로 형성된다. 뉴턴역학은 주로 천체의 운동을 중심으로 만들어졌고, 심리학은 서구 선진국의 시민들을 조사하여 만들어졌다. 그렇다면 이러한 이론들이 모든 현상들(모든 물리현상과 심리현상)을 설명한다고 가정하는 것은 옳지 못할 수 있으며, 오직 한정된 영역(국소적)에서만 작동한다고 보는 편이 더 합리적일 수 있다.

 

과학이론이 국소적이라는 말은 무슨 말인가? 이 말은 과학이론이 한정된 영역(계)에서만 작동하며, 그 영역 안에서는 참이라는 점을 의미한다. 카오스 이론은 수많은 입자들이 상호작용하는 계에서는 참이다. 귀납 논증이 타당하고 카오스 이론이 성숙되었다는 전제 하에서, 이 계(카오스계)에서 카오스 이론은 불변하는 진리라고 할 수 있다. 반대로 카오스계 외부에서는 카오스 이론이 참이라고 보장할 수 없으며, 다른 계에서도 카오스 이론이 성립하는지는 오직 추가적인 검증을 통해서만 알 수 있다. 비슷하게 열역학은 여러 입자가 운동하는 계의 진리로, 상대성이론은 거시계의 진리로, 양자역학은 미시계의 진리로 해석할 수 있다.

 

재해석된 과학이론의 역사

모든 과학이론이 국소적이라면 과학이론 변화의 역사는 다른 방식으로도 해석할 수 있다. 국소적 과학이론의 문제점은, 이 과학이론이 어디까지 적용가능한지 알 수 없다는 점이다. 뉴턴역학은 일상의 물리현상도 설명할 수 있는가? 유체의 움직임에 적용가능한가? 실제로 여러 입자가 상호작용하는 물리계(열역학)와 광속에 가까운 물리계(상대성이론)는 모두 뉴턴역학에서 설명하는 물리계와 분리되어 생각될 수 있지만, 전자는 뉴턴역학이 적용되는 반면 후자는 뉴턴역학이 적용되지 않았다. 결국 뉴턴역학이 어느 계까지 적용되는지 알기 위해서, 혹은 뉴턴역학이 적용되는 계의 범위를 확정하기 위해서는 추가적인 연구가 필요하다.

 

이때 과학이론의 발전은, 국소적 과학이론이 적용가능한 영역을 확정하는 작업이라고 할 수 있다. 장하석이 설명했듯, 국소적 과학이론은 자신이 참이 되는 외연을 확장한다. 뉴턴역학을 예로 들면 뉴턴역학은 열역학계나 카오스계에서 모두 성립했으며, 달리 말하면 이러한 물리계에서는 참이라고 할 수 있다. 반면 플랑크 상수가 유의미해지는 충분히 작은 계나 전자기력이 작용하는 계, 또는 속도가 광속에 가깝거나 질량이 큰 계에서는 성립하지 않았다. 이러한 탐구를 통해 우리는 뉴턴역학이 참인 계는 카오스계를 포함하고 미시계는 포함하지 않는다고 결론내릴 수 있다.

 

이러한 관점은 독특한 해석을 낳는다. 과학이론의 반증은 과학이론을 폐기하는 대신 오히려 완성한다. 뉴턴역학이 반증되기 전까지 우리는 뉴턴역학이 어느 계에서 통용되는지 알지 못했다. 그러다가 물리학의 발전을 통해 뉴턴역학의 한계가 낱낱이 드러나자, 오히려 우리는 뉴턴역학이 성립하는 계의 경계를 확정할 수 있었다. 이제 우리는 뉴턴역학의 내용뿐만 아니라, 이것이 어디에서 참인지 알 수 있다. 과학이론은 폐기되는 대신, 경계선이 알려지면서 오히려 참을 보증받았다.

 

이러한 시각에서 과학의 발전은 과학혁명을 통해 이론들이 뒤집어져온 역사가 아니라 과학 전체가 외연을 확장해온 역사로 해석될 수 있다. 물리학자들은 연구를 통해 뉴턴역학과 열역학처럼 각 계에서 참인 이론들을 발견해왔다. 그리고 기존 이론을 대체한 새로운 이론들은 이전 이론에 비해 더 넓은 계에서 참이었다. 양자역학은 뉴턴역학이 설명하지 못하는 미시계에서도 성립했고, 인지심리학은 보상과 처벌이 중요한 곳과 중요하지 않은 곳 모두에서 성립했다. 새로운 과학이론은 기존의 이론을 폐기하는 대신 껴안았으며, 그러면서 보다 넓은 계를 과학적 설명의 영역으로 가져왔다.

 

이러한 관점은 왜 변화하는 과학이론을 참으로 볼 수 있는지에 대한 설명을 제공한다. 비록 뉴턴역학은 상대성이론과 양자역학에 밀려났지만, 여전히 많은 물리계에서는 참이다. 속도가 충분히 낮거나 크기가 충분히 큰 물리계에서 뉴턴역학은 상대성이론과 양자역학 못지않는 오차로 대상들을 설명하며, 이러한 영역에서 상대성이론과 양자역학은 뉴턴역학과 동일한 참이다. 과학의 발전은 단지 뉴턴역학이 어디까지 적용가능한지 확정해주었을 뿐이며, 뉴턴역학은 여전히 진리이다. 이러한 설명은 과학을 다른 존재자나 개별 사실과 마찬가지로 안정되고 상대적으로 불변하는 진리로 여기게 만들어준다.

 

사회과학(그리고 다른 복잡계과학)의 경우

쿤의 패러다임 이론이 제시되었을 때도 나왔지만, 물리학의 역사는 조금 특수한 경우에 속한다. 실제로 다른 과학들은 주류 이론이 폐기되는 일이 많이 일어나지 않았다. 특히 심리학의 경우 오래된 이론들은 사라지는 대신 새로운 이론들과 공존했다. 화학에서도 이온결합 이론은 폐기되지 않고 공존했으며, 경제학에서 행동경제학은 주류 합리주의 경제학을 밀어내지 못했다. 사실 물리학에서도 전자기역학은 뉴턴역학과 일치하지 않았지만, 장시간 공존해 왔다. 많은 경우 이러한 분야들에서 패러다임은 서로 양립해왔으며, 데이터를 설명하는데 모두 필요했다.

 

이러한 과학분야들은 계의 정의를 다르게 하여 설명할 수 있다. 앞에서 본 물리학의 경우 계는 대응되는 물리적 특성이 있었다. 양자역학계는 매우 작은 미시계였으며, 상대성이론계는 속도가 매우 빠른 물리계였다. 그러나 여러 요인이 상호작용하는 복잡계는 대개 물리적으로는 비슷한 수준에 존재한다. 이러한 복잡계에서 계는 서로 명확하게 구분되는 물리적 특성 대신에, 서로 중첩되고 동시에 작용하는 속성들을 통해 정의될 수 있다. 그러한 상황에서 과학이론들은 계가 중첩되기 때문에 모두 부분적으로 참이라고 할 수 있다.

 

속성을 중심으로 정의되는 계는 어떤 계일까? 심리학을 예로 들어보면, 행동주의 심리학은 인간 행동의 많은 부분을 설명했다. 또한 행동주의 심리학은 데이터를 정량화하고 실험을 사용하기 때문에 성숙한 과학이라고 할 수 있다. 그러나 인간 행동의 많은 부분, 특히 보상과 처벌의 영향력이 약해지는 부분에서 행동주의 심리학의 설명력은 매우 약해진다. 인간 행동의 어떤 부분은 행동주의 심리학을 따르지만, 어떤 부분은 행동주의 심리학을 따르지 않는다. 이때 우리는 행동주의 심리학이 참인 계(행동주의계)를 행동주의 심리학으로 설명되는 인간 행동에 한정시켜서 설정할 수 있으며, 혹은 모든 인간 행동이 부분적으로 행동주의계에 속한다고 정의할 수 있다. 행동주의 심리학은 특정 인간 행동에서만 참이거나, 모든 인간 행동에서 부분적으로 참이다.

 

모든 이론이 부분적으로 참인 경우는 사회과학에서 그렇게 새로운 현상이 아니다. 많은 사회적 현상은 여러 요인들의 영향이 복합적으로 작용하면서 나타난다. 개인의 행동은 보상과 처벌의 결과로 일어나는 동시에, 개인이 가진 인지구조와 가치, 정서가 함께 작용한 결과로 발생한다. 때문에 보상과 처벌에 기반한 이론은, 인지구조나 가치, 정서에 기반한 이론 못지않게 부분적으로 참이다. 사회과학 이론들은 대개 서로 양립불가능하지 않았으며, 사회과학의 역사는(사실 생물학의 역사도 비슷하게) 새로운 이론이 오래된 이론을 밀어내기 보다 기존 이론이 설명하지 못했던 측면을 새로운 이론이 설명하는 형태로 변화했다. 

 

이러한 점을 제외하면 사회과학이나 생물학에서도 과학이론의 기본 특성과 발전은 물리학과 동일하다. 물론 복잡계의 데이터는 단일 이론이 아니라 여러 이론이 동시에 사용되어야 잘 설명될 수 있으며, 이는 과학이론의 영역을 확정하는데 어려움을 부여할 수 있다. 그러나 복잡계 과학에서도 마찬가지로 우리는 연구를 통해 과학이론이 성립하는 계를 확정할 수도 있다. 가령 경제 현상에 대한 경제학과 사회과학의 연구는 주류경제학이 합리적 시장 행위자에 의해 통제되는 거시현상에서 잘 성립한다는 점을 보여준다. 그렇다면 주류경제학이 참인 계를 행위자의 도구적 이성이 두드러지고 개인적 변산이 충분히 희석되는, 즉 도구적 이성이라는 요인이 강한 영향을 발휘하는 영역으로 확정할 수 있다. 이처럼 연구를 통해 과학이론이 연관된 요인을 이해하고 그것이 작용하는 상황에 대해서도 이해한다면, 복잡계에서도 과학이론의 계를 충분히 확정할 수 있다. 실제로 물리학에서도 특정 요인(전자기력)이 작용하는 상황에서만 참인 선례(전자기역학)를 찾을 수 있다.

 

 

의의와 한계

위의 글을 통해, 필자는 계의 개념을 도입하여 과학적 진리의 불변성과 실재론을 옹호하고자 하였다. 과학이론은 보편적인 진리보다는 특정한 계에서만 참인 진리로 볼 수 있다. 이 계의 영역은 과학적 탐구를 통해 확정되며, 과학의 역사는 특정한 계의 과학적 진리들을 발견하고 그 영역을 확정해온 역사라고 볼 수 있다. 사회과학과 생물학의 경우 서로의 계가 중첩된 경우가 많으며 모든 이론이 부분적으로 참인 경우가 많다. 그러나 이러한 이론들도 과학적 탐구를 통해 계의 영역을 확정할 수 있고, 따라서 불변하는 진리로 볼 수 있다.

 

이 이론은 많은 한계를 가지고 있다. 먼저 계의 경계를 설정하는 일은 어려울 수 있다. 뉴턴역학이 참이 아닌 미시계는 분명히 존재하지만, 그 경계를 어떻게 설정해야 하는지는 의문이 남는다. 또한 성숙한 과학이론을 판단하는 일도 아직 숙제로 남는다. 주류경제학은 실험을 사용하지 않지만, 대신 각종 통계적 기법을 통해 데이터를 높은 정확도로 설명한다. 그렇다면 경제학적 방법론을 성숙한 과학의 요소로 봐야 하는지 논쟁이 있을 수 있다. 귀납 논증의 타당성도 한계가 될 수 있지만, 현실적으로 귀납적으로 밝혀진 존재자나 개별 사실은 잘 변하지 않았으며 귀납 논증의 문제는 별 의미가 없었다는 답변이 가능하다.

 

이 이론은 과학적 진리를 진리로 이해하는 방법을 제공한다는 의의가 있다. 많은 과학자와 과학철학자들은 귀납적으로 밝혀진 존재자와 개별 사실이 잘 변하지 않았다는 사실에 동의한다. 그러나 과학이론이 계속 변해왔다는 사실은 과학적 진리를 이해하는데 어려움을 가져왔다. 과학 이론은 진리인가?에 대해 본 가설은 다음과 같이 제안할 수 있다. 과학 이론은 진리이며, 다만 특정 영역에서만 진리이다. 이 영역의 경계는 과학적 예측과 검증을 통해 확정되며, 확정을 통해 과학이론은 한계가 확정되고 동시에 한계 안에서 진리성을 보장받는다.