합리적으로 행동하면 항상 이기는가

뉴컴의 역설이 드러내는 두 가지 합리성

서론

사람들은 흔히 합리적으로 행동하면 더 나은 결과를 얻을 수 있다고 믿는다. 손해를 피하고, 이익을 극대화하며, 감정 대신 계산에 따라 움직이면 실패할 이유가 없다고 생각한다. 그래서 ‘합리적 선택’이라는 말에는 일종의 안전함이 따라붙는다.

그러나 뉴컴의 역설 앞에서는 이 믿음이 흔들린다. 이 사고 실험에서는 서로 정반대의 선택이 모두 합리적으로 보인다. 문제는 계산이 틀렸기 때문이 아니라, 합리성의 기준 자체가 둘로 갈라지기 때문이다. 이 글에서는 뉴컴의 역설이 왜 “합리적으로 행동하면 항상 이긴다”는 생각을 무너뜨리는지를 살펴본다.

뉴컴의 역설에서 합리성이 갈리는 지점

하나의 기준으로는 설명되지 않는다

뉴컴의 역설을 처음 접하면 사람들은 곧바로 하나의 답을 찾으려 한다. 어느 쪽이 더 이득인지, 어떤 선택이 더 논리적인지를 따진다. 하지만 이 사고 실험은 하나의 기준으로는 정리되지 않는다.

합리성은 단일한 규칙이 아니라, 기준에 따라 다른 얼굴을 가진다.

결과 중심과 행위 중심의 분기

뉴컴의 역설에서 합리성은 크게 두 갈래로 나뉜다. 하나는 결과를 기준으로 판단하는 합리성이고, 다른 하나는 행위의 일관성을 기준으로 삼는 합리성이다. 이 두 기준은 서로 충돌하지만, 각자의 논리는 완결되어 있다.

그래서 선택은 계산 문제가 아니라 기준의 문제가 된다.

결과 중심 합리성의 논리

과거 데이터가 선택을 지배한다

예측자가 거의 항상 맞았다는 전제가 주어지면, 과거의 결과는 분명하다. 불투명한 상자 하나만 선택한 사람들이 더 큰 보상을 얻었다. 이 관점에서 보면, 같은 선택을 반복하는 것이 합리적으로 보인다.

여기서 합리성은 통계와 기대값에 기대고 있다.

이길 확률이 높은 선택을 따른다

결과 중심 합리성은 “이 선택을 하면 평균적으로 더 많이 얻는다”는 사실을 중요하게 본다. 현재의 직관보다 장기적 성과를 신뢰한다.

이 기준에서는 한 상자 선택이 자연스럽다.

행위 중심 합리성의 논리

지금 이 순간의 선택만을 본다

행위 중심 합리성은 현재 시점에서 가능한 행동과 그 결과만을 고려한다. 지금 이 순간, 투명한 상자의 돈은 확정되어 있고, 불투명한 상자의 상태는 이미 정해져 있다.

이 관점에서는 두 상자를 모두 선택하는 것이 손해를 줄이는 행동이다.

과거 예측은 원인이 아니다

이 기준에서 예측은 단지 과거의 사건일 뿐이다. 현재의 선택이 과거를 바꿀 수 없다는 전제 아래, 예측과 선택 사이에는 인과관계가 없다고 본다.

그래서 예측을 고려하지 않는 것이 오히려 합리적으로 보인다.

왜 두 합리성은 충돌하는가

시간에 대한 이해가 다르다

결과 중심 합리성은 선택이 시간 전체에 걸쳐 연결되어 있다고 본다. 반면 행위 중심 합리성은 현재 순간을 독립된 시점으로 본다. 이 시간 인식의 차이가 판단을 갈라놓는다.

뉴컴의 역설은 이 차이를 숨기지 않는다.

합리성의 목적이 다르다

어떤 합리성은 ‘이기는 것’을 목표로 삼고, 어떤 합리성은 ‘일관성’을 목표로 삼는다. 목표가 다르면 같은 상황도 다르게 해석된다.

그래서 논쟁은 끝나지 않는다.

이 사고 실험이 불편한 이유

합리적으로 행동해도 손해를 볼 수 있다

뉴컴의 역설에서는 합리적인 기준을 따랐음에도 결과적으로 더 적은 보상을 얻을 수 있다. 이 가능성은 많은 사람에게 불편하게 다가온다.

합리성은 안전망이 아니라 선택일 수 있다는 사실이 드러난다.

설명이 끝나도 선택은 남는다

아무리 논리를 들어도, 선택의 불편함은 사라지지 않는다. 어느 쪽을 택하든 찜찜함이 남는다. 이 잔여감이 사고 실험을 오래 붙잡게 만든다.

이 구조는 <우리는 왜 끝까지 판단하려 하는가>에서 다룬 멈춤의 어려움과 닮아 있다.

판단 구조로 다시 보는 뉴컴의 역설

합리성은 성격이 아니라 위치다

사람이 합리적인지 아닌지가 중요한 것이 아니다. 어떤 기준 위에 서 있느냐가 판단을 결정한다. 기준이 바뀌면, 같은 사람도 다른 선택을 한다.

뉴컴의 역설은 이 사실을 선명하게 보여준다.

선택은 계산보다 신념에 가깝다

결국 선택은 “무엇을 합리적이라고 믿는가”에 달려 있다. 이 믿음은 계산만으로 형성되지 않는다. 시간, 책임, 자유의지에 대한 관점이 함께 작동한다.

그래서 선택은 개인의 세계관을 드러낸다.

다른 사고 실험과의 연결

몬티홀 문제와의 공통 구조

몬티홀 문제에서도 계산은 명확하지만, 직관은 쉽게 바뀌지 않는다. 뉴컴의 역설 역시 논리를 이해해도 선택은 갈린다.

이 둘은 이해와 납득이 분리되는 구조를 공유한다.

무지의 베일과의 대비

무지의 베일은 공정한 규칙을 찾기 위해 정보를 제거한다. 뉴컴의 역설은 선택을 흔들기 위해 정보를 과도하게 제공한다. 하나는 단순화, 다른 하나는 과잉이다.

두 사고 실험은 판단이 정보에 어떻게 반응하는지를 다른 방식으로 보여준다.

합리성의 기준이 달라지면, 같은 상황도 다른 선택을 낳는다.

FAQ

Q1. 뉴컴의 역설에서 합리성은 무엇을 의미하나요
하나의 기준이 아니라, 서로 다른 판단 기준을 의미합니다.

Q2. 어떤 선택이 더 ‘이성적’인가요
이성의 정의에 따라 달라집니다.

Q3. 실제로는 어떤 선택이 더 많나요
사람의 성향과 기준에 따라 나뉩니다.

Q4. 이 사고 실험의 핵심 질문은 무엇인가요
합리성은 하나인가, 여러 개인가라는 질문입니다.

 

선택이 이미 예측되었을 때의 불편함은 <이미 예측된 선택은 여전히 자유로운가>에서 이어진다.
판단을 멈추기 어려운 이유는 <우리는 왜 끝까지 판단하려 하는가>에서 다시 드러난다.

합리적으로 행동한다고 해서 항상 이기는 것은 아니다. 합리성은 결과를 보장하는 공식이 아니라, 판단이 서 있는 자리다. 그 자리가 어디인지에 따라, 같은 계산도 다른 선택으로 이어진다.
뉴컴의 역설은 합리성을 의심하라고 말하지 않는다. 대신 어떤 합리성을 사용하고 있는지를 자각하라고 요구한다.
그 자각이 생기는 순간, 선택은 더 이상 정답 찾기가 아니라 기준 선택의 문제가 된다.
사고 실험은 결론을 주지 않는다. 다만 우리가 얼마나 쉽게 ‘합리적’이라는 말에 기대고 있었는지를 조용히 드러낸다.