“물리학자들은 수학이 아니라 수학의 선택에서 실패했다.” 만물의 이론을 찾는 하와이의 서퍼, 다중우주 때문에 정신과 의사를 찾은 물리학자, 노벨상을 수상한 석학에 이르기까지 아름답고 우아한 수학을 좇으며 40년을 허비한 물리학자들 물리학계의 현재를 젊은 여성 물리학자가 파헤친다! 도대체 이론물리학에 무슨 일이 생긴 걸까? 자비네 호젠펠더의 『수학의 함정』은 아름다움에 대한 추구가 어떻게 현대의 이론물리학을 위기로 몰아넣었는지를 통렬하고 날카로운 비판과 도발적인 인터뷰로 낱낱이 파헤치는 교양과학 도서다. 20세기는 ‘물리학의 세기’라고 말해도 과언이 아니다. 20세기 초 상대성이론과 양자역학으로 시작된 물리학의 혁명은 자연과 우주에 대한 우리의 이해를 바꿨다. 이론물리학은 시간이 관찰자에 따라 상대적으로 흘러간다는 것, 아주 작은 영역에서는 온갖 기이한 일들이 벌어진다는 것, 우주가 가속 팽창하고 있다는 것, 삼라만상을 24종류의 입자와 4가지 기본 힘으로 설명할 수 있다는 것을 밝혔다. 새로운 지식은 물질적 풍요와 사회적 변화를 가져왔다. 승승장구하는 이론물리학자들은 곧 더 원대한 꿈을 꿨다. 그들은 모든 힘을 통일하고 만물을 설명할 수 있는 단 하나의 법칙을 찾을 수 있다고 장담했고, 수십억 달러를 들여 거대한 가속기와 검출기, 우주망원경을 제작했다. 아인슈타인, 보어, 슈뢰딩거, 파인만, 호킹 등 전설적인 천재 이론물리학자들은 자연의 비밀을 파헤치는 탐험대의 선봉에 섰으며, 많은 존경을 받았다. 그야말로 영광의 시대였다. 이론물리학의 성공은 21세기에도 계속 이어지고 있다. 물리학자들은 힉스 입자를 발견했고, 중력파를 관측하는 데 성공했다. 그리고 이제는 더 크고 강력한 실험장비가 필요하다고 목소리를 높이고 있다. 대중은 궁극의 진리를 찾아 분투하는 물리학자들을 응원하고, 물리학의 밝은 미래를 전망하는 대중과학서들이 출간된다. 겉으로 보기에는 아무런 문제가 없어 보인다. 과연 그럴까? 힉스 입자를 확인하는 데는 거의 50년이 걸렸고, 중력파를 직접 검출하는 데에는 100여 년이 걸렸다. 이제는 자연의 새로운 기본 법칙을 실험하는 데 걸리는 시간이 과학자의 인생 전체보다 길어질 수도 있다. “내가 속한 세대는 깜짝 놀랄 만큼 이렇다 할 성과를 내놓지 못했다.” 이론물리학자인 자비네 호젠펠더는 지난 40여 년 간 자신이 몸담은 학계가 이룬 성과를 냉정하게 평가한다. 그의 주장에 따르면 이론물리학자들은 수십 년 동안 어떤 새로운 법칙도, 유의미한 예측도 도출하지 못했다. 대신 그들은 만물이 너무나도 작아서 눈에 보이지 않는 끈으로 이루어져 있고, 아직 발견되지 않은 수십 개의 입자가 있고, 우리가 사는 우주가 11차원이며, 심지어 우리가 닿을 수 없는 곳에 수없이 많은 다중우주가 있다고 주장했다. 이론물리학자들이 이런 가설들을 만들고 지지하는 이유는 단 하나, 이 가설들이 ‘너무나도 아름다워서 진실이 아닐 리 없다’고 믿기 때문이다. 하지만 호젠펠더는 이렇게 대꾸한다. “내가 아름답다고 생각하건 말건, 자연법칙이 내 생각에 왜 관심을 두겠는가?” 『수학의 함정』은 오늘날의 물리학 연구에 미학적 판단이 어떻게 작용하고 있는지 그 실태를 추적한 책이다. 호젠펠더는 이론물리학자들의 주장 밑바닥에 깔린 가장 근본적인 믿음을 파헤친다. 그는 이론물리학자들의 저서, 강연, 논문 등 방대한 자료를 인용하지만, 가장 인상적인 것은 그의 인터뷰다. 니마 알카니-하메드, 스티븐 와인버그, 프랭크 윌첵, 조지프 폴친스키, 조지 엘리스 등 노벨 물리학상을 받거나 중요한 연구를 수행한, 이론물리학과 우주론 분야의 석학들에게 호젠펠더는 날카로운 돌직구를 던진다. 호젠펠더는 마치 소크라테스가 끝없는 질문으로 상대방의 무지를 일깨웠던 것처럼 끝없는 질문을 통해 이론물리학자들의 미학적 기준의 밑바닥에 어떠한 논리도 없다는 것을 보여준다. 과학자들의 대화를 보면서 독자는 물리학자 역시 인간에 불과하며, 감정과 편향을 가지고 있고 사회에 영향을 받는 존재라는 것을 새삼 깨닫게 된다. “역사가 끊임없이 갈라지는 게 불가능하다는 걸 증명할 수 있었으면 좋겠어요. 물론 증명할 수 없습니다. 난 그게 역겨워요. 그런 생각을 떠올린 사람들은 당연히 역겹지 않겠죠. 하지만 난 아무래도 역겹습니다.” 또한 호젠펠더는 대부분의 이론물리학자들이 수학적 아름다움이라는 주관적인 기준을 사용하는 것에 어떤 문제의식도 없으며, 따라서 이를 해결하려 들지도 않는다고 말한다. “[그들은] 많은 사람이 어떤 아이디어를 연구한다면 거기에는 틀림없이 뭔가 있다고 믿을 뿐 아니라, 그것이 공공연하게 밝혀도 좋을 만한 논거라고 믿고 있다.” 심지어 몇몇 학자들은 과학적 방법론을 수정해서 ‘실험적 검증’이라는 항목을 제외해야 한다고 주장한다. 저자는 이런 주장들이 이론물리학계를 내부에서부터 좀먹고 있다고 비판한다. 더 나아가 “우리가 새로운 철학을 받아들여 사실 외의 것을 근거로 이론을 선택한다면, 그게 물리학에서 그치겠는가?”라며 이론물리학의 위기가 과학 전반에 대한 신뢰가 하락되는 결과를 낳을 수 있다고 경고한다. 그렇다면 우리는 무엇을 해야 할까? 호젠펠더는 과학자 사회 전반이 나서야 한다고 말한다. 과학자 개개인이 편향에 빠지지 않도록 주의하는 동시에 그런 편향을 (완전히 제거하지는 못하더라도) 줄일 수 있는 체계적인 시스템이 마련되어야 한다는 것이다. 과학계의 자성을 촉구하는 호젠펠더의 글에서 독자는 이론물리학에 대한 통렬하고 냉소적인 비판과 함께 자신이 몸담은 학문이 제 역할을 되찾기를 바라는 이론물리학자의 애정과 헌신을 느낄 수 있다.

추천사 서문 1장. 물리학의 숨은 규칙 2장. 얼마나 아름다운 세상인가 3장. 통합의 상태 4장. 무너진 기반 5장. 이상적인 이론 6장. 양자역학의 이해할 수 없는 이해 가능성 7장. 모든 것을 지배하는 하나의 법칙 8장. 우주, 마지막 전선 9장. 우주, 그 모든 것, 그리고 그 나머지 10장. 아는 것이 힘이다 감사의 말 부록 참고문헌 감수의 글 찾아보기

○ 물리학자들은 확신했고, 그 확신에 수십억 달러를 걸었다. 지난 수십 년 동안 물리학자들은 세상을 변화시킬 수 있는 새로운 발견이 어디에 있는지 안다고 말했다. 물리학자들은 가속기를 건설했고, 우주 공간에 위성을 쏘아 올렸고, 땅속 깊은 곳에 검출기를 묻었다. 세상은 물리학의 갈망을 실현할 준비가 되어 있었다. 그러나 물리학자들이 새로운 돌파구를 기대했던 그곳에서는 아무 일도 일어나지 않았다. 물리학자들은 실험을 통해 그 어떤 새로운 결과물도 얻지 못했다. 물리학자들은 수학이 아니라 수학의 선택에서 실패했다. 그들은 대자연이 우아하고 단순하며 친절하게 실마리를 내어준다고 믿었다. 그들은 대자연의 속삭임을 들을 수 있다고 생각했지만, 사실 그것은 그들의 혼잣말에 불과했다. 이제 대자연이 입을 열었지만, 대자연은 크고 또렷하게 아무것도 말해주지 않았다. (11쪽) ○ 어떤 이론이 매력적인지 아닌지를 정의하는 정확한 수학적 규칙을 보여줄 수는 없습니다.” 잔 프란치스코 주디체는 이렇게 말한다. “한 이론을 놓고 다양한 문화권에 속한 사람들이 공통적으로 아름다움과 우아함을 인지하는 걸 보면 놀랍죠. 이를테면 ‘새 논문을 썼는데 내 이론이 무척 아름다워요’라고 말할 때, 굳이 이론을 상세히 설명할 필요가 없어요. 논문을 보면 내가 왜 그렇게 흥분하는지 곧바로 알게 될 테니까요. 안 그래요?” 아니, 난 모르겠다. 그래서 내가 그와 얘기를 하는 것이다. 내가 아름답다고 생각하건 말건, 자연법칙이 내 생각에 왜 관심을 두겠는가? 나와 우주의 그런 연결은 대단히 초자연적이고, 대단히 낭만적이며, 대단히 내 스타일이 아닌 것 같다. 그러나 잔은 자연이 ‘내가’ 아름답다고 여기는 게 아니라 ‘그가’ 아름답다고 여기는 것에 관심을 둔다고 생각한다. (19쪽) ○ 물리학의 이론들은 수학으로 구성된다. 우리가 수학을 사용하는 이유는 미분기하학이나 등급 리 대수(graded Lie algebra)를 잘 모르는 사람들에게 겁을 주기 위해서가 아니다. 수학을 사용하는 이유는 우리가 바보이기 때문이다. 수학은 우리를 정직하게 만든다. 수학은 나 자신에게, 또 서로에게 거짓말을 하지 못하게 한다. 수학은 틀릴 수 있지만 거짓말은 하지 않는다. 이론물리학자들의 임무는 기존의 관측 내용을 설명하거나 앞으로의 실험 전략을 예측할 수 있도록 수학을 개발하는 것이다. 이론 개발에 수학을 사용하면 논리적 엄밀성과 내적 일관성을 강화할 수 있다. 수학은 이론이 모호해지지 않고 결과를 확실히 재현할 수 있게 한다. 물리학에서 수학이 거둔 성공은 어마어마했다. 그 성공 때문에 기준은 더욱 엄격해졌다. 오늘날 우리가 세우는 이론들은 (수학적 관계 또는 정의로서의) 가정들과 이러한 수학을 현실의 관측 대상과 연결시키는 해석이 결합한 것이다. (25쪽) ○ 오늘날까지도 LHC에서는 초대칭 입자의 증거가 나오지 않고 있다. 이론물리학자들 사이의 분위기는 싸늘해졌다. “아직 절망할 때는 아닙니다……. 하지만 이미 절망의 시간이 온 것인지도 모릅니다.” 이탈리아의 물리학자 귀도 알타렐리는 2011년에 이렇게 말했다.10 케임브리지 대학교의 벤 앨러낵은 2015년의 LHC 데이터 분석 결과에 대하여 “나 같은 초대칭이론 물리학자들에게는 좀 우울한 결과”라는 반응을 보였다. CERN의 이론물리학자인 조너선 엘리스는 LHC가 힉스 보손 외에 아무것도 발견하지 못할 가능성을 “진짜 별 다섯 개짜리 재앙”이라고 말했다. 이 상황에 대한 공식 명칭은 ‘악몽의 시나리오’다. 우리는 악몽 속에서 살고 있다. 나는 2006년 이후로 학회에 참석하지 않았다. 너무 우울해서다. 이 학회에서 초대칭을 연구하는 키스 올리브를 알게 되었다. 키스는 미네소타 대학교 물리학과 교수이고, 윌리엄 파인 이론물리연구소의 소장이다. 나는 키스에게 전화를 걸어 LHC에서 초대칭이 보이지 않은 것에 대해 어떻게 생각하는지를 묻는다. (101쪽) ○ 표준모형은 엄청난 성공을 거두었지만, 물리학자들에게는 많은 사랑을 받지 못한다. 미치오 카쿠는 표준모형을 “용케도 꾸며낸 추한 것”이라고, 스티븐 호킹은 “임시방편으로 만들어진 추한 것”이라고 했다. 매트 스트라슬러는 표준모형이 “추하고 지나치게 화려하다”라고, 브라이언 그린은 표준모형이 “너무 유연하다”라고 말했다. 폴 데이비스에 따르면, 표준모형이 “마무리되지 않은 분위기”를 풍기는데 그 이유는 “약전자기력과 강한 핵력을 함께 대충 얽어맨 방법”이 “추한 특성”이기 때문이다. 표준모형을 진심으로 좋아하는 사람이 정말로 있다면 작심하고 찾아내야 할 지경이다. (115쪽) ○ 내 연구실 면적의 반밖에 되지 않는 그의 연구실을 관찰하면서, 노벨상 수상자가 되겠다는 나의 보잘것없는 야망은 곧바로 증발한다. 내 연구실엔 이곳 벽에 걸린 온갖 영예로운 직함이 없다. 책상에는 내가 집필한 책도 없다. 와인버그의 책상에는 대충 봐도 열두어 권 정도가 나란히 꽂혀 있는데. 그가 쓴 『중력과 우주론(Gravitation and Cosmology)』은 내가 처음으로 사서 간직한 교과서다. 정말이지 충격적일 만큼 비싼 책이어서 어디다 잘못 두고 잃어버릴까 봐 일 년 내내 들고 다녔을 정도다. 그 책을 들고 체육관도 가고, 그 책을 깔고 밥도 먹고, 그 책을 안고 잠도 잤다. 심지어 펼쳐 읽어보기도 했다. 짙은 파란색의 밋밋한 표지에 금박으로 표제가 새겨진 책이었다. 언제나 먼지가 한 겹 정도는 기본적으로 쌓이는 책이다. 내 책장에 꽂힌 책들은 대부분 아인슈타인과 하이젠베르크와 동시대를 살았던 사람들이 쓴 책인데, 그 책의 저자는 그들과는 달리 아직도 살아 있다는 사실을 발견했을 때 내가 얼마나 기뻤을지 상상해보시라. 저자는 살아 있을 뿐 아니라 이후로도 양자장이론에 관한 책을 세 권이나 더 발표했다. 나는 그 책들도 품에 안고 잤다. (152쪽)