수학적으로 생각한다는 것

▲ 수학자의 메모.
 인간은 자연에서 가장 연약한 한 줄기 갈대일 뿐이다.
 그러나 그는 생각하는 갈대이다.
 그를 박살내기 위해 전 우주가 무장할 필요가 없다.
 한번 뿜은 증기, 한 방울의 물이면
 그를 죽이기에 충분하다.
 그러나 우주가 그를 박살낸다 해도
 인간은 그를 죽이는 바로 그것보다 더 고귀할 것이다.
 인간은 자기가 죽는다는 것을,
 그리고 우주가 자기보다 우월하다는 것을 알기 때문이다.
 우주는 아무것도 모른다.
 
 그러므로 우리의 모든 존엄성은 사유(思惟)로 이루어져 있다.
 우리가 스스로를 높여야하는 것은 여기서 부터이지,
 우리가 채울 수 없는 공간과 시간에서가 아니다.
 그러니 올바르게 사유하도록 힘쓰자.
 이것이 곧 도덕의 원리이다.
 - 파스칼 ‘팡세’
 
▲숫자가 네 자릿수만 넘어가도 골치 아픈 이들을 위한 수학책
 
 ‘수학이 필요한 순간’은 페르마의 방정식의 ‘해의 유한성 증명 문제’처럼 수학의 역사에서 가장 중요한 난제를 해결, 세계적 학자 반열에 오른 김민형 교수의 책이다. 옥스퍼드 대학에서 수학을 가르치는 그는 방학이면 한국을 방문, 매우 특별한 강의를 마련하는데 이름하야 ‘숫자가 네 자릿수만 넘어가도 골치가 아픈 이들을 위한 수업’이란다. 초등학생부터 대학원생까지, 대기업 임원부터 발레 전공자까지 매우 다양한 스펙트럼을 가진 수강생들이 모여 흠뻑 섭취하는 것은 ‘수학적 사유의 매력’. 그간의 강의록을 엮어 더 다양한 사람이 만나볼 수 있도록 질문과 화답 형태로 정리했다. 한 마디로 재미있다. 술술 익힌다. 일명 ‘수포자’였던 내가 한 자리에 앉아 마지막 장까지 넘겼으니 거두절미(去頭截尾)다. 편집자가 서두에서 밝혔듯 김민형 교수는 ‘더 천천히 쉬운 말로 하는 것 같지만 더 깊게 끝까지 사고하게 만드는 사람’ 이었다.

 누구나 논리적으로 사고하기를 바란다. 물론 논리적이라는 말은 여러모로 다양하게 읽힌다. ‘깐깐한’, ‘따지기 좋아하는’으로 해석하는 사람도 있을 것이고 ‘합리적이며’ ‘이성적인’ 사고를 접할 때 ‘아하! 참으로 논리적이구나.’ 찬탄하는 사람도 있을 것이다. 이렇듯 논리적으로 사고하는 사람에 대한 정서는 다르겠으나 논리적으로 사고하기가 쉽지 않다는 점에는 거의가 동의한다. 무언가를 생각하다가 복잡하게 꼬이기 시작하면 건너뛰고 얼른 결론에 이르고 싶은 것이 인간이다. 그러나 이 책은 논리적인 사유가 우리를 밝은 이해의 저편으로 데려다 준다는 것, 그리고 무엇보다도 논리란 ‘내가 내린 해법을 강고하게 다듬는 것’이 아닌 ‘그 반대일 수 있는 경우를 많이 더 자주 생각해보고 따져보는 태도’임을 알려주었다.

 책은 말한다. 어떤 논리적 귀결에는 ‘답이 없다’가 답이란다. ‘문제가 있으면 반드시 답이 있다’는 것이 우리의 상식이라면, 수학에서의 논리적 사유는 ‘답 없음’이라는 결과까지도 포용하거나 포함한다. 수학적 사유는 법칙이나 공식의 발견보다는, 그 공식을 통해 또 다른 질문과 의문으로 나아가는 것이라는 것, 수학적 사유의 묘미란 ‘어떻게 올바르게 살 것인가’ ‘올바르게 선택할 것인가’하는 윤리적 문제와도 밀접한 관련이 있다는 것을 알게 되었다. 언제나 바른 선택을 하면서 살고 싶었으나 이런 생각이 수학과 관련 있으리라고는 미처 알지 못했다. 이 책, 물건이다.

김민형 ‘수학이 필요한 순간’ 표지.

▲선악은 얼마나 확률적인가
 
 젊은 시절의 수포자 콤플렉스를 극복하기위한 무의식적 반향인지 수학에 관한 책들을 꼬박꼬박 사서, 읽었다기보다는 모았다. ‘재미있어서 밤새 읽는’ 이라는 이름에 끌려 온라인으로 신청해 본 수학시리즈는 그러나 결코 밤샐 만하지 않았고, 미스터리 형태로 쓰여 졌다는 ‘페르마의 마지막 정리’는 끝까지 읽었으나 머리에 쥐를 남겼다. 수학을 이야기하는 몇몇 책들은 뒤로 갈수록 방정식이니, 함수니, 미적분이니 하다못해 황금비율이나 피보나치수열과 같은 공식들이 등장하며 기를 죽인다. 쓰임새를 자세히 늘어놓아서 ‘수학이란 이렇게 쓸모 있는 것이야!’를 설득시키려고 한다. 설득의 기술은 전문적이되 현장경험이 부족해 노련하지 못한 수사관처럼 수긍은 하되 공감은 어렵기 태반이다. 그러나 ‘수학이 필요한 순간’에는 어떤 수학공식도 등장하지 않는다. 그래서 부드럽게 읽히되, 수학에 대한 나의 통념과 관점을 유연하게 돌려놓는다.

 읽다가 문득 웬일인지 영화 ‘쇼생크 탈출’이 떠올랐다. 촉망받던 은행 부지점장에서 졸지에 아내와 정부를 죽인 흉악범의 누명을 쓰고 종신형을 선고받은 앤디. 그는 악랄한 교도소 간수장과 성경과 원칙을 주장하나 뒤로는 검은 돈을 세탁하는 소장의 세금 회계를 도와주고 교도관들에게 없어서는 안 될 존재가 된다. 여기서 그쳤다면 ‘역시 수학은 물질문명에 기여하는 무의식적 악이야’ 라고 치부했을 터. 앤디는 숫자를 가지고 노는 자신의 힘을 그저 불가항력적 권력에의 복종에만 사용하지 않는다. 폐지처리장에 불과하던 도서관을 차근차근 도서로 채우고, 회계를 도와준 대가로 수형자들에게 맥주 한 병씩의 여유를 요구하는 앤디. 그리고 어느 오후, 투명하게 열린 하늘 아래 굳게 입 다문 담장을 따라 하릴없이 걷던 죄수들 사이로 울려 퍼지던 오페라 피가로의 결혼. 간수실로 들어가 문을 잠근 후 음악을 튼 벌로 독방에 갇혀 잔인한 매질을 감당하는 그의 이마는 웃고 있다.

 몸은 감금되어 있을지언정 마음의 자유는 누구도 빼앗을 수 없다. 그리고 마음의 자유는 올바른 사유에서 온다! 회계사인 앤디가 능했던 확률과 통계는 오직 자본주의적 해법에서 이익과 손해를 계산하는 데만 쓰이는 줄 알던 내게, 수학이 필요한 순간을 들려준다. 인공지능으로 달리는 자율주행자동차가 절체절명의 순간에 어떻게 움직여야 할지에 대한 프로그램을 짜는데 확률적사고가 어떻게 사용되는지. 단순히 절대다수의 최대행복이라는 공리주의적 관점이 아닌, 탑승자와 보행자의 목숨이 걸린 상황에서 조금 더 신중하고 주의 깊게, 분석적으로 사유하는 것이 바로 확률론적 사고라고.

영화 ‘쇼생크 탈출’.

 수학은 과학의 언어. 수학언어로 가능했던 과학기술의 진보는 그 자체로 선도 악도 아니며 선악은 수학과 과학을 사용하는 인간의 도덕성에 달렸다고, 그 도구들을 어디에 사용하느냐가 선과 악을 결정한다고 나는 생각했다. 그러나 수학이 필요한 시간은 말한다. ‘수학적 사고의 한 방법인 확률론은 그 자체로는 선하지도 악하지도 않을 뿐 아니라, 선하고 악한 것도 확률론의 지배를 받는다. 우리가 선하다고 결정한 것도 악한 결과를 가지고 올 확률이 있고, 악하다고 생각하는 것들도 약간의 선한 효과가 있을 수 있기에 확률의 지배를 받을 수밖에 없다. 그러니까 오히려 질문을 거꾸로 돌려 물을 수 있다. 선하고 악한 것은 얼마나 확률적인가.’

 수학은 맞는 답을 내기 위한 계산의 과정이 아니다. 가능한 대안들의 반대편을 숙고해보는 것, ‘답’을 둘러싸고 있는 전제들을 확인하는 것이 수학의 조금 더 본질적인 역할이었다. 가령, ‘운동 법칙’에 대한 뉴턴 의 사유과정이 그렇다. 뉴턴 시대의 사람들은 “힘이란 무엇인가?”라는 질문에 대해 직관적으로 “힘은 움직이게 하는 그 무엇”이라고 생각했다. 그러나 뉴턴은 힘에서 감추어진 전제를 하나 더 발견한다. “구르는 것을 멈추게 하는 것도 힘이다.” 움직이는 것에 힘이 가해지지 않는다면 그것은 영원히 운행하게 될 것이다. 따라서 힘은 변화다. 그리고 밝혀지는 별들의 운행의 비밀. 기존의 답이 품고 있는 전제들을 검토하고 숙고하는 과정에서 만유인력이 탄생한 것이다. 책을 읽는 동안 내게는 수학적 사고가 ‘긍정적 회의주의자’의 삶을 위한 도구로 다가왔다. 옳지. 관습이라는 통념에 갇히지 않고 사고하는 태도야말로 수학적 사유의 첫걸음이렷다. 그렇다면 나는 언제 수학적으로 사유하는가.

 수학을 잘하려면 특히 창조적인 수학을 잘하려면 가설을 세웠을 때 그 가설이 틀릴 수 있는 가능성도 자꾸 만들도록 노력해야 합니다. 자기 주장이 어떻게 틀릴 수 있는지 자꾸 해봐야 합니다. 그렇지 않으면 자기도 모르게 고장이 큰 기계를 만들게 되어버리는 겁니다. 수학은 정답을 찾는 게 아니라, 인간이 답을 찾아가는데 필요한 명료한 과정을 만드는 일이라고 생각합니다. 수학이란 무엇인가에 대해 여전히 답을 말하기 어렵습니다. … 무엇보다 수학이 특정한 논리학이나 기호학과 같은 학문이 아니라. 우리가 세상을 이해하고 설명하는 방식이라는 것을 이해했을 겁니다. 일상의 문제에서도 정답부터 빨리 찾으려고 하기보다 좋은 질문을 먼저 던지려고 할 때, 저는 그것이 수학적인 사고라고 생각합니다. 어쩌면 대범하게도 수학적 사고를 통해서만 우리는 좋은 질문을 던질 수 있고, 우리가 찾은 답이 의미 있는지 확인할 수 있다고 말할 수 있습니다.
 - ‘수학이 필요한 시간’ 265-266p

영화 ‘쇼생크 탈출’.
 
▲세계는 수로 존재한다
 
 최근 이론물리학자들의 관심 중 하나는 우리가 인식하는 것을 넘어 ‘실체 자체가 대수적이냐, 기하적이냐’는 질문이란다. 2014년 옥스퍼드 대학 학회에서 젊은 물리학자 세르게이 구스코프가 미국고등과학원장 로버트 다이어그라프의 강의 후 던진 질문, “당신은 우주가 대수적이라고 생각합니까, 기하적적이라고 생각합니까?” 한참을 망설인 그의 대답. “저는 우주가 대수적이라고 생각합니다.”

 “사과 세 알 중 하나를 동생에게 주면 몇 알이 남겠니?” 초등학교 수학시간에 선생님이 하셨던 질문처럼 우린 흔히 이 세계는 모양이 먼저고 모양을 수치화한 추상적 개념이 수라고 생각한다. 드러나 보이는 현상의 기원은 점. 점이 모여 선이 되고 선이 모여 면과 입체가 된다고. 그러나 현대물리학은 세계를 기하적 구조로 보는 것이 ‘일루전’, 일종의 환상 아닐까하는 의문에 이르렀다. 우주의 미시 구조를 들여다보는 양자역학에는 시공간이 불연속적이라는 개념이 있다. 시공간이 연속적이 아니라면 그것은 과연 기하적인 현상인가? 불연속적인 시공간을 묘사하는데 필요한 방법은 뭔가? 등을 고민하는 게 오늘날 물리학자가 해결해야할 과제란다. 세계의 구조가 대수적이라니! 내 눈 앞에서 다정한 당신도, 당신 손의 빛바랜 가죽 필통도 이루는 원소는 원자로, 서로 같다. 그리고 원자의 한 요소인 전자는 오직 ‘확률적’으로 존재한다. 형체가 아닌 수로.

 순간, 내가 불교 교리인 ‘색즉시공 공즉시색(色卽是空 空卽是色)’을 떠올렸다고 환원주의자로 오해하지 않기를. 환원주의는 자신이 선호하는 하나의 원리로 모든 현상을 소급해 이해하려는 도그마적 애씀이지만, 나는 어떤 학문들의 깊이가 정점에 이르면 비슷한 ‘본질’에 이를 수도 있음을 말하고 싶었다. 그 본질이 설령 우리 인간의 뇌가 ‘구조화’한 한낱 ‘개념’에 불과할지라도 그 개념은 ‘한낱’이며 ‘전부’다. 파스칼의 말처럼 인간은 자연이 낳은 가장 연약한 갈대이나 스스로에 대해 알지 못하는 우주를 이해하고 해석하며 반영하는 것은 인간, 인간의 사유뿐임으로. 인간은 우주를 반영하는 우주의 눈동자이므로.
박혜진 <문예비평가>

[드림 콕!]네이버 뉴스스탠드에서 광주드림을 구독하세요

저작권자 © 광주드림 무단전재 및 재배포 금지