문과생의 추억 속 미적분

순전히 제목에 끌려 이 책을 고른다. 문과생의 고등학교 졸업은 곧 수학과의 결별을 의미한다. 후술하겠으나, 지난 몇 년 사이 필자는 전공인 법학 분야에서 미분과 적분이란 말을 자주 쓰고 있다. 그러던 차 이 책을 발견하고 앞뒤 가릴 것 없이 덜컥 선택한 것이다. 그러나 서평하기에 필자의 능력 밖이란 사실은 머리말을 지나 몇 페이지를 넘기면서 확연해졌다. 자주 등장하는 수학 공식에 거듭 좌절하면서도 숙제하듯 인내심을 갖고 통독했다. 숫자와 공식이 눈에는 들어오되 머릿속에 잠시도 머물지 않으니 ‘수포자’의 심정이 이런 것일까? 그래서 서평 형식을 떠나 필자가 발견한 미적분의 쓸모, 특히 AI와 관련한 미적분 그리고 그 철학을 개진하면서 ‘나의 수학 편력’을 한번 돌아보기로 했다.

지금은 달라졌지만, 사칙연산과 속셈(암산)으로 대변되는 산수(算數)는 중학교에 들어가 수학(數學)이란 멋있는 과목으로 변한다. 수학을 공부한다는 것은 곧 청소년기에 들었다는 뜻이다. 수학에 대한 선명한 기억은 중학교 1학년 2학기 때로 거슬러 올라간다. 정확히 말하면 가을에서 겨울로 넘어갈 무렵이었다. 숫자로 되어 있지 않은 수학을 처음 접했는데, 도형 또는 기하라고 했다. 도형 문제를 풀 때는 마치 수사반장이 된 듯한 기분이었다. 예를 들어 삼각형 내각의 합은 180도라는 기본 공리 몇 가지를 알고 있으면 문제에서 알려주지 않은 두 선분 사이의 각(角)이나 선분의 길이를 찾아낼 수 있는데, 추론 과정에서 범죄 현장의 작은 단서로 범인을 찾아내는 것 같은 스릴과 흥미가 있었다. 단서는 점점 줄어들고 풀어야 할 문제는 더욱 어려워지면 해결했을 때의 만족감은 더 커진다.

필자는 최근에도 그때의 포만감을 되살리려 도서관에서 유클리드 기하 책 몇 권을 빌려보기도 했다. 기원전 그리스 시대에 수학자/철학자들이 고민했던 것을 중1 교실에서 배울 수 있다는 것이 신기하다. 중학교 교과목 중 유일하게 수학에만 ‘학(學)’이 붙은 것도 우연은 아닌 것 같다. 기하학은 일상생활이나 건축 등 산업현장, 그리고 기술과 과학 분야에서 쓸모가 있다는 것을 어렵지 않게 생각할 수 있다. 이에 그치지 않고 법학을 포함한 학문 전 분야에서 사고의 근육을 키우는 데 이만한 것이 없다고 할 정도로 철저한 논리학이다.



수학적 상상력에는 한계가 없다

고3 때 입시를 앞두고 맘 편히 TV를 시청할 수 없었지만 유일하게 스스로에 허락한 프로그램이 매주 금요일 저녁 8시에 방영되었던 칼 세이건 (Carl Sagan) 박사의 《코스모스》였다. 훗날 그가 쓴 《창백한 푸른 점》이란 책도 읽었다. 우주를 인간 몸의 세포 속 세계와 함께 다루는 것에 매력을 느꼈다. 그야말로 초거시적인 우주와 초미시적인 세포의 세계를 함께 다루고 있는데, 이 책에서 말하는 극한 개념, 즉 무한대/무한소와 일맥상통하는 것 같다(63-67면). 무한 개념은 미적분학의 전제가 되기 때문이다(68-70면).

성인이 된 후로는 교육방송(EBS)의 수학 또는 수(數)에 관한 프로그램을 빠지지 않고 시청한 것 같다. ‘영(零)’의 발견(인도 수학자 브라마굽타Brahmagupta, 67면), 무리수, 허수 등의 개념에 관해 설명을 들으면 알 듯 말 듯하지만, 오히려 수학을 더욱 신비롭게 만들었다. 고교 동창 중에 세계적인 수학자가 있는데, 그의 신문 인터뷰 중 기억나는 한 대목이 있다. 유학 시절 그의 박사과정 동료 학생이 지도교수를 찾아가 수학에는 상상력이 부족해 시를 쓰겠다고 하면서 중퇴했다고 한다. 후에 지도교수는 필자의 친구에게 그 정도의 상상력이라면 시나 쓸 정도라고 일갈했다고 한다. 수학의 상상력이 시의 상상력과 비교할 수 없을 정도라는 것인데, 시도 수학도 잘 모르는 처지라 판단하기 어렵다.

다만 이 기사를 읽으면서 수학자란 칠흑 같은 어둠 속을 걸어가는 사람, 손발 다 뻗어도 걸릴 것 하나 없는 절벽을 오르는 클라이머가 아닐까 생각했다. 물리 세계에서는 공포스러운 환경이지만, 정신세계에서는 상상의 나래를 펼 수 있는 환경이 된다. 상상으로는 우주 끝과 세포 안의 무기물의 운동법칙에 이르기까지 순간 이동하고, 시간을 뛰어넘기도 하며, 존재와 비존재까지도 넘나들 수 있다. 모두 수학적 가정을 통해 가능한데, 이처럼 수학의 상상력에는 한계가 없어 보인다. 숫자와 논리로 체계를 세우고 그것으로 세계를 해석하는 수학이란 학문에 경외심마저 들었다.



인공지능에게 압도당하는 인간의 존재

고등학교에 진학해서는 문과를 선택했기 때문에 필자의 수학은 미적분이 마지막이었다. 《미적분의 쓸모》에서 언급한 미분과 적분의 쓸모를 그때 알았다면 더 재미있게 공부했을 텐데, 그때는 왜 이런 문제를 풀어야 하는지 몰랐다. 오랜 세월이 흘러 법학을 공부하는 연구자가 되었다. 법학은 가치의 학문이다. 인간과 사회를 어떻게 볼 것인가라는 세계관이 법률가와 법학자의 사고를 결정한다고 해도 과언이 아니다. 특히 필자의 전문 분야인 저작권법은 최근 인공지능(AI), 빅테크, 플랫폼, 빅데이터, ChatGPT 등 요즘 뜨거운 사회적 이슈와 맞물려 몇 주만 책을 놓고 있으면 따라잡기 어렵다. 인공지능의 성능을 높이기 위해서는 기계학습 (machine learning)을 시켜야 하는데, 이 과정에서 수많은 기존 저작물을 갖다 써야 한다. 그런데 입력하는 과정에서 저작권자로부터 일일이 허락받지 않으면 무단 이용에 해당하므로, 기계학습을 기반으로 하는 인공지능 산업에서 저작권은 매우 성가신 걸림돌로 취급되고 있다.

저작권이란 브레이크를 제거해야 한다는 거센 목소리 속에 제대로 된 저작권법학자의 설 땅은 갈수록 좁아지고 있다. 인공지능과 인간의 동서(同棲) 시대에 인간의 존엄성을 지키는 것보다 인공지능의 탁월성과 효용주의에 경도되어 인간의 고유성을 포기하는 것의 심각성을 크게 여기지 않는 풍토가 만연하고 있다. 인공지능은 인간을 모델로 개발돼 왔는데, 이제 인간의 불완전성은 부각되는 반면 인공지능의 완전성은 추앙되는 지경에 이르고 있다. 여기에서 인간이란 무엇인가라는 근본적 질문을 하게 된다. 이런 질문과 대답의 과정을 끝까지 밀어붙인 후 나온 세계관은 저작권이란 브레이크(규제)를 인공지능 산업발전을 위해 뽑아버려도 좋다거나, 아니면 액셀러레이터(지원)와 별도로 브레이크(규제)를 더욱 강화해야 한다는 결론으로 연결될 것이다.



미적분으로 분석한 인간

다시 인간이란 무엇일까? 인간을 미분(微分)하면 분자 단위로 쪼개질 수 있고, 더 나아가면 화학식 기호와 수학 산식으로 기술될 수 있을 것이다. 인간이 물리, 화학, 수학으로 설명되는 것이다. 그리고 그것을 적분(積分)하면 다시 인간이 된다. 이와 같은 세계관을 이른바 ‘환원주의’라고 한다. 이런 논의는 수학의 미적분과 다른 것이지만, 극한과 무한 개념에 관한 정신은 차용할 수 있지 않을까 싶다. 이 책에서 저자는 “과거를 적분하면 현재를 이해할 수 있고, 현재를 미분하면 미래를 예측할 수 있다.”(5면)고 한다. 시간에 따른 변화를 추적하는 미분과 적분을 활용하면 일상에서 우주에 이르기까지 수많은 쓸모를 발견할 수 있다는 것이다. 물론 필자가 발견한 미적분의 쓸모는 뉴턴과 라이프니츠, 그리고 저자의 것과는 다른 엉뚱한 것일 수 있다. 하지만 문과 출신으로서 미적분을 인간을 이해하는 세계관의 하나로 보는 것을 틀렸다고 할 수는 없으리라.

저자가 말하는 극한 개념, 무한 개념은 가장 큰 수에도 있지만, 가장 작은 수에도 존재한다. 0과 1이라는 이진수로 되어 있는 디지털 세계에서 쪼개고 쪼개도 – 즉 미분해도 – 그 사이는 다시 또 쪼개질 수 있다. 마치 아무리 큰 수에도 1을 더하면 그보다 더 큰 수가 되듯 말이다. 어떻게 해도 ‘사이’와 ‘너머’의 간극 또는 공간/시간을 완전히 메울 수는 없다. 미적분을 비롯한 수학은 분명 아름다운 논리이다. 그러나 그것으로 인간을 규명하고 사회를 설명할 때, 낱낱이 해체되는 과정에서 인간이란 존재는 한낱 물리/화학의 수학식이 되고 다시 조립하면 인간이 된다고 하는 논리에 동의하기 어렵다. 수학적 세계관, 환원주의 세계관이 법학에 들어오면 어떤 재앙적 상황이 발생할 것인지 자못 심각한 우려가 들지 않을 수 없다.



미적분으로 풀어낼 수 없는 인간의 영역

뉴턴 이후 수학으로 세계를 설명하는 이른바 뉴턴식 접근법(Newtonian Approach)은 수학, 과학뿐만 아니라 전 학문 분야에 확산되고 있다. 심리학이나 정신의학에서는 신체와 같은 물리적 세계뿐 아니라 사고 작용과 같은 정신세계도 물리와 화학식, 결국 수학으로 풀 수 있다고 보는 것 같다. 사람이 아닌 사회의 현상 – 경제, 법, 정치 영역 –에도 수학을 사용한 분석 방법론은 이미 학계에 보편현상이 되었고, 이와 다른 견해는 비과학적, 비합리적 방법론으로 치부되기 마련이다. 계량적으로 증명할 수 있는 것만 합리성을 담보하고, 비계량적 방법론은 학문 세계에 발붙이기 어려운 시대가 된 것이다.

수학의 정교함과 아름다움은 지금도 늘 동경의 대상이나, 인간을 미적분하여 해체하고 조립하여 인간을 다시 만들 수 있다는 생각은 드디어 인공지능과 인간의 차이를 없애는 기술로 나아가게 하고 있다. 아무리 미분해도 사라지지 않아 건너뛸 수밖에 없는 간극, 아무리 적분해도 채워지지 않는 공극에 인간의 정신(mind)과 영(spirit)이 있다고 본다면, 이를 두고 비과학적이라고 치부해버릴 수 있을까? 물론 그 또한 수학적으로 증명해낼 수 있다고 할 수 있을지 모르겠다. 그러나 필자는 그사이의 엄연한 틈의 존재를 믿는다. 미분과 적분으로도 메워지지 않는 그 틈을.