100만 달러 수학 문제 … 포스텍서 풀릴까

6일 경북 포항시 포스텍 에서 이 학교 수학과 알렉스 바텔 교수가 세계 각국의 학생·연구원·교수들에게 수학 용어와 아이디어에 관해 설명하고 있다. [포항=프리랜서 공정식]

100만 달러(약 11억6100만원)가 걸린 수학 문제를 푸는 주인공이 포스텍(포항공대)에서 탄생할 수 있을까.

6일 오후 2시 경북 포항시 남구 효자동 포스텍의 수리과학관 402호. 영국 케임브리지대, 미국 매사추세츠공대(MIT) 등 국내외 17개국 대학의 수학과 교수와 대학원생 등 60여 명이 ‘국제 겨울학교’의 개강에 맞춰 속속 도착했다. 모두 지도교수의 추천과 사전심사를 거친 베테랑 연구자들이다. 이들이 포항을 찾은 이유는 하나. 세계 수학계가 100년이 넘도록 해결하지 못한 한 문제에 도전하기 위해서다.

겨울학교가 다룰 문제는 이른바 3차 방정식의 미지수 x와 y를 찾는 ‘버츠와 스위너톤 다이어(BSD) 가설’이다. BSD 가설은 세계 수학계가 2000년 설정한 ‘일곱 가지 미해결 수학 문제’ 중 하나다. 겨울학교를 주관하는 포스텍 포항수학연구소 최영주(54·이학박사) 소장은 “이들 문제는 특히 상금 100만 달러씩 걸려 있어 유명하다”고 설명한다.

미국 클레이(Clay)수학연구소는 새로운 천 년이 시작된 2000년 그때까지 수학계의 미해결로 남은 7개 문제에 각각 100만 달러의 상금을 내걸었다. 문제는 여러 나라 수학자로 이뤄진 선정위원회가 21세기 수학에서 가장 중요하고 어려운 문제라고 선정한 것들이다. 상금은 미국의 사업가 클레이 부부가 내놓았다.

포스텍은 현상금 문제에 도전하기 위해 정수론의 권위자 존 코츠 포스텍 석학교수(케임브리지대 석좌교수)를 포함한 세계적 학자를 초청해 강연하고 참가자와 함께 관련된 문제를 풀어간다. BSD 가설과 관련된 세계 최고의 두뇌들이 9일 동안 밤낮을 가리지 않고 머리를 맞대는 것이다.

케임브리지대 학생으로 이 프로그램에 참가한 줄리오 브라우는 “이 문제와 관계 있는 것을 연구 중이어서 무작정 한국을 찾아왔다”며 “굉장히 어렵고 큰 문제여서 현재로선 막막하기만 하다”고 말했다.

이날 첫 강의는 존 코츠의 제자인 알렉스 바텔 포스텍 교수가 맡았다. 그는 한 시간 동안 문제를 푸는 것과 관련된 용어들을 칠판에 빼곡히 적어가며 설명했다. 바텔 교수는 “연구자들이 같이 머리를 맞대고 공부하다 보면 어느 순간 아이디어가 떠오를 수 있다”며 “수학자로서 더없이 행복한 프로그램”이라고 말했다.

일곱 가지 문제 중 하나는 5년 전쯤 가난한 러시아 수학자 팔레만이 풀었다. 그러나 그는 100만 달러 상금과 수학계의 노벨상이라는 필즈상까지 거절해 더 유명해졌다.

◆버츠와 스위너톤 다이어(BSD) 가설=문제를 단순화하면 ‘y 2=x 3-x’ 등의 방정식이다. 이들 방정식의 미지수 x와 y에 분수 등을 포함해 어떤 수가 들어갈 수 있으며, 그 수는 무한한가 유한한가를 밝히는 것이다. 이 문제는 1900년 이전부터 내려왔으며 60년대 옥스퍼드의 버츠와 케임브리지의 스위너톤이 가설로 문제를 정립시켰다.