미국 물리학회지 피지컬 리뷰(Physical Review D)에 게재

국내 과학자가 20세기 7대 수학 난제(Millennium Problem) 가운데 하나를 풀었다.

건국대(총장 송희영)는 입자물리학이론과 우주론 및 통일장 분야의 세계 최고 이론물리학자인 조용민 석학교수(물리학) 연구팀이 미국 클레이수학연구소(CMI)가 제시한 7대 수학난제 중 하나인 ‘양-밀스 이론과 질량간극 가설’ (Yang-Mills and Mass Gap)문제를 해결했다고 17일 밝혔다.

조 석학교수는 양자 색역학에서 자기홀극 응집이 일어남을 증명함으로 이 문제의 해결책을 제시하고 우주의 질량이 어떻게 생성되는가를 밝히는데 성공했다. 이번 연구 결과는 미국 물리학회가 발간하는 물리학 분야의 권위있는 국제 학술지 ‘피지컬 리뷰 D’(Physical Review D) 최신호(온라인 4월12일자 발간)에 게재되었다.

조 교수는 또 오는 8월 26~28일 싱가포르에서 열리는 ‘다이슨 탄생90주년 기념 국제 컨퍼런스’(International Conference for Dyson’s 90th Birthday)에 초청받아 이번 연구결과를 발표할 예정이다.

현재 이론물리학의 최대 미해결 문제의 하나가 이른바 ‘새천년 문제 (Millennium Problem)’로 잘 알려진 양자 색역학의 질량생성 문제이다. 이 문제는 미국 Clay Mathematics Institute에서 수학에서 가장 어려운 6개의 미해결 문제와 함께 이 문제를 푸는 사람에게 상금 100만 달러를 주겠다고 공고한 물리학의 최대 난제이다. 이같은 밀레니엄 난제는 한 번 풀리고 나면 IT기술과 공학, 금융과 암호 등 다양한 분야에 혁신적인 변화를 가져올 수 있으며, 해답을 찾는 과정에서 실패하더라도 수많은 유용한 수식과 가설들이 새롭게 등장해 세계 과학계가 주목하고 있다.

최근 유럽 핵 연구소(CERN)가 ‘신의 입자’라고 불리는 ‘힉스(Higgs)’ 입자의 실체를 확인해 세계적 관심을 모았는데 그 이유는 바로 이 입자가 전자의 질량을 만들어 주기 때문이다. 그러나 전자의 질량은 우주 질량의 0.002% 도 되지 못한다.

그렇다면 우주의 물질은 어떻게 만들어 지는가? 우리가 알고 있는 우주의 물질은 거의 모두가 양성자와 중성자로 되어 있으므로 우주의 질량을 설명하기 위해서 이들의 질량이 어디서 나오는가를 알아야 한다. 잘 알려진 바와 같이 원자는 양성자와 중성자로 된 핵과 그 주위를 돌고 있는 전자로 만들어져 있다. 그런데 양성자와 중성자는 서로 다른 색을 띠는 세 개의 쿼크와 이를 풀처럼 붙들고 있는 풀 입자인 글루온으로 되어 있으며 이를 설명하는 이론이 이른바 양자 색역학이다.

양자 색역학이란 양성자와 중성자를 포함하는 강입자(Hadron)를 기술하는 이론인데 이 강입자들은 색을 가진 쿼크와 글루온으로 구성되어 있다. 그런데 이 양자 색역학의 중요한 특징이 이른바 색 감금(Colour Confinement) 이다. 원자의 구성입자인 양성자나 전자는 원자 밖으로 떼 낼 수 있는데 반해 일반적으로 강입자의 구성입자인 쿼크나 글루온은 밖으로 떼 낼 수가 없다. 그러므로 이들은 영원히 강입자 안에 감금되어 있어야 하는데 이를 색 감금이라 한다.

이러한 색 감금을 어떻게 설명하느냐 하는 문제가 바로 새천년 문제이다. 그 이유는 색을 가진 쿼크와 글루온은 질량이 없는 입자들인데 이들이 강입자 안에 감금이 되는 과정에서 강입자들이 질량을 가지게 된다는 것이다. 그러므로 색 감금 문제는 강입자의 질량 생성 문제와 동일한 문제가 되는 것이며, 이 문제는 바로 우주의 질량이 어떻게 생성되는가 하는 자연의 가장 기본 문제가 되는 것이다.

조용민 건국대 석학교수는 입자물리학이론과 우주론 및 통일장 분야의 세계 최고 이론물리학자로 이 색감금 문제를 해결하기 위해 ‘Cho-decomposition’(조-분해)으로 알려진 획기적 방법을 도입하고 최근 이를 이용하여 양자 색역학에서 자기홀극 응집이 일어남을 증명해 이 문제의 해결책을 제시하고 우주의 질량이 어떻게 생성되는가를 밝히는데 성공했다.

이번 결과는 또 최근 일본 치바(Chiba) 대학과 국립 고에너지연구소(KEK) 의 격자 색역학(Lattice QCD) 팀과 서울대 격자 색역학 팀이 각각 독립적으로 컴퓨터 계산으로 확인함으로 사실로 판명되고 있으며, 이 컴퓨터 계산 결과도 유럽 물리학회지 ‘피지컬 레터 B’(Physics Letters B)에 이미 출판 되었거나 출판될 예정이다.

연구에 참여한 건국대 윤종혁 교수(물리학)는 “우주의 질량 대부분은 양성자와 중성자로 이루어져 있는데 이번 연구를 통해 이들이 어떻게 질량을 갖게 됐는지 설명할 수 있게 됐다”라며 “연구 결과가 검증을 거쳐 입증되면 우주에 대한 인간의 이해를 넓힐 수 있을 것”이라고 말했다.

미국의 부호 랜던 클레이가 매사추세츠주 케임브리지에 설립한 클레이 수학연구소(CMI)는 2000년 수학분야에서 중요한 미해결 문제 7개를 상대로 그 해결에 각각 100만 달러씩의 상금을 걸었다. ‘밀레니엄 문제’(Millennium Problems)라 불리는 이 7대 수학난제는 △P대 NP문제(P vs NP Problem) △리만 가설(Riemann Hypothesis) △양-밀스 이론과 질량 간극 가설(Yang-Mills and Mass Gap) △내비어-스톡스 방정식(Navier-Stokes Equation) △푸앵카레 추측(Poincare Conjecture) △버치와 스위너톤-다이어 추측(Birch and Swinnerton-Dyer Conjecture) △호지 추측(Hodge Conjecture) 등이다. 이들 문제에 대해 누군가 해법을 제시하면 2년간 검증과정을 거치고 그동안 결함이 발견되지 않으면 상금을 받게 된다.

20세기 7가지 수학 난제 가운데 현재까지는 ‘은둔 수학자’로 불리는 러시아 수학자 그레고리 페렐만(Perelman)이 2002년 새천년 문제의 하나인 ‘푸엥카레의 가설’(Poincare Conjecture)을 증명해 세계적 주목을 받았다. 조용민 교수의 이 양자 색역학의 질량생성 문제 해결도 2년간 학계의 공식적 검증을 거친 후 이에 못지않은 업적으로 평가될 것으로 예상된다.

또한 조 교수는 1931년 디락(Dirac)이 전자기 이론에서 예언한 자기홀극을 전기약력 이론으로 확장시켜 이른바 ‘조 마이슨(Cho-Maison) 자기홀극’의 존재를 예측한 바 있는데, 이 자기홀극이 최근 세계 최대 입자가속기를 운영하는 유럽 핵 연구소(CERN)에서 일곱 번째 검출기(The Magnificient Seventh) MoEDAL로 발견하려고 노력하고 있는 자기홀극이다. 이 홀극이 중요한 이유는 이것이 표준모형에서 존재하는 유일한 자기홀극으로서, 현실적으로 존재할 수 있는 단 하나의 자기홀극이자 최초의 위상학적 소립자라는 점이다.

세계 최대 입자가속기를 통해 한국 사람의 이름이 붙여진 새로운 우주 입자를 찾는 것은 처음 있는 일이며 이 홀극이 발견될 경우 이는 물리학 역사상 최초의 위상학적 소립자의 발견으로 기록될 것이다.

조 교수는 이 자기홀극 이외에도 1975년 중력과 게이지이론을 하나의 고차원 중력이론으로 통일하는 고차원 통일장 이론의 기하학적 구조를 최초로 밝힘으로 자연계에 존재하는 4개의 힘을 통일하는 통일장 이론의 초석을 다진바 있으며, 이를 이용해 자연계에는 우리가 모르는 이른바 ‘제 5의 힘’(the fifth force)이 반드시 존재한다는 예측을 한 바 있다.

조 교수는 서울대 물리학과를 졸업하고 미국 시카고 대학에서 물리학 박사학위를 받은 뒤 미국 페르미연구소, 독일 막스플랑크연구소, 유럽 핵 연구소 등을 거쳐 1982년부터 2009년까지 28년간 서울대 천체물리학부 교수로 재직했으며 작년 9월부터 건국대 석학교수로 재직 중이다.

오경희 기자
<저작권자 ⓒ 영등포시대, 무단전재 및 재배포 금지>