앤드루 와일스는 어떻게 358년 묵은 '페르마의 저주'를 풀었나?

 

페르마의 마지막 정리: 350년의 수학 난제를 푼 한 남자의 위대한 여정! "나는 경이로운 증명을 발견했으나, 여백이 부족하여 적지 못한다." 이 한 문장으로 시작된 인류 역사상 가장 유명한 수학 미스터리의 전말을 파헤쳐 봅니다.

 

안녕하세요! '이과생의 책갈피'입니다. 🧪 오늘은 수학 역사상 가장 유명하고, 가장 오랜 시간 풀리지 않았던 '끝판왕' 문제! 바로 **'페르마의 마지막 정리(Fermat's Last Theorem)'** 이야기를 가져왔습니다.

17세기 프랑스의 아마추어 수학자 **피에르 드 페르마(Pierre de Fermat)**. 그는 고대 그리스 수학자 디오판토스의 책 <아리스메티카(Arithmetica)>의 여백에 수많은 메모를 남겼는데요, 그중 하나가 바로 이 전설의 시작이었습니다. 문제는 믿을 수 없을 만큼 간단해 보였지만, 그 증명은 무려 358년 동안이나 인류의 지성을 시험대에 오르게 했죠. 이 위대한 미스터리와 그것을 푼 한 수학자의 감동적인 여정, 지금 바로 시작합니다! 😊

 

1. 전설의 시작: 그 유명한 '여백'의 메모 🤔

모든 것은 페르마가 남긴 이 한 문장에서 시작되었습니다. 그는 디오판토스의 책 2권 8번 문제, '제곱수를 두 개의 제곱수로 나누는 문제' (즉, $z^2 = x^2 + y^2$) 옆에 이런 글을 라틴어로 남겼습니다.

"어떤 세제곱수를 두 개의 세제곱수의 합으로, 혹은 어떤 네제곱수를 두 개의 네제곱수의 합으로, 또는 일반적으로 2보다 큰 거듭제곱수를 같은 거듭제곱을 가진 두 수의 합으로 나누는 것은 불가능하다. **나는 이에 대한 참으로 경이로운 증명을 발견했으나, 이 여백이 부족하여 그것을 적지 못한다.**"

이것을 현대 수학의 언어로 바꾸면 다음과 같습니다.

📝 페르마의 마지막 정리 (Fermat's Last Theorem)

$x^n + y^n = z^n$

$n$이 3 이상의 정수일 때, 이 방정식을 만족하는 0이 아닌 정수해($x$, $y$, $z$)는 존재하지 않는다.

$n=2$일 때는 어떨까요? $x^2 + y^2 = z^2$. 네, 바로 **피타고라스의 정리**입니다! 우리는 $3^2 + 4^2 = 5^2$ (9+16=25), $5^2 + 12^2 = 13^2$ (25+144=169) 처럼 무수히 많은 정수해를 찾을 수 있죠. 하지만 페르마는 $n$이 3이 되는 순간, 즉 $x^3 + y^3 = z^3$ 부터는 절대로 정수해를 찾을 수 없다고 선언한 것입니다.

💡 알아두세요! '마지막' 정리?
'마지막(Last)'이라는 이름이 붙은 이유는 페르마가 여백에 남긴 수많은 정리들 중 **가장 마지막까지 증명되지 않았기 때문**입니다. 다른 정리들은 페르마 사후 오일러를 비롯한 후대 수학자들이 모두 증명해냈지만, 유독 이 문제만큼은 수백 년간 미해결 난제로 남았습니다.

 

2. 350년간의 처절한 도전 📊

"증명을 발견했지만 여백이 없다"는 페르마의 도발적인(?) 한마디는 후대 수학자들의 승부욕을 불태웠습니다. '아마추어의 왕자'라 불렸던 페르마는 본업은 법률가였지만, 당대 최고의 수학자들과 어깨를 나란히 할 정도의 천재였기에 아무도 그의 말을 무시할 수 없었죠.

수학의 거인들이 이 문제에 도전했습니다. 페르마 자신이 $n=4$인 경우의 증명을 다른 곳에 남겨두었죠. (그는 이 증명에 '무한 하강법'이라는 독창적인 방법을 사용했습니다.)

위대한 레온하르트 오일러(Leonhard Euler)가 1770년 $n=3$일 때를 증명했고, 소피 제르맹(Sophie Germain)은 특정 조건의 $n$에 대해 증명하며 큰 진전을 이루었습니다. 이후 르장드르, 디리클레, 라메, 쿠머 등이 각각 $n=5$, $n=7$, $n=14$ 등 특정 지수에 대한 증명을 힘겹게 성공시켰습니다.

주요 도전자들과 그들의 성과

수학자	시기	주요 성과 ($n$의 경우)
피에르 드 페르마	1640년경	$n=4$ (무한 하강법 사용)
레온하르트 오일러	1770년	$n=3$ (복소수를 활용, 증명에 약간의 흠 존재)
소피 제르맹	1823년경	'소피 제르맹 소수'에 대한 일반적인 접근
디리클레 & 르장드르	1825년	$n=5$
에른스트 쿠머	1847년	'이상 소수' 이론으로 많은 $n$ 값을 증명 (100 이하)

⚠ 치명적인 함정!
1847년, 가브리엘 라메(Gabriel Lamé)는 자신이 페르마의 마지막 정리를 증명했다고 발표했습니다. 그는 복소수를 이용해 $x^n$을 인수분해하는 아이디어를 냈지만, 에른스트 쿠머는 이 방법이 '소인수분해의 유일성'이 보장되지 않는 수 체계에서는 작동하지 않음을 지적했습니다. 이 '틈'은 쿠머가 '아이디얼(Ideal)'이라는 새로운 개념을 도입하게 만들었지만, 완전한 증명에는 이르지 못했습니다.

 

3. 뜻밖의 연결고리: 타원곡선과 모듈러 🧮

20세기에 들어서도 문제는 풀리지 않았고, 컴퓨터로 $n$ 값을 수백만까지 확인했지만 '증명'은 아니었습니다. 사람들은 페르마의 마지막 정리가 고전적인 정수론의 방식으로는 풀 수 없는, 훨씬 더 깊은 무언가와 연결되어 있을 거라 생각하기 시작했습니다.

그리고 1950년대, 일본의 두 젊은 수학자 **타니야마 유타카(Yutaka Taniyama)**와 **시무라 고로(Goro Shimura)**가 전혀 다른 분야의 두 개념을 연결하는 대담한 추측을 제기합니다.

🔢 핵심 개념: 타니야마-시무라 추측

이해하기엔 매우 어렵지만, 개념적으로만 접근해 볼게요! 😅

1. 타원 곡선 (Elliptic Curve):

$y^2 = x^3 + ax + b$ 형태의 방정식. (페르마의 방정식과는 달라 보이죠?) 이 곡선 위의 점들은 특별한 '덧셈' 연산이 가능해서 현대 암호학에서도 쓰이는 아주 중요한 대상입니다.

2. 모듈러 형식 (Modular Form):

극도로 높은 수준의 '대칭성'을 가진 복소평면 위의 함수. 물리학의 '초끈 이론'에도 등장하는 매우 난해하지만 강력한 도구입니다.

"모든 타원 곡선은 사실 모듈러 형식으로 '변신'할 수 있다."

이것이 바로 **'타니야마-시무라 추측'** (현재는 모듈러성 정리)입니다. 당시엔 너무나 대담해서 증명은커녕 받아들여지기도 힘든 추측이었죠.

1984년, 독일의 수학자 게르하르트 프라이(Gerhard Frey)가 충격적인 연결고리를 제시합니다. 만약 페르마의 마지막 정리가 '틀렸다'고 가정하고, 그 가상의 해($a^n + b^n = c^n$)를 이용해 $y^2 = x(x - a^n)(x + b^n)$ 라는 특별한 타원 곡선(프라이 곡선)을 만들면... **이 곡선은 절대로 모듈러 형식으로 변신할 수 없다**는 것을 보인 것입니다!

즉, 이런 논리였습니다.

증명의 로드맵 (프라이 & 리벳)

1) **만약** 페르마의 마지막 정리가 틀렸다면 (즉, $a^n + b^n = c^n$ 인 해가 존재한다면)

2) 이 해로 '프라이 곡선'이라는 **이상한 타원 곡선**을 만들 수 있다.

3) (켄 리벳이 증명) 이 '프라이 곡선'은 너무 이상해서 **절대로 모듈러 형식이 될 수 없다.**

→ **결론:** 만약 **"모든" 타원 곡선이 모듈러 형식이 된다는 '타니야마-시무라 추측'이 참**이라면, 저런 '이상한 타원 곡선'은 존재할 수 없고, 따라서 페르마의 해($a^n + b^n = c^n$)도 존재할 수 없다!

순식간에 350년 묵은 정수론 문제가 최첨단 수학의 '타니야마-시무라 추측'을 증명하는 문제로 바뀌어버린 것입니다!

 

4. 7년간의 비밀 연구: 앤드루 와일스 👩‍💼👨‍💻

1986년, 이 소식을 들은 프린스턴 대학의 수학자 **앤드루 와일스(Andrew Wiles)**는 어린 시절 도서관에서 페르마의 마지막 정리를 처음 만났던 순간을 떠올립니다. 10살 때부터 이 문제를 풀겠다고 다짐했던 그는, 이제 그 꿈을 이룰 수 있는 '열쇠'가 생겼음을 직감했습니다.

와일스는 그날부터 자신의 모든 연구를 중단하고, 동료들에게도 알리지 않은 채 **무려 7년간 다락방에서** 오직 '타니야마-시무라 추측'을 증명하는 데에만 매달립니다. (정확히는 이 추측의 일부, 즉 '준안정 타원 곡선'에 대한 증명만으로도 페르마의 정리를 증명하기에 충분했습니다.)

1993년 6월, 케임브리지 대학에서 열린 학회. 와일스는 사흘에 걸친 강연의 마지막 날, 마지막 칠판에 페르마의 마지막 정리를 증명했음을 선언합니다. 강연장은 감동과 충격에 휩싸였고, 이 소식은 전 세계 헤드라인을 장식했습니다. 350년 묵은 난제가 드디어 풀린 것입니다!

...하지만 기쁨은 잠시였습니다.

📌 절망과 부활: 증명의 '틈(Gap)'
논문 심사 과정에서 치명적인 논리적 '틈(Gap)'이 발견되었습니다. 와일스는 이 틈을 메우기 위해 다시 1년 넘게 절망적인 사투를 벌였고, 포기 직전이던 1994년 9월, 자신의 옛 제자였던 **리처드 테일러(Richard Taylor)**와 함께 극적으로 틈을 메우는 데 성공합니다! 1995년, 마침내 그의 증명은 완벽하게 출판되었고, 358년간의 위대한 여정은 막을 내렸습니다.

 

5. 실전 예시: 페르마 자신의 증명 ($n=4$) 📚

페르마가 정말 '경이로운 증명'을 가졌을까요? 우리는 그가 $n=4$의 경우($x^4 + y^4 = z^4$)를 증명하며 사용한 **'무한 하강법(Infinite Descent)'**을 통해 그의 천재성을 엿볼 수 있습니다.

사례 연구: 무한 하강법이란?

이것은 일종의 귀류법(Reductio ad absurdum)입니다.

증명 과정 (개념적)

1) 가정: $x^4 + y^4 = z^4$ 를 만족하는 정수해 $(x, y, z)$가 **존재한다**고 가정합니다. (조금 더 다루기 쉬운 $x^4 + y^4 = z^2$ 형태를 사용합니다.)

2) 축소: 이 해 $(x, y, z)$가 존재한다면, 이보다 **더 작은** 정수해 $(x_1, y_1, z_1)$도 반드시 존재한다는 것을 수학적으로 보입니다.

3) 반복: 그렇다면 $(x_1, y_1, z_1)$이 존재하므로, 그보다 **더더 작은** 해 $(x_2, y_2, z_2)$도 존재해야 합니다. 이 과정은 무한히 반복됩니다.

최종 결과 (모순)

- 하지만 정수(특히 자연수)는 0보다 크면서 무한히 작아질 수 없습니다. 언젠가는 1보다 작은 자연수에 도달해야 하는데, 이는 불가능하죠.

- **결론:** 이 모순은 최초의 가정, 즉 '해가 존재한다'는 가정이 틀렸음을 의미합니다. 따라서 $n=4$일 때 해는 존재하지 않습니다.

페르마가 $n=3$이나 다른 $n$에 대해서도 이 방법을 쓰려고 했는지는 알 수 없습니다. 하지만 그가 사용한 17세기의 수학만으로는 $n=3$ 이상을 증명하는 것이 불가능했다는 것이 현대 수학계의 정설입니다. 아마도 페르마의 '경이로운 증명'에는 스스로 발견하지 못한 오류가 있었을 것입니다.

 

마무리: 핵심 내용 요약 📝

페르마의 마지막 정리는 한 아마추어 수학자가 던진 간단한 질문이 어떻게 수백 년간 인류의 지성을 자극하고, 전혀 다른 수학 분야들을 융합시키며 결국엔 새로운 수학의 지평을 열었는지를 보여주는 위대한 서사시입니다.

앤드루 와일스가 7년간의 고독한 연구 끝에 증명에 성공하고 눈물을 흘렸던 순간은, 단순히 오래된 문제를 풀었다는 것을 넘어 인간 지성의 위대한 승리를 상징하는 장면으로 남아있습니다.

'여백이 부족하다'는 페르마의 메모는 어쩌면 350년이라는 인류의 거대한 '여백'을 필요로 했던 것 아닐까요? 이 긴 이야기에 대해 여러분은 어떻게 생각하시나요? 궁금한 점은 댓글로 남겨주세요! 😊

💡

페르마의 마지막 정리: 요약

✨ 문제의 제기: 17세기 수학자 피에르 드 페르마가 $n > 2$일 때 $x^n + y^n = z^n$ 을 만족하는 0이 아닌 정수해는 없다고 주장. ("경이로운 증명을 발견했으나 여백이 부족하다.")

📊 350년의 도전: 오일러($n=3$), 소피 제르맹, 쿠머($n=100$ 이하 다수) 등 수많은 수학자들이 도전했으나 특정 $n$값에 대해서만 부분적으로 증명했습니다.

🧮 결정적 연결고리:

타니야마-시무라 추측 (모든 타원 곡선 ↔ 모듈러 형식)이 증명의 열쇠가 됨. (프라이 & 리벳)

👩‍💻 최종 증명 (앤드루 와일스): 앤드루 와일스가 7년간의 비밀 연구 끝에 '타니야마-시무라 추측'의 핵심 부분을 증명함으로써 1995년, 358년 묵은 난제를 마침내 해결했습니다.

한 줄의 메모가 현대 수학의 가장 깊은 부분들을 연결한 사건입니다.

자주 묻는 질문 ❓

Q: 페르마의 마지막 정리가 정확히 무엇인가요?

A: $n$이 3 이상의 정수일 때, $x^n + y^n = z^n$ 방정식을 만족시키는 0이 아닌 정수 $x, y, z$가 존재하지 않는다는 정리입니다. $n=2$일 때($x^2 + y^2 = z^2$)는 피타고라스의 정리로 해가 무수히 많지만, $n=3$부터는 해가 없다는 뜻입니다.

Q: 페르마는 정말 '경이로운 증명'을 발견했을까요?

A: 현대 수학자들은 '아니'라고 생각합니다. 페르마가 $n=4$에 대해 '무한 하강법'이라는 훌륭한 증명을 남겼지만, 이 방법은 $n=3$이나 다른 소수 $n$에 대해 일반화되기 어렵습니다. 아마도 페르마의 증명에는 스스로 발견하지 못한 오류가 있었을 것으로 추측됩니다.

Q: 왜 350년이나 걸렸나요? 문제가 그렇게 어려운가요?

A: 네, 문제는 간단해 보이지만 그 증명은 매우 깊은 수준의 수학을 필요로 했습니다. 초기 정수론의 방법으로는 $n$ 값을 하나씩 증명할 뿐, '모든' $n$에 대해 증명할 수 없었습니다. 앤드루 와일스의 증명은 1950년대에 제기된 '타니야마-시무라 추측'을 바탕으로 하며, 타원 곡선, 모듈러 형식 등 20세기 후반에 발전한 최첨단 수학 이론들을 총동원해야 했습니다.

Q: 앤드루 와일스는 어떻게 이 문제를 풀었나요?

A: 와일스는 '타니야마-시무라 추측' (모든 타원 곡선은 모듈러 형식이다)이 참이면 페르마의 마지막 정리도 참이 된다는 연결고리(프라이, 리벳의 작업)에 착안했습니다. 그는 7년간 비밀리에 이 추측의 핵심 부분을 증명하는 데 성공했고, 1년간의 '틈(Gap)'을 수정한 끝에 1995년 최종 증명을 완성했습니다.

Q: 이 증명이 우리 실생활에 어떤 도움이 되나요?

A: 페르마의 정리 자체가 직접적으로 실생활에 쓰이지는 않습니다. 하지만 이 문제를 풀기 위해 350년간 발전시킨 수학적 도구들, 특히 '타원 곡선' 이론은 현대 인터넷 보안과 암호 시스템(ECC)의 핵심 기반 기술이 되었습니다. 순수한 지적 호기심이 인류에게 거대한 기술적 선물을 안겨준 셈입니다.