어학

🤔 Riemann Zeta The Prime Secret

EyesWideShut 2026. 1. 12. 11:15

 

 

🤔 제타함수가 우리에게 알려주는 현실에 관한 5가지 놀라운 진실

유튜브에서 "1+2+3+... = -1/12"라는 기묘한 등식을 보신 적이 있나요? 모든 양수를 더했는데 어떻게 음수가, 그것도 분수가 나올 수 있을까요? 이 유명한 역설은 많은 이들의 호기심을 자극했지만, 이것이 완전한 진실이라고 말하는 것은 수학에 대한 깊은 오해에서 비롯됩니다. 이 등식은 사실이 아니지만, '리만 제타 함수'라는 놀라운 개념을 통해 우리가 수의 세계에 대해 얼마나 모르고 있는지를 보여주는 빙산의 일각입니다.

이 글은 제타 함수라는 렌즈를 통해 수 체계의 근본적인 구조에 대한 5가지 놀라운 통찰을 발견하는 여정이 될 것입니다. 준비되셨나요? 수의 세계 깊은 곳에 숨겨진 비밀을 함께 파헤쳐 봅시다.

 

1. "1+2+3... = -1/12"? 사실은 조금 다릅니다.

가장 먼저 명확히 해야 할 사실이 있습니다. 1+2+3+...처럼 모든 자연수를 더하면 그 합은 당연히 무한대로 커집니다. 수학에서는 이를 '발산(diverge)한다'고 표현하며, 이는 우리의 직관과 완벽하게 일치하는 명백한 수학적 사실입니다. 이 합이 -1/12이라는 주장은 결코 사실이 아닙니다.

그렇다면 -1/12라는 값은 대체 어디서 나왔을까요? 바로 제타 함수 ζ(s) 에서 비롯됩니다. 이 함수는 원래 1/1^s + 1/2^s + 1/3^s + ... 와 같은 무한급수로 정의됩니다. 이 급수는 s의 실수 부분이 1보다 클 때만 의미 있는 값으로 수렴(converge)합니다. s가 1이거나 그보다 작으면 이 급수 표현은 무의미해집니다.

여기서 핵심은 '함수'와 '함수의 표현'은 다르다는 심오한 아이디어입니다. 하나의 진실(함수)이 여러 얼굴(표현)을 가질 수 있는 것과 같습니다. 예를 들어, 사인 함수(sin x)를 생각해 봅시다. 사인 함수는 다음과 같은 여러 얼굴을 가집니다.

  • 기하학적 얼굴: 단위원 위의 점의 높이로, 기하학적 본질을 보여줍니다.
  • 복소해석학적 얼굴: 오일러 공식을 통해 복소지수함수로, 복소평면에서의 움직임을 드러냅니다.
  • 다항식의 얼굴: 테일러 급수를 통해 무한한 다항식으로, 어떤 점에서든 값을 근사할 수 있게 해줍니다.
  • 근(zero)의 얼굴: 무한곱을 통해 함수가 0이 되는 모든 지점을 기반으로, 함수의 구조적 뼈대를 보여줍니다.

이들은 모두 똑같은 사인 함수를 다른 관점에서 바라본 것뿐입니다. 제타 함수도 마찬가지입니다. 원래의 급수 표현이 유효하지 않은 영역으로 함수를 확장하는 방법이 존재하는데, 이를 '해석적 확장(analytic continuation)' 이라고 부릅니다. 이는 마치 상세한 지도의 한 부분을 가지고, 지도의 나머지 부분을 모든 길과 지형이 매끄럽게 연결되도록 논리적으로 그려나가는 것과 같습니다. 함수의 근본적인 속성을 보존하면서 그 정의를 새로운 영역으로 조심스럽게 확장하는 엄밀한 수학적 과정입니다.

이 확장된 리만 제타 함수에 s=-1이라는 값을 대입하면, 그 결과가 바로 -1/12가 되는 것입니다. 따라서 "1+2+3...의 합이 -1/12이다"라고 말하는 것은 이 과정을 심각하게 오해한 것입니다. 정확한 표현은 "해석적으로 확장된 제타 함수의 s=-1에서의 값이 -1/12이다"입니다. ζ(-1)은 -1/12이지만, ζ(-1)은 1+2+3...이 결코 아닙니다.

함수와 그 표현은 같지 않습니다. 하나의 함수와 하나의 표현을 가질 수 있지만, 그 표현이 모든 값에 대해 유효하지 않을 수 있습니다.

2. 모든 수의 무한합은 오직 소수만의 무한곱입니다.

제타 함수의 가장 놀랍고 심오한 특징은 모든 자연수와 모든 소수를 연결하는 다리가 된다는 점입니다. 이는 단순한 공식이 아니라, 계시와도 같습니다. 덧셈의 세계(모든 자연수의 합)와 곱셈의 세계(수의 근본 재료인 소수)가 사실은 동전의 양면이며, 제타 함수가 그 둘을 잇는 경계임을 보여주기 때문입니다. 이 연결고리가 바로 오일러 곱 공식(Euler product representation) 입니다.

이 경이로운 아이디어는 '에라토스테네스의 체'와 비슷한 방식으로 직관적으로 이해할 수 있습니다.

  1. 모든 자연수의 역멱급수 합인 ζ(s) = 1/1^s + 1/2^s + 1/3^s + 1/4^s + ... 에서 시작합시다.
  2. 이제, 이 거대한 합에서 2의 배수에 해당하는 모든 항(1/2^s, 1/4^s, 1/6^s, ...)을 걸러내 봅시다. 마치 디지털 체로 거르듯이, 원래 제타 함수에 (1 - 1/2^s)를 곱하면 모든 짝수 항이 마법처럼 사라지고 홀수 항만 남게 됩니다.
  3. 남은 항들(1/1^s + 1/3^s + 1/5^s + ...)에서 이번에는 3의 배수 항들을 제거할 차례입니다. 여기에 (1 - 1/3^s)를 곱하면 됩니다.
  4. 이 과정을 다음 소수인 5, 7, 11, ... 에 대해 무한히 반복하면 어떻게 될까요? 체질을 거듭할수록 우리의 합은 점점 더 순수해지다가, 마침내 모든 합성수(composite numbers)가 걸러지고 어떤 소수의 배수도 아닌 유일한 수, 모든 수의 불가분한 조상인 1만이 남게 됩니다.

이 과정을 수식으로 정리하면 다음과 같은 놀라운 결과를 얻게 됩니다.

ζ(s) * (1 - 1/2^s) * (1 - 1/3^s) * (1 - 1/5^s) * ... = 1

이 식을 제타 함수에 대해 정리하면, 바로 그 유명한 오일러 곱 공식이 완성됩니다.

ζ(s) = (1 - 1/2^s)⁻¹ * (1 - 1/3^s)⁻¹ * (1 - 1/5^s)⁻¹ * ...

이는 덧셈으로 구성된 자연수의 세계와 곱셈의 기본 단위인 소수의 세계가 제타 함수를 통해 깊고 본질적으로 연결되어 있음을 보여주는 경이로운 증거입니다.

3. 우주에서 가장 유명한 미해결 문제는 '거울' 속에 숨어 있습니다.

제타 함수는 '리만 함수 방정식(Riemann functional equation)'이라고 불리는 놀라운 대칭성을 가지고 있습니다. 이 방정식은 제타 함수 값 ζ(s)와 ζ(1-s) 사이에 깊은 관계가 있음을 보여줍니다.

이 대칭성은 복소평면에서 실수부가 1/2인 수직선, 즉 임계선(critical line) 을 중심으로 한 '거울'과 같습니다. 어떤 점 s에서의 함수 값은 임계선이라는 거울에 비친 반대편 점 1-s에서의 값과 불가분하게 연결되어 있습니다. 이는 단순한 시각적 패턴이 아니라, 함수의 행동을 지배하는 깊은 구조적 속성입니다.

리만은 이 대칭성을 더욱 선명하게 드러내기 위해 제타 함수를 약간 변형한 크사이 함수(Xi function, ξ(s)) 라는 새로운 함수를 도입했습니다. 이는 마치 리만이 흐릿한 거울을 완벽하게 닦아내어 그 대칭성을 ξ(s) = ξ(1-s)라는 완벽한 형태로 만든 것과 같습니다.

그리고 바로 이 대칭성의 심장부에 현대 수학에서 가장 중요하고 유명한 미해결 문제, 리만 가설(Riemann Hypothesis) 이 숨어 있습니다. 이 가설을 이해하려면 먼저 제타 함수의 '영점(zero)', 즉 함수 값을 0으로 만드는 점들을 알아야 합니다. 이 영점들은 두 종류로 나뉩니다.

  • 자명한 영점(Trivial zeros): 음의 짝수(-2, -4, -6, ...)들입니다. 이들은 그 위치가 명확하고 예측 가능해서, 수학자들에게는 상대적으로 '지루한' 영점으로 여겨집니다.
  • 비자명적 영점(Non-trivial zeros): 바로 이들이 진짜 미스터리입니다. 그 위치가 소수의 분포와 직접적으로 연결되어 있어 수학계의 성배와도 같습니다.

리만 가설은, 제타 함수를 0으로 만드는 이 모든 신비롭고 의미 있는 점들(비자명적 영점)이 바로 저 대칭의 중심선인 임계선 위에 전부 존재할 것이라는 대담한 추측입니다. 이 가설이 만약 사실이라면, 소수라는 불규칙해 보이는 수들의 분포에 대한 매우 깊은 질서를 밝혀낼 수 있기 때문에, 160년이 넘는 시간 동안 수많은 수학자가 이 문제에 인생을 바쳐 도전하고 있습니다.

4. 파이(π)와 무한한 제곱수들 사이의 비밀스러운 연결

17세기, 당대 최고의 수학자들은 '바젤 문제(Basel problem)'라는 흥미로운 질문에 골몰했습니다. 모든 자연수의 제곱의 역수를 무한히 더하면 그 값은 얼마일까요?

1/1² + 1/2² + 1/3² + 1/4² + ... = ?

이는 제타 함수에서 s=2인 경우, 즉 ζ(2)의 값을 묻는 것과 같습니다. 수십 년간 누구도 답을 찾지 못했습니다. 그런데 1734년, 젊은 수학자 레온하르트 오일러가 이 문제의 답이 놀랍게도 π²/6 임을 증명해냈습니다.

이 결과는 당시 수학계에 엄청난 충격을 주었습니다. 어떻게 그럴 수 있을까요? 정수들의 단순한 덧셈으로 이루어진 문제의 답에, 기하학적인 원의 설계도에서나 나올 법한 원주율 파이(π)가 나타난 것입니다. 이는 마치 완벽한 원의 청사진이 가장 기본적인 숫자들의 DNA 속에 비밀리에 암호화되어 있었음을 발견한 것과 같았습니다. 이 예상치 못한 연결은 수학자들로 하여금 수론과 기하학의 경계를 다시 생각하게 만들었습니다.

오일러의 증명 아이디어는 실로 독창적이었습니다. 그는 사인 함수(sin x)를 두 가지 다른 방식으로 표현했습니다. 하나는 '테일러 급수'(무한 다항식)였고, 다른 하나는 사인의 값이 0이 되는 지점들(근)을 이용한 '무한곱' 표현이었습니다. 이 두 표현은 결국 같은 함수를 나타내므로, 양쪽의 x² 항의 계수는 서로 같아야만 합니다. 오일러는 바로 이 계수들을 비교함으로써 ζ(2) = π²/6이라는, 서로 다른 수학의 세계를 잇는 놀라운 다리를 놓았습니다.

5. "간단한" 합 하나가 소수는 영원히 계속됨을 증명합니다.

소수가 무한히 많다는 사실은 고대 그리스의 유클리드에 의해 처음 증명되었습니다. 하지만 오일러는 제타 함수를 이용해 이 고전적인 정리에 대해 숨 막힐 정도로 우아하고 강력한 증명을 제시했습니다.

  1. 먼저, s=1일 때 제타 함수 값 ζ(1)을 생각해 봅시다. 이는 1 + 1/2 + 1/3 + 1/4 + ... 와 같은 형태가 되는데, 이를 조화급수(harmonic series) 라고 부릅니다. 이 값은 무한대로 발산한다는 사실이 잘 알려져 있습니다. 즉, ζ(1) = ∞ 입니다.
  2. 이제 2번 항목에서 다루었던 오일러 곱 공식을 다시 떠올려 봅시다. ζ(s) = (1 - 1/2^s)⁻¹ * (1 - 1/3^s)⁻¹ * (1 - 1/5^s)⁻¹ * ...
  3. 여기서 논리적 비약을 위해 **"소수가 유한한 개수만 존재한다"**고 대담하게 가정해 봅시다. 만약 그렇다면, s=1일 때 오일러 곱 공식의 우변은 유한한 개수의 소수들에 대한 곱셈이 됩니다. 각 항은 유한한 값이므로, 이들을 모두 곱한 결과 역시 어떤 유한한 값이 되어야 합니다.
  4. 이제 우리는 "무한대 = 유한한 값"이라는 명백한 모순에 도달하게 됩니다. 이 모순은 어디서 비롯되었을까요? 바로 우리의 최초 가정, 즉 "소수는 유한하다"는 가정이 틀렸기 때문입니다. 따라서, 소수는 반드시 무한히 많아야만 합니다. 이 얼마나 아름다운 논증입니까!

 

결론

지금까지 우리는 제타 함수를 통해 수의 세계에 대한 5가지 놀라운 사실을 엿보았습니다. 1+2+3...의 역설 뒤에 숨겨진 진실, 모든 수와 소수의 깊은 연결, 리만 가설의 대칭성, 정수와 원주율의 기묘한 만남, 그리고 소수의 무한성에 대한 우아한 증명까지.

제타 함수는 단순한 수학적 호기심을 넘어, 수의 세계를 해독하는 '로제타석'과도 같습니다. 이를 통해 우리는 덧셈, 곱셈, 소수, 그리고 원의 기하학까지 연결하는 숨겨진 시를 읽어낼 수 있습니다. 그렇다면, 우리가 아직 발견하지 못한 수들의 세계에는 또 어떤 놀라운 비밀이 숨겨져 있을까요?

리만 제타 함수 심층 분석 

1. 서론: 오일러의 발견에서 리만의 가설까지

18세기 수학의 거장 레온하르트 오일러는 자연수의 거듭제곱 역수들을 모두 더하는 단순해 보이는 무한급수, ζ(s) = 1/1^s + 1/2^s + 1/3^s + ... 를 연구하기 시작했습니다. 처음에는 실수 s에 대해서만 탐구되었던 이 함수는 훗날 '제타 함수'라는 이름으로 정수론의 가장 심오한 비밀을 푸는 열쇠가 됩니다. 오일러는 이 함수가 모든 소수(prime number)들과의 곱으로 표현될 수 있음을 발견하며, 정수의 합과 소수의 분포라는 두 세계를 잇는 다리를 놓았습니다.

이 보고서에서 다룰 제타 함수는 본래 s의 실수부가 1보다 클 때(Re(s) > 1)만 수렴하는 명확한 한계를 가집니다. 그러나 이 제한된 정의 너머에는 복소 평면 전체를 아우르는 광대한 수학적 구조가 숨어있습니다. 이 함수에 대한 연구는 베른하르트 리만에 이르러 절정에 달했으며, 그는 제타 함수의 특정 값들, 즉 '영점(zero)'의 위치가 소수의 분포와 직결된다는 혁명적인 통찰을 제시했습니다.

본 보고서는 오일러가 정의한 급수에서 출발하여, 제타 함수를 이해하는 데 필수적인 다양한 표현법을 심층적으로 분석하고, 이를 통해 현대 수학 최대의 난제인 '리만 가설'에 이르기까지의 지적 여정을 탐구하고자 합니다. 제타 함수의 다채로운 얼굴을 통해 우리는 이 함수가 단순한 급수를 넘어, 수의 세계를 지배하는 근본적인 원리를 어떻게 담고 있는지 확인하게 될 것입니다. 이제 제타 함수의 본질을 파헤치기 위해, 그 첫 번째 핵심 표현법부터 살펴보도록 하겠습니다.

 

2. 제타 함수의 핵심 표현법과 항등식

리만 제타 함수를 깊이 있게 이해하는 것은 단 하나의 정의에 머무르는 것이 아니라, 서로 동등한 여러 표현법과 다른 핵심적인 수학 함수들과의 관계를 파악하는 과정입니다. 각각의 표현법은 제타 함수의 다른 측면을 조명하며, 특정 문제를 해결하는 데 강력한 도구가 됩니다.

본 섹션에서는 제타 함수를 이해하는 데 가장 중요한 세 가지 핵심 표현과 항등식을 분석합니다. 첫째, 정수의 합을 소수의 곱으로 변환하는 오일러 곱 표현을 통해 정수론의 기본 정리와의 연관성을 살펴볼 것입니다. 둘째, 감마 함수와의 관계를 나타내는 적분 항등식을 통해 해석학적 연결고리를 탐구합니다. 마지막으로, 복소 평면 전체로 함수의 정의를 확장하는 리만 함수 방정식을 통해 제타 함수에 내재된 놀라운 대칭성을 확인할 것입니다. 이 세 가지 관점을 통해 우리는 제타 함수의 다층적인 특성을 입체적으로 이해할 수 있습니다.

2.1. 오일러 곱 표현: 정수와 소수의 연결

제타 함수가 정수론에서 핵심적인 역할을 하는 이유는 모든 자연수의 합으로 정의된 함수가 소수만의 곱으로 표현될 수 있다는 사실에 있습니다. 이 관계를 나타내는 것이 바로 **오일러 곱 표현(Euler Product Representation)**입니다.

ζ(s) = Σ[n=1 to ∞] n⁻ˢ = Π_p (1 - p⁻ˢ)⁻¹

이 항등식은 '산술의 기본 정리', 즉 모든 자연수는 소수들의 곱으로 유일하게 표현될 수 있다는 원리가 제타 함수에 그대로 반영된 결과입니다. 좌변은 모든 자연수에 대한 합이며, 우변은 모든 소수에 대한 곱으로, 정수의 세계와 소수의 세계를 잇는 근본적인 다리 역할을 합니다.

이 항등식은 다음과 같은 직관적인 '체(sieve)'와 유사한 방식으로 증명될 수 있습니다.

  1. 시작: 제타 함수의 정의에서 시작합니다. ζ(s) = 1 + 2⁻ˢ + 3⁻ˢ + 4⁻ˢ + 5⁻ˢ + ...
  2. 짝수 항 제거: 위 식의 양변에 2⁻ˢ를 곱합니다. (2⁻ˢ)ζ(s) = 2⁻ˢ + 4⁻ˢ + 6⁻ˢ + 8⁻ˢ + ... 이제 첫 번째 식에서 두 번째 식을 빼면, 모든 짝수(2의 배수) 항들이 소거됩니다. (1 - 2⁻ˢ)ζ(s) = 1 + 3⁻ˢ + 5⁻ˢ + 7⁻ˢ + ...
  3. 3의 배수 항 제거: 남은 식의 양변에 3⁻ˢ를 곱합니다. (3⁻ˢ)(1 - 2⁻ˢ)ζ(s) = 3⁻ˢ + 9⁻ˢ + 15⁻ˢ + ... 이전 단계의 결과에서 위 식을 빼면, 2의 배수가 아니었던 항들 중에서 3의 배수인 항들이 모두 제거됩니다. (1 - 3⁻ˢ)(1 - 2⁻ˢ)ζ(s) = 1 + 5⁻ˢ + 7⁻ˢ + 11⁻ˢ + ...
  4. 일반화: 이 과정을 모든 소수 p에 대해 반복하면, 좌변에는 (1 - p⁻ˢ) 형태의 곱이 계속 누적되고, 우변에서는 모든 소수의 배수들이 순차적으로 제거됩니다. 모든 소수에 대해 이 과정을 무한히 반복하면 우변에 남는 유일한 항은 1이 됩니다.
  5. 결론: 좌변의 곱셈 항들을 모두 우변으로 넘기면 오일러 곱 표현이 완성됩니다.

이 체 과정은 사실상 산술의 기본 정리(Fundamental Theorem of Arithmetic)의 해석학적 구현입니다. 각 소수의 배수들을 체계적으로 제거함으로써, 우리는 합 ζ(s)에 있는 모든 합성수를 그 유일한 소인수들로 분해하여 결국 n=1에 해당하는 항만 남기게 되는 것입니다.

이 표현은 소수가 무한히 많음을 증명하는 강력한 도구가 됩니다. s=1일 때 제타 함수 ζ(1)은 조화급수 1 + 1/2 + 1/3 + ...가 되어 무한대로 발산한다는 것이 잘 알려져 있습니다. 만약 소수가 유한하다면, 오일러 곱 표현의 우변은 유한한 개수의 항들의 곱이 되어 반드시 유한한 값을 가져야 합니다. 하지만 좌변은 무한대로 발산하므로 이는 명백한 모순입니다. 따라서 소수는 무한히 많아야 합니다.

2.2. 감마 함수와의 관계: 적분 표현

제타 함수는 정수론뿐만 아니라 해석학의 중요한 함수들과도 깊은 관계를 맺고 있으며, 그 대표적인 예가 감마 함수(Gamma Function) Γ(s)입니다. 두 함수는 다음의 적분 항등식으로 연결됩니다.

Γ(s)ζ(s) = ∫[0 to ∞] u^(s-1) / (e^u - 1) du

이 항등식은 두 함수의 정의로부터 다음과 같이 유도할 수 있습니다.

  1. 감마 함수의 정의에서 시작: 감마 함수는 다음과 같은 적분으로 정의됩니다. Γ(s) = ∫[0 to ∞] t^(s-1)e^(-t) dt
  2. 변수 치환: 적분 변수 t를 t = nu로 치환합니다. 여기서 n은 양의 정수입니다. 그러면 dt = n du가 되며, 적분 구간은 그대로 유지됩니다. Γ(s) = ∫[0 to ∞] (nu)^(s-1)e^(-nu) (n du) 정리하면 Γ(s) = n^s ∫[0 to ∞] u^(s-1)e^(-nu) du가 됩니다.
  3. 제타 함수 유도: 위 식의 양변을 n^s로 나눕니다. Γ(s) / n^s = ∫[0 to ∞] u^(s-1)e^(-nu) du 이제 양변을 n=1부터 무한대까지 모두 더합니다(summation). 좌변은 Γ(s)가 합산과 무관하므로 밖으로 나올 수 있고, 남은 Σ n⁻ˢ는 제타 함수의 정의 그 자체입니다. Γ(s) Σ[n=1 to ∞] n⁻ˢ = Σ[n=1 to ∞] ∫[0 to ∞] u^(s-1)e^(-nu) du 좌변은 Γ(s)ζ(s)가 됩니다.
  4. 기하급수 정리: 우변에서는 적분과 합산의 순서를 바꿀 수 있습니다. ∫[0 to ∞] u^(s-1) (Σ[n=1 to ∞] e^(-nu)) du 괄호 안의 합 Σ e^(-nu)는 첫째 항이 e^(-u)이고 공비가 e^(-u)인 무한 기하급수입니다. u는 양수이므로 공비 e^(-u)의 절댓값은 항상 1보다 작아 수렴합니다. 무한 기하급수의 합 공식 a / (1-r)를 적용하면, 이 합은 e^(-u) / (1 - e^(-u))가 됩니다. 분자와 분모에 e^u를 곱하여 정리하면 최종적으로 1 / (e^u - 1)을 얻게 됩니다.

이 과정을 통해 최종적으로 목표했던 적분 항등식이 증명됩니다. 이 관계식은 제타 함수를 해석적으로 연구하는 데 중요한 출발점을 제공합니다.

2.3. 리만 함수 방정식: 해석적 확장과 대칭성

제타 함수의 원래 정의인 무한급수는 Re(s) > 1이라는 제한된 영역에서만 유효합니다. 이 한계를 극복하고 제타 함수를 복소 평면 전체로 확장하는 개념이 바로 **해석적 확장(Analytic Continuation)**이며, 이를 가능하게 하는 핵심 도구가 **리만 함수 방정식(Riemann Functional Equation)**입니다.

해석적 확장은 하나의 함수가 서로 다른 정의역에서 유효한 여러 표현을 가질 수 있다는 아이디어에 기반합니다. 예를 들어, sin(x) 함수는 단위원 위의 높이로 정의될 수도 있고, 테일러 급수로 표현될 수도 있으며, 오일러 공식을 통해 복소 지수함수로, 또는 무한 곱 형태로도 나타낼 수 있습니다. 이 표현들은 서로 다른 형태를 띠지만 모두 동일한 sin(x) 함수를 나타냅니다.

이 원리가 바로 해석적 확장의 토대입니다. 무한급수 Σ n⁻ˢ는 제타 함수의 여러 표현 중 하나에 불과하며, 이는 Re(s) > 1이라는 특정 영역에서만 유효합니다. 복소 평면 위의 고유한 실체로서의 제타 함수 자체는 이 표현의 한계에 얽매이지 않습니다. 리만 함수 방정식은 원래의 급수가 발산하는 영역에서 함수의 값에 접근할 수 있게 해주는 또 다른 표현을 제공하는 것입니다.

리만 함수 방정식은 ζ(s)와 ζ(1-s) 사이의 관계를 기술하며, 그 형태는 다음과 같습니다.

ζ(s) = 2^s * π^(s-1) * sin(πs/2) * Γ(1-s) * ζ(1-s)

이 방정식은 제타 함수의 값들 사이에 숨겨진 놀라운 대칭성을 드러냅니다. 복소 평면에서 s라는 점에서의 함수값과, 그 점을 s=1/2에 대해 점대칭시킨 1-s라는 점에서의 함수값을 서로 연결합니다. 즉, 한쪽의 값을 알면 다른 쪽의 값을 계산할 수 있게 됩니다.

이처럼 리만 함수 방정식은 제타 함수의 정의를 확장하는 이론적 토대를 제공할 뿐만 아니라, 원래의 급수로는 계산이 불가능했던 지점에서의 함수값이나 함수의 영점을 찾는 강력한 계산 도구로 기능합니다. 다음 장에서는 이 방정식을 활용하여 얻어지는 제타 함수의 구체적인 값과 영점의 위치에 대해 더 자세히 살펴보겠습니다.

3. 제타 함수의 주요 값과 영점

제타 함수의 이론적 구조를 이해했다면, 이제 그 함수가 특정 지점에서 어떤 구체적인 값을 가지며 그 값이 어떤 의미를 갖는지 탐구하는 것이 중요합니다. 제타 함수의 특정 값들은 그 자체로 역사적으로 중요한 문제였으며, 함수의 깊은 속성을 이해하는 단서를 제공합니다.

본 섹션에서는 제타 함수의 주요 값과 영점에 대해 심도 있게 분석합니다. 먼저 오일러가 해결하여 수학계를 놀라게 한 짝수 양의 정수에서의 값, 즉 바젤 문제와 그 일반해를 살펴봅니다. 다음으로, 해석적 확장을 통해 얻어지는 음의 정수에서의 값, 특히 ζ(-1) = -1/12의 의미를 명확히 짚어봅니다. 마지막으로, 함수의 값이 0이 되는 지점인 영점을 자명한 경우와 비자명한 경우로 나누어 그 특징과 중요성을 탐구할 것입니다.

3.1. 짝수 정수에서의 값: 바젤 문제와 일반해

17세기에 제기된 이후 수많은 수학자들이 도전했지만 풀지 못했던 **바젤 문제(The Basel Problem)**는 모든 자연수의 제곱의 역수를 더한 값, 즉 ζ(2)를 구하는 문제였습니다. 1735년, 오일러는 이 값이 원주율 π와 관련이 있을 것이라는 예상을 뛰어넘어 ζ(2) = π²/6임을 증명해냈습니다. 그의 증명은 다음과 같은 독창적인 아이디어에 기반합니다.

  1. sin 함수의 두 가지 표현: 핵심 아이디어는 함수의 영점을 기반으로 함수를 무한 곱으로 표현하는 것입니다. 함수 sin(πs)는 모든 정수 s = 0, ±1, ±2, ...에서 영점을 가집니다. 이 영점들을 인수분해하면 다음과 같은 바이어슈트라스 곱 표현(Weierstrass product representation)을 얻을 수 있습니다. sin(πs) = πs * (1 - s²/1²) * (1 - s²/2²) * (1 - s²/3²) * ... 한편, sin 함수는 잘 알려진 테일러 급수로도 전개할 수 있습니다. sin(πs) = (πs) - (πs)³/3! + (πs)⁵/5! - ...
  2. 계수 비교: 위 두 표현에서 sin(πs)/(πs)에 대한 식을 얻어 서로 비교합니다. 테일러 급수에서는 1 - (πs)²/6 + ... 이 되고, 무한 곱 표현에서는 1 - s²(1/1² + 1/2² + 1/3² + ...) + ... 이 됩니다. 두 표현은 동일한 함수를 나타내므로, 모든 s 거듭제곱 항의 계수는 같아야 합니다. 특히 s² 항의 계수를 비교하면 다음을 얻습니다. -π²/6 = -(1/1² + 1/2² + 1/3² + ...) 따라서, ζ(2) = π²/6임이 증명됩니다.

오일러는 여기서 멈추지 않고, 모든 짝수 정수 2n에 대한 제타 함수 값 ζ(2n)을 구하는 일반적인 방법까지 발견했습니다. 이는 **코탄젠트 함수(cot(πs))**의 두 가지 다른 급수 표현을 비교함으로써 가능합니다. 하나의 표현은 계수에 ζ(2n)을 포함하고, 다른 하나의 표현은 **베르누이 수(Bernoulli numbers)**라는 특수한 수열을 포함합니다. 두 급수의 계수를 비교하면 ζ(2n)이 항상 베르누이 수와 π^(2n)의 유리수배 곱으로 표현됨을 보일 수 있습니다.

3.2. 음수 정수에서의 값과 해석적 확장

제타 함수와 관련하여 가장 유명하면서도 오해를 많이 낳는 결과 중 하나는 ζ(-1) = -1/12입니다. 이 값은 종종 "모든 자연수의 합 1 + 2 + 3 + ...이 -1/12이다"라는 주장으로 잘못 인용되곤 합니다.

이 주장은 명백히 틀렸습니다. 그 이유는 다음과 같습니다.

  • 정의역의 한계: 제타 함수의 원래 급수 정의 Σ n⁻ˢ는 Re(s) > 1에서만 수렴하고 의미를 가집니다. s = -1을 이 식에 대입하면 1 + 2 + 3 + ... 이라는 발산하는 급수가 될 뿐이며, 이는 제타 함수의 값과 무관합니다. s=-1은 원래 정의의 유효 범위를 벗어납니다.
  • 해석적 확장의 결과: ζ(-1)의 값은 원래의 급수가 아닌, 리만 함수 방정식을 통한 해석적 확장의 결과입니다. 즉, Re(s) > 1 밖의 영역에서 제타 함수를 대표하는 다른 표현식(함수 방정식)에 s = -1을 대입하여 얻은 값입니다. 이것은 발산하는 급수를 "계산"하는 것이 아니라, 복소 평면 전체에서 일관성을 갖도록 잘 정의된 함수의 특정 지점에서의 값을 찾는 과정입니다.

이러한 흔한 오해는 범주 오류(category error)에서 기인합니다. 즉, 해석적으로 확장된 함수가 특정 지점에서 갖는 값과, 형식적으로 그 지점에 대응되는 발산 급수의 합을 혼동하는 것입니다.

3.3. 자명한 영점과 비자명한 영점

제타 함수의 영점, 즉 ζ(s) = 0이 되는 복소수 s는 두 종류로 나뉩니다.

  • 자명한 영점 (Trivial Zeros): 이 영점들은 음의 짝수 정수, 즉 -2, -4, -6, ... 에서 발생합니다. 이들이 "자명하다"고 불리는 이유는 리만 함수 방정식을 통해 그 위치를 쉽게 찾을 수 있기 때문입니다. ζ(s) = 2^s * π^(s-1) * sin(πs/2) * Γ(1-s) * ζ(1-s) 위 방정식에서 s에 음의 짝수 정수 -2k (단 k는 양의 정수)를 대입하면, sin(πs/2) 항은 sin(π(-2k)/2) = sin(-kπ)가 됩니다. 사인 함수는 정수배의 π에서 항상 0이므로, 이 항은 0이 됩니다. 이 지점에서 감마 함수 Γ(1-s)는 유한하고 0이 아니며, ζ(1-s) 또한 유한한 값을 가지므로, 전체 곱은 0이 됩니다. 따라서 ζ(-2k) = 0입니다.
  • 비자명한 영점 (Non-Trivial Zeros): 자명한 영점을 제외한 제타 함수의 나머지 모든 영점을 비자명한 영점이라고 합니다. 리만은 이 영점들이 모두 복소 평면의 특정 직선 위에 존재할 것이라고 예측했으며, 이 예측이 바로 수학계 최대 난제인 리만 가설의 핵심입니다. 이 비자명한 영점들의 정확한 위치는 소수의 분포에 대한 가장 깊은 비밀을 담고 있는 것으로 여겨지며, 다음 장에서 집중적으로 다루게 될 주제입니다.

 

4. 리만 가설과 소수 분포

지금까지 분석한 제타 함수의 오일러 곱 표현, 함수 방정식, 영점 등의 여러 속성들은 궁극적으로 수학계 최대의 미해결 문제 중 하나인 **리만 가설(The Riemann Hypothesis)**로 귀결됩니다. 제타 함수 연구의 정점에 있는 이 가설은 단순한 수학적 호기심을 넘어, 소수의 분포라는 자연의 근본적인 패턴과 깊이 연관되어 있습니다.

본 섹션에서는 리만 가설의 핵심 내용을 명확히 정의하고, 이 가설이 소수의 분포를 이해하는 데 어떤 근본적인 의미를 갖는지 분석할 것입니다. 이를 위해 먼저 리만 가설을 더 명료하게 기술하기 위해 도입된 리만 시 함수와 임계선의 개념부터 살펴보겠습니다.

4.1. 리만 시 함수와 임계선

리만은 제타 함수의 대칭성을 더 명확하게 보기 위해 기존의 함수 방정식을 변형하여 **리만 시 함수(Riemann Xi function, ξ(s))**라는 새로운 함수를 정의했습니다. 이 함수는 제타 함수에 감마 함수 및 다른 요소들을 곱하여 만들어지며, 다음과 같은 완벽한 대칭성을 갖도록 설계되었습니다.

ξ(s) = ξ(1-s)

여기서 ξ(s) = (1/2)s(s-1)π^(-s/2)Γ(s/2)ζ(s)로 정의됩니다. 제타 함수 자체의 함수 방정식은 다소 복잡한 형태를 띠지만, 시 함수는 s와 1-s에 대해 완벽히 대칭적인 형태를 보여줍니다.

이러한 구성의 탁월함은 ζ(s)에 곱해지는 인자들이 임계帯(critical strip) 내에서 정칙(entire)이고 0이 되지 않도록 선택되었다는 점에 있습니다. 결과적으로, ξ(s)의 영점은 ζ(s)의 비자명한 영점과 정확히 일치합니다. 따라서 리만 가설은 "모든 ξ(s)의 영점은 실수축 위에 존재한다(s = 1/2 + it에서 t를 변수로 볼 때)"는 더 우아한 형태로 재진술될 수 있습니다.

시 함수의 대칭성은 복소 평면에서 실수부가 1/2인 수직선을 중심으로 나타납니다. 이 선을 **임계선(Critical Line)**이라고 부릅니다. s를 임계선 위의 점, 즉 s = 1/2 + it (여기서 t는 실수)로 치환하여 대칭 관계식에 대입해 보면, ξ(1/2 + it) = ξ(1 - (1/2 + it)) = ξ(1/2 - it) 가 성립함을 알 수 있습니다. 이는 시 함수가 임계선을 기준으로 좌우 대칭(켤레 복소수 관계)임을 보여줍니다.

4.2. 리만 가설의 핵심 내용

**리만 가설(The Riemann Hypothesis)**은 다음과 같이 명료하게 기술될 수 있습니다.

"리만 제타 함수의 모든 비자명한 영점(Non-trivial zeros)은 임계선(Critical Line) 위에 존재한다."

이는 수학적으로 모든 비자명한 영점 s의 실수부가 1/2이라는 의미입니다. 1859년 베른하르트 리만이 처음 제시한 이래, 150년이 넘는 시간 동안 수많은 수학자들이 도전했지만 아직까지 완벽하게 증명되거나 반증되지 않은 상태입니다. 이 가설이 이토록 중요한 이유는 그것이 참일 경우, 소수의 분포에 대한 매우 강력하고 정밀한 예측을 가능하게 하기 때문입니다.

4.3. 소수 계량 함수와의 연관성

제타 함수와 소수 분포 사이의 구체적인 연결은 **소수 계량 함수(Prime-Counting Function, π(x))**와의 관계를 통해 드러납니다. 소수 계량 함수 π(x)는 주어진 수 x보다 작거나 같은 소수의 개수를 나타내는 함수입니다. 두 함수는 다음과 같은 적분 공식으로 연결됩니다.

log ζ(s) = s * ∫[2 to ∞] π(x) / (x(x^s - 1)) dx

이 관계식은 제타 함수의 정보, 특히 영점의 위치를 알면 소수 계량 함수 π(x)의 동작을 매우 정밀하게 분석할 수 있음을 의미합니다. 더 구체적으로, 제타 함수의 비자명한 영점들의 위치는 **소수 정리(Prime Number Theorem)**의 오차항을 결정합니다. 소수 정리는 π(x)가 대략 x/log(x)와 같이 행동한다고 알려주지만, 실제 π(x) 값과 이 근사치 사이에는 오차가 존재합니다. 리만 가설이 참이라면, 이 오차는 수학적으로 가능한 가장 작은 수준임이 증명됩니다.

다시 말해, 리만 가설은 소수가 가능한 한 가장 질서정연하고 규칙적으로 분포되어 있음을 의미합니다. 만약 가설이 거짓이고 임계선 밖에서 영점이 발견된다면, 이는 소수의 분포에 우리가 예상치 못한 큰 불규칙성이 존재함을 시사하게 됩니다.

소수의 역수의 합(Σ 1/p)이 발산한다는 사실은, 제곱수의 역수의 합(Σ 1/n² = π²/6)이 수렴하는 것과 극명한 대조를 이룹니다. 이는 소수의 밀도에 대한 강력한 통찰을 제공합니다. 비록 점점 희소해지기는 하지만, 소수는 근본적으로 완전 제곱수보다 훨씬 더 많다는 것을 보여주며, 이는 제타 함수가 정수의 심오한 구조적 속성을 우아하게 담아내고 있음을 보여주는 사례입니다.

 

5. 결론

본 보고서는 레온하르트 오일러가 처음 탐구한 단순한 무한급수에서 시작하여, 현대 수학의 가장 깊은 미스터리 중 하나인 리만 가설에 이르기까지 리만 제타 함수에 대한 심층적인 분석을 제공했다.

우리는 제타 함수가 정수의 합으로 정의됨에도 불구하고 오일러 곱 표현을 통해 소수 세계의 정보를 온전히 담고 있음을 확인했다. 또한, 감마 함수와의 적분 항등식과 리만 함수 방정식을 통해 이 함수가 해석학의 다른 중요한 대상들과 어떻게 연결되고, 복소 평면 전체에서 어떻게 아름다운 대칭성을 드러내는지를 살펴보았다.

이러한 이론적 구조를 바탕으로, 오일러가 해결한 **바젤 문제(ζ(2)=π²/6)**부터 해석적 확장의 결과인 **ζ(-1)=-1/12**에 이르는 구체적인 값들을 탐구했으며, 함수의 영점을 자명한 영점과 비자명한 영점으로 나누어 분석했다. 이 모든 논의는 결국 비자명한 영점의 위치에 관한 리만 가설로 수렴했으며, 이 가설이 소수 계량 함수와의 관계를 통해 소수의 분포를 얼마나 정밀하게 기술하는지를 확인했다.

결론적으로, 리만 제타 함수는 단일한 수학적 대상을 넘어, 정수론의 이산적인 세계와 해석학의 연속적인 세계를 잇는 교량이자, 수의 가장 근본적인 구성 요소인 소수의 분포 패턴을 해독하는 가장 강력한 도구이다. 리만 가설이 풀리는 날, 우리는 비로소 수의 세계에 숨겨진 가장 깊은 질서에 한 걸음 더 다가서게 될 것이다.

 

제타 함수: 소수의 비밀을 푸는 열쇠

안녕하십니까, 여러분. 수학의 세계로 떠나는 여정에 오신 것을 환영합니다. 오늘 우리는 현대 수학에서 가장 중요하고 또 가장 악명 높은 미해결 문제 중 하나인 **'리만 가설(Riemann Hypothesis)'**에 대해 이야기하며 강의를 시작하겠습니다. 이 문제를 증명하거나 반증하는 사람에게는 백만 달러의 상금이 걸려 있을 만큼, 이 가설은 인류 지성의 최전선에 놓인 과제입니다.

그리고 이 거대한 문제의 심장부에는 오늘 우리가 탐구할 **'제타 함수(Zeta Function)'**가 자리 잡고 있습니다. 제타 함수를 처음 연구한 위대한 수학자 레온하르트 오일러(Leonhard Euler)는 이 함수가 겉보기에는 무관해 보이는 정수의 세계와 소수(prime number)의 세계 사이에 깊고도 아름다운 다리를 놓는다는 사실을 발견했습니다.

본 강의에서는 제타 함수의 가장 기본적인 정의에서 출발하여, 그 의미를 복소 평면으로 확장하고, 궁극적으로 리만 가설이 왜 소수의 분포에 대한 비밀을 푸는 열쇠가 되는지 단계적으로 탐구해 나갈 것입니다.

 

이제 제타 함수의 가장 기본적인 형태인 수학적 정의부터 자세히 살펴보겠습니다.

2. 제타 함수의 정의와 수렴성

제타 함수는 개념적으로 매우 단순한 무한급수(infinite series)로 시작합니다. 그 정의는 다음과 같습니다.

ζ(s) = Σ (n=1부터 ∞까지) 1/n^s = 1/1^s + 1/2^s + 1/3^s + ...

여기서 ζ는 그리스 문자 '제타'이며, s는 변수입니다. 이 수식은 모든 자연수 n의 s 제곱의 역수를 끝없이 더해나가는 것을 의미합니다.

하지만 여기서 중요한 점은, 이 무한한 합이 모든 s 값에 대해 유한한 값을 갖지 않는다는 것입니다. 수학적으로 우리는 이 급수가 **수렴(converge)**하는 조건에 주목해야 합니다. 제타 함수의 급수 표현은 s의 실수부(Real part)가 1보다 클 때, 즉 Re(s) > 1 일 때만 유한한 값으로 수렴합니다.

만약 s=1을 대입하면, 우리는 1 + 1/2 + 1/3 + ... 와 같은 **조화급수(harmonic series)**를 얻게 되는데, 이 값은 무한대로 **발산(diverge)**한다는 사실이 잘 알려져 있습니다. 따라서 s=1이나 그보다 작은 실수 값에 대해서는 이 정의를 직접 사용할 수 없습니다. 이 수렴 조건은 제타 함수를 이해하는 첫 번째 관문이자, 앞으로 우리가 마주할 '확장'이라는 개념의 필요성을 암시합니다.

 

이처럼 제한된 영역에서만 정의되는 급수 형태가 어떻게 복소평면 전체로 확장될 수 있는지 이해하기 위해, 먼저 하나의 함수가 여러 가지 모습으로 표현될 수 있다는 개념을 살펴보겠습니다.

3. 함수의 다양한 표현: 해석적 확장으로 가는 길

수학에서 하나의 함수는 종종 여러 가지 다른 방식으로 표현될 수 있습니다. 어떤 표현은 함수의 기하학적 직관을, 다른 표현은 계산의 용이성을, 또 다른 표현은 특정 영역에서의 특성을 잘 보여줍니다. 우리에게 친숙한 사인(sine) 함수를 예로 들어보겠습니다.

  • 단위원을 이용한 기하학적 정의
    • 가장 직관적인 정의입니다. 단위원을 그리고 특정 각도(θ)를 잡았을 때, 원과 만나는 점의 y좌표(높이)가 바로 sin(θ)입니다.
  • 오일러의 공식을 이용한 지수함수 표현
    • 복소수를 이용하면 사인 함수를 지수함수의 조합으로 표현할 수 있습니다. sin(z) = (e^(iz) - e^(-iz)) / 2i 와 같이 말이죠. 이는 삼각함수와 지수함수 사이의 깊은 연관성을 보여줍니다.
  • 테일러 급수를 이용한 무한 다항식 표현
    • 사인 함수는 무한히 긴 다항식으로도 표현 가능합니다. sin(z) = z - z³/3! + z⁵/5! - ... 이 표현은 컴퓨터가 사인 값을 계산할 때 주로 사용됩니다.
  • 무한 곱을 이용한 표현
    • 유한한 다항식이 그 근(root)들을 이용해 인수분해되듯이, 사인 함수처럼 근이 무한히 많은 함수는 그 근들을 이용해 무한한 곱의 형태로 표현할 수 있습니다. sin(z)의 근이 nπ라는 점을 이용하여 표현하는 방식입니다.

이 예시들은 중요한 사실을 알려줍니다. 바로 각각의 표현이 함수의 서로 다른 측면을 조명하며, 어떤 표현은 다른 표현보다 더 넓은 범위에서 함수를 정의할 수 있다는 점입니다. 이것이 바로 원래 정의가 유효하지 않은 영역으로 제타 함수를 확장하는 **'해석적 확장(Analytic Continuation)'**의 핵심 아이디어입니다.

 

이러한 함수의 확장 개념을 바탕으로, 수학계의 유명한 역설처럼 보이는 '모든 자연수의 합이 -1/12'라는 주장의 진짜 의미를 파헤쳐 보겠습니다.

4. 해석적 확장과 유명한 역설: 1+2+3+... = -1/12?

"모든 자연수의 합, 즉 1 + 2 + 3 + 4 + ...가 -1/12과 같다"는 주장을 들어보셨을 겁니다. 이 주장은 매우 비직관적이며, 사실은 오해에서 비롯된 것입니다.

우선 1 + 2 + 3 + ... 라는 합은 직관적으로도 명백히 무한대로 발산합니다. 이는 제타 함수의 급수 정의 ζ(s) = Σ 1/n^s 에 s = -1을 대입한 형태(1/1⁻¹ + 1/2⁻¹ + ... = 1 + 2 + ...)와 같지만, s = -1은 수렴 영역인 Re(s) > 1을 벗어나므로 이 정의로는 값을 계산할 수 없습니다.

하지만 우리는 앞서 보았듯이 함수를 다른 방식으로 표현할 수 있습니다. 리만이 발견한 **함수 방정식(functional equation)**과 같은 다른 표현을 사용하면, 제타 함수를 원래의 급수 정의가 유효하지 않았던 영역까지 자연스럽게 확장할 수 있습니다. 이것이 바로 해석적 확장입니다.

이렇게 확장된 제타 함수에 s = -1을 대입하면, 그 값은 정확히 -1/12가 됩니다. 따라서 대중적인 오해를 바로잡기 위해 다음 두 명제를 명확히 구분해야 합니다.

  • 거짓: 1 + 2 + 3 + 4 + ... = -1/12
    • (이 급수 자체는 발산합니다. 등호는 성립하지 않습니다.)
  • 참: ζ(-1) = -1/12
    • (해석적 확장을 통해 정의된 제타 함수에 -1을 대입한 값은 -1/12입니다.)

이 역설은 '제타 함수라는 개념 그 자체'와 'Re(s) > 1 에서만 유효한 제타 함수의 급수 표현'을 혼동하는 데서 비롯된 것입니다.

 

이제 제타 함수가 왜 그토록 중요한지, 즉 모든 정수의 합이 어떻게 소수 전체와 연결되는지를 보여주는 오일러 곱 표현에 대해 알아보겠습니다.

5. 제타 함수와 소수의 연결고리: 오일러 곱 표현

제타 함수의 가장 경이로운 점은 모든 자연수에 대한 정보(합)와 모든 소수에 대한 정보(곱)를 연결하는 다리 역할을 한다는 것입니다. 이 관계는 오일러가 발견한 다음 공식에 의해 명확하게 드러납니다.

ζ(s) = Π (p는 모든 소수) [ 1 / (1 - p⁻ˢ) ]

이 공식을 자세히 살펴보십시오. 좌변은 모든 자연수 n에 대한 합(Σ 1/n^s)이고, 우변은 모든 소수 p에 대한 곱입니다. 이는 정수의 세계와 소수의 세계가 제타 함수를 통해 깊이 연결되어 있음을 보여주는 놀라운 결과입니다.

이 공식은 어떻게 유도될 수 있을까요? 직관적인 '체(sieve)' 아이디어를 통해 이해해 봅시다.

  1. 먼저 제타 함수의 전체 합 ζ(s) = 1/1ˢ + 1/2ˢ + 1/3ˢ + 1/4ˢ + ... 에서 시작합니다.
  2. 이 합에서 2의 배수인 항들(1/2ˢ, 1/4ˢ, 1/6ˢ, ...)을 모두 제거하기 위해, ζ(s)에 (1 - 1/2ˢ)를 곱합니다. 그 결과, 2의 배수와 관련된 모든 항이 사라지고 홀수 항들만 남게 됩니다. (1 - 1/2ˢ)ζ(s) = 1/1ˢ + 1/3ˢ + 1/5ˢ + 1/7ˢ + ...
  3. 이제 남은 수열에서 다음 소수인 3의 배수 항들을 제거하기 위해, 현재 결과에 (1 - 1/3ˢ)를 곱합니다. 그러면 3의 배수인 항들이 사라집니다.
  4. 이 과정을 모든 소수 p에 대해 무한히 반복하면 어떻게 될까요? 마치 체로 걸러내듯이 모든 합성수 관련 항들이 제거되고, 우변에는 결국 그 어떤 소수의 배수도 아닌 유일한 수, 1만 남게 됩니다.

즉, (Π (1-p⁻ˢ))ζ(s) = 1 이라는 결과를 얻게 됩니다. 이 식을 ζ(s)에 대해 정리하면 바로 오일러 곱 공식이 유도됩니다.

 

오일러가 발견한 이 놀라운 연결고리를 바탕으로, 베른하르트 리만(Bernhard Riemann)은 제타 함수를 복소평면으로 확장하여 현대 수학 최대의 난제를 제시했습니다.

6. 현대 수학 최대의 난제: 리만 가설

베른하르트 리만은 오일러의 작업을 이어받아 제타 함수를 실수 영역을 넘어 복소수 전체 영역으로 확장했습니다. 이 과정에서 그는 제타 함수의 '근(zero)', 즉 함수값을 0으로 만드는 s값(ζ(s) = 0)에 주목했습니다. 제타 함수의 근은 두 종류로 나뉩니다.

  • 자명한 근 (Trivial Zeros)
    • 음의 짝수(-2, -4, -6, ...)에 위치합니다. 이 근들은 그 존재가 비교적 쉽게 증명되었기 때문에 '자명하다'고 불립니다.
  • 비자명 근 (Non-trivial Zeros)
    • 복소수 형태로 존재하며, 그 위치가 소수의 분포와 직접적으로 관련되어 있어 매우 중요합니다. 리만은 처음 몇 개의 비자명 근을 계산한 후, 이들이 모두 특정한 패턴을 따른다는 것을 발견했습니다.

이 발견을 바탕으로 그는 다음과 같은 가설을 제시했습니다. 이것이 바로 **리만 가설(Riemann Hypothesis)**입니다.

"제타 함수의 모든 비자명 근의 실수부는 1/2이다."

이는 모든 비자명 근이 복소평면 위의 Re(s) = 1/2 이라는 단 하나의 직선 위에 모두 존재한다는 추측입니다. 이 직선을 **임계선(critical line)**이라고 부릅니다. 수많은 수학자들이 수조(兆) 개가 넘는 비자명 근을 계산했지만, 아직까지 단 하나의 예외도 발견되지 않았습니다.

이 가설이 왜 그토록 중요할까요? 바로 비자명 근의 정확한 위치와 분포가 소수가 자연수 사이에서 어떻게 분포하는지에 대한 핵심적인 정보를 담고 있기 때문입니다. 만약 리만 가설이 증명된다면, 우리는 소수의 패턴을 훨씬 더 정확하게 예측하고 이해할 수 있게 될 것입니다.

 

제타 함수의 이러한 대칭성과 신비로운 속성은 감마 함수와 같은 다른 특수 함수와의 관계를 통해 더욱 명확해집니다.

7. 다른 함수와의 관계: 감마 함수와 함수 방정식

제타 함수는 수학의 세계에서 홀로 존재하는 섬이 아닙니다. 오히려 다른 중요한 함수들과 깊은 관계를 맺고 있으며, 그 관계를 통해 더욱 강력한 도구로 발전합니다.

대표적인 예가 **감마 함수(Gamma Function, Γ(s))**입니다. 감마 함수는 정수에 대해서만 정의되는 계승(factorial, n!)의 개념을 복소수까지 일반화한 함수입니다. 이 두 함수는 다음과 같은 아름다운 적분 공식으로 연결됩니다.

Γ(s)ζ(s) = ∫[0,∞] uˢ⁻¹ / (eᵘ - 1) du

이 공식은 제타 함수를 다른 관점에서 분석할 수 있게 해주는 강력한 도구입니다.

또한, 리만은 제타 함수 그 자체의 대칭성을 보여주는 **리만 함수 방정식(Riemann Functional Equation)**을 발견했습니다. 이 방정식은 ζ(s)의 값과 ζ(1-s)의 값 사이에 근본적인 **대칭성(symmetry)**이 존재함을 보여줍니다. 이 대칭성은 제타 함수의 값을 임계선 Re(s) = 1/2을 기준으로 양쪽에서 서로 연결합니다. 이는 왜 리만 가설에서 실수부가 1/2인 선이 특별한 대칭축이 되는지를 암시하며, 가설의 구조적 중요성을 뒷받침합니다.

 

지금까지의 여정을 정리하며 제타 함수가 수학에서 차지하는 의미를 되짚어보겠습니다.

8. 결론: 단순한 합에서 우주의 질서까지

우리는 오늘 오일러가 처음 탐구했던 단순한 무한급수 Σ 1/n^s 에서 출발했습니다. 이 함수가 Re(s) > 1 이라는 제한된 영역에서만 의미를 가졌지만, 해석적 확장을 통해 복소평면 전체로 그 의미를 넓힐 수 있음을 보았습니다.

그 과정에서 우리는 제타 함수가 모든 자연수에 대한 '합'과 모든 소수에 대한 '곱'을 연결하는 오일러 곱 표현이라는 놀라운 성질을 가지고 있음을 확인했습니다. 이는 제타 함수가 단순한 수의 나열이 아니라, 우리 수 체계의 가장 근본적인 구성 요소인 소수의 구조와 질서를 탐구하는 창임을 의미합니다.

마지막으로, 리만은 이 함수의 '근'에 주목하여 현대 수학 최대의 난제인 리만 가설을 제시했습니다. 이 가설은 소수의 비밀을 푸는 열쇠이며, 이를 증명하려는 수학자들의 노력은 지금 이 순간에도 계속되고 있습니다. 이것은 단순히 수학 문제를 푸는 것을 넘어, 우주를 구성하는 가장 근본적인 패턴을 이해하려는 인류의 위대한 지적 탐험이라 할 수 있을 것입니다.

강의를 들어주셔서 감사합니다.

제타 함수: 세상의 모든 숫자를 연결하는 마법의 함수

소개: 세상에서 가장 이상한 덧셈

"1 더하기 2 더하기 3 더하기... 세상의 모든 자연수를 더하면 얼마가 될까요?"

아마 대부분은 "당연히 무한대지!"라고 답할 것입니다. 직관적으로 생각하면 끝없이 커지는 숫자를 계속 더하니 당연한 결과입니다. 그런데 놀랍게도, 몇몇 수학자와 물리학자들은 이 합을 '-1/12' 이라는 황당한 값과 연결 짓곤 합니다.

이 말도 안 되는 결과는 어떻게 나온 걸까요? 사실 이 식은 문자 그대로 사실이 아니며, '제타 함수'라는 아주 특별한 함수의 값을 잘못 해석한 것입니다. 이 문서에서는 제타 함수라는 하나의 위대한 개념이 어떻게 **여러 개의 다른 얼굴(공식)**을 가질 수 있는지, 그리고 그중 어떤 얼굴이 이런 신비로운 결과를 만들어내는지 탐험해 보겠습니다.

 

1. 제타 함수의 첫 번째 얼굴: 오일러의 무한급수

제타 함수는 18세기 위대한 수학자 레온하르트 오일러의 손에서 처음 탄생했습니다. 오일러가 정의한 제타 함수의 기본 형태는 다음과 같은 무한급수(끝없이 더하는 식)입니다.

ζ(s) = 1/1ˢ + 1/2ˢ + 1/3ˢ + 1/4ˢ + ...

이 수식이 복잡해 보일 수 있지만, 각 부분의 의미를 알면 간단합니다.

  • ζ (제타): 그리스 알파벳으로, 이 함수의 이름입니다.
  • s (입력값): 이 함수의 유일한 변수로, 우리가 어떤 숫자를 넣느냐에 따라 결과가 달라집니다. 's'는 각 분모의 '지수' 역할을 합니다.
  • 1, 2, 3, 4, ...: 모든 자연수를 의미합니다.

예를 들어, s=2를 대입하면 제타 함수는 모든 자연수의 '제곱'의 역수를 더하는 식이 됩니다.

  • ζ(2) = 1/1² + 1/2² + 1/3² + 1/4² + ... = 1 + 1/4 + 1/9 + 1/16 + ...

하지만 이 공식에는 매우 중요한 제한 조건이 있습니다. 바로 's의 실수 부분이 1보다 클 때'만 의미 있는 값으로 수렴(converge)한다는 점입니다. 만약 s=1을 대입하면(이를 '조화급수'라 부릅니다), 그 합은 무한대로 발산해 버립니다.

이는 우리가 처음 던졌던 질문 1 + 2 + 3 + ... 에 이 공식을 직접 적용할 수 없는 이유를 말해줍니다. 이 합은 제타 함수에 s=-1을 대입한 것과 형태가 비슷하지만, -1은 '1보다 크다'는 조건을 만족하지 않기 때문입니다. 즉, 이 첫 번째 얼굴로는 s=-1의 값을 계산할 수 없습니다.

 

2. 제타 함수의 놀라운 능력: 소수(素數)와의 연결

오일러는 제타 함수를 연구하던 중 놀라운 사실을 발견했습니다. 위에서 본 '모든 자연수의 합'으로 표현된 제타 함수가 '모든 소수의 곱'으로도 표현될 수 있다는 것입니다. 이는 세상의 모든 수를 만드는 기본 재료인 소수와 제타 함수가 깊은 관련이 있음을 보여주는 다리와 같습니다.

이를 **오일러 곱 공식(Euler product formula)**이라고 부르며, 제타 함수의 두 가지 표현은 다음과 같습니다.

덧셈의 세계 (무한급수) 곱셈의 세계 (오일러 곱)
ζ(s) = 1/1ˢ + 1/2ˢ + 1/3ˢ + ... ζ(s) = (1/(1-2⁻ˢ)) × (1/(1-3⁻ˢ)) × (1/(1-5⁻ˢ)) × ...
모든 자연수의 역수 거듭제곱의  모든 소수(2, 3, 5, 7...)에 대한 무한 

두 공식은 완전히 다르게 보이지만, 본질적으로 같은 ζ(s)를 나타냅니다. 이 두 얼굴이 같을 수 있는 이유는, 세상의 모든 자연수는 소수들의 곱으로 유일하게 표현될 수 있기 때문입니다 (산술의 기본 정리). 따라서 모든 자연수에 대한 합은 소수들의 곱으로 재구성될 수 있습니다.

이 연결고리는 수학자들에게 매우 강력한 도구를 선물했습니다. 소수의 분포나 비밀처럼 파헤치기 어려운 문제를, 다루기 더 쉬운 제타 함수를 통해 연구할 수 있게 된 것입니다.

예를 들어, 오일러는 이 공식을 이용해 소수가 무한히 많다는 사실을 새롭게 증명했습니다. 오일러는 s=1일 때를 생각했습니다. 덧셈의 세계에서 ζ(1)은 1 + 1/2 + 1/3 + ... 인 조화급수로, 이는 무한대로 발산합니다. 만약 소수가 유한개밖에 없다면, 곱셈의 세계는 유한개의 숫자를 곱한 것이므로 당연히 유한한 값을 가져야 합니다. 한쪽은 무한대인데 다른 쪽은 유한하다는 모순이 발생하므로, 소수는 무한히 많아야만 합니다.

오일러는 이렇게 제타 함수와 소수의 세계를 잇는 다리를 놓았지만, 이 함수의 진정한 잠재력은 아직 숨겨져 있었습니다. 약 100년 후, 베른하르트 리만이라는 수학자가 나타나 이 함수가 가진 또 다른 얼굴을 드러내면서, 처음의 미스터리 1+2+3...로 돌아갈 길을 열게 됩니다.

 

3. 미스터리 해결: 함수의 '다른 얼굴'과 해석적 확장

수학에서 함수는 하나의 '개념'이며, 그 값을 계산하는 '공식(표현법)'은 여러 가지일 수 있습니다. 마치 한 사람에게 여러 얼굴이 있는 것과 같습니다.

예를 들어, 사인(sine) 함수를 생각해 봅시다.

  • 기하학적 얼굴: "단위원 위의 점의 높이"
  • 삼각비 얼굴: "직각삼각형의 빗변과 높이의 비율"
  • 급수 얼굴: sin(z) = z - z³/3! + z⁵/5! - ... (테일러 급수)
  • 복소수 얼굴: sin(z) = (e^(iz) - e^(-iz)) / 2i (오일러 공식)

이 표현법들은 모두 같은 사인 함수를 다른 각도에서 보여주는 '다른 얼굴'들입니다. 중요한 점은, 어떤 얼굴(표현법)은 모든 상황에서 함수를 올바르게 보여주지만, 어떤 얼굴은 특정 영역에서만 의미가 있다는 것입니다. 예를 들어, '직각삼각형의 빗변과 높이의 비율'이라는 얼굴은 각도가 0도에서 90도 사이일 때만 유용합니다.

제타 함수도 마찬가지입니다.

  • 첫 번째 얼굴 (오일러 급수, 유효 범위가 제한된 얼굴): 1/1ˢ + 1/2ˢ + ...는 Re(s) > 1 영역에서만 유효한, 가장 기본적인 얼굴입니다. 이 얼굴로는 s=-1인 영역을 볼 수 없습니다.
  • 두 번째 얼굴 (리만 함수 방정식, 모든 영역을 볼 수 있는 얼굴): 19세기 수학자 베른하르트 리만은 훨씬 더 강력한 공식을 발견했습니다. 이 공식은 s > 1이 아닌 영역, 심지어 음수와 복소수 영역에서도 제타 함수의 값을 계산할 수 있게 해주는 '만능 열쇠'와 같습니다. 원래 공식이 작동하지 않는 영역으로 함수의 정의를 자연스럽게 확장하는 이 과정을 수학에서는 **해석적 확장(Analytic Continuation)**이라고 부릅니다. 이는 마치 함수의 한쪽 얼굴에 대한 정보만을 가지고, 그 함수가 다른 영역에서는 어떤 얼굴을 가져야만 하는지 유일하게 결정하는 것과 같습니다.

이제 미스터리가 풀립니다. 리만이 찾아낸 이 확장된 공식(두 번째 얼굴)을 사용해 s = -1을 대입하면, 그 결과가 정확히 -1/12이 나옵니다.

정리하자면 다음과 같습니다.

  • 사실: 1 + 2 + 3 + ... 의 합은 무한대로 발산합니다.
  • 그러나: 제타 함수라는 개념을 s > 1 바깥 영역으로 확장하여 ζ(-1)의 값을 계산하면 그 값은 -1/12이 됩니다.
  • 결론: 1 + 2 + 3 + ... = -1/12 라는 표현은 엄밀히는 틀렸습니다. 이 식은 '발산하는 합 1+2+3...'과 '해석적 확장으로 얻은 제타 함수의 특정값 ζ(-1)'이라는, 서로 다른 두 개념을 부주의하게 등호로 연결한 것입니다. 올바른 표현은 ζ(-1) = -1/12이며, 이것이 바로 미스터리의 진실입니다.

 

4. 제타 함수가 중요한 이유: 100만 달러짜리 문제, 리만 가설

제타 함수가 중요한 가장 큰 이유는 바로 리만 가설(Riemann Hypothesis) 때문입니다. 리만은 제타 함수의 값이 0이 되는 지점, 즉 '영점(zero)'들이 매우 특별한 규칙을 따르는 것처럼 보인다는 사실을 발견했습니다.

제타 함수의 영점은 두 종류로 나뉩니다.

  1. 자명한 영점 (Trivial zeros) 음의 짝수(-2, -4, -6, ...)들입니다. 이곳에서 제타 함수의 값이 0이 된다는 것은 비교적 쉽게 증명할 수 있어서 '자명하다'고 부릅니다.
  2. 비자명 영점 (Non-trivial zeros) 문제는 나머지 영점들입니다. 리만은 컴퓨터도 없던 시절에 손으로 여러 개의 비자명 영점을 계산해보고, 이들이 모두 복소평면 위의 실수부가 1/2인 일직선상에 존재한다는 것을 발견했습니다. 이 직선을 **임계선(critical line)**이라고 부릅니다.

리만 가설: "제타 함수의 모든 비자명 영점은 임계선 위에 존재한다."

이것이 바로 160년 넘게 수많은 수학자들이 도전했지만 아직 풀리지 않은 리만 가설입니다. 만약 이 가설이 참이라면, 수학자들은 제타 함수의 비자명 영점들의 위치를 이용해 소수들이 얼마나 자주, 그리고 어떤 패턴으로 나타나는지를 놀랍도록 정확하게 예측하는 공식을 완성할 수 있습니다. 즉, 무작위적으로 보이는 소수의 세계에 숨겨진 질서를 발견하는 것입니다. 그 중요성 때문에 클레이 수학 연구소에서는 이 문제를 푸는 사람에게 100만 달러의 상금을 걸었습니다.

결론: 숫자의 세계를 탐험하는 지도

제타 함수는 단순히 1/1ˢ + 1/2ˢ + ... 라는 무한급수가 아닙니다. 그것은 덧셈의 세계와 곱셈의 세계(소수)를 잇는 다리이며, 해석적 확장을 통해 우리가 몰랐던 새로운 수의 영역으로 나아갈 수 있게 해주는 강력한 도구입니다.

마치 미지의 대륙을 탐험하는 마법의 지도처럼, 제타 함수는 우리에게 숫자의 세계에 숨겨진 패턴과 비밀을 보여줍니다. 그리고 리만 가설이라는 가장 큰 보물은 아직 이 지도의 어딘가에 숨겨져, 우리들의 도전을 기다리고 있습니다.

함수의 마법: 하나의 함수, 여러 개의 얼굴 - 사인 함수 이야기

서론: 함수란 무엇일까요?

하나의 대상이 여러 이름으로 불릴 수 있듯이, 수학의 '함수'도 여러 가지 모습으로 표현될 수 있다는 사실을 아시나요? 우리는 종종 함수를 수식과 동일하게 생각하지만, 사실 함수는 '개념' 그 자체이며 우리가 사용하는 수식이나 그래프는 그 함수를 계산하고 이해하기 위한 여러 '표현' 중 하나일 뿐입니다. 이는 마치 한 사람에게 '김철수'라는 이름, 가족 안에서는 '아들', 학교에서는 '학생'이라는 다양한 역할과 이름이 있는 것과 같습니다. 이 모든 이름은 결국 한 사람을 가리키지요.

이 글의 목표는 우리에게 가장 친숙한 함수 중 하나인 사인 함수(sin(z))를 예로 들어, 하나의 함수가 얼마나 다채로운 얼굴(표현 방식)을 가질 수 있는지 탐험하는 것입니다.

그럼 지금부터 우리에게 가장 친숙한 함수 중 하나인 사인 함수의 여러 가지 얼굴을 만나러 가보겠습니다.

 

1. 사인 함수의 다양한 얼굴들

사인 함수는 우리가 어떤 관점에서 바라보느냐에 따라 전혀 다른 모습으로 나타날 수 있습니다. 각 표현법은 저마다의 강점과 특징을 가지고 있습니다.

1.1. 기하학적 얼굴: 단위원 위의 높이

학교에서 처음 배우는 가장 직관적인 사인 함수의 정의입니다. **단위원(반지름이 1인 원)**을 상상해 보세요. 원의 중심에서 특정 각도(z)만큼 회전했을 때 원과 만나는 점이 있을 것입니다. 그 점의 **y좌표, 즉 '높이'**가 바로 사인 값입니다.

이 표현 방식의 가장 큰 장점은 개념을 시각적으로 이해하는 데 있어 '정말 정말 정말 효율적인(pretty pretty pretty efficient)' 방식이라는 점입니다. 이 표현 덕분에 우리는 사인 함수의 주기성이나 최댓값, 최솟값 같은 핵심 성질을 계산 없이도 즉시 파악할 수 있습니다.

이 기하학적 표현은 매우 직관적이지만, 수학자들은 더 강력하고 넓은 범위에 적용할 수 있는 표현법을 찾아 나섰습니다. 이제 지수 함수로 표현된 사인 함수의 또 다른 얼굴을 만나보시죠.

1.2. 지수적 얼굴: 오일러 공식의 마법

사인 함수는 놀랍게도 두 복소 지수 함수의 차이로 표현될 수 있습니다. 그 마법 같은 공식이 바로 오일러 공식의 변형입니다.

sin(z) = \frac{e^{iz} - e^{-iz}}{2i}

여기서 i는 제곱하면 -1이 되는 특별한 수(허수 단위)입니다. 실수 세계에서는 제곱해서 음수가 나오는 수가 없지만, 수학자들은 상상력을 발휘해 이러한 수를 고안했고, 덕분에 함수의 세계를 훨씬 더 넓게 이해할 수 있게 되었습니다. 이 표현은 언뜻 보면 더 복잡해 보일 수 있습니다. 하지만 사실 지수 함수(e)라는, 수학적으로 훨씬 다루기 쉽고 잘 알려진 개념을 사용하기 때문에 더 견고하고 강력한 표현법으로 여겨집니다.

이 표현법의 가장 큰 힘은 사인 함수를 실수 세계를 넘어 복소수까지 포함하는 더 넓은 세계로 확장시켜준다는 점입니다. 이는 미분이나 적분과 같은 연산을 훨씬 단순하게 만들어주며, 물리학의 파동 방정식 등 복잡한 문제를 푸는 강력한 열쇠가 됩니다.

지수 함수를 넘어, 이번에는 무한히 더하는 방식으로 사인 함수를 만드는 '테일러 급수' 표현을 살펴보겠습니다. 컴퓨터가 사인 값을 계산하는 비밀이 여기에 숨어있습니다.

1.3. 다항식의 얼굴: 테일러 급수

사인 함수는 z의 거듭제곱을 이용한 무한 합, 즉 테일러 급수로도 표현할 수 있습니다. 마치 끝없이 이어지는 다항식과 같은 모습입니다.

sin(z) = z - \frac{z^3}{3!} + \frac{z^5}{5!} - \frac{z^7}{7!} + \dots

이 수식에는 아름다운 패턴이 숨어 있습니다.

  • z의 홀수 거듭제곱만 사용됩니다 (z¹, z³, z⁵, ...).
  • 분모에는 해당 거듭제곱과 같은 숫자의 **계승(factorial, !)**이 들어갑니다.
  • 부호는 +와 -가 번갈아 나타납니다.

이 표현의 가장 큰 장점은 덧셈, 뺄셈, 곱셈, 나눗셈만으로 사인 값을 근사적으로 계산할 수 있다는 점입니다. 실제 계산기는 복잡한 기하학적 계산 대신, 이 테일러 급수의 앞부분 몇 개 항까지만 계산하여 매우 정확한 사인 값을 빠르게 구해냅니다. 이는 복잡한 함수를 간단한 사칙연산의 조합으로 근사(approximate)할 수 있다는, 현대 계산 과학의 근본적인 아이디어를 보여줍니다.

지금까지는 덧셈으로 함수를 만들었다면, 이번에는 곱셈을 무한히 반복하여 사인 함수를 만드는 놀라운 방법을 알아보겠습니다.

1.4. 무한 곱의 얼굴: 함수의 근(Zero)을 이용한 표현

사인 함수는 그 값이 0이 되는 지점, 즉 '근(zero)'의 정보를 이용하여 무한 곱으로 표현될 수도 있습니다.

sin(z) = z \cdot \left(1 - \frac{z^2}{\pi^2}\right) \cdot \left(1 - \frac{z^2}{4\pi^2}\right) \cdot \left(1 - \frac{z^2}{9\pi^2}\right) \cdot \dots

이 아이디어는 다항식을 (x-a)(x-b)... 형태로 인수분해하는 것과 비슷합니다. 다항식의 근 a, b를 알면 다항식을 재구성할 수 있듯이, 사인 함수도 그 근을 이용해 전체 함수를 재구성할 수 있습니다. 사인 함수는 z = 0, ±π, ±2π, ±3π, ... 등 무한히 많은 지점에서 0이 됩니다. 예를 들어, 수식의 (1 - z²/π²) 부분에 z = π 또는 z = -π를 대입해 보세요. 이 괄호 안의 값이 정확히 0이 되면서 전체 곱셈 결과가 0이 됩니다. 이처럼 각 괄호는 사인 함수의 0점들을 하나씩 책임지고 있는 셈입니다.

이 표현법은 함수의 '근'이라는 핵심 정보가 함수 전체를 어떻게 결정하는지를 보여주는 매우 심오한 관점을 제공합니다. 함수의 'DNA'라고 할 수 있는 근의 정보만으로 함수 전체를 복원할 수 있다는 이 놀라운 아이디어는 더 높은 차원의 수학으로 나아가는 중요한 다리가 됩니다.

 

2. 한눈에 보는 사인 함수의 얼굴들

지금까지 우리는 사인 함수라는 하나의 개념을 네 가지의 서로 다른 얼굴로 만나보았습니다. 단위원 위의 높이, 두 지수 함수의 차이, 무한 다항식의 합, 그리고 무한 곱에 이르기까지. 이 모든 표현은 결국 동일한 '사인 함수'를 가리키고 있습니다.

각 표현법의 특징과 유용성을 아래 표로 정리했습니다.

표현 방식 형태 핵심 아이디어 주요 유용성
단위원 기하학적 정의 원 위 점의 높이 시각적, 직관적 이해
오일러 공식 지수 함수 두 복소 지수 함수의 차이 복소수로의 개념 확장
테일러 급수 무한 합 단순한 거듭제곱의 합 실제 값의 계산(컴퓨터)
무한 곱 무한 곱 함수의 '근(zero)' 정보 함수의 근본 구조 이해

이처럼 다양한 표현은 사인 함수에만 국한되지 않습니다. 수학의 세계에서는 많은 함수들이 이처럼 여러 얼굴을 가지고 있습니다.

 

결론: 표현의 유연성이 곧 수학의 힘

"하나의 함수, 여러 표현"이라는 핵심 메시지를 다시 한번 기억해 주세요. 함수라는 추상적인 '개념'과 그것을 구체적으로 나타내는 '표현'은 다릅니다. 어떤 표현을 선택하느냐에 따라 우리는 함수의 전혀 다른 속성을 발견하거나, 특정 문제를 훨씬 더 쉽게 해결할 수 있습니다. 이것이 바로 수학의 힘이자 유연성입니다.

여기서 한 가지 놀라운 사실은, 사인 함수의 경우 우리가 살펴본 네 가지 표현 모두 어떤 입력값 z에 대해서도 항상 성립한다는 점입니다. 하지만 모든 함수가 그렇지는 않습니다. 어떤 함수들은 특정 표현법이 제한된 범위의 입력값에서만 유효하기도 합니다. 이는 '표현'이 함수 그 자체가 아니라는 사실을 더욱 분명하게 보여줍니다. 함수의 개념은 하나의 표현이 작동하지 않는 곳에서도 여전히 존재할 수 있으니까요.

이 글을 통해 우리는 사인 함수의 네 가지 얼굴—단위원, 오일러 공식, 테일러 급수, 무한 곱—을 탐험했습니다. 이를 통해 하나의 개념을 다양한 관점에서 바라보는 것이 얼마나 중요한지, 그리고 각 표현이 어떤 강력한 도구가 될 수 있는지를 이해하셨기를 바랍니다.

다음에 새로운 수학 공식을 만났을 때, 이렇게 질문을 던져보세요. "이것이 이 개념의 유일한 모습일까?" 그 질문이 바로 더 깊은 수학의 세계로 들어가는 문이 될 것입니다.

 

제타 함수와 관련 함수

요약

본 문서는 유튜브 채널 'MrYouMath'의 강의 내용을 종합하여 리만 제타 함수(Riemann Zeta Function)의 핵심 개념, 다양한 표현법, 주요 특성 및 다른 중요 수학 함수와의 관계를 심층적으로 분석한다. 제타 함수는 정수론, 특히 소수의 분포를 연구하는 데 있어 중심적인 역할을 수행한다.

핵심 내용은 다음과 같다.

  1. 정의와 수렴성: 제타 함수 ζ(s)는 처음에 오일러에 의해 급수 Σ(1/n^s)로 정의되었으며, 이 표현은 s의 실수부가 1보다 클 때만 수렴한다.
  2. 오일러 곱 표현: 제타 함수는 모든 소수(p)에 대한 무한 곱 Π(1 / (1 - p⁻ˢ))으로 표현될 수 있다. 이는 제타 함수와 소수 사이의 근본적인 연결고리를 보여준다.
  3. 함수 방정식과 해석적 연속: 리만은 제타 함수가 복소 평면 전체로 확장(해석적 연속)될 수 있음을 보였고, ζ(s)와 ζ(1-s) 사이의 대칭성을 나타내는 함수 방정식을 발견했다. 이를 통해 수렴 영역 밖의 값(예: ζ(-1) = -1/12)을 계산할 수 있게 된다.
  4. 주요 오해 분석: "1+2+3+... = -1/12"라는 주장은 사실이 아니다. 이 합은 발산하지만, ζ(-1)의 값은 원래의 급수 정의가 아닌 함수 방정식을 통해 얻어진 해석적 연속의 결과이다. 함수의 개념과 특정 표현법을 혼동해서는 안 된다.
  5. 특정 값과 영점: 제타 함수는 양의 짝수에서 π의 거듭제곱과 유리수의 곱으로 표현되는 특별한 값을 가진다(예: ζ(2) = π²/6). 또한, 음의 짝수(-2, -4, ...)에서 "자명한 영점"을 가지며, 리만 가설은 모든 "비자명 영점"이 복소 평면의 특정 직선(임계선) 위에 존재한다고 예측한다.
  6. 타 함수와의 관계: 제타 함수는 감마 함수, 야코비 세타 함수, 소수 계량 함수 등 다른 중요한 함수들과 깊은 관계를 맺고 있으며, 이러한 관계들은 제타 함수의 속성을 증명하는 데 결정적인 역할을 한다.

제타 함수의 정의와 수렴성

오일러의 초기 정의

리만 제타 함수는 레온하르트 오일러에 의해 처음으로 다음과 같은 디리클레 급수(Dirichlet series) 형태로 도입되었다.

ζ(s) = Σ_{n=1}^{∞} (1 / nˢ) = 1 + 1/2ˢ + 1/3ˢ + 1/4ˢ + ...

여기서 s는 변수이며, 초기에는 실수로 간주되었다. 오일러는 이 함수를 광범위하게 연구하여 짝수 값에 대한 해(바젤 문제 등)를 구하고 소수와의 연관성을 발견했다.

복소 변수로의 확장과 수렴 조건

베른하르트 리만은 변수 s를 복소수(s = x + iy)로 확장하여 제타 함수를 복소 해석학의 영역으로 가져왔다. 이 확장을 통해 함수의 더 깊은 속성을 탐구할 수 있게 되었다.

제타 함수를 정의하는 위 급수는 모든 복소수 s에 대해 유효하지 않다. 이 급수가 수렴하기 위한 조건은 s의 실수부, 즉 Re(s) = x가 1보다 커야 한다(Re(s) > 1).

  • 증명 개요: 수렴 조건은 코시 적분 판정법(Cauchy Integral Test) 또는 코시 밀도 정리(Cauchy Density Theorem)와 같은 방법을 통해 증명될 수 있다.
    1. 코시 적분 판정법: 급수 Σ(1/nˣ)의 수렴성은 해당 함수 f(t) = 1/tˣ를 1부터 무한대까지 적분한 값의 수렴성과 동일하다.
      • ∫(1/tˣ) dt = [t¹⁻ˣ / (1-x)]
      • 이 적분값은 1-x < 0, 즉 x > 1일 때 유한한 값으로 수렴한다. x = 1일 경우, 적분은 log(t)가 되어 발산한다.
    2. 코시 밀도 정리: 급수 Σaₙ의 수렴성은 Σ(2ᵏ * a_{2ᵏ})의 수렴성과 연관된다. 제타 함수에 적용하면 기하급수(geometric series) 형태가 나타나며, 이 기하급수는 공비 2¹⁻ˣ의 절댓값이 1보다 작을 때, 즉 x > 1일 때 수렴한다.

결론적으로, 제타 함수의 초기 급수 표현은 Re(s) > 1인 복소 평면의 오른쪽 반평면에서만 정의된다.

제타 함수의 다양한 표현법

제타 함수는 단일한 형태로만 존재하는 것이 아니라, 각각 다른 영역에서 유효하거나 다른 속성을 강조하는 여러 등가적인 표현법을 가지고 있다.

오일러 곱 표현 (Euler Product Representation)

오일러는 제타 함수가 모든 소수(p)에 대한 무한 곱으로 표현될 수 있음을 발견했다. 이는 정수론에서 가장 중요한 항등식 중 하나로 꼽힌다.

ζ(s) = Π_{p는 소수} (1 / (1 - p⁻ˢ))

이 표현은 제타 함수가 소수의 분포와 직접적으로 연결되어 있음을 명확히 보여준다. 증명은 두 가지 방식으로 제시된다.

  1. 산술의 기본정리를 이용한 증명:
    • 곱의 각 항 1 / (1 - p⁻ˢ)은 공비가 p⁻ˢ인 무한 기하급수 Σ_{k=0}^{∞} (p⁻ˢ)ᵏ 로 전개된다.
    • 모든 소수에 대한 이 기하급수들의 곱을 전개하면, 산술의 기본정리에 따라 모든 자연수 n은 소인수분해를 통해 유일하게 표현되므로, 각 n에 대해 정확히 하나의 항 1/nˢ이 생성된다.
    • 결과적으로 이 무한 곱은 원래의 제타 함수 급수 Σ(1/nˢ)와 동일해진다.
  2. 체(Sieve)를 이용한 직관적 증명:
    • ζ(s)에서 2의 배수에 해당하는 항들을 제거한다: ζ(s) - (1/2ˢ)ζ(s) = (1 - 2⁻ˢ)ζ(s). 이 결과는 2를 소인수로 갖지 않는 수들의 역수 거듭제곱의 합만 남긴다.
    • 이 과정을 다음 소수인 3에 대해 반복한다: (1 - 3⁻ˢ)(1 - 2⁻ˢ)ζ(s). 이는 2와 3을 소인수로 갖지 않는 수들의 합만 남긴다.
    • 이 과정을 모든 소수에 대해 무한히 반복하면, 우변에는 결국 1만 남게 된다.
    • 따라서, [Π_{p}(1 - p⁻ˢ)] * ζ(s) = 1 이며, 이를 정리하면 오일러 곱 표현이 유도된다.

리만 함수 방정식 (Riemann Functional Equation)

리만은 제타 함수를 Re(s) > 1 영역을 넘어 복소 평면 전체(s=1 제외)로 확장하는 방법인 해석적 연속(analytic continuation)을 제공했다. 이 과정에서 ζ(s)와 ζ(1-s) 사이의 놀라운 대칭성을 보여주는 함수 방정식을 발견했다. 이 방정식은 두 가지 주요 형태로 표현된다.

  1. 대칭 형식:
    • 이 형태는 s와 1-s에 대한 함수의 대칭성을 가장 명확하게 보여준다. 감마 함수(Γ)와의 깊은 연관성을 나타낸다.
  2. 비대칭 형식:
    • 이 형태는 한쪽의 제타 함수 값을 다른 쪽 값으로 직접 계산하는 데 유용하다. 특히 제타 함수의 자명한 영점을 찾는 데 결정적인 역할을 한다.

이 방정식의 증명은 야코비 세타 함수(Jacobi Theta Function)의 함수 방정식을 활용하는 등 고등 수학적 기법을 필요로 한다.

리만 크사이 함수 (Riemann Xi Function)

리만은 함수 방정식의 대칭성을 더욱 강조하기 위해 크사이(Xi) 함수 ξ(s)를 다음과 같이 정의했다.

ξ(s) = (1/2) * s * (s-1) * π⁻ˢ/² * Γ(s/2) * ζ(s)

이 크사이 함수는 다음과 같은 매우 간단한 함수 방정식을 만족한다.

ξ(s) = ξ(1-s)

이 함수의 영점은 제타 함수의 비자명 영점과 정확히 일치한다. 리만 가설은 종종 이 크사이 함수의 영점이 모두 실수축 위에 있다는 명제로 표현되기도 하는데, 이는 s = 1/2 + it 형태의 변수 변환을 통해 제타 함수의 임계선(critical line) Re(s) = 1/2에 해당한다.

제타 함수와 다른 함수와의 관계

감마 함수와의 관계

감마 함수 Γ(s)와 제타 함수 사이에는 다음과 같은 중요한 적분 관계식이 존재한다.

Γ(s) ζ(s) = ∫₀^∞ (uˢ⁻¹ / (eᵘ - 1)) du

  • 증명 개요:
    1. 감마 함수의 적분 정의 Γ(s) = ∫₀^∞ tˢ⁻¹ e⁻ᵗ dt에서 시작한다.
    2. t = nu 치환을 통해 Γ(s)/nˢ = ∫₀^∞ uˢ⁻¹ e⁻ⁿᵘ du 형태의 식을 얻는다.
    3. 양변을 n=1부터 무한대까지 합산한다. 좌변은 Γ(s) Σ(1/nˢ) = Γ(s)ζ(s)가 된다.
    4. 우변에서는 합과 적분의 순서를 교환한 뒤, 지수 항들의 합 Σ e⁻ⁿᵘ 을 계산한다. 이 합은 공비가 e⁻ᵘ인 무한 기하급수로, 그 합은 1/(eᵘ - 1)이 된다.
    5. 이를 통해 최종 적분식이 유도된다.

야코비 세타 함수와의 관계

야코비 세타 함수 θ(x)는 다음과 같이 정의된다.

θ(x) = Σ_{n=-∞}^{∞} e⁻πⁿ²ˣ

이 함수는 제타 함수의 함수 방정식을 증명하는 데 핵심적인 역할을 하는 다음과 같은 함수 방정식을 만족한다.

θ(x) = (1/√x) * θ(1/x)

리만은 이 속성을 이용하여 제타 함수에 대한 적분 표현을 변형하고, 궁극적으로 ζ(s)와 ζ(1-s) 사이의 관계를 유도했다.

소수 계량 함수와의 관계

소수 계량 함수 π(x)는 x보다 작거나 같은 소수의 개수를 나타낸다. 제타 함수의 로그 값은 이 π(x)와 다음과 같은 적분 관계를 맺는다.

log(ζ(s)) = s * ∫₂^∞ (π(x) / (x(xˢ - 1))) dx

  • 증명 개요:
    1. 오일러 곱 표현에 로그를 취하면 log(ζ(s)) = -Σ_{p} log(1 - p⁻ˢ)가 된다.
    2. 소수에 대한 합산을 모든 정수에 대한 합산으로 바꾸기 위해, π(n) - π(n-1) 이라는 인자를 도입한다. 이 인자는 n이 소수일 때만 1이고, 아닐 때는 0이다.
    3. 합을 재정리하고 부분합(summation by parts)과 유사한 기법을 적용하여 적분 형태로 변환하면 위 관계식을 얻을 수 있다.

제타 함수의 특정 값과 영점

짝수에서의 값: 바젤 문제와 일반화

오일러는 1735년 바젤 문제(Basel Problem)를 해결하며 제타 함수의 특정 값을 처음으로 계산했다.

ζ(2) = 1 + 1/2² + 1/3² + 1/4² + ... = π²/6

  • 증명 개요 (오일러의 방법):
    1. sin(x) 함수의 테일러 급수 전개와 근(zero)을 이용한 무한 곱 전개를 비교한다.
    2. 함수 f(s) = sin(πs)/(πs)는 s = ±1, ±2, ±3, ... 에서 영점을 갖는다. 이를 이용해 f(s)를 Π(1 - s²/k²) 형태로 표현할 수 있다.
    3. 또한 f(s)의 테일러 급수를 구하면 1 - (π²s²)/6 + (π⁴s⁴)/120 - ... 형태가 된다.
    4. 두 표현은 동일한 함수를 나타내므로, s² 항의 계수를 비교하면 -π²/6 = -Σ(1/k²) 라는 결과를 얻게 되어, ζ(2) = π²/6이 증명된다.

오일러는 이 방법을 일반화하여 모든 양의 짝수 2n에 대한 제타 함수 값을 계산하는 일반 공식을 발견했다. 이 공식은 베르누이 수(Bernoulli numbers, B₂ₙ)와 관련이 있다.

ζ(2n) = (-1)ⁿ⁺¹ * B₂ₙ * (2π)²ⁿ / (2 * (2n)!)

자명한 영점 (Trivial Zeros)

제타 함수는 음의 짝수 정수에서 영(0)이 된다.

ζ(-2k) = 0 for k = 1, 2, 3, ...

이들은 "자명한(trivial)" 영점이라고 불린다. 이는 리만의 비대칭 함수 방정식 ζ(s) = 2ˢ πˢ⁻¹ sin(πs/2) Γ(1-s) ζ(1-s) 에서 직접 유도된다. s = -2k를 대입하면 sin(πs/2) = sin(-kπ) = 0이 되므로, 우변 전체가 0이 된다 (다른 항들이 유한하다는 조건 하에).

리만 가설 (The Riemann Hypothesis)

자명한 영점을 제외한 제타 함수의 모든 영점은 "비자명(non-trivial)" 영점이라고 불린다. 리만 가설은 수학에서 가장 중요한 미해결 문제 중 하나로, 다음과 같이 기술된다.

리만 가설: 제타 함수의 모든 비자명 영점은 실수부가 1/2인 직선, 즉 임계선(critical line) 위에 존재한다.

이 가설이 사실이라면, 소수의 분포에 대해 매우 정확하고 깊은 통찰을 제공하게 된다. 현재까지 계산된 수조 개의 비자명 영점들은 모두 임계선 위에서 발견되었지만, 일반적인 증명은 아직 이루어지지 않았다.

주요 오해 분석: 1+2+3+... = -1/12

"모든 자연수의 합이 -1/12"라는 주장은 널리 퍼져 있는 대표적인 수학적 오해이다. 이 오해는 함수의 개념과 그 표현법을 혼동하는 데서 비롯된다.

함수의 개념과 표현법의 분리

하나의 함수는 여러 다른 방식으로 표현될 수 있으며, 각 표현법은 특정한 정의역(domain)에서만 유효할 수 있다. 예를 들어, sin(z) 함수는 다음과 같이 다양하게 표현될 수 있다.

  • 단위원을 이용한 기하학적 정의
  • 오일러 공식을 이용한 지수함수 표현: (eⁱᶻ - e⁻ⁱᶻ) / 2i
  • 테일러 급수: z - z³/3! + z⁵/5! - ...
  • 무한 곱 표현

이 모든 표현들은 복소 평면 전체에서 sin(z)라는 동일한 함수를 나타낸다. 그러나 어떤 함수는 특정 표현이 제한된 영역에서만 유효할 수 있다.

발산하는 급수와 제타 함수의 값

  1. 발산하는 급수: 급수 S = 1 + 2 + 3 + 4 + ... 는 부분합 Sₙ = n(n+1)/2 가 n이 무한대로 갈 때 무한히 커지므로, 명백히 **발산(diverge)**한다. 이 급수에 전통적인 방식으로 유한한 값을 부여할 수는 없다.
  2. 제타 함수의 값: 제타 함수 ζ(s) = Σ(1/nˢ)는 Re(s) > 1 에서만 이 급수 형태로 정의된다. s = -1을 이 급수에 대입하는 것은 허용되지 않는다.
    • ζ(-1)의 값은 해석적 연속을 통해 얻어진다. 즉, Re(s) > 1 에서 유효한 제타 함수를 s=-1을 포함하는 더 넓은 영역으로 매끄럽게 확장한 함수의 값이다.
    • 리만의 함수 방정식을 이용하면 ζ(-1)의 값을 계산할 수 있으며, 그 결과가 -1/12 이다.

결론적으로, ζ(-1) = -1/12는 참이지만, 1 + 2 + 3 + ... = -1/12는 거짓이다. 후자는 발산하는 급수에 해석적 연속으로 얻은 특정 함수의 값을 부적절하게 등치시킨 것이다. 이는 서로 다른 정의역을 갖는 두 개의 다른 표현법을 혼동한 결과이다.

제타 함수와 감마 함수 심층 FAQ

단답형 퀴즈 (10문항)

다음 질문에 대해 2~3 문장으로 간결하게 답하시오.

  1. 제타 함수의 '오일러 곱 표현'이란 무엇이며, 이 표현은 제타 함수에 대해 어떤 중요한 사실을 알려줍니까?
  2. 제타 함수에 -1을 대입한 값, 즉 ζ(-1)은 -1/12이지만, 1+2+3+... 의 합이 -1/12이 아닌 이유는 무엇입니까?
  3. 함수의 '개념'과 함수의 '표현' 사이의 근본적인 차이점은 무엇이며, 사인(sine) 함수는 어떻게 이 차이점을 보여주는 예가 됩니까?
  4. 리만 제타 함수의 '자명한 영점(trivial zeros)'은 무엇이며, 이들은 어디에 위치합니까?
  5. 자료에 제시된 감마 함수와 제타 함수 사이의 관계는 무엇인지 설명하십시오.
  6. '바젤 문제(Basel Problem)'란 무엇이며, 오일러가 제시한 유명한 해답은 무엇이었습니까?
  7. 제타 함수의 원래 급수 정의는 어떤 s 값의 범위에서 수렴합니까?
  8. '리만 크사이(ξ) 함수'란 무엇이며, 이 함수가 가진 핵심적인 대칭성은 무엇입니까?
  9. 오일러는 제타 함수를 어떻게 사용하여 소수가 무한히 많다는 것을 증명했습니까?
  10. 소수 계량 함수(π(x))는 무엇이며, 이 함수의 주요 특징은 무엇입니까?

 

퀴즈 정답

  1. **오일러 곱 표현(Euler Product Representation)**은 제타 함수가 모든 소수(prime numbers)에 대한 무한 곱으로 표현될 수 있음을 보여줍니다. 이 표현은 제타 함수(원래 정수의 합으로 정의됨)와 소수의 분포 사이에 깊은 연관성이 있음을 명확히 합니다. 이는 제타 함수를 연구함으로써 소수에 대한 정보를 얻을 수 있다는 것을 의미합니다.
  2. 급수 1+2+3+...는 무한대로 발산하므로 특정 값을 갖지 않습니다. 반면, ζ(-1) = -1/12는 제타 함수의 원래 급수 정의가 아닌, 해석적 연속(analytic continuation)을 통해 확장된 정의역에서 유효한 함수 표현(리만 함수 방정식 등)을 사용하여 계산된 값입니다. 따라서 두 표현은 서로 다른 정의역에서 유효하며, 발산하는 급수에 확장된 함수의 값을 직접 대입하는 것은 허용되지 않습니다.
  3. 함수의 '개념'은 추상적인 수학적 대상을 의미하는 반면, '표현'은 그 함수의 값을 계산하거나 속성을 연구하기 위해 사용하는 구체적인 공식이나 방법입니다. 사인 함수는 단위원에서의 높이, 복소 지수 함수의 차이, 테일러 급수, 무한 곱 등 다양한 표현을 가질 수 있지만, 이 모든 표현들은 동일한 사인 함수라는 '개념'을 나타냅니다.
  4. 리만 제타 함수의 **자명한 영점(trivial zeros)**은 제타 함수의 값이 0이 되는 음의 짝수 지점들입니다. 이들은 s = -2, -4, -6, ... 과 같이 음의 실수 축 위에 위치합니다. 이 영점들은 소수의 분포와 직접적인 관련이 없어 '자명하다'고 불립니다.
  5. 감마 함수와 제타 함수를 곱한 값은 특정 적분으로 표현될 수 있다는 관계가 성립합니다. 구체적으로, Γ(s)ζ(s)는 0부터 무한대까지 u^(s-1) / (e^u - 1)을 적분한 값과 같습니다. 이 관계는 감마 함수의 적분 정의에 치환을 적용하고, 그 결과를 모든 양의 정수 n에 대해 합산하여 기하급수 공식을 활용함으로써 유도됩니다.
  6. 바젤 문제는 모든 자연수의 제곱의 역수들의 합, 즉 1/1² + 1/2² + 1/3² + ... 의 값을 구하는 문제였습니다. 오일러는 이 합이 π²/6과 같다는 것을 증명하여 이 문제를 해결했습니다. 이는 제타 함수 값 ζ(2)를 계산한 것과 같습니다.
  7. 제타 함수의 원래 급수 정의인 Σ(1/n^s)는 복소수 s의 실수부(real part)가 1보다 클 때(Re(s) > 1)에만 수렴합니다. s=1일 때는 조화급수가 되어 발산하며, 실수부가 1 이하일 때도 발산합니다.
  8. 리만 크사이(ξ) 함수는 리만이 제타 함수를 변형하여 도입한 함수로, 감마 함수와 제타 함수를 특정 계수들과 곱하여 정의됩니다. 이 함수의 핵심적인 대칭성은 ξ(s) = ξ(1-s)라는 함수 방정식을 만족한다는 것입니다. 이 대칭성은 제타 함수의 비자명 영점들이 Re(s) = 1/2 라는 임계선(critical line)을 중심으로 대칭적으로 나타나는 것과 관련이 있습니다.
  9. 오일러는 제타 함수가 s=1에서 무한대로 발산한다는 사실(조화급수)과 오일러 곱 표현을 연결하여 증명했습니다. 만약 소수가 유한 개만 존재한다면, 오일러 곱 표현은 유한 개의 항만 가지게 되어 s=1에서 유한한 값을 가져야 합니다. 그러나 제타 함수는 s=1에서 발산하므로, 이는 소수가 유한하다는 가정과 모순되어 소수는 무한히 많아야 합니다.
  10. **소수 계량 함수(π(x))**는 주어진 숫자 x보다 작거나 같은 소수의 개수를 세는 함수입니다. 예를 들어, π(5) = 3입니다 (소수 2, 3, 5). 이 함수는 소수가 나타날 때마다 값이 1씩 증가하는 계단 함수(step function)의 형태를 띱니다.

 

서술형 문제 (5문항)

다음 주제에 대해 논술 형식으로 답을 구상해 보시오. (정답은 제공되지 않음)

  1. 오일러에서 리만으로 이어지는 제타 함수의 정의의 발전을 논하시오. 서로 다른 함수 표현들이 어떻게 제타 함수의 정의역을 확장시켰으며, 함수 방정식이나 자명한 영점과 같은 새로운 속성을 밝혀냈는지 설명하시오.
  2. 리만 함수 방정식을 유도하는 복잡한 과정을 설명하시오. 이 과정에서 감마 함수, 야코비 세타 함수, 그리고 특정 적분 조작 기법들이 각각 어떤 역할을 하는지 상세히 기술하시오.
  3. 제시된 자료에는 오일러 곱 표현에 대한 두 가지 다른 증명 방법이 소개됩니다. 산술의 기본 정리에 기반한 방법과 '체(sieve)'와 유사한 방법을 비교하고 대조하시오. 어떤 방법이 더 직관적이라고 생각하며, 그 이유는 무엇입니까?
  4. 자료에 제시된 내용을 바탕으로 제타 함수와 소수의 관계를 분석하시오. 오일러 곱, 소수의 무한성 증명, 소수 제타 함수, 소수 계량 함수 등 다양한 측면을 포괄하여 설명하시오.
  5. ζ(2n) 값을 유도하는 과정을 사례 연구로 삼아, 코탄젠트(cotangent) 함수, 테일러 급수, 베르누이 수와 같은 서로 다른 수학적 대상들이 어떻게 상호 연결되어 정수론의 복잡한 문제를 해결하는 데 사용될 수 있는지 설명하시오.

 

주요 용어 해설

용어 정의
감마 함수 (Gamma Function) Γ(s) = ∫[0,∞] t^(s-1)e^(-t) dt 로 정의되는 함수. 계승(factorial)을 복소수와 실수로 확장한 개념으로, 자연수 n에 대해 Γ(n) = (n-1)! 이 성립한다.
기하급수 (Geometric Series) 첫째항과 일정한 공비(common ratio)를 가지는 수열의 합. 공비의 절댓값이 1보다 작을 때 무한 기하급수는 1 / (1 - 공비) 로 수렴한다 (단, 합이 0부터 시작할 경우).
리만 가설 (Riemann Hypothesis) 리만 제타 함수의 모든 비자명 영점(non-trivial zeros)의 실수부는 1/2일 것이라는 추측. 현대 수학의 가장 중요한 미해결 문제 중 하나로, 증명 시 100만 달러의 상금이 걸려 있다.
리만 제타 함수
(Riemann Zeta Function)
원래 Re(s) > 1인 복소수 s에 대해 Σ[n=1,∞] 1/n^s 로 정의된 함수. 해석적 연속을 통해 모든 복소수(s=1 제외)로 확장될 수 있으며, 소수의 분포와 깊은 관련이 있다.
리만 크사이 함수
(Riemann Xi Function)
ξ(s) = (1/2)s(s-1)π^(-s/2)Γ(s/2)ζ(s) 로 정의되는 함수. ξ(s) = ξ(1-s)라는 간단한 함수 방정식을 만족하여 제타 함수의 대칭성을 연구하는 데 사용된다.
바젤 문제 (Basel Problem) 모든 자연수의 제곱의 역수들의 합, 즉 ζ(2)의 값을 구하는 문제. 오일러가 이 값이 π²/6임을 증명했다.
베르누이 수 (Bernoulli Numbers) s / (e^s - 1) 함수의 테일러 급수 전개의 계수로 나타나는 수열. ζ(2n)의 값을 계산하는 공식에 사용된다.
소수 계량 함수
(Prime Counting Function)
π(x)로 표기하며, 주어진 양수 x보다 작거나 같은 소수의 개수를 나타내는 함수. 소수가 나타날 때마다 값이 1씩 증가하는 계단 함수이다.
소수 제타 함수
(Prime Zeta Function)
모든 소수 p에 대해 Σ 1/p^s 로 정의되는 함수. 제타 함수의 로그 값과 밀접한 관련이 있다.
오일러 곱 표현
(Euler Product Representation)
제타 함수가 모든 소수에 대한 무한 곱, 즉 Π[p] (1 - p^-s)^-1 로 표현될 수 있다는 정리. 제타 함수와 소수 사이의 근본적인 연결고리를 보여준다.
자명한 영점 (Trivial Zeros) 제타 함수의 값이 0이 되는 음의 짝수 지점들 (s = -2, -4, -6, ...). 리만 가설의 대상이 되는 비자명 영점과는 구별된다.
코시 적분 판정법
(Cauchy Integral Test)
무한급수의 수렴 또는 발산을 판단하기 위해 해당 급수의 항을 함수로 간주하고, 그 함수의 이상적분(improper integral)과 비교하는 방법.
테일러 급수 (Taylor Series) 함수를 특정 지점에서의 미분계수들로 계산된 항들의 무한합으로 나타내는 것. 사인 함수나 지수 함수 등 다양한 함수를 다항식처럼 표현할 수 있게 해준다.
푸아송 합 공식
(Poisson Summation Formula)
함수의 합을 그 함수의 푸리에 변환의 합과 관련시키는 항등식. 야코비 세타 함수의 함수 방정식을 증명하는 데 사용된다.
함수의 표현
(Representation of a Function)
하나의 추상적인 함수 개념을 계산하거나 분석하기 위해 사용하는 구체적인 공식이나 방법. 예를 들어, 사인 함수는 단위원, 지수 함수, 테일러 급수 등 다양한 방식으로 표현될 수 있다.
조화급수 (Harmonic Series) 1 + 1/2 + 1/3 + 1/4 + ... 와 같이 자연수의 역수들의 합. 이 급수는 무한대로 발산하며, 제타 함수에서 s=1인 경우에 해당한다.
야코비 세타 함수
(Jacobi Theta Function)
θ(x) = Σ[n=-∞,∞] e^(-πn²x) 로 정의되는 함수. θ(x) = (1/√x)θ(1/x) 라는 함수 방정식을 만족하며, 리만 함수 방정식 증명에 핵심적인 역할을 한다.
리만 함수 방정식
(Riemann Functional Equation)
제타 함수가 s와 1-s 값 사이의 대칭적 관계를 만족함을 보여주는 방정식. 이를 통해 Re(s) ≤ 1 영역으로 제타 함수를 확장하고 분석할 수 있다.