2023-11-10

フェルマーの大定理の短証明を査読してみた

その他

アマチュアの方などが、第一級の数学者が長年取り組んでも解決できない問題（フェルマーの大定理*1の初等証明、コラッツ予想、リーマン予想、ふたご素数予想、P=NP問題、etc.）を解いたと主張して論文や本として発表されることは、ありふれたことのように思います。

あなたがプロの数学研究者だとしましょう。

あなたはそれらの原稿を読みますか？

普通は読まないと思います。なぜなら、

「読まない段階では、その原稿が正しい可能性がある」

ということは、それはそうなのですが、

「その原稿が間違っている可能性の方が圧倒的に大きい」

ということの方が、読むかどうかを検討する側には重大だからです。

定理証明支援系などが更に発展して、近い将来には数学の正しさを効率よく客観的に判定できるようになるかもしれません。
ですが、今のところは、数学の原稿を査読するにはそれなりの時間がかかります。

時間をかけて読んでも間違っている可能性の方が圧倒的に大きいのならば、普段忙しい人はそんなことに時間を使うわけにはいかないのです。

ですので、研究雑誌からの正式な査読の依頼を引き受けた場合などを除いて、普通は怪しい原稿にプロが目を通すことはないでしょう。

では、プロはどうやって怪しいと判断するかですが、怪しい原稿には色々な共通事項があるので、当てはまる事項が多ければ多いほど怪しいと判断できるでしょう。

ここにそれらを列挙することはしませんが、例えば

論文の書式が通常の研究者の書くものから著しくズレていて読みにくい

有名未解決問題の解決原稿を1つではなく、複数発表している

などが挙げられます*2。

1つ目の項目について怪しい理由を1つ述べるなら、

「第一級の数学者に解けない問題を解く能力はあるにも拘らず、LaTeXを全くさわれなかったり、他の数学論文をチェックするなどして書式をある程度、標準的なものに合わせることはできない」

というようなことは考えにくいからです。

LaTeXや論文の書き方を習得することは、未解決問題を解けるような人には容易いはずです。

「絶対に考えられない」とまでは言いきれませんが、「その可能性の方が大きい」ということの方が読む側には重大です。

ですので、例えば私なんかはそういった原稿をチェックすることは殆どありません。

ですが、読まない間はもちろん「正しい可能性はある」状態であり、「間違えている」と断定するには間違えている箇所を具体的に見つけて指摘する以外に方法はありません。

どうせ間違えているに違いないんだけれど、実際にどういう手法で間違えているのかが全く気にならないと言えば少し嘘になります。

時間がないのでやらないけれど、少しは興味があるという感じです。怖いもの見たさといいますか。

今回読むことにした書籍

前置きが長くなりましたが、今回以下の書籍の間違いを指摘します：

山田正治著『フェルマー大定理の短証明』、東京図書出版会、2005年

山田氏は著者紹介によれば茨城大学名誉教授で（ご専門は制御工学とのこと）、本書ではWilesによるフェルマーの大定理の解決とは異なる（より初等的な）手法によって、フェルマーの大定理の新証明を与えていると主張してます。

研究雑誌への投稿ではなく書籍として出版しているということもそうですが、もちろん本書には怪しい雰囲気が漂っています。

ですが、一方で興味がそそられる点もあるんですよね。

先ほどは挙げなかった怪しい原稿の1つの種類に、「そもそも数学における証明がどういう行為であるのかわかっていない」ものがあります。

「解けた」と主張はしているけれど、「証明」らしいものがどこにも書いていないタイプの原稿です。

そういうものはそれがわかった時点で読む必要がないと思われますが、本書籍は、独自の言葉遣いも若干見られるものの、ある程度標準的な数学の形式で書かれているのです。

無作為に本書に書かれている数式の計算を1つだけ追ってみたりすると、合っています。ですので、瞬時には間違いだと判定できなさそうなんです。

また、Kummer、Wieferich、Mirimanoff、VandiverなどのWiles以前のフェルマーの大定理に関する偉大なる先行研究を学んで自身の研究に取り入れている点が興味深いです。

これは全ての議論がオリジナルである原稿に比べれば、通常の研究の方法に近い（いわゆる「巨人の肩に乗る」というやつです）ので、好印象です。

興味をそそるとは言っても、書籍の途中p.37から始まる「主論文」は50ページを超えているため、それを全部読むにはかなりの時間がかかると予想され、普通は読みたくはありません。

ですが、ちょっと眺めてみて、以下で述べる「極めて短い時間で間違いを発見できる」という確信を持てたため、たまにはいいかと間違い探しを実行することにしました。

短時間で間違いを発見できる確信について

フェルマーの大定理は、任意の奇素数 $p$ に対して、

$x^p+y^p+z^p=0$

を満たすような零でない整数 $x, y, z$ が存在しないことを証明すれば十分です。

そして、この方程式に $xyz$ が $p$ で割れないという条件をつけた場合（「第一の場合」とよぶ）と、 $xyz$ が $p$ で割れるという条件をつけた場合（「第二の場合」とよぶ）に場合分けをして取り組むのが伝統的なアプローチでした*3。

本書はこのアプローチに則っています。

ですから、論文は「第一の場合の証明」と「第二の場合の証明」の２つの部分から構成されています。

ところで、どちらかの場合だけでも別証明が得られればそれは凄いことですので、私は本書はどちらもが誤っているだろうと思いました。

ただ、片方だけでも間違いを見つければ少なくとも「フェルマーの大定理の完全な証明」は棄却できるため、それだけをやってみるのはアリだと思いました。

そして、本書の大きな特徴は、「第二の場合の証明」の方が短く13ページしかないということです。この程度の分量であればすぐに読めそうです。

また、私がこれまでに勉強して培われた感覚として、「第一の場合」よりも「第二の場合」の方が難しいに違いないという考えがあるため*4、本書のページ配分には大きな違和感がありました。

難しいはずの方がとても短いので、こちら側の間違いはすぐに見つかるに違いないと考えたわけです。

著者による「第二の場合」の証明の流れ

$p$ を $5$ 以上の奇素数とし、 $x$ , $y$ , $z$ は零でない整数であって、 $x^p+y^p+z^p=0$ を満たし、 $x$ , $y$ , $z$ はどの2つも互いに素であり、 $x$ と $y$ は $p$ で割れず、 $z$ は $p$ で割れると仮定します。

この仮定のもとで矛盾を導けば「第二の場合」の解決となることは、簡単に確認できます。

証明の流れは2つの既存の定理の間の矛盾を見出すというものです。[Ri]でRibenboimの有名な書籍『フェルマーの最終定理13講』を指すことにします。

1つ目はAbelの1823年の定理（[Ri]の第IV講 (1B)）で、特に、 $z$ は（単に $p$ で割れるだけではなく） $p^2$ で割り切れるということが示されています。

2つ目はVandiverの1919年の定理（[Ri]の第IV講 (1B)）で、特に、 $z$ は実は $p^3$ で割り切れる必要があるということが示されています。

1つの誤数学テクニックとして「不正確な形で先行研究を引用する」というものがあるかと思います。使い方をうまく間違えれば何でも証明できます。

が、山田氏は先行研究は正確に引用できています。

そして、山田氏はAbelの定理で存在する $r$ や $s$ などの整数について幾つかの計算を実行して、最終的に1つの合同式に辿り付き、その合同式が

$z$ はちょうど $p^2$ で割り切れる（つまり、 $p^3$ では割り切れない）

を導くため、Vandiverの定理に矛盾するという寸法です。

矛盾させる部分のもう少し詳しい説明

Abelの定理 前節の仮定のもと、整数 $n, r, s, t, r_1, s_1, t_1$ が存在して、

$\begin{align} &y+z=r^p,\quad Q(y, z)=r_1^p,\quad x=-rr_1,\\ &z+x=s^p,\quad Q(z,x)=s_1^p,\quad y=-ss_1, \\ &x+y=p^{np-1}t^p,\quad Q(x,y)=pt_1^p,\quad z=-p^ntt_1\end{align}$

が成り立ち、 $n\geq 2$ であり、 $(r,r_1)=(s,s_1)=(r,s,t)=(r_1,s_1,t_1)=1$ であり、 $r, s, t, r_1, s_1, t_1$ は全て $p$ で割り切れず、 $r_1, s_1, t_1$ は奇数。ここで、 $Q(X,Y)=(X^p+Y^p)/(X+Y)$ である。

$a:=(r+s)/p^{n-1}$ , $T:=t(x+y+z)/\sqrt[p]{p(y+z)(z+x)(x+y)}$ とおくと、これらは $p$ で割れない整数であることが確認できて、山田氏は合同計算を行って以下の2つの合同式を導きます。

$r^{p-3}a+2T+\frac{15-8p+p^2}{4}r^{p-4}a^2p^{n-1}\equiv 0\pmod{p^{2n-3}}.\tag{A}$

$r^{p-3}a+2T+\frac{3-p}{2}r^{p-4}a^2p^{n-1}\equiv 0\pmod{p^{2n-3}}.\tag{B}$

「第二の場合」を読み始めると、まずは補助定理１と補助定理２から始まります。特に、補助定理１は「容易に示される（したがって, 証明はつけない）」とあり、もしかしたら「証明を書いていない部分は怪しいのでは？」と思われるかもしれません。ですが、実際はこれは本当に容易で正しく、補助定理２も正しい証明がつけられています。

その後、ずっと正しい計算が基本的に続き、山田氏の記述は殆どの箇所において数学的に正しいです。

例えば、p.79の補助定理2の数式部分にある $-aTp^{n-1}$ は $-aTp^n$ の誤植です。ですが、それ以降でこの補助定理を用いる際には正しく使えているので問題ありません。他にも3つ以上の数が「互いに素」と言った場合には（もしかしたらどこかで説明されているかもしれませんが）、「2つずつ互いに素」という意味かそうでないかが明記されていない箇所があったりしますが、それも文脈から判断できるので問題ありません。

むしろ、計算が省略されているところも正しい結果が書かれているので、一定の数学力があることがわかります*5（高木先生の『初等整数論講義』を愛読されている旨がp.4に書かれています）。

さて、(A)と(B)の差を考えると、

$\displaystyle \left(\frac{p-3}{2}\right)^2\equiv 0 \pmod{p^{n-2}}$

が導かれ、 $p > 3$ でこれが成立するには、 $n=2$ が必要であることがわかります。

具体的に間違えている箇所について

実際に読み進めると、１箇所だけ計算ミスがあります。正しい議論を続けて10ページ目となるp.87で、道具として3つほど合同式が証明抜きで現れるのですが、その1つ目の

$\displaystyle \sum_{j=0}^{p-3}r^{p-3-j}s^j\equiv r^{p-3}-\frac{p-3}{2}r^{p-4}ap^{n-1}+\frac{(p-3)^2}{2}r^{p-5}a^2p^{2n-2}\pmod{p^{3n-3}}$

に誤りがあります。最後の項の係数

$\displaystyle \frac{(p-3)^2}{2}$

は、正しくは

$\displaystyle \left(\frac{p-3}{2}\right)^2$

です。今は、 $s=-r+ap^{n-1}$ という条件がつくのですが、試しに $p=13$ , $r=5$ , $a=4$ , $n=3$ とすると、 $s=671$ であり、

$\displaystyle \sum_{j=0}^{10}5^{10-j}\times 671^j=18641183976799059890101685381$

$\displaystyle 5^{10}-5\times 5^9\times 4\times 13^2+50\times 5^8\times 4^2\times 13^4=8918720703125$

$\displaystyle 5^{10}-5\times 5^9\times 4\times 13^2+25\times 5^8\times 4^2\times 13^4=4456064453125$

$\begin{align}&18641183976799059890101685381-8918720703125 \\ &=2^4\times 3^2\times 13^4\times 37399203419\times 121192359061\end{align}$

$\begin{align}&18641183976799059890101685381-4456064453125 \\ &=2^7 \times 13^6 \times 728843 \times 41397052690471\end{align}$

と確かに間違っていることがわかります。

その後はこの計算ミスを引き継ぐことになりますが、それ以外には追加のミスは起こしません。その結果、(A)は間違えた合同式になっており、一方で、(B)はこのミスの式と無関係に得られるため、正しい合同式です。

山田氏の計算ミスを修正すると、何が得られるか

何も得られない。

というのも、先ほど発覚したミスの部分を正した上で(A)を得る計算を実行すると、

$r^{p-3}a+2T+\frac{3-p}{2}r^{p-4}a^2p^{n-1}\equiv 0\pmod{p^{2n-3}}.\tag{A'}$

になるからです（強いていうならば、この合同式が唯一の結果でしょう*6）。

(A)-(B)によって $n=2$ が導けるというのが著者の主張でしたが、(A)は間違っていて正しくは(A')であるため、(A')-(B)が正しい結論となり、それは

$0\equiv 0\pmod{p^{2n-3}}$

という合同式なのです。

所感

数学というのはある意味で恐ろしい学問であり、１箇所たりともミスが許されないということがわかります。

読んだ「第二の場合」の部分で間違えているのは「１箇所 $2$ で割り損ねた」（あるいは括弧をつけ間違えた）だけなのです。

ですが、そのたったの１箇所により、"all or nothing" を分けていることがわかりました。

先ほど、「殆どの箇所において数学的に正しい」と述べましたが、そのことは「解けているかもしれない」という期待を査読者に思わせることには全く貢献しません。

プロの数学者が気にすることは「やっている議論が自明か非自明か」ということです。正しくとも真に自明なことしかやっていなければ、大抵は結論も自明となるはずです。

何か、普通でない、非自明な技をやっていれば「お、これは何かを証明しているに違いない」という気がしてきます。

そのような本質的なアイデアに基づいていれば、 $2$ で割るのを１箇所忘れるぐらいでは結論には響かないこともあり得ます。

ですが、今回やっていることはAbelの定理から得られる整数たちに極めて初等的な合同計算を組合せているだけであったため（それで何か分かるならAbelがやっているはず）、10ページ正しい議論が続いていたとはいえ、「もしかしたら合っているのでは。。。」となる瞬間は一瞬たりとも現れませんでした。そして、私の予想通り、間違いが見つかりました。

【謝辞】
著者所属先にタイポがありました。申し訳ございません。ご指摘くださったMarriageTheorem氏に感謝申し上げます。

*1:「フェルマー予想」や「フェルマーの最終定理」とも呼ばれます。この記事で扱う書籍が「フェルマー大定理」としていることと、でも「の」を入れた方がしっくりくるという個人的理由により「フェルマーの大定理」と表現することにしています。

*2:他にも、arXivで General Mathematics に分類されているとか。

*3:Wilesによる証明はこの場合分けが不要なものでした。

*4:これが単なる思い込みである可能性は否定はしませんが。

*5:読む前にはわからないけれど、読むことによってわかってきた印象です。

*6:Wilesの結果によって、実際はこの合同式は存在しませんが。

INTEGERS

数、特に整数に関する記事。