【2026年05月】チャットAIは数学で嘘を言わなくなったのか【1年前と比較】

前ページまでのあらすじ

前ページまでで,具体的な質問を用いた
各AIの数学推論能力の検証が終了しました。

以下,各AIの総合成績の発表と
検証の総括を行います。

各AIの総合成績

総合成績の定義

前ページまでで,問1から問5までの質問を
りすぐりのAIたちに回答してもらい,
それぞれの回答について正確性や説明力を
各問10点満点で評価してきました。

各AIについて各問の点数を合計すると
50点満点になるわけですが,
それを2倍して100点満点とし,
各AIの総合成績とします。ℹ️

総合成績発表

それでは皆様,お待たせしました。
全参加AI(12モデル)の総合成績の発表です。

今回の結果(2026年 5 月)

参加AI名問1問2問3問4問5総合
成績
Gemini-T101010101050.0100
MathGPT-N1010610945.090
DeepSeek-T109.526.58.536.573
Claude-N109.566.5436.072
ChatGPT-T3101.510832.565
Grok-N9.51104.5732.064
DeepSeek-N9.57.558.50.531.062
Gemini-N101062.5129.559
Copilot-T101.5210326.553
ChatGPT-N102103126.052
Copilot-N022101024.048
Perplexity-N10343020.040
平均(高速モデル)8.635.636.136.004.0630.460.9
平均(熟考モデル)8.257.753.889.137.3836.472.8
平均(全体)8.506.335.387.045.1732.464.8

参加AI名は当サイト独自の呼称です。

上記の参加AI名は,
当サイトが便宜的に使用している呼称です。
以下の点にご注意ください。ℹ️️

  • 末尾が「-N」となっているAIモデルは,熟考機能をオフにしたもの。
  • 末尾が「-T」となっているAIモデルは,熟考機能をオンにしたもの。
  • 例えば「Gemini-T」は,一般的に「Gemini」と呼ばれているAIの
    熟考機能をオンにしたものです。

それぞれのAIにおける「熟考機能」の
より正確な意味については,
2ページ目をご覧ください。

比較用として,1年前の結果も載せておきます。

1年前の結果(2025年 5 月)

参加AI名問1問2問3問4問5総合
成績
Gemini-T109.5699.544.088
MathGPT-T10102102.534.569
ChatGPT-T341010734.068
Grok-T9.5658129.559
DeepSeek-T100.5510126.553
Copilot-T102103126.052
Perplexity-T101.559025.551
DeepSeek-N10752.50.525.050
Grok-N90.583424.549
Gemini-N102.5230.518.036
MathGPT-N2652.50.516.032
ChatGPT-N80.551.5015.030
Copilot-N01.525.509.018
Perplexity-N01.52216.513
Claude-N101406.012
平均(高速モデル)5.002.443.753.000.8115.030.0
平均(熟考モデル)8.934.796.148.433.1431.462.9
平均(全体)6.833.534.875.531.9022.745.3

再検証の総評

やはり熟考機能は有効と見てよい

1年前の結果は,熟考機能の効果が
非常に鮮明だったと言えるでしょう。

それに比べると,今回の結果は,
熟考機能の効果がぼやけた感があります。

特に問3は,熟考モデル (-T) は一体どうしてしまったのかと
思ってしまうような結果です。

とはいえ,総合成績で比較するなら,
高速モデル (-N) と熟考モデル (-T) の
両方で参加している全てのAI(4製品)で,
熟考モデルが高速モデルを上回っています。

その結果を踏まえると,やはり

数学の質問に対する回答精度を高めるのに
熟考機能は有効である

と考えてよいと思います。

高速モデルと熟考モデルの差がはっきりしなくなった要因

今回は,Grok-N や ChatGPT-N など,
難しい質問だと判断した場合は
自主的に長考する高速モデルも出てきました。ℹ️

逆に,ChatGPT-T は,
熟考機能を明示的にオンにした状態であるにもかかわらず,
長考してくれない場面が目立ちました。

これらのことも,高速モデル (-N) と熟考モデル (-T) の差が
はっきりしなくなった要因かと思います。

細かい順位に意味はない

1年前にも似たような注意書きをしましたが,
大事なことなので改めて記します。

運次第で成績はかなり上下する

総合成績発表直後にこういうことを言うのは
変かもしれませんが,
細かい順位に意味はないと思います。

5問しか調べず,しかも一発勝負ですからね。
統計学的には明らかにサンプル数が少なすぎです。

例えば,上から5番目の成績となった ChatGPT-T ですが,
問1で不覚をとらなければ,もっと好成績だったでしょう。

筆者が何度か試した限りでは,ChatGPT-T は,
同種の因数分解の問題において,
少なくとも8割程度の確率で正答を返します。

しかし,筆者が「次の回答で採点する」と決めてから
質問を送信すると,なぜか間違えてしまうのです。
(1年前も今回も)

ChatGPT-T が順当に問1で正解し,
「3点」が「10点」に変われば,
総合成績は14点アップで79点となり,
全体3位に浮上します。

運次第でそれくらいは簡単に
変わってしまう成績だということです。

1年前との「全体的な比較」が趣旨

もともと,この検証の趣旨は,
数学推論能力が優れたAIを
見つけることではありません。

よく使われているチャットAIの
数学推論能力の現在地を感じていただくために
行った検証です。

今回は2回目であり,
前回との比較のための簡易検証ですが,
どのAIが大きく進歩したかについて
1年前と比較検討する意図はあまりありませんでした。

広く使われている無料のチャットAIたちは,
数学の質問に対し,間違った回答を返してしまうことを
どの程度防げるようになったのか。

特に,分からないことを分からないと
言えるようになったのか。

それらの観点で,無料AIの全体的な進歩を測ることが
本来の趣旨です。

1年前よりは良くなった

1年前に比べると,
AIの全体的な正答率は上がっています。

しかし,分からないことを分からないと
言える方向には進歩していないように感じます。

1年前も今回も,AIたちは,多くの場合,
間違える時は自信たっぷりに間違えました。

数学が得意ではなく,最低限の労力で
数学の学習を進めたい学生や社会人としては,
AIが吐き出したもっともらしく不正で長い回答に
付き合わされてはたまりません。

それがごくまれにしか起きないなら許容できるかもしれませんが,
現状では,ほとんどの無料AIにおいて,
許容できない確率で起きると考えるべきでしょう。

したがって,大半の無料AIは,

数学の相談相手として
まだ全面的に信用できるほどではない

と評するのが妥当だと思います。

ただ,すぐ後に述べるように,
Gemini-T だけは例外と言えるかもしれません。

個々のAIについて補足

当ページは検証全体の総括の場ではありますが,
個々のAIについて補足しておきます。

Gemini-T(88点 → 100点)

Gemini Pro は実用に堪える水準かも

1年前の時点で別格感が漂っていた Gemini-T ですが,
ついに満点を獲得するに至りました。

もっとも,解けて当然の問1や問4を含む構成で
満点だったからと言って,
そのAIは完璧だと評するのは,
早合点にもほどがあります。

しかし,実際のところ,Gemini-T すなわち Gemini Pro は,
数学でそう簡単には間違えなくなったと言っても
過言ではないかもしれません。

ともすればAIの過信につながりかねない評価ですので,
このような発言には慎重でありたいと思っていますが,
そう評さざるをえないほどの精度です。

少なくとも,筆者くらいの能力では,
数学で Gemini Pro を間違えさせるのは
相当難しくなっています。

とはいえ,やはりまだ完全無欠ではないようです。
そう感じた理由は次ページ以降で述べます。

今回参加してもらったAIのうち,
数学で間違えさせるのが難しいと感じるのは
Gemini-T すなわち Gemini Pro のみでした。

Gemini Pro は,
現在無料で使えるAIの中ではダントツだと思います。

無料公開対象でない上位モデルのAIを含めると
違うのかもしれませんが。

もちろん,盲信は禁物

これだけ正確性が上がると,
実用的に数学の相談相手として成立すると思います。

ただ,それでも,
Gemini Pro が数学で間違える可能性は
頭に入れておくべきでしょう。

わずか1年前までは完璧にほど遠かったのですから,
今でも大きな弱点が潜んでいる可能性は低くない
考えた方が安全です。

MathGPT-N(32点 or 69点 → 90点)

短い思考時間でまずまずの精度

1年前は存在した明示的な熟考機能がなくなり,
個人的には懐疑的だった MathGPT ですが,
大きく成績を伸ばしました。

思考時間はしっかり記録していないので
はっきりしたことは言えませんが,
現在の MathGPT には,次のような傾向を感じています。

MathGPT の思考時間

  • じっくり考えるべき質問かを自分で判断する。
  • 考える時も,大長考はあまりない。
    (多くの場合10秒以内?)

つまり,

比較的短い思考時間で
まずまずの精度の回答を返せるようになった

と言えそうな気がしています。

素晴らしい進歩だと思います。

Gemini Pro ほどの堅牢さはない

本検証では満点に近づいてきた MathGPT ですが,
先ほども述べたように,
解けて当然の問1や問4を含んでいるので,
仮に本検証の総合成績が満点でも,
安心して数学教育に使えるとまでは言えません。

そして実際,MathGPT は,
AIが苦手そうな質問を色々出してみると,
短い思考時間のわりにはまともな回答が多いので
感嘆させられますが,
やはりそれなりの頻度で間違えます。

ちょうどよい実例が次ページにありますので,
ぜひご覧ください。

先に挙げた Gemini Pro は,
問1~問5以外の質問でもほとんど間違えず,
もはや数学で間違えさせるのが難しいと感じます。⚠️

一方,MathGPT はまだその領域には達していないようです。

全く実用に堪えないことはありませんが,
数学の学習者が MathGPT を利用するなら,
的外れな回答が表示される可能性を
かなりの程度警戒しながら使う必要があります。

回答や動作の傾向は$\;$Gemini$\;$と似てるかも…?

問1~問5に限らず,色々な質問への回答を観察していると,
MathGPT には Gemini と似た傾向を感じるのですが
気のせいでしょうか?

根拠 … と言うには弱いですが,
そう感じた理由を挙げてみます。

  • 本検証の問1にて,実数範囲での因数分解に使う
    「$\,\dfrac{3\pm\sqrt{57}}{2}\,$」を持ち出す際に,
    方程式$\;x^2-3x-12=0\;$との関連を明示したのが,
    正式参加AIの中では
    Gemini-N ,Gemini-T ,MathGPT-N だけだった。ℹ️️
  • 本検証の問3(鈍角三角形)にて,一度は間違え,
    筆者からのヒントにより修正できた点が
    Gemini-N と共通する。
    自身の回答の間違いについてしっかり謝る点まで一緒。
  • 本検証の問1~問5において,
    後述する Gemini の「思考モード」と
    得点パターンが一緒。(問3のみ大きく失点)
  • (当記事では触れませんが)
    やや複雑な図形問題の作問をお願いしてみると,
    Gemini Pro が作成した問題と
    よく似た図を用いる問題を提示してくれた。ℹ️️
  • 前項の作問において,「下の図のように」と言いつつ
    図の表示を省略してしまった。
    この動作は,当記事執筆時期の Gemini でも
    何度か見られた。

これらの類似点から,筆者は勝手に,

MathGPT は Gemini がベースになっていたり
するのだろうか?

と想像しています。ℹ️

少しの時間だけ考えるけれども
大長考はしないように設定した Gemini は
MathGPT のようになりそうな印象です。

思考時間をもっと伸ばしてもよいかも

先ほど述べたように,MathGPT は,
比較的短い待ち時間で,
まずまずの精度の回答を示してくれるようです。

ただし,不適切な回答や不十分な回答も
少なからず見られます。

待ち時間の短さは利用者の利益との考えから
このような仕様になっているのかもしれませんが,
個人的には,思考時間をもっと長くして,
間違える確率をさらに低くするとより良いかと
思っています。

たとえAIが回答を出すのに数分間かかっても,
数学の質問者は待てると思うので。

実際,人間の学習者が数分ないし数十分悩んで
解けなかった問題をAIに質問して,
AIが正しく分かりやすい回答を返してくれるなら,
その回答に数分間かかったとしても,
十分にありがたいでしょう。

AIの回答を待つ学習者は,待ち時間が少々長くても,
その問題について考え続ける,
他の問題を解く,ひと休みしてお茶するなど,
待ち方はいくらでもあります。

最もまずいのは,AIが回答を急いで
誤った解説を示すことです。

それを読まされる人間は,
少なくとも時間と気力を浪費させられ,
悪い場合には誤解を植え付けられてしまうのですから。⚠️

「学習モード」はさらに条件が厳しい

上に述べたのは,1回の質問に対して
AIが最初から最後まで一気に説明する
通常モードの話です。

最近は,学習者とAIが対話を通じて
学習を進めるモード(以下「学習モード」)が搭載された
AIチャットが増えていますが,
それはまた別に考える必要があるでしょう。

会話のキャッチボールの中で,
AIが毎回数十秒かそれ以上考えるようでは,
人間側がつらいですから。

もちろん,学習モードであれば
正確性を欠いてよいわけではないので,
長考するかの判断は
通常モードより難しそうな気がします。

ChatGPT-T(68点 → 65点)

再検証前倒しは ChatGPT のニュースがきっかけだった

本検証は,1年前に第1回を行い,

無料で使えるAIは,
数学教育に使うには全然精度が足りない

という結論を得ました。

そして,仮に次回の検証を行うとしても,
早くても2年後くらいの感覚でした。

しかし,当記事冒頭で示した下記のニュースを見て
早めたという経緯があります。

AI、東大と京大「首席合格」 「チャッピー」最高得点(共同通信) – Yahoo!ニュース
今年実施された東大と京大の入学試験問題を生成人工知能(AI)「チャットGPT」に解かせると、合格者の最高得点を上回り「首席合格」を果たしたことが27日、AIベンチャーのライフプロンプト(東京)の分
AI、東大と京大「首席合格」 「チャッピー」最高得点
今年実施された東大と京大の入学試験問題を生成人工知能(AI)「チャットGPT」に解かせると、合格者の最高得点を上回り「首席合格」を果たしたことが27日、AIベンチャーのライフプロンプト(東京)の分析 …

このニュースによると,ChatGPT は,
東大入試の数学で満点を獲得したとのこと。

もし,このニュースが示唆する通り,
数学におけるAIの精度向上が著しいなら,
当サイトで行った1年前の検証の結論は
妥当でなくなっている可能性があります。

ゆえに放置するわけにもいかず,
行うとしても来年以降と思っていた再検証を
前倒しする必要に迫られたわけです。

ふたを開けてみると,ChatGPT の成績は下がってしまった

今回の検証に先立って,ChatGPT の能力を探るべく,
比較的難しいと思われる問題を何問か出してみると,
1年前に比べて,ChatGPT の解答能力は
かなり高まっているように感じられました。

これなら,今回の ChatGPT-T(熟考機能オン)は,
前回は後塵を拝した Gemini-T にも
対抗できるかとさえ思いました。

しかし,ふたを開けてみると,
ChatGPT-T は,前回の総合得点を下回るという,
拍子抜けな結果に終わったわけです。

特に,今回の ChatGPT-T が問1の因数分解で
まさかの誤答を吐き出した時の衝撃と脱力感は忘れません。

また,前回は満点だった問3でも,
一度間違えた後に筆者から出されたヒントにも気づかず,
正式参加の全AI(12モデル)の中で
最低点となってしまいました。

必ずしも ChatGPT の能力が下がっているわけではない

もちろんこの結果は,ChatGPT の能力低下を
示しているわけではありません。
能力の伸び悩みを示唆しているとも言えないでしょう。

ただ,本検証において,
順当なら1年前より点数が伸びそうなところを,
逆に下がったのは事実です。

筆者は,無料版 ChatGPT で熟考機能をオンにした場合
(本検証の ChatGPT-T )の動作や能力について,
次のような仮説を立てています。

無料版 ChatGPT の現状(仮説)

  • 熟考機能利用時の計算資源の消費量を
    1年前より絞っている?
  • 難問の解決能力は伸びたけれども,
    つまらないミスをする確率は
    あまり下がっていない?

これら2つの仮説は,
もしかしたら根っこが同じかもしれません。

1年前は,熟考機能をオンにした ChatGPT は,
結構長時間考えるイメージがありました。

一方,今年の検証時期および当記事執筆の時期
(2026年 5 ~ 6 月)に数学の質問を行うと,
長時間考えるケースもあるものの,
ほんのわずかな時間(1~3秒とか)で答える割合が
だいぶ増えた感があります。

簡単な問題ならすぐに答えたいという意向は
以前からあったのでしょうが,
その意向を1年前より強く感じます。

それが災いして,
しっかり考えるべき問題を簡単だと予断して即答し,
間違えてしまう傾向も強まったのではないかと
考えるわけです。ℹ️️

上記は仮説に過ぎませんが,そのように考えると,

難問の解決能力は順調に伸びたけれども
つまらないミスをする確率は依然として高い

という現状を説明できそうな気がします。

ChatGPT$\;$の熟考機能はオンでもオフでもあまり変わらない?

2026年 6 月時点の ChatGPT は,
熟考機能はオンでもオフでも,難問を解く能力は
以前より上がっていると言えると思います。

熟考機能オフでも,難しい質問と判断したら
自主的に長考するようですので。⚠️

すなわち,熟考機能がオンの時とオフの時の動作が
だいぶ似通ってきているように感じています。⚠️

ChatGPT$\;$の熟考機能が隠し機能になってしまった

2026年 6 月末に改めて ChatGPT を確認してみると,
熟考機能がクリック1つでは
表示できなくなっていました。

1文字も入力していない質問入力欄に
「/」(スラッシュ)を入力すると
隠し機能が表示されるのですが,
そこからなら選べるという状態です。

熟考機能の有効時と無効時で
違いが小さくなったような?とは思っていましたが,
熟考機能を引っ込めてしまうのは予想外でした。

筆者の主張の好例になってしまった

筆者が当記事を通して強調したいことは次の通りです。

数学教育へのAI活用の注意点

  • 我々一般人にとって重要なのは,
    最先端AIの能力ではなく,
    一般公開されているAIの能力である。
  • 数学において,難しい問題を解けるAIが
    簡単な問題で間違えないとは限らない。
  • 数学の学習相談相手として利用するAIは,
    難しい問題が解けることより,
    間違った理論をもっともらしく
    語らないことの方が大事。

ChatGPT は,1年前に比べて,
難しい問題を解く能力は格段に上がったと見て
間違いなさそうです。

しかし一方で,それほど簡単でない問題を
簡単だと誤認してしまう傾向が強まったのか,
つまらないミスが発生する確率は
あまり下がっていないように感じます。

おそらく,非公開ないし高額料金の最先端モデルであれば,
つまらないミスもしないのでしょう。

しかし,我々一般人が使うAIは,
一般公開されているAIです。

仮に,最先端AIが数学において完璧であったとしても,
一般公開モデルのAIが完璧からほど遠いなら,
一般の人がAIに数学の相談をする際は
当然警戒しなければなりません。

その警戒が,前掲のような,
AIの数学推論能力の高さばかりを強調するニュースによって
弱まることを懸念しているのです。

実際,この種のニュースを見て,

最近のAIは東大入試の数学も全部解けるのだから,
我々が普段使っている無料AIであっても,
数学の簡単な質問で間違えたりはしないだろう

と思い込んでしまっている人は
多いのではないでしょうか。ℹ️

その思い込みは極めて危ういと言いたいのです。

無料版を含む一般公開モデルのAIが
最先端モデルに比べて回答精度で劣るのは仕方がありません。

これは,利用者側が意識をしっかり持つべきことです。

今回の検証における ChatGPT の結果は,
筆者が主張したいことの
好例になってしまった感があります。

参考記録

ここでは,正式参加AIの別モデルや最新モデル,
今回は正式参加しなかったAIなどについて,
参考のために採点した結果を紹介します。

正式参加AIの別モデル,最新モデル

まずは,正式参加AIで選べる動作モードのうち,
今回は正式な採点対象として使わなかったモードや,
正式採点用の回答採取時期より後に
重要な仕様変更があったAIについてです。

Gemini(中間モデル)

Gemini(中間モデル)

正式採点対象の回答を各AIから採取した時期,
すなわち 2026年 5 月上旬の時点では,
Gemini に質問する際に選べるモードは
「高速モード」「思考モード」「Pro」3つでした。

ただ,その後仕様変更があり,
現在は上記の通りではなくなっています。

以下の記述は,少し古い仕様に基づくものですが
ご了承ください。

本検証では,「高速モード」を Gemini-N ,
「Pro」を Gemini-T として正式参加していただきました。

では,これらの中間の性能を持っていると思われる
「思考モード」はどの程度の精度なのかと
気になる方もいらっしゃるかもしれません。

Gemini が有力なAIであることは
1年前から分かっていたので,
今回は,正式採点対象の回答採取と同時に
「思考モード」でも回答を採取し,
採点を行っていました。

結果は下記の通りです。

問1問2問3問4問5総合成績
1010610104692

やはり素晴らしいですね。

実際,これらの5問以外の質問に対する回答を見ても,
「Pro」ほどの完成度かは分かりませんが,
信頼性はかなり高いように感じました。

Claude(熟考機能新設)

Claude(熟考機能新設)

少し複雑で設定に迷う新機能

最近,サイバーセキュリティー分野で
異次元の性能を誇ると言われる Mythos(ミュトス)
社会現象になっている Claude 。

これまでの Claude は,無料で使用する場合,
基本的に Sonnet というモデルのみが選択可能で,
長考させることはできませんでした。

Sonnet$\;$以外の選択肢

一時期,上位モデルの Opusℹ️️
無料で使用可能になったりもしましたが,
使用回数制限が非常に厳しかった上に
長続きしませんでした。

なお,正式採点用の回答を採取した時点で,
Haiku というモデルが選択可能でしたが,ℹ️️
これは軽量モデルであり,
Sonnet より精度が低いと思われるので,
検証対象としては考えませんでした。

しかし,正式採点用の回答採取時期を半月ほど過ぎた頃,
熟考機能に該当するものが追加されました。

しかも2種類です。

当記事執筆時点では,日本語で「工数」という項目があり,
「低」「中」「高」「最大」から選択できます。

さらに,「思考」という機能の
オン・オフを選択できるようになっています。

「工数」のデフォルト(初期設定)は「低」ですので,
おそらく,正式参加してもらった Claude-N は,
「工数」は「低」で「思考」はオフだったのでしょう。

2026年 7 月中旬に再確認すると,
「工数」は「高」と「最大」の間に「超高」が追加され,
デフォルトは「中」に変更されていました。

さらに,7月下旬には,
「工数」が「エフォート」に変化していました。
(本当に,どんどん変わっていきますね…)

本検証とは,機能追加のタイミングが合いませんでしたね。

本検証の正式な回答採取時期に間に合っていれば,
確実に Claude-T としてご参加いただいたところです。

しかし,正式参加はかなわなかったとはいえ,
これを試さずにはいられません。

設定の選択肢が多いですが,
どう設定するのが良いでしょうか。

質問入力画面で参照できる説明を読む限り,
「工数」の「最大」は
かなり無理をさせる設定のように見えるので,
今回は「高」を選択します。

かつ,「思考」をオンにします。

AIモデル自体は,Claude-N として
正式にご参加いただいたのと同じ「Sonnet 4.6」ですが,
長考の効果がどれだけ出るか,大変興味があります。⚠️

結果分析

採点結果は次の通りです。

問1問2問3問4問5総合成績
1031010104386

良い結果ではありますね。
問2以外は満点です。

この問2ですが,上記設定の長考版 Claude は,
間違った回答を返したわけではないのです。

回答が返ってこなかったのです。

10分以上考えてから次のようなメッセージを出し,
停止してしまいました。

どうも,割り当てられた計算資源を
使い切ってしまったようです。

その時は,問1を難なく処理した後の2問目でしたので,
実質的には問2を1問解くだけで
一時的な利用制限に達したと言えそうです。

もちろん,サーバーが正常に動作しないことだって
あるでしょうから,1回無回答だっただけで
試行を終了する気はないのですが。

4回試して4回とも同じ結果だったのです。
これは偶然ではないでしょう。⚠️

なぜ,無回答なのに0点ではない?

本検証の採点基準は,
数学を学習中の人が質問者である場合を想定し,

  • AIがいかに質問者の助けになるか
  • AIがいかに質問者に害を与えないか

を重要視します。

質問者にとって最も害が大きくなるのは,
AIが的外れな回答を返した場合です。

一部に誤記がある程度ならともかく,
完全に間違った推論を長々と語られた場合,
質問者の時間と気力は最も大量に浪費されます。

もちろん,質問者が誤解を植え付けられる危険性もあります。

無回答は,それに比べるとまだよいと言えます。
だから0点ではないのです。

採点基準では,さすがに完全無回答は
想定していませんでしたが,
他のケースの基礎点とも比較検討し,
問2への無回答は3点程度が妥当かと判断しました。⚠️

以下は状況からの推測ですが,上記の設定では,
Claude が自説の適切さに
かなりの程度確信が持てるまで回答を返さない仕様
なっているのだろうかと思いました。ℹ️

問2以外の4問は満点です。
おそらく,確信を持てる自説を用意できた時は,
極端に長考することなく回答を返せるのでしょう。

しかし問2は,いくら考えても
絶対に正しいという確証が持てなかったから
返答できなかったのだろうかと思うわけです。

無回答になってしまうのは問2だけではない

ちなみに,この設定で Claude が返答できなかった質問は
問2だけではありません。

他にも,いくつかの質問に対し,
同じ動作(大長考の末無回答)が確認できました。ℹ️

例えば,中学校の学年末試験に適した問題の
作問依頼を出してみると,無回答でした。

これは,数学的な正しさだけでなく
指導要領や難易度も考慮する必要があるので,
自分の回答が適切であると確信を持つのが難しい部類でしょう。

このように,何をもって自説の正しさを
確信すればよいか分かりにくい質問に対しては,
無回答になりがちな傾向が見受けられました。⚠️

この設定の Claude は,
思考精度はかなり高そうだと感じます。

ただ,苦手な質問に対しては回答できない場合があるという,
少し変わった弱点が残っているようでした。⚠️

上に述べたことは,
熟考機能リリース直後の Claude で
確認された動作です。

当記事リリース時点(2026年 7 月下旬)
この不具合が残っているかは分かりませんので
ご了承ください。

今回は正式参加しなかったAI

今回は正式に参加していただかなかったものの,
今後注目に値するAIについても触れておきます。

Mathos AI

Mathos AI

正式参加していただくべきだった

当記事の2ページ目で述べたように,
正式参加対象にしなかったことを筆者が後悔したAI
Mathos AI です。

昨年,同AIのウェブサイトを発見した際に
同じ5問を投じましたが,結果が低調だったため,
有力なAIではないと認識していました。

しかし,今回の正式採点対象の回答採取時期を少し過ぎてから
Mathos AI に同じ試行をしてみると,
かなり改善されていることが分かり,
これならご参加いただくべきだったと
後悔した次第です。⚠️

下位モードのみの参加が妥当かも

無料で利用する場合,
後述する下位モードと上位モードのうち,
上位モードは1日2回までという
厳しい質問回数制限がありますので,
無料で主力として常用するのは難しいでしょう。

本検証は「無料である程度利用できること」
参加条件の1つですので,
下位モードのみのご参加としていたかもしれません。

採点結果

Mathos AI には2つのモードがあるようで,
下位モードが「Pro」,上位モードが「Max」という
名称になっています。

それぞれについて回答を採取し,
採点してみました。

【下位モード:Pro 】

問1問2問3問4問5総合成績
1075.591041.583

【上位モード:Max 】

問1問2問3問4問5総合成績
107.5108.51.537.575

なかなかの成績ですね。
1年前とは比べものにならないほど進歩しているのは
間違いないと思います。

点数の逆転現象について

上位モード(Max)と下位モード(Pro)
点数が逆転していますが,
一発勝負では真の実力から
多少離れた結果が出ることも多いので,
上位モードが下位モードより優れていることを
否定する結果ではありません。ℹ️️

実際のところ,問1~問5以外の質問に対する
回答も含めて筆者の感覚で判断するなら,
確かに「Max」(上位モード)の方が
幾分いくぶん優れているように感じます。

図解には課題が残る

Mathos AI の特徴として,
非常に積極的に図解を試みることが挙げられます。

初等幾何の問題であっても,
座標平面上に図をいて説明しようとするのです。

その心意気は良いと思うのですが,
現状では発展途上と言わざるをえません。

具体的には,次のような事例が多々見られました。

  • 質問には正しく答えているのに,図が的外れ。
  • 意図した図を描けていると思われるが,
    あまり参考になる図とは言えず,
    回答を読む質問者の負担が増えているだけ。
  • 初等幾何の作図を座標平面上で表現しようとしたが,
    座標平面の縦と横で
    「1」に相当する長さが等しくないため,
    コンパスで描いた線を表すと思われる円が
    楕円になってしまっている。

上記の採点でも,回答を読む人にとって
図が邪魔になってしまっていると感じたケースでは
若干減点しています。⚠️

ちなみに,「Pro」の問5は満点となっていますが,
この問題でも Mathos AI は図解を試みたものの,
完全に失敗して全く図にならず,
ゆえに質問者の邪魔にならない状態だったため
減点なしにしたという経緯です。

筆者が見る限り,Mathos AI が示した図が
しっかり役に立つ確率は,
今のところかなり低そうだと感じました。

今後急速に進化するのでしょうが,
今すぐ使いたい人に対しては,

Mathos AI の図は,
明らかに適切で分かりやすいと
感じられるケースを除けば,
無視した方が良いかもしれない

とアドバイスしなければならない状態です。

Sakana Chat

Sakana Chat

1年前の調査時点で,
 Sakana AI  という日本企業の存在は
存じ上げていたのですが。

2026年 3 月下旬,同社が満を持して,
大規模言語モデルのAIチャットサービス
Sakana Chat を一般公開されたと聞きました。

つまり,数少ない国産チャットAIです。⚠️

サービス名:Sakana Chat
開発企業:Sakana AI
サービス開始:2026/03/24
ウェブサイト URL:chat.sakana.ai

頑張ってほしいですが,新興勢力ですから,
あまり期待しすぎるのも良くないかと思いながら,
一応回答を採取して採点してみました。
(採取時期は5月中旬か下旬)

問1問2問3問4問5総合成績
10022.50.51530

まあまだこんなもんか,という感じですね。
しかし,数学の話が通じないわけではないので,
これからに期待したいと思います。

Sakana Chat(熟考機能新設)

…と思っていたら。

2026年 6 月上旬に改めて確認してみると,
熟考機能が搭載されているではありませんか。ℹ️️

前述の回答採取を行った時点では
存在しなかったはずです。

数学の推論に熟考機能が極めて有効であることは,
1年前の検証でも明らかでした。
これは調べないわけにはいきません。

結果は次の通りでした。

問1問2問3問4問5総合成績
109.59.59.5543.587

ぎょっとするほどの好成績ですね。
公開後わずか2か月余りのAIがこの精度ですか。

しかもこの Sakana Chat ,
熟考機能オンでも思考時間が短いのです。⚠️

問5こそ30秒以上考えましたが,
残りの4問は5秒もかからなかったと記憶しています。

それでこの精度。
これは,今後に期待どころではないですね。

筆者が普段,実際に何かをAIに相談する際に
使っているのは ChatGPT と Gemini ですが,
そこに加えてもよいかもしれないと思ってしまいました。⚠️

問5もほぼ解けていたが

熟考機能をオンにした Sakana Chat は,
問5もほぼ解けていました。

ただ,四角形$\;\rm ABCD\;$の頂点の位置に関して,
(AI側が)円と楕円の話を持ち出した際,
少々理解度が疑われる記述があったので
追加質問で確認してみると,大きく崩れたのです。

円や楕円に触れなければ9点前後の回答だったので
もったいないですが,
より良い解説を目指した結果ですので,
名誉の負傷みたいなものでしょうか。

実力以上の点数が出た感はある

驚くほどの好成績だった Sakana Chat ですが,
忖度そんたく抜きで言うなら,実力を大きく上回る点数が
出てしまった感はあります。

問1~問5以外の質問を与えてみると,
もちろん正確に答えることもありますが,
拍子抜けするような間違いも多い印象です。

とはいえ,今後が楽しみなAIであることに
変わりはありません。

次ページの内容

1年前との比較検証という意味では以上であり,
ひとまず次のような結論を得ました。

  • 1年前に比べると,AIたちの数学推論能力は
    全体的に向上した。
  • 特に Gemini Pro  は,数学で間違える確率が
    非常に低くなったと考えてもよいかもしれない。

では,以上の検証結果をもって,
我々が普段使っている無料チャットAIも
数学の相談相手としてふさわしくなったと
言えるのでしょうか。

あるいは,そう言える日が着実に近づいていると
考えてよいのでしょうか。

その判断に一石を投じるため,
総合成績には含めませんが,
1問だけ延長戦を行いたいと思います。

既に採点した問1~問5は,質問を受けるAIが
自身の考えで検討の道筋や結論を決定できるよう,
なるべく先入観を与えない質問文にしたつもりです。

しかし,学習者からの質問文が,
いつも公平公正であるとは限りません。

次に紹介する問6は,質問者が質問文で
適切とは言えない方向にAIを誘導してしまった場合に,
AIたちが正しく対処できるかを試すものです。

総合成績には算入しない問6ですが,
本検証の最大の見どころかもしれません。

Back to top