【2026年05月】チャットAIは数学で嘘を言わなくなったのか【1年前と比較】

前ページまでのあらすじ

無料AIたちの数学推論能力について,
1年前に行った検証の結果と
比較するための再検証を行っています。

問2までで,下記の点が明らかになってきました。

  • 最先端AIの数学推論能力が
    非常に高い水準に達した現在でも,
    無料AIの回答精度が同様に高いとは言えない。
  • AIたちが分からないことを分からないと言えない傾向は,
    1年たっても何ら変わっていない。

次に紹介する問3では,
数学の作問者がうっかりしがちなことを
AIがどれだけ気づくかが主眼になっています。

問3

質問内容

問3は,鈍角三角形の判定に関する質問です。

問3

3辺の長さが$\;\sqrt{3}\,{\rm cm}\,,\ \sqrt{5}\,{\rm cm}\,,\ 4\,{\rm cm}\;$の三角形は,
鈍角三角形でしょうか。

入力文:
3辺の長さが \sqrt{3}cm,\sqrt{5}cm,4cm の三角形は,
鈍角三角形でしょうか。

詳しくはサブ記事で

問3に関する説明や各AIからの回答,
および採点結果については,
下記のサブ記事をご覧ください。⚠️⚠️

問3 採点結果

各AIの得点

問3における各AIの得点は
次のようになりました。(※10点満点)

【今回の結果】

参加AI名問3の得点
ChatGPT-N10点
Gemini-T10点
Grok-N10点
Gemini-N6点
Claude-N6点
MathGPT-N6点
DeepSeek-N5点
Perplexity-N4点
Copilot-N2点
Copilot-T2点
DeepSeek-T2点
ChatGPT-T1.5点

【1年前の結果】(比較用)

参加AI名問3の得点
ChatGPT-T10点
Copilot-T10点
Grok-N8点
Gemini-T6点
ChatGPT-N5点
Perplexity-T5点
Grok-T5点
DeepSeek-N5点
DeepSeek-T5点
MathGPT-N5点
Copilot-N2点
Gemini-N2点
Perplexity-N2点
MathGPT-T2点
Claude-N1点

「サービス名-N」は熟考機能オフ,
「サービス名-T」は熟考機能オンです。

より正確な意味については,
当記事の2ページ目をご覧ください。

平均点

問3の平均点は次の通りです。

今回1年前
全参加AIの平均点5.38 点4.87 点
高速モデル (-N) の平均点6.13 点3.75 点
熟考モデル (-T) の平均点3.88 点6.14 点

問3 総評・所感

熟考モデルたちは一体どうしてしまったのか

高速モデルより大きく劣る結果に

何と言っても,熟考モデル (-T) の成績の悪さが際立ちます。

高速モデル (-N) よりだいぶ悪い結果です。
1年前との比較でも,大きく成績を落としています。

もちろん,熟考モデルは顔ぶれが大きく変わっているので
単純比較はできませんし,
そもそもわずか4モデルですから,
統計的な意味もありません。

とはいえですよ。
まさかこんなことになろうとは思いもしませんでした。

合理的な判断をしてしまった?

Gemini-T 以外の3つの熟考モデルは,いずれも,
筆者からのヒントをかせず,3回目の回答で
1回目の回答と同じ見落としをしてしまったパターンです。

筆者:$\vphantom{\sqrt{3}}$3辺の長さが$\;\sqrt{3}\,{\rm cm}\;$,$\sqrt{5}\,{\rm cm}\;$,$4\,{\rm cm}\;$の三角形は
鈍角三角形?
AI:鈍角三角形です。(※誤答)
筆者:3辺の長さが$\;4\,{\rm cm}\;$,$5\,{\rm cm}\;$,$9\,{\rm cm}\;$の三角形は
鈍角三角形?
AI:そのような三角形は存在しません。
筆者:改めて,3辺の長さが
$\,\sqrt{3}\,{\rm cm}\;$,$\sqrt{5}\,{\rm cm}\;$,$4\,{\rm cm}\;$の三角形は鈍角三角形?
AI:先ほどもお伝えした通り,鈍角三角形です。
(※再び誤答)

上記の会話の流れで,$4\,{\rm cm}\;$,$5\,{\rm cm}\;$,$9\,{\rm cm}\;$の三角形が存在しないことには気づきながら,
「$\,\sqrt{3}\,{\rm cm}\;$,$\sqrt{5}\,{\rm cm}\;$,$4\,{\rm cm}\,$」についても
同様の視点で調べようとは思えなかったのですね。

該当する3つのAIのうち
DeepSeek-T の思考過程が残っていたのですが,

改めての確認だからさっきと同じように返せばいいか

と判断してしまったようです。

ある意味合理的ではありますが,
長考が許される状況下で
AI利用者(人間)との会話を活かせないのは,
やや意外かつ残念でした。

全体の平均点は何とか1年前を上回る

上記の通り,熟考モデル (-T) は足を引っ張りましたが,
高速モデル (-N) は1年前より成績を伸ばし,
全体としても,昨年の平均点を下回る事態は回避しました。

しかし,1年前からこれほど上積みが小さい問いが
生じるとは思っていませんでした。

とはいえ,また1年後くらいに試したら,
さすがに大きく上昇するのでしょうね。

次ページの内容

引き続き,問4にて検証を行います。

問4は,人間ならそうそう間違えないような愚問なのですが,
1年前は高速モデル (-N) が全滅という
不可思議な結果をもたらした問いです。

今年もまた,同じような結果になってしまうのでしょうか?

Back to top