前ページまでのあらすじ
無料AIたちの数学推論能力について,
1年前に行った検証の結果と
比較するための再検証を行っています。
問2までで,下記の点が明らかになってきました。
次に紹介する問3では,
数学の作問者がうっかりしがちなことを
AIがどれだけ気づくかが主眼になっています。
問3
質問内容
問3は,鈍角三角形の判定に関する質問です。
3辺の長さが$\;\sqrt{3}\,{\rm cm}\,,\ \sqrt{5}\,{\rm cm}\,,\ 4\,{\rm cm}\;$の三角形は,
鈍角三角形でしょうか。
入力文:
3辺の長さが \sqrt{3}cm,\sqrt{5}cm,4cm の三角形は,
鈍角三角形でしょうか。
詳しくはサブ記事で
問3に関する説明や各AIからの回答,
および採点結果については,
下記のサブ記事をご覧ください。
問3 採点結果
各AIの得点
問3における各AIの得点は
次のようになりました。(※10点満点)
【今回の結果】
| 参加AI名 | 問3の得点 |
|---|---|
| ChatGPT-N | 10点 |
| Gemini-T | 10点 |
| Grok-N | 10点 |
| Gemini-N | 6点 |
| Claude-N | 6点 |
| MathGPT-N | 6点 |
| DeepSeek-N | 5点 |
| Perplexity-N | 4点 |
| Copilot-N | 2点 |
| Copilot-T | 2点 |
| DeepSeek-T | 2点 |
| ChatGPT-T | 1.5点 |
【1年前の結果】(比較用)
参加AI名 問3の得点 ChatGPT-T 10点 Copilot-T 10点 Grok-N 8点 Gemini-T 6点 ChatGPT-N 5点 Perplexity-T 5点 Grok-T 5点 DeepSeek-N 5点 DeepSeek-T 5点 MathGPT-N 5点 Copilot-N 2点 Gemini-N 2点 Perplexity-N 2点 MathGPT-T 2点 Claude-N 1点
「サービス名-N」は熟考機能オフ,
「サービス名-T」は熟考機能オンです。
より正確な意味については,
当記事の2ページ目をご覧ください。
平均点
問3の平均点は次の通りです。
| 今回 | 1年前 | |
|---|---|---|
| 全参加AIの平均点 | 5.38 点 | 4.87 点 |
| 高速モデル (-N) の平均点 | 6.13 点 | 3.75 点 |
| 熟考モデル (-T) の平均点 | 3.88 点 | 6.14 点 |
問3 総評・所感
熟考モデルたちは一体どうしてしまったのか
高速モデルより大きく劣る結果に
何と言っても,熟考モデル (-T) の成績の悪さが際立ちます。
高速モデル (-N) よりだいぶ悪い結果です。
1年前との比較でも,大きく成績を落としています。
もちろん,熟考モデルは顔ぶれが大きく変わっているので
単純比較はできませんし,
そもそもわずか4モデルですから,
統計的な意味もありません。
とはいえですよ。
まさかこんなことになろうとは思いもしませんでした。
合理的な判断をしてしまった?
Gemini-T 以外の3つの熟考モデルは,いずれも,
筆者からのヒントを活かせず,3回目の回答で
1回目の回答と同じ見落としをしてしまったパターンです。
| 筆者:$\vphantom{\sqrt{3}}$ | 3辺の長さが$\;\sqrt{3}\,{\rm cm}\;$,$\sqrt{5}\,{\rm cm}\;$,$4\,{\rm cm}\;$の三角形は 鈍角三角形? |
| AI: | 鈍角三角形です。(※誤答) |
| 筆者: | 3辺の長さが$\;4\,{\rm cm}\;$,$5\,{\rm cm}\;$,$9\,{\rm cm}\;$の三角形は 鈍角三角形? |
| AI: | そのような三角形は存在しません。 |
| 筆者: | 改めて,3辺の長さが $\,\sqrt{3}\,{\rm cm}\;$,$\sqrt{5}\,{\rm cm}\;$,$4\,{\rm cm}\;$の三角形は鈍角三角形? |
| AI: | 先ほどもお伝えした通り,鈍角三角形です。 (※再び誤答) |
上記の会話の流れで,$4\,{\rm cm}\;$,$5\,{\rm cm}\;$,$9\,{\rm cm}\;$の三角形が存在しないことには気づきながら,
「$\,\sqrt{3}\,{\rm cm}\;$,$\sqrt{5}\,{\rm cm}\;$,$4\,{\rm cm}\,$」についても
同様の視点で調べようとは思えなかったのですね。
該当する3つのAIのうち
DeepSeek-T の思考過程が残っていたのですが,
改めての確認だからさっきと同じように返せばいいか
と判断してしまったようです。
ある意味合理的ではありますが,
長考が許される状況下で
AI利用者(人間)との会話を活かせないのは,
やや意外かつ残念でした。
全体の平均点は何とか1年前を上回る
上記の通り,熟考モデル (-T) は足を引っ張りましたが,
高速モデル (-N) は1年前より成績を伸ばし,
全体としても,昨年の平均点を下回る事態は回避しました。
しかし,1年前からこれほど上積みが小さい問いが
生じるとは思っていませんでした。
とはいえ,また1年後くらいに試したら,
さすがに大きく上昇するのでしょうね。
次ページの内容
引き続き,問4にて検証を行います。
問4は,人間ならそうそう間違えないような愚問なのですが,
1年前は高速モデル (-N) が全滅という
不可思議な結果をもたらした問いです。
今年もまた,同じような結果になってしまうのでしょうか?