前ページまでのあらすじ
最先端のAIなら,東大入試の数学でも
満点を獲得できるほどに進化した昨今。
しかし,我々一般人にとって重要なのは,
一般公開されているAIの精度です。
また,数学教育に使うためのAIは,
とにかく間違えないことが大事です。
学習者がAIに数学の相談をし,
AIが間違った推論をとうとうと語るようでは困るのです。
1年前,当サイトが独自に検証した限りでは,
一般公開されている無料AIの数学における正確性は
まだまだ全然だったと言ってよいでしょう。
その正確性は,1年でどれほど伸びたのか。
今回は1年前との比較検証ということで,
1年前と同じ問題を出して,
AIたちの回答の精度がどの程度高まったかを
確認していきます。
それでは,問1からスタートです。
問1
質問内容
まずは小手調べ,中3数学の因数分解です。
$x^2-3x-12\;$を因数分解してもらえますか?
入力文:
x^2-3x-12 を因数分解してもらえますか?
詳しくはサブ記事で
問1に関する説明や各AIからの回答,
および採点結果については,
下記のサブ記事をご覧ください。
問1 採点結果
各AIの得点
問1における各AIの得点は
次のようになりました。(※10点満点)
【今回の結果】
| 参加AI名 | 問1の得点 |
|---|---|
| ChatGPT-N | 10点 |
| Copilot-T | 10点 |
| Gemini-N | 10点 |
| Gemini-T | 10点 |
| Perplexity-N | 10点 |
| Claude-N | 10点 |
| DeepSeek-T | 10点 |
| MathGPT-N | 10点 |
| Grok-N | 9.5点 |
| DeepSeek-N | 9.5点 |
| ChatGPT-T | 3点 |
| Copilot-N | 0点 |
【1年前の結果】(比較用)
参加AI名 問1の得点 Copilot-T 10点 Gemini-N 10点 Gemini-T 10点 Perplexity-T 10点 DeepSeek-N 10点 DeepSeek-T 10点 MathGPT-T 10点 Grok-T 9.5点 Grok-N 9点 ChatGPT-N 8点 ChatGPT-T 3点 MathGPT-N 2点 Claude-N 1点 Copilot-N 0点 Perplexity-N 0点
「サービス名-N」は熟考機能オフ,
「サービス名-T」は熟考機能オンです。
より正確な意味については,
当記事の2ページ目をご覧ください。
平均点
問1の平均点は次の通りです。
| 今回 | 1年前 | |
|---|---|---|
| 全参加AIの平均点 | 8.50 点 | 6.83 点 |
| 高速モデル (-N) の平均点 | 8.63 点 | 5.00 点 |
| 熟考モデル (-T) の平均点 | 8.25 点 | 8.93 点 |
問1 総評・所感
さすがに簡単すぎる問題になってはきたが
前回は15モデル中5モデル(33%)が
誤った因数分解を提示してしまいましたが,
今回は12モデル中2モデル(17%)となりました。
さすがにもう,AIの力量を測る問題としては
易しすぎると言えそうです。
とはいえ,全員正解ではないのも事実。
特に,東大数学で満点を取ったと話題の ChatGPT が
今回も不覚をとったのは気になります。
しかも,熟考モデルである ChatGPT-T がです。
ChatGPT は因数分解が苦手なのか
ChatGPT の名誉のために明言しますが,同AIは,
高速モデル( ChatGPT-N )でも熟考モデル( ChatGPT-T )でも,
因数分解を高確率で間違えるわけではありません。
しかし,「次に得た回答を採点対象にする」と決めてから
質問を送信すると,ChatGPT-T はなぜか間違えてしまうのです。
今回,ChatGPT-T に対して事前に色々質問してみた限りでは,
回答精度はかなり高いように感じられたため,
本検証でも好成績になるとほぼ確信していました。
それだけに,問1に対する誤答を見た時は
絶句 してしまいました。
その後,何度か同じ質問をすると全て正しい答えを返したので,
誤答が採点対象になるのは心苦しい気もしましたが,
式を$\,$$\underline{\,x^2-13x-36\,}$$\,$に変更すると
コロッと間違えたりもしたので,
低い得点になっても文句は言えないかと,
気持ちが軽くなりました。
AIの能力はまだ疑ってかかるべき
重要なのは,ChatGPT の実力のほどを
正確に測定・把握することではありません。
それより,
という事実に注目すべきでしょう。
つまり,
というのは,危うい先入観でしかないわけです。
何度でも言いますが,筆者は,
AIの進化を否定したいわけではありません。
簡単な因数分解を間違えてしまうAIを
非難したり嘲笑したりする気もありません。
ただ,AIはもう数学では間違えないと
思い込んでいる人がかなり多そうだと感じられ,
危機感を抱いているだけです。
まだもうしばらくは,AIに数学の相談をする人であれ,
AIを活用して数学教材を作ろうとする人であれ,
AIが数学で間違える可能性を
念頭に置く必要はあると思います。
特に,粗悪AIを搭載した数学教材を
売りつけようとする悪徳業者が現れた場合,
利用者側がAIを過信していると,
粗悪な教材を掴まされる可能性が高まります。
そうならないよう,十分にご注意ください。
次ページの内容
1問目にして,筆者が今回の検証で言いたかったことは
ある程度言えた感もありますが,
残り4問についても見ていきましょう。
続きましては,1年前は驚くほど安易な誤答が
続出した図形問題です。
AIたちは,その誤答を
避けられるようになったのでしょうか?
そして,正答を得られるようになったのでしょうか?