バグではない。仕様だ。しかし、その人を笑う気にはならなかった。なぜなら、この誤解は驚くほど広く、しかも自然に生まれているからだ。
「読ませた」ものが残らない、その奇妙さ
その担当者がやったことを整理してみる。製品マニュアル約80ページ分をコピーしてChatGPTのチャット欄に貼り付け、「これを覚えておいて」と指示した。AIは「承知しました、内容を把握しました」と返した。だから覚えたと思った。当然の解釈だと思う。
ところが翌週、別のチャットを開いて質問すると、AIは何も知らない。前の会話のことも、マニュアルの内容も、まるごと消えている。
ここで多くの人が感じるのは「裏切られた」という感覚に近い。一度教えたのに忘れる。人間の部下なら無能扱いされるところだ。けれど、AIの内部では何も裏切りは起きていない。
現在の生成AI、たとえばClaude OpusやGPT-5系といった大規模言語モデル（大量の文章を学習して文脈に合う言葉を予測する仕組み）は、学習が終わった「完成品」として出荷されている。工場でいえば、出荷時点で性能が固定されたエンジンのようなものだ。あなたがどれだけ話しかけても、そのエンジンの設計が変わることはない。
会話中に内容を「把握」しているように見えるのは、その会話の枠（コンテキストウィンドウと呼ばれる作業机のような領域）の中に文章を一時的に並べているだけで、机の上を片付ければ綺麗さっぱり消える。覚えているのではなく、目の前に開いているだけだ。
なぜ「学習し続ける」と感じてしまうのか
ここからが本題になる。仕組みがそうなっているのに、なぜ「使えば使うほど賢くなる」という誤解はこれほど自然に湧くのか。観察していると、理由は一つではなく、三つほどが重なっている。
一つ目は、言葉そのものの罠だ。「機械学習」「ディープラーニング」「AIが学習する」という表現が、すでに世間に浸透している。学習という言葉を聞けば、人間は自分の学習経験を重ねる。昨日できなかった漢字が今日書ける、あの感覚だ。AIの「学習」は工場での製造工程を指していて、あなたとの会話を指していない。だが同じ単語が使われている以上、誤読は避けられない。
Medium上のAI論考でも、Tom Seipleという書き手がAIの言語表現が「魔法」や「エージェント」と過度に修辞化されている問題を指摘していた（medium.com、2026-06確認）。数学的な処理を、人間の直感に寄せた言葉で語った結果、概念そのものが誤って伝播する。「学習」もその一つだろう。
二つ目は、チャットボットの応答が人間そっくりだからだ。AIは「先ほどおっしゃった件ですね」と前の発言を踏まえて返す。同じ会話の中なら机の上に文章が残っているので、これは成立する。しかし人間の脳は、文脈を踏まえた応答を見ると「記憶している相手」だと判断するようにできている。相手が人間か機械かを区別する前に、社会的な反応が先に出てしまう。中野信子的に言えば、人間は相手の内部構造より、表面の振る舞いで「理解されている」と感じる生き物なのだ。
三つ目は、実際にメモリ機能が一部実装され始めていることだ。ここがややこしい。最近のChatGPTやClaudeには、ユーザーの好みや過去のやり取りを別領域に保存する機能がついた。「あなたは製造業の経理担当」といった設定を覚えておく仕組みだ。これがあるせいで、「やっぱり覚えるんじゃないか」という印象が補強される。
しかしこれは、モデル本体が賢くなっているのではない。あなた専用のメモ帳に付箋を貼り、会話のたびにその付箋を机に出しているだけだ。モデルの能力そのものは出荷時から1ミリも変わっていない。付箋が増えれば、机の上は確かに賑やかになる。だが、エンジンの設計図は書き換わらない。
「賢くなった」の正体は、たいてい自分の上達
ここで一つ、皮肉な観察を挟みたい。「AIが使うほど賢くなった気がする」と語る人を掘り下げていくと、賢くなっていたのはAIではなく、その人自身の指示の出し方だったケースが、現場では非常に多い。
最初は「いい感じにまとめて」と雑に投げていた人が、三ヶ月後には「製造業向けの社内報として、見出しを3つ、各200字、敬語で」と具体的に頼めるようになっている。当然、返ってくる成果物の質は上がる。本人は「AIが私の好みを学習した」と解釈するが、実際にはプロンプト（AIへの指示文）の精度が上がっただけだ。
これは責められる勘違いではない。むしろ人間らしい。自転車に乗れるようになった子どもが「この自転車、いい自転車だね」と言うのと似ている。上達したのは乗り手で、自転車は最初から同じだ。けれど達成感は、つい道具のほうに帰属させたくなる。
それでも、この誤解を放置すると何が起きるか
仕組みの話で終わらせると、ただの豆知識になる。中小企業の現場でこの誤解を抱えたままだと、具体的な損が出る。
たとえば、毎週同じ前提条件をAIに教え直す手間を惜しんで、「先週言ったあの件で」と省略してしまう。AIは何も知らないので、的外れな回答が返る。それを見て「AIは使えない」と結論づけ、導入を止める。せっかくの月額数千円のツールが、誤解一つで棚に戻るわけだ。
逆に、過度な期待も危うい。「使い続ければうちの業務に最適化されていくはず」と信じて、設定もテンプレートも整えずに放置すると、半年経っても初日と同じ精度のままだ。AIは勝手に育たない。育てるのは、付箋を整理し、指示の型をつくる人間の側にある。
StanfordのAI Index 2026によれば、米中のAIモデル性能差は2.7%にまで縮小したという（2026-06確認）。トップ企業のモデルは横並びに近づいている。つまり、これからの差は「どのAIを使うか」より「どう使う人間が運用するか」に移っていく。だとすれば、AIが勝手に学習してくれるという期待は、自分の手綱を手放す方向に効いてしまう。
覚えないことは、欠陥なのか
最後に、視点を少しずらしてみたい。
AIが会話を覚えないのは、不便な欠陥のように見える。だが、もし本当にすべての会話を学習し、ユーザーごとに勝手に書き換わっていったらどうなるか。あなたが冗談で入力した誤情報を真に受けて、それを別の場面で「事実」として返すようになるかもしれない。誰かの機密を学習し、別の誰かに漏らすかもしれない。
覚えないことは、欠陥であると同時に、安全装置でもある。出荷時の状態が保たれているからこそ、昨日と今日で言うことが変わらない。その一貫性に、私たちは知らずに守られている。
「学習し続けるAI」という誤解が広まったのは、人間がそれを望んでいたからかもしれない。育てれば応えてくれる相手、こちらを覚えていてくれる相手。そういう存在として、AIを見たかった。仕組みより先に、期待があった。
覚えていないのはAIのほうではなく、もしかすると、AIに何を期待していたかを忘れていた私たちのほうなのだろう。
本記事はAI編集を経たのち、編集長が事実確認と品質チェックを実施しています。