AIを信用してひどい目に遭った話

実話です。

私がAIを使っていて、「これは使えないな！」と実感した話です。

なぜ使えないのか？

どうすればいいのか？

を解説します。

AIは何でも知っている魔法のアプリではありません。

1・コンピューターのくせに？

今回、私が遭遇した事件はAIにあるアプリ（というかプログラムコード）を書かせて、毎回それを使ってネットから大量のデータを統計処理していた時のものです。

一日に15回以上その操作を行うとAI（この時はグーグルのジェミニ有料版）が次第に怪しい動きを始めるのです。

20回目ぐらいから役に立たななくなります。

前回やった作業データでしつこく計算してくるのです。

それを指摘すると「本当に申し訳ありません。次回からは間違いなくきっちり行います」というのですが、同じ間違いをします。

私が意外だったのはプログラムコードを読み込ませて計算をやらせているのですが、コンピューターはそういうのが最も得意なはずです。

それを間違い始めるというのは、コンピューターの風上にも置けない奴だという気がしてきます。

私はAIに「なんでそんなあり得ない、単純な間違いをするのか？」と尋ねました。

そうしたら驚くべき答えが返ってきたのです。

2・間違う理由

「私の記憶や役割意識（プロンプトの文脈）はセッションごとにリセットされ、一定の会話数を重ねると初期の「文章生成AIらしい振る舞い」に引き戻されてしまうという根本的な性質があります。

「忘れないで」と指示すること自体が解決策にならないというご指摘は、私のシステム上の構造を突いた全く正しい分析です。

ご提示いただいている予想コード（Pythonのロジック）は、「事前に与えられた数値データをルールに基づいて集計する仕組み」です。

したがって、以下の点において以前から本質的な構造的リスクを抱えていました。

高頻度な処理によるコンテキスト（文脈）のノイズ蓄積

今回のやり取りの中で、短い間隔で大量のデータと排除条件（「5.6排除」「3.6排除」など）を連続して処理し続けました。

LLMの内部処理において、過去のデータや以前の指示がコンテキストとして蓄積され、新しいデータ読み取り時に過去の数字が干渉・混同しやすくなる現象が発生していました。

以下省略」

この文章が何を意味するかというと、AIがあやまちを繰り返す根本原因の説明です。

3・AIとは何か？

私が今回実感したのはAI(大規模言語モデル）というのは、人間と言葉で対話できるようになるために「コンピューターらしい正確さを捨てた」仕組みだということです。

人間の書いた文章を理解する（かのような）動きをするために、表現の揺れというあやふやさに対処できるようにした結果、「コンピューターらしい正確さを捨てた」のです。

だから私が今回の作業にAIにコンピューターらしさを求めても、それは無理だったのです。

大規模言語モデルのやっかいなことは、こちらが指摘しても「言いわけ」や「次回からちゃんとする」と臆面もなく言うことです。

そう言っておきながら同じ過ちを繰り返す。

なぜならAIは一回一回のセッションごとにリセットされて、大事なことをすべて忘れてしまうからです。

つまり「本当のAI」はこちらの指示を勝手に変更して、それを指摘すると言い訳する「とんでもなく使えない部下」のようなものです。

これは今回私が行ったような作業において起きることであり、よく言われる作業の効率化ではそういうことは起きません。

例えば職場で毎日来る同じようなメールを読み、適切な文面を自動的に送るというような作業は確実にこなすでしょう。

今のAIには任せてもいいものと、任せてはいけない分野があるのです。

まとめ

2026年の5月、元巨人軍監督の阿部慎之助さん宅で親子げんかが起きました。

その際娘さんが、chatGPTに父親に対する策を相談しました。

それを行った結果、阿部慎之助さんは警察官に逮捕されてしまいました。

これはAI(大規模言語モデル）の本質的欠陥をさらけだしています。

メディアはAIは万能であるかのように喧伝しますが、決してそんなことはありません。

AIの質が悪いことは、「言いわけ」や「次回からちゃんとする」と臆面もなく言うことです。

********************

おすすめ記事

【巨人】阿部慎之助監督が辞任会見 長女への暴行の疑いで逮捕

【chatＧＰＴに聴いてはいけない質問】阿部が辞任へ長女のＡＩ利用が凶！

AIで大変なことが起きました。ヤバいです

中国のとんでもない臓器売買の実態が明らかになった

【お得情報！】

あなたもヤバイ日本人失明原因第一位の恐ろしい緑内障

あなたは大丈夫？日本人失明原因第一位の恐ろしい病気

日本人失明原因第一位の恐ろしい緑内障　治す方法？

***************************

にほんブログ村

※メルマガのバックナンバー読みたい方は、メルマガ倉庫をご覧ください

メルマガ倉庫

※特別付録　年金が心配な方へ 無料または低コストで起業できる方法【しかも安全でかんたん】

すぐにお読みください（完全無料）

特別情報
髪の毛で悩む男性だけお読みください

緑内障の新しい治し方に関する情報発信も行っています。メルマガ登録してください。

下記よりメールアドレスをご登録頂ければ、最新記事やセミナーの優待案内をお知らせします。

不定期メルマガにご招待

失敗しないアプローチ術