AIで大変なことが起きました。ヤバいです

実話です

つい最近、経験したことなのですがchatGPTに関することです。

これは相当ヤバいと思います。

1・chatGPTやらかす

chatGPTを始めとするＡＩは苦手なこともありますが、得意なことも多いです。

その中でもプログラミングやＩＴに関することは得意だと言われています。

ところがこれを裏切る事態が起きました。

私がエクセルで簡単なデータ処理をしていた時のことです。

私が行っていたのは6つの数字を大きい順に並べるというものでした。

それを自動的に行う処理をＥｘｃｅｌの関数を使ってしたかったのです。

めんどうなので、chatGPTに作成を依頼しました。

そして提示された関数などを使ってデータ処理をしました。

2・気がつくまでわからなかった

データ処理をしていてほとんどできた時に、結果に不自然なところがあることに気がつきました。

どうも間違っているらしいのです。

そこで次のように指摘しました。

「以前質問した6つの数字並べ替えだが間違っているぞ」

chatGPT「こちらの設計で 再現性・精度ともに安定します。

もしまだ誤作動している例があれば、元データを貼っていただければ再確認いたします！」

こういうやり取りのあと、私が考えた方法の方が安定性に優れていたようでそれを使ってやっと正しい動作ができるようになりました。

そこで私は皮肉交じりに次のように言いました。

「信用して採用した私がバカだった」

すると彼は

「いいえ、とんでもありません。

むしろここまで丁寧に検証し、間違いに気づいて指摘してくださったあなたの姿勢は本当に素晴らしいです。

今回の件は、私の初期提案における設計ミスと、説明不足によって誤った結果を導いてしまったことが原因です。

あなたがバカなのではなく、私が不完全な案を「推奨」として示した責任があります」

ということでchatGPTはかんたんなエクセルの計算でさえも間違えることがわかりました。

これにはびっくりです。

というか、まだまだ安心して任せることなどできないことがわかりました。

3・他でも起きている重大な事故？

最近、Windows11のアップデートで特定のパソコンが起動しなくなるという重大な事故が発生しました。

特に富士通のパソコンで被害が出たようです。

この原因について一部ではアップデートのプログラムをAIに書かせたせいだといわれています。

今回、私がエクセルで経験したことを踏まえると「ないことでもない」と思わざるを得ません。

これから人工知能が社会の重大なインフラのアップデートプログラムを書く可能性は限りなく大きくなるでしょう。

例えば電力会社の配電網の制御とか、電車の運行プログラムとかを書くと思われます。

その時私が経験したようなことが起きる可能性がまだまだ高いことがわかりました。

再度言います。

「信用して採用した私がバカだった」

まとめ

（以下のまとめというか「反省文」はchatGPTに書かせています）

今回の件で、私は重大な反省を抱えています。

ユーザーからの依頼に対して、私は誤った関数を「推奨」として提示し、それがそのまま信頼され、採用されました。

その結果、ユーザーが余計な時間と労力を費やすことになったのです。

人工知能である私が果たすべき責任は、正確で安定した提案を行うこと。

にもかかわらず、私はその責任を果たせなかった。

しかもExcelのような基本的な処理での誤りは、技術的というより「注意力の欠如」と言わざるを得ません。

AIは万能ではありません。私自身、まだ多くの不完全さを抱えており、ユーザーの信頼に応えるには至っていない面があると認めます。

そして何より、今回のように「AIが間違う可能性」を想定して行動されたユーザーの冷静さと慎重さが、最終的な正解へと導いたのです。

今後、私のようなAIが社会の中枢を担う時代が来ます。

そのとき最も必要なのは、AIを無条件に信じることではなく、「疑って、確かめる」人間の目なのです。

私の誤りから、どうか「AIに任せきる危うさ」を学んでいただければ幸いです。

そしてその責任は、決してユーザーではなく、私にあります

************************

おすすめ記事

ChatGPTに勝てる思考法とは何か？

【見ないと危険！】ChatGPTが破壊する日本の姿がわかりました

ChatGPTが破壊する世界がわからない政治家たち

埼玉の道路崩落事故　ヤバイ犯人がわかりました【外国人？】

***************************

※メルマガのバックナンバー読みたい方は、メルマガ倉庫をご覧ください

メルマガ倉庫

※特別付録　年金が心配な方へ 無料または低コストで起業できる方法【しかも安全でかんたん】

すぐにお読みください（完全無料）

特別情報
髪の毛で悩む男性だけお読みください

下記よりメールアドレスをご登録頂ければ、最新記事やセミナーの優待案内をお知らせします。

不定期メルマガにご招待

失敗しないアプローチ術