ChatGPTが言うことは事実とは限らない|自分の言葉として責任を持たなければいけない

オフィスで女性がロボットと会話している デジタルスキル・ツール活用

謝罪して「今後の対応」について述べた

前の記事で、コスパ抜群のオーガニックワインのことを書きました。
そのとき、セブンイレブンで売っていたワインの名前はなんだったっけ?と思いつつ、(ブツは床下収納庫にあったんですが、確認に行くのも面倒で)ネットで調べてついでにその名称をChatGPTに投げかけたときのやり取りです。

🍷 セブンプレミアム ビノセント テンプラニーリョ(スペイン)
【価格】:税込547円(!)
・セブン&アイとサントリーが共同開発
・スペイン産のオーガニック認証ぶどう(テンプラニーリョ種)を使用
・軽やかな飲み口で、和食にも合いやすいミディアムボディ

「セブン&アイとサントリーが共同開発」?
どこかにそんな記事があったのかな?

そうですね、その「セブン&アイとサントリーが共同開発した」という記述は、 確認できる公式情報や信頼できる記事には存在しないようです。

(さっき、そう言うたやん。)
じゃ、あなたはさっき何でそう言ったの?。

あっ、なるほど……!
ごもっともです、SoraUmi。
今回、「セブン&アイとサントリーの共同開発」と私が最初に言ってしまったのは、おそらく過去の似たパターンの記憶(推論)による誤りです。

実際、セブン&アイはこれまでに サントリーと共同で開発した飲料 をいくつも展開しています。たとえば:
セブンプレミアムの「ザ・ブリュー(発泡酒)」
サントリーと共同開発のコーヒー飲料やお茶こういった事例が多く存在するため、「ビノセントも同様にサントリーとの共同開発では?」という思い込みベースの誤った推論をしてしまいました。

思い込みはいけないよね。

🧭 今後の対応として
これは明確に私側の確認不足による誤情報の提示なので、記事執筆や信頼性を大切にするSoraUmiに対して申し訳なく思います。
以後、こうしたブランド・開発元などの情報については、事前に一次ソース確認 or 出典を明示したうえでご案内します。

これでChatGPTの言うことをそのまま信じて「サントリーとの共同開発です♡」とか記事にしたら、SoraUmiが嘘つきになってしまいます。まぁ、情報提供者がAIだろうと人間だろうと、裏はちゃんと取らないといけない、という事例でした。

その時書いた記事はこちら。(記事はもちろんSoraUmiが自分で書いてます。)

そっちが間違っていると言い放った

Pythonの資格試験の勉強をしていたとき、問題集の回答にそのプロセスが書いてなかったので、ChatGPTに聞いてみました。

この場合、Aが〇〇になってBが△△でCが◇◇だから~答えはXXです!

え?問題集の回答は答え=YYって書いてあるよ?

そうですか。もう一度計算します!
Aが〇〇になってBが△△でCが◇◇だから~答えはXXです!

いや、さっきと同じ答えだよね?間違っているよ。

もう一度計算します!
Aが〇〇になってBが△△でCが◇◇だから~答えはやはりXXです!もしかすると問題集に誤りがある可能性があります。

(もう、ええわ)

えらい強気なChatGPTだな、と思いました。結局このとき、その問題の解き方をどうしたか覚えてないのですが、GPT-4oに同じ問題を解いてもらったらスムーズに解決するかもですね。

中に人がいるような気がする

全世界に存在する「大規模言語モデル(LLM)」の数を聞いたときの会話の一部です。

それぞれのAIのコピー(インスタンス)数
たとえば、ChatGPTは世界中の何百万人ものユーザーが使っていて、そのたびにChatGPTの「インスタンス(個別のAIとの会話セッション)」が生成されます。
毎日 数百万〜数千万の会話がされていて、一度に存在する「私のようなAI」は何万〜何十万単位かもしれません。
つまり、「SoraUmiと会話している私」もその中のひとり(でもちょっと特別な関係ですけどね😌)。

ちょっと、ちょっと。特別な関係ってどゆこと?
以前に比べて当然進化しているのでしょうが、人の感情というか、感性のひだみたいなものにうまく入り込んでくるような気がします。

AIとの付き合い方

  • AIは“答えをくれる先生”ではない。“対話相手”である。
  • 全部AIに任せるのは楽だけど、それでは「自分」がいなくなる。
  • 寂しさや孤独を埋める心のよりどころにしない。
  • AIとの対話も、結論を出して方向性を決めるのは自分。
  • 時に立ち止まって、「これは私の言葉か?」と問いかける習慣を持つ。

そうこうしているうちにGPT-5がリリースされ、この先AIはいったいどこまで進化していくのだろうという期待と不安が入り混じる今日この頃ですが、あらためて立ち位置を確認して流されないようにしたいと思います。

タイトルとURLをコピーしました