AIに「嘘つきだ」と文句を言う人は、実はAIに「あなたが使えないんですよ」と評価されているだけと言われています(笑)
AIがもっともらしい嘘をつく「ハルシネーション」。
実はこれ、AIの仕組みと、我々人間の「評価の仕方」に根ざした根深い問題らしいです。
ここで、Chat GPTのOpen AI社が小難しい論文を出しました。
今回の話、より深く知りたい方はOpenAIの公式解説も読んでみてくださいね。
https://openai.com/index/why-language-models-hallucinate
論文： https://cdn.openai.com/pdf/d04913be-3f6f-4d2b-b283-ff432ef4aaa5/why-language-models-hallucinate.pdf
小生？？？
このような時、Google NotebookLM様の登場です。
なるほどね！本件、知ると知らないでは今後のＡＩ活動に大きな差が出ますね。
皆さん、如何でしたでしょうか？
さて、そんんじゃ、今後、我々はどうしたら良いか？
日本のＡＩ界の大御所七里社長が、AIの暴走を抑える私が実践で使う「お守りプロンプト5選(簡易版)」を特別に公開しています
・この資料だけを元に答えて
・不明な点は『不明』と回答して
・ステップ思考で結論を導き出して
・根拠となる情報源も教えて
・事実とあなたの意見は分けて書いて
「良いプロンプトはAIの暴走を抑え、悪いプロンプトは幻覚に拍車をかける」
ユーザー側の工夫と、AIへの使い方や向き合い方が、対話の信頼性を左右ということです。
じゃ～ 人間の嘘はどう対策すればよいのでしょうかね？
明日のブログでお伝えします。(すげ～おもしろいですよ！)
◆お願い （お手数お掛けします） ブログを読まれた方は下記２つのボタンを順番にクリックをお願いします。 クリックしてアクセスするだけで点数が入り（投票され）順位が上がります。 アクセス後は何もせず、本ブログに戻ってきてください。
