なぜ、ChatGPTは平気で“嘘”をつくのか?

善悪の区別がつかず、聞き方によっていかようにも答える、しかもウソでも捏造でも極めてもっともらしく答える。ChatGPTは急速に発展しますが、乗りこなす技術もさらに高度になっていくと考えておいたほうが無難です。

今から問題把握・解決力と質問力をさらに鍛えておくことをお勧めします。

☞ 質問力とは、・・・LINK こちら　

【参考記事】　ChatGPTは知的に見えるものの、人間と同じような知能はありません。機械学習を成立させるために複雑な仕組みにはなっていますが、原理的には入力されたプロンプトに含まれる言葉のシーケンスや会話の文脈を事前条件として、次に出力する単語の出現確率（条件付き確率）を繰り返し計算することによって、文章やコードを生成しているだけです。なので、プロンプトに書かれた指示や依頼の本当の意味は理解していないし、技術的に未解決の問題として Hullucination（幻覚・妄想） と呼ばれる現象が発生することがあります。Hullucination は ChatGPTが「（平気で）嘘をつく」現象です。ChatGPTが答えようのない問題や知らない知識について質問されたとき、「知りません」と答えてくれれば良いのですが、現状そうはなりません。どんな状況でも確率計算は可能なので、ChatGPTはそれっぽいけど嘘の情報を出力をしてしまうことがあるのです。当然、ChatGPTは自分が書いたコードが正しいかどうかを判断する能力もありません。正しさを判断できるのは人間だけです。（コードのテスト方法をプロンプトで指示してChatGPTにやらせるという方法もおそらく可能ですが、それはChatGPTがコードの意味を自発的に理解して判断していることにはなりません。）

※ メール・BLOG の転送厳禁です!!  よろしくお願いします。