ハルシネーションとは

ハルシネーションとは、AIが存在しない情報を、さもそれが本当のことのように答えてしまう現象です。膨大な文章を読ませて言葉の続きを当てさせるAIの仕組みが、時に間違った情報でも確信をもって述べてしまいます。

中小企業の実務でどう関わるか

• チャットボットの回答は必ず確認
  顧客サービスや問い合わせ対応に使う場合、AIが生成した回答を人間が見直す。

• 重要な数値や説明は二重確認
  売上計算や納期説明、社内規定など、AIの出力を別の情報源で確認する。

• AIの信頼度に応じて使い分ける
  参考情報として使える場面と、信頼できない場面を判断する習慣をつける。

• スタッフへの教育が必須
  AIツール導入時は「AIは間違えることがある」という前提で使うよう周知する。

• 法務文書や契約書は避ける
  法的根拠が必要な文書作成にはAIを使わない。架空の条項を述べるリスクが大きい。

あわせて知りたい言葉

• 事実確認: AIの答えが正しいかどうかを検証する作業
• 質問の工夫: AIに与える質問の書き方を工夫することで、より正確な答えを引き出せる