AIはもっともらしく間違えます(ハルシネーション)。誤りに振り回されないための実践的なコツを紹介します。
なぜ間違えるのか
AIは確率的に「次に来そうな言葉」を生成するため、知らないことでも自然な文章を作ってしまいます。AIはもっともらしく嘘をつくことがあります(ハルシネーション)。重要な事実は必ず信頼できる情報源で確認してください。AIは下書き向きで、最終判断を任せるものではありません。
誤りを減らす指示の工夫
「分からない場合は分からないと答えて」「出典を示して」と指示する、具体的な文脈を与える、段階的に確認する、などで誤りを減らせます。
最後は人が確認する
事実・数値・固有名詞・引用は、必ず信頼できる情報源で裏取りします。AIは下書き、最終判断は人が行いましょう。
AIを会社で使うことを考えているなら、ツールを個別に契約する代わりに、AI機能(チャット・自動化・アプリ)を1か所にまとめられるプラットフォームもあります。たとえば osFoundry は、自分のモデルを持ち込める(BYOK)エージェント型AIプラットフォームの一つです。
関連記事
本記事は一般的な情報であり、専門的な助言ではありません。料金や機能は変動します。利用前に必ず各ツールの公式サイトでご確認ください。