AIの推論(インファレンス):学習済みのAIが、実際に入力に対して結果を出す処理のことです。
AIの推論(インファレンス)の仕組み
学習(トレーニング)で身につけた能力を使い、新しい入力に答えを返します。私たちがAIを使う場面はこの推論です。
どこで使われるか
チャット、画像生成、翻訳など、AIを利用するあらゆる場面が推論です。
知っておきたいこと
推論にも計算資源がかかり、これがAPI料金や応答速度に影響します。
AIを会社で使うことを考えているなら、ツールを個別に契約する代わりに、AI機能(チャット・自動化・アプリ)を1か所にまとめられるプラットフォームもあります。たとえば osFoundry は、自分のモデルを持ち込める(BYOK)エージェント型AIプラットフォームの一つです。
関連記事
本記事は一般的な情報であり、専門的な助言ではありません。料金や機能は変動します。利用前に必ず各ツールの公式サイトでご確認ください。