※paizaに会員登録すると無料で動画学習コンテンツをご利用いただけます
会員登録する
#06:LLMプロダクト開発の課題整理
このチャプターでは、LLMプロダクト開発の課題整理について学習します。
LLMをプロダクトに組み込む際には、「性能」「コスト」「安全性・信頼性」の3つの壁が存在する。
【性能の壁】
専門分野や最新情報に弱く、ハルシネーションを起こす可能性がある。
【コストの壁】
本番運用ではAPI利用料などが高額になりがち。費用対効果の検討が必須。
【安全性の壁】
プロンプトインジェクションによる情報漏洩リスクや、出力が安定しない信頼性の問題がある。
これらの課題をバランス良く解決する戦略が不可欠となる。