生成AI組み込みアプリの企画・開発 基礎編2: LLMを用いたプロダクト開発

LLMをプロダクトに組み込む際には、「性能」「コスト」「安全性・信頼性」の3つの壁が存在する。

【性能の壁】
専門分野や最新情報に弱く、ハルシネーションを起こす可能性がある。

【コストの壁】
本番運用ではAPI利用料などが高額になりがち。費用対効果の検討が必須。

【安全性の壁】
プロンプトインジェクションによる情報漏洩リスクや、出力が安定しない信頼性の問題がある。

これらの課題をバランス良く解決する戦略が不可欠となる。