関連動画
これは多くのチームが繰り返し誤る判断です。実際の問題が検索にあるのにモデルをファインチューニングしたり、より良いプロンプトで解決できるのにRAGを重ねたりしています。記事では判断のフレームワークを提示します。この2本のIBM Technologyの解説では、同じフレームワークをホワイトボードで各手法を並べながら説明します。懐疑的な同僚に同じ提案を説明する際にも役立ちます。
13:10IBM Technology
3つの手法と、それぞれのコストをホワイトボードで明快に説明します。検索のレイテンシー、学習の計算コストと破滅的忘却、プロンプトだけによる解決策の限界に加え、本番環境で実際に有効な組み合わせを扱います。最後に紹介される3つすべてを使用した法務AIシステムの例は、記事の「組み合わせるタイミング」という主張とほぼ完全に一致します。
このセクションから得られるもの: 実際の障害モードに基づき、プロンプトエンジニアリング、RAG、ファインチューニング、またはその組み合わせを選択できます。
視聴または事前に知っておくべきもの: 各手法の概要を理解していること。
AI Expertの注記: 長期的に通用する判断フレームワークです。インフラストラクチャを購入したり、ファインチューニングのプロジェクトを開始したりする前に活用してください。選択を誤る原因の大半は、情報の鮮度、帰属情報、文体、振る舞いに関する問題の誤診です。
8:57IBM Technology
チームが最も混同しやすい2つの手法に、より焦点を絞っています。データの鮮度、出典の帰属、ファインチューニングによる推論時の速度向上を詳しく説明します。不要なファインチューニングのプロジェクトに反対する根拠を示したい場合に、視聴する価値があります。
このセクションから得られるもの: 検索が適切な解決策となる場合と、ファインチューニングが実際に役立つ場合を説明できます。
視聴または事前に知っておくべきもの: RAGとファインチューニングの基本用語。
AI Expertの注記: 知識の鮮度とモデルの振る舞いを切り分けているため、ステークホルダーとの対話に適しています。ただし、着手前に、現在のファインチューニングのコスト、対応モデル、データガバナンス上の制約を検証してください。
