本番LLMアプリ
デモ段階を終えたLLMアプリケーションの設計、リリース、監視、運用。
17件のコンテンツ (記事12件 · 動画5件)
ここから開始
一覧を見る前に、まずおすすめのコンテンツをいくつかご覧ください。
このトピックの他の記事
8 分の読書Hermesとn8nの比較:仕事に合わせた選び方(併用すべき場合も)
Hermes Agentとn8nを選ぶための判断基準を解説します。手順が明確な連携処理はn8nに残し、範囲を限定したエージェント処理にはBearer認証付きHermes APIステップか、独立したイベントwebhook経路を使います。
中級者
10 分の読書実験的なデュアルDGX Spark+DeepSeek-V4-Flash+n8n+Hermesスタック
DeepSeek-V4-Flashを2台のDGX Sparkで動かす実験的なコミュニティ経路を評価する方法です。決定論的な処理をn8nに、判断が必要な処理をHermesに担当させます。
上級者
69 分AIエージェントの現状:本番導入から得た教訓
MLOps.community. ProsusのAI担当VPとAIエンジニアが、グループの投資先企業にエージェントを導入した際、実際に何が壊れたかを報告します。本番前のプロンプトインジェクション侵入テスト、人間特有の略記をJiraエージェントが処理できずに発生した危険な書き込み、エージェント自身に前提を明示させて対処した古いコンテキスト、認知負荷を増やすエージェントを統合または停止するフォールバック設計を扱います。記事の障害モード台帳を、実際の事後検証として再現したような内容です。
上級者
12 分の読書推論コストを最適化する:プロンプトキャッシング、ルーティング、出力制御
トレースに基づく推論コストモデルを構築し、実測で最大の費用要因を最適化し、各変更がタスク品質を維持していることを示します。
上級者
13 分の読書2026年のファインチューニング:根拠を先に置くLoRA・QLoRA実験
パラメーター効率の高いチューニングが妥当かを判断し、データを統制し、再現可能な実験を固定し、ホールドアウトと安全性の結果を比較し、導入前に推論提供を測定します。
上級者
12 分の読書LLMが実際に正しく使えるMCPツールの設計
私たちが目にするMCPツールの多くは、技術的には正しくても実用上は役に立ちません。LLMはツールを無視したり、誤用したり、役に立たない方法で呼び出したりします。LLMが自然に採用できるツールを設計する原則を、よくある失敗と修正の例を交えて説明します。
上級者
12 分の読書長期実行エージェントのためのメモリ構築
長期実行エージェントには、自ら責任を持つ永続化設計が必要です。出所、確認、テナント分離、検索テスト、保持、修正、検証可能な削除までを設計します。
上級者
10 分の読書マルチモデルオーケストレーション:コスト、レイテンシ、品質で振り分ける
タスクごとにモデルを使い分けると、コストやレイテンシを抑えられる場合があります。ただし、複雑な仕組みに見合う効果があるかは、実際のワークロードに即した評価でしか判断できません。設計パターン、測定方法、障害時の挙動を解説します。
中級者
12 分の読書LLMアプリの可観測性:トレース、コスト、レイテンシー、品質ドリフト
複数ステップのトレース、帰属可能なコスト、プロンプトとモデルのバージョン、評価に基づく品質シグナル、プライバシー管理、ワークロード実績に基づくアラートによって、通常の可観測性をLLM向けに拡張します。
上級者
14 分の読書プロンプトインジェクションとLLMセキュリティ:脅威モデルと多層防御
プロンプトインジェクションは恒久的に存在するLLMセキュリティ上の脅威であり、プロンプトの書き方の誤りではありません。脅威モデル、データ境界、ツール権限、回帰テスト、監視、インシデント対応について解説する本番環境向けガイドです。
上級者
12 分の読書プロンプティング、RAG、ファインチューニングの選び方(および組み合わせるべき場面)
プロンプティング、RAG、ファインチューニングは、LLMを課題に適応させるための3つの大きな手段です。それぞれに適した課題と適さない課題があります。選択のためのフレームワーク、各手法の現実的なコスト、そして組み合わせることで効果を発揮する本番パターンを解説します。
上級者
9 分LangSmithを10分で学ぶ
LangChain. LangChainの共同創業者が、LLMのトレース、プロジェクト、データセットを案内します。トークンコスト、レイテンシー、エラー率、フィードバックの集約、単一の検索ステップのスパンを掘り下げる方法を扱います。「すべての呼び出しが1つのスパンである」という記事の説明と、構造化トレースがprint文によるログより優れている理由を、視覚的に最も近い形で確認できます。
上級者
154 分LLMの計測と評価
Hamel Husain. Hamel Husain、Eugene Yan、Brian Bischof、Harrison Chase、Shreya Shankarが、トレース、ログ分析、LLM-as-a-Judge、実際の本番データを確認するためのワークフローに取り組みます。長時間のポッドキャストと同じように、腰を据えて視聴してください。記事の「トレースを確認する」という主張をYouTube上で最も深く掘り下げた動画です。
上級者
77 分AIプロンプト技術を徹底解説
Anthropic. 研究、アラインメント、応用、開発者向け広報を担当するAnthropicの4人のプロンプトエンジニアが、日々の実務について詳しく語ります。切迫した状況でプロンプトをどう修正するか、指示の「正直さ」をどう考えるか、XMLによる足場作りが役立つ場合と役立たない場合などを扱います。記事のレイヤーモデルは、登壇者が説明する実務にきれいに対応しています。そのメンタルモデルを当事者の言葉で理解する最良の方法です。
上級者
25 分プロンプト入門|Code with Claude
Anthropic. AnthropicのApplied AIチームが保険金請求用プロンプトをライブで構築するセッションです。曖昧な指示から始めて、開発者が実際に提供できる形まで反復改善し、記事で説明しているシステムレイヤーと開発者レイヤーの修正を実演します。記事にある例、出力構造、拒否の処理に関するチェックリストを読み直す前に視聴してください。
上級者
