トピック

プライベートAI、ローカルAI、自社運用AI

ローカルモデル、プライベート環境への導入パターン、自社運用の推論、ハイブリッドアーキテクチャ。

15件のコンテンツ (記事11件 · 動画4件)

ここから開始

一覧を見る前に、まずおすすめのコンテンツをいくつかご覧ください。

このトピックの他の記事

8 分の読書
記事

2台のDGX Sparkを接続する:QSFP、SSH、RoCE、Cluster Assistant

QSFPとConnectX-7で2台のNVIDIA DGX Sparkを接続する実践ガイドです。同一ユーザー名、パスワードレスSSH、分散ワークロード向けのRoCE、NVIDIA Sync Cluster Assistant、ロールバックを扱います。

上級者
8 分の読書
記事

DGX Sparkのローカル推論の実情:メモリー、サービングスタック、クラウドが依然として優位な場面

NVIDIAによる128 GBコヒーレントメモリーと単一ノードで約200Bパラメーターという主張を解釈し、サービングスタックの候補を絞り、ローカル推論が適するか判断するハードウェアテストを設計します。

上級者
9 分の読書
記事

DGX Sparkとは何か:誰に向き、ローカルエージェントをどう変えたのか

NVIDIA DGX Sparkを根拠に即して読み解きます。NVIDIA公表のGrace Blackwell GB10仕様、コヒーレント統合メモリー、ConnectX-7によるクラスタリング、そしてデスクサイドのエージェント用コンピューターがプライベートAIに適する条件を検討します。

上級者
7 分の読書
記事

Hermes Agentとは何か、何ではないか、いつ使うべきか

Nous ResearchによるHermes Agentの見取り図です。永続メモリ、スキル、ツール、メッセージングゲートウェイに加え、チャットボットで足りる場面と、エージェントランタイムが適する場面の判断を扱います。

中級者
8 分の読書
記事

n8nからvLLMなどのOpenAI互換エンドポイントを呼び出す

n8nのHTTP RequestノードからローカルのOpenAI互換/v1/chat/completionsエンドポイントを呼び出します。認証、タイムアウト予算、ベースURLの確認、非公開ネットワーク境界を明示的に設定します。

中級者
10 分の読書
記事

DGX Spark上のNemoClaw:導入・セキュリティ計画

DGX Spark上のNVIDIA OpenShell内でOpenClaw、Hermes、またはDeep Agents Codeを評価するための計画です。現行のオンボーディング、ポリシー層、推論ルーティング、必要な受け入れ証拠を扱います。

上級者
9 分の読書
記事

OpenClawパーソナルゲートウェイの設定:インストール、初期設定、ダッシュボード

OpenClawの概要、セルフホスト型マルチチャネルゲートウェイのインストールと初期設定、ポート18789でのControl UIの開き方、セキュリティー基準を省略せずに使えるNodeバージョンを説明します。

中級者
10 分の読書
記事

実験的なデュアルDGX Spark+DeepSeek-V4-Flash+n8n+Hermesスタック

DeepSeek-V4-Flashを2台のDGX Sparkで動かす実験的なコミュニティ経路を評価する方法です。決定論的な処理をn8nに、判断が必要な処理をHermesに担当させます。

上級者
37 分
動画

Broadcomが解説するVMware Private AI Foundationの機能更新

Tech Field Day. プライベートAIを、統制されたコンピューティング、分離環境、Kubernetes、推論コンテナ、モデルガバナンス、セルフサービス型プロビジョニング、GPU共有、監視から成る多層インフラとして示します。これは、プライバシーは「ローカル」という言葉ではなく、導入境界、ログ、アクセス、運用によって決まるという記事の警告に直接対応します。

上級者
13 分の読書
記事

2026年のファインチューニング:根拠を先に置くLoRA・QLoRA実験

パラメーター効率の高いチューニングが妥当かを判断し、データを統制し、再現可能な実験を固定し、ホールドアウトと安全性の結果を比較し、導入前に推論提供を測定します。

上級者
157 分
動画

LLMのファインチューニング:生成AI講座

freeCodeCamp.org. 講座はLlama 2とGemmaを用いて量子化、LoRA、QLoRA、PEFTを扱います。講座は特定の構成でのVRAM使用量の例を示します。記事は選んだモデルとハードウェアでの測定を求めており、これらの例はすべての適切なタスクにクラスターが不要だと証明するものではありません。

上級者
59 分
動画

LLMの開発:構築、学習、ファインチューニング

Sebastian Raschka. Raschkaの概要は、モデルの学習過程におけるファインチューニングの位置付けを示します。記事のLoRA実験は、具体的なタスクで基準構成との差を測定して必要性を示し、資源を確認し、公開前にアダプターを評価するという条件に基づきます。

上級者
32 分
動画

vLLMとPagedAttentionによる高速なLLM推論配信

Anyscale. 動画はGPUメモリの60–80%が無駄になる例、PagedAttention、バッチ処理を説明します。品質をそろえた記事の費用モデルの参考にし、自分のワークロードで処理能力と稼働率を測定してください。

上級者