実験的なデュアルDGX Spark＋DeepSeek-V4-Flash＋n8n＋Hermesスタック

これは、2台目のDGX Sparkを購入した後に検討できるラボ構成です。大規模モデルのローカル推論、業務システムと連携する自動化、エージェントランタイムを組み合わせます。ただし、ベンダーがサポートするターンキー型のスタックではありません。

根拠を示せる構成は、もっと限定的です。分離可能な状態を保つ必要がある、次の4層を評価します。

1. ファブリック：2台のSparkを接続して分散推論を行います（NVIDIAのクラスタリング文書、2台のSparkを接続するプレイブック）。
2. 実験的なモデルサーバー：コミュニティが構築したOpenAI互換の経路を使い、2ノードにまたがってDeepSeek-V4-Flash、またはDSpark投機的デコーディング版を動かします。
3. 決定論的な自動化：n8nがWebhook、スケジュール、CRM・メール・Slackへの書き込み、検証、人による承認ゲートを担います。
4. 判断を担うランタイム：Hermes Agentがトリアージ、下書き、調査、メモリーと複数段階の推論を必要とするツール利用を担います（公式APIサーバー文書、公式Webhook文書）。

この記事で扱うn8nとHermesの組み合わせは構成例であり、いずれのベンダーもターンキー型の経路として文書化またはサポートしていません。エージェントの結果をn8nへ戻す必要があるワークフローでは、HermesのBearer認証付きAPIサーバーを使います。HermesのHMAC対応Webhookアダプターは、これとは別のイベント受信用インターフェースです。エージェントを起動し、設定済みの宛先へ結果を送りますが、n8nへ同期的に結果を返す汎用契約を定義するものではありません。

任意の第5層として、TelegramやSlackなどのチャットチャネルUXにOpenClawを使い、サンドボックスポリシーが必要な場合は、必要に応じてNemoClawとOpenShellから起動できます。NemoClawは現在alpha段階の早期プレビューであり、本番運用可能なソフトウェアではありません。どちらの層も、以下の3つのワークフローには必須ではありません。

エージェントループから顧客へのメールを自動送信したり、法的文書を提出したり、本番インフラを変更したり、支払いを実行したりしてはいけません。ログ、冪等性、十分な数のレビュー済み実行によって経路を信頼できるようになるまでは、不可逆的な操作を人による承認ノードへ送ってください。

2台のSparkでDeepSeek-V4-Flashを使う意味

DeepSeek-V4-Flashは、総パラメーター数284B、活性化パラメーター数13BのMixture-of-Expertsモデルです。公式モデルカードでは、コンテキストウィンドウは1Mトークンです。Instructモデルの重みは、ルーティング先のエキスパートにFP4、それ以外にFP8を使用します。この組み合わせがSparkで重要になる理由は、次のとおりです。

• 活性化パラメーター数が少ないため、同程度の総パラメーター数を持つDenseモデルと比べて、デコード時の計算量を抑えやすくなります。
• 長いコンテキストは、リポジトリの一部、チケット履歴、ポリシー資料一式などを扱うエージェントのワークロードに有用です。ただし、適切な資料を検索し、主張を引き続き検証することが前提です。
• DSparkチェックポイントは、同じモデルに投機的デコーディング用のモジュールを追加したものです。公式モデルカードの例は4GPUのGB300ノード1台を使用しており、2台のSparkではありません。後述するvLLMのコミュニティ報告は、2台のGB10システム上でDSparkではないチェックポイントを使用しています。

公開されている毎秒トークン数や最大コンテキストの結果は、ケーブル、ドライバー、コンテナ、同時実行設定を問わず再現できる保証ではなく、特定レシピについての報告として扱ってください。公式モデルカードは検証済みのデュアルSpark導入を説明しておらず、DSparkの例は4GPUのGB300ノード1台を使用しています。2026-08-10に再確認した時点で、vLLMの未解決issue #40969には、2台のGB10システム上で、固定した特定のvLLMビルドにFULL_AND_PIECEWISE CUDAグラフ、チャンク化プリフィル、Marlin MoE、FP8 KVキャッシュ、TP=2を組み合わせた構成が、六回目または七回目のリクエスト後にハングするとの報告があります。これはその構成についての証拠であり、すべての導入環境に当てはまる証拠ではありません。この経路を採用するなら、バージョンを固定した実験とし、ロールバック用のモデルを用意してください。

参照アーキテクチャ

                     ┌───────────────────────────────┐
 フォーム/CRM/Git ──►│ n8n（検証、分岐、人による承認）│──► Slack / CRM / メール
                     └───────────────┬───────────────┘
                                     │ HTTPS + Bearer認証
                                     ▼
                     ┌───────────────────────────────┐
                     │ Hermes（メモリー、ツール、下書き）│
                     └───────────────┬───────────────┘
                                     │ OpenAI互換 /v1
                                     ▼
              ┌────────────────────────────────────────┐
              │ Spark A ◄── QSFP / RoCE ──► Spark B    │
              │ 実験的なコミュニティ製TP=2モデル経路   │
              └────────────────────────────────────────┘

デモで終わらせないための設計規則は、次のとおりです。

Hermesと、利用する場合はn8nのAIノードに、クラスタのエンドポイントを通常のOpenAI互換ベースURLとして設定してください。APIキーはLANまたはVPN内に保持し、vLLMのポートを公開インターネットへ露出させてはいけません。

立ち上げチェックリスト（順序が重要）

1. デュアルSparkファブリック

伝聞ではなく、NVIDIAのプレイブックに従ってください。

• 両方のノードで同じユーザー名を使います。
• 対応するConnectX-7ポート間を1本のQSFPケーブルで接続します。NVIDIAのプレイブックは、1本のケーブルでフル帯域を実現できると述べており、同じ2台のシステム間に2本目のケーブルを追加してもスループットが向上するとは文書化していません。
• 高速経路には専用のL3アドレスとnetplanを設定し、管理とインターネット接続には10 GbEまたはWi-Fiを使います。
• ノード間でパスワードなしのSSHを設定します。
• NCCLのエラーを調べる前に、ibdev2netdevまたはNVIDIAの手順で、インターフェースがUpになっていることを確認します。

NVIDIA SyncのCluster Assistantは、サポート対象のトポロジーについてConnectX-7とSSHを設定できます。ただし、推論スタックまでインストールするものではありません。

2. モデルサーバー

• コンテナやビルド、CUDAスタック、vLLMのパッチ、起動コマンド、既知の制約を固定した、具体的な名称を持つコミュニティレシピを選びます。この記事の断片を組み合わせて本番用コマンドを作らないでください。
• そのレシピが、使用する2台のGB10ノードと、正確なDeepSeek-V4-Flashチェックポイントに明示的に対応していることを確認します。テンソル並列サイズ2は検証すべき仮説であり、公式なサポートの約束ではありません。
• /v1/modelsと/v1/chat/completionsは、プライベートインターフェースでのみ公開します。
• 実際に設定した最大コンテキスト、最大同時シーケンス数、KV dtype、投機的デコーディングの有効・無効を記録します。
• Hermesの現行ドキュメントでは、構成するモデルのコンテキストとして最低64Kトークンが必要です。コンテキストの小さいサービングプロファイルだけでは、現行Hermesとの互換性は確認できません。接続前に64K以上のプロファイルを構成し、ソークテストを行ってください。

エージェントを接続する前に、短いプロンプト、長いプロンプト、繰り返しプロンプト、同時プロンプトでスモークテストを行ってください。報告されたデュアルSparkの障害は複数のリクエスト後に発生するため、1回の「hello」ではほとんど何も証明できません。バージョンを固定したソークテストが実機で合格するまでは、この経路を本番運用可能とみなしてはいけません。

3. Hermes

• 公式のHermesクイックスタートに従ってインストールし、モデルプロバイダーにプライベートなOpenAI互換ベースURLを設定します。
• 以下のリクエスト・レスポンス型ワークフローでは、APIサーバーを有効にし、強固なAPI_SERVER_KEYを設定して、プライベートインターフェースに限定し、GET /healthを確認します（文書上のデフォルトポートは8642）。結果を直接受け取る場合は/v1/responsesを使い、長時間ジョブでは/v1/runsとステータスポーリングを使います。
• 結果を別の宛先へ送るイベント受信が必要な場合は、独立したWebhookアダプターを使います。名前付きルート、V2のタイムスタンプ付きHMAC、重複排除用のリクエストID、デフォルトポート8644を使用します。その受領通知をエージェントの出力と取り違えないでください。
• 許可リストを用意し、人がログを監視できるようになるまでは、広範なシェルアクセスを拒否します。APIキーはモデルの文章だけでなく、エージェントのツールへのアクセスも許可します。

DGX Sparkでは、NemoClawを使って、ファイルシステム、ネットワーク、プロセスのポリシーを適用したOpenShell内でHermesを実行できます。本番運用の安全性を保証するものではなく、alpha段階の評価用経路として扱ってください。

4. n8n

• 同じ信頼できるネットワーク、またはVPN上でセルフホストします。n8nからローカルのOpenAI互換エンドポイントを使う方法と冪等性および人による承認ゲートのパターンを優先します。
• 以下で使うリクエスト・レスポンス型のHermes引き継ぎでは、n8n公式のHTTP RequestノードにBearer認証情報と明示的なタイムアウトを設定します。永続的な業務上の冪等性記録は、n8nまたは業務システムに保持してください。HermesのAPIサーバーはIdempotency-Keyによるレスポンスを5分間キャッシュしますが、この限定的なトランスポート層の期間は、永続的なワークフロー重複排除の代わりにはなりません。独立したHermes Webhook経路を意図的に選ぶ場合は、n8nのCryptoノードでHMACを生成できますが、署名対象のバイト列とV2タイムスタンプヘッダーをHermesのWebhook契約に正確に合わせる必要があります。n8nからHermesへのWebhook引き継ぎは構成例であり、ベンダー公式の連携ではありません。

評価対象となる3つのワークロード候補

ユースケースA：非公開のサポート一次振り分け

課題： チケットには、公開モデルのプロバイダーへ送りたくない顧客の文章が含まれます。一次振り分けでは、重大度、製品領域、重複の検出、返信の下書きといった判断も必要です。

フロー：

1. ヘルプデスクのWebhookからn8nへ送ります。
2. n8nがスキーマを検証し、秘密情報（トークン、カード番号の生データ）を除去して、チケットIDで重複を排除します。
3. n8nがワークフロー単位の冪等性キーを記録し、バージョンを付けた用途限定のsupport-triageプロンプト契約に従って、Bearer認証付きのプライベートHermes APIサーバーへ必要最小限のペイロードを送ります。
4. HermesがローカルのDeepSeek-V4-Flashを呼び出してレスポンスを返します。n8nが要求した{severity, product, confidence, draft, needs_human}オブジェクトを解析し、スキーマ検証します。不正な形式または不完全な出力は人による確認へ送ります。
5. n8nが分岐します。信頼度が低い、またはneeds_humanが真ならSlackで承認を求めます。信頼度が高く、操作が許可リストに含まれる場合は、チケットのフィールドだけを更新します。運用が次の段階へ進むまでは、自動送信しません。

検証する仮説： n8nのコネクターとHermes APIの呼び出しによって、このフローを実現できる可能性があります。モデルのエンドポイントはプライベートネットワーク内に留まりますが、外部ツールとSaaSコネクターはその境界を越えるため、エグレス制御が必要です。コンテキストを追加すると結果が改善するかを評価し、下書きは引き続き検証してください。

避けること： プロキシの許可リストを設けずに、チケット本文に含まれる任意のURLをHermesに開かせないでください。プロンプトインジェクションにつながります。

ユースケースB：長いコンテキストを使う社内調査アシスタント

課題： 法務担当者、運用責任者、エンジニアリング責任者は、「この40件のPDF、またはモノレポのこの範囲を読み、構造化された報告書を作成する」といった処理を、コーパスをSaaS型LLMへアップロードせずに行う必要があります。

フロー：

1. 人がジョブ用フォルダーへファイルを置きます。または、n8nが安全な受信箱を監視します。
2. n8nがメタデータと検索結果をまとめます。または、Hermesのツールが許可リストに登録されたパスやRAGインデックスから読み取ります。
3. Hermesが、明示的な引用スキーマを指定した複数段階の調査プロンプトをDeepSeek-V4-Flashで実行します。
4. n8nがレスポンスの形式を検証し、レビューキューへ送ります。すべての主張に情報源のパスと該当範囲を必須とし、人が採用または却下します。

V4-Flashを使う理由： 公式の1Mコンテキストと、長いコンテキスト向けの効率的なアテンションが焦点です。ただし、コンテキストウィンドウ≠正確性です。検索品質と引用確認の方が、最大トークン数よりも重要です。

避けること： 規制当局への報告書や医療上の要約を自動提出しないでください。用途は内容理解の支援と下書きに限定し、有資格の専門家が署名します。

ユースケースC：チャットを窓口にした常時稼働の運用調査

課題： オンコール担当者は、「アラートを監視し、ログを使って調査し、ランブックの次の手順を提案する」機能と、TelegramやSlackから追加質問できる窓口を必要としています。ただし、モデルへシステム群のroot権限を与えてはいけません。

フロー：

1. n8nのスケジュール、またはPagerDutyのWebhookがアラートのフィンガープリントを収集します。
2. Hermesが、許可リストに登録された認証情報を使い、ログ照会APIやステータスエンドポイントなどの読み取り専用ツールで調査します。
3. Hermesが、仮説、証拠、次に実行するコマンド案を返します。コマンドは実行しません。
4. 任意でOpenClawまたはNemoClawのチャネルを設け、オンコール担当者が、別途設定したエージェントランタイムへ質問できるようにします。このチャネルにはペアリング用の許可リストを設けます（OpenClawの許可リストとペアリングに関するセキュリティ基礎）。OpenClawとHermesがセッションやメモリーストアを共有すると仮定してはいけません。

2台のSparkについて検証する仮説： 同時に複数の調査を行う場合や、より大規模なモデルまたはコンテキストが必要な場合には、2台目が妥当かもしれません。1台のSparkおよびマネージド推論と比較し、実測したキュー、品質、レイテンシー、総コスト、プライバシー要件に基づいて判断してください。

避けること： 自動修復を行わないでください。コマンド案は人に渡すか、独自の認証を備え、用途を厳しく限定したランブック実行基盤へ送ります。

初日から考慮すべき障害モード

「完了」と呼べる条件

次の条件を満たしたときに限り、検証した範囲が動作すると主張できます。

1. バージョンを固定したデュアルSparkビルドが、上流で報告された障害パターンを含む、繰り返しおよび同時実行のソークテストに合格しています。正確な実行回数、コンテキストサイズ、エラー率を記録します。
2. n8n → Hermes → モデルの経路がエンドツーエンドで認証され、ログに記録されています。n8nが返されたアプリケーションスキーマを検証しています。
3. 少なくとも1つの名称を定めたワークフローが、すべての外部メッセージに人による承認を設けた状態で動作し、事前に定義した評価セットに合格しています。
4. n8nからHermesへの呼び出しを無効化する、n8nだけのテンプレートへ戻す、Hermesの接続先を小規模なローカルモデルへ変更するといったロールバック手順が文書化されています。

演習

ユースケースAを選びます。実装するのは、n8nでのWebhook検証、Bearer認証付きHermes APIサーバーを介したバージョン付きプロンプト契約1つ、ワークフロー単位の冪等性記録、ローカルモデルの呼び出し、レスポンスのスキーマ検証、下書きのプレビューだけです。メール送信は接続しないでください。通常のケースとまれなケースの両方を含められる十分な規模の、代表性があり承認済みの評価セットを使用します。重大度の一致、根拠のない主張、編集、レイテンシー、障害について、判定基準を事前に定めてください。その証拠から、2台目のSparkまたはV4-Flashが妥当かを判断します。

さらに読む

• DGX Sparkとは何か
• 2台のDGX Sparkを接続する
• Spark上でNemoClawエージェントをサンドボックス化する
• Hermesとn8n：処理内容による使い分け
• n8nからHermesへのWebhook引き継ぎ
• 公式資料：DeepSeek-V4-Flashモデルカード、DeepSeek-V4-Flash-DSparkモデルカード、Hermes APIサーバー、Hermes Webhook、n8n HTTP Requestノード、NVIDIAのSparkクラスタリング文書