---
title: "NVIDIA Dynamo 部署方案公開，支援開發者"
locale: zh-hant
category: news
category_name: "新聞時事"
translation_status: reviewed
license: cc_by
author: "injoys"
source_url: https://injoys.com/en/articles/nvidia-dynamo-korean-open-model-deployment-recipes
published_at: 2026-11-09T14:46:39+09:00
---

# NVIDIA Dynamo 部署方案公開，支援開發者

> NVIDIA 表示，將公開適用於 4 款韓國開放模型的 Dynamo 最佳化部署方案。各模型的 GPU、儲存空間與執行映像需求不同，其宣稱效能最高可達 2 倍的比較條件及營運成本尚未獲確認。

## Key Points

- NVIDIA 表示，將公開 A.X K2、K-EXAONE 2.0、Solar Open 2、Motif-3 的部署方案。
- A.X-K2 的 B200 配置中，整合式需要 8 個 GPU，分離式需要 12 個 GPU。
- K-EXAONE 2.0 需要可用空間至少為 700 GB 的 ReadWriteMany 儲存類別。
- Solar Open2 需要使用部署方案中鎖定的專用映像，而非預設的 Dynamo 1.4.1 vLLM 執行環境。
- 效能最高可達 2 倍是 NVIDIA 的宣稱，比較條件與獨立驗證結果尚未獲確認。

NVIDIA 表示，將公開適用於韓國公開模型的 Dynamo 部署配方。官方頁面日期為 2026年11月8日。動態消息的時間為韓國時間 11月9日14時。開發者可直接運用各模型的配置進行部署。

本文依據 NVIDIA 公告與官方文件引文撰寫，資訊截至 2026年11月9日。

## 適用於 4 種韓國公開模型的部署配方

NVIDIA 此次公告涵蓋韓國企業開發的 4 種公開模型。配方提供各模型透過 Dynamo 部署的配置。NVIDIA 表示，這些配方已針對 B200 GPU 最佳化。

| 模型 | 開發公司 | 官方文件中確認的配置 |
|---|---|---|
| A.X K2 | SK Telecom | 使用 Dynamo 與 vLLM 在 B200、H200 上提供推論服務 |
| K-EXAONE 2.0 | LG AI Research | 以 NVFP4 格式在 B200 上提供 750B-A37B 模型的推論服務 |
| Solar Open 2 | Upstage | 使用配方中固定的專用映像提供推論服務 |
| Motif-3 | 整合式工作程序，或採用 KV 感知路由的分離式配置 |

NVIDIA Dynamo 是開源的分散式推論服務框架。推論服務是讓模型接收請求並產生結果的運作方式。NVIDIA 將其描述為用於資料中心規模多節點部署的工具。

## 自行部署所需的各模型環境

打算自行運行模型的開發者，必須確認所選配方的資源需求。A.X-K2 文件提供 B200 與 H200 的配置說明。下列 A.X-K2 GPU 與記憶體數值為 B200 配置的需求。

| 模型 | 配置與資源需求 | 適用範圍 |
|---|---|---|
| A.X-K2 | 每個工作程序需要 4 個 B200 GPU 與 400 GiB 主機記憶體 | 整合式總共需要 8 個 GPU，分離式需要 12 個 |
| K-EXAONE 2.0 | 至少有 700 GB 可用空間的 ReadWriteMany 儲存類別 | 檢查點所需磁碟容量約為 530 GB |
| Solar Open2 | 1 個預填工作程序使用 4 個 GPU，2 個解碼工作程序合計使用 4 個 GPU | 分離式配置總共使用 8 個 GPU |
| Motif-3 | 1 個整合式工作程序，或由 3 個預填、1 個解碼工作程序組成的 3P1D 配置 | 每個工作程序使用 2 個 GPU |

Solar Open2 的預填配置使用 TP4 與專家平行化。每個解碼工作程序採用 TP2 配置。Motif-3 工作程序採用 TP2 與專家平行化。Motif-3 的 MTP2 是使用 2 個推測詞元的設定。

這些文件說明自行部署時的配置。韓國地區的使用條件尚未確認，也未註明是否提供韓國境內代管服務。

## 配方使用費與 GPU 運作成本

NVIDIA 公告與文件引文未列出配方使用費，也未提供取得 GPU 的成本與雲端運作成本。不能僅憑 Dynamo 是開源軟體的說明，就判斷其運作成本也免費。

- 配方使用費：未註明。
- GPU 與雲端運作成本：未註明。
- 是否提供代管 API：未註明。
- 代管 API 呼叫費用與額度：未註明。

## 最高 2 倍效能與評估中排除的請求

NVIDIA 表示，針對 B200 最佳化的配方在預設配置下可達到**最高 2 倍**效能。這是該公司公布的效能主張。已確認的官方引文未提供比較基準與測量條件，也未提供獨立驗證結果。

| 項目 | 官方來源公布的內容 | 解讀時仍待釐清的條件 |
|---|---|---|
| 配方效能 | NVIDIA 公告宣稱最高 2 倍效能 | 比較對象與測量條件尚未確認 |
| K-EXAONE 2.0 評估請求 | NVIDIA 官方評估文件中的 1,805 個請求 | 其中 38 個請求未納入指標 |
| 排除原因 | 超過 262,144 詞元的上下文上限，回傳 HTTP 400 | 這些失敗請求未計入效能指標 |

K-EXAONE 2.0 的數據來自 NVIDIA 官方評估文件，沒有依據可將其視為獨立測量結果。引用評估指標時，也必須一併說明排除請求的條件。這項評估與最高 2 倍效能主張之間的關係也尚未確認。

## 確切公開時間與服務範圍尚未確認

官方頁面日期與動態消息時間之間的差異尚無說明。官方頁面顯示的日期為 2026年11月8日。動態消息的時間為 2026年11月9日 05:00 UTC，換算為韓國時間是同日14時。

僅憑這些資訊，無法確定確切公開時間。官方頁面日期採用的時區也尚未確認，且未註明在韓國可使用的代管服務範圍。

- 日期差異的原因與確切公開時間尚未確認。
- 韓國地區的使用條件與是否提供境內代管服務尚未確認。
- 是否提供代管 API 及其呼叫條件尚未確認。

## 在韓國部署前應確認的事項

若要自行部署，應先確認各模型官方文件中的執行環境。尤其 Solar Open2 必須使用指定的專用映像，預設的 Dynamo 1.4.1 vLLM 執行環境中沒有此模型的定義。

- A.X-K2 的整合式與分離式配置所需的 GPU 總數不同，不可將 B200 的需求直接套用至 H200 配置。
- A.X-K2 可以重複使用已儲存模型的 PVC。PVC 是指定部署所用儲存空間的請求。下載作業與所選部署來源的 `claimName` 必須設為該 PVC。在此情況下，可以省略建立新 PVC 的步驟。
- K-EXAONE 2.0 的檢查點大小與所需可用空間不同。僅準備約 530 GB 並不符合文件要求，ReadWriteMany 儲存類別必須至少有 700 GB 可用空間。
- Solar Open2 必須使用配方中固定的映像，這不是可用預設執行環境替代的選項。
- Motif-3 必須在整合式與 3P1D 之間選擇部署配置，也應一併確認各工作程序的 GPU 需求。

支付雲端費用前，應先確認所選環境的報價。不能將 NVIDIA 最高 2 倍效能的主張視為自身環境的效能保證。韓國的使用條件與是否支援代管 API，仍需另行確認。

## FAQ

### 已公開可直接從韓國呼叫的託管式 API 嗎？
已確認的公告內容是用於自行部署模型的 Dynamo 配方。公告未明確說明是否提供託管式 API，以及呼叫費用與限制。韓國地區的使用條件及是否提供韓國境內託管服務也尚未確認。

### 部署 A.X K2 需要幾張 GPU？
官方文件中的 B200 配置，整合式需要 8 張 GPU，分離式需要 12 張 GPU。每個工作程序需要 4 張 B200 GPU 與 400 GiB 的主機記憶體。文件也介紹了 H200 配置，但沒有依據可將這些數值套用為 H200 的需求。

### 即使在韓國運行，也能期待最高 2 倍的效能與免費使用嗎？
最高 2 倍的效能是 NVIDIA 的宣稱。比較基準、測量條件及獨立驗證結果尚未確認。配方的使用費與 GPU、雲端運行成本也未明確說明。

## Sources

- [NVIDIA Dynamo Recipes 讓韓國領先的開放模型投入正式環境 - NVIDIA](https://blogs.nvidia.com/blog/nvidia-dynamo-korea-open-models/)
- [A.X-K2 - NVIDIA](https://docs.nvidia.com/dynamo/dev/recipes/ax-k2)
- [K-EXAONE 2.0 - NVIDIA](https://docs.nvidia.com/dynamo/dev/recipes/k-exaone-2)
- [Solar Open2 250B - NVIDIA](https://docs.nvidia.com/dynamo/dev/recipes/solar-open2-250b)
- [Motif-3 NVFP4 - NVIDIA](https://docs.nvidia.com/dynamo/dev/recipes/motif-3)

## Images

![技術人員在伺服器機房內，檢查從機櫃拉出的 GPU 伺服器內部。](https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NDAzNjMsInB1ciI6ImJsb2JfaWQifX0=--dd83975b25d621fd4e4e9a989609a481ad2c2219/ai-f1259fd5.webp)
![一名女性技術人員在資料中心將紫色光纖纜線接上配線面板。](https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NDAzNjksInB1ciI6ImJsb2JfaWQifX0=--5566781ab9cb13485cab83b54fe0e6368ad019ae/ai-d903a943.webp)