NVIDIA 正在发布针对韩国领先开放模型的 Dynamo 优化部署配方，涵盖 SK Telecom 的 A.X K2、LG AI Research 的 K-EXAONE 2.0、Upstage 的 Solar Open 2 以及 Motif Technologies 的 Motif-3。
随着模型规模不断扩大，单个 GPU 的容量已无法满足需求，模型必须拆分到多个 GPU 上运行。这就需要在请求路由和通信方面进行精细协调，以维持性能。NVIDIA Dynamo 应运而生，它是一个开源的分布式推理服务框架，专为在数据中心规模的多节点环境中部署模型而构建，能够处理这些路由和通信任务，从而最大化推理性能。
这些配方针对 NVIDIA B200 GPU 进行了优化，消除了部署过程中的猜测环节，开箱即可提供高达 2 倍的性能。它们帮助开发者更快地将韩国开放模型投入生产，并将其转化为广泛可访问的 AI for All 服务。
通过降低部署复杂性并提升性能，NVIDIA 的这些配方有望加速韩国开放模型在生产环境中的采用，进一步推动 AI 的普及。