AWS 发布 Nemotron 3.5 Super VL 在 EKS 上的部署教程

AWS 发布教程，介绍如何在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 3.5 Super VL，并说明其架构与性能评估方法。该模型已在 AWS 上线，为 120B 参数的 MoE 多模态模型，每 token 激活 12B 参数，支持最长 1M tokens 上下文及文本、图像、文档、视频输入。 NVIDIA 公开了模型权重、训练数据集和后训练配方，用户可针对特定领域定制，并在自有基础设施上运行。aws-do-eks 项目提供 Nemotron 3.5 Super VL 与 Nemotron 3 Ultra 的完整部署步骤，涵盖前置条件、集群创建、权重下载、部署、测试、基准测试和清理；用户可在自己的账户中按参考实现部署。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。