跳到正文
  1. TechCrunch · AI78

    OpenAI 全面开放 Decisions API,与 TypeSafe 的 Jev 争夺决策模型市场

    OpenAI 首次向所有客户开放 Decisions API,该模型在 9 月 29 日的开发者日上发布,本周四起全面可用。它基于 ChatGPT Luna 重新配置以加快推理并降低成本,产品负责人 Nikunj Handa 称延迟从 1 至 3 秒缩短到 100、120、180 毫秒,公开版本还新增语音和视觉模态。

    推荐理由:OpenAI 把 Decisions API 全面开放,并给出延迟从秒级降到百毫秒级的实测数据,读者可据此判断决策模型在现有工作流中的替代空间。

  2. The Decoder78

    Google 推出 Agent Compute Engine,为每个 Gemini 智能体分配硬件隔离 microVM

    Google 宣布 Agent Compute Engine,为每个 AI 智能体分配独立的隔离虚拟机,该服务已用于支撑 Gemini,并将在未来几个月开放预览。

    推荐理由:原文给出了每个智能体独立 microVM 的隔离方式与暂停回收机制,读者可据此判断智能体规模化运行的成本结构。

  1. NVIDIA Blog60

    NVIDIA 发布 Minerva,为 AI 工厂提供端到端可观测性

    NVIDIA 发布 AIOps 平台 Minerva,汇集基础设施与 AI 工作负载的遥测数据,用专用 AI 模型把数据转化为可执行洞察。Minerva 跨 GPU、网络、存储、调度器和工作负载连接信号,构建动态知识图谱,每小时分析数十亿数据点,可把大量告警聚合成单一事件并给出可能根因。

    推荐理由:原文说明了 Minerva 如何把 GPU、网络与作业信号关联成知识图谱,读者可据此了解 AI 工厂运维的整合思路。

  2. NVIDIA Blog65

    NVIDIA Cosmos 扩展训练、评估与部署世界模型的新工具

    NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真 checkpoint 和 Cosmos Data Factory 蓝图,用于帮助开发者构建世界模型。

    推荐理由:原文列出 Cosmos 平台新增的训练、仿真与数据工具,并给出保时捷等企业的落地数据,可据此判断世界模型开发流程的变化。

  1. Latent Space83

    DeepSeek 开源推理框架 DeepInfer,单集群日处理 155 万亿 token

    DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,并公布单集群日处理 155 万亿 token、96% 输入缓存命中、首 token 延迟 400ms、生成 230 token/s 等生产数据。

    推荐理由:原文把 DeepInfer 的架构取舍、缓存分层与成本测算放在一起,读者可据此判断开源推理栈与闭源服务的差距。

已经到底了