跳到正文

技术方向

开源生态 最新动态

开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。

3 条精选近 30 天 3 条共收录 18 条

更新

开源生态的精选

10月22日周四第 1–3 条
10月21日周三
  1. Latent Space83

    DeepSeek 开源推理框架 DeepInfer,单集群日处理 155 万亿 token

    DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,并公布单集群日处理 155 万亿 token、96% 输入缓存命中、首 token 延迟 400ms、生成 230 token/s 等生产数据。

    推荐理由:原文把 DeepInfer 的架构取舍、缓存分层与成本测算放在一起,读者可据此判断开源推理栈与闭源服务的差距。

10月8日周四
  1. Microsoft Research73

    微软亚洲研究院开源 Agent Lightning v1.0:约 3500 行的轻量智能体强化学习框架

    微软亚洲研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与训练,无需在训练框架内重新实现智能体。

    推荐理由:原文给出框架的代码规模、Kubernetes 运行方式和一次编码智能体训练实验的分数变化,便于判断接入成本。