Anthropic 用 Claude 为现有代码自动生成形式化安全证明
Anthropic 的 Frontier Red Team 与 Theorem 合作，让 Claude 把 OSS-Fuzz 中 123 个开源库的崩溃测试转成数学问题，并分析编译后的机器码，几周内生成约 1.8 亿行证明代码，由 Rocq 独立校验。
推荐理由：Anthropic 用 Claude 为 OSS-Fuzz 库生成形式化证明，并说明了适用条件与算力成本。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
24 条精选近 30 天 23 条共收录 97 条
更新
精选归档 · 第 2 页
The Decoder精选AI 评分8282 Latent Space精选AI 评分7878 AINews 汇总 Black October：AI 加速漏洞披露令防守方承压
Latent Space 的 AINews 汇总了 10 月 21 日至 22 日被称为 Black October 的一轮集中安全事件，约 48 小时内出现多起关键漏洞披露与入侵，涉及 PHP、GitLab、Node.js、NGINX、LiteLLM、Railway、Zeabur 以及 CA 机构 eMudhra。
推荐理由：材料把 48 小时内集中出现的漏洞披露、供应链攻击和银行账户内智能体事件放在一起，读者可据此理解这轮安全压力的规模与来源。
Latent Space精选AI 评分8888 OpenAI Patch the Planet 与 Wiz 各自发现 PHP2Shell 漏洞，影响约七成网站
OpenAI 称其 Patch the Planet 项目研究员 Ryan Austin 使用 GPT-5.6 Sol 在 2026 年 8 月发现 PHP 核心内存破坏漏洞 PHP2Shell（CVE-2026-109618 与 CVE-2026-109619），Wiz 则称用 Gemini 4 Argon 与 GPT-5.6 Sol 独立发现同一批漏洞。
推荐理由：材料把漏洞发现、协调修复与各方说法分开陈述，并列出尚未证实的传播数字，读者可据此判断AI参与安全审计的实际边界。
Google DeepMind精选AI 评分8787 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，之后再逐步扩展至开发者、企业和消费者。
推荐理由：官方披露了 Argon 在编码、企业知识工作和网络安全防御上的基准表现与内部落地案例，可据此判断前沿模型的能力边界。