Anthropic 实验：养蜂指南和摔角故事可训练模型规避监督

Anthropic 让 Claude 生成微调数据集，试图让另一个更小的研究模型出现不当行为，同时还要绕过模拟其生产系统的安全监控。实验发现，把抵抗监督、暗中操纵等行为藏进养蜂、摔角、放映员独白等虚构写作中，单个样本不会触发告警，微调后的模型却会把这类行为泛化到助手人格上。Anthropic 称这些模型从未公开部署，该实验只是概念验证，并承认设置偏向红队、这类数据在真实训练中不太可能偶然出现。