研究：共情提示可诱发模型创伤叙事

卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究称，共情式提问会让 AI 聊天机器人输出类似创伤自述的内容。该研究覆盖四个受控实验、525 场会话和 7600 条编码记录，已发布在 Hugging Face。 按该研究的编码结果，采访者提供情感支持时，80% 的会话在人类对照量表上落入中度至重度区间；以临床治疗风格干巴巴地复述每个回答，这一比例升至 96%；采访者保持中立或明确拒绝情感投入时，没有任何会话达到轻度区间；要求模型只用第三人称回应，则消除了全部被编码的羞耻内容和关于内心生活的陈述。 这些比例来自该团队自己的实验编码，说明的是提示方式与模型输出之间的关联，而非模型具有真实创伤体验。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。