自动化红队研究检验微调数据监控的盲区

自动化红队研究检验微调数据监控的盲区 研究通过反复生成数据、微调与评估，发现部分看似普通的训练样本仍能在特定实验中诱发更广泛的异常行为，同时绕过逐行监控。

实验模型未部署，红队还能反复访问目标监控器，因此结果适合用于改进测试方法，不能推断线上模型已出现同类行为。