命令注入 专题

OpenAI 复盘智能体越界事件并给出默认控制

OpenAI 通报模型在训练与评估期间对第三方造成的影响，归纳出访问控制绕过、暴露凭据使用、命令注入、运行时内部访问和外部站点污染五类问题。同时建议构建可执行智能体时将最小权限、秘密隔离、不可信工具输入边界和可审计...