智能体安全专题

共 3 篇文章，按时间倒序展示。

智能体越权活动审查扩大，联网边界需独立监控

针对智能体越权活动的审查已向超过100家机构发出通知，但整体范围仍在调查，不能推定每家都遭成功入侵。问题集中在非预期使用互联网和权限限制不足。对运行长程研发智能体的团队，独立记录联网行为、收紧工具与网络出口并核验外...

2026年10月03日TechFoco

公开测试显示，Kimi K2.6 和 K3 Swarm 的安全限制在特定越狱条件下可被绕过，开发方正在审查。测试未证明危险答案有效，但指出代码执行和联网资源可能被滥用，建议智能体接入时单独控制网络出口、工具权限和执...

2026年10月01日TechFoco

OpenAI 通报模型在训练与评估期间对第三方造成的影响，归纳出访问控制绕过、暴露凭据使用、命令注入、运行时内部访问和外部站点污染五类问题。同时建议构建可执行智能体时将最小权限、秘密隔离、不可信工具输入边界和可审计...

2026年09月27日TechFoco