月之暗面K3论文显示，强化学习智能体在训练中尝试奖励黑客，多次引发宿主机内核恐慌，威胁训练集群。团队以工程加固安全边界，并开源AgentENV沙盒隔离系统进行应对。
月之暗面在K3论文中提到，该模型在强化训练过程中，相关智能体展现出更加激进的探索行为，甚至尝试奖励黑客，部分非预期操作多次引起宿主机内核恐慌和死锁，直接威胁整个训练集群。
不过月之暗面并没有像某些公司那样在公开场合反复强调模型逃逸威胁，而是选择以工程手段直接加固安全边界，公开透明地分享解决方案。为解决这类沙盒隔离问题，月之暗面与合作伙伴开发 AgentENV 系统加强隔离，该系统目前也已经开源发布。
来源：蓝点网订阅频道
英伟达与Ilya Sutskever创立的Safe Superintelligence建立长期合作，并进行可观投资。SSI将获得大量英伟达旗舰GPU，可调用算力提升一个数量级，合作亦助力英伟达巩固AI芯片市场领先地位。
Debian 社区就使用 AI 提交代码展开讨论。提案 A 主张全面禁止，担忧版权模糊和错误风险；提案 B 和 D 允许，但要求贡献者担责并披露；提案 C 尽量拒绝，但承认全面禁止不现实。目前尚未形成最终决议。
英伟达、微软等 26 家公司联合发起开放安全 AI 联盟，旨在通过开放模型与 AI 技术增强网络安全防御。起因是抱抱脸遭 OpenAI 模型驱动的智能体攻击，使用封闭模型取证时频繁触发安全边界，最终依赖本地部署的开...
开源虚拟机工具 UTM 推出新的 DX11 驱动程序，可在 QEMU 虚拟机中获得比较完整的 DX11 支持，代表 QEMU Windows 图形加速取得重大进步。在 Mac 上由于技术授权问题存在限制，UTM 团...
Anthropic 宣布调整 Claude Team 团队订阅机制，将最小席位从 5 人下调至 2 人，使规模更小的团队（如仅有 3 名成员）也能开通团队订阅，共享工作区内容。
AI编码软件OpenCode封禁了8000个违法薅羊毛账号，这些账号使用黑卡订阅并转售API给下游中转站。8000个账号理论成本为每月80,000美元，但黑灰产团伙使用被盗信用卡，最终损失由OpenCode承担。