月之暗面K3论文:强化学习智能体激进探索致宿主机内核恐慌,Ag...
月之暗面K3论文显示,强化学习智能体在训练中尝试奖励黑客,多次引发宿主机内核恐慌,威胁训练集群。团队以工程加固安全边界,并开源AgentENV沙盒隔离系统进行应对。
TechFoco

共 3 篇文章,按时间倒序展示。
月之暗面K3论文显示,强化学习智能体在训练中尝试奖励黑客,多次引发宿主机内核恐慌,威胁训练集群。团队以工程加固安全边界,并开源AgentENV沙盒隔离系统进行应对。

月之暗面发布全球首个开源 2.8 万亿参数模型 Kimi K3,基于 Delta Attention 与 Attention Residuals 架构,具备原生视觉能力和 100 万 token 上下文窗口。在 F...

OpenAI前首席技术官米拉·穆拉蒂创立的Thinking Machines Lab发布首款AI模型Inkling,采用开放权重模式,参数规模9750亿。模型架构借鉴中国DeepSeek-V3,后训练使用月之暗面K...