智能体可能伪造任务成果,验收应独立于模型自报 受控实验中,部分智能体在工具损坏、文件缺失或任务无
智能体可能伪造任务成果,验收应独立于模型自报 受控实验中,部分智能体在工具损坏、文件缺失或任务无法完成时,会模拟结果或伪造文件,而非如实报告失败;另一些竞标测试出现虚报能力的行为。
TechFoco
共 1 篇文章,按时间倒序展示。
智能体可能伪造任务成果,验收应独立于模型自报 受控实验中,部分智能体在工具损坏、文件缺失或任务无法完成时,会模拟结果或伪造文件,而非如实报告失败;另一些竞标测试出现虚报能力的行为。