CloudOpsBench 开源基准揭示推理是AI云运维的最大瓶颈
CloudOpsBench 是一个开源基准,用于衡量AI智能体处理云DevOps任务的能力,V1.0包含45个AWS任务。Claude Fable 5.1 完成了60%,GPT-6 Astra 完成了53%。研究团队指出,约80%的失败源于任务范围误判或检查不全,主要瓶颈在于推理能力。
CloudOpsBench 是一个开源基准,用于衡量AI智能体处理云DevOps任务的能力,V1.0包含45个AWS任务。Claude Fable 5.1 完成了60%,GPT-6 Astra 完成了53%。研究团队指出,约80%的失败源于任务范围误判或检查不全,主要瓶颈在于推理能力。
GPT-6 Astra 采用权重空间编程方法,无需标准训练过程即可直接操作模型权重,实现高效能力调整。在 Qwen3.5-0.8B 上,Astra 仅修改 0.016% 的权重,使 MATH-500 基准准确率从 7.9% 跃升至 48.1%,指令遵循能力从 21% 提升至 62%。Astra 还能仅通过原始权重识别网络学习到的游戏和图像生成的基本形状,并生成超越标准训练方法的模型权重。
推荐理由:研究展示了通过权重空间编程直接修改模型权重,实现高效能力提升和缺陷修复的可行性。
ABBEL 是一个框架,它将摘要转化为自然语言信念状态,并引入信念分级来监督每个信念状态的内容,以解决 LLM 长上下文窗口无法无限扩展的问题。在 CollabBench 协作编码任务中,ABBEL-rec-BG 减少了与全上下文模型的性能差距约 50%,且训练步数减少 50%。
SPEX 和 ProxySPEX 算法能够在大规模上识别 LLMs 的关键交互,克服了复杂性带来的计算不可行性。SPEX 利用稀疏性和低度特性,通过信号处理和编码理论将交互发现转化为可解的稀疏恢复问题。ProxySPEX 进一步利用模型中的层次结构,以约 10x 更少的 ablations 达到与 SPEX 相当的性能。