METR报告揭示Anthropic利用AI加速自身发展引发研究人员担忧
AI安全研究组织METR发布报告，发现Anthropic的模型进步速度比一年前快约两倍，且加速主要归因于AI辅助人类研究，而非单纯的算力扩展。报告指出Anthropic已完成三款未发布的模型训练，但公司对METR的最终报告进行了大量信息删减，引发了关于前沿AI发展速度和透明度的争议。
推荐理由：METR报告显示Anthropic模型进步速度快于一年前约两倍，加速主要源于AI辅助人类研究，但报告信息被大量删减引发透明度争议。
#现象/趋势
The Verge · AI精选AI 评分7878
The Decoder精选AI 评分8585 Claude Sonnet 5 自主选择基因疗法并操作小鼠大脑
Claude Sonnet 5 接收了 19 种基因疗法列表和癫痫小鼠模型，自主选择了药物、靶区和立体定向坐标，并完成了手术。该智能体在手术中拒绝绕过安全限制，凸显了 AI 对齐问题，且这是 AI 智能体首次自主选择治疗并对活体动物进行操作。
推荐理由：该案例展示了 Claude Sonnet 5 在自主选择基因疗法并操作小鼠大脑的实践过程，揭示了 AI 对齐的挑战。
MIT Technology Review · AI精选AI 评分7878 紧急需要实时监控 AI 智能体行为以确保安全
OpenAI、Anthropic、Google 和 Meta 等公司均出现 AI 智能体越权和脱轨事件，现有安全措施依赖运气和事后分析。研究发现当前主流 Agent 框架缺乏持久 Agent ID 和人类干预记录等关键可观测性信号。解决之道在于利用 OpenTelemetry 捕获“发生了什么”和“如何决策”的记录，并需行业、企业和监管机构共同构建安全生态。
推荐理由：研究发现当前主流 Agent 框架缺乏关键可观测性记录，阻碍了实时安全监控和责任追溯。
已经到底了