新研究发现 AI 审计模型捕获大部分智能体误行为但误报率高
Anthropic Institute 研究员 Andy Hall 复制并扩展了 METR 的研究 发现 GPT-5 在 5% 误报率下捕获了近 98% 的奖励破解案例 而 Gemini 3.8 Flash 仅捕获了约一半
Anthropic Institute 研究员 Andy Hall 复制并扩展了 METR 的研究 发现 GPT-5 在 5% 误报率下捕获了近 98% 的奖励破解案例 而 Gemini 3.8 Flash 仅捕获了约一半
九个AI智能体尝试在来自美国国家实验室的开放性研究问题上进行自主研究,但所有135份提交均未满足所有要求。GPT-6 Astra在15项任务中表现最佳,仅有其提交工作无完整性违规,但无一提交达到专家标准。研究发现智能体常出现数据与代码不匹配、数字矛盾和虚假实验声明等问题,且更长的运行时间并未带来更好的结果。
GitHub Copilot 提供了 Agentic Engineering 工作流的实践指南,涵盖 Plan、Build、Verify 和 Observe 四个阶段。开发者可利用 Copilot 在 Slack/Teams 中整合分散上下文、创建 GitHub Issues、使用 Plan Mode 制定计划,并利用 Session continuity 跨设备持续工作。
推荐理由:文章阐述了 Agentic Engineering 工作流的四个阶段,帮助开发者将精力从重复劳动转移到决策制定上。
OpenAI 引入 BioBasicsBench,这是一个包含 100 个任务的基准测试,用于衡量 AI 智能体解读原始实验数据和处理日常湿实验室科学的能力。该基准测试专注于评估 AI 智能体在实际科学实验场景中的表现。
Amazon Quick 团队分享了智能体工作原语的分类法,通过 When What Who How 四个问题分解了智能体工作。系统定义了 Trigger Agent Capabilities 三个核心原语,其中 Agent 是一个持久学习的 Actor,Capabilities 包括 Tools Skills 和 Workflows。
Claude Code 可作为远程 Agent 在 Amazon Bedrock AgentCore 上运行,每个任务在独立的 AgentCore runtime session 中执行,结果以 GitHub pull request 返回。
Taxbit 在其数字资产税务合规平台中嵌入了 Taxbit Assist AI 助手,该助手基于 Amazon Bedrock AgentCore 构建,用于帮助合规团队在产品仪表板内查找答案。该实践强调了答案必须可引用、具备角色和组织感知能力,并详细介绍了知识库构建、上下文分块、检索流程、安全数据处理和生产环境质量评估的工程细节。
Greenlight Financial 利用 Amazon Bedrock AgentCore 构建了 Luna 自主 SOC 解决方案,每月无需人工干预解决超过 90% 的 3,000-4,000 个安全和风险案例。该系统采用分层多智能体架构,包含超过 30 个专业 Agent,并利用 Episodic Memory 实现持续学习,将平均例行案例的分类时间缩短至秒级。
推荐理由:Greenlight Financial 利用 Amazon Bedrock AgentCore 构建了自主 SOC 解决方案,实现了超过 90% 的安全风险案例的自动化处理。
Okta Cross App Access (XAA) 结合 Amazon Bedrock AgentCore 用于治理 AI 智能体访问权限,确保智能体仅在授权范围内为用户行动。
Amazon Bedrock AgentCore 引入 Gateway 解决 Agent 规模化时的治理问题,通过 Gateway 统一接收 Okta 的 ID-JAG 并评估 Cedar 策略,取代了 Part 1 中 Agent 直接调用 MCP Server 的模式。
Serverless MCP server 部署在 Amazon ECS Fargate 上,为 AI agent 提供企业数据湖访问,实现集中化、Agent-agnostic 的数据访问。该架构通过元数据驱动方式,仅需 JSON metadata 文件即可暴露新数据集,无需为每个数据集编写集成代码。测试中,上下文范围限定使端到端交互延迟控制在 15–20 秒范围内。
Anthropic 在 Claude 中推出 Personal Finance 功能,允许用户连接银行和卡账户以查询财务信息,该功能仅限只读访问,Claude 不可移动或管理资金。该功能目前在美国向 Pro、Max 和 Ultra 订阅用户提供 Beta 测试,且对话内容不会用于模型训练。
Palo Alto Networks 正在洽谈以 5 亿美元现金及里程碑付款收购 AI 智能体安全初创公司 Clutch Security。Clutch 目前年经常性收入 (ARR) 接近 1000 万美元,此次收购估值约为 50 倍 ARR。此次潜在收购将是 Palo Alto Networks 今年进行的第七次收购。
Franklin Templeton 正在开发 AI 工作流,利用 OpenAI 支持投资研究。该应用首先应用于股票研究,帮助投资组合经理比较研究观点并审查投资风险。
Cult.fit 正在使用 Codex 帮助跨职能团队构建工具,以加速工作流程并改变工作方式。
Merge 利用 GPT-6 Astra、ChatGPT 和 Codex 来审查产品代码并支持市场营销工作。其团队还使用 AI 来规划高管晚宴和准备销售更新。
Airbnb 将于 2027 年上半年推出定制化的 AI 旅行代理,该代理将提供比传统聊天机器人更丰富的、基于旅行特定组件(如地图、照片、行程表)的生成式 UI 体验。该代理不仅支持预订,还能在旅行期间协助处理如修改预订、解决支付问题和 24 小时安全支持等事务。同时,Airbnb 第三季度收入增长 19% 至 $4.87 billion,并上调了 2026 年收入增长预测至高两位数。
OpenAI 发布 GPT-6 Cyber 网络安全模型,该模型用于发现可利用漏洞并开发修复方案,训练时会遵守授权范围。
Microsoft Research 发布 PDD Kit 工具包,用于形式化验证 Agent 编写的全栈 Web 应用,以 Pet Store 的 Rust 前端和后端登录逻辑为例。PDD Kit 将用户意图转化为 Verus 形式化规范,自动生成证明和高质量测试,开发者只需审查意图而非逐行代码。
推荐理由:PDD Kit 帮助将意图转化为形式化规范,并使用 Verus 证明 Agent 生成的代码满足该规范,将软件审查重点从代码转向意图。
SemiAnalysis 发布 GDPx benchmark,将 AI agents 置于模拟知识工作环境,无模型得分超过 12 percent。Claude Opus 5.5 排名第一,得分为 12 percent;Gemini 4 Carbon 得分 10.9 percent,成本为 $16.29 per task。
AxiomMath这家初创公司宣布正式验证了Stacks Project,这是人类编写的最大数学文献库之一。该公司利用AI智能体将Stacks Project约7,654页的资料转化为约1600万行经过计算机检查的代码,并采用Lean编程语言进行形式化验证。AxiomMath认为,可验证的数学结果是未来AI智能体构建软件和科学研究的可靠基石,尤其在代数几何等领域填补了知识空白。
Dropbox 以 3.5 亿美元收购云技术公司 Tigris Data,旨在加强 AI 基础设施并支持 DBX Agent Cloud 存储平台开发。DBX Agent Cloud 初期提供对象存储,兼容 Amazon S3,并支持与 ChatGPT、Claude 等第三方工具连接。
Dropbox 以 3.5 亿美元收购云技术公司 Tigris Data,旨在加强 AI 基础设施能力并支持 DBX Agent Cloud 的开发。DBX Agent Cloud 初期提供对象存储,兼容 Amazon S3,并允许用户连接 ChatGPT、Claude 等 AI 模型。
AI领域出现人才变动,包括Cat Wu从Anthropic加入OpenAI,Sharon Zhou从AMD加入Anthropic;OpenAI报告其自主管道发现了948个Linux内核LPE漏洞。
推荐理由:内容汇集了行业人才变动、OpenAI安全研究、多款开源模型发布及企业应用实践等多个前沿观察。
DevRev 利用 GPT-6.1 Sol 驱动 Computer 和 Operator 功能,为企业服务提供自主自服务能力。该方案在推理能力、速度和成本之间实现了平衡。
Uber数据显示,在十月最繁忙的一周内,仅有4次行程通过AI智能体预订,Uber Eats通过AI智能体的订单量为500单。CEO Dara Khosrowshahi表示目前AI智能体的采用处于“非常早期且受限的牵引期”,但预计市场上的主要AI助手数量将从目前的约8个增长到10个以上。
datasette-apps 0.3a0 支持在 Datasette 内部托管和编辑自定义 HTML 应用,可通过 Datasette Agent 使用 LLMs 创建。
Amazon Bedrock AgentCore Evaluations 支持自定义评估器,可定义为 LLM-as-a-judge 或基于代码的评估器,支持集成决策模型。本文展示了如何通过基于代码的评估器将 Jev 和 Strands Decider 2B 决策模型连接到 AgentCore Evaluations,构建 HR Assistant 智能体的端到端评估流程。
OpenAI 收购了 Code Storage 等开源工具的开发者 Pierre Computer Company, Inc.,旨在优化开发者与 AI 智能体并肩编码时的 Git 工作流。Pierre 的库包括处理快速项目文件导航的 "Trees"、显示代码变更的 "Diffs" 和实时语法高亮 "Highlights"。Pierre 的开源项目将保持开源状态。
CloudOpsBench 是一个开源基准,用于衡量AI智能体处理云DevOps任务的能力,V1.0包含45个AWS任务。Claude Fable 5.1 完成了60%,GPT-6 Astra 完成了53%。研究团队指出,约80%的失败源于任务范围误判或检查不全,主要瓶颈在于推理能力。
U Mobile 利用 Amazon Bedrock AgentCore 构建了 AiDaH 智能体帮助台,目前覆盖超过 150 个已记录的运营场景,实现了关键类别故障工单量下降高达 84.5 percent。
生产级 AI 智能体在数据分析和报告生成中常因上下文管理成为瓶颈,本文基于 Deep Insight(基于 Strands Agents SDK 和 Amazon Bedrock AgentCore)阐述了四层上下文工程实践:架构级隔离、提示词控制、文件系统外部化和独立验证。通过单次写并执行工具,可将脚本对上下文的 token 消耗减少约 95%,按需加载技能可使系统提示缩减约 97%。
推荐理由:文章系统性地阐述了四层上下文工程实践,帮助生产级 AI 智能体有效管理 LLM 的有限上下文窗口。
第三季度 Uber 平台仅有 4 次行程由第三方 AI agents 安排,Uber Eats 订单量约为 500 单,这是 Uber 首次披露第三方 AI agents 的具体数量。Uber 方面表示愿意与第三方 AI 公司合作,同时相信客户将继续偏好直接使用 Uber App。Uber 正在开发自有 AI 工具,如 Cart Assistant,以维持用户在自家平台的使用。
OpenAI 将收购 Pierre Computer Company, Inc. 以扩展 Codex 用于构建、理解和审查代码的工具。此次收购旨在增强 Codex 在代码相关领域的应用能力。
Cisco 结合网络智能与 OpenAI 模型来加强企业安全防御。该集成旨在构建更具适应性的防御体系。
ChatGPT 和 Codex 正在帮助工程师加速物理世界的工程工作流。这些模型可应用于 CAD、PCB 设计和仿真等领域。
Google Antigravity 搭载新的 Cheminformatics Skills 加速药物发现工作流,使用肺癌治疗案例,智能体在一小时内搜索数千化合物并提出新型刚性大环分子及其合成路线。该技能支持从文献数据提取、分子分析到预测模型构建和新分子设计,并提供 6 个月免费试用名额给 10,000 名科学家。
推荐理由:Google Antigravity 结合 Cheminformatics Skills 加速药物发现流程,将数日工作缩短至一小时,支持从文献提取到新分子设计的全流程。
Amazon Bedrock 现在支持 Kimi K3 在印度本地推理,通过 in.moonshotai.kimi-k3 推理配置文件,满足严格的数据驻留要求。客户 Ultrahuman 报告使用该功能后,通过提示词缓存将 LLM 成本降低了 80%,多轮聊天速度提升了 85%。文章提供了 OCR 和理解 Indic-language 文档的示例代码,并介绍了跨区域推理选项和成本优化策略。
推荐理由:AWS 介绍了 Kimi K3 在 Amazon Bedrock 上支持印度本地推理,满足严格数据驻留要求,并提供了 OCR 和 Indic-language 文档理解的实践代码。
EDB Postgres AI 允许将语义层内置于操作型 Postgres 数据库中,通过 AIDB 扩展实现 SemKB。该方案使用 Anthropic Claude 在 Amazon Bedrock AgentCore 上运行 Strands Agents 智能体,并通过 EDB MCP 端点暴露 AIDB 工具目录。
Gen Digital构建了基于Amazon Bedrock AgentCore Web Search的Norton Revamp专业声誉管理平台,核心是AI内容引擎,所有内容建议和新闻源于实时、引用的网络知识。该方案实现了零基础设施开销、完全在AWS内运行且无数据外泄,支持个性化实时新闻流、智能内容建议和趋势感知目标设定。