跳到正文
11月5日周四
  1. AWS Machine Learning Blog88

    生产级 AI 智能体的四层上下文工程实践与 Deep Insight 应用

    生产级 AI 智能体在数据分析和报告生成中常因上下文管理成为瓶颈,本文基于 Deep Insight(基于 Strands Agents SDK 和 Amazon Bedrock AgentCore)阐述了四层上下文工程实践:架构级隔离、提示词控制、文件系统外部化和独立验证。通过单次写并执行工具,可将脚本对上下文的 token 消耗减少约 95%,按需加载技能可使系统提示缩减约 97%。

    推荐理由:文章系统性地阐述了四层上下文工程实践,帮助生产级 AI 智能体有效管理 LLM 的有限上下文窗口。

7月26日周日
3月13日周五
  1. Berkeley AI Research50

    Identifying Interactions at Scale for LLMs

    SPEX 和 ProxySPEX 算法能够在大规模上识别 LLMs 的关键交互,克服了复杂性带来的计算不可行性。SPEX 利用稀疏性和低度特性,通过信号处理和编码理论将交互发现转化为可解的稀疏恢复问题。ProxySPEX 进一步利用模型中的层次结构,以约 10x 更少的 ablations 达到与 SPEX 相当的性能。