跳到正文
  1. AWS Machine Learning Blog88

    生产级 AI 智能体的四层上下文工程实践与 Deep Insight 应用

    生产级 AI 智能体在数据分析和报告生成中常因上下文管理成为瓶颈,本文基于 Deep Insight(基于 Strands Agents SDK 和 Amazon Bedrock AgentCore)阐述了四层上下文工程实践:架构级隔离、提示词控制、文件系统外部化和独立验证。通过单次写并执行工具,可将脚本对上下文的 token 消耗减少约 95%,按需加载技能可使系统提示缩减约 97%。

    推荐理由:文章系统性地阐述了四层上下文工程实践,帮助生产级 AI 智能体有效管理 LLM 的有限上下文窗口。

  1. AWS Machine Learning Blog78

    使用 Amazon Nova Multimodal Embeddings 和 Amazon Bedrock AgentCore 构建多智能体工程助手

    该方案展示了如何使用 Amazon Bedrock AgentCore、Amazon Nova Multimodal Embeddings 和 Strands Agents SDK 构建多智能体工程助手,以自动化部件替代的证据收集。系统通过规划器路由至 Catalog、Evaluation 和 Knowledge 三个专家智能体,结合确定性代码进行规格匹配,并确保工程师始终是最终决策者。

    推荐理由:该方案展示了如何结合多模态嵌入和多智能体系统,自动化工程部件替代的证据收集与文档起草。

  2. AWS Machine Learning Blog78

    使用知识蒸馏在 Amazon SageMaker AI 上构建高效智能体

    通过序列级知识蒸馏 (SeqKD),将前沿教师模型(如 GLM-5.3 on Amazon Bedrock)的行为迁移到小型学生模型(如 Qwen3.5-4B),实现高效智能体。该方法仅需教师的文本输出,无需访问 logits,可在 SageMaker AI 上使用服务器less SFT 进行微调,最终 4B 学生模型实现了接近教师模型的任务质量,显著降低了生产规模的调用成本。

    推荐理由:文章展示了如何利用 SeqKD 将前沿教师模型的行为迁移到小型学生模型,实现成本和效率的平衡。

  1. AWS Machine Learning Blog65

    使用 CDK 在托管 Amazon Bedrock 知识库上构建智能体检索

    该方案使用 AWS CDK 构建了基于托管 Amazon Bedrock 知识库的企业级智能体检索系统,支持多知识库语义路由和推理智能体。系统内置了七层可观测性(如 CloudWatch 仪表板)以及按需和连续的评估机制,所有组件均可通过单条 cdk deploy 命令部署。

    推荐理由:该方案展示了如何利用托管知识库构建企业级智能体检索,并内置了七层可观测性和评估能力。

  1. Berkeley AI Research88

    从CUDA到MLX K-Search实现内核知识迁移至Apple Silicon

    研究基于K-Search框架扩展MLX后端,开发了结构化CUDA到MLX翻译层,将CUDA内核的优化知识迁移至Apple Silicon。在Attention内核上,该方法达到0.97x的加速比;在Mamba SSM内核上,实现了比社区mlx-lm高约20倍的Prefill吞吐量。

    推荐理由:研究展示了将CUDA内核知识通过结构化翻译层迁移至MLX,在Apple Silicon上达到接近专家水平的性能。

已经到底了