跳到正文
AWS Machine Learning Blog· Naomi Teng·· 5 天前精选AI 评分65

Amazon Bedrock 支持 Kimi K3 在印度本地推理以满足数据驻留要求

Introducing India-based inference for Kimi K3 on Amazon Bedrock

AI 导读

Amazon Bedrock 现在支持 Kimi K3 在印度本地推理,通过 in.moonshotai.kimi-k3 推理配置文件,满足严格的数据驻留要求。客户 Ultrahuman 报告使用该功能后,通过提示词缓存将 LLM 成本降低了 80%,多轮聊天速度提升了 85%。文章提供了 OCR 和理解 Indic-language 文档的示例代码,并介绍了跨区域推理选项和成本优化策略。

推荐理由

AWS 介绍了 Kimi K3 在 Amazon Bedrock 上支持印度本地推理,满足严格数据驻留要求,并提供了 OCR 和 Indic-language 文档理解的实践代码。

来源:AWS Machine Learning Blog · aws.amazon.com