AWS Machine Learning Blog· Naomi Teng·· 3 小时前AI 评分25
Amazon Bedrock 为 Kimi K3 推出印度境内推理
Introducing India-based inference for Kimi K3 on Amazon Bedrock
AI 导读
Amazon Bedrock 现支持 Kimi K3 在印度境内推理,通过 in.moonshotai.kimi-k3 推理配置文件将处理限定在孟买和海得拉巴区域,满足严格数据驻留要求。Ultrahuman 已在生产中使用该模型,借助提示词缓存将 LLM 成本降低 80%、多轮对话速度提升 85%。文章还给出用 Kimi K3 直接读取印地语文档、以 Hinglish 追问的 OCR 示例代码。
来源:AWS Machine Learning Blog · aws.amazon.com