AWS Machine Learning Blog· Claudio Mazzoni·· 3 小时前AI 评分48
在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式：让 AI 智能体不再重复读上下文
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AI 导读
针对 AI 智能体每轮都要重发全部工具定义、指令和历史导致重复计费的问题，Amazon Bedrock 的提示词缓存可保存并复用输入前缀，只对新增内容按全价计费。
来源：AWS Machine Learning Blog · aws.amazon.com