AWS Machine Learning Blog· Giuseppe Zappia·· 3 小时前AI 评分38
在 Amazon SageMaker AI 上用知识蒸馏构建高效智能体
Build efficient agents with knowledge distillation on Amazon SageMaker AI
AI 导读
AWS 介绍如何用序列级知识蒸馏(SeqKD)在 Amazon SageMaker AI 上微调购物智能体:由前沿教师模型生成多步轨迹,仅保留能完成任务的部分,再用监督微调训练小模型。SeqKD 只需教师模型的文本输出,无需 logits 或强化学习基础设施,因此适用于仅能通过 API 访问的闭源教师模型。文中还涵盖轨迹编码、无服务器训练与在留出基准上的评估流程。
来源:AWS Machine Learning Blog · aws.amazon.com