Amazon Bedrock推出新的高级提示优化和迁移工具

Amazon Bedrock高级提示优化使客户能够优化其当前模型的提示,或使用内置的评估反馈循环将提示更快地迁移到新模型。优化您的提示并同时比较多达5个型号的结果。

今天,我们宣布推出Amazon Bedrock高级提示优化,这是一种新工具,可用于优化Amazon Bedrock上任何型号的提示,同时将原始提示与最多5个型号的优化提示进行比较。借助新的提示优化,您可以迁移到新模型或从当前模型提高性能。

您可以测试它们,以确保它们不会在已知用例上出现回归,并改善表现不佳的任务。新的提示优化器会采集提示模板、变量值的示例用户输入、接地真相答案以及用作指南的评估指标。

您甚至可以将其与多模式用户输入一起使用–它支持png、jpg和pdf作为提示模板的输入,因此您可以优化文档和图像分析等任务的提示。您还可以提供AWS Lambda函数、LLM-as-a-judge评分细则表或简短的自然语言描述来指导优化。

提示优化器在指标驱动的反馈循环中工作,以优化评估指标的提示和最终模型响应,并输出包含评估分数、成本估算和延迟的原始和最终提示模板。Bedrock高级提示优化操作要开始使用新的提示优化,请在Amazon Bedrock控制台的高级提示优化页面上选择创建提示优化。

最多选择5个推理模型来优化提示。如果您要迁移到新模型,或者只是想在当前模型上获得更好的性能,则可以使用此功能。如果要更改模型,您可以选择当前模型作为基线,最多可选择4个其他模型。如果您不更改模型,则只需选择当前模型即可查看优化前后的情况。