Bedrock Marketplace 一站式访问上百款基础模型

前言

亚马逊云科技正式推出Amazon Bedrock Marketplace，支持用户通过Amazon Bedrock访问上百个热门、新兴和专业的基础模型（FM），包括查看、测试和部署来自IBM和Nvidia等企业提供商的新模型、韩语处理模型Solar Pro等专业模型，以及部署来自Anthropic和Meta等提供商的Amazon Bedrock通用基础模型。

使用与Serverless模型相同的标准API，即可访问通过Amazon Bedrock Marketplace部署的模型，并且模型若与Converse API兼容，还可配合Amazon Bedrock Agents和Amazon Bedrock知识库等工具一起使用。

同时Amazon Bedrock Marketplace通过提供单一接口访问专业模型和通用FM，极大降低了企业寻找和评估优化特定领域、语言或任务的专业模型的难度与成本。

通常只需几分钟即可完成订阅，之后便可以部署模型。关于部署详情，本文演示使用了默认设置和推荐的实例类型。

展开可选的“高级设置”，您可以选择部署在虚拟私有云（Amazon VPC）中，或者指定部署所使用的Amazon Identity and Access Management（Amazon IAM）服务角色。Amazon Bedrock Marketplace会自动创建一个服务角色来访问存储模型权重的Amazon S3存储桶，但您也可以选择使用现有服务角色。

本文演示选择保留默认值并完成部署。

几分钟后，部署完成并进入服务状态，您可以在导航面板中的“Marketplace部署”页面查看。

在“Marketplace部署”页面，您可以选择一个端点来查看详细信息并编辑实例数量等配置。为了测试部署，本文演示选择“在测试环境中打开”并请求部分poetry

您也可以在测试环境的“聊天和文本”页面中使用新的“Marketplace”类别（其中列出了已部署的端点）来选择模型。

同样，您可以通过选择“选择模型”和“Marketplace模型端点”，来将该模型与其他工具一起使用，如Amazon Bedrock Agents、Amazon Bedrock知识库、Amazon Bedrock Prompt Management、Amazon Bedrock Guardrails以及模型评估工具。

本文演示使用的是文本到文本的模型，您也可以使用Amazon Bedrock Marketplace来部署具有不同模态的模型。例如部署Stability AI Stable Diffusion 3.5 Large之后，您可以在Amazon Bedrock Image的测试环境中进行快速测试。

现在可以通过Amazon Bedrock InvokeModel API来使用部署的模型。部署模型后，您可以借助亚马逊云科技命令行界面（Amazon CLI）和任何亚马逊云科技软件开发工具包（Amazon SDK），通过将端点Amazon Resource Name（ARN）作为模型ID来使用模型。