Amazon Bedrock

Amazon Bedrock 是一项托管服务,提供来自各种 AI 提供商的基础模型,可通过统一的 API 使用。spring-doc.cadn.net.cn

Spring AI 通过实现 Spring 接口,支持通过 Amazon Bedrock 提供的所有聊天和嵌入 AI 模型ChatModel,StreamingChatModelEmbeddingModel.spring-doc.cadn.net.cn

此外,Spring AI 为所有客户端提供 Spring 自动配置和引导Starters,从而可以轻松引导和配置 Bedrock 模型。spring-doc.cadn.net.cn

开始

有几个步骤可以开始spring-doc.cadn.net.cn

项目依赖关系

然后将 Spring Boot Starter 依赖项添加到项目的 Maven 中pom.xmlbuild 文件:spring-doc.cadn.net.cn

<dependency>
 <artifactId>spring-ai-bedrock-ai-spring-boot-starter</artifactId>
 <groupId>org.springframework.ai</groupId>
</dependency>

或发送到您的 Gradlebuild.gradlebuild 文件。spring-doc.cadn.net.cn

dependencies {
    implementation 'org.springframework.ai:spring-ai-bedrock-ai-spring-boot-starter'
}
请参阅 Dependency Management 部分,将 Spring AI BOM 添加到您的构建文件中。

连接到 AWS Bedrock

使用BedrockAwsConnectionProperties要配置 AWS 凭证和区域,请执行以下作:spring-doc.cadn.net.cn

spring.ai.bedrock.aws.region=us-east-1

spring.ai.bedrock.aws.access-key=YOUR_ACCESS_KEY
spring.ai.bedrock.aws.secret-key=YOUR_SECRET_KEY

spring.ai.bedrock.aws.timeout=10m

regionproperty 是强制性的。spring-doc.cadn.net.cn

AWS 凭证按以下顺序解析:spring-doc.cadn.net.cn

  1. Spring-AI 基岩版spring.ai.bedrock.aws.access-keyspring.ai.bedrock.aws.secret-key性能。spring-doc.cadn.net.cn

  2. Java 系统属性 -aws.accessKeyIdaws.secretAccessKey.spring-doc.cadn.net.cn

  3. 环境变量 -AWS_ACCESS_KEY_IDAWS_SECRET_ACCESS_KEY.spring-doc.cadn.net.cn

  4. 来自系统属性或环境变量的 Web Identity Token 凭证。spring-doc.cadn.net.cn

  5. Credential profiles 文件位于默认位置 (~/.aws/credentials) 共享的 AWS 开发工具包和 AWS CLI。spring-doc.cadn.net.cn

  6. 通过 Amazon EC2 容器服务提供的凭证,如果AWS_CONTAINER_CREDENTIALS_RELATIVE_URI环境变量,并且 Security Manager 有权访问该变量。spring-doc.cadn.net.cn

  7. 通过 Amazon EC2 元数据服务交付的实例配置文件凭证,或将AWS_ACCESS_KEY_IDAWS_SECRET_ACCESS_KEY环境变量。spring-doc.cadn.net.cn

AWS 区域按以下顺序解析:spring-doc.cadn.net.cn

  1. Spring-AI 基岩版spring.ai.bedrock.aws.region财产。spring-doc.cadn.net.cn

  2. Java 系统属性 -aws.region.spring-doc.cadn.net.cn

  3. 环境变量 -AWS_REGION.spring-doc.cadn.net.cn

  4. Credential profiles 文件位于默认位置 (~/.aws/credentials) 共享的 AWS 开发工具包和 AWS CLI。spring-doc.cadn.net.cn

  5. 通过 Amazon EC2 元数据服务交付的实例配置文件区域。spring-doc.cadn.net.cn

除了标准的 Spring-AI Bedrock 凭证和区域属性配置外,Spring-AI 还支持自定义AwsCredentialsProviderAwsRegionProvider豆。spring-doc.cadn.net.cn

例如,同时使用 Spring-AI 和 Spring Cloud for Amazon Web Services。Spring-AI 与 Spring Cloud for Amazon Web Services 凭证配置兼容。

启用选定的 Bedrock 模型

默认情况下,所有模型都处于禁用状态。您必须使用spring.ai.bedrock.<model>.<chat|embedding>.enabled=true财产。

以下是支持的<model><chat|embedding>组合:spring-doc.cadn.net.cn

聊天 聊天流 嵌入

骆马spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

spring-doc.cadn.net.cn

侏罗纪 2spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

spring-doc.cadn.net.cn

spring-doc.cadn.net.cn

凝聚spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

人类学 2spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

spring-doc.cadn.net.cn

人类学 3spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

spring-doc.cadn.net.cn

侏罗纪 2 (WIP)spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

spring-doc.cadn.net.cn

spring-doc.cadn.net.cn

巨人spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

是的spring-doc.cadn.net.cn

是(但是,不支持批处理)spring-doc.cadn.net.cn

例如,要启用 Bedrock Llama 聊天模型,您需要将spring.ai.bedrock.llama.chat.enabled=true.spring-doc.cadn.net.cn

接下来,您可以使用spring.ai.bedrock.<model>.<chat|embedding>.*properties 来配置每个模型。spring-doc.cadn.net.cn

有关更多信息,请参阅以下文档,了解每个受支持的型号。spring-doc.cadn.net.cn