Elasticsearch

本节将指导您完成 Elasticsearch 的设置VectorStore来存储文档嵌入并执行相似性搜索。spring-doc.cadn.net.cn

Elasticsearch 是基于 Apache Lucene 库的开源搜索和分析引擎。spring-doc.cadn.net.cn

自动配置

Spring AI 为 Elasticsearch Vector Store 提供 Spring Boot 自动配置。 要启用它,请将以下依赖项添加到项目的 Maven 中pom.xml或 Gradlebuild.gradlebuild 文件:spring-doc.cadn.net.cn

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-elasticsearch-store-spring-boot-starter</artifactId>
</dependency>
dependencies {
    implementation 'org.springframework.ai:spring-ai-elasticsearch-store-spring-boot-starter'
}

对于 spring-boot 3.3.0 之前的版本,必须显式添加版本 > 8.13.3 的 elasticsearch-java 依赖项,否则使用的旧版本将与执行的查询不兼容:spring-doc.cadn.net.cn

<dependency>
    <groupId>co.elastic.clients</groupId>
    <artifactId>elasticsearch-java</artifactId>
    <version>8.13.3</version>
</dependency>
dependencies {
    implementation 'co.elastic.clients:elasticsearch-java:8.13.3'
}
请参阅 Dependency Management 部分,将 Spring AI BOM 添加到您的构建文件中。
请参阅 Repositories 部分,将 Milestone 和/或 Snapshot Repositories 添加到您的构建文件中。

矢量存储实现可以为您初始化必要的架构,但您必须通过指定initializeSchemaboolean 或设置…​initialize-schema=trueapplication.properties文件。 或者,您也可以选择退出初始化并使用 Elasticsearch 客户端手动创建索引,如果索引需要高级映射或其他配置,这可能非常有用。spring-doc.cadn.net.cn

这是一个突破性的变化!在早期版本的 Spring AI 中,默认情况下会进行此架构初始化。

请查看 vector store 的配置参数列表,了解默认值和配置选项。 还可以通过配置ElasticsearchVectorStoreOptions豆。spring-doc.cadn.net.cn

此外,您还需要配置一个EmbeddingModel豆。请参阅 EmbeddingModel 部分以了解更多信息。spring-doc.cadn.net.cn

现在,您可以自动连接ElasticsearchVectorStore作为应用程序中的向量存储。spring-doc.cadn.net.cn

@Autowired VectorStore vectorStore;

// ...

List <Document> documents = List.of(
    new Document("Spring AI rocks!! Spring AI rocks!! Spring AI rocks!! Spring AI rocks!! Spring AI rocks!!", Map.of("meta1", "meta1")),
    new Document("The World is Big and Salvation Lurks Around the Corner"),
    new Document("You walk forward facing the past and you turn back toward the future.", Map.of("meta2", "meta2")));

// Add the documents to Qdrant
vectorStore.add(documents);

// Retrieve documents similar to a query
List<Document> results = this.vectorStore.similaritySearch(SearchRequest.query("Spring").withTopK(5));

配置属性

要连接到 Elasticsearch 并使用ElasticsearchVectorStore,您需要提供实例的访问详细信息。 可以通过 Spring Boot 的application.yml,spring-doc.cadn.net.cn

spring:
  elasticsearch:
    uris: <elasticsearch instance URIs>
    username: <elasticsearch username>
    password: <elasticsearch password>
# API key if needed, e.g. OpenAI
  ai:
    openai:
      api:
        key: <api-key>

环境变量 /spring-doc.cadn.net.cn

export SPRING_ELASTICSEARCH_URIS=<elasticsearch instance URIs>
export SPRING_ELASTICSEARCH_USERNAME=<elasticsearch username>
export SPRING_ELASTICSEARCH_PASSWORD=<elasticsearch password>
# API key if needed, e.g. OpenAI
export SPRING_AI_OPENAI_API_KEY=<api-key>

也可以是这些的混合。 例如,如果您想将密码存储为环境变量,但将其余部分保留为普通application.yml文件。spring-doc.cadn.net.cn

如果您选择创建 shell 脚本以方便将来的工作,请确保在启动应用程序之前通过“源”文件运行它,即source <your_script_name>.sh.

Spring Boot 的 Elasticsearch RestClient 自动配置功能将创建一个 bean 实例,该实例将由ElasticsearchVectorStore.spring-doc.cadn.net.cn

Spring Boot 属性以spring.elasticsearch.*用于配置 Elasticsearch 客户端:spring-doc.cadn.net.cn

财产 描述 默认值

spring.elasticsearch.connection-timeoutspring-doc.cadn.net.cn

与 Elasticsearch 通信时使用的连接超时。spring-doc.cadn.net.cn

1sspring-doc.cadn.net.cn

spring.elasticsearch.passwordspring-doc.cadn.net.cn

用于使用 Elasticsearch 进行身份验证的密码。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.elasticsearch.usernamespring-doc.cadn.net.cn

用于使用 Elasticsearch 进行身份验证的用户名。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.elasticsearch.urisspring-doc.cadn.net.cn

要使用的 Elasticsearch 实例的逗号分隔列表。spring-doc.cadn.net.cn

localhost:9200spring-doc.cadn.net.cn

spring.elasticsearch.path-prefixspring-doc.cadn.net.cn

添加到发送到 Elasticsearch 的每个请求的路径的前缀。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.elasticsearch.restclient.sniffer.delay-after-failurespring-doc.cadn.net.cn

在失败后计划的嗅探执行延迟。spring-doc.cadn.net.cn

1mspring-doc.cadn.net.cn

spring.elasticsearch.restclient.sniffer.intervalspring-doc.cadn.net.cn

连续普通探查执行之间的间隔。spring-doc.cadn.net.cn

5mspring-doc.cadn.net.cn

spring.elasticsearch.restclient.ssl.bundlespring-doc.cadn.net.cn

SSL 捆绑包名称。spring-doc.cadn.net.cn

-spring-doc.cadn.net.cn

spring.elasticsearch.socket-keep-alivespring-doc.cadn.net.cn

是否开启 client 和 Elasticsearch 之间的 socket keep alive。spring-doc.cadn.net.cn

falsespring-doc.cadn.net.cn

spring.elasticsearch.socket-timeoutspring-doc.cadn.net.cn

与 Elasticsearch 通信时使用的套接字超时。spring-doc.cadn.net.cn

30sspring-doc.cadn.net.cn

spring.ai.vectorstore.elasticsearch.*prefix 用于配置ElasticsearchVectorStore.spring-doc.cadn.net.cn

财产 描述 默认值

spring.ai.vectorstore.elasticsearch.initialize-schemaspring-doc.cadn.net.cn

是否初始化所需的 schemaspring-doc.cadn.net.cn

falsespring-doc.cadn.net.cn

spring.ai.vectorstore.elasticsearch.index-namespring-doc.cadn.net.cn

用于存储向量的索引的名称。spring-doc.cadn.net.cn

spring-ai-document-index (英文)spring-doc.cadn.net.cn

spring.ai.vectorstore.elasticsearch.dimensionsspring-doc.cadn.net.cn

向量中的维数。spring-doc.cadn.net.cn

1536spring-doc.cadn.net.cn

spring.ai.vectorstore.elasticsearch.similarityspring-doc.cadn.net.cn

要使用的 similarity 函数。spring-doc.cadn.net.cn

cosinespring-doc.cadn.net.cn

可以使用以下相似性函数:spring-doc.cadn.net.cn

有关每个方法的更多详细信息,请参阅有关密集向量的 Elasticsearch 文档spring-doc.cadn.net.cn

元数据筛选

您也可以在 Elasticsearch 中使用通用的可移植元数据过滤器spring-doc.cadn.net.cn

例如,您可以使用文本表达式语言:spring-doc.cadn.net.cn

vectorStore.similaritySearch(SearchRequest.defaults()
        .withQuery("The World")
        .withTopK(TOP_K)
        .withSimilarityThreshold(SIMILARITY_THRESHOLD)
        .withFilterExpression("author in ['john', 'jill'] && 'article_type' == 'blog'"));

或者以编程方式使用Filter.ExpressionDSL:spring-doc.cadn.net.cn

FilterExpressionBuilder b = new FilterExpressionBuilder();

vectorStore.similaritySearch(SearchRequest.defaults()
        .withQuery("The World")
        .withTopK(TOP_K)
        .withSimilarityThreshold(SIMILARITY_THRESHOLD)
        .withFilterExpression(b.and(
                b.in("john", "jill"),
                b.eq("article_type", "blog")).build()));
这些(可移植的)筛选条件表达式会自动转换为专有的 Elasticsearch Query 字符串查询

例如,此可移植筛选条件表达式:spring-doc.cadn.net.cn

author in ['john', 'jill'] && 'article_type' == 'blog'

转换为专有的 Elasticsearch 过滤器格式:spring-doc.cadn.net.cn

(metadata.author:john OR jill) AND metadata.article_type:blog

手动配置

您可以手动配置 Elasticsearch 向量存储,而不是使用 Spring Boot 自动配置。为此,您需要添加spring-ai-elasticsearch-store到您的项目:spring-doc.cadn.net.cn

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-elasticsearch-store</artifactId>
</dependency>

或发送到您的 Gradlebuild.gradlebuild 文件。spring-doc.cadn.net.cn

dependencies {
    implementation 'org.springframework.ai:spring-ai-elasticsearch-store'
}

创建 ElasticsearchRestClient豆。 阅读 Elasticsearch 文档,了解有关自定义 RestClient 配置的更深入信息。spring-doc.cadn.net.cn

@Bean
public RestClient restClient() {
    RestClient.builder(new HttpHost("<host>", 9200, "http"))
        .setDefaultHeaders(new Header[]{
            new BasicHeader("Authorization", "Basic <encoded username and password>")
        })
        .build();
}

,然后创建ElasticsearchVectorStore豆:spring-doc.cadn.net.cn

@Bean
public ElasticsearchVectorStore vectorStore(EmbeddingModel embeddingModel, RestClient restClient) {
    return new ElasticsearchVectorStore( restClient, embeddingModel);
}

// This can be any EmbeddingModel implementation.
@Bean
public EmbeddingModel embeddingModel() {
    return new OpenAiEmbeddingModel(new OpenAiApi(System.getenv("OPENAI_API_KEY")));
}