Azure OpenAI 函数调用
函数调用允许开发人员在其代码中创建函数的描述，然后将该描述传递给请求中的语言模型。来自模型的响应包括与描述匹配的函数的名称以及用于调用它的参数。
您可以使用AzureOpenAiChatModel并让模型智能地选择输出包含参数的 JSON 对象，以调用一个或多个已注册的函数。
这允许您将 LLM 功能与外部工具和 API 连接起来。
Azure 模型经过训练，可以检测何时应调用函数，并使用符合函数签名的 JSON 进行响应。
Azure OpenAI API 不直接调用该函数;相反，该模型会生成 JSON，您可以使用该 JSON 在代码中调用函数，并将结果返回给模型以完成对话。
Spring AI 提供了灵活且用户友好的方法来注册和调用自定义函数。
通常，自定义函数需要提供一个函数name,description和函数调用signature（作为 JSON 架构）让模型知道函数需要哪些参数。这description帮助模型了解何时调用函数。
作为开发人员，您需要实现一个函数，该函数采用从 AI 模型发送的函数调用参数，并将结果返回给模型。 您的函数可以反过来调用其他第三方服务来提供结果。
Spring AI 使这就像定义@Bean定义，该定义返回一个java.util.Function并在调用ChatModel.
在后台， Spring 使用适当的适配器代码包装您的 POJO（函数），以便与 AI 模型进行交互，从而避免编写繁琐的样板代码。 底层基础架构的基础是 FunctionCallback.java 接口和配套的 Builder 实用程序类，以简化 Java 回调函数的实现和注册。
运作方式
假设我们希望 AI 模型使用它没有的信息进行响应，例如给定位置的当前温度。
我们可以为 AI 模型提供有关我们自己的函数的元数据，它可以在处理您的提示时使用这些元数据来检索该信息。
例如，如果在处理提示期间，AI 模型确定它需要有关给定位置温度的其他信息，它将启动服务器端生成的请求/响应交互。AI 模型调用客户端函数。 AI 模型以 JSON 形式提供方法调用详细信息，客户端负责执行该函数并返回响应。
Spring AI 大大简化了您需要编写以支持函数调用的代码。
它为您代理函数调用对话。
您可以简单地将函数定义作为@Bean，然后在提示选项中提供函数的 Bean 名称。
您还可以在提示符中引用多个函数 Bean 名称。
快速开始
让我们创建一个聊天机器人，通过调用我们自己的函数来回答问题。 为了支持聊天机器人的响应，我们将注册自己的函数，该函数获取一个位置并返回该位置的当前天气。
当对模型的提示的响应需要回答诸如"What’s the weather like in Boston?"AI 模型将调用客户端，提供 location 值作为要传递给函数的参数。这种类似 RPC 的数据以 JSON 形式传递。
我们的函数可以有一些基于 SaaS 的天气服务 API，并将天气响应返回给模型以完成对话。在此示例中，我们将使用一个名为MockWeatherService对不同位置的温度进行硬编码。
以下内容MockWeatherService.java表示天气服务 API：
public class MockWeatherService implements Function<Request, Response> {
public enum Unit { C, F }
public record Request(String location, Unit unit) {}
public record Response(double temp, Unit unit) {}
public Response apply(Request request) {
return new Response(30.0, Unit.C);
}
}将函数注册为 Bean
使用 AzureOpenAiChatModelAuto-Configuration，您可以通过多种方式在 Spring 上下文中将自定义函数注册为 Bean。
我们首先描述对 POJO 最友好的选项。
普通 Java 函数
在此方法中，您可以定义@Beans就像你对待任何其他 Spring 托管对象一样。
在内部，Spring AIChatModel将创建一个FunctionCallback实例，该实例添加通过 AI 模型调用的逻辑。
的名称@Bean作为ChatOption.
@Configuration
static class Config {
@Bean
@Description("Get the weather in location") // function description
public Function<MockWeatherService.Request, MockWeatherService.Response> weatherFunction1() {
return new MockWeatherService();
}
...
}这@Descriptionannotation 是可选的，它提供了一个函数描述 （2），帮助模型了解何时调用函数。这是一个重要的属性，可帮助 AI 模型确定要调用的客户端函数。
提供函数描述的另一个选项是使用@JsonClassDescription注解MockWeatherService.Request要提供函数描述，请执行以下作：
@Configuration
static class Config {
@Bean
public Function<Request, Response> currentWeather3() { // (1) bean name as function name.
return new MockWeatherService();
}
...
}
@JsonClassDescription("Get the weather in location") // (2) function description
public record Request(String location, Unit unit) {}最佳实践是使用信息对请求对象进行注释，以便为该函数生成的 JSON 架构尽可能具有描述性，以帮助 AI 模型选择要调用的正确函数。
FunctionCallWithFunctionBeanIT.java 演示了这种方法。
FunctionCallback 包装器
注册函数的另一种方法是创建一个FunctionCallback实例，如下所示：
@Configuration
static class Config {
@Bean
public FunctionCallback weatherFunctionInfo() {
return FunctionCallback.builder()
.function("CurrentWeather", new MockWeatherService()) // (1) function name
.description("Get the current weather in a given location") // (2) function description
.inputType(MockWeatherService.Request.class) // (3) function input type
.build();
}
...
}它包装了第三方MockWeatherService函数并将其注册为CurrentWeather函数替换为AzureAiChatModel并提供描述 （2）。
| 默认响应转换器对 Response 对象进行 JSON 序列化。 |
这FunctionCallback内部根据MockWeatherService.Request类，并在内部为函数调用生成 JSON 架构。 |
在 Chat Options 中指定函数
要让模型知道并调用您的CurrentWeather函数，以便在提示请求中启用它：
AzureOpenAiChatModel chatModel = ...
UserMessage userMessage = new UserMessage("What's the weather like in San Francisco, Tokyo, and Paris?");
ChatResponse response = this.chatModel.call(new Prompt(List.of(this.userMessage),
AzureOpenAiChatOptions.builder().withFunction("CurrentWeather").build())); // (1) Enable the function
logger.info("Response: {}", response);上述用户问题将触发 3 次调用CurrentWeather函数（每个城市一个），最终响应将如下所示：
Here is the current weather for the requested cities: - San Francisco, CA: 30.0°C - Tokyo, Japan: 10.0°C - Paris, France: 15.0°C
FunctionCallWithFunctionWrapperIT.java 测试演示了此方法。
使用提示选项注册/调用函数
除了自动配置之外，您还可以动态地使用 Prompt 请求注册回调函数：
AzureOpenAiChatModel chatModel = ...
UserMessage userMessage = new UserMessage("What's the weather like in San Francisco, Tokyo, and Paris? Use Multi-turn function calling.");
var promptOptions = AzureOpenAiChatOptions.builder()
.withFunctionCallbacks(List.of(FunctionCallback.builder()
.function("CurrentWeather", new MockWeatherService()) // (1) function name and instance
.description("Get the current weather in a given location") // (2) function description
.inputType(MockWeatherService.Request.class) // (3) function input type
.build()))
.build();
ChatResponse response = this.chatModel.call(new Prompt(List.of(this.userMessage), this.promptOptions));| 默认情况下，在此请求的持续时间内启用提示内注册的函数。 |
这种方法允许根据用户输入动态选择要调用的不同函数。
FunctionCallWithPromptFunctionIT.java 集成测试提供了一个完整的示例，说明如何使用AzureOpenAiChatModel并在提示请求中使用它。