一、前言

    通过“开源模型应用落地-工具使用篇-Spring AI-Function Call（八）-CSDN博客”文章的学习，已经掌握了如何通过Spring AI集成OpenAI以及如何进行function call的调用，现在将进一步学习Spring AI更高阶的用法，如：传递历史上下文对话，调整模型参数等。

二、术语

2.1、Spring AI

  是 Spring 生态系统的一个新项目，它简化了 Java 中 AI 应用程序的创建。它提供以下功能：

支持所有主要模型提供商，例如 OpenAI、Microsoft、Amazon、Google 和 Huggingface。支持的模型类型包括“聊天”和“文本到图像”，还有更多模型类型正在开发中。跨 AI 提供商的可移植 API，用于聊天和嵌入模型。支持同步和流 API 选项。支持下拉访问模型特定功能。AI 模型输出到 POJO 的映射。

三、前置条件

3.1、JDK 17+

    下载地址：Java Downloads | Oracle

​

3.2、创建Maven项目

    SpringBoot版本为3.2.3

<code><parent>

<groupId>org.springframework.boot</groupId>

<artifactId>spring-boot-starter-parent</artifactId>

<version>3.2.3</version>

<relativePath/> <!-- lookup parent from repository -->

</parent>

3.3、导入Maven依赖包

<dependency>

<groupId>org.projectlombok</groupId>

<artifactId>lombok</artifactId>

<optional>true</optional>

</dependency>

<dependency>

<groupId>ch.qos.logback</groupId>

<artifactId>logback-core</artifactId>

</dependency>

<dependency>

<groupId>ch.qos.logback</groupId>

<artifactId>logback-classic</artifactId>

</dependency>

<dependency>

<groupId>cn.hutool</groupId>

<artifactId>hutool-core</artifactId>

<version>5.8.24</version>

</dependency>

<dependency>

<groupId>org.springframework.ai</groupId>

<artifactId>spring-ai-openai-spring-boot-starter</artifactId>

<version>0.8.0</version>

</dependency>

3.4、 科学上网的软件

四、技术实现

4.1、新增配置

spring:

ai:

openai:

api-key: sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

PS:

  openai要替换自己的api-key  模型参数根据实际情况调整

 4.2、历史上下文对话传递

  # 方式一

  使用 UserMessage 和 AssistantMessage 指定上下文

  # 方式二

    使用 ChatMessage 指定上下文

 4.3、 调整模型参数

  # 方式一

  在配置文件中指定

  # 方式二

  在代码中指定

五、测试

在代码中指定的上下文：

浏览器返回的结果：

idea返回的结果：

  结论：

  AI能识别出我家在广州，并给出广州的特产

六、附带说明

6.1、更多的模型参数配置

OpenAI Chat :: Spring AI Reference

​

6.2、完整代码

<code>import cn.hutool.core.collection.CollUtil;

import cn.hutool.core.map.MapUtil;

import jakarta.servlet.http.HttpServletResponse;

import lombok.extern.slf4j.Slf4j;

import org.apache.commons.lang3.StringUtils;

import org.springframework.ai.chat.Generation;

import org.springframework.ai.chat.messages.*;

import org.springframework.ai.chat.prompt.ChatOptions;

import org.springframework.ai.chat.prompt.Prompt;

import org.springframework.ai.chat.prompt.SystemPromptTemplate;

import org.springframework.ai.openai.OpenAiChatClient;

import org.springframework.ai.openai.OpenAiChatOptions;

import org.springframework.beans.factory.annotation.Autowired;

import org.springframework.web.bind.annotation.RequestMapping;

import org.springframework.web.bind.annotation.RestController;

import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;

import java.util.List;

@Slf4j

@RestController

@RequestMapping("/api")

public class OpenaiTestController {

@Autowired

private OpenAiChatClient openAiChatClient;

@RequestMapping("/history")

public SseEmitter history(HttpServletResponse response) {

response.setContentType("text/event-stream");

response.setCharacterEncoding("UTF-8");

SseEmitter emitter = new SseEmitter();

String systemPrompt = "{prompt}";

SystemPromptTemplate systemPromptTemplate = new SystemPromptTemplate(systemPrompt);

String userPrompt = "我家有什么特产？";

Message userMessage = new UserMessage(userPrompt);

Message systemMessage = systemPromptTemplate.createMessage(MapUtil.of("prompt", "you are a helpful AI assistant"));

UserMessage userChatMessage1 = new UserMessage("你好");

AssistantMessage assistantChatMessage1 = new AssistantMessage("你好！很高兴能为你提供帮助。有什么问题可以问我吗？");

UserMessage userChatMessage2 = new UserMessage("我家在广州，你呢？");

AssistantMessage assistantChatMessage2 = new AssistantMessage("我是一个人工智能助手，没有具体的居住地。不过我可以帮助你解答问题和提供信息。有什么我可以帮你的吗？");

// ChatMessage userChatMessage2 = new ChatMessage(MessageType.USER, "你好");

// ChatMessage assistantChatMessage2 = new ChatMessage(MessageType.ASSISTANT, "你好！很高兴能为你提供帮助。有什么问题可以问我吗？");

//

// ChatMessage userChatMessage2 = new ChatMessage(MessageType.USER, "我家在广州，你呢？");

// ChatMessage assistantChatMessage2 = new ChatMessage(MessageType.ASSISTANT, "我是一个人工智能助手，没有具体的居住地。不过我可以帮助你解答问题和提供信息。有什么我可以帮你的吗？");

OpenAiChatOptions openAiChatOptions = OpenAiChatOptions.builder()

.withModel("gpt-3.5-turbo")

.withTemperature(0.7f)

.withMaxTokens(4096)

.withN(1)

.withTopP(0.9f)

.build();

Prompt prompt = new Prompt(List.of(userChatMessage1, assistantChatMessage1, userChatMessage2, assistantChatMessage2, userMessage, systemMessage), openAiChatOptions);

log.info(prompt.toString());

openAiChatClient.stream(prompt).subscribe(x -> {

try {

log.info("response: {}", x);

List<Generation> generations = x.getResults();

if (CollUtil.isNotEmpty(generations)) {

for (Generation generation : generations) {

AssistantMessage assistantMessage = generation.getOutput();

String content = assistantMessage.getContent();

if (StringUtils.isNotEmpty(content)) {

emitter.send(content);

} else {

if (StringUtils.equals(content, "null"))

emitter.complete(); // Complete the SSE connection

}

}

}

} catch (Exception e) {

emitter.complete();

log.error("流式返回结果异常", e);

}

});

return emitter;

}

}