Spring Cloud Alibaba AI:快速体验通义千问大模型问答

CsdAdong 2024-07-11 12:31:01 阅读 82

目录

一、Spring Cloud Alibaba AI 简介

二、代码实现

1.在 pom.xml 中引入如下依赖配置:

2.api-key 配置

3.配置application.yml

4.编写聊天对话接口

三、测试聊天对话


一、Spring Cloud Alibaba AI 简介

        Spring AI 是 Spring 官方社区项目,旨在简化 Java AI 应用程序开发,让 Java 开发者像使用 Spring 开发普通应用一样开发 AI 应用。Spring Cloud Alibaba AI 以 Spring AI 为基础,并在此基础上提供阿里云通义系列大模型全面适配。

二、代码实现

1.在 pom.xml 中引入如下依赖配置:

<code> <dependencyManagement>

<dependencies>

<dependency>

<groupId>com.alibaba.cloud</groupId>

<artifactId>spring-cloud-alibaba-dependencies</artifactId>

<version>2023.0.1.0</version>

<type>pom</type>

<scope>import</scope>

</dependency>

</dependencies>

</dependencyManagement>

<dependencies>

<dependency>

<groupId>com.alibaba.cloud</groupId>

<artifactId>spring-cloud-starter-alibaba-ai</artifactId>

</dependency>

</dependencies>

<repositories>

<repository>

<id>spring-milestones</id>

<name>Spring Milestones</name>

<url>https://repo.spring.io/milestone</url>

<snapshots>

<enabled>false</enabled>

</snapshots>

</repository>

<repository>

<id>spring-snapshots</id>

<name>Spring Snapshots</name>

<url>https://repo.spring.io/snapshot</url>

<releases>

<enabled>false</enabled>

</releases>

</repository>

</repositories>

        因为 Spring AI 还没有正式发布到 maven 仓库,所以需要添加此配置项 目前 maven 仓库为假的。

        issue:https://github.com/spring-projects/spring-ai/issues/537

        同时,如果使用了阿里云的镜像,需修改Maven的conf文件夹的settings.xml配置文件:

<mirror>

<id>alimaven</id>

<name>aliyun maven</name>

<url>https://maven.aliyun.com/repository/public/</url>

<mirrorOf>*,!spring-milestones</mirrorOf>

</mirror>

        把此处修改为<mirrorOf>*,!spring-milestones</mirrorOf>  。

2.api-key 配置

在开始写代码之前需要申请到模型的 api-key,按照链接的步骤申请api-key申请地址:如何开通DashScope并创建API-KEY_模型服务灵积(DashScope)-阿里云帮助中心

3.配置application.yml

spring:

cloud:

ai:

tongyi:

# 填写自己申请的api-key

api-key: sk-xxxxxxxxxxxxxxxxxxxxxxxx

!!!注意此处要使用上述配置结构,使用官方文档的结构项目启动会报找不到api-key的错误!!!

报Caused by: com.alibaba.cloud.ai.tongyi.exception.TongYiException: Can not find api-key错误,如下图所示:

4.编写聊天对话接口

(1)创建controller:

<code>@RestController

public class ChatController {

@Autowired

private ChatService chatService;

@GetMapping("/example")

public String completion(

@RequestParam(value = "message", defaultValue = "讲个笑话")

String message

) {

return chatService.normalCompletion(message);

}

@GetMapping("/stream")

public Map<String, String> streamCompletion(

@RequestParam(value = "message", defaultValue = "请告诉我西红柿炖牛腩怎么做?")

String message

) {

return chatService.streamCompletion(message);

}

}

(2)创建service

@Service

public class ChatService {

// 聊天客户端

private final ChatClient chatClient;

// stream 流式客户端

private final StreamingChatClient streamingChatClient;

public ChatService(ChatClient chatClient, StreamingChatClient streamingChatClient) {

this.chatClient = chatClient;

this.streamingChatClient = streamingChatClient;

}

public String normalCompletion(String message) {

Prompt prompt = new Prompt(new UserMessage(message));

return chatClient.call(prompt).getResult().getOutput().getContent();

}

public Map<String, String> streamCompletion(String message) {

StringBuilder fullContent = new StringBuilder();

streamingChatClient.stream(new Prompt(message))

.flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults()))

.map(content -> content.getOutput().getContent())

.doOnNext(fullContent::append)

.last()

.map(lastContent -> Map.of(message, fullContent.toString()))

.block();

return Map.of(message, fullContent.toString());

}

}

(3)创建Spring Boot启动类

@SpringBootApplication

public class TongYiApplication {

public static void main(String[] args) {

SpringApplication.run(TongYiApplication.class);

}

}

三、测试聊天对话

启动项目后,访问:http://localhost:8080/example?message=讲个笑话

这样就可以实现问答了,也可以使用PostMan等工具进行调用接口,也可以接入自己的项目中实现智能助手。



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。