Spring Cloud Alibaba AI:快速体验通义千问大模型问答
CsdAdong 2024-07-11 12:31:01 阅读 82
目录
一、Spring Cloud Alibaba AI 简介
二、代码实现
1.在 pom.xml 中引入如下依赖配置:
2.api-key 配置
3.配置application.yml
4.编写聊天对话接口
三、测试聊天对话
一、Spring Cloud Alibaba AI 简介
Spring AI 是 Spring 官方社区项目,旨在简化 Java AI 应用程序开发,让 Java 开发者像使用 Spring 开发普通应用一样开发 AI 应用。Spring Cloud Alibaba AI 以 Spring AI 为基础,并在此基础上提供阿里云通义系列大模型全面适配。
二、代码实现
1.在 pom.xml 中引入如下依赖配置:
<code> <dependencyManagement>
<dependencies>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-alibaba-dependencies</artifactId>
<version>2023.0.1.0</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
<dependencies>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-ai</artifactId>
</dependency>
</dependencies>
<repositories>
<repository>
<id>spring-milestones</id>
<name>Spring Milestones</name>
<url>https://repo.spring.io/milestone</url>
<snapshots>
<enabled>false</enabled>
</snapshots>
</repository>
<repository>
<id>spring-snapshots</id>
<name>Spring Snapshots</name>
<url>https://repo.spring.io/snapshot</url>
<releases>
<enabled>false</enabled>
</releases>
</repository>
</repositories>
因为 Spring AI 还没有正式发布到 maven 仓库,所以需要添加此配置项 目前 maven 仓库为假的。
issue:https://github.com/spring-projects/spring-ai/issues/537
同时,如果使用了阿里云的镜像,需修改Maven的conf文件夹的settings.xml配置文件:
<mirror>
<id>alimaven</id>
<name>aliyun maven</name>
<url>https://maven.aliyun.com/repository/public/</url>
<mirrorOf>*,!spring-milestones</mirrorOf>
</mirror>
把此处修改为<mirrorOf>*,!spring-milestones</mirrorOf> 。
2.api-key 配置
在开始写代码之前需要申请到模型的 api-key,按照链接的步骤申请api-key申请地址:如何开通DashScope并创建API-KEY_模型服务灵积(DashScope)-阿里云帮助中心
3.配置application.yml
spring:
cloud:
ai:
tongyi:
# 填写自己申请的api-key
api-key: sk-xxxxxxxxxxxxxxxxxxxxxxxx
!!!注意此处要使用上述配置结构,使用官方文档的结构项目启动会报找不到api-key的错误!!!
报Caused by: com.alibaba.cloud.ai.tongyi.exception.TongYiException: Can not find api-key错误,如下图所示:
4.编写聊天对话接口
(1)创建controller:
<code>@RestController
public class ChatController {
@Autowired
private ChatService chatService;
@GetMapping("/example")
public String completion(
@RequestParam(value = "message", defaultValue = "讲个笑话")
String message
) {
return chatService.normalCompletion(message);
}
@GetMapping("/stream")
public Map<String, String> streamCompletion(
@RequestParam(value = "message", defaultValue = "请告诉我西红柿炖牛腩怎么做?")
String message
) {
return chatService.streamCompletion(message);
}
}
(2)创建service
@Service
public class ChatService {
// 聊天客户端
private final ChatClient chatClient;
// stream 流式客户端
private final StreamingChatClient streamingChatClient;
public ChatService(ChatClient chatClient, StreamingChatClient streamingChatClient) {
this.chatClient = chatClient;
this.streamingChatClient = streamingChatClient;
}
public String normalCompletion(String message) {
Prompt prompt = new Prompt(new UserMessage(message));
return chatClient.call(prompt).getResult().getOutput().getContent();
}
public Map<String, String> streamCompletion(String message) {
StringBuilder fullContent = new StringBuilder();
streamingChatClient.stream(new Prompt(message))
.flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults()))
.map(content -> content.getOutput().getContent())
.doOnNext(fullContent::append)
.last()
.map(lastContent -> Map.of(message, fullContent.toString()))
.block();
return Map.of(message, fullContent.toString());
}
}
(3)创建Spring Boot启动类
@SpringBootApplication
public class TongYiApplication {
public static void main(String[] args) {
SpringApplication.run(TongYiApplication.class);
}
}
三、测试聊天对话
启动项目后,访问:http://localhost:8080/example?message=讲个笑话
这样就可以实现问答了,也可以使用PostMan等工具进行调用接口,也可以接入自己的项目中实现智能助手。
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。