Spring Cloud Alibaba AI 介绍及使用
小毕超 2024-08-03 14:01:03 阅读 77
一、Spring Cloud Alibaba AI 介绍
<code>Spring AI 是 Spring
官方社区项目,旨在简化 Java AI
应用程序开发,让 Java
开发者像使用 Spring
开发普通应用一样开发 AI
应用。而 Spring Cloud Alibaba AI
是阿里以 Spring AI
为基础,并在此基础上提供阿里云通义系列大模型全面适配,让用户在 5
分钟内开发基于通义大模型的 Java AI
应用。
Spring Cloud Alibaba AI
目前基于 Spring AI 0.8.1
版本 API
完成通义系列大模型的接入。通义接入是基于阿里云 灵积模型服务,灵积模型服务建立在“模型即服务”(Model-as-a-Service
,MaaS
)的理念基础之上,围绕 AI
各领域模型,通过标准化的API
提供包括模型推理、模型微调训练在内的多种模型服务。
在当前最新版本中,Spring Cloud Alibaba AI
主要完成了几种常见生成式模型的适配,包括对话、文生图、文生语音等,开发者可以使用 Spring Cloud Alibaba AI
开发基于通义的聊天、图片或语音生成 AI 应用,框架还提供 OutParser、Prompt Template、Stuff
等实用能力。
官方文档:https://sca.aliyun.com/docs/2023/user-guide/ai/overview/?spm=5176.29160081.0.0.1f467a3ctbrdEJ
二、Spring Cloud Alibaba AI 实践
2.1 环境构建
新建 SpringBoot
项目,SpringBoot
版本需要 3.x
以上,jdk
版本 17
及以上。
这里我使用的版本信息如下:
spring-boot: 3.2.4
spring-cloud: 2023.0.1
spring-cloud-alibaba: 2023.0.1.0
jdk: 17
pom
中增加相关依赖,整体 pom
内容如下:
<?xml version="1.0" encoding="UTF-8"?>code>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"code>
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">code>
<modelVersion>4.0.0</modelVersion>
<groupId>com.example</groupId>
<artifactId>ai-demo1</artifactId>
<version>0.0.1-SNAPSHOT</version>
<name>ai-demo1</name>
<description>ai-demo1</description>
<properties>
<java.version>17</java.version>
<project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
<project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>
<spring-boot.version>3.2.4</spring-boot.version>
<spring-cloud.version>2023.0.1</spring-cloud.version>
<spring-cloud-alibaba.version>2023.0.1.0</spring-cloud-alibaba.version>
</properties>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-ai</artifactId>
</dependency>
</dependencies>
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-dependencies</artifactId>
<version>${spring-boot.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-dependencies</artifactId>
<version>${spring-cloud.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-alibaba-dependencies</artifactId>
<version>${spring-cloud-alibaba.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
<repositories>
<repository>
<id>spring-milestones</id>
<name>Spring Milestones</name>
<url>https://repo.spring.io/milestone</url>
<snapshots>
<enabled>false</enabled>
</snapshots>
</repository>
<repository>
<id>spring-snapshots</id>
<name>Spring Snapshots</name>
<url>https://repo.spring.io/snapshot</url>
<releases>
<enabled>false</enabled>
</releases>
</repository>
</repositories>
<build>
<plugins>
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-compiler-plugin</artifactId>
<version>3.8.1</version>
<configuration>
<source>17</source>
<target>17</target>
<encoding>UTF-8</encoding>
</configuration>
</plugin>
<plugin>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-maven-plugin</artifactId>
<version>${spring-boot.version}</version>
<configuration>
<mainClass>com.example.aidemo1.AiDemo1Application</mainClass>
</configuration>
<executions>
<execution>
<id>repackage</id>
<goals>
<goal>repackage</goal>
</goals>
</execution>
</executions>
</plugin>
</plugins>
</build>
</project>
2.2 申请 Api Key
申请 Api key
可以参考下面官方介绍:
https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spm=5176.29160081.0.0.1f467a3ctbrdEJ
可以将将申请的 key
放在环境变量 SPRING_CLOUD_AI_TONGYI_API_KEY
中:
export SPRING_CLOUD_AI_TONGYI_API_KEY=sk-a3dxxxx
或者配置在 application.yml
配置文件中:
spring:
cloud:
ai:
tongyi:
api-key: sk-a3dxxxx
2.3 文本交互对接
@Slf4j
@SpringBootTest
class AiDemo1ApplicationTests {
@Resource
ChatClient chatClient;
@Test
void chatTest() {
String message = "你好,介绍一下你自己";
Prompt prompt = new Prompt(new UserMessage(message));
String content = chatClient.call(prompt).getResult().getOutput().getContent();
log.info(content);
}
}
2.4 文本交互-流式输出
<code>@Slf4j
@SpringBootTest
class AiDemo1ApplicationTests {
@Resource
StreamingChatClient streamingChatClient;
@Test
void chatStreamTest() {
String message = "你好,介绍一下你自己";
Prompt prompt = new Prompt(new UserMessage(message));
streamingChatClient.stream(prompt)
.flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults()))
.map(content -> content.getOutput().getContent())
.doOnNext(System.out::println)
.last()
.block();
}
}
2.5 文本生成图片
<code>@Slf4j
@SpringBootTest
class AiDemo1ApplicationTests {
@Resource
ImageClient imageClient;
@Test
void testToImageTest() {
String message = "生成一幅夕阳下程序员看海的图片";
ImagePrompt prompt = new ImagePrompt(message);
String url = imageClient.call(prompt).getResult().getOutput().getUrl();
log.info(url);
}
}
图片内容如下:
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。