阿里基于 Spring AI 发布新版本,真的牛!!

musicml 2024-07-27 16:31:01 阅读 97

▼最近直播超级多,预约保你有收获

1

Spring AI 是什么?

据 Spring AI 官网描述,该项目的灵感来自著名的 Python 项目,如 LangChain 和 LlamaIndex,但 Spring AI 并不是这些项目的直接复制。Spring AI 相信下一波 Generative AI 生成式应用程序将不仅面向 Python 开发人员,而且将在许多编程语言中无处不在。

e4c9356d289f95373fe0e5e019946d2e.png

Spring AI 的核心是提供抽象,作为开发 Java AI 应用程序的基础,提供以下功能:

Spring AI 的核心理念在于为 Java AI 应用程序开发提供了一套基础抽象。其主要功能包括:

提供广泛的接口能力,以便与业界主流的大型模型服务进行对接;

支持灵活的提示模板(Prompt Template)和模型输出解析(Output Parsing)功能;

拥有多模态生成式AI能力,涵盖对话系统、文本生成图像、文本生成语音等多种应用;

供应一套通用且可移植的API,便于访问各类模型服务和嵌入服务,支持同步调用和流式调用,同时允许传递特定模型的定制参数;

嵌入支持RAG(Retrieval-Augmented Generation)功能的基础组件,包括文档加载器(DocumentLoader)、文本分割器(TextSplitter)、嵌入客户端(EmbeddingClient)、向量存储(VectorStore)等;

支持AI Spring Boot Starter,实现自动配置和装配。

2

什么是 Spring Cloud Alibaba AI?

Spring Cloud Alibaba AI 目前已经顺利融合了 Spring AI 框架的 0.8.1版本接口,并实现了与“通义”高级模型系列的顺畅连接。这种整合是通过阿里云的灵积模型服务实现的,该服务基于“模型即服务”(MaaS)的理念,专注于 AI 领域的多样化模型应用,并通过标准化API,有效地支持模型推理、模型微调等全方位的功能。

在最新的更新中,Spring Cloud Alibaba AI 引入了多种流行的生成模型功能,包括对话生成、文本至图像转换以及文本到语音转换等多种应用场景,极大地扩展了开发者的工具集。利用这个框架,开发者可以轻松创建基于“通义”模型的交互式聊天机器人、创意图像生成器以及语音合成应用。此外,框架还内置了 OutputParser、Prompt Template、Stuff 等便捷组件,进一步简化了开发过程,增强了AI应用开发的效率和灵活性。

以下是当前官方提供的 Spring Cloud Alibaba AI 应用开发示例:

聊天对话应用

文生图应用

文生语音应用

模型输出解析 OutputParser(实现从 String 到自动 POJO 映射)

使用 Prompt Template

让 AI 模型接入外部数据(Prompt Stuff)

3

体验第一个Spring AI应用开发

本项目演示如何使用 spring-cloud-starter-alibaba-ai 完成一个在线聊天 AI 应用,底层使用通义千问提供的模型服务。

第一、开发聊天对话应用

1、在项目 pom.xml 中加入 2023.0.1.0 版本 Spring Cloud Alibaba 依赖:

40e56688f6c45fdb7bbee3ae6021a866.png

2、在 application.yml 配置文件中加入以下配置:

e6910b79c4b413aa094b811a5d8ea6a4.png

3、编写聊天服务实现类,由 Spring AI 自动注入 ChatClient、StreamingChatClient,ChatClient 屏蔽底层通义大模型交互细节。

620250598f7ae1ec6be53e3fbc92c415.png

4、提供具体聊天逻辑实现

32038c39108c83afa230ca9181b4d2a1.png

5、编写 Spring 入口类并启动应用

5402a32322b79efe43689fd4447b03c4.png

至此,您已经顺利完成了最基础的聊天AI应用开发,其过程与标准的Spring Boot应用开发流程完全相同!

第二、验证应用效果

启动应用后,可通过如下两种方式验证应用效果。

1、方式一

浏览器地址栏输入:http://localhost:8080/ai/example

返回如下响应:

{

    "Tell me a joke": "Sure, here's a classic one for you:\n\nWhy was the math book sad?\n\nBecause it had too many problems.\n\nI hope that made you smile! If you're looking for more, just let me know."

}

2、方式二

进入 resources/static 目录下,使用浏览器打开 index.html 文件,输入问题,即可获得输出响应(确保 api-key 有效):

a5bb48311fc4e520ae8ca11d37e489be.png

第三、申请通义API-KEY

为了确保示例能够顺利连接到通义大型模型,您需要在阿里云上启用DashScope灵积模型服务,并申请一个有效的API-KEY,随后将其更新至应用程序的配置文件中。详细的操作指南可以在以下文档中找到:https://help.aliyun.com/zh/dashscope/developer-reference/activate-dashscope-and-create-an-api-key。

4

未来规划

在当前版本的 Spring Cloud Alibaba AI 中,已经实现了对几种主流生成式模型的适配,涵盖了对话生成、文本生成图像、文本生成语音等功能。在后续的版本更新中,我们计划继续增加对 VectorStore、Embedding、ETL Pipeline等功能的适配,进一步简化 RAG 等 AI 应用开发场景的复杂性。

5e5f05cfbf251ac0bfe6f746c6328a25.png

为了帮助同学们彻底掌握 AI 大模型 Agent 智能体、知识库、向量数据库、 RAG、微调私有大模型的应用开发、部署、生产化,今天直播和同学们深度剖析,请同学们点击以下预约按钮免费预约

 5

每日精选 AI 大模型知识

 6

加我微信

有很多不方便公开发公众号的我会直接分享在朋友圈欢迎你扫码加我个人微信来看👇

fe7a4a410c9e89bee9cf1c24bd5ec8b8.jpeg

⬇戳”阅读原文“,立即预约!

END



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。