在亚马逊云科技上利用Agent和生成式AI写小说(上篇)
CSDN 2024-10-05 11:01:02 阅读 67
今天小李哥将介绍亚马逊推出的国际前沿人工智能AI大模型平台Amazon Bedrock上的Agent的功能。我们将利用Agent结合代码应用工作流服务Step Functions创建链式提示词(Prompt Chaining),通过提示词调用Amazon Bedrock上AI大模型写一篇小说。其中架构前端使用了Streamlit框架开发,为用于提供了写小说的交互界面。整个项目的架构图如下:
在本系列上篇内容中,我将分享项目的源代码,并帮助大家部署项目搭建整个项目。最后通过UI体验小说生成功能,生成大家专属的小说。
方案所需基础知识
什么是Amazon Bedrock平台上的Agent?
Amazon Bedrock Agent 是亚马逊云科技推出的一项生成式AI功能,它利用生成式AI(Generative AI)帮助开发者构建能够跨多个系统和数据源执行任务的智能应用程序。通过 Amazon Bedrock,开发者可以轻松地接入预训练的大模型,并通过 Agents 赋能应用程序,实现更复杂的任务自动化。
Bedrock Agents 的一个核心特点是其高度灵活性和可扩展性,能够根据开发者的需求快速配置和集成。开发者可以通过简单的指令和操作组定义 Agents 的行为,同时支持直接与 Amazon Virtual Private Cloud(VPC)内外的服务进行交互,而无需复杂的网络和安全配置。这为开发者提供了极大的便捷性和控制权。
使用Agent开发生成式AI应用的好处?
借助 Amazon Bedrock 上的 Agents功能,开发者可以使用生成式AI(Generative AI)跨多个系统和数据源执行任务、开发应用程序。使用Agents功能开发应用程序有以下几个好处:
快速创建Agent代理:
Amazon Bedrock可以帮助开发者快速创建Agent,并根据需要选择性地添加指令和操作组,为开发者的开发流程提供了更大的灵活性和敏捷性。
Agent代理构建器:
所有的Agent配置都可以通过Amazon Bedrock控制台上的代理构建器部分进行操作和管理,简化开发流程。
简化配置:
操作组可以使用简化的架构设计和搭建,只需列出需要调用的函数和参数,而无需提供完整的 API 架构。
控制权的返回:
开发者可以在Agent执行逻辑中选择跳过使用 AWS Lambda 函数,并将应用逻辑决策权返回给调用代理的应用程序。通过这种方式,应用程序可以直接与 AWS 之外的系统集成,或者调用托管在任何 Amazon VPC中的内部API端点,而无需开发复杂的AWS Lambda代码应用以及维护庞大网络基础设施。
本实践包括的内容
1. 分享Agent生成小说项目源代码
2. 在亚马逊云科技上部署Agent生成小说应用
3. 体验小说生成服务生成小说
本实践包括的内容
项目部署
1. 首先我们打开亚马逊云科技控制台,进入云端IDE服务Cloud9
2. 我们接下来点击Open进入IDE开发环境
3. 接下来我们通过Github命令,将代码clone到本地IDE环境
git clone https://github.com/aws-samples/build-genai-agent-workflows-with-step-functions
4. 运行以下命令更新NPM
sudo npm install -g npm
5, 通过以下命令安装AWS CDK基础设施代码开发库
sudo npm install -g aws-cdk
6. 运行以下命令安装必要依赖
cd build-genai-agent-workflows-with-step-functions/
pip install -r requirements.txt
7. 运行以下命令开始部署项目
cdk deploy --all
8. 部署完成后会输出搭建好的前端UI URL,在输出的promptChaining-StreamlitWebapp对应的键值中。
利用AI生成小说体验
9. 另外一种获取URL的方式是通过CloudFormation,基础设施即代码服务输出的内容获取。我们再返回亚马逊云科技控制台,进入CloudFormation服务中
10. 点击我们刚创建好的CloudFormation堆栈,打开Output页面,点击promptChaining-StreamlitWebapp对应的键值URL
11.打开后我们即可看到生成小说的应用UI界面
12. 在开始生成内容之前,我们需要确保以下Bedrock上的模型权限是开启的。
13. 我们再聊天输入框中输入我们生成小说的主题:“The wild west” 西部荒野主题,并点击Start开始生成
14. 点击后稍作等待,我们就可以看到下方输出框生成了基于我们主题的小说内容。右侧红框中则为Agent在生成小说过程中的应用逻辑链
15. 如果我们想了解应用逻辑链的具体细节,我们需要从控制台进入Step Function服务查看我们的Step Function逻辑脚本代码。在本系列的下篇中我们将带大家查看该脚本配置代码,自定义Agent小说生成配置,提升AI开发技术。
以上就是利用亚马逊云科技AI大模型平台Amazon Bedrock Agent代理开发小说生成应用程序上篇内容。欢迎大家关注小李哥的亚马逊云科技AI服务深入调研系列,关注小李哥未来不要错过更多国际前沿的AWS云开发/云架构方案。
上一篇: 【Qwen2部署实战】探索Qwen2-7B:通过FastApi框架实现API的部署与调用
下一篇: Spring AI 利用 ollama:qwen:7b 和 pgvector 创新实现高效 RAG 问答系统
本文标签
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。