【工具推荐】Agently:一款灵活易用的 AI 应用开发框架

行者Sun1989 2024-10-12 12:01:06 阅读 55

本文内容均来自个人笔记并重新梳理,如有错误欢迎指正!

如果对您有帮助,烦请点赞、关注、转发、订阅专栏!


专栏订阅入口

| 精选文章 | Kubernetes | Docker | Linux | 羊毛资源 | 工具推荐 |


往期精彩文章

【Docker】(全网首发)Kylin V10 下 MySQL 容器内存占用异常的解决方法

【Docker】(全网首发)Kylin V10 下 MySQL 容器内存占用异常的解决方法(续)

【Linux】全面讲解 Shell 变量的那些事


目录

一、基本介绍

二、安装方法

三、使用方法

1、生成内容

2、聊天互动

3、分析日志


一、基本介绍

Agently 是一款应用开发框架,开发者可以通过在代码中直接使用和构建 AI 代理的方式,快速构建 AI 代理原生应用程序。对于开发者来说,创建一个 AI 代理实例并与之交互的过程,就好像在极少量代码中调用函数一样简单。

Agently 的主要特性如下:

易用、灵活、高效符合工程开发直觉的开发语法,让开发者专注在业务表达,屏蔽无关思考用 GPT-3.5+ 级别的低价模型平替原本只能用 GPT-4 完成的工作,成本立减 99%支持各类主流模型随意切换,不冲击业务逻辑,帮助开发者提升模型输出控制能力代码级编排复杂工作流,构建复杂 AI 应用场景

Agently 应用开发框架特性

Agently 的目标是成为友好的开发框架,主要有以下几个方面的内涵:

让开发者专注在业务开发上,单次请求由 Agent 对象代理,多轮请求编排由 Workflow 完成,并提供了简单顺畅的语法,业务开发的时候,思路极其顺滑模型调用新增模型适配、Agent 对象新增指令、存储方法新增数据存储类型,都通过插件完成通过框架内部的架构设计,将模型适配、插件增强和业务表达三个层次完全解耦,任何一层的变动都不会严重冲击其他层,确保业务逻辑层表达的稳定性文档丰富,社区热情,开发团队 On Call 及时,并乐于分享方法论为 AI 应用开发者降低开发门槛,提供高效、顺滑的开发体验

Agently 构建的代理结构如下图所示:

Agently 应用开发框架构建的代理结构

开源地址:GitHub - Maplemx/Agently

官网地址:Agently AI 应用开发框架

模型支持:Agently AnyModel 介绍

工作流:Agently Workflow 介绍

创始人:莫欣(先生)


二、安装方法

Agently 的安装极其简单,只需要在终端命令行中执行以下命令,等待 Python 包安装完成即可。

<code>pip install -U Agently

🔔 pip 版本需要满足一定要求,若遇到安装问题请先升级 pip 版本

🔔 升级命令:python3 -m pip install --upgrade pip

输出信息:Successfully installed pip-24.2


三、使用方法
1、生成内容

<code>import Agently

'''

创建 Agent 实例

'''

agent = (

Agently.create_agent()

.set_settings("current_model", "ZhipuAI")

.set_settings("model.ZhipuAI.auth", { "api_key": "your_api_key" })

)

'''

基础请求示例

'''

result = (

agent

.input("为我输出5个单词和3个句子")

.instruct("输出语言", "中文")

.output({

"单词": [("str", )],

"句子": ("list", ),

})

.start()

)

print(result)

# 输出如下:

{'单词': ['书籍', '音乐', '快乐', '创新', '和平'], '句子': ['我喜欢阅读各种各样的书籍。', '音乐是我生活中不可或缺的部分。', '快乐是一种心态,也是一种选择。']}

可以看到,在创建 Agent 实例时笔者指定语言模型为 ZhipuAI(智谱清言),并提供可用的 API KEY,然后通过 Agent 实例发出基础请求以调用智谱清言 API 的能力,最终自动生成所需内容(即以中文输出 5 个单词、3 个句子)。

智谱清言 API KEY 获取地址:智谱AI开放平台

2、聊天互动

import Agently

agent_factory = Agently.AgentFactory()

agent_factory\

.set_settings("current_model", "ZhipuAI")\

.set_settings("model.ZhipuAI.auth", { "api_key": "your_api_key" })

agent = agent_factory.create_agent()

agent.active_session()

while True:

user_input = input("[用户]: ")

if user_input == "#exit":

print("Bye")

break

print("[AGENT]: ", end="")code>

agent\

.input(user_input)\

.on_delta(lambda data: print(data, end=""))\code>

.start()

print("")

聊天互动输出示例

3、分析日志

<code>import Agently, os

agent_factory = Agently.AgentFactory()

agent_factory\

.set_settings("current_model", "ZhipuAI")\

.set_settings("model.ZhipuAI.auth", { "api_key": "xxx" })

agent = agent_factory.create_agent()

agent.active_session()

os.system("kubectl describe no > /data/gitlab/node.log")

with open('/data/gitlab/node.log', 'r') as f:

user_input = f.read() + '\n分析以上信息中是否存在异常,若存在异常请给出解决方案'

print("[AGENT]: ", end="")code>

agent\

.input(user_input)\

.on_delta(lambda data: print(data, end=""))\code>

.start()

print("\n")

以上脚本可以结合 Crontab 计划任务,定期获取 Kubernetes 集群的节点详情写入日志文件,然后由 Agent 代理调用智谱清言 API 分析日志信息是否存在异常,并给出解决方案。后续还可以通过发送邮件等方式进行告警,有效缩短运维人员分析日志、解决问题的时间。

日志分析输出示例

更多使用方法及实战案例详见:Agently 案例广场



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。