系列篇章💥

AI大模型探索之路-实战篇4：深入DB-GPT数据应用开发框架调研

AI大模型探索之路-实战篇5：探索Open Interpreter开放代码解释器调研

AI大模型探索之路-实战篇6：掌握Function Calling的详细流程

AI大模型探索之路-实战篇7：Function Calling技术实战自动生成函数

AI大模型探索之路-实战篇8：多轮对话与Function Calling技术应用

AI大模型探索之路-实战篇9：探究Agent智能数据分析平台的架构与功能

AI大模型探索之路-实战篇10：数据预处理的艺术：构建Agent智能数据分析平台的基础

AI大模型探索之路-实战篇11： Function Calling技术整合：强化Agent智能数据分析平台功能

AI大模型探索之路-实战篇12： 构建互动式Agent智能数据分析平台：实现多轮对话控制

AI大模型探索之路-实战篇13： 从对话到报告：打造能记录和分析的Agent智能数据分析平台

AI大模型探索之路-实战篇14： 集成本地Python代码解释器：强化Agent智能数据分析平台

AI大模型探索之路-实战篇15： Agent智能数据分析平台之整合封装Tools和Memory功能代码

目录

系列篇章💥一、前言二、人类意图挖掘三、增加Few-SHOT和COT思维链能力1、增加few-shot提示词2、添加思维链模版

四、大模型首次交互逻辑封装1、基本问答效果测试2、function call功能测试3、专家模式测试4、开发者模式测试5、专家模式下下用户意图探究能力测试6、开发者模式下下用户意图探究能力测试

五、function call执行结果消息封装六、完成用户一次的完整交互1、一次完整交互函数2、外层调用函数3、响应结果检查函数4、文本内容检查函数5、普通调用测试6、对比开发者模式7、带有Function Calling调用8、复杂问题拆解9、测试对比有代码调用的Function Calling10、测试开发者模式(不涉及代码执行)11、测试专家模式12、Agent对话封装调用

七、结语

一、前言

在前面篇章中我们实现了Agent智能数据分析平台中的Tools和Memory两大块，本文中我们将实现Agent智能数据分析平台中最核心的模块Plan，发掘探索人类意图，优化整个决策流程。

二、人类意图挖掘

msg_error_test = MessageManager(system_content_list=[data_dictionary], question="分析iquery数据库中的这四张表，帮我梳理一个数据分析的基本思路")

second_response = client.chat.completions.create(

model='gpt-3.5-turbo',

messages=msg_error_test.messages,

tools=af.functions,

tool_choice="auto"

)

second_response

输出：

ChatCompletion(id='chatcmpl-rtFBgtNzSwoMmJONpYdGjHIWTLmXE', choices=[Choice(finish_reason='tool_calls', index=0, logprobs=None, message=ChatCompletionMessage(content='', role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_nu8zFoKl61VDF6yaCnWFRhpY', function=Function(arguments='{"g": "test", "sql_query": "DESC user_demographics;"}', name='sql_inter'), type='function'), ChatCompletionMessageToolCall(id='call_RaTHPfo93K3DWByG9n4gW7w1', function=Function(arguments='{"g": "test", "sql_query": "DESC user_services;"}', name='sql_inter'), type='function'), ChatCompletionMessageToolCall(id='call_8lpOxl8fp7HZzurhQMbrBT4u', function=Function(arguments='{"g": "test", "sql_query": "DESC user_payments;"}', name='sql_inter'), type='function'), ChatCompletionMessageToolCall(id='call_L1KekwoNcrc2oELyiAWPjnbR', function=Function(arguments='{"g": "test", "sql_query": "DESC user_churn;"}', name='sql_inter'), type='function')]))], created=1710948365, model='gpt-3.5-turbo', object='chat.completion', system_fingerprint='', usage=CompletionUsage(completion_tokens=105, prompt_tokens=1948, total_tokens=2053))

异常分析捕获处理

from openai import APIConnectionError,AuthenticationError

#%%

messages = msg_error_test.copy()

try:

response = client.chat.completions.create(

model='gpt-3.5-turbo',

messages=messages.messages,

tools=af.functions,

tool_choice=af.function_call

)

#1. 问的问题比较泛

#2. key不稳定

#3. token不够

#4. 低版本的大模型

#5. 大家也可以收集自己平时开发遇到的报错（不同版本的openai报错还不一样）

except AuthenticationError as e:

# APIConnectionError默认是用户需求不清导致无法返回结果

msg_temp = messages.copy()

# 获取用户问题

question = msg_temp.messages[-1]["content"]

# 提醒用户修改提问的提示模板

new_prompt = "以下是用户提问：%s。该问题有些复杂，且用户意图并不清晰。\

请编写一段话，来引导用户重新提问。" % question

# 修改msg_temp并重新提问

try:

msg_temp.messages[-1]["content"] = new_prompt

# 修改用户问题并直接提问

response = client.chat.completions.create(

model='gpt-3.5-turbo',

messages=msg_temp.messages,

tools=af.functions,

tool_choice=af.function_call

)

# 打印gpt返回的提示修改原问题的描述语句

display(Markdown(response.choices[0].message.content))

user_input = input("请重新输入问题，输入“退出”可以退出当前对话")

if user_input != "退出":

messages.history_messages[-1]["content"] = user_input

response = client.chat.completions.create(

model='gpt-3.5-turbo',

messages=messages.messages,

tools=af.functions,

tool_choice=af.function_call

)

# 若在提示用户修改原问题时遇到链接错误，则直接暂停1分钟后继续执行While循环

except AuthenticationError as e:

print(f"当前遇到了一个链接问题: { str(e)}")

print("由于Limit Rate限制，即将等待1分钟后继续运行...")

time.sleep(60) # 等待1分钟

print("已等待60秒，即将开始重新调用模型并进行回答...")

三、增加Few-SHOT和COT思维链能力

1、增加few-shot提示词

给few-shot例子，遇到复杂问题，进行步骤拆解； 主要提示大模型复杂问题处理能力

def add_task_decomposition_prompt(messages):

"""

当开启增强模式时，任何问题首次尝试作答时都会调用本函数，创建一个包含任务拆解Few-shot的新的message。

:param model: 必要参数，表示调用的大模型名称

:param messages: 必要参数，ChatMessages类型对象，用于存储对话消息

:param available_functions: 可选参数，AvailableFunctions类型对象，用于表示开启对话时外部函数基本情况。\

默认值为None，表示不存在外部函数。

:return: task_decomp_few_shot，一个包含任务拆解Few-shot提示示例的message

"""

# 任务拆解Few-shot

# 第一个提示示例

user_question1 = '请问什么是机器学习？'

user_message1_content = "现有用户问题如下：“%s”。为了回答这个问题，总共需要分几步来执行呢？\

若无需拆分执行步骤，请直接回答原始问题。" % user_question1

assistant_message1_content = '机器学习是一种人工智能（AI）的形式，它允许计算机自主学习和改进，而不需要被明确编程。\

在机器学习过程中，计算机发现如何执行任务，主要是通过学习数据模式和使数据驱动决策。这可能涉及在大量数据中寻找和识别模式，然后根据这些信息进行预测，或者通过反复执行和调整来优化特定任务的性能。。\

机器学习可以分为监督学习、无监督学习和强化学习等类型。。\

机器学习在许多领域都有应用，包括自然语言处理、计算机视觉、推荐系统、医疗诊断、金融市场预测等等。'

# 第二个提示示例

user_question2 = '请帮我介绍下OpenAI。'

user_message2_content = "现有用户问题如下：“%s”。为了回答这个问题，总共需要分几步来执行呢？\

若无需拆分执行步骤，请直接回答原始问题。" % user_question2

assistant_message2_content = 'OpenAI是一家开发和应用友好人工智能的公司，\

它的目标是确保人工通用智能（AGI）对所有人都有益，以及随着AGI部署，尽可能多的人都能受益。\

OpenAI致力在商业利益和人类福祉之间做出正确的平衡，本质上是一家人道主义公司。\

OpenAI开发了诸如GPT-3这样的先进模型，在自然语言处理等诸多领域表现出色。'

# 第三个提示示例

user_question3 = '围绕数据库中的user_payments表，我想要检查该表是否存在缺失值'

user_message3_content = "现有用户问题如下：“%s”。为了回答这个问题，总共需要分几步来执行呢？\

若无需拆分执行步骤，请直接回答原始问题。" % user_question3

assistant_message3_content = '为了检查user_payments数据集是否存在缺失值，我们将执行如下步骤：\

\n\n步骤1：使用`extract_data`函数将user_payments数据表读取到当前的Python环境中。\

\n\n步骤2：使用`python_inter`函数执行Python代码检查数据集的缺失值。'

# 第四个提示示例

user_question4 = '我想寻找合适的缺失值填补方法，来填补user_payments数据集中的缺失值。'

user_message4_content = "现有用户问题如下：“%s”。为了回答这个问题，总共需要分几步来执行呢？\

若无需拆分执行步骤，请直接回答原始问题。" % user_question4

assistant_message4_content = '为了找到合适的缺失值填充方法，我们需要执行以下三步：\

\n\n步骤1：分析user_payments数据集中的缺失值情况。通过查看各字段的缺失率和观察缺失值分布，了解其缺失幅度和模式。\

\n\n步骤2：确定值填补策略。基于观察结果和特定字段的性质确定恰当的填补策略，例如使用众数、中位数、均值或建立模型进行填补等。\

\n\n步骤3：进行缺失值填补。根据确定的填补策略，执行填补操作，然后验证填补效果。'

# 在保留原始问题的情况下加入Few-shot

task_decomp_few_shot = messages.copy()

task_decomp_few_shot.messages_pop(manual=True, index=-1)

task_decomp_few_shot.messages_append({ "role": "user", "content": user_message1_content})

task_decomp_few_shot.messages_append({ "role": "assistant", "content": assistant_message1_content})

task_decomp_few_shot.messages_append({ "role": "user", "content": user_message2_content})

task_decomp_few_shot.messages_append({ "role": "assistant", "content": assistant_message2_content})

task_decomp_few_shot.messages_append({ "role": "user", "content": user_message3_content})

task_decomp_few_shot.messages_append({ "role": "assistant", "content": assistant_message3_content})

task_decomp_few_shot.messages_append({ "role": "user", "content": user_message4_content})

task_decomp_few_shot.messages_append({ "role": "assistant", "content": assistant_message4_content})

user_question = messages.history_messages[-1]["content"]

new_question = "现有用户问题如下：“%s”。为了回答这个问题，总共需要分几步来执行呢？\

若无需拆分执行步骤，请直接回答原始问题。" % user_question

question_message = messages.history_messages[-1].copy()

question_message["content"] = new_question

task_decomp_few_shot.messages_append(question_message)

return task_decomp_few_shot

msg1 = MessageManager(system_content_list=[data_dictionary], question="请帮我查看user_demographics数据表中总共有多少条数据？")

msg2= msg1.copy()

msg1_get_decomposition = add_task_decomposition_prompt(messages=msg1)

msg1_get_decomposition.history_messages

输出

[{ 'role': 'user',

'content': '现有用户问题如下：“请什么是机器学习？”。为了回答这个问题，总共需要分几步来执行呢？ 若无需拆分执行步骤，请直接回答原始问题。'},

{ 'role': 'assistant',

'content': '机器学习是一种人工智能（AI）的形式，它允许计算机自主学习和改进，而不需要被明确编程。 在机器学习过程中，计算机发现如何执行任务，主要是通过学习数据模式和使数据驱动决策。这可能涉及在大量数据中寻找和识别模式，然后根据这些信息进行预测，或者通过反复执行和调整来优化特定任务的性能。。 机器学习可以分为监督学习、无监督学习和强化学习等类型。。 机器学习在许多领域都有应用，包括自然语言处理、计算机视觉、推荐系统、医疗诊断、金融市场预测等等。'},

{ 'role': 'user',

'content': '现有用户问题如下：“请帮我介绍下OpenAI。”。为了回答这个问题，总共需要分几步来执行呢？ 若无需拆分执行步骤，请直接回答原始问题。'},

{ 'role': 'assistant',

'content': 'OpenAI是一家开发和应用友好人工智能的公司， 它的目标是确保人工通用智能（AGI）对所有人都有益，以及随着AGI部署，尽可能多的人都能受益。 OpenAI致力在商业利益和人类福祉之间做出正确的平衡，本质上是一家人道主义公司。 OpenAI开发了诸如GPT-3这样的先进模型，在自然语言处理等诸多领域表现出色。'},

{ 'role': 'user',

'content': '现有用户问题如下：“围绕数据库中的user_payments表，我想要检查该表是否存在缺失值”。为了回答这个问题，总共需要分几步来执行呢？ 若无需拆分执行步骤，请直接回答原始问题。'},

{ 'role': 'assistant',

'content': '为了检查user_payments数据集是否存在缺失值，我们将执行如下步骤： \n\n步骤1：使用`extract_data`函数将user_payments数据表读取到当前的Python环境中。 \n\n步骤2：使用`python_inter`函数执行Python代码检查数据集的缺失值。'},

{ 'role': 'user',

'content': '现有用户问题如下：“我想寻找合适的缺失值填补方法，来填补user_payments数据集中的缺失值。”。为了回答这个问题，总共需要分几步来执行呢？ 若无需拆分执行步骤，请直接回答原始问题。'},

{ 'role': 'assistant',

'content': '为了找到合适的缺失值填充方法，我们需要执行以下三步： \n\n步骤1：分析user_payments数据集中的缺失值情况。通过查看各字段的缺失率和观察缺失值分布，了解其缺失幅度和模式。 \n\n步骤2：确定值填补策略。基于观察结果和特定字段的性质确定恰当的填补策略，例如使用众数、中位数、均值或建立模型进行填补等。 \n\n步骤3：进行缺失值填补。根据确定的填补策略，执行填补操作，然后验证填补效果。'},

{ 'role': 'user',

'content': '现有用户问题如下：“请帮我查看user_demographics数据表中总共有多少条数据？”。为了回答这个问题，总共需要分几步来执行呢？ 若无需拆分执行步骤，请直接回答原始问题。'}]

2、添加思维链模版

开发者模式下，让提示词增加思维链

def modify_prompt(messages, action='add', enable_md_output=True, enable_COT=True):

"""

当开启开发者模式时，会让用户选择是否添加COT提示模板或其他提示模板，并创建一个经过修改的新的message。

:param messages: 必要参数，MessageManager类型对象，用于存储对话消息

:param action: 'add' 或 'remove'，决定是添加还是移除提示

:param enable_md_output: 是否启用 markdown 格式输出

:param enable_COT: 是否启用 COT 提示

:return: messages，一个经过提示词修改的message

"""

# 思考链提示词模板

cot_prompt = "请一步步思考并得出结论。"

# 输出markdown提示词模板

md_prompt = "任何回答都请以markdown格式进行输出。"

# 如果是添加提示词

if action == 'add':

if enable_COT:

## openai.types.chat.chat_completion_message.ChatCompletionMessage

if type(messages.messages[-1]) is openai.types.chat.chat_completion_message.ChatCompletionMessage:

messages.messages[-1].content += cot_prompt

messages.history_messages[-1].content += cot_prompt

else:

messages.messages[-1]["content"] += cot_prompt

messages.history_messages[-1]["content"] += cot_prompt

if enable_md_output:

if type(messages.messages[-1]) is openai.types.chat.chat_completion_message.ChatCompletionMessage:

messages.messages[-1].content += md_prompt

messages.history_messages[-1].content += md_prompt

else:

messages.messages[-1]["content"] += md_prompt

messages.history_messages[-1]["content"] += md_prompt

# 如果是将指定提示词删除

elif action == 'remove':

if enable_md_output:

if type(messages.messages[-1]) is openai.types.chat.chat_completion_message.ChatCompletionMessage:

messages.messages[-1].content = messages.messages[-1].content.replace(md_prompt, "")

messages.history_messages[-1].content = messages.history_messages[-1].content.replace(md_prompt, "")

else:

messages.messages[-1]["content"] = messages.messages[-1]["content"].replace(md_prompt, "")

messages.history_messages[-1]["content"] = messages.history_messages[-1]["content"].replace(md_prompt, "")

if enable_COT:

if type(messages.messages[-1]) is openai.types.chat.chat_completion_message.ChatCompletionMessage:

messages.messages[-1].content = messages.messages[-1].content.replace(cot_prompt, "")

messages.history_messages[-1].content = messages.history_messages[-1].content.replace(cot_prompt, "")

else:

messages.messages[-1]["content"] = messages.messages[-1]["content"].replace(cot_prompt, "")

messages.history_messages[-1]["content"] = messages.history_messages[-1]["content"].replace(cot_prompt, "")

return messages

测试

msg2.history_messages

msg2_COT = modify_prompt(messages=msg2, action='add', enable_md_output=False, enable_COT=True)

msg2_COT.history_messages

msg2_COT.messages[-1]

msg2_COT.history_messages

msg2 = modify_prompt(messages=msg2_COT, action='remove', enable_md_output=False, enable_COT=True)

msg2.history_messages

msg2 = modify_prompt(messages=msg2_COT, action='add', enable_md_output=True, enable_COT=True)

msg2_COT.history_messages

四、大模型首次交互逻辑封装

第一次跟GPT模型进行交互，然后看他返回来的结果

解析结果有两种可能：

返回来调用的外部函数返回来调用的直接的结果

def get_first_response(model,

messages,

available_functions=None,

is_developer_mode=False,

is_expert_mode=False):

"""

负责调用Chat模型并获得模型回答函数，并且当在调用GPT模型时遇到Rate limit时可以选择暂时休眠1分钟后再运行。\

同时对于意图不清的问题，会提示用户修改输入的prompt，以获得更好的模型运行结果。

:param model: 必要参数，表示调用的大模型名称

:param messages: 必要参数，MessageManager类型对象，用于存储对话消息

:param available_functions: 可选参数，AvailableFunctions类型对象，用于表示开启对话时外部函数基本情况。\

默认为None，表示没有外部函数

:param is_developer_mode: 表示是否开启开发者模式，默认为False。\

开启开发者模式时，会自动添加提示词模板，并且会在每次执行代码前、以及返回结果之后询问用户意见，并会根据用户意见进行修改。

:param is_expert_mode: 可选参数，表示是否开启专家模式，默认为False。\

开启增强模式时，会自动启动复杂任务拆解流程，并且在进行代码debug时会自动执行deep debug。

:return: 返回模型返回的response message

"""

# 如果开启开发者模式，则进行提示词修改，首次运行是增加提示词

if is_developer_mode:

messages = modify_prompt(messages, action='add')

# 如果是专家模式，则增加复杂任务拆解流程

if is_expert_mode:

messages = add_task_decomposition_prompt(messages)

# 考虑到可能存在通信报错问题，因此循环调用Chat模型进行执行

while True:

try:

# 若不存在外部函数

if available_functions == None:

response = client.chat.completions.create(

model=model,

messages=messages.messages)

# 若存在外部函数，此时functions和function_call参数信息都从AvailableFunctions对象中获取

else:

#print("这儿我也测试一下,调用cleint之前的messages长什么样----")

#print(messages.messages)

response = client.chat.completions.create(

model=model,

messages=messages.messages,

tools=available_functions.functions,

tool_choice=available_functions.function_call

)

break # 如果成功获取响应，退出循环

except AuthenticationError as e:

# APIConnectionError默认是用户需求不清导致无法返回结果

# 若开启专家模式，此时提示用户重新输入需求

if is_expert_mode:

# 创建临时消息列表

msg_temp = messages.copy()

# 获取用户问题

question = msg_temp.messages[-1]["content"]

# 提醒用户修改提问的提示模板

new_prompt = "以下是用户提问：%s。该问题有些复杂，且用户意图并不清晰。\

请编写一段话，来引导用户重新提问。" % question

# 修改msg_temp并重新提问

try:

msg_temp.messages[-1]["content"] = new_prompt

# 修改用户问题并直接提问

response = client.chat.completions.create(

model=model,

messages=msg_temp.messages)

# 打印gpt返回的提示修改原问题的描述语句

display(Markdown(response.choices[0].message.content))

# 引导用户重新输入问题或者退出

user_input = input("请重新输入问题，输入“退出”可以退出当前对话")

if user_input == "退出":

print("当前模型无法返回结果，已经退出")

return None

else:

# 修改原始问题

messages.history_messages[-1]["content"] = user_input

# 再次进行提问

response_message = get_first_response(model=model,

messages=messages,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode)

return response_message

# 若在提示用户修改原问题时遇到链接错误，则直接暂停1分钟后继续执行While循环

except AuthenticationError as e:

print(f"当前遇到了一个链接问题: { str(e)}")

print("由于Limit Rate限制，即将等待1分钟后继续运行...")

time.sleep(60) # 等待1分钟

print("已等待60秒，即将开始重新调用模型并进行回答...")

# 若未开启增强模式

else:

# 打印错误的核心信息

print(f"当前遇到了一个链接问题: { str(e)}")

# 如果是开发者模式

if is_developer_mode:

# 选择等待、更改模型或者直接报错退出

user_input = input("请选择等待1分钟（1），或者更换模型（2），或者报错退出（3）")

if user_input == '1':

print("好的，将等待1分钟后继续运行...")

time.sleep(60) # 等待1分钟

print("已等待60秒，即将开始新的一轮问答...")

elif user_input == '2':

model = input("好的，请输出新模型名称")

else:

raise e # 如果用户选择退出，恢复提示并抛出异常

# 如果不是开发者模式

else:

print("由于Limit Rate限制，即将等待1分钟后继续运行...")

time.sleep(60) # 等待1分钟

print("已等待60秒，即将开始重新调用模型并进行回答...")

# 还原原始的message对象

if is_developer_mode:

messages = modify_prompt(messages, action='remove')

return response.choices[0].message

1、基本问答效果测试

msg1 = MessageManager(system_content_list=[data_dictionary], question="请帮我简单介绍下iquery数据库中的这四张表")

msg1_response = get_first_response(model='gpt-3.5-turbo',

messages=msg1,

available_functions=None,

is_developer_mode=False,

is_expert_mode=False)

msg1_response

输出

2、function call功能测试

msg2 = MessageManager(system_content_list=[data_dictionary], question="请帮我查看user_demographics数据表中总共有多少条数据。")

af.functions

msg2_response = get_first_response(model='gpt-3.5-turbo',

messages=msg2,

available_functions=af,

is_developer_mode=False,

is_expert_mode=False)

msg2_response

3、专家模式测试

msg3 = MessageManager(system_content_list=[data_dictionary], question="请帮我查看user_demographics数据表中缺失值情况。")

#%%

msg3_response = get_first_response(model='gpt-3.5-turbo',

messages=msg3,

available_functions=af,

is_developer_mode=False,

is_expert_mode=True)

#%%

msg3_response

4、开发者模式测试

msg4 = MessageManager(system_content_list=[data_dictionary], question="请帮我查看iquery数据库中user_demographics数据表中缺失值情况。")

#%%

msg4_response = get_first_response(model='gpt-3.5-turbo',

messages=msg4,

available_functions=af,

is_developer_mode=True,

is_expert_mode=False)

msg4_response

5、专家模式下下用户意图探究能力测试

msg5 = MessageManager(system_content_list=[data_dictionary], question="分析iquery数据库中的这四张表，帮我梳理一个数据分析的基本思路")

msg5_response = get_first_response(model='gpt-3.5-turbo',

messages=msg5,

available_functions=af,

is_developer_mode=False,

is_expert_mode=True)

msg5_response

6、开发者模式下下用户意图探究能力测试

开发者模型最大的特点就是可以让用户选择，可以选择等1分钟，也可以选择退出

msg6 = MessageManager(system_content_list=[data_dictionary], question="分析iquery数据库中的这四张表，帮我梳理一个数据分析的基本思路")

msg6_response = get_first_response(model='gpt-3.5-turbo',

messages=msg6,

available_functions=af,

is_developer_mode=True,

is_expert_mode=False)

msg6_response

五、function call执行结果消息封装

def function_to_call(available_functions, function_call_message):

"""

根据一条函数调用消息function_call_message，返回一条函数运行结果消息function_response_messages。

:param available_functions: 必要参数，要求输入一个AvailableFunctions对象，以说明当前外部函数基本情况

:param function_call_message: 必要参数，要求输入一条外部函数调用的message

:return: function_response_messages，输出又外部函数运行结果所组成的message

"""

# 获取调用外部函数的函数名称

tool_call = function_call_message.tool_calls[0]

function_name = tool_call.function.name

# 根据函数名称获取对应的外部函数对象

fuction_to_call = available_functions.functions_dic[function_name]

# 提取function_call_message中调用外部函数的函数参数

# 即大模型编写的SQL或者Python代码

function_args = json.loads(tool_call.function.arguments)

# 将参数带入到外部函数中并运行

try:

# 将当前操作空间中的全局变量添加到外部函数中

function_args['g']=globals()

# 运行外部函数

function_response = fuction_to_call(**function_args)

# 若外部函数运行报错，则提取报错信息

except Exception as e:

function_response = "函数运行报错如下:" + str(e)

# 创建function_response_messages

# 该message包含外部函数顺利运行或报错信息

function_response_messages = {

"tool_call_id": tool_call.id,

"role": "tool",

"name": function_name,

"content": function_response,

}

return function_response_messages

结果查看

msg = MessageManager(system_content_list=[data_dictionary], question="请帮我查看user_demographics数据表中总共有多少条数据。")

#%%

msg_response = get_first_response(model='gpt-3.5-turbo',

messages=msg,

available_functions=af)

msg_response

封装函数调用测试

function_response_messages = function_to_call(available_functions=af, function_call_message=msg_response)

function_response_messages

六、完成用户一次的完整交互

1、一次完整交互函数

负责完整执行一次对话的最高层函数，需要注意的是，一次对话中可能会多次调用大模型，而本函数则是完成一次对话的主函数。要求输入的messages中最后一条消息必须是能正常发起对话的消息。该函数通过调用get_gpt_response来获取模型输出结果，并且会根据返回结果的不同，例如是文本结果还是代码结果，灵活调用不同函数对模型输出结果进行后处理。

def one_chat_response(model,

messages,

available_functions=None,

is_developer_mode=False,

is_expert_mode=False,

delete_some_messages=False,

is_task_decomposition=False):

"""

负责完整执行一次对话的最高层函数，需要注意的是，一次对话中可能会多次调用大模型，而本函数则是完成一次对话的主函数。\

要求输入的messages中最后一条消息必须是能正常发起对话的消息。\

该函数通过调用get_gpt_response来获取模型输出结果，并且会根据返回结果的不同，例如是文本结果还是代码结果，\

灵活调用不同函数对模型输出结果进行后处理。\

:param model: 必要参数，表示调用的大模型名称

:param messages: 必要参数，ChatMessages类型对象，用于存储对话消息

:param available_functions: 可选参数，AvailableFunctions类型对象，用于表示开启对话时外部函数基本情况。\

默认为None，表示没有外部函数

:param is_developer_mode: 表示是否开启开发者模式，默认为False。\

开启开发者模式时，会自动添加提示词模板，并且会在每次执行代码前、以及返回结果之后询问用户意见，并会根据用户意见进行修改。

:param is_expert_mode: 可选参数，表示是否开启专家模式，默认为False。\

开启增强模式时，会自动启动复杂任务拆解流程，并且在进行代码debug时会自动执行deep debug。

:param delete_some_messages: 可选参数，表示在拼接messages时是否删除中间若干条消息，默认为Fasle。

:param is_task_decomposition: 可选参数，是否是当前执行任务是否是审查任务拆解结果，默认为False。

:return: 拼接本次问答最终结果的messages

"""

# 当且仅当围绕复杂任务拆解结果进行修改时，才会出现is_task_decomposition=True的情况

# 当is_task_decomposition=True时，不再重新创建response_message

if not is_task_decomposition:

# 先获取单次大模型调用结果

# 此时response_message是大模型调用返回的message

response_message = get_first_response(model=model,

messages=messages,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode)

# 复杂条件判断，若is_task_decomposition = True，

# 或者是专家模式且是执行function response任务时

# （需要注意的是，当is_task_decomposition = True时，并不存在response_message对象）

if is_task_decomposition or (is_expert_mode and response_message.tool_calls):

# 将is_task_decomposition修改为True，表示当前执行任务为复杂任务拆解

#print(">>这儿")

is_task_decomposition = True

# 在拆解任务时，将增加了任务拆解的few-shot-message命名为text_response_messages

task_decomp_few_shot = add_task_decomposition_prompt(messages)

# print("正在进行任务分解，请稍后...")

# 同时更新response_message，此时response_message就是任务拆解之后的response

response_message = get_first_response(model=model,

messages=task_decomp_few_shot,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode)

# 若拆分任务的提示无效，此时response_message有可能会再次创建一个function call message

if response_message.tool_calls:

print("当前任务无需拆解，可以直接运行。")

# 若本次调用是由修改对话需求产生，则按照参数设置删除原始message中的若干条消息

# 需要注意的是，删除中间若干条消息，必须在创建完新的response_message之后再执行

if delete_some_messages:

for i in range(delete_some_messages):

messages.messages_pop(manual=True, index=-1)

# 注意，执行到此处时，一定会有一个response_message

# 接下来分response_message不同类型，执行不同流程

# 若是文本响应类任务（包括普通文本响应和和复杂任务拆解审查两种情况，都可以使用相同代码）

if not response_message.tool_calls:

# 将message保存为text_answer_message

text_answer_message = response_message

# 并带入is_text_response_valid对文本内容进行审查

messages = handle_text_response(model=model,

messages=messages,

text_answer_message=text_answer_message,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode,

delete_some_messages=delete_some_messages,

is_task_decomposition=is_task_decomposition)

# 若是function response任务

elif response_message.tool_calls:

# 创建调用外部函数的function_call_message

# 在当前Agent中，function_call_message是一个包含SQL代码或者Python代码的JSON对象

function_call_message = response_message

# 将function_call_message带入代码审查和运行函数is_code_response_valid

# 并最终获得外部函数运行之后的问答结果

messages = handle_code_response(model=model,

messages=messages,

function_call_message=function_call_message,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode,

delete_some_messages=delete_some_messages)

return messages

2、外层调用函数

负责完整执行一次外部函数调用的最高层函数，要求输入的msg最后一条消息必须是包含function call的消息。

函数的最终任务是将function call的消息中的代码带入外部函数并完成代码运行，并且支持交互式代码编写或自动代码编写运行不同模式。当函数运行得到一条包含外部函数运行结果的function message之后，会继续将其带入check_get_final_function_response函数，最终将function message转化为assistant message，并完成本次对话。

# 判断代码输出结果是否符合要求，输入function call message，输出function response message

def handle_code_response(model,

messages,

function_call_message,

available_functions=None,

is_developer_mode=False,

is_expert_mode=False,

delete_some_messages=False):

"""

负责完整执行一次外部函数调用的最高层函数，要求输入的msg最后一条消息必须是包含function call的消息。\

函数的最终任务是将function call的消息中的代码带入外部函数并完成代码运行，并且支持交互式代码编写或自动代码编写运行不同模式。\

当函数运行得到一条包含外部函数运行结果的function message之后，会继续将其带入check_get_final_function_response函数，\

用于最终将function message转化为assistant message，并完成本次对话。

:param model: 必要参数，表示调用的大模型名称

:param messages: 必要参数，ChatMessages类型对象，用于存储对话消息

:param function_call_message: 必要参数，用于表示上层函数创建的一条包含function call消息的message

:param available_functions: 可选参数，AvailableFunctions类型对象，用于表示开启对话时外部函数基本情况。\

默认为None，表示没有外部函数

:param is_developer_mode: 表示是否开启开发者模式，默认为False。\

开启开发者模式时，会自动添加提示词模板，并且会在每次执行代码前、以及返回结果之后询问用户意见，并会根据用户意见进行修改。

:param is_expert_mode: 可选参数，表示是否开启专家模式，默认为False。\

开启增强模式时，会自动启动复杂任务拆解流程，并且在进行代码debug时会自动执行deep debug。

:param delete_some_messages: 可选参数，表示在拼接messages时是否删除中间若干条消息，默认为Fasle。

:return: message，拼接了最新大模型回答结果的message

"""

# 为打印代码和修改代码（增加创建图像对家部分代码）做准备

# 创建字符串类型json格式的message对象

code_json_str = function_call_message.tool_calls[0].function.arguments

# print("========这儿可能有问题======")

# print(function_call_message)

# print(function_call_message.tool_calls[0].function.arguments)

# 将json转化为字典

try:

code_dict = json.loads(code_json_str)

except Exception as e:

print("json字符解析错误，正在重新创建代码...")

# 递归调用上层函数get_chat_response，并返回最终message结果

# 需要注意的是，如果上层函数再次创建了function_call_message

# 则会再次调用is_code_response_valid，而无需在当前函数中再次执行

messages = one_chat_response(model=model,

messages=messages,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode,

delete_some_messages=delete_some_messages)

return messages

# 若顺利将json转化为字典，则继续执行以下代码

# 创建convert_to_markdown内部函数，用于辅助打印代码结果

def convert_to_markdown(code, language):

return f"```{ language}\n{ code}\n```"

# 提取代码部分参数

# 如果是SQL，则按照Markdown中SQL格式打印代码

if code_dict.get('sql_query'):

code = code_dict['sql_query']

markdown_code = convert_to_markdown(code, 'sql')

print("即将执行以下代码：")

# 如果是Python，则按照Markdown中Python格式打印代码

elif code_dict.get('py_code'):

code = code_dict['py_code']

markdown_code = convert_to_markdown(code, 'python')

print("即将执行以下代码：")

else:

markdown_code = code_dict

display(Markdown(markdown_code))

# 若是开发者模式，则提示用户先对代码进行审查然后再运行

if is_developer_mode:

user_input = input("是直接运行代码（1），还是反馈修改意见，并让模型对代码进行修改后再运行（2）")

if user_input == '1':

print("好的，正在运行代码，请稍后...")

else:

modify_input = input("好的，请输入修改意见：")

# 记录模型当前创建的代码

messages.messages_append(function_call_message)

# 记录修改意见

messages.messages_append({ "role": "user", "content": modify_input})

# 调用get_chat_response函数并重新获取回答结果

# 需要注意，此时需要设置delete_some_messages=2，删除中间对话结果以节省token

messages = one_chat_response(model=model,

messages=messages,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode,

delete_some_messages=2)

return messages

# 若不是开发者模式，或者开发者模式下user_input == '1'

# 则调用function_to_call函数，并获取最终外部函数运行结果

# 在当前Agent中，外部函数运行结果就是SQL或者Python运行结果，或代码运行报错结果

function_response_message = function_to_call(available_functions=available_functions,

function_call_message=function_call_message)

# 将function_response_message带入check_get_final_function_response进行审查

messages = check_function_response(model=model,

messages=messages,

function_call_message=function_call_message,

function_response_message=function_response_message,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode,

delete_some_messages=delete_some_messages)

return messages

3、响应结果检查函数

负责执行外部函数运行结果审查工作。若外部函数运行结果消息function_response_message并不存在报错信息，则将其拼接入message中，并将其带入get_chat_response函数并获取下一轮对话结果。而如果function_response_message中存在报错信息，则开启自动debug模式。本函数将借助类似Autogen的模式，复制多个Agent，并通过彼此对话的方式来完成debug。

# 判断代码输出结果是否符合要求，输入function response message，输出基于外部函数运行结果的message

def check_function_response(model,

messages,

function_call_message,

function_response_message,

available_functions=None,

is_developer_mode=False,

is_expert_mode=False,

delete_some_messages=False):

"""

负责执行外部函数运行结果审查工作。若外部函数运行结果消息function_response_message并不存在报错信息，\

则将其拼接入message中，并将其带入get_chat_response函数并获取下一轮对话结果。而如果function_response_message中存在报错信息，\

则开启自动debug模式。本函数将借助类似Autogen的模式，复制多个Agent，并通过彼此对话的方式来完成debug。

:param model: 必要参数，表示调用的大模型名称

:param messages: 必要参数，ChatMessages类型对象，用于存储对话消息

:param function_call_message: 必要参数，用于表示上层函数创建的一条包含function call消息的message

:param function_response_message: 必要参数，用于表示上层函数创建的一条包含外部函数运行结果的message

:param available_functions: 可选参数，AvailableFunctions类型对象，用于表示开启对话时外部函数基本情况。\

默认为None，表示没有外部函数

:param is_developer_mode: 表示是否开启开发者模式，默认为False。\

开启开发者模式时，会自动添加提示词模板，并且会在每次执行代码前、以及返回结果之后询问用户意见，并会根据用户意见进行修改。

:param is_expert_mode: 可选参数，表示是否开启专家模式，默认为False。\

开启增强模式时，会自动启动复杂任务拆解流程，并且在进行代码debug时会自动执行deep debug。

:param delete_some_messages: 可选参数，表示在拼接messages时是否删除中间若干条消息，默认为Fasle。

:return: message，拼接了最新大模型回答结果的message

"""

# 获取外部函数运行结果内容

fun_res_content = function_response_message["content"]

# 若function_response中包含错误

if "报错" in fun_res_content:

# 打印报错信息

print(fun_res_content)

# 根据是否是增强模式，选择执行高效debug或深度debug

# 高效debug和深度debug区别只在于提示内容和提示流程的不同

# 高效debug只包含一条提示，只调用一次大模型即可完成自动debug工作

# 而深度debug则包含三次提示，需要调用三次大模型进行深度总结并完成debug工作

# 先创建不同模式bubug的不同提示词

if not is_expert_mode:

# 执行高效debug

display(Markdown("**即将执行高效debug，正在实例化Efficient Debug Agent...**"))

debug_prompt_list = ['你编写的代码报错了，请根据报错信息修改代码并重新执行。']

else:

# 执行深度debug

display(Markdown("**即将执行深度debug，该debug过程将自动执行多轮对话，请耐心等待。正在实例化Deep Debug Agent...**"))

display(Markdown("**正在实例化deep debug Agent...**"))

debug_prompt_list = ["之前执行的代码报错了，你觉得代码哪里编写错了？",

"好的。那么根据你的分析，为了解决这个错误，从理论上来说，应该如何操作呢？",

"非常好，接下来请按照你的逻辑编写相应代码并运行。"]

# 复制msg，相当于创建一个新的Agent进行debug

# 需要注意的是，此时msg最后一条消息是user message，而不是任何函数调用相关message

msg_debug = messages.copy()

# 追加function_call_message

# 当前function_call_message中包含编错的代码

msg_debug.messages_append(function_call_message)

# 追加function_response_message

# 当前function_response_message包含错误代码的运行报错信息

msg_debug.messages_append(function_response_message)

# 依次输入debug的prompt，来引导大模型完成debug

for debug_prompt in debug_prompt_list:

msg_debug.messages_append({ "role": "user", "content": debug_prompt})

display(Markdown("**From Debug iQuery Agent:**"))

display(Markdown(debug_prompt))

# 再次调用get_chat_response，在当前debug的prompt下，get_chat_response会返回修改意见或修改之后的代码

# 打印提示信息

display(Markdown("**From iQuery Agent:**"))

msg_debug = one_chat_response(model=model,

messages=msg_debug,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=False,

delete_some_messages=delete_some_messages)

messages = msg_debug.copy()

# 若function message不包含报错信息

# 需要将function message传递给模型

else:

print("外部函数已执行完毕，正在解析运行结果...")

messages.messages_append(function_call_message)

messages.messages_append(function_response_message)

messages = one_chat_response(model=model,

messages=messages,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode,

delete_some_messages=delete_some_messages)

return messages

4、文本内容检查函数

负责执行文本内容创建审查工作。运行模式可分为快速模式和人工审查模式。在快速模式下，模型将迅速创建文本并保存至msg对象中，而如果是人工审查模式，则需要先经过人工确认，函数才会保存大模型创建的文本内容，并且在这个过程中，也可以选择让模型根据用户输入的修改意见重新修改文本

def handle_text_response(model,

messages,

text_answer_message,

available_functions=None,

is_developer_mode=False,

is_expert_mode=False,

delete_some_messages=False,

is_task_decomposition=False):

"""

负责执行文本内容创建审查工作。运行模式可分为快速模式和人工审查模式。在快速模式下，模型将迅速创建文本并保存至msg对象中，\

而如果是人工审查模式，则需要先经过人工确认，函数才会保存大模型创建的文本内容，并且在这个过程中，\

也可以选择让模型根据用户输入的修改意见重新修改文本。

:param model: 必要参数，表示调用的大模型名称

:param messages: 必要参数，ChatMessages类型对象，用于存储对话消息

:param text_answer_message: 必要参数，用于表示上层函数创建的一条包含文本内容的message

:param available_functions: 可选参数，AvailableFunctions类型对象，用于表示开启对话时外部函数基本情况。\

默认为None，表示没有外部函数

:param is_developer_mode: 表示是否开启开发者模式，默认为False。\

开启开发者模式时，会自动添加提示词模板，并且会在每次执行代码前、以及返回结果之后询问用户意见，并会根据用户意见进行修改。

:param is_expert_mode: 可选参数，表示是否开启专家模式，默认为False。\

开启增强模式时，会自动启动复杂任务拆解流程，并且在进行代码debug时会自动执行deep debug。

:param delete_some_messages: 可选参数，表示在拼接messages时是否删除中间若干条消息，默认为Fasle。

:param is_task_decomposition: 可选参数，是否是当前执行任务是否是审查任务拆解结果，默认为False。

:return: message，拼接了最新大模型回答结果的message

"""

# 从text_answer_message中获取模型回答结果并打印

answer_content = text_answer_message.content

# print("看看这个值is_task_decomposition")

# print(is_task_decomposition)

print("模型回答：\n")

display(Markdown(answer_content))

# 创建指示变量user_input，用于记录用户修改意见，默认为None

user_input = None

# 若是开发者模式，或者是增强模式下任务拆解结果，则引导用户对其进行审查

# 若是开发者模式而非任务拆解

if not is_task_decomposition and is_developer_mode:

user_input = input("请问是否记录回答结果（1），\

或者对当前结果提出修改意见（2），\

或者重新进行提问（3），\

或者直接退出对话（4）")

if user_input == '1':

# 若记录回答结果，则将其添加入msg对象中

messages.messages_append(text_answer_message)

print("本次对话结果已保存")

## 添加了一个逻辑，如果是任务拆解，或者是专家模式（专家模式里都有任务拆解）

# 若是任务拆解

elif is_task_decomposition or is_expert_mode:

user_input = input("请问是否按照该流程执行任务（1），\

或者对当前执行流程提出修改意见（2），\

或者重新进行提问（3），\

或者直接退出对话（4）")

if user_input == '1':

# 任务拆解中，如果选择执行该流程

messages.messages_append(text_answer_message)

print("好的，即将逐步执行上述流程")

messages.messages_append({ "role": "user", "content": "非常好，请按照该流程逐步执行。"})

is_task_decomposition = False

is_expert_mode = False

messages = one_chat_response(model=model,

messages=messages,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode,

delete_some_messages=delete_some_messages,

is_task_decomposition=is_task_decomposition)

if user_input != None:

if user_input == '1':

pass

elif user_input == '2':

new_user_content = input("好的，输入对模型结果的修改意见：")

print("好的，正在进行修改。")

# 在messages中暂时记录上一轮回答的内容

messages.messages_append(text_answer_message)

# 记录用户提出的修改意见

messages.messages_append({ "role": "user", "content": new_user_content})

# 再次调用主函数进行回答，为了节省token，可以删除用户修改意见和第一版模型回答结果

# 因此这里可以设置delete_some_messages=2

# 此外，这里需要设置is_task_decomposition=is_task_decomposition

# 当需要修改复杂任务拆解结果时，会自动带入is_task_decomposition=True

messages = one_chat_response(model=model,

messages=messages,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode,

delete_some_messages=2,

is_task_decomposition=is_task_decomposition)

elif user_input == '3':

new_user_content = input("好的，请重新提出问题：")

# 修改问题

messages.messages[-1]["content"] = new_user_content

# 再次调用主函数进行回答

messages = one_chat_response(model=model,

messages=messages,

available_functions=available_functions,

is_developer_mode=is_developer_mode,

is_expert_mode=is_expert_mode,

delete_some_messages=delete_some_messages,

is_task_decomposition=is_task_decomposition)

else:

print("好的，已退出当前对话")

# 若不是开发者模式

else:

# 记录返回消息

messages.messages_append(text_answer_message)

return messages

data_dictionary

5、普通调用测试

mm1 = MessageManager(system_content_list=[data_dictionary], question="请帮我简单介绍iquery数据库基本情况。")

#调用

mm_response1 = one_chat_response(model='gpt-3.5-turbo',

messages=mm1)

#输出响应消息

mm_response1.history_messages

6、对比开发者模式

mm2 = MessageManager(system_content_list=[data_dictionary], question="请帮我简单介绍iquery数据库基本情况。")

#%%

mm_response2 = one_chat_response(model='gpt-3.5-turbo',

messages=mm2,

is_developer_mode=True)

#%%

mm_response2.history_messages

7、带有Function Calling调用

mm3 = MessageManager(system_content_list=[data_dictionary], question="请帮我统计user_demographics总共有多少条数据？")

#%%

mm_response3 = one_chat_response(model='gpt-3.5-turbo',

messages=mm3,

available_functions=af)

mm_response3.history_messages

8、复杂问题拆解

mm4 = MessageManager(system_content_list=[data_dictionary], question="请帮我查询iquery数据库中四张表数据量是否一致。")

#%%

mm_response4 = one_chat_response(model='gpt-3.5-turbo-16k',

messages=mm4,

available_functions=af)

9、测试对比有代码调用的Function Calling

mm6 = MessageManager(system_content_list=[], question="请帮我将user_services数据表读取到Python环境中，并进行缺失值查找。")

#%%

mm_response6 = one_chat_response(model='gpt-3.5-turbo',

messages=mm6,

available_functions=af)

10、测试开发者模式(不涉及代码执行)

mm8 = MessageManager(system_content_list=[data_dictionary], question="给我介绍一下iquery数据库")

#%%

mm_response8 = one_chat_response(model='gpt-3.5-turbo-16k',

messages=mm8,

available_functions=af,

is_developer_mode=True)

11、测试专家模式

mm9 = MessageManager(system_content_list=[data_dictionary], question="请帮我到数据库中查询user_demographics表，并用可视化的方法分析其中gender字段的取值分布。并给出结果")

#%%

mm_response9 = one_chat_response(model='gpt-3.5-turbo-16k',

messages=mm9,

available_functions=af,

is_expert_mode=True)

12、Agent对话封装调用

# from memory.MessageManager import MessageManager

# from planning.Planning import *

class iQueryAgent():

def __init__(self,

api_key,

model='gpt-3.5-turbo-16k',

system_content_list=[],

project=None,

messages=None,

available_functions=None,

is_expert_mode=False,

is_developer_mode=False):

"""

初始参数解释：

api_key：必选参数，表示调用OpenAI模型所必须的字符串密钥，没有默认取值，需要用户提前设置才可使用MateGen；

model：可选参数，表示当前选择的Chat模型类型，默认为gpt-3.5-turbo-16k，具体当前OpenAI账户可以调用哪些模型，可以参考官网Limit链接：https://platform.openai.com/account/limits ；

system_content_list：可选参数，表示输入的系统消息或者外部文档，默认为空列表，表示不输入外部文档；

project：可选参数，表示当前对话所归属的项目名称，需要输入CloudFile类对象，用于表示当前对话的本地存储方法，默认为None，表示不进行本地保存；

messages：可选参数，表示当前对话所继承的Messages，需要是MessageManager对象、或者是字典所构成的list，默认为None，表示不继承Messages；

available_functions：可选参数，表示当前对话的外部工具，需要是AvailableFunction对象，默认为None，表示当前对话没有外部函数；

is_expert_mode：可选参数，表示当前对话是否开启专家模式，专家模式下会自动开启复杂任务拆解流程以及深度debug功能，会需要耗费更多的计算时间和金额，不过会换来Agent整体性能提升，默认为False；

is_developer_mode：可选参数，表示当前对话是否开启开发者模式，在开发者模式下，模型会先和用户确认文本或者代码是否正确，再选择是否进行保存或者执行，对于开发者来说借助开发者模式可以极大程度提升模型可用性，但并不推荐新人使用，默认为False；

"""

self.api_key = api_key

self.model = model

self.project = project

self.system_content_list = system_content_list

tokens_thr = None

# 计算tokens_thr

if '1106' in model:

tokens_thr = 110000

elif '16k' in model:

tokens_thr = 12000

elif 'gpt-4-0613' in model:

tokens_thr = 7000

elif 'gpt-4-turbo-preview' in model:

tokens_thr = 110000

else:

tokens_thr = 3000

self.tokens_thr = tokens_thr

# 创建self.messages属性

self.messages = MessageManager(system_content_list=system_content_list,

tokens_thr=tokens_thr)

# 若初始参数messages不为None，则将其加入self.messages中

if messages != None:

self.messages.messages_append(messages)

self.available_functions = available_functions

self.is_expert_mode = is_expert_mode

self.is_developer_mode = is_developer_mode

title="【===================欢迎使用iQuery Agent 智能数据分析平台================================】"

display(Markdown(title))

def chat(self, question=None):

"""

iQueryAgent类主方法，支持单次对话和多轮对话两种模式，当用户没有输入question时开启多轮对话，反之则开启单轮对话。\

无论开启单论对话或多轮对话，对话结果将会保存在self.messages中，便于下次调用

"""

head_str = "▌ Model set to %s" % self.model

display(Markdown(head_str))

if question != None:

self.messages.messages_append({ "role": "user", "content": question})

self.messages = one_chat_response(model=self.model,

messages=self.messages,

available_functions=self.available_functions,

is_developer_mode=self.is_developer_mode,

is_expert_mode=self.is_expert_mode)

else:

while True:

self.messages = one_chat_response(model=self.model,

messages=self.messages,

available_functions=self.available_functions,

is_developer_mode=self.is_developer_mode,

is_expert_mode=self.is_expert_mode)

user_input = input("您还有其他问题吗？(输入退出以结束对话): ")

if user_input == "退出":

break

else:

self.messages.messages_append({ "role": "user", "content": user_input})

def reset(self):

"""

重置当前iQuery Agent对象的messages

"""

self.messages = MessageManager(system_content_list=self.system_content_list)

def upload_messages(self):

"""

将当前messages上传至project项目中

"""

if self.project == None:

print("需要先输入project参数（需要是一个CloudFile对象），才可上传messages")

return None

else:

self.project.append_doc_content(content=self.messages.history_messages)

#iquery = iQueryAgent(api_key="",model="gpt-3.5-turbo-16k")

#iquery.chat('请帮我介绍下什么是机器学习？')

#iquery.chat("请问你上次回答的问题是什么？")

对话测试

iquery = iQueryAgent(api_key="",model="gpt-3.5-turbo-16k",

available_functions=af)

iquery.chat()

对话测试

iquery = iQueryAgent(api_key="gpt-3.5-turbo-16k",

system_content_list=[data_dictionary],

available_functions=af)

iquery.chat()

七、结语

截至目前，Agent智能数据分析平台的开发工作已接近尾声。从最初的开源调研，到架构设计分析，再到代码的具体落地实施，整个开发过程已经基本完成。接下来的任务是将已有的成果整合到平台的各个功能模块中，确保平台的完整性和稳定性。

🎯🔖更多专栏系列文章：AIGC-AI大模型探索之路

😎 作者介绍：我是寻道AI小兵，资深程序老猿，从业10年+、互联网系统架构师，目前专注于AIGC的探索。

📖 技术交流：建立有技术交流群，可以扫码👇 加入社群，500本各类编程书籍、AI教程、AI工具等你领取！

如果文章内容对您有所触动，别忘了点赞、⭐关注，收藏！加入我，让我们携手同行AI的探索之旅，一起开启智能时代的大门！