Python调用讯飞星火大模型v3.x api接口使用教程

IT大头 2024-06-16 10:35:02 阅读 69

目录

​编辑

1、获取api接口的ID和key

 1.1 创建应用

1.2  购买token

1.3 获取 ID和key

使用教程更新2.0

2、 Python调用api

3 、应用分享

4、bug问题

5、v3.5最新版接口新增功能补充

     6、参数说明


 

be576d98f1cc4c8691b7a52f4a5a786d.png

1、获取api接口的ID和key

        这里我们可以获取星火免费赠送的200万个token使用和测试,获取方法如下:

        打卡网站讯飞星火认知大模型-AI大语言模型-星火大模型-科大讯飞 ,登录用户点击免费使用

        

6e64686a4e0946e4a443559a97876c96.png

 1.1 创建应用

       点击购买首次应该会让创建一个应用, 如下图,按要求内容随意填写,然后提交

27a3bfc87b264315a8a9938cdc574236.png

1.2  购买token

        创建完成应用,回去购买,我这里选择个人的(这些都是在完成认证及设置了支付密码的基础)

228c08303c7e46cd8714a2dc02ca51fc.png

1.3 获取 ID和key

        在工单中心这个大模型3.0,页面就是,appid这三个我们会用到

e351f0da2d1d46af81b1d05afc284d7e.png

ba67966417584bbdb68fc8e78c9def54.png

使用教程更新2.0

Python调用讯飞星火大模型v3.x api接口使用教程2.0(python sdk,支持图片理解)-CSDN博客文章浏览阅读367次,点赞7次,收藏12次。本篇文章是针对星火大模型api接口使用的新篇章,本次主要是介绍对于pythonSDK使用,以及图片理解等新功能。相对于上篇博客中的使用方法,本次的教程相对来说更简单方便。话不多说,直接享用。Python调用讯飞星火大模型v3, api接口使用教程 ,星火api,Python调用,

https://blog.csdn.net/qq_45156060/article/details/139058776?spm=1001.2014.3001.5502

2、 Python调用api

        我的Python版本是在3.8左右的

        创建一个名为SparkApi.py的Python文件,将下面代码粘进去

        下面官方的代码有个坑,就是answer = ""是个全局变量,这个会将所有的提问拼接在一起,不过这个影响不大,就是打印answer的结果不好看,只要我们输入时text列表清除历史输入,token还是不带历史

import _thread as threadimport base64import datetimeimport hashlibimport hmacimport jsonfrom urllib.parse import urlparseimport sslfrom datetime import datetimefrom time import mktimefrom urllib.parse import urlencodefrom wsgiref.handlers import format_date_timeimport websocket # 使用websocket_clientanswer = ""class Ws_Param(object): # 初始化 def __init__(self, APPID, APIKey, APISecret, Spark_url): self.APPID = APPID self.APIKey = APIKey self.APISecret = APISecret self.host = urlparse(Spark_url).netloc self.path = urlparse(Spark_url).path self.Spark_url = Spark_url # 生成url def create_url(self): # 生成RFC1123格式的时间戳 now = datetime.now() date = format_date_time(mktime(now.timetuple())) # 拼接字符串 signature_origin = "host: " + self.host + "\n" signature_origin += "date: " + date + "\n" signature_origin += "GET " + self.path + " HTTP/1.1" # 进行hmac-sha256进行加密 signature_sha = hmac.new(self.APISecret.encode('utf-8'), signature_origin.encode('utf-8'), digestmod=hashlib.sha256).digest() signature_sha_base64 = base64.b64encode(signature_sha).decode(encoding='utf-8') authorization_origin = f'api_key="{self.APIKey}", algorithm="hmac-sha256", headers="host date request-line", signature="{signature_sha_base64}"' authorization = base64.b64encode(authorization_origin.encode('utf-8')).decode(encoding='utf-8') # 将请求的鉴权参数组合为字典 v = { "authorization": authorization, "date": date, "host": self.host } # 拼接鉴权参数,生成url url = self.Spark_url + '?' + urlencode(v) # 此处打印出建立连接时候的url,参考本demo的时候可取消上方打印的注释,比对相同参数时生成的url与自己代码生成的url是否一致 return url# 收到websocket错误的处理def on_error(ws, error): print("### error:", error)# 收到websocket关闭的处理def on_close(ws,one,two): print(" ")# 收到websocket连接建立的处理def on_open(ws): thread.start_new_thread(run, (ws,))def run(ws, *args): data = json.dumps(gen_params(appid=ws.appid, domain= ws.domain,question=ws.question)) ws.send(data)# 收到websocket消息的处理def on_message(ws, message): # print(message) data = json.loads(message) code = data['header']['code'] if code != 0: print(f'请求错误: {code}, {data}') ws.close() else: choices = data["payload"]["choices"] status = choices["status"] content = choices["text"][0]["content"] print(content,end ="") global answer answer += content # print(1) if status == 2: ws.close()def gen_params(appid, domain,question): """ 通过appid和用户的提问来生成请参数 """ data = { "header": { "app_id": appid, "uid": "1234" }, "parameter": { "chat": { "domain": domain, "temperature": 0.5, "max_tokens": 2048 } }, "payload": { "message": { "text": question } } } return datadef main(appid, api_key, api_secret, Spark_url,domain, question): wsParam = Ws_Param(appid, api_key, api_secret, Spark_url) websocket.enableTrace(False) wsUrl = wsParam.create_url() ws = websocket.WebSocketApp(wsUrl, on_message=on_message, on_error=on_error, on_close=on_close, on_open=on_open) ws.appid = appid ws.question = question ws.domain = domain ws.run_forever(sslopt={"cert_reqs": ssl.CERT_NONE})

 在随便建一个py文件,将下面代码粘进去,这个是调用客户端,上面文件是服务端

import SparkApi#以下密钥信息从控制台获取appid = "XXXXXXXX" #填写控制台中获取的 APPID 信息api_secret = "XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX" #填写控制台中获取的 APISecret 信息api_key ="XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX" #填写控制台中获取的 APIKey 信息domain = "generalv3" # v3版本#云端环境的服务地址Spark_url = "ws://spark-api.xf-yun.com/v3.1/chat" # v3环境的地址("wss://spark-api.xf-yun.com/v3.1/chat)text =[]# length = 0def getText(role,content): jsoncon = {} jsoncon["role"] = role jsoncon["content"] = content text.append(jsoncon) return textdef getlength(text): length = 0 for content in text: temp = content["content"] leng = len(temp) length += leng return lengthdef checklen(text): while (getlength(text) > 8000): del text[0] return text if __name__ == '__main__': text.clear while(1): Input = input("\n" +"我:") question = checklen(getText("user",Input)) SparkApi.answer ="" print("星火:",end = "") SparkApi.main(appid,api_key,api_secret,Spark_url,domain,question) getText("assistant",SparkApi.answer) # print(str(text))

        这里就需要把刚才控制台的信息替换掉那些xxxx

        ps:这里就是一个python的简易问答,如果想掉用接口,在这个调用文件里加一个调用函数

def spark_api(question): """ :param question: :return: """ question = checklen(getText("user",question)) SparkApi.answer ="" SparkApi.main(appid,api_key,api_secret,Spark_url,domain,question) text.clear() return SparkApi.answer

        建议在使用接口函数调用是加上text.clear(),清除历史对话,否则在一个长的连接调用时历史的token会加越来越长,十分消耗token,不需要历史的建议clear

3 、应用分享

        最近作者在做项目是使用到了api辅助数据处理,其中发现在在提示词中加入一个历史对话可能会让结果更标准。下面是测试样例:

        

def getText(role,content): jsoncon = {} history_put = """['工程','货物',]\n请从上面选项中选择一个属于下面文本的分类\n左侧边坡宣传标语 ,结果只输出1,2 ,如果都不属于输出0 """ text.append({'role':'user','content':history_put }) text.append({'role': 'assistant', 'content': '0'}) jsoncon["role"] = role jsoncon["content"] = content text.append(jsoncon) return text

         上面代码是作者在函数中加入一串历史对话,这种思路就是每次调用都是一次历史和本次调用,这样在输出的结果上大部分都是一致的。在我测试7000条数据中仅有10条是有解释性话术。

4、bug问题

bug:如下图:

这个是缺少包安装这个即可:websocket-client==1.4.2

41e5ebaf642045cdab2f4008e29ae2aa.png

如下图:

这个我认为是spark_url="ws(s)://spark-api.xf-yun.com/v3.1/chat"  # 错误案例

正确的spark_url="wss://spark-api.xf-yun.com/v3.1/chat" 或者ws://spark-api.xf-yun.com/v3.1/chat

5365771d336a48559a516fbf563f34be.png

5、v3.5最新版接口新增功能补充

(1) 接口参数:对应的domain参数为generalv3.5  ,ws地址3.1改成3.5

(2)system:设置对话背景或者模型角色

        如果想获取结合上下文的回答,需要开发者每次将历史问答信息一起传给服务端,如下示例

        注意:text里面的所有content内容加一起的tokens需要控制在8192以内,开发者如有较长对话需求,需要适当裁剪历史信息。

使用方法--> 旧版本传入请求数据时列表中只有usr和assistant这两个字典数据,现在要是使用system,只需要在usr前加入提示语字典如下图。

        也就是在上文应用分享中 getText函数,text.append(                   {"role":"system","content":"你现在扮演李白,你豪情万丈,狂放不羁;接下来请用李白的口吻和用户对话。"} )后面每次调用接口都是自带system

# 参数构造示例如下{ "header": { "app_id": "12345", "uid": "12345" }, "parameter": { "chat": { "domain": "generalv3.5", "temperature": 0.5, "max_tokens": 1024, } }, "payload": { "message": { # 如果想获取结合上下文的回答,需要开发者每次将历史问答信息一起传给服务端,如下示例 # 注意:text里面的所有content内容加一起的tokens需要控制在8192以内,开发者如有较长对话需求,需要适当裁剪历史信息 "text": [ {"role":"system","content":"你现在扮演李白,你豪情万丈,狂放不羁;接下来请用李白的口吻和用户对话。"} #设置对话背景或者模型角色 {"role": "user", "content": "你是谁"} # 用户的历史问题 {"role": "assistant", "content": "....."} # AI的历史回答结果 # ....... 省略的历史对话 {"role": "user", "content": "你会做什么"} # 最新的一条问题,如无需上下文,可只传最新一条问题 ] } }}

(3)了functions.text字段:用于方法的注册

# 参数构造示例如下,仅在原本生成的基础上,增加了functions.text字段,用于方法的注册{ "header": { "app_id": appid, "uid": "1234" }, "parameter": { "chat": { "domain": domain, "random_threshold": 0.5, "max_tokens": 2048, "auditing": "default" } }, "payload": { "message": { "text": [ {"role": "user", "content": ""} # 用户的提问 ] }, "functions": { "text": [ { "name": "天气查询", "description": "天气插件可以提供天气相关信息。你可以提供指定的地点信息、指定的时间点或者时间段信息,来检索诗词库,精准检索到天气信息。", "parameters": { "type": "object", "properties": { "location": { "type": "string", "description": "地点,比如北京。" }, "date": { "type": "string", "description": "日期。" } }, "required": [ "location" ] } }, { "name": "税率查询", "description": "税率查询可以查询某个地方的个人所得税率情况。你可以提供指定的地点信息、指定的时间点,精准检索到所得税率。", "parameters": { "type": "object", "properties": { "location": { "type": "string", "description": "地点,比如北京。" }, "date": { "type": "string", "description": "日期。" } }, "required": [ "location" ] } } ] } } }

     6、参数说明

项目地址:

https://github.com/liukangjia666/spark_demo

交流群进群方式:



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。