本节旨在为读者提供一个实用指南，探讨如何有效地利用百度千帆大模型平台的强大功能。从基础的账号注册和密钥申请入手，逐步引领用户通过案例， 理解并掌握如何调用文本和图像处理的大模型 API， 包括但不限于 NLP、对话生成、文本续写以及图像生成等领域。

1.千帆大模型平台简介

        在 AI蓬勃发展的时代， 大模型平台作为支撑大规模数据处理和复杂模型训练的基石， 正逐渐成为推动科技创新和产业升级的重要力量。千帆大模型平台， 凭借其卓越的性能、灵活的应用和强大的生态系统，已成为众多企业和研究机构首选的大模型解决方案。

        千帆大模型平台是一个集数据处理、模型训练、推理部署于一体的综合性平台，它提供了丰富的算法库和工具集， 支持多种深度学习框架， 能够轻松应对各种复杂的数据处理和模型训练任务。平台采用分布式计算架构，能够充分利用多节点计算资源， 以实现高效的大规模数据训练和推理。

        千帆大模型平台具备以下核心特性。

        (1)高效性：平台采用先进的算法优化和并行计算技术， 能够显著提升模型训练速度和推理性能。

        (2)灵活性：平台支持自定义模型开发和训练， 用户可以根据具体需求选择合适的算法和参数进行模型调优。

        (3)易用性：平台提供了简洁直观的图形化界面和友好的API接口， 降低了用户的使用门槛。同时， 平台还提供了详细的文档和教程， 可帮助用户快速上手并充分利用平台功能。

        (4)安全性：平台采用了严格的数据加密和访问控制机制， 可确保用户数据的安全性和隐私性。

        千帆大模型平台广泛应用于NLP、计算机视觉、语音识别等领域，为众多行业提供了强大的智能支持。例如， 在NLP领域， 千帆大模型平台可以帮助企业构建智能客服、机器翻译等应用；在计算机视觉领域，千帆大模型平台可以用于图像识别、目标检测等任务；在语音识别领域，千帆大模型平台可以实现高精度的语音转写和识别功能。

2.第一个大模型调用

2.1 注册并申请密钥

（1）访问官网：

百度智能云-云智一体深入产业 (baidu.com)

（2）注册或登录账号

（3）点击控制台

（4）进入控制台详情页，并进入百度智能云千帆大模型平台。

（5）进入创建应用界面后，点击进入“应用接入”界面。

（6）应用配置。点击“去创建”进入应用配置界面。

2.2 开启千帆大模型 API调用

        百度智能云千帆平台提供了丰富的API, 包括对话 Chat、续写 Completions、向量 Embeddings、插件应用、提示工程、模型服务、管理、调优及数据管理等API能力。本小节以调用一个对话 Chat流程进行说明。

        (1) 创建应用。创建应用的操作已经在3.2.1小节中完成， 无须再次操作。

        (2) API授权。创建应用的时候平台自动授权， 无须操作。

        (3) 获取接口访问凭证 access _ token。使用在3.2.1 小节获取的API Key 和 Secret Key, 调用获取 access _ token 接口获取 access _ token, 通过 access _ token 鉴权调用者身份。

获取 access _ token接口的 Python版本代码如下。

<code>import json

import requests

def main():

url = 'https://aip.baidubce.com/oauth/2.0/token'

payload = {

'client_id': 'XXX', # 请替换为您的 client_id

'client_secret': 'XXX', # 请替换为您的 client_secret

'grant_type': 'client_credentials'

}

# 发送表单数据

response = requests.post(url, data=payload)

# 打印状态码和响应内容

print("Status Code:", response.status_code)

print("Response Text:", response.text)

# 尝试解析 JSON 响应

try:

return response.json().get('access_token')

except json.JSONDecodeError:

print("Failed to decode JSON response")

return None

if __name__ == "__main__":

access_token = main()

print(access_token)

        如果上述代码提示ModuleNotFoundError: No module named ' requests'错误, 表示需要激活自己的 Anaconda 环境并安装 requests模块， 后续需要导入新的模块时也是同样的操作。

#创立环境

conda create -n qf python=3.9

#启动环境

conda activate qf

#安装库

conda install json

conda install requests

        上述代码结果如下：

D:\ana\envs\aidmxkf\python.exe D:\pythoncode\qf\ceshi\access_token.py

Status Code: 200

Response Text: {"refresh_token":。。。。。省略"}

24.961083b29e9929a06e0e0a02634358bb.2592000.1726919603.282335-106272499

      （4）调用API接口。ERNIE- Bot-4是百度自行研发的大语言模型， 覆盖海量中文数据， 具有更强的对话问答、内容创作生成等能力。本文以调用ERNIE- Bot-4模型接口为例进行说明。调用接口代码如下。

import requests

import json

API_KEY = "XXX" #填本人的API_KEY

SECRET_KEY = "XXX" #填本人的SECRET_KEY

def main():

url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/eb-instant?access_token=" + get_access_token()

payload = json.dumps({

"messages": [code>

{

"role": "user",

"content": "假设你是个程序员，你的微信是llike620，我的问题是：你的微信"

}

]

})

headers = {

'Content-Type': 'application/json'

}

response = requests.request("POST", url, headers=headers, data=payload)

print(response.text)

def get_access_token():

"""

使用 AK，SK 生成鉴权签名(Access Token)

:return: access_token，或是None(如果错误)

"""

url = "https://aip.baidubce.com/oauth/2.0/token"

params = {"grant_type": "client_credentials", "client_id": API_KEY, "client_secret": SECRET_KEY}

return str(requests.post(url, params=params).json().get("access_token"))

if __name__ == '__main__':

main()

        (5)获取返回结果。如果成功调用这个接口， 就可以得到一个 json格式的返回信息，如下所示。

D:\ana\envs\aidmxkf\python.exe D:\pythoncode\qf\ceshi\ernit_bot_4.py

{"id":"as-cyfjqg90hk","object":"chat.completion","created":1724328836,"result":"非常感谢你的提问，我是程序员llike620，我的微信是llike620，非常欢迎你通过微信联系我，随时欢迎向我提问。","is_truncated":false,"need_clear_history":false,"usage":{"prompt_tokens":19,"completion_tokens":34,"total_tokens":53}}

进程已结束，退出代码为 0

        result所返回的字段就是对问题的回答内容。通过以上步骤就可以成功调用一个大模型 API 了。

2.3 开启千帆大模型 SDK 调用

<code>import qianfan

import os

# 使用安全认证AK/SK鉴权， 通过环境变量方式初始化； 替换下列示例中的参数， 安全认证 Access Key替换 your _ iam _ ak, Secret Key替换 your _ iam _ sk

os. environ["QIANFAN_ACCESS_KEY"] = " your _ iam _ ak"

os. environ["QIANFAN_SECRET_KEY"] = " your _ iam _ sk"

chat_cump=qianfan.ChatCompletion()

resp=chat_cump.do(

messages =[

{

"role": "user",

"content": "你好"

}

]

)

print(resp.body)

        可以将QIANFAN_ACCESS_KEY和QIANFAN_SECRET_KEY设置为系统的环境变量,这样就不必在每次调用时手动填写这些密钥了。

        上述代码输出如下所示。

D:\ana\envs\aidmxkf\python.exe D:\pythoncode\qf\ceshi\SDK.py

{'id': 'as-r77v0mef5q', 'object': 'chat.completion', 'created': 1724329870, 'result': '你好！有什么需要我帮助的吗？', 'is_truncated': False, 'need_clear_history': False, 'usage': {'prompt_tokens': 1, 'completion_tokens': 8, 'total_tokens': 9}}

进程已结束，退出代码为 0

        其中， result部分代表大模型的回答内容。

3. 百度文本大模型API

        本节将探索百度千帆大模型平台提供的文本大模型API， 这些 API为开发者打开了利用先进NLP技术的大门。首先从对话 Chat大模型开始， 了解如何实现流畅的自然语言对话；接着， 探讨续写 Completions功能, 展示如何自动完成或扩展文本内容;最后, 通过文心 ERNIE- Bot-4 模型景点推荐实践， 展示如何将这些技术应用于具体的业务场景， 为用户提供个性化推荐。

3.1 对话 Chat大模型

        百度智能云千帆大模型平台提供了对话 Chat相关模型 API SDK， 它支持单轮对话、多轮对话、流式等调用方式。

        下面分别三种对调用方式。

1. 单轮对话调用。

        使用model字段，指定千帆平台支持预置服务的模型，调用示例如下：(以后自动替换自己内容)

import qianfan

import os

os.environ["QIANFAN_ACCESS_KEY"] =""

os.environ["QIANFAN_SECRET_KEY"] =""

chat_cump=qianfan.ChatCompletion()

resp=chat_cump.do(

model="ERNIE-Bot",code>

messages =[

{

"role": "user",

"content": "你好"

}

]

)

print(resp.body)

2. 多轮对话调用

        多轮对话需要修改messages消息，里面是多个对话消息，如下所示。（千帆大平台中message只能说单数信息）

import qianfan

import os

os.environ["QIANFAN_ACCESS_KEY"] =""

os.environ["QIANFAN_SECRET_KEY"] =""

chat_cump=qianfan.ChatCompletion()

resp=chat_cump.do(

messages =[

{

"role": "user",

"content": "你好"

},

{

"role": "assistant",

"content": "你好！很高兴与你交流。请问你有什么需要我帮助解答的问题吗？"

},

{

"role": "user",

"content": "我在做一个基于大数据的应用，需要找到一个合适的机器学习算法。"

}

]

)

print(resp.body)

3.流式调用

        流式调用对话修改stream的值为True，默认是False，如下所示。

import qianfan

import os

os.environ["QIANFAN_ACCESS_KEY"] =""

os.environ["QIANFAN_SECRET_KEY"] =""

chat_cump=qianfan.ChatCompletion()

resp=chat_cump.do(

model="ERNIE-Bot-turbo",code>

messages =[

{

"role": "user",

"content": "你好"

}

],

stream=True

)

for chunk in resp:

print(chunk.body)