使用PerfXCloud快速搭建一个ChatGPT-Web

henry218e 2024-08-06 09:03:01 阅读 99

一、准备

本项目使用 www.perfxcloud.net 大模型平台,网站上有详细的说明文档。

快速开始 | PerfXCloud​docs.perfxlab.cn/docs/tutorial-basics/get-started/

注意:PerfXCloud的API接口兼容 OpenAI 的ChatGPT,可以直接使用 OpenAI SDK或者其他中间件来访问 PerfXCloud。这使得开发者从ChatGPT或者其他平台切换到PerfXCloud变得非常非常容易。

1.如果还没有PerfXCloud的账号,可以登录网站创建一个。

2.PerfXCloud目前支持:

Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B (还在持续更新中)

二、ChatGPT-Web

ChatGPT-Web 是一个基于 Express 和 Vue3 搭建的第三方 ChatGPT 前端页面,通过PerfXCloud API实现。这个项目的目标是让用户能够自定义提示词、访问提示词商店,并且无需 API 密钥。本项目基于https://github.com/Chanzhaoyu/chatgpt-web进行开发。

三、程序部署

Node

node 需要 ^16 || ^18 || ^19 版本(node >= 14 需要安装 fetch polyfill),使用 nvm 可管理本地多个 node 版本

<code>node -v #查看版本号

PNPM

如果你没有安装过 pnpm

npm install pnpm -g

下载源码

git clone https://gitee.com/PerfXCloud-APP/chatgpt-web.git

cd chatgpt-web/

填写密钥

获取 PerfXCloud API 令牌并填写本地环境变量

# service/.env 文件

OPENAI_API_KEY=

OPENAI_API_BASE_URL='https://cloud.perfxlab.cn/v1'code>

OPENAI_API_MODE='Qwen2-72B-Instruct-GPTQ-Int4'code>

环境变量

API 可用:

OPENAI_API_MODEL 设置模型

OPENAI_API_BASE_URL 设置接口地址

OPENAI_API_DISABLE_DEBUG 设置接口关闭 debug 日志,可选,默认:empty 不关闭

通用:

AUTH_SECRET_KEY 访问权限密钥,可选

MAX_REQUEST_PER_HOUR 每小时最大请求次数,可选,默认无限

TIMEOUT_MS 超时,单位毫秒,可选

SOCKS_PROXY_HOST 和 SOCKS_PROXY_PORT 一起时生效,可选

SOCKS_PROXY_PORT 和 SOCKS_PROXY_HOST 一起时生效,可选

HTTPS_PROXY 支持 http,https, socks5,可选

ALL_PROXY 支持 http,https, socks5,可选

安装依赖

后端

进入文件夹 /service 运行以下命令

pnpm install

前端

根目录下运行以下命令

pnpm bootstrap

项目运行

后端服务

进入文件夹 /service 运行以下命令

pnpm start

前端网页

pnpm dev

以下命令部署完成后,打开项目的网页链接如下图:

项目演示视频

https://www.bilibili.com/video/BV1an4y1o7iS​www.bilibili.com/video/BV1an4y1o7iS

项目代码地址

PerfXCloud_APP/chatgpt-web​gitee.com/PerfXCloud-APP/chatgpt-web​编辑

项目在线体验连接

ChatGPT Web​app.perfxlab.cn:7088/chatgpt_web


AI大模型应用开发:使用PerfXCloud快速搭建微信小助手

AI大模型应用开发:PerfXCloud快速集成Dify开源大模型应用开发平台

AI大模型应用开发:使用PerfXCloud实现论文搜索与总结

AI大模型应用开发:如何使用PerfXCloud实现一个与智能NPC对话的游戏

AI大模型应用开发:使用PerfXCloud在Python中构建本地聊天机器人



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。