通过NextChat(ChatGPT-Next-Web)低成本给自己或客户部署GPT程序
产品试金石 2024-06-17 13:03:02 阅读 76
引言
在国内,用着别人的GPT总归不爽,一是担心稳定性,二是还可能被广告打扰。Github上超人气项目NextChat提供了私有化部署GPT的最佳实践方案,帮助你低成本完成GPT的私人所有。
注意:本文仅针对需要部署项目的读者来展开,实际本站>>提供的GPT程序完全可以满足大家平时使用GPT的需要,无需自行搭建。
学习如何使用NextChat程序建议阅读文章:《ChatGPT操作指南(蛋壳部署)》
什么是NextChat(ChatGPT-Next-Web)
NextChat(又名ChatGPT-Next-Web,以下简称NextChat)是一个面向用户的GPT类应用程序,用户可以通过这个程序与GPT进行交互。目前市面上已出现很多GPT类应用程序,除了本文重点介绍的NextChat以外,还有OpenAI官方GPT(含Plus)、LobeChat、ChuanhuChatGPT、chatgpt-web-midjourney-proxy、ChatBox、gpt_academic、ChatGPT-Web等,其余项目均可前往Github作者仓库进行进一步研究使用。该项目在Github已经斩获55.6kstar,当之无愧的GPT程序NO.1,并且据悉目前该项目已被收购,商业价值潜力巨大。
NextChat官方介绍:
一键免费部署你的跨平台私人 ChatGPT 应用, 支持 GPT3, GPT4 & Gemini Pro 模型。
NextChat主要功能:
在 1 分钟内使用 Vercel 免费一键部署提供体积极小(~5MB)的跨平台客户端(Linux/Windows/MacOS), 下载地址完整的 Markdown 支持:LaTex 公式、Mermaid 流程图、代码高亮等等精心设计的 UI,响应式设计,支持深色模式,支持 PWA极快的首屏加载速度(~100kb),支持流式响应隐私安全,所有数据保存在用户浏览器本地预制角色功能(面具),方便地创建、分享和调试你的个性化对话海量的内置 prompt 列表,来自中文提示词>>和英文提示词>>自动压缩上下文聊天记录,在节省 Token 的同时支持超长对话多国语言支持:English, 简体中文, 繁体中文, 日本語, Español, Italiano, Türkçe, Deutsch, Tiếng Việt, Русский, Čeština, 한국어, Indonesia拥有自己的域名?好上加好,绑定后即可在任何地方无障碍快速访问
为什么选择NextChat作为GPT程序
本站主要使用的稳定GPT程序就是NextChat,目前有三个入口在使用该程序,分别为:
ChatGPT-3.5>>ChatGPT-4.0-Turbo>>ChatGPT-3.5联网版>>
为什么选择它,综合NextChat主要功能介绍的那11条内容以及长期使用此程序的一点心得,本人认为选择NextChat理由就8个字:
交互丝滑界面精美
当你用的多了,时间久了,你就知道不卡顿的程序,其丝滑的交互体验对你是多么重要,加上恰到好处的界面UI设计,可以“精致而优雅”的保持和GPT的交流热情,其体验甚至超过官方提供的网页端交互程序。目前看来,尚没有任何其他GPT程序能与之匹敌,这就是为什么使用NextChat的核心理由所在。
部署NextChat程序的两种方式
作者在项目ReadMe中列出了许多部署方式,有兴趣的可以选择适合自己的进行尝试,本文重点介绍最实用的两种方式,可视化本地安装(Windows为例)和可视化远程部署(Vercel部署)。两种方式分别准备条件和特点如下:
本地安装:一台Windows电脑即可,0成本且无需设置;只能当前设备使用,其他人或其他设备使用需重新安装程序。适用于不愿意折腾,仅简单自用的场景。远程部署:一个域名,通过域名访问可多人共享,可自定义配置;部署稍复杂,有一点域名的成本(约80元/年)。适用于多人使用或者分享给客户使用的场景。
以上两种方案都无需自备服务器,Vercel的存在使得部署成本大大节约了。
方式一:本地安装
进入项目程序版本发布界面,下载对应的exe程序并安装。
安装完成后,点开设置并修改以下两个参数:
替换接口地址:将原地址替换为https://api.gptacg.com输入API-Key(7 * 24小时购买地址>>,如需人工咨询也可加微信ACG508,因市面上提供的API-Key很难分辨模型真假,稳定性也比较差,很难找到靠谱渠道。所以我们踩过坑以后自建团队搭建了专线渠道,专门用于打造高质量低价格的API-Key供应,一方面自用,另一方面共享给有需要的人。目前已支持接入10+月用量在1w刀以上的企业)添加自定义模型:gpt-4-all,dalle-3
至此本地安装设置完成,可新建聊天并开始使用。
方法二:Vercel部署
注意:此方法在安装部署环节可能需要借助魔法,同时需准备一个域名。
什么是Vercel?
相信经常使用Github的人一定对Vercel不陌生,这里不做专业解释,你只需要知道Vercel充当了一台云服务器的作用就可以了,它可以让你在Github上的代码运行起来,从而变成一个可以访问的网站。
什么是域名?
如果域名还不太了解,建议去查一下,这里也不做专业解释。域名在这里的作用是让你部署完成后,无需魔法即可访问你的GPT程序。建议直接前往阿里云>>注册账号并购买域名,并按照步骤完成实名认证,等待下一步使用。
部署第一步:获取程序源码
打开Github网站>>并登录(如果没有账号,自行完成注册即可),搜索ChatGPT-Next-Web或直接打开此链接>>进入作者代码仓库。找到Fork按钮并根据提示完成Fork到自己仓库的全部操作。
部署第二步:打开Vercel并新建项目。
Vecel官网>>可以直接用Github账号登录,这样也能直接关联自己的仓库,方便拉取代码。登录后会进入我的面板,点击黑色按钮Add New并选择下拉框中的Project。
搜索ChatGPT-Next-Web仓库并导入。
添加环境变量。环境变量参数和示例可参考作者文档>>,也可参考下方列表(注意:后续如果作者更新变量,下方列表可能会失效):
OPENAI_API_KEY:该变量填写值一般是sk-开头的,在线购买>>;CODE:访问密码,可以使用逗号隔开多个密码;BASE_URL: https://api.gptacg.com;HIDE_USER_API_KEY:如果你不想让用户自行填入 API Key,此变量设置为 1 即可;DISABLE_GPT4:如果你不想让用户使用 GPT-4,此变量设置为 1 即可;ENABLE_BALANCE_QUERY:如果你想启用余额显示,此变量设置为 1 即可;CUSTOM_MODELS:用来控制模型列表,使用 + 增加一个模型,使用 – 来隐藏一个模型,使用 模型名=展示名 来自定义模型的展示名,用英文逗号隔开。示例:+qwen-7b-chat,+glm-6b,-gpt-3.5-turbo,gpt-4-1106-preview=gpt-4-turbo
表示增加 qwen-7b-chat
和 glm-6b
到模型列表,而从列表中删除 gpt-3.5-turbo
,并将 gpt-4-1106-preview
模型名字展示为 gpt-4-turbo
。 如果你想先禁用所有模型,再启用指定模型,可以使用 -all,+gpt-3.5-turbo
,则表示仅启用 gpt-3.5-turbo;此处建议写法为:-all,+gpt-3.5-turbo,+gpt-4-1106-preview,+gpt-4-all,+dalle-3,gpt-4,gpt-4-32k
注意,环境变量不是必须项,可跳过执行下一步。配置环境变量是为了更加方便,例如你填写了API-Key,日常使用中则无需在设置中维护API-Key了。
部署第三步:绑定域名。
前往阿里云将域名(顶级域名或二级域名均可,如www.example.com)A解析至IP:76.223.126.88。然后在Vercel中添加该域名(Vercel或自动为域名添加SSL证书,打开地址是https开头)。
打开域名检查,如果可正常访问即证明部署成功。
常见问题
1、我部署好之后,我的域名为什么需要魔法才可以访问?
这是因为解析地址被墙了,更换为上文中对应的解析IP即可解决。
2、我的程序为什么图标显示不出来?
这是因为emoji的cdn解析地址被污染导致,遇到这种情况只能等待作者更新cdn地址或等待一段时间后再观察图标显示情况,大部分情况会被自动修复。
3、作者后续更新了版本,我该如何更新部署好的程序?
如果是fork作者的项目,则在Sync fork出更新即可。
如果是clone作者的项目,则需要借助githun desktop + git命令解决,具体请参考我之前写的文章《Github中clone仓库项目的版本更新方法(非fork)》。
4、我想部署多个程序,该怎么操作?
建议clone项目到自己仓库并部署,至于如何保持更新,请参考常见问题第3条(上一条)。
5、如何修改模型自定义名称?
参考我之前文章《ChatGPT-Next-Web修改模型显示为自定义名称》。
6、如何修改界面文字信息?
常见修改内容在以下几个文件:
修改下拉模型列表:app/constant.ts修改主界面左侧信息:app/components/sidebar.tsx修改欢迎语等对话内容:app/locales/cn.ts修改TDK信息:app/layout.tsx修改默认设置:app/store/config.ts
7、NextChat有哪几个延伸版本?
有个作者结合langchain开发了插件版,项目地址:ChatGPT-Next-Web-LangChain>>有人拿去做了会员付费版本,项目地址(不推荐购买):AIChatWeb>>3.5的潘多拉版本:项目地址:ChatGPT-AccessToken-Web>>
8、该程序如何上传文件?
目前该程序不支持直接上传文件,如需上传可以用我部署的上传网站>>,上传文件成功后获得url地址并喂给GPT进行问答,目前支持识别url文档的模型为gpt-4-all,购买的API-Key中已内置此模型,购买地址>>。
典型应用场景举例
场景一、将GPT程序部署给企业内部共享使用。
基于本站提供的API-Key支持超高并发的特点,仅需购买1个API-Key并部署到NextChat之中,通过密码访问的形式即可企业内部团队畅享使用,多种模型可基于员工需求自由切换,快速、傻瓜式满足所有员工对gpt-3.5、gpt-4、dall-e-3等高级对话、绘图、联网、识别文件等多种需求。该方法也有利于AI办公的快速传播,让企业尽快用上AI提升效率。
场景二、基于GPT程序设计一种能够赚钱的商业模式(副业入手)
因为API-Key是消耗品,并且大部分用户不喜欢自己费劲去部署GPT程序,我们就可以借用这一特点,部署搭建GPT网站并供给需要的用户使用,在网站上留下我们的购买API-Key联系方式,用户有需要自然会找到我们并购买API-Key,服务用户并提供价值的同时,我们可赚取一部分利润,这些都可以在业余时间实现。
很多文字类相关业务,GPT已逐渐成为必需品,如果你现在从事的行业与之相关,则变现潜力也很大,因行业不同玩法也不同,此处不展开说明,感兴趣可以加微信进一步探讨ACG508。
总结
NextChat程序是目前为止国内使用GPT的最佳实践方案,流畅的交互体验,得体的界面设计,多端响应式设计,种种优点甚至比使用官方程序都舒服很多。获得该程序的全部使用权,我们只需要通过如上部署方式即可快速实现,为工作和学习带来极大的便利。
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。