开源多场景问答社区论坛Apache Answer本地部署并发布至公网使用

本篇文章介绍如何在本地部署问答软件ApacheAnswer,并结合Cpolar内网穿透发布至公网。Answer是一个高可扩展的开源知识型社区软件,对标国内外知乎等平台,可以免费使用Answer高效地...

AI大模型本地部署全攻略:轻松实现模型运行

已经是2024年了,但貌似AI大模型的热度依旧未减,各种如ChatGPT般的生成式的AI大模型层出不穷,由此而来的还有各种网站、小程序都可以支持AI大模型对话,那么你有没有想过能拥有一个自己的AI大模型?今天我就...

Ollama配置与webUI本地部署-学习记录

Ollama是一款可以开始使用本地的大型语言模型。启动并运行大型语言模型。运行Llama2、CodeLlama和其他模型。自定义并创建您自己的模型。Ollama提供了丰富的功能,包括模型的训练、部署、监控等。...

本地部署 fish-speech

本地部署fish-speech_fishspeech安装...

【SAM2分割万物—本地部署:实时分割图像、视频】OSError:未设置环境变量CUDA_HOME。请将其设置为您的 CUDA 安装根目录。
Docker本地部署开源浏览器Firefox并远程访问进行测试

文章介绍了如何在Docker中部署Firefox浏览器,通过Cpolar内网穿透工具实现本地与远程访问,并详细步骤说明了如何设置固定公网地址以方便长期使用。...

本地部署 AI 智能体,Dify 搭建保姆级教程(下):知识库 RAG + API 调用,我捏了一个红楼解读大师

通过`红楼解读大师`的案例,带大家动手捏了一个基于知识检索增强(RAG)的智能体_dify...

笔记本本地部署100b以上千亿级别LLM,并在手机端接入

本文将演示如何在笔记本上运行千亿级模型,后端Koboldcpp运行在Ubuntu,前端界面使用安卓手机通过Termux且使用SillyTavern进行连接,模型使用104B的的Q4KM量化...

本地部署Nas-Cab结合内网穿透本地电脑秒变WinNAS搭建指南

本地部署Nas-Cab结合内网穿透本地电脑秒变WinNAS搭建指南_nascab...

本地部署 AI 智能体,Dify 搭建保姆级教程(上):工作流 + Agent,把 AI 接入个人微信