本地部署 mistralai/Mistral-Nemo-Instruct-2407

本地部署mistralai/Mistral-Nemo-Instruct-2407_mistral-nemo-instruct-2407...

教你在本地部署AI大模型,效果很赞!

随着人工智能的发展,AI与我们的工作与生活变得越来越紧密。AI大模型主要分为开源和不开源两类。现如今开源模型变得越来越好,甚至超过了很多不开源的大模型。前不久谷歌发布了gemma2模型的2B版本(20亿参数),让我...

使用Docker快速本地部署RSSHub结合内网穿透访问RSS订阅源

使用Docker快速本地部署RSSHub结合内网穿透访问RSS订阅源...

记录linux本地部署Langchain-chatchat-v0.3+Xinference+qwen-chat 1.5-72B

非源码部署!!!!未用docker,用的conda虚拟环境,部署Langchain-chatchat-v0.3+Xinference+qwen-chat1.5-72B_xinferencelocalllm...

docker 本地部署大模型(ollama)

此处由于挂载目录使用了相对路径,所以本地文件夹位于/var/lib/docker/volumes/ollama而非运行命令的相对路径测试api。_dockerollama...

Win11本地部署FaceFusion3最强AI换脸,集成Tensorrt10.4推理加速,让甜品显卡也能发挥生产力

FaceFusion3.0.0大抵是现在最强的AI换脸项目,分享一下如何在Win11系统,基于最新的cuda12.6配合最新的cudnn9.4本地部署FaceFusion3.0.0项目,并且搭配Tensorrt10.4,提高推理速度和效率,让甜品级显卡也能爆发...

笔记本电脑本地部署ollama大模型(显存不足调用CUDA Unified Memory方法)
Linux本地部署DbGate结合内网穿透工具实现无公网IP远程管理数据库

本文主要介绍如何在LinuxUbuntu系统中使用Docker部署DbGate数据库管理工具,并结合cpolar内网穿透工具实现公网远程访问本地数据库的详细流程。现在主流的数据库管理工具有Navicat、DBe...

如何本地部署Ganache并使用内网穿透配置公网地址远程连接测试网络

如何本地部署Ganache并使用内网穿透配置公网地址远程连接测试网络...

语音生成大模型ChatTTS本地部署方法和下载地址

准备在在Windows下运行的朋友我是劝退的,因为ChatTTS里用的pynini中的一个组件直接称它在Windows下没有测试过,还是建议用Ubuntu,我用的是Windows下的WSL,非常非常好用。百度网盘链...