ollama个人部署_16g显存可以运行ollama多大的模型...

浏览 78 次 标签： 笔记本电脑本地部署ollama大模型（显存不足调用CUDA Unified Memory方法）   

在做深度学的过程中，发现大部分的情况下都是在Linux系统的环境下做的。经过多番查找，发现WSL2，这个虚拟机是可以直接调用CUDA运算的，而且有人安装成功并跑通了。，本电脑是win1022H2版本，如果之前有安...

浏览 65 次 标签： 痛苦的windows WSL2的CUDA安装过程   

本文主要介绍在Windows11上如何安装Ubuntu子系统，以及安装Nvidia驱动和CUDAToolkit，为运行开源大模型做准备。_wsl2nvidia...

浏览 82 次 标签： 1.Windows11下安装WSL2子系统、Nvidia驱动、CUDA Toolkit（2024-07）   

最近拿到一台昇腾aarch64服务器，但是与平常配置环境不同，服务器存在三大难题：>1.由于安全控制，服务器本身不能访问外网；>2.服务器本身为ARM架构（aarch64）>3.没有管理员权限本...

浏览 93 次 标签： 编译安装Pytorch    解决方案：昇腾aarch64服务器安装CUDA+GCC+CMake    华为昇腾HPC服务器深度学习环境安装全流程   

WIN11系统手动配置CUDA与VS2022的环境_vs2022配置cuda...

浏览 77 次 标签： WIN11系统下VS2022配置CUDA11.8   

将anaconda环境下的lib/python3.6/site-packages/torch/utils/cpp_extension.py文件里的[‘ninja’,‘-v’]改成[‘ninja’,‘–v’]...

浏览 54 次 标签： Window 下Mamba 环境安装踩坑问题汇总及解决方法 （无需绕过selective_scan_cuda）   

Torch版本可选的CUDA版本支持的Python版本_cudapytorchpython版本对应...

浏览 83 次 标签： Python、PyTorch与cuda的版本对应表   

【linux】服务器卸载cuda_linux卸载cuda...

浏览 53 次 标签： 【linux】服务器卸载cuda、NVIDIA驱动   

CUDA（ComputeUnifiedDeviceArchitecture）是NVIDIA开发的一种并行计算架构，使得开发人员可以利用GPU进行通用计算。为了有效地利用GPU的并行处理能力，CUDA引入了网格（...

浏览 76 次 标签： 【Cuda Runtime】dim3线程块与网格尺寸与核函数几种调用的方式   

主要关注CUDA与cuDNN在linux/Ubuntu22.04上的安装与卸载。1.整合了两种CUDA安装方式（.run与.deb）、两种cuDNN的安装方式（.tar.xz与.deb），网上好像没什么人做...

浏览 73 次 标签： cuDNN的.tar安装与.deb安装    包含CUDA的.run安装与.deb安装    CUDA与cuDNN在linux / Ubuntu22.04上的安装与卸载