关于ollama报错:“Error: model requires more system memory (7.9 GiB) than is available (1.4 GiB)“

一个好人3a 2024-09-20 12:37:01 阅读 65

关于ollama报错:“Error: model requires more system memory (7.9 GiB) than is available (1.4 GiB)”,在Docker Desktop部署的情况,设置docker被分配的内存大小。

本人在刚好学习了docker的基本使用,又发现ollama这个在本地部署ai的项目正好可以用docker来部署。但我第一次部署本地ai时却收到了这个报错信息,我的电脑内存是32G的,却说我的系统只有1.4G,所以一开始我没有怀疑是内存的问题。在网上找了很多文章都没有提到这个问题的原因是什么,最后问了AI才发现还是内存问题,只不过分配给我的容器的内存真的只有1.4G。

Docker Desktop解决方法

打开Docker Desktop右上角的设置("齿轮"图标)

在这里插入图片描述

在左侧选项栏中点击资源(“Resource”)

在这里插入图片描述

找到内存限制(“Memory limit”),根据你的需求来设置分配给docker内存,设置完后系统会提示重启Docker,重启就行

在这里插入图片描述

Docker启动后会直接占用这一部分内存,直到你关闭Docker。而且这一部分的内存占用是不包括Hyper-V或WSL的启动后的需要用到的内存。所有限制设置得太高就可能报错内存资源不足!

在这里插入图片描述



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。