Mac本地部署LLama3+AnythingLLM+Docker方式的本地知识库
lshlb111 2024-08-08 13:07:06 阅读 99
一、安装Docker
下载链接:https://docs.docker.com/desktop/install/mac-install/
二、安装ollama
1.下载链接:https://ollama.com/download
2.打开终端执行,下载Llama3模型
<code>ollama run llama3
3.安装Enchanted
下载链接:https://github.com/AugustDev/enchanted
三、使用docker安装AnythingLLM
1.拉取镜像,终端执行
docker pull mintplexlabs/anythingllm
2.终端执行,STORAGE_LOCATION路径为自己定义的路径,然后访问:http://localhost:3001/就可以访问anythingLLM了
export STORAGE_LOCATION=/Users/lishihao/linkpath/anythingllm && \
mkdir -p $STORAGE_LOCATION && \
touch "$STORAGE_LOCATION/.env" && \
docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v ${STORAGE_LOCATION}:/app/server/storage \
-v ${STORAGE_LOCATION}/.env:/app/server/.env \
-e STORAGE_DIR="/app/server/storage" \code>
mintplexlabs/anythingllm
3.配置ollama
docker启动,所以ollama url要设置成:http://host.docker.internal:11434
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。