Mac本地部署LLama3+AnythingLLM+Docker方式的本地知识库

lshlb111 2024-08-08 13:07:06 阅读 99

一、安装Docker

下载链接:https://docs.docker.com/desktop/install/mac-install/

二、安装ollama

1.下载链接:https://ollama.com/download

2.打开终端执行,下载Llama3模型

<code>ollama run llama3

3.安装Enchanted

下载链接:https://github.com/AugustDev/enchanted

三、使用docker安装AnythingLLM

1.拉取镜像,终端执行

docker pull mintplexlabs/anythingllm

2.终端执行,STORAGE_LOCATION路径为自己定义的路径,然后访问:http://localhost:3001/就可以访问anythingLLM了

export STORAGE_LOCATION=/Users/lishihao/linkpath/anythingllm && \

mkdir -p $STORAGE_LOCATION && \

touch "$STORAGE_LOCATION/.env" && \

docker run -d -p 3001:3001 \

--cap-add SYS_ADMIN \

-v ${STORAGE_LOCATION}:/app/server/storage \

-v ${STORAGE_LOCATION}/.env:/app/server/.env \

-e STORAGE_DIR="/app/server/storage" \code>

mintplexlabs/anythingllm

3.配置ollama

docker启动,所以ollama url要设置成:http://host.docker.internal:11434



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。