一、Ollama是什么

Ollama是一个开源的大型语言模型服务工具，它帮助用户快速在本地运行大模型，通过简单的安装指令，可以让用户执行一条命令就在本地运行开源大型语言模型，例如 Llama2。这个框架简化了在Docker容器内部署和管理LLM的过程，使得用户能够快速地在本地运行大型语言模型。

Ollama 将模型权重、配置和数据捆绑到一个包中，定义成 Modelfile。它优化了设置和配置细节，包括 GPU 使用情况。

二、Ollama的优点

1、易于使用

Ollama提供了一个简单的API，使得即使是没有经验的用户也可以轻松使用。此外，它还提供了类似ChatGPT的聊天界面，用户无需开发即可直接与模型进行聊天交互。

2、轻量级

Ollama的代码简洁明了，运行时占用资源少。这使得它能够在本地高效地运行，不需要大量的计算资源。

3、可扩展

Ollama支持多种模型架构，并可以扩展以支持新的模型。它还支持热加载模型文件，无需重新启动即可切换不同的模型，这使得它非常灵活多变。

模型库下载地址

4、预构建模型库

Ollama提供了一个预构建模型库，可以用于各种任务，如文本生成、翻译、问答等。这使得在本地运行大型语言模型变得更加容易和方便。

三、Linux环境下安装Ollama

方案一：

直接使用官网提供的安装命令（官网下载地址）

<code>curl -fsSL https://ollama.com/install.sh | sh

命令操作的确简单，但是官网上下载有个问题，就是网络传输的问题，有时远程下载会很慢，经常导致下载失败。

方案二：

使用Docker方式构建部署Ollama服务

1、创建安装脚本文件

<code>vi install-ollama-centos7.sh

写入下面的内容：

#!/bin/bash

info(){

echo -e "\033[34m 【`date