如果要将 LLM 按照是否开源来划分的话，那么，OpenAI 的 ChatGPT，Google 的 Gemini 这一类就属于闭源模型，也可以说是专有的 LLM，用户并不能深入到模型层面去使用，而是只能在基于模型的聊天应用层使用。

当然，尽管这些 LLM 提供了开放 API 给开发者，但是也只能够在一定的范围内进行调用和调试，并不能拥有对背后的模型的完全控制权。

而像 Llama 这样的模型就是属于开源模型，用户可以在自己的设备上部署、开发，甚至是微调。

相对于闭源模型，开源模型从成本、风险把控、定制化等多个方面，都有一定的优势。

所以，如果想要定制化属于自己的 LLM 或者只是尝试着在自己电脑上进行简易的部署和开发，开源 LLM 一定是第一选择。

本文将为你介绍 2024 年最值得尝试的 8 个开源 LLM。

开源 LLM 的好处

如上文所说，开源 LLM 的好处显而易见，接下来我将从以下方面来细化讲解这些好处。

数据安全性和隐私保护

当然，并不是说使用开源 LLM 就不存在数据泄露的问题。

只是说，使用开源 LLM 的话，数据的管控都是由使用者完全控制。而如果使用闭源的 LLM，那么，这些风险其实是不可控的，而且，目前已经有多起有关于大公司使用个人或隐私数据来进行训练的争议了。

成本以及对供应商的依赖性

一般来说，闭源的 LLM 在使用其 API 的时候，都是需要购买或者按量计费的，比如 Kimi、ChatGPT，不同厂商的价格会有所区别。

而开源 LLM 通常都可以直接免费下载和使用。

当然，在前期如果不考虑自己的硬件成本的情况下，开源 LLM 肯定是优于闭源的。如果涉及到在自己电脑或者服务器上进行微调或者推理的话，那可能就需要在硬件层面投入一定的成本了。

代码透明性和模型定制化

由于开源 LLM 的源代码是公开透明的，所以可以直接查看它的工作原理，包括其架构、训练数据以及训练和推理机制，这种透明性也是定制化的基础。

活跃的社区和共建

大型开源项目的最大优势就是活跃的社区以及有大量优秀的开发者来参与共建。

这样的社区可以促进 LLM 的创新，改进模型，减少偏见，提高模型的准确性和整体性能。

比如 Llama 3，目前在 GitHub 上已经有 25.7k Star 了，链接：https://github.com/meta-Llama/Llama3

接下来，我将依次介绍 8 个最值得尝试的开源 LLM。

Llama 3.1

https://Llama.meta.com/

Llama 3.1 于 2024 年 7 月 23 日发布，包含 8B、70B，以及首次推出的 405B 参数模型。

这些模型被设计用于处理多种自然语言处理任务，覆盖的语言包括英语、西班牙语、葡萄牙语、德语、泰语、法语、意大利语和印地语等。

Llama 3.1 模型支持大幅增加的上下文长度（128k），显著增强了模型处理和理解长篇文本的能力，在复杂推理任务中表现得更为出色，并在较长的对话中保持上下文的一致性。

特别是 405B 参数的模型在生成合成数据方面具有强大的能力，这些数据可以用于训练其他模型。

此外，该模型在知识蒸馏方面也具有优势，可以将其知识转移到更小、更高效的模型中。

BLOOM

https://huggingface.co/bigscience/bloom

BLOOM 是一个自回归的 LLM，通过海量的文本数据和工业级的计算资源进行训练，能够在提示语的基础上生成连续的文本。

BLOOM 能够生成 46 种语言和 13 种编程语言的连贯文本，几乎与人类书写的文本难以区分。

此外，BLOOM 还可以在没有明确训练的情况下，将任务转化为文本生成任务，执行各种文本处理任务。

MPT-7B

https://huggingface.co/mosaicml/mpt-7b

MPT-7B 是一个仅解码的 Transformer 模型，由 MosaicML 从零开始预训练，处理了 1 万亿个英语文本和代码 tokens。

它属于 MPT (MosaicPretrainedTransformer) 模型家族，这些模型使用了一种经过修改的 Transformer 架构，专为高效训练和推理进行了优化。

MPT-7B 的架构改进包括性能优化的层实现，并通过用线性偏差注意力（ALiBi）替代位置嵌入，消除了上下文长度的限制。

这些改进使 MPT 模型能够以高吞吐量和稳定的收敛性进行训练，并能有效地与 HuggingFace 管道和 NVIDIA 的 FasterTransformer 集成进行推理。

模型的有以下特点：

• 商业许可：与 Llama 不同，MPT-7B 允许商业用途。

• 庞大的数据训练：模型训练数据量达到 1 万亿 tokens。

• 处理超长输入：得益于 ALiBi，MPT-7B 可以处理极长的输入。

• 快速训练与推理：通过 FlashAttention 和 FasterTransformer 提供快速的训练和推理能力。

• 高效的开源训练代码：MPT-7B 提供了高效的开源训练代码，位于 llm-foundry 仓库中，链接为：https://github.com/mosaicml/llm-foundry

Falcon 40B

Falcon 40B: https://huggingface.co/tiiuae/falcon-40b

Falcon-40B 是一个由 TII（Technology Innovation Institute）构建的因果解码模型，拥有 40B 参数，训练数据包含 1,0000 亿个精炼网页和精选语料库的 tokens。

它在 Apache 2.0 许可下发布，允许商业用途，无需支付版税或面临限制。

Falcon-40B 在开放领域表现卓越，被认为是目前最好的开源模型。相比其他开源模型，如 Llama、StableLM、RedPajama 和 MPT，Falcon-40B 具有明显的优势。

这得益于其架构的优化，尤其是在推理方面，使用了 FlashAttention 和多查询（Multiquery）机制。

此模型是一个预训练的原始模型，适合大多数应用场景下的进一步微调。如果需要适合接收通用指令的聊天格式版本，可以参考 Falcon-40B-Instruct（https://huggingface.co/tiiuae/falcon-40b-instruct）。

FLUX.1

https://huggingface.co/black-forest-labs/FLUX.1-dev， Flux.1 系列模型包含 FLUX.1 [pro], FLUX.1 [dev] 和 FLUX.1 [schnell]，可以在 HuggingFace 上找到。

FLUX.1 是刚发布不久的文生图模型，甚至有人说它的性能超过了 Midjourney。

FLUX.1 [pro]

这是 FLUX.1 系列中的顶级版本，提供最先进的图像生成性能，具有卓越的提示语响应、视觉质量、图像细节和输出多样性。

用户可以通过 API 访问 FLUX.1 [pro]，该模型也可以通过 Replicate 和 fal.ai 使用。此外，FLUX.1 [pro] 还能够为企业提供定制解决方案。

FLUX.1 [dev]

这是一个开源权重模型，专为非商业应用设计。

FLUX.1 [dev] 是从 FLUX.1 [pro] 直接蒸馏而来，具备类似的质量和提示语响应能力，同时效率更高。

FLUX.1 [dev] 的权重可以在 HuggingFace 上找到，也可以在 Replicate 或 fal.ai 上直接试用。

FLUX.1 [schnell]

这是 FLUX.1 系列中最快的模型，专为本地开发和个人使用而设计。

FLUX.1 [schnell] 在 Apache 2.0 许可下开放，权重可在 HuggingFace 获取，推理代码可以在 GitHub 和 HuggingFace 的 Diffusers 中找到。此外，该模型与 ComfyUI 实现了集成。

Phi-2

https://huggingface.co/microsoft/phi-2

Phi-2 是一个拥有 2.7B 参数的 Transformer 模型，其训练数据与 Phi-1.5 相同，但增加了新的数据源，包括各种 NLP 合成文本和经过筛选的网站内容（确保安全性和教育价值）。

在评估常识、语言理解和逻辑推理的基准测试中，Phi-2 在 13B 参数以下的模型中表现最好。

与某些其他模型不同，Phi-2 并未通过人类反馈的强化学习进行微调。

此开源模型的开发目的是为研究社区提供一个不受限制的小型模型，用来探索关键的安全相关的问题，比如减少有害内容、理解社会偏见、增强模型可控性等。

Gemma-7B

https://huggingface.co/google/gemma-7b

Gemma 是 Google 推出的一系列轻量级、先进的开源模型家族，这些模型基于与 Gemini 模型相同的技术开发。

Gemma 是文本到文本的、仅解码的大型语言模型，主要提供英语版本，并开放了模型权重，包含预训练的变体和指令微调的变体。

Gemma 模型非常适合用于各种文本生成任务，例如问答、摘要生成和推理。

Gemma 模型的规模相对来说不算大，可以部署在资源有限的环境中，例如个人电脑或个人云基础设施上。

Whisper large-v3

https://huggingface.co/openai/whisper-large-v3

Whisper-large-v3 是一个用于自动语音识别 (ASR) 和语音翻译的预训练模型，由 OpenAI 开发。

这个模型基于 Transformer 架构的编码器-解码器设计，能够处理多种语言，且无需进行微调即可执行任务。

Whisper-large-v3 的目标是通过大规模弱监督学习，实现对语音数据的稳健识别。

这个模型的强大之处在于其零样本场景下的泛化能力，使得它在无需特定数据集微调的情况下，能够处理来自不同领域的任务。

选择适合自己的 LLM

开源 LLM 的发展速度非常快，目前在 HuggingFace 上，一共有八十多万的开源 LLM。

所以，如何选择适合自己的 LLM 就显得尤为重要了。可以从以下几点来考虑：

• 你需要用 LLM 做什么？

• 你需要的准确性如何？

• 你愿意在硬件设施上投入多少资金？

• 预训练模型是否就能够满足需求？

总结

本文只提及了 8 个值得尝试的开源 LLM，如果想要学习和尝试更多的 LLM，可以去 HuggingFace 上查看，这里集结了大量的优秀模型。

初期不建议投入大量资金到硬件设施上，个人学习的话，完全可以从小型的模型开始（比如 Llama 3.1 的 8B 模型、Phi-2 的 2.7B 模型），熟悉之后再选择更大的模型。

那么，如何系统的去学习大模型LLM？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

篇幅有限，部分资料如下：

👉LLM大模型学习指南+路线汇总👈

💥大模型入门要点，扫盲必看！

💥既然要系统的学习大模型，那么学习路线是必不可少的，这份路线能帮助你快速梳理知识，形成自己的体系。

路线图很大就不一一展示了 （文末领取）

👉大模型入门实战训练👈

💥光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉国内企业大模型落地应用案例👈

💥两本《中国大模型落地应用案例集》 收录了近两年151个优秀的大模型落地应用案例，这些案例覆盖了金融、医疗、教育、交通、制造等众多领域，无论是对于大模型技术的研究者，还是对于希望了解大模型技术在实际业务中如何应用的业内人士，都具有很高的参考价值。 （文末领取）

👉GitHub海量高星开源项目👈

💥收集整理了海量的开源项目，地址、代码、文档等等全都下载共享给大家一起学习！

👉LLM大模型学习视频👈

💥观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。 （文末领取）

👉640份大模型行业报告（持续更新）👈

💥包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

👉获取方式：

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓