手把手教你本地运行Meta最新大模型:Llama3.1,可是它说自己是ChatGPT?
cnblogs 2024-07-26 08:39:00 阅读 76
就在昨晚,Meta发布了可以与OpenAI掰手腕的最新开源大模型:Llama 3.1。
该模型共有三个版本:
- <li>8B
- 70B
- 405B
对于这次发布,Meta已经在超过150个涵盖广泛语言范围的基准数据集上评估了性能。此外,Meta还进行了广泛的人工评估,在现实场景中将Llama 3.1与竞争模型进行比较。Meta的实验评估表明:
405B版本的评估数据与目前最强的GPT-4、GPT-4o和Claude 3.5 Sonnet相比具有不错的竞争力:
此外,8B和70B版本与具有相似参数规模的模型相比也有相同甚至更好的表现:
使用 ollama 运行 Llama3.1
下面就来尝个鲜,手把手在本地把Llama3.1的8B版本跑起来。只要跟着下面的步骤做,你不需要有任何技术背景,也能完成。
- <li>安装 ollama
前往官网下载最新的 Ollama:https://ollama.com/
- <li>
打开终端,执行命令:
ollama run llama3.1
下载完成之后,打开安装程序,并完成安装步骤。
等待模型下载完成
- <li>完成模型下载,如下图所示:
已经弹出提示:Send a message
,可以与AI进行互动了。
- <li>测试一下,尝试让他教我学习Java?
彩蛋
最后,常规操作,问一下你是谁:
啥情况?是ChatGPT?看到这里的小伙伴也试试看,也是一样的结果吗?有朋友知道为什么吗?知道的评论区求解。
欢迎关注我的公众号:程序猿DD。第一时间了解前沿行业消息、分享深度技术干货、获取优质学习资源
上一篇: Manifest merger failed with multiple errors, see logs
下一篇: Time-LLM:为时间序列预测重新编程LLM 探索Time-LLM的架构,并在Python中将其应用于预测项目
本文标签
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。