AI机器人本地免费部署(部署Llama 3.1详细教程)
我爱学AI 2024-08-29 16:31:01 阅读 56
昨日,Meta公司发布了人工智能模型——Llama 3.1。
那么Llama 3.1 405B的效果怎么样?我们来对比一张图,横向对比一下GPT-4。
可以看出,Llama 3.1 405B在各类任务中的表现可以与GPT-4等顶级的模型相差无几。
那么,我们怎样才能用到这款强大的Llama 3.1 405B模型呢?最直接的方式是通过Meta.ai平台,但目前这一途径仅对美丽国的用户开放。
那有无适合平民用的大模型嘞。
接下来我们将在本地部署Llama 3.1 8B(环境所迫)
1.环境准备
(1)Windows10系统及以上的计算机
(2)内存要求:8GB内存可运行7B模型,16GB可运行13B模型,32GB运行可33B模型
(3)网络环境:不需要科学上网(翻墙)
(4)小谢此次搭建的电脑环境如图,又无GPU,这配置只能搭个入门级别的大模型。若有GPU,响应速度则更快。
2.部署安装过程:
(1)从官网进行下载:https://ollama.com/download 选择windows系统版本,也可以看到它也同时支持mac系统和Linux系统。
但似乎它的下载速度对我来说太不友好了。于是进行科学上网下载了安装包,如有需要后台私信回复Ollama即可获取百度网盘下载地址。
安装包下载完成点击安装
在此界面直接运行命令ollama run llama3.1,此时国内网络速度就非常快
耐心等待进度条跑完即可。
当然你想要其他的大模型可以回到官网,点击Models
部署完成后可直接发送消息提问
所以它能做什么呢?
我们来看看它的自述:
I’m a large language model, my capabilities include:
\1. Answering questions: I can provide information on a wide range of topics, from science and history to
entertainment and culture.
\2. Translation: I can translate text from one language to another (currently supporting 100+ languages).
\3. Text summarization: I can summarize long pieces of text into concise and easily digestible content.
\4. Conversation: I can engage in natural-sounding conversations, using context and understanding to respond to
questions and statements.
\5. Content generation: I can generate text based on a prompt or topic, such as articles, stories, or even
entire scripts.
\6. Language analysis: I can analyze and understand the structure and meaning of language, including syntax,
semantics, and pragmatics.
\7. Text classification: I can classify text into categories, such as spam vs. non-spam emails or
positive/negative reviews.
\8. Sentiment analysis: I can determine the emotional tone behind a piece of text, such as happy, sad, or
neutral.
那咱们来看它的效果!我向它抛出了一个问题:
为防止长期摸鱼导致变笨,特此准备了几道题考考你!
1.至今思项羽,不()过江东。
2.阳春布()泽,万物生光辉。
3.书籍是人类进步的阶梯。——高尔( )
4.世人笑我太()癫,我笑他人看不穿。
5.老夫聊发少年(),左牵黄,右擎苍。
6.危楼高百尺,手可摘()辰。
7.君问归期未有( ),巴山夜雨涨秋池。
8.( )面边声连角起,千嶂里,长烟落日孤城闭。
9.料峭春风吹酒醒,( )冷,山头斜照却相迎。
10.( )闻琵琶已叹息,又闻此语重唧唧。
11.锦瑟无端()()弦,一弦一柱思华年。
我们先来看一下部署在本地的大模型Llama 3.1 8B,看来效果不错。
对比一下“小谢取证”的回答:
“小谢取证”直接出答案,部署在本地的大模型Llama 3.1 8B提供了更为详细的翻译。但是两者给出的答案都有些许错误。当然,这也取决于他们的模型是否强大。
我们可以看到,我们部署到本地的界面是cmd界面下运行的,如果我们想可视化呢?先上效果图。
具体是用到Ollama Web UI,这边咱们直接使用大佬已集成好的环境直接使用。需要软件可后台私信。
在我们使用完后,关闭该模型。那么我们下次如何重新打开呢
直接点击“开始”菜单,选择字母“O”,启动Ollama
其次,直接打开该软件,点击聊天界面即可。
此时它就会自动调用命令。可以看到访问端口是3000
再使用http://localhost:3000/在浏览器访问即可。
如何学习大模型
现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。
作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。
我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来,需要的小伙伴可以扫取。
一、AGI大模型系统学习路线
很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。
二、AI大模型视频教程
三、AI大模型各大学习书籍
四、AI大模型各大场景实战案例
五、结束语
学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。
再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。
因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。