阿里云百炼平台发布推文，提供30天免费算力额度，助力玩转Llama3.1训练推理。老牛同学首当其冲，去体验一把，本文详细记录了整个过程，同时给出了老牛同学的一些想法，欢迎交流学习……...
千问2前段时间发布了，个人觉得千问系列是我用过最好的中文开源大模型，所以这里基于streamlit进行一个千问2的web搭建，来进行模型的测试。_qwen2-7b硬件要求...
大模型是截止2024年上半年最强的AI，Qwen2是刚出来的号称国内最强开源大模型。这是大模型系列的第一篇文章，旨在快速部署看看最近出来的大模型效果怎么样，效果ok的话就微调自己的GPTs了。_qwen27b显卡...
本教程详细介绍了LoRA参数高效微调技术，包括数据集准备和处理、模型加载、参数设置等，然后以Qwen2-0.5B预训练模型实践，进行了文本分类能力微调，微调过程通过SwanLab可视化界面查看，最终微调模型进行测试数据评估……...
在当今快速发展的人工智能领域，大型语言模型（LLMs）已成为推动自然语言处理（NLP）任务的关键力量。这些模型以其强大的理解和生成文本的能力而闻名，但同时也因其对计算资源的高需求而备受关注。vLLM作为一个创新的...
大语言模型在垂直细分领域存在知识局限、幻觉、数据安全等一些问题，可通过RAG（检索增强生成）方案来解决。本文基于AnythingLLM框架，搭建团队私有知识库系统，并进行使用和验证，RAG系统在保留输出的有效性同时，还保留了创造性……...
6月27日，全球知名的开源平台HuggingFace的联合创始人兼首席执行官Clem在社交平台激动宣布，阿里Qwen2-72B成为了开源模型排行榜的王者。这是一件大好事，说明了我们在大模型领域从先前的追赶，逐渐走向了领导，未来完全有可能会...
尽管整体使用率低，但自去年9月以来，美国使用AI的办公桌工作者比例增长了近80%，表明人们正在逐渐探索AI的应用，尤其是那些已经使用AI的人，在生产力、抗压能力和工作满意度上分别提高了3%、5%和...
代码辅助工具（CodeCopilot）可以提高团队代码研发效率，能有效帮助产品快速上市抢占先发优势，但同时又需要保证代码和信息隐私，私有化CodeCopilot是保护隐私的重要手段。老牛通过本文，详细介绍通过开源大模型，部署私有化CodeCopilot和...
为了解决这一问题，我们提出了V-Express方法，通过一系列渐进的Dropout操作平衡不同的控制信号，使得较弱信号也能有效控制生成过程，从而兼顾姿态、输入图像和音频的生成能力。Qwen2系列包含五种规模的预训练和...