稀疏模型与稠密模型，作为深度学习领域的两股重要力量，各自承载着不同的使命与愿景。在探索未知的征途中，它们既是竞争对手，也是合作伙伴，共同推动着人工智能技术向前迈进。未来，随着算法创新和硬件技术的进步，我们有理由相...
2024年4月18日，Meta**开源**了Llama3大模型，把AI的门槛降低到了最低，这是人工智能领域的一个重要飞跃。我们个人也可以部署大模型了，这简直就是给个人开发者发了个大红包！Lla...
今天，开始写一个新的系列《大模型RAG实战》。上个月我在2篇文章中，介绍了如何使用LlamaIndex框架，通过少量代码，实现本地可部署和运行的大模型RAG问答系统。我们要开发一个生产级的系统，还需要对LlamaI...
训练性能在本文指机器（GPU、NPU或其他平台）在指定模型和输入数据的背景下，完成一次端到端训练所需要花费的时间，考虑到不同模型的训练数据量和训练轮次（epoch）差异，此处定义的性能是在完成一个batch训练所...
在这个即将到来的大模型时代，“GPU向上”意味着GPU更加适用于云侧等高性能计算场景，“NPU向下”代表NPU使用趋势是向更低功耗、边缘设备上的应用方向发展。GPU与NPU将是大模型应用落地的双重引擎。_transf...
人工智能咨询培训老师叶梓转载标明出处多模态大模型在实际应用中面临着一个普遍的挑战——幻觉问题（hallucination），主要表现为模型在接收到用户提供的图像和提示时，可能会产生与图像内容不符的描述，例如错误...
Qwen系列大模型的参数规模为18亿（1.8B）、70亿（7B）、140亿（14B）和720亿（72B），包括基础模型Qwen，即Qwen-1.8B、Qwen-7B、Qwen-14B、Qwen-72B，以及对话模型Q...
GLM-4-Flash大模型API免费了，我们本文基于免费API构建一个“儿童绘本”应用，包括使用文生图产出绘本故事插图……...
医疗大模型是近年来随着人工智能技术的发展而兴起的一种新型工具，它们利用大数据和先进的机器学习算法来改善医疗服务和医疗决策。下面将介绍几种代表性的医疗大模型，并探讨其未来的发展趋势。医疗大模型概述医疗大模型通常指的是...
HuggingFace的库支持自动模型（AutoModel）的模型实例化方法，来自动载入并使用GPT、ChatGLM等模型。在方法中的device_map参数，可实现单机多卡推理。_transformer多卡推理...