OrangePi Kunpeng Pro 开发板测评 | AI 边缘计算 & 大模型部署

香橙派联合华为发布了基于昇腾的OrangePiKunpengPro开发板,具备8TOPS的AI算力,能覆盖生态开发板者的主流应用场景,具备完善的配套软硬件。开发板的整体体验远超出预期,作为低功耗...

大模型时代的APP:AI Agent(智能体)

Agent(代理)一概念起源于哲学,描述了一种拥有欲望、信念、意图以及采取行动能力的实体。具有自主性、反应性、交互性等特征的智能“代理”。大型语言模型(LLMs)的出现为智能代理的进一步发展带来了希望。长期以来,研究...

技术突破:llamafile一键部署大模型,释放AI潜力

在人工智能技术的浪潮中,AI助手正变得越来越智能,它们在理解语言、提供信息和辅助决策方面展现出巨大潜力。然而,现有模型在记忆对话、理解复杂上下文和执行操作方面存在局限。Phidata框架应运而生,旨在弥补这些不...

AI Dify + 大模型+ Agent 详细教程 从0-1教你构建小助手

需要注意到数据安全,隐私安全,确保人工智能能更好的造福社会,也希望人工智能可以不断的向前发展!_difyagent...

【话题】AI大模型学习:理论、技术与应用探索

在当前技术环境下,AI大模型学习不仅要求研究者具备深厚的数学基础和编程能力,还需要对特定领域的业务场景有深入的了解。通过不断优化模型结构和算法,AI大模型学习能够不断提升模型的准确性和效率,为人类生活和工作带来更...

【AI大模型】在穿戴设备健康中的心率深度融合与案例分析

通过上述深度融合与优化策略,可以显著提升穿戴设备心率监测系统的性能和用户体验。模型优化与压缩技术可以降低计算和存储资源需求,提高设备端推理速度。边缘计算与云端协同处理可以有效分配任务,平衡实时性和复杂性。个性...

Docker+Ollama+WebUI+AnythingLLM,构建企业本地AI大模型

将上面的dockerrun命令转换为docker-compose.yml文件,并设置open-webui和anythingllm服务依赖于ollama服务,方便管理。这将停止并移除容器,但不会删除卷。每个服务都...

摩尔线程MTT S4000 AI GPU助力30亿参数大模型训练,性能比肩英伟达同类解决方案

尽管报道中没有提供详细的对比数据,如英伟达GPU的具体型号(A100、H100或H200),以及训练负载是否一致(MT-infini-3B与Llama3-3B等模型的训练可能差异较大),但摩尔线程MTTS4000集...

AI大模型探索之路-实战篇11: Function Calling技术整合:强化Agent智能数据分析平台功能

在数据驱动的时代,拥有一个高效且智能的数据分析平台对企业至关重要。继本系列前文全面解析Agent智能数据分析平台的基础与核心功能后,本文深入讨论平台的实际操作,特别是如何应用FunctionCalling技...

AI大模型探索之路-实战篇15: Agent智能数据分析平台之整合封装Tools和Memory功能代码

在前面篇章中我们实现了Agent智能数据分析平台中的Tools和Memory相关代码落地实践,本文中我们将对这两大块功能代码进行整合封装。_agent大模型tool...