近日，上海交大为大模型能够在智能手机上部署提出PowerInfer-2，该框架是专为智能手机设计且高度优化的推理框架。目前PowerInfer-2支持的最大模型是Mixtral47BMoE模型，在inferenc...

浏览 78 次 标签： LLM端侧部署系列 | 手机上运行47B大模型?上交推理框架PowerInfer-2助力AI手机端侧部署   

小李哥将继续每天介绍一个基于亚马逊云科技AWS云计算平台的全球前沿AI技术解决方案，帮助大家快速了解国际上最热门的云计算平台亚马逊云科技AWSAI最佳实践，并应用到自己的日常工作里。本次我将介绍如何用亚马逊云科技的...

浏览 93 次 标签： 在亚马逊云科技AWS上利用PEFT和RLHF高效微调AI大模型减少有害回复   

本地使用Ollama+OpenWebUI部署大模型_openwebui完全离线部署...

浏览 53 次 标签： Ollama+Open WebUI部署大模型在linux平台   

都说了性格冲动偏激，财运不错，ChatGPT不上传文件也能有不错的回答，但是都让他重试回答才看着更好些，以后不用街边10块钱算命了，还真不如大模型看着靠谱。_kimigpt...

浏览 99 次 标签： 大模型算命    对比下kimi和ChatGPT    AI离道破天机就差一个你信不信   

Dify介绍：Dify是一款开源的大语言模型（LLM）应用开发平台。它融合了后端即服务（BackendasService）和LLMOps的理念，使开发者可以快速搭建生产级的生成式AI应用。即使是非技...

浏览 96 次 标签： Linux：ollama+Dify大模型本地化部署打造个人知识库 (2)   

一、安装PythonSDK1、检查Python版本2、安装Python-安装包安装3、安装Python-Homebrew安装二、安装OpenAI软件包三、安装PyCharm四、导入O...

浏览 70 次 标签： 【AI 大模型】OpenAI 接口调用 ② ( MacOS 中进行 OpenAI 开发 | 安装 openai 软件包 | PyCharm 中开发 Python 程序调用 OpenAI 接口 )   

【大模型应用开发动手做AIAgent】第二轮行动：工具执行计算1.背景介绍1.1大模型应用开发的兴起近年来,随着人工智能技术的飞速发展,特别是以GPT-3、PaLM等为代表的大语言模型的...

浏览 76 次 标签： 【大模型应用开发 动手做AI Agent】第二轮行动：工具执行计算   

目前AllTools仅支持流式SSE输出，也就是大家看到的消息一点一点在对话框中显示的效果，后台打印的信息其实是这样的，也是一点一点的从智谱AI那里得到响应。周一，公司空降一名逼里巴巴的技术总监老王，我...

浏览 52 次 标签： 新来个技术总监    佩服！    把AI大模型接入的那叫一个优雅   

通过学习数百万的CAD模型，深度学习模型可能会发现一些新的设计规律和模式，从而拓展CAD模型的应用领域。因此，ABC数据集的推出为几何深度学习领域的研究者提供了一个宝贵的数据资源，有助于推动该领域的技术进步和应用...

浏览 55 次 标签： 【GitHub项目推荐--人工智能改变CAD；通过大模型学习CAD】【转载】   

本教程主要关于开源AI大模型部署在个人电脑上，能够让用户轻松在本地运行大模型，这里的本地既可以指完全杜绝网络的个人PC，也可以指能够进行网络连接的PC...

浏览 91 次 标签： 【AI大模型】Ollama+OpenWebUI+llama3本地大模型