使用本地大模型运行 AI 搜索 - 开源项目 LLocalSearch

像perplexity.ai和秘塔,都是AI搜索,根据我们的输入内容,搜索网络资料,然后读取、分析、提炼、总结,给出结果。LLocalSearch是一个开源项目,可以在我们的本机实现AI搜索。_本地大模型...

【AI大模型】Prompt Engineering

模型训练者并没想到过会这样,完全是大家「把Al当人看」玩出的一个用法实在传得太广,导致现在的大模型训练数据里充满了角色定义,所以更有效了先定义角色,其实就是在开头把问题域收窄,减少二义性。别急着上代码,先尝试用...

大家都在说的AI大模型微调到底是什么?最易懂的AI知识科普!为你解决对“微调”所有的疑问

chatgpt说:模型微调(ModelFine-tuning)是指在已经训练好的模型基础上,针对特定任务或数据集进行调整,以获得更好的性能。通常情况下,模型微调是在预训练模型的基础上完成的,它可以提高模型在新任务...

9种AI大模型免费API使用技巧

智谱清言ChatGLM4大模型逆向API白嫖测试【特长:超强智能体】,支持高速流式输出、支持智能体对话、支持多轮对话、支持AI绘图、支持联网搜索、支持长文档解读、支持代码调用、支持图像解析,零配置部署,多路to...

【AI大模型Agent探索】深入探索实践 Qwen-Agent 的 Function Calling

本文将深入探讨Qwen-Agent的核心特性之一——功能调用(FunctionCalling)。这是一种允许AI模型直接与外部工具和API进行交互的能力,极大地扩展了AI模型的应用范围。通过实际的编码...

Linux从零部署本地AI大模型对接本地知识库全记录

在ollama官网右上角可以搜索你想要的大模型,我搜索【qwen】,进入模型详情页后,可以选择版本,这里我选择了最低的版本,你们可以根据你们的服务器情况选择合适的版本,右边已经给出了下载模型的命令,复制执行。重启...

【 香橙派 AIpro评测】烧系统运行部署LLMS大模型跑开源yolov5物体检测并体验Jupyter Lab AI 应用样例(新手入门)

大家好,我是yma16,本期分享【香橙派AIpro评测】烧系统到部署到体验AI应用样例:香橙派AIpro烧系统到体验AI应用样例(新手福音)香橙派AIproOrangePiAIPro开发...

大模型技术栈-实战与应用 训练框架 deepspeed Megatron Megatron-LM Megatron-DeepSpeed colossal-ai 推理框架 triton 向量数据库

本文详细介绍了大模型技术栈在训练和推理中的关键框架,包括deepspeed、Megatron-LM、colossal-ai等训练框架,以及triton等推理框架。文章探讨了这些框架的特性和优势,以及如何应对内存优...

【重磅】2024国内主流AI 大模型架构及应用场景深度分析

◼产业级知识增强大模型,夫嫩行业大模型发展百度文心大模型源于产业、服务于产业,是产业级知识增强大模型。百度通过大模型与国产深度学习框架融合发展,打造了自主创新的AI底座,大幅降低了AI开发和应用门槛。文...

近40个中医药AI大模型已亮相,产学研医界“大玩家”云集

1”即华佗中医药大模型创新中心,“3”是产业交易平台、产业数据平台、产业大模型服务平台,“N”为线上交易、药材追溯、检验检测、中药材知识普及等,赋能中医药产业升级。(如果您在医疗、医保、医药领域具有独到专长,掌握真...