上次在MacbookPro上安装了StableDiffusion，体验了本地所心所欲地生成各种心仪的图片，完全没有任何限制的惬意。今天想使用MacbookPro安装一个本地大语言模型体验一下，刚好在2024...
在探索人工智能与自然语言处理领域时，“Prompt”是一个核心概念，尤其在Langchain中，它是连接人类与机器思维的桥梁，能解锁模型潜能。本篇博客将深入这一领域，首先揭开Prompt的神秘面纱，随后剖析La...
官网介绍到LangChain的目标是简化LLM与Java应用程序的集成。统一的API：每一个LLM提供商（如OpenAI或GooglevetexAI）和向量存储（如Pinecone或Milvus）使用专有...
LangChain就是一个LLM编程框架，你想开发一个基于LLM应用，需要什么组件它都有，直接使用就行；甚至针对常规的应用流程，它利用链(LangChain中Chain的由来)这个概念已经内置标准化方案了...
LangChain4j实现聊天记忆、聊天记忆持久化，多用户聊天记忆，多用户聊天记忆持久化功能_langchain4jchatglm...
参考了一些官方和他人帖子：主要就是LLM类的继承和重写#函数继承和重写@property我们这里的本地模型是chatglm6B，结果：显存：速度：10个字需要0.12s。_langchainchatglm4...
当大模型的返回文字非常多时，返回完整的结果会耗费比较长的时间。如果等待大模型形成完整的答案再展示给用户，明显会给用户不好的体验。所以，现在市面上大多数的AI应用，在给用户结果时，都是以流式输出的方式展示给用户的。...
没有特殊功能，只有一个messages属性，用于保存消息，是list类型。在使用LLM的时候，我们需要注意到LLM并不会记住我们之前说过的话。但是我们可以自行保存历史消息，然后在下一次调用的时候，将之前的...
本文介绍了作者在国内使用大模型遇到的挑战，如网络限制和高昂费用，随后介绍了一个开源平台Ollama和标准化APIlangchain，如何通过它们在本地免费运行和定制大模型，包括安装、模型下载和使用示例，以及如何将...
LangChain用来构建具有LLM能力的应用框架，只有Python和Javascript版本，无Java版本。对于Java应用开发者很不友好，因此LangChain4j应用而生。LangChain4j利用LLM的强...