文章目录

前言一、安装LangChain二、获取千帆API Key、Secret Key三、简单对话案例实现四、构建语言模型应用程序:LLM1.初始化模型2.LLM初始化和调用

五、提示词模板（PromptTemplate）: 管理 LLM 的提示1.定义提示模板2.组合 LLM 和提示词3.组合输出解析器

六、信息检索链(Retrieval Chain)1.加载索引数据2.存储向量数据3.创建检索链传入问题4.使用检索器动态选择最相关的文档并将其传递5.完整代码及调用

七、实现简单的聊天机器人1.聊天模型将使用消息进行响应。2.传入一个消息列表：3.使用ConversationChain记住过去的用户输入和模型输出4.对话5.聊天检索1)加载博客文章。2)将其拆分并存储在向量中3)创建会话记忆4)整体代码示例

总结

前言

LangChain就是一个 LLM 编程框架，你想开发一个基于 LLM 应用，需要什么组件它都有，直接使用就行；甚至针对常规的应用流程，它利用链(LangChain中Chain的由来)这个概念已经内置标准化方案了。

LangChain是一个用于开发由语言模型提供支持的应用程序的框架。它使应用程序能够：

数据感知：将语言模型连接到其他数据源具有代理性质：允许语言模型与其环境交互

环境：

一、安装LangChain

此次我安装的最新版为：0.1.0

<code>pip install langchain

#安装qianfan

pip install qianfan

二、获取千帆API Key、Secret Key

登录百度云搜索进入千帆大模型控制台没有应用则创建应用获取APIKey、SecretKey

三、简单对话案例实现

调用千帆大模型，实现让大模型讲个故事

<code>"""For basic init and call"""

import os

from langchain_community.chat_models import QianfanChatEndpoint

from langchain_core.messages import HumanMessage

os.environ["QIANFAN_AK"] = "API_KEY"

os.environ["QIANFAN_SK"] = "SECRET_KEY"

chat = QianfanChatEndpoint(

streaming=True,

)

res = chat([HumanMessage(content="讲一个故事")])code>

print(res.content)

输出结果如下：

到此最简单的案例就已经实现了。

四、构建语言模型应用程序:LLM

<code>from langchain_community.llms import QianfanLLMEndpoint

os.environ["QIANFAN_AK"] = "API_KEY"

os.environ["QIANFAN_SK"] = "SECRET_KEY"

llm = QianfanLLMEndpoint(temperature=0.9)

2.LLM初始化和调用

import os

from langchain_community.llms import QianfanLLMEndpoint

os.environ["QIANFAN_AK"] = "API_KEY"

os.environ["QIANFAN_SK"] = "SECRET_KEY"

llm = QianfanLLMEndpoint(temperature=0.9)

text = "对于一家生产彩色袜子的公司来说，什么是一个好的公司名称?"

print(llm.invoke(text))

五、提示词模板（PromptTemplate）: 管理 LLM 的提示

调用 LLM 是很好的第一步，但这仅仅是个开始。

通常在应用程序中使用 LLM 时，不会将用户输入直接发送到 LLM。

相反，您可能接受用户输入并构造一个提示符，然后将其发送给 LLM。

例如，在前一个示例中，我们传入的文本被硬编码为询问一家生产彩色袜子的公司的名称。在这个虚构的服务中，我们希望只获取描述公司业务的用户输入，然后用这些信息格式化提示符。

1.定义提示模板

ChatPromptTemplate:是聊天提示词模板

ChatPromptTemplate文档地址

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages(

[

("user","我想去{location}旅游，能帮我简单介绍一下吗？")

]

)

2.组合 LLM 和提示词

import os

from langchain_community.llms import QianfanLLMEndpoint

from langchain_core.prompts import ChatPromptTemplate

os.environ["QIANFAN_AK"] = "API_KEY"

os.environ["QIANFAN_SK"] = "SECRET_KEY"

llm = QianfanLLMEndpoint(temperature=0.9)

prompt = ChatPromptTemplate.from_messages(

[

("user","我想去{location}旅游，能帮我简单介绍一下吗？")

]

)

chat = prompt | llm

result = chat.invoke({ "location": "海南"})

print(result)

3.组合输出解析器

ChatModel（因此，此链）的输出是一条消息。但是，使用字符串通常要方便得多。让我们添加一个简单的输出解析器，将聊天消息转换为字符串。

from langchain_core.output_parsers import StrOutputParser

output_parser = StrOutputParser()

我们现在可以将其添加到上一个链中：

chain = prompt | llm | output_parser

我们现在可以调用它并提出相同的问题。答案现在将是一个字符串（而不是 ChatMessage）。

六、信息检索链(Retrieval Chain)

实现目标：

提供一份文档，提出问题，在文档中检索出答案。我这里是提供了一个知乎-中国古代史-明朝的网址。

我们将从检索器中查找相关文档，然后将它们传递到提示中。 Retriever 可以由任何东西支持——SQL 表、互联网等——但在本例中，我们将填充一个向量存储并将其用作检索器。

1.加载索引数据

首先，我们需要加载要索引的数据：

from langchain_community.document_loaders import WebBaseLoader

WEB_URL = "https://zhuanlan.zhihu.com/p/85289282"

# 使用WebBaseLoader加载HTML

loader = WebBaseLoader(WEB_URL)

docs = loader.load()

2.存储向量数据

接下来，我们需要将其索引到向量存储中。

下载向量数据库Chroma

pip install chromadb

根据版本问题可能出现的问题：

问题：

Your system has an unsupported version of sqlite3. Chroma requires sqlite3 ＞= 3.35.0.

解决方案：

根据自己的操作系统在 SQLite Download Page 下载最新的sqlite包，解压后是"sqlite3.def"和"sqlite3.dll"两个文件。将这两个文件覆盖到 "python安装目录/DLLs"下即可。

然后我们可以构建我们的索引：

from langchain_community.vectorstores import Chroma

from langchain_community.embeddings import QianfanEmbeddingsEndpoint

from langchain.text_splitter import RecursiveCharacterTextSplitter

# 导入千帆向量模型

embeddings = QianfanEmbeddingsEndpoint()

# 导入递归字符文本分割器

text_splitter = RecursiveCharacterTextSplitter(chunk_size = 384, chunk_overlap = 0, separators=["\n\n", "\n", " ", "", "。", "，"])

# 导入文本

documents = text_splitter.split_documents(docs)

# 存入向量数据库

vector = Chroma.from_documents(documents, embeddings)

3.创建检索链传入问题

我们设置一个链，该链接受一个问题和检索到的文档并生成一个答案。

from langchain.chains.combine_documents import create_stuff_documents_chain

# 创建提示词模板

prompt = ChatPromptTemplate.from_template("""使用下面的语料来回答本模板最末尾的问题。如果你不知道问题的答案，直接回答 "我不知道"，禁止随意编造答案。

为了保证答案尽可能简洁，你的回答必须不超过三句话，你的回答中不可以带有星号。

请注意！在每次回答结束之后，你都必须接上 "感谢你的提问" 作为结束语

以下是一对问题和答案的样例：

请问：秦始皇的原名是什么

秦始皇原名嬴政。感谢你的提问。

以下是语料：

<context>

{context}

</context>

Question: {input}""")

#创建千帆LLM模型

llm = QianfanLLMEndpoint()

#创建检索链

document_chain = create_stuff_documents_chain(llm, prompt)

4.使用检索器动态选择最相关的文档并将其传递

from langchain.chains import create_retrieval_chain

retriever = vector.as_retriever()

retrieval_chain = create_retrieval_chain(retriever, document_chain)

5.完整代码及调用

import os

from langchain.chains import create_retrieval_chain

from langchain.chains.combine_documents import create_stuff_documents_chain

from langchain_community.document_loaders import WebBaseLoader

from langchain_community.embeddings import QianfanEmbeddingsEndpoint

from langchain_community.vectorstores import Chroma

from langchain.text_splitter import RecursiveCharacterTextSplitter

from langchain_core.prompts import ChatPromptTemplate

from langchain_community.llms import QianfanLLMEndpoint

os.environ["QIANFAN_AK"] = "API_KEY"

os.environ["QIANFAN_SK"] = "SECRET_KEY"

# 定义URL

WEB_URL = "https://zhuanlan.zhihu.com/p/85289282"

# 使用WebBaseLoader加载HTML

loader = WebBaseLoader(WEB_URL)

docs = loader.load()

# 导入千帆向量模型

embeddings = QianfanEmbeddingsEndpoint()

# 导入递归字符文本分割器

text_splitter = RecursiveCharacterTextSplitter(chunk_size = 384, chunk_overlap = 0, separators=["\n\n", "\n", " ", "", "。", "，"])

# 导入文本

documents = text_splitter.split_documents(docs)

# 存入向量数据库

vector = Chroma.from_documents(documents, embeddings)

# 创建提示词模板

prompt = ChatPromptTemplate.from_template("""使用下面的语料来回答本模板最末尾的问题。如果你不知道问题的答案，直接回答 "我不知道"，禁止随意编造答案。

为了保证答案尽可能简洁，你的回答必须不超过三句话，你的回答中不可以带有星号。

请注意！在每次回答结束之后，你都必须接上 "感谢你的提问" 作为结束语

以下是一对问题和答案的样例：

请问：秦始皇的原名是什么

秦始皇原名嬴政。感谢你的提问。

以下是语料：

<context>

{context}

</context>

Question: {input}""")

#创建千帆LLM模型

llm = QianfanLLMEndpoint()

#我们设置一个链，该链接受一个问题和检索到的文档并生成一个答案。

document_chain = create_stuff_documents_chain(llm, prompt)

#使用检索器动态选择最相关的文档并将其传递。

retriever = vector.as_retriever()

retrieval_chain = create_retrieval_chain(retriever, document_chain)

#调用这个链了。这将返回一个字典 - 来自 LLM 的响应在键中answer

response = retrieval_chain.invoke({

"input": "朱元璋时期中国多少人口?"

})

print(response["answer"])

结果示例：

抱歉，我无法得知朱元璋时期中国具体的人口数量。不过，我可以告诉你，在明朝时期，中国的人口数量在历史上经历了巨大的变化。明朝初年，由于元朝末年的战乱和瘟疫，人口数量相对较少。然而，随着时间的推移，明朝政府实行了一系列轻徭薄赋的政策，促进了社会经济的恢复和发展，人口数量也逐渐增加。在明朝中后期，由于农业、手工业和商业的繁荣，中国的人口数量达到了历史高峰。

七、实现简单的聊天机器人

使用普通聊天模型，我们可以通过传递一个消息或使用ChatModel发送更多消息。

1.聊天模型将使用消息进行响应。

import os

from langchain.schema import HumanMessage, SystemMessage

from langchain_community.chat_models import QianfanChatEndpoint

os.environ["QIANFAN_AK"] = "API_KEY"

os.environ["QIANFAN_SK"] = "SECRET_KEY"

chat = QianfanChatEndpoint()

res = chat.invoke([

HumanMessage(

content="把这句话从中文翻译成英语:我喜欢编程。"code>

)

])

print(res.content)

输出结果：I enjoy programming.