通过本文你可以了解到：

如何安装streamlit，运行起来第一个demo熟悉streamlit的基本语法，常用的一些组件使用streamlit库构建应用

大模型学习参考：

大模型学习资料整理：如何从0到1学习大模型，搭建个人或企业RAG系统，如何评估与优化（更新中…）

欢迎大家访问个人博客网址：https://www.maogeshuo.com，博主努力更新中…

文章目录

前言streamlit 安装streamlit组件介绍常用组件高级组件

案例分享搭建简单对话界面使用Qwen大模型对话代码结果展示

前言

Streamlit是一个开源的Python框架，供数据科学家和AI/ML工程师使用，只需几行代码即可交付交互式数据应用程序。

官方文档地址：streamlit doc

经验：

官方给出了非常多的组件使用案例，在编写代码时请结合官方文档+pycharm的代码提示+函数注释，函数注释中一班都给出了组件的具体使用修改完布局后，刷新访问网站，可以实时查看更改后的结果，无需重新<code>streamlite run demo.py

streamlit 安装

pip install streamlit

streamlit hello

执行完streamlit hello后，点击 http://localhost:8501

查看demo

streamlit组件介绍

Streamlit是一个用于构建数据科学界面的Python库，它使得创建交互式应用程序变得非常简单。

常用组件

Streamlit 提供了一系列常用组件，用于构建交互式应用程序。以下是常见的 Streamlit 组件：

st.write(): 用于在应用程序中显示文本、数据框架、图表等内容。

st.title(): 添加应用程序的标题。

st.header() 和 st.subheader(): 添加标题和子标题。

st.text(): 显示纯文本。

st.markdown(): 使用 Markdown 语法添加格式化文本。

st.image(): 显示图像。

st.pyplot(): 显示 Matplotlib 图表。

st.altair_chart(): 显示 Altair 图表。

st.dataframe(): 显示数据框。

st.table(): 显示表格。

st.selectbox(): 显示下拉框，用户可以从选项中进行选择。

st.multiselect(): 显示多选框，用户可以从选项中进行多选。

st.slider(): 显示滑块，用户可以调整数值。

st.text_input(): 显示文本输入框，用户可以输入文本。

st.number_input(): 显示数字输入框，用户可以输入数字。

st.text_area(): 显示多行文本输入框。

st.checkbox(): 显示复选框，用户可以勾选或取消勾选。

st.radio(): 显示单选按钮，用户可以从选项中进行单选。

st.button(): 显示按钮，用户可以点击执行相关操作。

st.file_uploader(): 显示文件上传器，用户可以上传文件。

st.date_input() 和 st.time_input(): 显示日期和时间输入框。

st.color_picker(): 显示颜色选择器，用户可以选择颜色。

st.spinner(): 显示加载状态的旋转器。

这些组件可以帮助你构建出功能丰富的交互式应用程序，根据需要选择合适的组件来实现你的应用程序功能。

下面是一些Streamlit中常用的组件及其简要介绍：

st.title(): 用于添加应用程序的标题。

<code>import streamlit as st

st.title('My Streamlit App')

st.write(): 可以将文本、数据框架、图表等内容写入应用程序。

st.write('Hello, world!')

st.header() 和 st.subheader(): 用于添加标题和子标题。

st.header('This is a header')

st.subheader('This is a subheader')

st.text(): 显示纯文本。

st.text('This is some text.')

st.markdown(): 可以使用Markdown语法添加格式化文本。

st.markdown('**This** is some Markdown *text*.')

st.image(): 显示图像。

from PIL import Image

image = Image.open('example.jpg')

st.image(image, caption='Sunset', use_column_width=True)code>

st.pyplot() 和 st.altair_chart(): 显示Matplotlib和Altair图表。

import matplotlib.pyplot as plt

plt.plot([1, 2, 3])

st.pyplot()

import altair as alt

chart = alt.Chart(data).mark_bar().encode(

x='category',code>

y='count'code>

)

st.altair_chart(chart, use_container_width=True)

st.dataframe(): 显示数据框。

import pandas as pd

df = pd.DataFrame({ 'Column 1': [1, 2, 3], 'Column 2': [4, 5, 6]})

st.dataframe(df)

st.selectbox(): 显示下拉框，用户可以从选项中进行选择。

option = st.selectbox('Choose an option', ['Option 1', 'Option 2', 'Option 3'])

st.slider(): 显示滑块，用户可以调整数值。

value = st.slider('Select a value', 0, 100, 50)

st.button(): 显示按钮，用户可以点击执行相关操作。

if st.button('Click me'):

st.write('Button clicked!')

这些是Streamlit中常用的一些组件，可以帮助你构建出功能丰富的交互式数据科学应用程序。

如上常用组件，运行代码streamlit run streamlit_hello.py：

import numpy as np

import streamlit as st

import pandas as pd

st.title('My Streamlit App')

st.write('Hello, world!')

st.header('This is a header')

st.subheader('This is a subheader')

st.text('This is some text.')

st.markdown('**This** is some Markdown *text*.')

from PIL import Image

image = Image.open('../data/stream_demo/onetwo.jpeg')

st.image(image, caption='Sunset', use_column_width=True)code>

import matplotlib.pyplot as plt

plt.plot([1, 2, 3])

st.pyplot()

import altair as alt

chart_data = pd.DataFrame(np.random.randn(20, 3), columns=["a", "b", "c"])

chart = alt.Chart(chart_data).mark_bar().encode(

x='category',code>

y='count'code>

)

c = (

alt.Chart(chart_data)

.mark_circle()

.encode(x="a", y="b", size="c", color="c", tooltip=["a", "b", "c"])code>

)

st.altair_chart(c, use_container_width=True)

df = pd.DataFrame({ 'Column 1': [1, 2, 3], 'Column 2': [4, 5, 6]})

st.dataframe(df)

option = st.selectbox('Choose an option', ['Option 1', 'Option 2', 'Option 3'])

value = st.slider('Select a value', 0, 100, 50)

if st.button('Click me'):

st.write('Button clicked!')

高级组件

基础库：os、sys、timellama_cpp：加载大模型dotenv：加载<code>.env配置的环境变量

代码

import os

import sys

import time

import streamlit as st

from llama_cpp import Llama

from dotenv import load_dotenv, find_dotenv

BASE_DIR = os.path.dirname(__file__)

sys.path.append(BASE_DIR)

# 加载env环境中内容

_ = load_dotenv(find_dotenv())

def get_llm_model(

prompt: str = None,

model: str = None,

temperature: float = 0.0,

max_token: int = 2048,

n_ctx: int = 512,

stream: bool = False):

"""

根据模型名称去加载模型，返回response数据

:param stream:

:param prompt:

:param model:

:param temperature:

:param max_token:

:param n_ctx:

:return:

"""

if model in ['Qwen_q2']:

model_path = os.environ[model]

llm = Llama(model_path=model_path, n_ctx=n_ctx)

start = time.time()

response = llm.create_chat_completion(

messages=[

{

"role": "system",

"content": "你是一个智能超级助手，请用专业的词语回答问题，整体上下文带有逻辑性，如果不知道，请不要乱说",

},

{

"role": "user",

"content": "{}".format(prompt)

},

],

temperature=temperature,

max_tokens=max_token,

stream=stream

)

cost = time.time() - start

print(f"模型生成时间：{ cost}")

print(f"大模型回复：\n{ response}")

if not stream:

return response['choices'][0]['message']['content']

else:

return response

def get_llm_model_with_stream(

prompt: str = None,

model: str = None,

temperature: float = 0.0,

max_token: int = 2048,

n_ctx: int = 512,

stream: bool = True):

"""

流式输出结果

:param prompt:

:param model:

:param temperature:

:param max_token:

:param n_ctx:

:param stream:

:return:

"""

response = ""

start_time = time.time()

stream_results = get_llm_model(prompt, model, temperature, max_token, n_ctx, stream)

for res in stream_results:

content = res["choices"][0].get("delta", { }).get("content", "")

response += content

yield content

cost_time = time.time() - start_time

print(f"cost_time: { cost_time}, response: { response}")

if __name__ == '__main__':

st.title('Chat with Qwen :sunflower:')

# 初始化history

if "messages" not in st.session_state:

st.session_state.messages = []

# 展示对话

for msg in st.session_state.messages:

with st.chat_message(msg['role']):

st.markdown(msg["content"])

# React to user input

if prompt := st.chat_input("Say something"):

# Display user message in chat message container

with st.chat_message("user"):

st.markdown(prompt)

# Add user message to chat history

st.session_state.messages.append({ "role": "user", "content": prompt})

# 普通方式输出

# if prompt is not None:

# response = get_llm_model(prompt=prompt, model="Qwen_q2")code>

# # Display assistant response in chat message container

# with st.chat_message("assistant"):

# st.markdown(response)

# # Add assistant response to chat history

# st.session_state.messages.append({"role": "assistant", "content": response})

# 流式输出

if prompt is not None:

stream_res = get_llm_model_with_stream(prompt=prompt, model="Qwen_q2")code>

with st.chat_message("assistant"):

content = st.write_stream(stream_res)

print("流式输出：", content)

st.session_state.messages.append({ "role": "assistant", "content": content})

# streamlit run chat_with_qwen.py

结果展示