\"\"\"main.py_fastapi...
fastapi是建立在Starlette和Pydantic基础上的，Pydantic是一个基于Python类型提示来定义数据验证、序列化和文档的库。Starlette是一种轻量级的ASGI框架/工具包，是构建高性...
FastAPI是一个现代、快速（高性能）的Web框架，用于构建API。它基于Python3.7+的类型提示功能，提供了自动化的数据验证、序列化和文档生成。FastAPI的设计目标是提高开发效率和性...
在人工智能的快速发展中，大型语言模型（LLM）逐渐成为研究和应用的新宠。它们在自然语言处理（NLP）领域的广泛应用，如文本生成、翻译、摘要等任务中展现出了卓越的性能。Qwen2-7B作为其中的一个代表，不仅因其强...
FullStackFastAPITemplate凭借其强大技术栈、丰富的功能和便捷的操作方式，为开发者们提供了一个快速构建现代Web应用的最佳起点。无论是初学者还是经验丰富的开发者，都能轻松利用它，将更多...
Flask是一个轻量级的PythonWeb框架，以其灵活、简单且易于扩展的特性深受开发者的青睐。不同的是，FastAPI提供了请求和响应模型，可以明确指定请求参数的类型和格式。通过Blueprint，可...
本文实现了工程实践下并发控制下LLM服务器部署并提供流式响应。使得LLM服务器可以同时处理多个请求，并实现“当请求达到一定数量后，直接拒绝后续的推理请求”功能，防止服务器过载以及排队时间过长影响用户体验（直接告知...
![[python]使用gunicorn部署fastapi服务](/uploads/2024/08/06/1722906541200022695.webp)
前言Gunicorn是一种流行的WSGIHTTP服务器，常用于部署Django和Flask等PythonWeb框架程序。Gunicorn具有轻量级、高稳定性和高性能等特性，可以轻易提高PythonWSGIApp运行时的性能。基本原理Gunicor...
FastAPI是流行的Pythonweb框架，适用于开发高吞吐量API和微服务（直接支持异步编程）FastAPI的优势之一：通过提供高级抽象和自动数据模型转换，简化请求数据的处理（用户不需要手动处理原始请求数据）...
最近好久没有写博客了，浅浅记录下如何将OpenAI-Whisper做成Web服务吧介绍在这篇指导性博客中，我们将探讨如何在Python中结合使用FastAPI和OpenAI-Whisper。OpenAI-Whisper是一个前沿的语音识别模型，而FastA...