【AI】将Python项目打包成Docker镜像的小实践
AI柱子哥 2024-06-13 13:01:01 阅读 66
1.准备工作
可以本地运行的Python程序这个因人而异,可以是Anaconda环境,也可以是本机运行的Python环境,确保python程序是可以正常运行的。Docker环境
Docker环境是打包镜像必需的,可以安装Docker Desktop for Windows,也可以是Linux系统安装的Docker环境。
本文以Windows为例,去官网下载安装包,安装完成之后打开就可以看到这个界面了。不过我还是喜欢用命令行的方式进行操作。安装完之后再打开PowerShell,可以正常使用docker命令。
3.pip生成环境依赖文件requirements.txt
[推荐]使用pipreqs 写入requirements.txt
使用pipreqs 写入requirements.txt,只是程序中所用到的包,并不是电脑中安装的所有的包。
pip install pipreqs
cd 到程序所在的文件夹位置
执行下面的语句,Windows下得加encoding=utf8,不然会出现编码问题。
pipreqs ./ --encoding=utf8
2.编写Dockerfile
我这边采用了两种方式编写Dockerfile,一种是以miniconda为基础镜像,一种是以Python基础环境为基础镜像,为了缩小打包的体积,最后我采用的是第二种方式,为了方便以后备查,我也把第一种方式的Dockerfile放上来。由于打包的是torch程序,依赖比较大,打包的镜像体积在8G+,这也是非常头疼的,不过为了让后期部署调整方便,还是先打一个试试吧。后续会研究Pyinstaller的打包方式。
以miniconda为基础镜像
# 使用一个基础的Docker镜像,可以根据你的需求选择合适的镜像FROM continuumio/miniconda3# 设置pip主要源和备用源(切换为国内源,如不是在国内请忽略)RUN pip config set global.index-url https://mirrors.aliyun.com/pypi/simple/ && \pip config set global.extra-index-url https://pypi.org/simple/# 设置工作目录WORKDIR /app# 复制Conda环境的配置文件(environment.yml)到容器中COPY environment.yml .# 使用Conda创建环境RUN conda env create -f environment.yml# 激活Conda环境RUN echo "source activate my_conda_env" > ~/.bashrcENV PATH /opt/conda/envs/my_conda_env/bin:$PATH# 添加你的应用程序代码和文件到容器中COPY . .# 定义容器启动时运行的命令CMD ["python", "your_script.py"]
这里面用到了environment.yml,需要通过本地的conda环境来生成。
RUN echo "source activate my_conda_env" > ~/.bashrc
和ENV PATH /opt/conda/envs/my_conda_env/bin:$PATH
这两句中的my_conda_env也需要根据environment.yml中的虚拟环境的名称来修改。
CMD ["python", "your_script.py"]
中your_script.py要修改成你要执行的python程序。
以python环境为基础镜像
FROM python:3.9-slim WORKDIR /app ADD . /app RUN python -m pip install --upgrade pip -i https://pypi.tuna.tsinghua.edu.cn/simple && pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple EXPOSE 8080# 定义容器启动时运行的命令CMD ["python", "your_script.py"]
这里面用到的requirements.txt就是准备工作中提到的使用pip生成的依赖文件。
Dockerfile文件放到和代码同一目录,然后就可以进行打包镜像了
3.打包镜像
在powershell中cd到程序所在目录,然后执行打包命令,等待打包完成,打包过程会联网请求依赖,打包时间长短取决于网速以及电脑性能。
docker build -t imagename:tag .
打包完成之后,执行docker images
命令,即可以看到生成的镜像。
熟悉desktop的也可以在上面看到镜像:
4.运行镜像
这部分内容属于docker的操作,不做详细介绍
可以简单的使用交互的方式进行运行:
docker run --rm -it -p 8080:8080 imagename:tag
程序就跑起来了,可以使用浏览器请求8080端口测试了。
5.镜像迁移使用
打包好的镜像在本机的docker上,如果想要部署到其他机器上,可以将镜像打包成tar包,实现镜像的迁移。
在powershell中执行docker save命令即可
docker save -o imagename.tar imagename:tag
默认会在powershell的当前目录下生成imagename.tar文件。
拷贝到其他机器上之后使用docker load命令将镜像添加在本机:
docker load -i imagename.tar
6.运行小插曲
关于docker容器中使用numpy报错OpenBLAS blas_thread_init: pthread_create failed for thread 1 of 40: Operation not permitted
这是由于迁移后的docker版本比生成docker镜像时用的版本低。一般这种情况都是安全性问题,因此在低版本docker上创建容器时,加入–security-opt seccomp:unconfined就可以解决这个问题。
docker run --rm -it -p 8080:8080 --security-opt seccomp:unconfined imagename:tag
参考运行报错
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。