(三)在Docker容器中运行AI模型_ai用docker容器推理

numpy==1.19.5
opencv-python==4.5.1.48
tensorflow-cpu==2.4.0

此处添加NumPy仅将其固定到特定版本（可以安装不同版本作为TensorFlow依赖项）。不幸的是，Python库的更新经常会引入重大更改或错误。添加具有固定版本的显式需求——即使是间接依赖——有助于避免重新创建环境时的麻烦。

FROM python:3.8.8-slim-buster
ARG DEBIAN_FRONTEND=noninteractive
RUN apt-get update \
&& apt-get -y install --no-install-recommends ffmpeg libsm6 libxext6 \
&& apt-get autoremove -y && apt-get clean -y && rm -rf /var/lib/apt/lists/*
ARG USERNAME=mluser
ARG USERID=1000
RUN useradd --system --create-home --shell /bin/bash --uid $USERID $USERNAME
 
COPY requirements.txt /tmp/requirements.txt
RUN pip3 install --no-cache-dir -r /tmp/requirements.txt \
&& rm /tmp/requirements.txt
USER $USERNAME
WORKDIR /home/$USERNAME/app

因为我们仍然使用opencv-python，所以需要保留apt-get语句来安装系统组件。

COPY app /home/$USERNAME/app
ENTRYPOINT ["python", "predict.py"]

首先，我们将应用程序代码复制到镜像中。复制的app文件夹包含我们在上一篇文章中训练的推理代码和模型。这样的COPY语句通常是Dockerfile中最后的语句之一，它确保在应用程序代码更改时只需要重新创建几个顶层。

$ docker build --build-arg USERID=$(id -u) -t mld03_cpu_predict .

在Windows上，您可以跳过该--build-arg USERID部分：

$ docker build -t mld03_cpu_predict .

镜像构建完成后，我们运行推理：

docker run -v $(pwd)/data:/home/mluser/data --rm --user $(id -u):$(id -g) mld03_cpu_predict 
--images_path /home/mluser/data/test_mnist_images/*.jpg

在Windows上：

docker run -v $(pwd)/data:/home/mluser/data --rm mld03_cpu_predict 
--images_path /home/mluser/data/test_mnist_images/*.jpg

请注意，--images_path以上是包含在容器中的应用程序的参数。它附加到由Dockerfile中的ENTRYPOINT语句定义的命令。这次我们只镜像带有数据的文件夹，依赖于嵌入在镜像中的应用程序代码（和训练模型）。