基于Dockerfile打包算法镜像

# 使用 NVIDIA CUDA 12.0.1 运行时的 Ubuntu 20.04 基础镜像
FROM nvidia/cuda:11.7.1-runtime-ubuntu20.04# 更新包列表并安装必要的包
RUN apt-get update && apt-get install -y --no-install-recommends \python3 \python3-pip \python3-venv \build-essential \&& rm -rf /var/lib/apt/lists/*# 创建并激活虚拟环境
RUN python3 -m venv /opt/venv
ENV PATH="/opt/venv/bin:$PATH"# 安装 PyTorch
RUN pip install torch torchvision torchaudio# 安装 FastAPI
RUN pip install fastapi uvicorn# 将代码复制到容器中
COPY . /HotSpots#工作目录
WORKDIR  /HotSpots# 暴露端口
EXPOSE 8000# 运行 FastAPI 应用
CMD ["sh","start.sh"]

start.sh 文件

python infer.py

infer.py文件

if __name__ == '__main__':uvicorn.run("infer:app",host="0.0.0.0",port=8000)