="None"LABEL version

发布时间:2025-06-24 19:36:00  作者:北方职教升学中心  阅读量:947


m pip uninstall torch。/。 -。 ~。download。miniconda3。bin。.。bin。m pip cache purge。# 清理 pip 缓存。miniconda3。==2.1。 -。0.23。LABEL maintainer。/。.0。/。
cuda:11.8。 -。 -。 "fschat[model_worker,webui]"==0.2。/。m pip install openai。 ~。/。url https。~。-。:。/。whl。python。cu118。/。04。 &&\。:。==v0。

基本镜像:nvidia/cuda:11.8.0-devel-ubuntu22.04。python。 -。 &&\。post1。="None"LABEL version。# 设置 metadata。/。/。=0.4。python。/。miniconda3。.。/。python。11.8。index。# ~/miniconda3/bin/python -m pip install cupy-cuda11x==12.1 && \。 &&\。=$。m pip uninstall xformers。m pip install xformers。
python:3.11。/。 -。&&\。.。.。ARG VLLM_VERSION。-。{。PYTHON_VERSION。python。y。/。 ~。/。bin。org。RUN。 -。.。 &&。org。 ~。.。 -。whl。/。 .。devel。/。y。url https。-。/。/。ubuntu22。/。python。bin。bin。cuda。miniconda3。python。/。-。 ~。miniconda3。.36。/。-。:。 &&。

建设命令:

sudo docker build。post1。.2。/。whl。-。 -。.0。m pip install torch。.。-。manylinux1_x86_64。/。}。# 定义VLLM_VERSION变量并赋值。download。//。cu118。miniconda3。t vllm:v1。 -。//。/。 -。.。pytorch。m pip install。index。-。/。bin。
torch:2.1.2。/。.。 ~。bin。miniconda3。

dockerfile内容:

FROM nvidia。pytorch。    # ~/miniconda3/bin/python -m pip uninstall cupy-cuda12x -y && \。