[Docker] NVIDIA Container Toolkit 설치하는 방법

안녕하세요, 오늘은 NVIDIA Container Toolkit을 설치하는 방법에 대해서 알아보겠습니다.

 

NVIDIA Container Toolkit를 설치하는 목적은 Docker 컨테이너 내에서 NVIDIA GPU를 효율적으로 활용할 수 있게 하여 GPU 가속화 애플리케이션의 배포와 실행을 용이하기 하기 위해 사용합니다.

 

NVIDIA Docker를 설치 하기 위해 호스트 시스템에 설치되어 있어야 하는 항목들은 다음과 같습니다.

 

• NVIDIA GPU Driver 설치
• Docker Engine 설치

위의 항목들 중 NVIDIA GPU Driver와 Docker Container Toolkit이 설치되어 있는 상황에서 NVIDIA Container Toolkit을 설치하는 방법에 대해서 알아보겠습니다.

 

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

 

sudo apt-get update
sudo apt-get install -y nvidia-docker2

 

위의 명령어를 실행 후 다음과 같이 Docker 데몬 설정을 업데이트 합니다. (/etc/docker/daemon.json)

{
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
    },
    "default-runtime": "nvidia"
}

 

마지막으로 Docker 서비스를 재시작 합니다.

sudo systemctl restart docker

 

정상적으로, Docker Container Toolkit이 설치되었는 지 다음과 같은 명령어로 확인할 수 있습니다.

 

docker run --rm nvidia/cuda:11.0-base nvidia-smi

 

위에서 호스트 시스템의 NVIDIA Driver 버전에 따라서 CUDA 버전을 다르게 확인할 수 있습니다.

 

또한 Docker 데몬 설정을 업데이트하는 이유는 "nvidia-container-runtime"을 Docker 기본 런타임으로 설정하므로써, 모든 Container가 자동적으로 NVIDIA GPU에 접근할 수 있게 됩니다. 이는 GPU를 사용하는 애플리케이션을 배포할 때 추가 구성 없이 GPU 가속을 할 수 있게 됩니다.

 

---

 

이상으로, NVIDIA Container Toolkit 설치하는 방법에 대해서 알아보았습니다.

감사드립니다.