Exception: CUDA error: no kernel image is available for execution on the device

2022. 11. 16. 10:39Memorizing/Trouble-Shooting

728x90

딥러닝을 통해서 모델을 학습, 추론 시키는 경우, GPU를 사용하게 되는데, 각각의 GPU 별로 사용할 수 있는 Pytorch 버전이 정해져 있습니다. 만약 GPU가 사용할 수 있는 버전과 사용하는 Pytorch 버전이 맞지 않는 경우, 아래와 같은 오류가 발생하게 됩니다. 

현재 사용하고 있는 GPU에 맞는 Pytorch 버전을 설치하는 절차는 아래와 같습니다.

1. CUDA 버전 확인하기

nvidia-smi

또는

nvcc -V

명령어를 통해 현재 사용하고 있는 CUDA 버전을 확인합니다. 

2. 현재 사용하고 있는 CUDA 버전에 맞는 Pytorch 및 하위 라이브러리를 설치한다.

https://pytorch.org/get-started/previous-versions/

 

PyTorch

An open source machine learning framework that accelerates the path from research prototyping to production deployment.

pytorch.org

위 링크로 가시면 CUDA 버전에 맞는 Pytorch 및 하위 라이브러리를 설치할 수 있습니다. pip, conda 모두 사용가능합니다. (제가 사용하고 있는 GPU의 CUDA 버전은 11.6이기 때문에 그에 맞는 명령어를 찾으면 아래와 같습니다.)