Tensorflow GPU 사용환경 설정(feat. Pytorch)

작성일 | In , ,

tensorflw&Pytorch

Tensorflow 가상환경 설정

머신러닝에 대해 공부하던 중 GPU를 같이 사용하려고 하니 각종 오류와 여러 문제가 있어서 설정하는 방법에 대한 기록을 남긴다. 텐서플로우를 VSCode에서 Colab처럼 Jupyter NoteBook 형식으로 실행하고 싶어서 여러가지 준비과정이 필요하다.

우선 가상환경을 Venv가 아닌 Anaconda를 사용하였다. 현재 노트북 환경은 이러하다.

  • Window 11
  • AMD Ryzen 9 4900HS
  • nvidia GeForce RTX 2060 with Max-Q
  • VSCode는 사전에 설치해두고 Anaconda랑 CMD 연동함

연동 성공했을 때 vscode 터미널 화면

systpath

0. Anaconda 설정

Venv도 물론 사용할 수 있지만 아나콘다를 좀 더 사용해봤기 때문에 사용한다. 아나콘다 공식 웹사이트는 다음과 같다.

대충 시스템 환경 변수 path에 다음과 같이 설정해준다.

systpath

CMD나 VSCode에 터미널을 연결했다면 Terminal에

1
conda --version

응답이 나올 것이다.

그리고 해당 명령어 이후 아래 명령어 입력해주면 가상환경 생성과 실행이 될 것이다.

1
2
conda create -n tensor-env
conda activate tensor-env	# 가상환경 활성화

가상환경은 다 됬으니 이제 진짜 tensorflow를 설치해보자

우선 텐서플로우 버전을 확인해야 한다. 그냥

1
pip install tensorflow

라고 쳐도 설치는 되지만 로컬 GPU를 사용하고 싶다면 좀 달라진다.

위의 코드는 CPU에서 돌릴 때의 코드이고, 아래 그림에서 보다시피 gpu를 사용한다면 아래 버전에 맞게 해야한다. tensorflow==2.10.0 이후로 나온 버전은 gpu를 지원하긴 하지만 Window에서는 더 이상 지원하지 않는다.

텐서플로우 공식 문서를 들어가보면 호환되는 버전들이 있다.

tensorflow-version

그래서 가장 최신버전으로 하는 것이 뭔가 좋아보여서 tensorflow 2.10.0으로 설치했다.

1. Nvidia 드라이버 설치

Nvidia 드라이버 설치 URL

그냥 설치하면 된다. 자기 GPU에 맞는 드라이버 알아서 설치해주면 된다.

설치가 완료 됬다면 nvidia-smi라고 cmd에 입력하면 아래 그림과 같이 나오게 된다.

tensorflow-version

2. CUDA 툴킷 설치

CUDA 툴킷 설치 URL, 텐서플로우 공식 문서대로 11.2에는 window 11 버전이 호환이 안 된다. 그래서 11 호환이 되는 11.7d을 설치했다.

tensorflow-version

tensorflow-version

3. cuDNN 설치

cuDNN의 경우 8.8.1 버전을 설치했다. 다운을 다 받았다면 압축해제한 후 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7 해당 경로에 붙여넣기를 한다.

공식사이트에서 설치가 필요하다. 로그인도 해야한다.

tensorflow-version

tensorflow-version

tensorflow-version

ten

그리고 아래와 같이 시스템 변수 Path 편집으로 들어가서 아래와 같은 경로가 있는지 확인한다.

일반적으로 설치하면 아래와 같이 설정이 자동으로 되지만 안 되는 경우도 있는 것 같다.

1
2
3
4
# 시스템 변수 Path의 편집 들어가서 해당 부분이 있는지 확인한다.
# 다른 버전 동일 파일이 있다면 제대로 인식하지 못하는 경우가 발생한다.
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\libnvvp

이 후에 cmd 창에서 가상환경 열어서 Tensorflow 설치하고 싶은 버전을 설치해준다.

코드는 아래와 같다.

1
2
conda activate tensor-env
pip install tensorflow==2.10.0

그리고 아래 코드를 실행했을 때 CPU랑 GPU 둘 다 나왔다면 성공이다.

1
2
from tensorflow.python.client import device_lib
device_lib.list_local_devices()

GPU 확인이 될 때 :

ten

GPU 확인이 안 될 때:

ten

장치 관리자에서 GPU 사용량이 90%를 넘는다면 잘 작동하고 있다는 것이다.

ten

ten

어찌 됬든 성공했다.

번외. Pytorch (LOCAL GPU)

! 참고로 Pytorch도 위와 같이 CUDA랑 cuDNN 설치 해주면 되는데 서로다른 버전 설치하면 된다.

현재 필자는 Tensorflow랑 Pytorch가 모두 실행되도록 하였지만 가상환경은 나눠놓은 상태이다.

텐서플로우 설치 방법과 마찬가지 이지만 직접 공식사이트를 들어가서 확인하는 편이 훨씬 좋다.

ten

사진 처럼 설정한 후에 가상환경에 작성하면 된다.

1
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

아래는 Pytorch GPU 연동 성공한 경우이다.

1
2
3
4
import torch
print(torch.cuda.get_device_name(0))
print(torch.cuda.is_available())
print(torch.__version__)

ten

Tensorflow 2.10.0 (WINDOW) 기준

  • NVIDIA 그래픽 드라이버 최신버전
  • Python 3.10.0
  • CUDA 11.7 : cuda_11.7.0_516.01_windows.exe
  • cuDNN 8.8.1 : cudnn-windows-x86_64-8.8.1.3_cuda11-archive.zip

Pytorch 2.4.0 (WINDOW) 기준

  • NVIDIA 그래픽 드라이버 최신버전
  • Python 3.11.9
  • CUDA 12.6 : cuda_12.6.0_560.76_windows.exe
  • cuDNN 8.9.7 : cudnn-windows-x86_64-8.9.7.29_cuda12-archive.zip