NVIDIA GPU 사용량 보는 법

NVIDIA GPU 사용량을 보기 위해서는 nvidia-smi 명령어를 사용하시면 됩니다.

 

1. 기본 명령어

 

Linux 나 Windows 모두 명령창에서 nvidia-smi 를 입력하시면 현재의 사용량을 볼 수 있습니다.

$ nvidia-smi

 

 

2. 일정 주기로 확인하는 명령어 (ex. 1 초마다)

1초마다 확인하게 하기 위해서는 linux 에서는 watch 를 사용할 수 있습니다.

 

1) Linux 용 명령어

watch -n 1 nvidia-smi

 

[참고] Linux 환경에서 nvidia-smi 자세한 설명: https://velog.io/@claude_ssim/NVIDIA-GPU-%EB%B3%B4%EB%8A%94%EB%B2%95nvidia-smi

 

2) Windows 용 명령어

nvidia-smi -l 1

 

[참고] l 옵션은 refresh 시간을 설정: https://stackoverflow.com/questions/57100015/how-do-i-run-nvidia-smi-on-windows

 

3. 출력 결과

 

명령어 프롬프트 창에 출력된 결과 예시

- 딥러닝 모델을 돌렸더니 47% 사용중

Sat Feb 24 12:16:25 2024
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 536.23                 Driver Version: 536.23       CUDA Version: 12.2     |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                     TCC/WDDM  | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 3070      WDDM  | 00000000:09:00.0  On |                  N/A |
| 31%   43C    P2              36W / 220W |   5569MiB /  8192MiB |     47%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+