[Nvidia] VMware ESXI VM에서 그래픽 카드 인식하기(GPU Passthrough)

1️⃣ GPU Passthrough란?

GPU Passthrough는 DirectPath I/O 기술을 사용하여 물리적인 GPU를 가상 머신(VM)에서 직접 사용할 수 있도록 하는 기능입니다.

 

 

✅ 사용 사례

• 딥러닝/AI 모델 학습: TensorFlow, PyTorch 등의 프레임워크 활용
• 고성능 컴퓨팅(HPC): 병렬 연산이 필요한 과학/기술 계산
• VDI 환경: 그래픽이 중요한 원격 데스크톱 환경 구축
• 3D 렌더링 및 영상 편집: Blender, DaVinci Resolve 같은 고성능 그래픽 소프트웨어 활용

 

✅ GPU Passthrough vs. vGPU

항목	GPU Passthrough	vGPU
GPU 독점 사용 여부	단일 vm에 전체 gpu 할당	여러 vm에서 gpu 공유
성능	물리 gpu와 동일한 성능	일정 부분 오버헤드 발생
활용 사례	AI, 딥러닝, 3D 렌더링	VDI, 일반 그래픽 가

 

 

2️⃣ GPU Passthrough를 위한 사전 준비

 

✅ 하드웨어 요구 사항

• CPU: VT-d(Intel) 또는 AMD-Vi(AMD) 지원
• 마더보드: IOMMU 기능 활성화 가능
• GPU: NVIDIA 또는 AMD GPU (ESXi에서 공식 지원되는 모델 확인)

✅ 소프트웨어 요구 사항

• VMware ESXi 6.5 이상 권장
• vCenter Server (선택 사항)
• VM Hardware Version 14 이상

✅ BIOS 설정 확인

ESXi에서 GPU Passthrough를 활성화하려면 BIOS에서 IOMMU 관련 설정을 변경해야 합니다.

1. Intel 시스템: VT-d 활성화
2. AMD 시스템: IOMMU 활성화

 

3️⃣ ESXi에서 GPU Passthrough 설정 방법

⚠️ 주의: ESXi에 GPU Passthrough를 적용하면 ESXi 콘솔이 비활성화될 수 있으므로, SSH 또는 vSphere Client를 통해 접근하는 것이 좋습니다.

1. ESXi Web UI에서 GPU Passthrough 활성화
   • 호스트(Host) → 관리(Manage) → 硬件(Hardware) → PCI 장치(Passthrough) 이동
   • GPU 및 관련 장치(NVIDIA, AMD) 선택 후 활성화(Enable)
2. GPU 드라이버 확인 및 설정 적용
   • esxcli hardware pci list | grep -i nvidia 또는 grep -i amd 명령어로 GPU 확인
   • GPU의 PCI Device ID 및 상태 확인
3. GPU를 사용할 VM 생성 및 GPU 할당
   • VM 설정에서 하드웨어 추가 → PCI 장치 선택
   • DirectPath I/O에서 GPU 추가
   • Reserve all memory 옵션 활성화 (메모리 예약 필수)
4. NVIDIA 또는 AMD 드라이버 설치 (Guest OS)
   • Windows 또는 Linux VM에서 GPU 드라이버 설치
   • nvidia-smi 또는 lspci | grep -i vga 명령어로 GPU 정상 인식 확인

유지보수 모드 시작

하드웨어 확인

 

패스스루 전환하기

 

호스트 재부팅

재부팅 후 유지 보수 모드 종료

vm 설정 편집

PCI 디바이스 추가

사용할 GPU 디바이스 선택

모든 게스트 메모리 예약(모두 잠김) 선택

VM 옵션 , 고급

VM 옵션 , 고급 , 구성 편집

매개 변수 추가 2개 추가 후 키, 값 변경

설정 값

pciPassthru.use64bitMMIO: TRUE
pciPassthru.64bitMMIOSizeGB: 256

 

설정값 확인

참고 사항

passthrough는 물리적 그래픽 카드를 vm에 할당한 것이므로 제대로 설정하면 화면이 출력되지 않는다. ssh 접속후 확인하면 제대로 그래픽 카드가 인식된 것을 확인할 수 있다.

# lspci | grep -i nvidia
03:00.0 VGA compatible controller: NVIDIA Corporation GK107GL [Quadro K2000] (rev a1)