GPU Passthrough in Proxmox: A Comprehensive Guide

GPU 패스스루를 사용하면 Proxmox의 가상 머신이 향상된 성능과 기능을 위해 호스트 GPU를 사용할 수 있습니다.

### Proxmox의 GPU 패스스루: 종합 가이드
* 🖥 GPU 패스스루를 사용하면 호스트 시스템의 GPU를 가상 머신(VM)에서 **마치 물리적으로 존재하는 것처럼** 사용할 수 있으므로 게임 및 비디오 렌더링과 같은 작업을 위한 하드웨어 가속이 가능합니다.
* 🎮 Proxmox에서 Windows 가상 머신을 생성하면 사용자는 **Nvidia 또는 AMD와 같은 외부 GPU를 통과**할 수 있으며, Linux 가상 머신은 **FRATE를 사용한 객체 감지 또는 로컬에서 AI 모델 실행**과 같은 AI 작업에 GPU를 활용할 수 있습니다.
* 🔧 PCIe 패스스루를 구현하려면 **AMD, Nvidia 또는 Intel GPU**가 필요하며, **인텔의 GVT-g 또는 엔비디아의 vGPU 기술**을 사용하지 않는 한 한 번에 하나의 GPU만 단일 VM에 통과할 수 있습니다.
* ⚙ ️ 필수 전제 조건에는 가상화 기술(VT-x 또는 SVM)을 활성화하고 BIOS에서 IOMMU 그룹을 구성하는 것과 함께 **호스트 OS에서 GPU 드라이버를 블랙리스트에 추가**하여 VM 시작 중 오류를 방지하는 것이 포함됩니다.
* 📝 사용자는 GRUB 구성 파일을 편집하여 **IOMMU 명령 및 vfio 모듈**을 포함하도록 하고, Proxmox 호스트를 다시 시작하기 전에 **initramfs 파일 시스템을 업데이트**하여 IOMMU 기능을 확인해야 합니다.
* 🚧 원하는 PCI 장치가 다른 장치와 IOMMU 그룹을 공유하는 경우, 이를 통과하면 실수로 다른 장치를 통과할 수 있으므로 보안과 관련된 문제로 인해 **PCI ACS 재정의 패치**를 최후의 수단으로 사용해야 합니다.
* 💻 디바이스가 별도의 IOMMU 그룹에서 격리된 것을 확인한 후, 사용자는 VM을 재부팅하기 전에 **Proxmox GUI를 통해 디바이스를 통과하여 VM 설정에 추가된 PCI 디바이스가 반영**되었는지 확인할 수 있습니다.
* 📦 Nvidia GPU의 경우 사용자는 호환성을 보장하기 위해 **적절한 서버 드라이버**를 설치해야 LLM 및 원격 렌더링을 비롯한 다양한 애플리케이션에 GPU를 활용할 수 있습니다.

How to do PCI-E/GPU Passthrough in Proxmox | IOMMU Groups Explained

TechnoBoom

GPU 패스스루의 정의와 GPU를 가상 머신에 물리적으로 존재하는 것처럼 보이게 하는 기능입니다.

Windows VM에서 하드웨어 가속 렌더링, 게임 및 컴퓨팅 작업에 GPU 패스스루를 사용하는 예시입니다.

객체 감지(FRATE) 및 로컬에서 AI 모델 실행과 같은 AI 작업을 위한 Linux 헤드리스 가상 머신의 사용 사례.

TensorFlow 추론을 통한 AI 가속화를 위해 PCIe Coral TPU를 활용합니다.

가상 머신에 GPU를 제공하는 FRATE 소프트웨어와 Linux 커널의 역할에 대한 설명입니다.

PCIe 패스스루를 위한 요구 사항 및 전제 조건

GPU 요구 사항(AMD, Nvidia, Intel) 및 단일 GPU를 통해 한 번에 하나의 VM을 통과하는 데 대한 제한 사항.

예외: 인텔 iGPU 분할 패스스루(GVT-g) 및 엔비디아 vGPU(전문가용 카드).

분할 패스스루를 사용할 때 iGPU 또는 GPU vRAM의 RAM 요구 사항.

가상화 기술이 활성화되어 있고 IOMMU 그룹이 올바르게 구성되어 있어야 합니다.

Proxmox 설치 및 GRUB/VFIO 구성에 대한 이전 동영상을 참조하세요.

GPU 패스스루 활성화: BIOS 및 OS 구성

BIOS 설정에서 VT-x/SVM 및 VT-d/AMD-VI 활성화.

호스트 OS에서 GPU 드라이버를 블랙리스트에 추가합니다.

GRUB 구성 파일을 편집하여 IOMMU 명령(amd_iommu=on, iommu=pt 또는 intel_iommu=on)을 추가합니다.

모듈 파일을 편집하여 vfio 모듈을 추가하고 initramfs 파일 시스템을 업데이트합니다.

Proxmox 호스트를 다시 시작하고 IOMMU 활성화를 확인합니다.

IOMMU 그룹 공유 및 PCI ACS 재정의 해결

주의: IOMMU 그룹을 공유하는 PCI 장치와 해당 그룹의 모든 장치에 대한 패스스루.

권장 사항: 권장 사항: 디바이스 격리를 개선하기 위해 여러 개의 IOMMU 그룹이 있는 마더보드.

보안에 영향을 미칠 수 있으므로 PCI ACS 재정의 패치를 최후의 수단으로 사용합니다.

PCI 디바이스용 샌드박스로서의 IOMMU 그룹에 대한 설명입니다.

예시 시나리오: Wi-Fi와 LAN 간의 공유 IOMMU 그룹으로 인해 PCI ACS 재정의 사용.

추가 GRUB 구성 및 인텔 iGPU 패스스루

GRUB 명령줄을 수정하여 PCIe ACS 재정의에 대한 명령을 추가합니다(필요한 경우).

시스템 유형(인텔/AMD)에 따라 적합한 명령에 대한 GitHub 링크입니다.

AMD 머신의 경우 'amdor IU=1' 사용.

Coral M.2 카드가 문제를 일으켜 PCIe ACS 오버라이드 패치를 사용한 예시입니다.

GitHub 링크에서 인텔 iGPU 분할 패스스루(GVT-G)를 위한 명령어를 확인하세요.

구성 후 단계 및 디바이스 패스스루

명령 설명: iio_mmu, 인텔 패스스루, PCIe ACS 오버라이드, Proxmox 호스트가 GPU를 사용하지 못하도록 차단.

시스템을 다시 시작하고 lspci 명령을 사용하여 IOMMU 그룹을 확인합니다.

장치가 별도의 IOMMU 그룹에 속하지 않은 경우 PCI ACS 재정의 사용.

Proxmox GUI 인터페이스를 통해 장치를 통과합니다.

PCI 장치를 VM에 추가하고 '모든 기능', PCI Express 및 RAM 표시줄이 선택되어 있는지 확인합니다.

이미 통과된 GPU가 있는 가상 머신 데모.

VM 내에서 lspci 명령을 사용하여 GPU 패스스루를 확인합니다.

DKMS를 지원하는 서버 드라이버를 검색하여 Nvidia 드라이버(필요한 경우)를 설치합니다.

드라이버 호환성을 위한 DKMS(동적 커널 모듈 지원)의 중요성.

nvidia-smi를 사용하여 드라이버 설치 및 GPU 감지 확인.