728x90 엔비디아6 [Nvidia] VMware ESXI VM에서 그래픽 카드 인식하기(GPU Passthrough) 1️⃣ GPU Passthrough란?GPU Passthrough는 DirectPath I/O 기술을 사용하여 물리적인 GPU를 가상 머신(VM)에서 직접 사용할 수 있도록 하는 기능입니다. ✅ 사용 사례딥러닝/AI 모델 학습: TensorFlow, PyTorch 등의 프레임워크 활용고성능 컴퓨팅(HPC): 병렬 연산이 필요한 과학/기술 계산VDI 환경: 그래픽이 중요한 원격 데스크톱 환경 구축3D 렌더링 및 영상 편집: Blender, DaVinci Resolve 같은 고성능 그래픽 소프트웨어 활용 ✅ GPU Passthrough vs. vGPU항목GPU PassthroughvGPUGPU 독점 사용 여부단일 vm에 전체 gpu 할당여러 vm에서 gpu 공유성능물리 gpu와 동일한 성능일정 부분 오버헤.. 2025. 3. 7. [NVIDIA] NVIDIA SR-IOV 설정을 통한 vGPU 활성화 가이드 🚀 개요최근 GPU 가상화 기술이 발전하면서 하나의 물리 GPU(PGPU)를 여러 개의 가상 GPU(vGPU)로 인식하여 사용할 수 있는 Nvidia SR_IOV(Single Boot I/O Virtualization) 기능이 주목 받고 있습니다. 이 글에서는 Passthrough GPU를 vGPU처럼 인식하도록 설정하는 방법을 다룹니다. 🖥️ NVIDIA SR-IOV란 ?📌 SR-IOV란?SR-IOV(Single Root I/O Virtualization)는 PCIe 디바이스를 물리적으로 분할하여 가상머신에 독립적으로 사용할 수 있도록 해주는 기술입니다. 특히 GPU 가상화에서 활용되며, 하나의 GPU를 여러 개의 가상 GPU(vGPU)로 나눠서 여러 VM이 사용할 수 있도록 합니다. 📌 왜 .. 2025. 2. 23. [Docker, NVIDIA] MIG 를 할당한 컨테이너 생성 MIG 활성화하기활성화 전# nvidia-smiFri Oct 18 10:04:07 2024+-----------------------------------------------------------------------------------------+| NVIDIA-SMI 550.54.14 Driver Version: 550.54.14 CUDA Version: 12.4 ||-----------------------------------------+------------------------+----------------------+| GPU Name Persistence-M | Bus-Id Disp.A | Volati.. 2024. 10. 24. [Docker] GPU 컨테이너 생성 일반 도커 생성 시 gpu 명령(nvidia-smi) 사용 불가 확인# docker run -it --rm ubuntu:latestroot@27325dccffa0:/# nvidia-smibash: nvidia-smi: command not founddocker run 할 때 --gpu 옵션으로 도커 컨테이너에 gpu 할당# docker run --gpus all -it --rm ubunturoot@95e0b226698f:/# nvidia-smiFri Oct 18 00:38:36 2024+-----------------------------------------------------------------------------------------+| NVIDIA-SMI 550.54.14 .. 2024. 10. 23. [NVIDIA] Cuda Toolkit 설치 # nvidia-smiThu Oct 17 16:23:44 2024+-----------------------------------------------------------------------------------------+| NVIDIA-SMI 550.54.14 Driver Version: 550.54.14 CUDA Version: 12.4 ||-----------------------------------------+------------------------+----------------------+| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC.. 2024. 10. 22. [NVIDIA] MIG(Multi-Instance-GPU) 설정 및 생성 삭제 MIG 설정 순서MIG 활성화GPU Instance(GI) 생성Compute Instance(CI) 생성MIG 활성화 전 확인# nvidia-smiMIG 활성화 /비활성화nvidia-smi -i [활성화할 GPU 번호] -mig [0/1 비활성화 / 활성화]5번 GPU 활성화# nvidia-smi -i 5 -mig 10번 GPU 비활성화# nvidia-smi -i 0 -mig 0활성화 / 비활성화 후 GPU 리셋# nvidia-smi --gpu-reset# nvidia-smiMIG 프로필 확인GPU : 각 GPU 당 7개씩 MIG 나누어진 것 확인Instance Free / Total : GI 생성 가능 개수 확인Memory GIB 유의해서 원하는 만큼 활성화 시키기# nvidia-smi mig -lgi.. 2024. 8. 2. 이전 1 다음 728x90
