728x90 NVIDIA13 [Nvidia] VMware ESXI VM에서 그래픽 카드 인식하기(GPU Passthrough) 1️⃣ GPU Passthrough란?GPU Passthrough는 DirectPath I/O 기술을 사용하여 물리적인 GPU를 가상 머신(VM)에서 직접 사용할 수 있도록 하는 기능입니다. ✅ 사용 사례딥러닝/AI 모델 학습: TensorFlow, PyTorch 등의 프레임워크 활용고성능 컴퓨팅(HPC): 병렬 연산이 필요한 과학/기술 계산VDI 환경: 그래픽이 중요한 원격 데스크톱 환경 구축3D 렌더링 및 영상 편집: Blender, DaVinci Resolve 같은 고성능 그래픽 소프트웨어 활용 ✅ GPU Passthrough vs. vGPU항목GPU PassthroughvGPUGPU 독점 사용 여부단일 vm에 전체 gpu 할당여러 vm에서 gpu 공유성능물리 gpu와 동일한 성능일정 부분 오버헤.. 2025. 3. 7. [NVIDIA] NVIDIA SR-IOV 설정을 통한 vGPU 활성화 가이드 🚀 개요최근 GPU 가상화 기술이 발전하면서 하나의 물리 GPU(PGPU)를 여러 개의 가상 GPU(vGPU)로 인식하여 사용할 수 있는 Nvidia SR_IOV(Single Boot I/O Virtualization) 기능이 주목 받고 있습니다. 이 글에서는 Passthrough GPU를 vGPU처럼 인식하도록 설정하는 방법을 다룹니다. 🖥️ NVIDIA SR-IOV란 ?📌 SR-IOV란?SR-IOV(Single Root I/O Virtualization)는 PCIe 디바이스를 물리적으로 분할하여 가상머신에 독립적으로 사용할 수 있도록 해주는 기술입니다. 특히 GPU 가상화에서 활용되며, 하나의 GPU를 여러 개의 가상 GPU(vGPU)로 나눠서 여러 VM이 사용할 수 있도록 합니다. 📌 왜 .. 2025. 2. 23. [NVIDIA] Cuda Toolkit 설치 # nvidia-smiThu Oct 17 16:23:44 2024+-----------------------------------------------------------------------------------------+| NVIDIA-SMI 550.54.14 Driver Version: 550.54.14 CUDA Version: 12.4 ||-----------------------------------------+------------------------+----------------------+| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC.. 2024. 10. 22. [NVIDIA] In use by another client(프로세스 충돌) ERR 로그# nvidia-smi --gpu-resetThe following GPUs could not be reset: GPU 00000000:B8:00.0: In use by another client1 device is currently being used by one or more other processes (e.g., Fabric Manager, CUDA application, graphics application such as an X server, or a monitoring application such as another instance of nvidia-smi). Please first kill all processes using this device and all compute .. 2024. 10. 18. [NVIDIA] MIG(Multi-Instance-GPU) Docker 컨테이너에 할당 1. MIG 활성화확인(비활성화 되어 있음)# nvidia-smiWed Jul 31 10:57:26 2024 +-----------------------------------------------------------------------------------------+| NVIDIA-SMI 550.90.07 Driver Version: 550.90.07 CUDA Version: 12.4 ||-----------------------------------------+------------------------+----------------------+| GPU Name Persistence-M | Bus-Id .. 2024. 8. 3. [NVIDIA] MIG(Multi-Instance-GPU) 설정 및 생성 삭제 MIG 설정 순서MIG 활성화GPU Instance(GI) 생성Compute Instance(CI) 생성MIG 활성화 전 확인# nvidia-smiMIG 활성화 /비활성화nvidia-smi -i [활성화할 GPU 번호] -mig [0/1 비활성화 / 활성화]5번 GPU 활성화# nvidia-smi -i 5 -mig 10번 GPU 비활성화# nvidia-smi -i 0 -mig 0활성화 / 비활성화 후 GPU 리셋# nvidia-smi --gpu-reset# nvidia-smiMIG 프로필 확인GPU : 각 GPU 당 7개씩 MIG 나누어진 것 확인Instance Free / Total : GI 생성 가능 개수 확인Memory GIB 유의해서 원하는 만큼 활성화 시키기# nvidia-smi mig -lgi.. 2024. 8. 2. 이전 1 2 3 다음 728x90
