728x90 GPU13 [AI] 대한민국 AI 인프라 혁신: 민관 GPU 클러스터 구축 사업 사업 개요과학기술정보통신부는 “AI 컴퓨팅자원 활용기반 강화사업”의 일환으로 1조 4,600억 원 규모의 GPU 조달 및 운영 사업을 추진했습니다대상은 엔비디아의 최첨단 GPU인 B200과 H200 모델로, 국내 산학연, 스타트업, 연구기관 등에 제공될 예정입니다 선정된 기업 및 역할 분담기업확보 GPU 모델수량NHN 클라우드 B2007656 장카카오B2002424 장네이버 클라우드H2003056 장 사업 주요 특징과 전략 예산과 인프라 규모2025년 1차 추경 예산 1조4,600억 원 확보엔비디아 GPU 총 1만3천여 장 확보 목표클러스터 구성 방식B200 기반으로 대형 클러스터(510노드, 255노드 × 2세트) 구성: 고밀도 AI 워크로드 대응H200 기반으로 연말까지 안정적 배포 및 서비스 개시 .. 2025. 8. 1. [Rocky 8.10][KVM] Nvidia GPU PassThrough(pGPU) 구성 개요Nvidia GPU를 VFIO(Virtual Function I/O) 모듈을 통해 패스스루(pass-through) 하기 위한 과정주로 KVM/QEMU 가상화 환경에서 GPU를 VM에 직접 할당하려는 목적에 사용됨설정 후 GPU는 호스트에서 사용되지 않으며, vfio-pci 드라이버에 바인딩되어 가상머신에서 사용할 수 있음패스스루(Pass-Through)호스트 시스템에 물리적으로 연결된 하드웨어 자원(GPU, NIC등)을 가상머신이 직접 제어할 수 있도록 직접 연결해 주는 기술가상 환경에서도 네이티브 성능에 가까운 하드웨어 엑세스를 제공해줌VM에서 GPU를 CUDA 연산용으로 사용하거나, 게이밍/렌더링에 활용하는 경우VFIO & vfio-pciVFIO(Virtual Function I/O)는 리눅스 .. 2025. 7. 21. GPU 원격 렌더링 환경 구축: TurboVNC + VirtualGL + NVIDIA GPU 개요GPU가 장착된 서버에서 OpenGL 기반 3D 애플리케이션을 원격으로 실행하고 싶다면, 가장 대표적인 조합이 바로 TurboVNC + VirtualGL입니다. 이번 포스트에서는 해당 기술 스택을 기반으로 GPU 리소스를 활용한 원격 데스크탑 환경을 구축하는 전체 과정을 다룹니다. 📌 개념 정리: VirtualGL이 GPU를 어떻게 사용하는가?기본적으로 ssh -X나 X11 forwarding을 사용할 경우, OpenGL 렌더링은 서버의 CPU 소프트웨어 렌더러가 담당하기 때문에 성능이 매우 떨어집니다.하지만 VirtualGL을 활용하면 OpenGL 명령을 서버의 GPU에서 직접 처리하게 만들어 성능을 비약적으로 향상시킬 수 있습니다. 전체 흐름 요약TurboVNC Viewer (Client) .. 2025. 4. 24. [Nvidia] VMware ESXI VM에서 그래픽 카드 인식하기(GPU Passthrough) 1️⃣ GPU Passthrough란?GPU Passthrough는 DirectPath I/O 기술을 사용하여 물리적인 GPU를 가상 머신(VM)에서 직접 사용할 수 있도록 하는 기능입니다. ✅ 사용 사례딥러닝/AI 모델 학습: TensorFlow, PyTorch 등의 프레임워크 활용고성능 컴퓨팅(HPC): 병렬 연산이 필요한 과학/기술 계산VDI 환경: 그래픽이 중요한 원격 데스크톱 환경 구축3D 렌더링 및 영상 편집: Blender, DaVinci Resolve 같은 고성능 그래픽 소프트웨어 활용 ✅ GPU Passthrough vs. vGPU항목GPU PassthroughvGPUGPU 독점 사용 여부단일 vm에 전체 gpu 할당여러 vm에서 gpu 공유성능물리 gpu와 동일한 성능일정 부분 오버헤.. 2025. 3. 7. [NVIDIA] NVIDIA SR-IOV 설정을 통한 vGPU 활성화 가이드 🚀 개요최근 GPU 가상화 기술이 발전하면서 하나의 물리 GPU(PGPU)를 여러 개의 가상 GPU(vGPU)로 인식하여 사용할 수 있는 Nvidia SR_IOV(Single Boot I/O Virtualization) 기능이 주목 받고 있습니다. 이 글에서는 Passthrough GPU를 vGPU처럼 인식하도록 설정하는 방법을 다룹니다. 🖥️ NVIDIA SR-IOV란 ?📌 SR-IOV란?SR-IOV(Single Root I/O Virtualization)는 PCIe 디바이스를 물리적으로 분할하여 가상머신에 독립적으로 사용할 수 있도록 해주는 기술입니다. 특히 GPU 가상화에서 활용되며, 하나의 GPU를 여러 개의 가상 GPU(vGPU)로 나눠서 여러 VM이 사용할 수 있도록 합니다. 📌 왜 .. 2025. 2. 23. [hardware]서버 냉각 방식 고성능 GPU(A100, H100, H200 등)를 위한 서버 냉각 방식 설명고성능 GPU(A100, H100, H200 등)를 사용하는 현대 데이터 센터는 점점 더 강력한 열 방출을 관리하기 위한 냉각 솔루션이 필요합니다. 효과적인 냉각은 서버 성능 유지, 장비 손상 방지, 에너지 효율성 향상에 필수적입니다. 이 글에서는 8가지 주요 서버 냉각 방식을 살펴보고 각각의 장단점 및 고열 GPU 환경에서의 적합성을 논의합니다. 1. 공기 냉각(Air Cooling) - 전통적 접근 방식개요: 서버 랙 주변의 공기를 순환시키는 팬과 공기 취급 장치(AHU)를 사용.장점: 단순하고 비용 효율적이며 적용이 용이.단점: 고성능 GPU의 열을 효율적으로 처리하기 어려워 대형 공조 시스템 필요. 에너지 소모가 크고 대.. 2024. 11. 20. 이전 1 2 3 다음 728x90
