728x90 반응형 NVIDIA16 [NVIDIA] NumPy의 한계를 넘어, GPU 가속의 힘 CuPy 완벽 가이드 파이썬으로 대규모 과학 계산이나 데이터 처리를 할 때 NumPy는 필수 라이브러리입니다. 하지만 데이터의 크기가 기하급수적으로 늘어날 수록 CPU만으로는 처리 속도의 한계에 부딪히게 됩니다. 이럴 때 필요한 것이 바로 CuPy입니다. CuPy는 NumPy와 거의 동일한 문법을 사용하면서도 코드를 GPU에서 실행하여 데이터 처리 속도를 극적으로 가속하는 혁신적인 라이브러리입니다.주제 개념 및 용어 정리용어실제 단어 뜻 CuPy에서의 의미NumPyNumerical Python의 합성어. 파이썬에서 대규모 다차원 배열을 다루고 행렬 및 벡터 연산을 수행하는 데 사용하는 핵심 라이브러리입니다. 모든 연산은 CPU에서 이루어집니다.CuPy가 지향하는 문법 및 기능의 표준이자, CuPy가 가속화를 제공하는 대상입니.. 2025. 10. 9. [NVIDIA] CUDA : NVIDIA GPU 병렬 컴퓨팅 플랫폼 개요CUDA(Compute Unified Device Architecture)는 NVIDIA가 개발한 GPU 병렬 컴퓨팅 플랫폼이자 프로그래밍 모델입니다. 원래 GPU는 그래픽 처리를 위해 만들어졌지만, CUDA를 통해 과학 계산, 머신러닝, 빅데이터 등 일반적인 범용 연산에도 GPU의 병렬 처리 성능을 활용할 수 있게 되었습니다.주제 개념CUDA : Compute Unified Device Architecture의 약자Compute : 연산Unified : 통합된Device Architecture : 장치 구조즉, 연산을 위해 통합된 장치 구조라는 의미로, CPU와 GPU가 협력해 작업을 수행할 수 있는 통합 환경을 뜻합니다.IT 에서 쓰이는 개념IT 분야에서는 CUDA가 단순히 그래픽 처리를 넘어서.. 2025. 10. 1. [NVIDIA] NVIDIA vWS , vCS 개요NVIDIA 가상 GPU(vGPU) 소프트웨어는 물리 GPU를 다수의 가상 머신(VM)이 공유하고 사용할 수 있도록 해, 하이퍼바이저 기반 가상화 환경에서도 GPU 성능을 그대로 활용할 수 있게 해줍니다 세 가지 주요 에디션이 있으며, 목적과 기능에 따라 구분됩니다:vPC: 일반 사무용·사무직용 가상 데스크톱vApps: 애플리케이션 스트리밍(RDSH 등)vWS: 고사양 그래픽 및 전문 워크스테이션용vCS: AI 및 HPC 같은 연산 중심 워크로드용각 제품은 라이선스 방식, 제공 기능, 지원 워크로드가 다릅니다. vWS (RTX Virtual Workstation)개요고성능 전문 그래픽, 엔지니어링, AI 개발 워크로드에 최적화된 가상 워크스테이션예: CAD, 3D 렌더링, 과학 시각화, AI 실험 등.. 2025. 7. 24. [Nvidia] VMware ESXI VM에서 그래픽 카드 인식하기(GPU Passthrough) 1️⃣ GPU Passthrough란?GPU Passthrough는 DirectPath I/O 기술을 사용하여 물리적인 GPU를 가상 머신(VM)에서 직접 사용할 수 있도록 하는 기능입니다. ✅ 사용 사례딥러닝/AI 모델 학습: TensorFlow, PyTorch 등의 프레임워크 활용고성능 컴퓨팅(HPC): 병렬 연산이 필요한 과학/기술 계산VDI 환경: 그래픽이 중요한 원격 데스크톱 환경 구축3D 렌더링 및 영상 편집: Blender, DaVinci Resolve 같은 고성능 그래픽 소프트웨어 활용 ✅ GPU Passthrough vs. vGPU항목GPU PassthroughvGPUGPU 독점 사용 여부단일 vm에 전체 gpu 할당여러 vm에서 gpu 공유성능물리 gpu와 동일한 성능일정 부분 오버헤.. 2025. 3. 7. [NVIDIA] NVIDIA SR-IOV 설정을 통한 vGPU 활성화 가이드 🚀 개요최근 GPU 가상화 기술이 발전하면서 하나의 물리 GPU(PGPU)를 여러 개의 가상 GPU(vGPU)로 인식하여 사용할 수 있는 Nvidia SR_IOV(Single Boot I/O Virtualization) 기능이 주목 받고 있습니다. 이 글에서는 Passthrough GPU를 vGPU처럼 인식하도록 설정하는 방법을 다룹니다. 🖥️ NVIDIA SR-IOV란 ?📌 SR-IOV란?SR-IOV(Single Root I/O Virtualization)는 PCIe 디바이스를 물리적으로 분할하여 가상머신에 독립적으로 사용할 수 있도록 해주는 기술입니다. 특히 GPU 가상화에서 활용되며, 하나의 GPU를 여러 개의 가상 GPU(vGPU)로 나눠서 여러 VM이 사용할 수 있도록 합니다. 📌 왜 .. 2025. 2. 23. [NVIDIA] Cuda Toolkit 설치 # nvidia-smiThu Oct 17 16:23:44 2024+-----------------------------------------------------------------------------------------+| NVIDIA-SMI 550.54.14 Driver Version: 550.54.14 CUDA Version: 12.4 ||-----------------------------------------+------------------------+----------------------+| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC.. 2024. 10. 22. 이전 1 2 3 다음 728x90 반응형
