본문 바로가기
728x90
반응형

엔비디아10

[Python(AI)] Python 개발자를 위한 GPU 가속 : nvmath-python과 cuda.core 파이썬은 AI, 데이터 과학 분야에서 독보적인 언어지만, 복잡한 수치 연산을 빠르게 처리하는 데는 GPU(그래픽 처리 장치)의 도움이 필수적입니다. 과거에는 GPU를 활용하려면 C/C++ 바인딩이라는 복잡한 과정을 거쳐야 했지만, 이제 NVIDIA가 직접 제공하는 두 가지 강력한 라이브러리 nvmath-python 과 cuda.core 덕분에 파이썬으로도 GPU의 성능을 100% 활용할 수 있게 되었습니다. 개요 : 두 라이브러리의 역할 분담NVIDIA는 CUDA Python 이라는 메타 패키지를 통해 파이썬에서 CUDA 플랫폼에 접근할 수 있는 여러 컴포넌트를 제공합니다. nvmath-python 과 cuda-core는 이 중 핵심 역할을 담당합니다.nvmath-python : 고도로 최적화된 수학 함.. 2025. 10. 10.
[NVIDIA] CUDA : NVIDIA GPU 병렬 컴퓨팅 플랫폼 개요CUDA(Compute Unified Device Architecture)는 NVIDIA가 개발한 GPU 병렬 컴퓨팅 플랫폼이자 프로그래밍 모델입니다. 원래 GPU는 그래픽 처리를 위해 만들어졌지만, CUDA를 통해 과학 계산, 머신러닝, 빅데이터 등 일반적인 범용 연산에도 GPU의 병렬 처리 성능을 활용할 수 있게 되었습니다.주제 개념CUDA : Compute Unified Device Architecture의 약자Compute : 연산Unified : 통합된Device Architecture : 장치 구조즉, 연산을 위해 통합된 장치 구조라는 의미로, CPU와 GPU가 협력해 작업을 수행할 수 있는 통합 환경을 뜻합니다.IT 에서 쓰이는 개념IT 분야에서는 CUDA가 단순히 그래픽 처리를 넘어서.. 2025. 10. 1.
[Protocol] Rockylinux DCV Setting (with 3D setting) 개요Rockylinux 8.10에 디스플레이를 가져오기 위한 DCV 서버를 설치하고, 클라이언트에서 GPU 리소스도 이용할 수 있는 3D 세팅까지에 관한 글입니다. 사전 준비접속할 클라이언트 사용자 PC 세팅(아래와 같이 C++이 필요하다고 팝업이 뜰경우) Visual Studio C++ installwinget install "Visual Studio Community 2022" --override "--add Microsoft.VisualStudio.Workload.NativeDesktop Microsoft.VisualStudio.ComponentGroup.WindowsAppSDK.Cpp" -s msstore Linux Server settingOS Package installyum groupins.. 2025. 7. 31.
[NVIDIA] NVIDIA vWS , vCS 개요NVIDIA 가상 GPU(vGPU) 소프트웨어는 물리 GPU를 다수의 가상 머신(VM)이 공유하고 사용할 수 있도록 해, 하이퍼바이저 기반 가상화 환경에서도 GPU 성능을 그대로 활용할 수 있게 해줍니다 세 가지 주요 에디션이 있으며, 목적과 기능에 따라 구분됩니다:vPC: 일반 사무용·사무직용 가상 데스크톱vApps: 애플리케이션 스트리밍(RDSH 등)vWS: 고사양 그래픽 및 전문 워크스테이션용vCS: AI 및 HPC 같은 연산 중심 워크로드용각 제품은 라이선스 방식, 제공 기능, 지원 워크로드가 다릅니다. vWS (RTX Virtual Workstation)개요고성능 전문 그래픽, 엔지니어링, AI 개발 워크로드에 최적화된 가상 워크스테이션예: CAD, 3D 렌더링, 과학 시각화, AI 실험 등.. 2025. 7. 24.
[Nvidia] VMware ESXI VM에서 그래픽 카드 인식하기(GPU Passthrough) 1️⃣ GPU Passthrough란?GPU Passthrough는 DirectPath I/O 기술을 사용하여 물리적인 GPU를 가상 머신(VM)에서 직접 사용할 수 있도록 하는 기능입니다.  ✅ 사용 사례딥러닝/AI 모델 학습: TensorFlow, PyTorch 등의 프레임워크 활용고성능 컴퓨팅(HPC): 병렬 연산이 필요한 과학/기술 계산VDI 환경: 그래픽이 중요한 원격 데스크톱 환경 구축3D 렌더링 및 영상 편집: Blender, DaVinci Resolve 같은 고성능 그래픽 소프트웨어 활용 ✅ GPU Passthrough vs. vGPU항목GPU PassthroughvGPUGPU 독점 사용 여부단일 vm에 전체 gpu 할당여러 vm에서 gpu 공유성능물리 gpu와 동일한 성능일정 부분 오버헤.. 2025. 3. 7.
[NVIDIA] NVIDIA SR-IOV 설정을 통한 vGPU 활성화 가이드 🚀 개요최근 GPU 가상화 기술이 발전하면서 하나의 물리 GPU(PGPU)를 여러 개의 가상 GPU(vGPU)로 인식하여 사용할 수 있는 Nvidia SR_IOV(Single Boot I/O Virtualization) 기능이 주목 받고 있습니다. 이 글에서는 Passthrough GPU를 vGPU처럼 인식하도록 설정하는 방법을 다룹니다.  🖥️ NVIDIA SR-IOV란 ?📌 SR-IOV란?SR-IOV(Single Root I/O Virtualization)는 PCIe 디바이스를 물리적으로 분할하여 가상머신에 독립적으로 사용할 수 있도록 해주는 기술입니다. 특히 GPU 가상화에서 활용되며, 하나의 GPU를 여러 개의 가상 GPU(vGPU)로 나눠서 여러 VM이 사용할 수 있도록 합니다. 📌 왜 .. 2025. 2. 23.
728x90
반응형