728x90 반응형 GPU16 [Python(AI)] Python 개발자를 위한 GPU 가속 : nvmath-python과 cuda.core 파이썬은 AI, 데이터 과학 분야에서 독보적인 언어지만, 복잡한 수치 연산을 빠르게 처리하는 데는 GPU(그래픽 처리 장치)의 도움이 필수적입니다. 과거에는 GPU를 활용하려면 C/C++ 바인딩이라는 복잡한 과정을 거쳐야 했지만, 이제 NVIDIA가 직접 제공하는 두 가지 강력한 라이브러리 nvmath-python 과 cuda.core 덕분에 파이썬으로도 GPU의 성능을 100% 활용할 수 있게 되었습니다. 개요 : 두 라이브러리의 역할 분담NVIDIA는 CUDA Python 이라는 메타 패키지를 통해 파이썬에서 CUDA 플랫폼에 접근할 수 있는 여러 컴포넌트를 제공합니다. nvmath-python 과 cuda-core는 이 중 핵심 역할을 담당합니다.nvmath-python : 고도로 최적화된 수학 함.. 2025. 10. 10. [NVIDIA] NumPy의 한계를 넘어, GPU 가속의 힘 CuPy 완벽 가이드 파이썬으로 대규모 과학 계산이나 데이터 처리를 할 때 NumPy는 필수 라이브러리입니다. 하지만 데이터의 크기가 기하급수적으로 늘어날 수록 CPU만으로는 처리 속도의 한계에 부딪히게 됩니다. 이럴 때 필요한 것이 바로 CuPy입니다. CuPy는 NumPy와 거의 동일한 문법을 사용하면서도 코드를 GPU에서 실행하여 데이터 처리 속도를 극적으로 가속하는 혁신적인 라이브러리입니다.주제 개념 및 용어 정리용어실제 단어 뜻 CuPy에서의 의미NumPyNumerical Python의 합성어. 파이썬에서 대규모 다차원 배열을 다루고 행렬 및 벡터 연산을 수행하는 데 사용하는 핵심 라이브러리입니다. 모든 연산은 CPU에서 이루어집니다.CuPy가 지향하는 문법 및 기능의 표준이자, CuPy가 가속화를 제공하는 대상입니.. 2025. 10. 9. [NVIDIA] CUDA : NVIDIA GPU 병렬 컴퓨팅 플랫폼 개요CUDA(Compute Unified Device Architecture)는 NVIDIA가 개발한 GPU 병렬 컴퓨팅 플랫폼이자 프로그래밍 모델입니다. 원래 GPU는 그래픽 처리를 위해 만들어졌지만, CUDA를 통해 과학 계산, 머신러닝, 빅데이터 등 일반적인 범용 연산에도 GPU의 병렬 처리 성능을 활용할 수 있게 되었습니다.주제 개념CUDA : Compute Unified Device Architecture의 약자Compute : 연산Unified : 통합된Device Architecture : 장치 구조즉, 연산을 위해 통합된 장치 구조라는 의미로, CPU와 GPU가 협력해 작업을 수행할 수 있는 통합 환경을 뜻합니다.IT 에서 쓰이는 개념IT 분야에서는 CUDA가 단순히 그래픽 처리를 넘어서.. 2025. 10. 1. [AI] 대한민국 AI 인프라 혁신: GPU 클러스터 구축 사업 사업 개요과학기술정보통신부는 “AI 컴퓨팅자원 활용기반 강화사업”의 일환으로 1조 4,600억 원 규모의 GPU 조달 및 운영 사업을 추진했습니다대상은 엔비디아의 최첨단 GPU인 B200과 H200 모델로, 국내 산학연, 스타트업, 연구기관 등에 제공될 예정입니다 선정된 기업 및 역할 분담기업확보 GPU 모델수량NHN 클라우드 B2007656 장카카오B2002424 장네이버 클라우드H2003056 장 사업 주요 특징과 전략 예산과 인프라 규모2025년 1차 추경 예산 1조4,600억 원 확보엔비디아 GPU 총 1만3천여 장 확보 목표클러스터 구성 방식B200 기반으로 대형 클러스터(510노드, 255노드 × 2세트) 구성: 고밀도 AI 워크로드 대응H200 기반으로 연말까지 안정적 배포 및 서비스 개시 .. 2025. 8. 1. [Rocky 8.10][KVM] Nvidia GPU PassThrough(pGPU) 구성 개요Nvidia GPU를 VFIO(Virtual Function I/O) 모듈을 통해 패스스루(pass-through) 하기 위한 과정주로 KVM/QEMU 가상화 환경에서 GPU를 VM에 직접 할당하려는 목적에 사용됨설정 후 GPU는 호스트에서 사용되지 않으며, vfio-pci 드라이버에 바인딩되어 가상머신에서 사용할 수 있음패스스루(Pass-Through)호스트 시스템에 물리적으로 연결된 하드웨어 자원(GPU, NIC등)을 가상머신이 직접 제어할 수 있도록 직접 연결해 주는 기술가상 환경에서도 네이티브 성능에 가까운 하드웨어 엑세스를 제공해줌VM에서 GPU를 CUDA 연산용으로 사용하거나, 게이밍/렌더링에 활용하는 경우VFIO & vfio-pciVFIO(Virtual Function I/O)는 리눅스 .. 2025. 7. 21. GPU 원격 렌더링 환경 구축: TurboVNC + VirtualGL + NVIDIA GPU 개요GPU가 장착된 서버에서 OpenGL 기반 3D 애플리케이션을 원격으로 실행하고 싶다면, 가장 대표적인 조합이 바로 TurboVNC + VirtualGL입니다. 이번 포스트에서는 해당 기술 스택을 기반으로 GPU 리소스를 활용한 원격 데스크탑 환경을 구축하는 전체 과정을 다룹니다. 📌 개념 정리: VirtualGL이 GPU를 어떻게 사용하는가?기본적으로 ssh -X나 X11 forwarding을 사용할 경우, OpenGL 렌더링은 서버의 CPU 소프트웨어 렌더러가 담당하기 때문에 성능이 매우 떨어집니다.하지만 VirtualGL을 활용하면 OpenGL 명령을 서버의 GPU에서 직접 처리하게 만들어 성능을 비약적으로 향상시킬 수 있습니다. 전체 흐름 요약TurboVNC Viewer (Client) .. 2025. 4. 24. 이전 1 2 3 다음 728x90 반응형
