본문 바로가기
728x90
반응형

nvidia24

[Python(AI)] Python 개발자를 위한 GPU 가속 : nvmath-python과 cuda.core 파이썬은 AI, 데이터 과학 분야에서 독보적인 언어지만, 복잡한 수치 연산을 빠르게 처리하는 데는 GPU(그래픽 처리 장치)의 도움이 필수적입니다. 과거에는 GPU를 활용하려면 C/C++ 바인딩이라는 복잡한 과정을 거쳐야 했지만, 이제 NVIDIA가 직접 제공하는 두 가지 강력한 라이브러리 nvmath-python 과 cuda.core 덕분에 파이썬으로도 GPU의 성능을 100% 활용할 수 있게 되었습니다. 개요 : 두 라이브러리의 역할 분담NVIDIA는 CUDA Python 이라는 메타 패키지를 통해 파이썬에서 CUDA 플랫폼에 접근할 수 있는 여러 컴포넌트를 제공합니다. nvmath-python 과 cuda-core는 이 중 핵심 역할을 담당합니다.nvmath-python : 고도로 최적화된 수학 함.. 2025. 10. 10.
[NVIDIA] NumPy의 한계를 넘어, GPU 가속의 힘 CuPy 완벽 가이드 파이썬으로 대규모 과학 계산이나 데이터 처리를 할 때 NumPy는 필수 라이브러리입니다. 하지만 데이터의 크기가 기하급수적으로 늘어날 수록 CPU만으로는 처리 속도의 한계에 부딪히게 됩니다. 이럴 때 필요한 것이 바로 CuPy입니다. CuPy는 NumPy와 거의 동일한 문법을 사용하면서도 코드를 GPU에서 실행하여 데이터 처리 속도를 극적으로 가속하는 혁신적인 라이브러리입니다.주제 개념 및 용어 정리용어실제 단어 뜻 CuPy에서의 의미NumPyNumerical Python의 합성어. 파이썬에서 대규모 다차원 배열을 다루고 행렬 및 벡터 연산을 수행하는 데 사용하는 핵심 라이브러리입니다. 모든 연산은 CPU에서 이루어집니다.CuPy가 지향하는 문법 및 기능의 표준이자, CuPy가 가속화를 제공하는 대상입니.. 2025. 10. 9.
[NVIDIA] CUDA : NVIDIA GPU 병렬 컴퓨팅 플랫폼 개요CUDA(Compute Unified Device Architecture)는 NVIDIA가 개발한 GPU 병렬 컴퓨팅 플랫폼이자 프로그래밍 모델입니다. 원래 GPU는 그래픽 처리를 위해 만들어졌지만, CUDA를 통해 과학 계산, 머신러닝, 빅데이터 등 일반적인 범용 연산에도 GPU의 병렬 처리 성능을 활용할 수 있게 되었습니다.주제 개념CUDA : Compute Unified Device Architecture의 약자Compute : 연산Unified : 통합된Device Architecture : 장치 구조즉, 연산을 위해 통합된 장치 구조라는 의미로, CPU와 GPU가 협력해 작업을 수행할 수 있는 통합 환경을 뜻합니다.IT 에서 쓰이는 개념IT 분야에서는 CUDA가 단순히 그래픽 처리를 넘어서.. 2025. 10. 1.
[Protocol] Rockylinux DCV Setting (with 3D setting) 개요Rockylinux 8.10에 디스플레이를 가져오기 위한 DCV 서버를 설치하고, 클라이언트에서 GPU 리소스도 이용할 수 있는 3D 세팅까지에 관한 글입니다. 사전 준비접속할 클라이언트 사용자 PC 세팅(아래와 같이 C++이 필요하다고 팝업이 뜰경우) Visual Studio C++ installwinget install "Visual Studio Community 2022" --override "--add Microsoft.VisualStudio.Workload.NativeDesktop Microsoft.VisualStudio.ComponentGroup.WindowsAppSDK.Cpp" -s msstore Linux Server settingOS Package installyum groupins.. 2025. 7. 31.
[NVIDIA] NVIDIA vWS , vCS 개요NVIDIA 가상 GPU(vGPU) 소프트웨어는 물리 GPU를 다수의 가상 머신(VM)이 공유하고 사용할 수 있도록 해, 하이퍼바이저 기반 가상화 환경에서도 GPU 성능을 그대로 활용할 수 있게 해줍니다 세 가지 주요 에디션이 있으며, 목적과 기능에 따라 구분됩니다:vPC: 일반 사무용·사무직용 가상 데스크톱vApps: 애플리케이션 스트리밍(RDSH 등)vWS: 고사양 그래픽 및 전문 워크스테이션용vCS: AI 및 HPC 같은 연산 중심 워크로드용각 제품은 라이선스 방식, 제공 기능, 지원 워크로드가 다릅니다. vWS (RTX Virtual Workstation)개요고성능 전문 그래픽, 엔지니어링, AI 개발 워크로드에 최적화된 가상 워크스테이션예: CAD, 3D 렌더링, 과학 시각화, AI 실험 등.. 2025. 7. 24.
[Rocky 8.10][KVM] Nvidia GPU PassThrough(pGPU) 구성 개요Nvidia GPU를 VFIO(Virtual Function I/O) 모듈을 통해 패스스루(pass-through) 하기 위한 과정주로 KVM/QEMU 가상화 환경에서 GPU를 VM에 직접 할당하려는 목적에 사용됨설정 후 GPU는 호스트에서 사용되지 않으며, vfio-pci 드라이버에 바인딩되어 가상머신에서 사용할 수 있음패스스루(Pass-Through)호스트 시스템에 물리적으로 연결된 하드웨어 자원(GPU, NIC등)을 가상머신이 직접 제어할 수 있도록 직접 연결해 주는 기술가상 환경에서도 네이티브 성능에 가까운 하드웨어 엑세스를 제공해줌VM에서 GPU를 CUDA 연산용으로 사용하거나, 게이밍/렌더링에 활용하는 경우VFIO & vfio-pciVFIO(Virtual Function I/O)는 리눅스 .. 2025. 7. 21.
728x90
반응형