본문 바로가기
events

이벤트

총 7929건

엔비디아가 CUDA Toolkit 12.8을 출시하며 블랙웰(Blackwell) GPU 아키텍처를 정식 지원함. CUDA 컴파일러와 런타임뿐 아니라 cuBLAS, cuSOLVER 등 주요 GPU 가속 라이브러리가 블랙웰의 새로운 연산 기능을 활용하도록 업데이트됨.

블랙웰은 대규모 생성형 AI와 추론 워크로드를 주요 대상으로 설계된 GPU 세대로, CUDA 12.8은 이러한 하드웨어를 기존 CUDA 소프트웨어 생태계와 연결하는 역할을 담당함.

CUDA가 여러 세대의 GPU 아키텍처에 걸쳐 기존 프로그램의 호환성을 유지하면서 최신 AI 가속 기능을 지속적으로 흡수하는 플랫폼으로 발전했음을 보여주는 사례임.

엔비디아 개발사 CUDA

엔비디아가 호퍼(Hopper)와 Ada Lovelace GPU 아키텍처의 새로운 기능을 지원하는 CUDA Toolkit 12.0을 출시함. 새로운 PTX 명령어와 C·C++ API를 통해 차세대 GPU의 기능을 개발자가 직접 이용할 수 있도록 함.

CUDA Graphs와 Dynamic Parallelism 등 기존 프로그래밍 모델도 개선됐으며, 호퍼 기반 H100을 중심으로 대규모 AI 학습과 고성능 컴퓨팅을 위한 CUDA 기능이 확대됨.

생성형 AI 확산 직전에 등장한 CUDA 12는 H100을 비롯한 차세대 AI 가속기의 소프트웨어 기반을 제공하면서 이후 생성형 AI 인프라 확대를 뒷받침함.

엔비디아 개발사 CUDA

엔비디아가 암페어(Ampere) 아키텍처와 NVIDIA A100 GPU를 지원하는 CUDA Toolkit 11을 정식 출시함. AI와 데이터 분석, 고성능 컴퓨팅을 위한 새로운 GPU 기능을 CUDA 개발 환경에서 활용할 수 있게 됨.

CUDA 11은 A100의 3세대 Tensor Core와 희소성 연산, Multi-Instance GPU 등의 기능을 지원하고 Arm 서버 프로세서 지원도 확대함. CUDA가 x86 기반 GPU 가속을 넘어 다양한 데이터센터 시스템을 포괄하는 개발 플랫폼으로 확장됨.

대규모 딥러닝 학습과 데이터센터 GPU 수요가 급증하던 시기에 CUDA와 엔비디아의 AI 하드웨어 생태계가 더욱 밀접하게 결합된 전환점임.

엔비디아 개발사 CUDA

엔비디아가 파스칼(Pascal) GPU 아키텍처를 지원하는 CUDA 8을 공개함. CUDA 8은 Tesla P100을 비롯한 파스칼 GPU의 새로운 연산 기능과 NVLink, 향상된 Unified Memory 기능을 개발자가 활용할 수 있도록 함.

파스칼에서는 49비트 가상 주소 공간과 GPU 페이지 폴트, 필요할 때 데이터를 이동하는 페이지 마이그레이션 기능이 추가돼 Unified Memory의 활용 범위가 크게 확대됨. GPU의 물리 메모리 크기를 넘어서는 데이터 처리도 가능한 방향으로 발전함.

CUDA의 메모리 모델이 CPU와 GPU 사이의 명시적인 데이터 이동 중심에서 보다 자동화된 이기종 컴퓨팅 모델로 이동한 중요한 단계임.

엔비디아가 CUDA 6에 CPU와 GPU가 하나의 메모리 공간을 공유하는 것처럼 프로그래밍할 수 있는 Unified Memory를 도입함. 개발자는 하나의 포인터를 CPU와 GPU 양쪽에서 사용할 수 있게 됨.

이전에는 CPU 메모리와 GPU 메모리를 별도로 관리하면서 데이터를 명시적으로 복사하는 작업이 CUDA 프로그래밍의 주요 복잡성 가운데 하나였음. Unified Memory는 필요한 데이터를 시스템이 CPU와 GPU 사이에서 이동하도록 해 이러한 부담을 크게 줄임.

CUDA가 하드웨어 성능뿐 아니라 프로그래밍 난이도를 낮추는 방향으로 발전한 대표적인 전환점으로, 이후 Pascal 등 새로운 GPU 아키텍처에서 메모리 자동 이동 기능이 더욱 발전함.

엔비디아가 CUDA Toolkit 4.0을 출시함. CUDA 4.0은 하나의 CPU 스레드에서 여러 GPU를 제어할 수 있도록 하고 여러 CPU 스레드가 하나의 GPU를 공유할 수 있도록 하는 등 멀티 GPU 프로그래밍 기능을 강화함.

C++ 개발과 디버깅 환경도 확대하고 병렬 알고리즘 라이브러리인 Thrust와 이미지·영상 처리 라이브러리 NPP 등을 CUDA 도구 체계에 포함함. GPU를 직접 제어하는 저수준 프로그래밍뿐 아니라 재사용 가능한 라이브러리를 통한 개발도 쉬워짐.

CUDA가 단일 GPU용 프로그래밍 인터페이스에서 여러 GPU와 다양한 라이브러리를 포괄하는 병렬 컴퓨팅 생태계로 확장되는 과정의 주요 버전임.

엔비디아가 페르미(Fermi) GPU 아키텍처를 지원하는 CUDA Toolkit 3.0을 출시함. 새 버전은 64비트 GPU 주소 지정과 여러 커널의 동시 실행, 복수 복사 엔진, 하드웨어 디버깅·프로파일링 등을 지원함.

페르미는 GPU 메모리에 ECC 오류 교정 기능을 도입하는 등 과학 계산과 고성능 컴퓨팅을 본격적으로 겨냥한 아키텍처였음. 이에 따라 CUDA 역시 그래픽 처리의 부수적 활용을 넘어 범용 병렬 컴퓨팅 플랫폼으로 영역을 확대함.

CUDA 3.0과 페르미의 결합은 GPU 컴퓨팅이 연구용 실험 단계에서 HPC와 데이터센터용 범용 계산 기술로 이동하는 주요 전환점으로 평가됨.

챗GPT가 촉발한 생성형 AI 붐으로 대규모 AI 학습·추론 수요가 폭증하며, 거의 모든 AI 프레임워크가 우선 지원하는 CUDA가 사실상의 표준으로 자리. 2023년 무렵 엔비디아가 데이터센터 GPU 시장의 대부분을 차지하는 가운데, 오래 축적된 CUDA 생태계와 개발자 락인이 핵심 경쟁력으로 부각. 소프트웨어 해자(moat)로 불리며 엔비디아의 AI 칩 지배를 떠받치는 토대로 평가.

2017년 5월 엔비디아가 GTC에서 볼타(Volta) 아키텍처와 테슬라 V100을 공개, 딥러닝 행렬 연산 전용 '텐서 코어'를 처음 탑재. CUDA·cuDNN이 텐서 코어를 활용하도록 확장되며 이전 세대 대비 수~수십 배의 딥러닝 성능 향상 제공. 소프트웨어와 전용 하드웨어가 함께 진화하는 AI 가속 패러다임의 본격화.

심층 신경망 연산(합성곱·행렬곱·어텐션 등)을 GPU에서 고도로 최적화해 제공하는 cuDNN 라이브러리를 2014년 추가하며 딥러닝 전용 가속 계층 확보. 텐서플로·파이토치 등 주요 프레임워크가 cuDNN을 통해 CUDA 위에서 동작하며 학습·추론 시간을 크게 단축. 단순 GPGPU 도구를 넘어 AI 연산의 핵심 인프라로 도약한 전환점.

2006년 발표에 이어 2007년 첫 공개 SDK·툴킷(CUDA 1.0)을 배포하며 개발자들이 실제로 GPU 병렬 연산을 작성·실행할 수 있게 됨. C 언어 확장과 컴파일러·런타임·라이브러리를 함께 제공해 GPGPU의 진입 장벽을 크게 낮춤. 이후 정기적인 툴킷 버전 업데이트로 이어지는 CUDA 생태계의 실질적 출발.

스탠퍼드대 이안 벅이 2000년대 초 GPU를 그래픽 외 일반 연산에 쓰려 한 브룩(Brook) 연구가 출발점. 2004년 엔비디아가 벅을 영입해 존 니콜스 등과 함께 이를 상용 GPU 컴퓨팅 플랫폼으로 발전시키며 CUDA 개발 본격화. C 프로그래머에게 친숙하면서도 GPU의 대규모 병렬성을 다루게 하려는 설계 목표 수립.

더블린 GR17 학회 강연에서 블랙홀이 정보를 영구히 파괴한다는 자신의 입장을 철회하고 존 프레스킬과의 내기 패배를 인정함. 정보가 심하게 뒤섞인 형태로 복사에 남을 수 있다는 견해로 선회했으며, 프레스킬에게 야구 백과사전을 건넴. 공동 내기자 킵 손은 당시 패배를 인정하지 않음.

스티븐 호킹

빅뱅과 블랙홀, 시간의 본질을 일반 독자를 위해 풀어쓴 대중 과학서 《시간의 역사》를 출간. 수식을 거의 쓰지 않고 우주론을 설명해 세계적 베스트셀러가 되었고, 영국 선데이 타임스 베스트셀러 목록에 기록적으로 오래 머무름. 우주론을 대중에게 널리 알린 저작.

스티븐 호킹