NVIDIA RTX PRO 6000 Blackwell 서버 에디션은 비주얼 컴퓨팅과 엔터프라이즈 AI를 위해 구축된 최초의 NVIDIA Blackwell 기반 데이터센터 GPU입니다. 모든 산업에서 가장 높은 성능을 요구하는 AI, 그래픽 애플리케이션을 신속하게 처리할 수 있도록 설계됐습니다.
이전 세대 NVIDIA Ada Lovelace 아키텍처 L40S GPU에 비해 RTX PRO 6000 Blackwell 서버 에디션 GPU는 다양한 엔터프라이즈 워크로드에서 성능이 크게 향상됐습니다.
예를 들어,에이전틱 AI(Agentic AI)애플리케이션을 위한거대 언어 모델(LLM)추론 처리량은 최대 5배 증가되고, 유전체 염기서열 분석은 약 7배로 가속화되며, 텍스트-비디오 생성은 3.3배, 렌더링 속도는 2배 이상 빨라졌습니다.
이번NVIDIA GTC에서 발표된 RTX PRO 라인업은 여러 산업의 AI와 창의적인 워크로드를 지원하는 데스크톱, 랩톱, 데이터센터 GPU로 구성됩니다.
여러 분야의 기업들은 RTX PRO 6000 Blackwell 서버 에디션을 통해 데이터 분석, 엔지니어링 시뮬레이션, 생성형 AI, 비주얼 컴퓨팅과 같은 워크로드에서 획기적인 성능을 구현할 수 있습니다.
여기에는 건축, 자동차, 클라우드 서비스, 금융 서비스, 게임 개발, 의료, 제조, 미디어, 엔터테인먼트, 소매업 등의 산업이 포함됩니다.
콘텐츠 제작, 반도체 제조, 유전체 분석 기업들은 이미 컴퓨팅 집약적인 AI 지원 워크플로우를 가속화하기 위해 RTX PRO 6000 Blackwell 서버 에디션의 기능을 활용하고 있습니다.
AI와 그래픽에 강력한 기능을 제공하는 범용 GPU
RTX PRO 6000 Blackwell 서버 에디션은 데이터센터 환경에서 연중무휴 24시간 운영할 수 있게 설계된 수동 냉각 장치 형태로 강력한 RTX AI와 그래픽 기능을 제공합니다.
96GB의 초고속 GDDR7 메모리와멀티 인스턴스 GPU(Multi-Instance GPU, MIG)를 갖춘 RTX PRO 6000은 최대 4개의 완전히 격리된 인스턴스로 분할될 수 있는데요. 각 인스턴스는 24GB의 메모리를 사용할 수 있어, AI 워크로드와 그래픽 워크로드를 동시에 실행할 수 있습니다.
이를 통해 이미지와 비디오 생성, LLM 추론,추천 시스템, 컴퓨터 비전, 디지털 트윈, 로보틱스 시뮬레이션 등의 에이전틱 AI, 물리 AI 애플리케이션 개발과 배포를 더욱 원활하게 진행할 수 있습니다.
모든 산업을 위한 가속 AI 추론과 비주얼 컴퓨팅
블랙 포레스트 랩스(Black Forest Labs)는 인기 이미지 생성 AI인 플럭스(FLUX)를 개발했습니다.
이들은 RTX PRO 6000 서버 에디션 GPU를 사용해 최첨단 텍스트-이미지 모델을 개발하고 최적화할 계획입니다.
블랙 포레스트 랩스의 CEO인 로빈 롬바흐(Robin Rombach)는 “RTX PRO 6000 서버 에디션의 강력한 멀티모달 추론 기능을 통해 고객은 이미지 생성 워크플로우의 지연 시간을 크게 줄일 수 있습니다.
서버 에디션 GPU의 FP4 정밀도 지원으로 플럭스 모델 실행 속도가 빨라져, 인터랙티브한 AI 가속 콘텐츠 제작이 가능해질 것으로 기대합니다”고 말했습니다.
클라우드 그래픽 회사인 오토이(OTOY)는 자사 옥테인렌더(OctaneRender) 실시간 렌더링 애플리케이션을 NVIDIA RTX PRO 6000 Blackwell 서버 에디션 GPU에 최적화할 예정입니다.
오토이 CEO 겸 렌더 네트워크(Render Network) 창립자인 줄스 어백(Jules Urbach)은 “새로운 NVIDIA RTX PRO 6000 Blackwell 서버 에디션 GPU는 이전까지 3D 콘텐츠 크리에이터가 접근할 수 없었던 새로운 워크플로우를 엽니다.
96GB의 VRAM을 갖춘 새로운 서버 에디션 GPU는 옥테인렌더의 GPU 패스 트레이서 내에서 복잡한 신경 렌더링 모델을 실행할 수 있죠. 따라서 아티스트는 기존 CGI의 정밀도와 최첨단 생성형 AI 기술을 결합한 놀라운 새 기능과 도구를 활용할 수 있습니다”고 설명했습니다.
반도체 장비 제조업체인 KLA 역시 RTX PRO 6000 Blackwell 서버 에디션을 사용할 계획입니다.
이를 통해 반도체 재료의 얇은 디스크를 만들어 집적 회로의 핵심이 되는 웨이퍼 제조 공정의 추론 워크로드를 가속화할 계획입니다.
NVIDIA와 KLA는 2008년부터 협력해 최적화된 고성능 컴퓨팅 솔루션으로 KLA의 물리 기반 AI를 발전시켜 왔습니다.
업계 최고인 KLA의 검사, 계측 시스템은 복잡한 AI 알고리즘을 초고속으로 실행해 이미지를 캡처하고 처리하며 가장 중요한 반도체 결함을 찾아내죠.
KLA 선임 연구원 겸 AI 이니셔티브 담당 부사장인 크리스 바스카(Kris Bhaskar)는 “초기 결과에 비추어 봤을 때, RTX PRO 6000 Blackwell 서버 에디션의 뛰어난 성능이 기대됩니다.
확대된 메모리 용량, FP4를 통해 감소된 정밀도, NVIDIA Blackwell의 새로운 연산 기능은 KLA와 고객들에게 특히 유용할 것”이라고 말했습니다.
유전체, 신약 개발 워크로드 가속화
RTX PRO 6000 Blackwell 서버 에디션은 새로운 종류의 동적 계획법 명령어를 통해 유전체 분석과 신약 개발 추론 워크로드를 획기적으로 빠르게 수행하도록 지원합니다.
생식세포 분석을 위한 NVIDIA Parabricks 플랫폼의 구성 요소인 패스트q2밤(Fastq2bam)이나 딥베리언트(DeepVariant)를 하나의 RTX PRO 6000 Blackwell 서버 에디션 GPU에서 수행하면, L40S GPU 대비 최대 1.5배, NVIDIA H100 GPU 대비 최대 1.75배 빠르게 실행됩니다.
염기서열 정렬과 변이 검출 애플리케이션에서 많이 사용되는 알고리즘인 스미스-워터맨(Smith-Waterman)의 경우, RTX PRO 6000 Blackwell 서버 에디션 GPU에서 실행될 때 L40S GPU 대비 처리량이 최대 6.8배까지 가속화됩니다.
또한, 신약 개발 연구에 있어 단백질 구조를 예측하는 AI 모델인 OpenFold2의 경우, RTX PRO 6000 Blackwell 서버 에디션 GPU에서 실행될 때 L40S GPU 대비 추론 성능이 최대 4.8배까지 향상됩니다.
유전체학 회사인 옥스퍼드 나노포어 테크놀로지스(Oxford Nanopore Technologies)는 NVIDIA와 협력해 자사 염기서열 분석 시스템에 최신 AI와 가속 컴퓨팅 기술을 도입하고 있습니다.
옥스퍼드 나노포어 테크놀로지스 고급 플랫폼 개발 담당 부사장인 크리스 시모어(Chris Seymour)는 “NVIDIA Blackwell 아키텍처는 누구나 어디서나 실시간 염기서열 분석을 수행할 수 있도록 도와줄 것”이며, “RTX PRO 6000 Blackwell 서버 에디션을 통해 도라도(Dorado) 플랫폼 전반에서 염기 베이스 결정 속도가 최대 2배까지 향상되는 것을 경험했습니다”고 말했습니다.
전 세계 시스템 파트너와 클라우드 제공업체 네트워크를 통해 출시
RTX PRO 6000 Blackwell 서버 에디션이 탑재된 플랫폼은 5월부터 전 세계 파트너들을 통해 출시될 예정입니다.
클라우드 서비스 제공업체와 GPU 클라우드 제공업체 중에서는 아마존 웹 서비스(Amazon Web Services, AWS), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure), IBM 클라우드(IBM Cloud), 코어위브(CoreWeave), 크루소(Crusoe), 람다(Lambda), 네비우스(Nebius), 벌처(Vultr)가 최초로 RTX PRO 6000 Blackwell 서버 에디션을 탑재한 인스턴스를 제공할 계획입니다.
시스코(Cisco), 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE),레노버(Lenovo), 슈퍼마이크로(Supermicro)는 RTX PRO 6000 Blackwell 서버 에디션을 탑재한 서버를 제공할 예정입니다.
그 외에도어드밴텍(Advantech), 애티나(Aetina),에이브레스(Aivres), 애즈락랙(ASRockRack),에이수스(ASUS), 컴팔(Compal), 폭스콘(Foxconn), 기가바이트(GIGABYTE), 인벤텍(Inventec), MSI,페가트론(Pegatron), 퀀타 클라우드 테크놀로지(Quanta Cloud Technology, QCT), 미텍 컴퓨팅(MiTAC Computing), 네이션게이트(NationGate), 위스트론(Wistron), 위윈(Wiwynn) 등의 기업들도 이 서버를 제공할 계획이죠.
하기의 NVIDIA GTC 키노트를 시청해 보다 자세한 정보를 확인해 보세요.
포스팅을 마치면서
이번에 NVIDIA RTX PRO 6000 이라는 GPU가 출시 되면서 시장에 큰 주목을 받고 있는 상황 입니다.
출시된지 얼마 안된 소비자용 게이밍 그래픽 카드의 최고 상위 제품인 RTX 5090 보다 오히려 VRAM / RT Core / CUDA Core 등 모든 부분을 앞서는 뛰어난 성능으로 출시되어 소비자용 그래픽 카드는 엔비디아가 외면하고 있는것이 아닌가 하는 오해도 불러 일으키고 있는 상황입니다.
물론 소비자용 그래픽 카드에 비해 단가는 훨씬 높겠지만, 용도 자체가 틀린 카드인만큼 출시 후에 시장에서 어느정도의 인기를 얻을지 무척 기대가 되는 제품 입니다.
오늘은 NVIDIA RTX PRO 6000 제품에 대해 포스팅을 진행해 보았는데요, 앞으로로 새로운 소식이 나오는대로 더 좋은 내용으로 찾아 뵙도록 하겠습니다.
제품에 관한 견적 및 문의는 하기에 나와있는 연락처로 부탁 드립니다. ^^
이상. 아인시스의 정지훈 부장 이었습니다.
감사 합니다.
◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆ 담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com
◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆ 담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com
안녕하세요. ^^
주식회사 아인시스 아이엔씨 정지훈 부장 입니다.
금일은 작년에 출시 되었지만 아직까지도 많은 기업과 연구기관에서 찾고 있는 NVIDIA L40S GPU에 대해서 언급해 보려고 합니다.
작년에 A100의 수급 이슈로 인하여 시장에 새롭게 출시된 GPU가 L40S 인데, 해당 GPU는 PCI 방식 뿐만 아니라 SXM 방식까지 지원하는 A100 에 비해 PCI 방식만을 지원하며, A100같이 NVLink를 지원하지도 않음에도 불구하고 일부 성능이 A100에 비해서 뛰어나며 가성비도 우수해서 꽤 많은 곳에서 사용되고 있는 GPU 입니다.
특히, LLM (Large Language Model) 에서는 매우 뛰어난 가성비를 자랑하는 GPU로서 최근에는 연세대, 서울대 등 다양한 연구기관에서 도입해서 연구용으로도 많이 사용 하고 있습니다.
하기의 출고기에서와 같이 저희 아인시스는 수많은 고객사 납품이력이 있는 검증된 기업 입니다.
모델은 NVIDIA DGX A100 서버로 AI 딥러닝에 특화된 GPU 서버 모델 입니다.
그동안 많은 기업들이 해당 제품에 대해 관심을 갖고 유심히 지켜봤던 모델인데 너무 비싼 도입 단가 때문에 SUPERMICRO, ASUS, GIGABYTE등의 서버에 여건이 되는 대로 1~2개 정도의 PCI-e 타입의 A100 또는 L40S 등을 장착 해서 사용해 왔습니다.
기존의 PCI 타입의 A100등의 장비와의 큰 차이점은 본 제품은 NVIDIA의 공식 레퍼런스 제품으로서, 기존의 NVLink Bridge를 굳이 장착하지 않고도, 총 8개의 GPU들이 내부적으로 다이렉트로 연결되어(NVSwitch) 더욱 빠른 대역폭과 연산 성능을 보여 주게 됩니다.
CPU도 AMD EPYC 128Core 에 넉넉한 1TB(2TB) 의 메모리를 탑재 함으로서 부족함 없는 최적의 성능을 보장 합니다.
SSD는 고성능의 M.2 SSD 뿐만 아니라 엔터프라이즈급의 U.2 NVMe SSD 도 장착되어 있습니다.
이번에 해당 제품을 저희가 중고로 판매가 가능하게 되면서 본 포스팅을 통해서 소개해 드리게 되었습니다.
* 하기 링크를 통하여 NVIDIA DGX A100 제품의 데이터 시트를 다운로드 가능 합니다.
