◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

 

 


 NEW >>> 새롭게 출시 된 NVIDIA RTX PRO Blackwell 모델들에 대한 리뷰들이 등록 되었습니다. (하기 리스트 참고)

 

1. NVIDIA RTX PRO 6000 Blackwell 과 L40S, RTX 6000 Ada의 비교 분석

2. NVIDIA RTX PRO Blackwell 출시 및 작업 별 적합한 모델 선정

3. NVIDIA RTX PRO 6000 Blackwell 서버 에디션 - 엔터프라이즈 AI와 비주얼 컴퓨팅을 위해 탄생한 최초의 데이터 센터 GPU


 

 

[신제품] 엔비디아 NVIDIA RTX PRO 6000 96GB ServerEdition PCI AI 딥러닝용 GPU 카드 [AS 3년 국내 재고] - 아인

[신제품] 엔비디아 NVIDIA RTX PRO 6000 96GB ServerEdition PCI AI 딥러닝용 GPU 카드 [AS 3년 국내 재고]

einmall.kr

 


안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

 

최근들어 NVIDIA에서 새롭게 출시 된 Blackwell 아키텍쳐 기반의 RTX PRO 시리즈 GPU들에 대해 많은 포스팅을 진행 하고 있습니다.

 

아시는 분들도 계시겠지만, NVIDIA 는 RTX라는 제품명을 사용할때 해당 제품은 "실시간 레이 트레이싱(Real-time ray tracing)" 이라는 그래픽 처리 기능을 제공하는 그래픽 카드에 해당 명칭을 붙혀 왔습니다.

 

이번에 출시된 RTX PRO 6000 서버에디션의 경우에도 동일하게 RTX라는 명칭이 붙어 있는 것을 알 수 있듯이 그래픽 관련 성능에도 비중을 실은 모델이라는 것을 알 수 있습니다.

 

물론 L40S모델도 RT Core가 존재 했지만 RTX PRO 6000모델의 경우 더욱 강화 된 것을 알 수 있습니다.

 

 L40S vs RTX PRO 600 RT Core 관련 비교 스펙

- L40S RT Core : 142개(3세대)

- L40S RT Core Performance : 209 TFLOPS

- RTX PRO 6000 RT Core : 188(4세대)

- RTX PRO 6000 RT Core Performance : 354.5 TFLOPS

 

상기의 스펙 자료에서와 같이 그래픽 관련 성능도 향상되어 이번 RTX PRO 6000 모델의 경우에는 비쥬얼 컴퓨팅 분야에서도 많이 사용될 것으로 예상 됩니다.

 

L40S는 소규모 LLM 용도로 많이들 사용 하셨지만, 이제는 LLM 뿐만 아니라 그래픽 관련용으로도 다방면으로 사용할 수 있는 GPU로 그 쓰임새가 확장 될 것으로 판단 합니다.

NVIDIA RTX PRO 6000 서버 에디션 이미지

 

 

 

최근 시장에서 RTX PRO 6000 모델이 큰 주목을 받고 있는 이유는 단순히 이런 성능적인 면 뿐만 아니라 L40S 라는 GPU의 대안이 될만한 뛰어난 가성비를 보여줄 모델로 판단되기 때문 입니다.

 

물론, RTX PRO 기반의 GPU중 가장 최상위 라인업인 RTX PRO 6000 시리즈에 비해 H200 NVL이나 H100 NVL등 더 성능이 뛰어난 GPU가 존재 합니다.

 

하지만,  문제는 가격이 꽤 비싸다는 것이 기업이나 연구기관에서 제품을 도입하는데 있어 큰 걸림돌이 된다는 것 입니다.

그에 대한 대안으로 이 RTX PRO 6000 모델은 꽤 괜찮은 대안이 될 것 입니다.

 

예상되는 시장 유통하는 정확하지는 않지만 추측을 해본다면 대략 1300만원~1600만원 사이에 형성이 될 것으로 판단 됩니다.(제품의 금액은 실제 제품들이 입고 되고 시장에 유통이 되는 시점에 다시 확인이 필요 할 것 같습니다.)

 

기존에 A100이 단종되고 구매하기 어려워지는 시점에 갑자기 L40S 라는 네이밍의 GPU가 등장하여 돌풍을 일으킨바 있으며, 현재도 많은 기업과 연구기관에서 찾고 계십니다.

 

이제 L40S도 출시 된지 꽤 오랜 기간이 흐른 만큼 최신 Blackwell 아키텍쳐 기반의 RTX PRO 시리즈로 전환하는 계기가 될지 많은 기업들에서 큰 관심을 갖고 있는 실정 입니다.

 

 

해당 NVIDIA RTX PRO 시리즈중 가장 최상위 라인업인 NVIDIA RTX PRO 6000 서버 에디션은 7월 말에서 8월 초에 입고 예정에 있으며, 현재 예약 발주를 받고 있습니다.

 

제품의 구매 문의가 있으시면 하기의 연락처로 연락 부탁 드리겠습니다.

 

제품 및 구매 견적 문의 : 영업부 / 정지훈 부장 / 010-9500-3099 / hoon@einsis.com

 

 

 

[신제품] 엔비디아 NVIDIA RTX PRO 6000 96GB ServerEdition PCI AI 딥러닝용 GPU 카드 [AS 3년 국내 재고] - 아인

[신제품] 엔비디아 NVIDIA RTX PRO 6000 96GB ServerEdition PCI AI 딥러닝용 GPU 카드 [AS 3년 국내 재고]

einmall.kr

 

 

 

* 하기 본문 내용 출처 : NVIDIA 공식 홈페이지

NVIDIA RTX PRO 6000 Blackwell 서버 에디션 주요 특징

NVIDIA RTX PRO 6000 Blackwell 서버 에디션은 비주얼 컴퓨팅과 엔터프라이즈 AI를 위해 구축된 최초의 NVIDIA Blackwell 기반 데이터센터 GPU입니다. 모든 산업에서 가장 높은 성능을 요구하는 AI, 그래픽 애플리케이션을 신속하게 처리할 수 있도록 설계됐습니다.

 

이전 세대 NVIDIA Ada Lovelace 아키텍처 L40S GPU에 비해 RTX PRO 6000 Blackwell 서버 에디션 GPU는 다양한 엔터프라이즈 워크로드에서 성능이 크게 향상됐습니다.

 

예를 들어, 에이전틱 AI(Agentic AI) 애플리케이션을 위한 거대 언어 모델(LLM) 추론 처리량은 최대 5배 증가되고, 유전체 염기서열 분석은 약 7배로 가속화되며, 텍스트-비디오 생성은 3.3배, 렌더링 속도는 2배 이상 빨라졌습니다.

 

RTX PRO 6000 Blackwell 서버 에디션은 워크스테이션과 서버 GPU로 이뤄진 NVIDIA RTX PRO Blackwell 시리즈에 포함됩니다.

 

이번 NVIDIA GTC에서 발표된 RTX PRO 라인업은 여러 산업의 AI와 창의적인 워크로드를 지원하는 데스크톱, 랩톱, 데이터센터 GPU로 구성됩니다.

 

여러 분야의 기업들은 RTX PRO 6000 Blackwell 서버 에디션을 통해 데이터 분석, 엔지니어링 시뮬레이션, 생성형 AI, 비주얼 컴퓨팅과 같은 워크로드에서 획기적인 성능을 구현할 수 있습니다.

 

여기에는 건축, 자동차, 클라우드 서비스, 금융 서비스, 게임 개발, 의료, 제조, 미디어, 엔터테인먼트, 소매업 등의 산업이 포함됩니다.

 

콘텐츠 제작, 반도체 제조, 유전체 분석 기업들은 이미 컴퓨팅 집약적인 AI 지원 워크플로우를 가속화하기 위해 RTX PRO 6000 Blackwell 서버 에디션의 기능을 활용하고 있습니다.




AI와 그래픽에 강력한 기능을 제공하는 범용 GPU

RTX PRO 6000 Blackwell 서버 에디션은 데이터센터 환경에서 연중무휴 24시간 운영할 수 있게 설계된 수동 냉각 장치 형태로 강력한 RTX AI와 그래픽 기능을 제공합니다.

 

96GB의 초고속 GDDR7 메모리와 멀티 인스턴스 GPU(Multi-Instance GPU, MIG)를 갖춘 RTX PRO 6000은 최대 4개의 완전히 격리된 인스턴스로 분할될 수 있는데요. 각 인스턴스는 24GB의 메모리를 사용할 수 있어, AI 워크로드와 그래픽 워크로드를 동시에 실행할 수 있습니다.

 

RTX PRO 6000은 NVIDIA 컨피덴셜 컴퓨팅(Confidential Computing)을 통해 안전한 AI를 구현하는 최초의 범용 GPU입니다.

 

이는 강력한 하드웨어 기반 보안으로 AI 모델과 민감한 데이터를 무단 접근으로부터 보호하죠. 따라서 물리적으로 격리된 신뢰할 수 있는 실행 환경을 제공해 데이터를 사용하는 동안 전체 워크로드를 보호합니다.

또한, RTX PRO 6000은 엔터프라이즈급 배포에서 효과적으로 사용될 수 있도록 고밀도 가속 컴퓨팅 플랫폼으로 구성돼 분산 추론 워크로드를 수행할 수 있습니다.

 

더불어 NVIDIA vGPU 소프트웨어를 통해 가상 워크스테이션을 제공하며, AI 개발과 고도의 그래픽 애플리케이션을 구동하는 데 사용될 수 있습니다.

 

RTX PRO 6000 GPU는 광범위한 AI 모델에 걸쳐 강력한 추론 성능을 제공하며, 복잡한 가상 환경의 사실적인 실시간 레이 트레이싱을 가속화합니다.

 

여기에는 5세대 Tensor 코어, 4세대 RT 코어, DLSS 4, 완전히 통합된 미디어 파이프라인, FP4 정밀도를 지원하는 2세대 트랜스포머 엔진(Transformer Engine) 등 최신 Blackwell 하드웨어와 소프트웨어 혁신이 포함됩니다.

 

기업들은 RTX PRO 6000 Blackwell 서버 에디션 GPU에서 NVIDIA Omniverse NVIDIA AI Enterprise 플랫폼을 대규모로 실행할 수 있습니다.

 

이를 통해 이미지와 비디오 생성, LLM 추론, 추천 시스템, 컴퓨터 비전, 디지털 트윈, 로보틱스 시뮬레이션 등의 에이전틱 AI, 물리 AI 애플리케이션 개발과 배포를 더욱 원활하게 진행할 수 있습니다.

 

모든 산업을 위한 가속 AI 추론과 비주얼 컴퓨팅

블랙 포레스트 랩스(Black Forest Labs)는 인기 이미지 생성 AI인 플럭스(FLUX)를 개발했습니다.

이들은 RTX PRO 6000 서버 에디션 GPU를 사용해 최첨단 텍스트-이미지 모델을 개발하고 최적화할 계획입니다.

 

블랙 포레스트 랩스의 CEO인 로빈 롬바흐(Robin Rombach)는 “RTX PRO 6000 서버 에디션의 강력한 멀티모달 추론 기능을 통해 고객은 이미지 생성 워크플로우의 지연 시간을 크게 줄일 수 있습니다.

 

서버 에디션 GPU의 FP4 정밀도 지원으로 플럭스 모델 실행 속도가 빨라져, 인터랙티브한 AI 가속 콘텐츠 제작이 가능해질 것으로 기대합니다”고 말했습니다.

 

클라우드 그래픽 회사인 오토이(OTOY)는 자사 옥테인렌더(OctaneRender) 실시간 렌더링 애플리케이션을 NVIDIA RTX PRO 6000 Blackwell 서버 에디션 GPU에 최적화할 예정입니다.

 

오토이 CEO 겸 렌더 네트워크(Render Network) 창립자인 줄스 어백(Jules Urbach)은 “새로운 NVIDIA RTX PRO 6000 Blackwell 서버 에디션 GPU는 이전까지 3D 콘텐츠 크리에이터가 접근할 수 없었던 새로운 워크플로우를 엽니다.

 

96GB의 VRAM을 갖춘 새로운 서버 에디션 GPU는 옥테인렌더의 GPU 패스 트레이서 내에서 복잡한 신경 렌더링 모델을 실행할 수 있죠. 따라서 아티스트는 기존 CGI의 정밀도와 최첨단 생성형 AI 기술을 결합한 놀라운 새 기능과 도구를 활용할 수 있습니다”고 설명했습니다.

 

반도체 장비 제조업체인 KLA 역시 RTX PRO 6000 Blackwell 서버 에디션을 사용할 계획입니다.

이를 통해 반도체 재료의 얇은 디스크를 만들어 집적 회로의 핵심이 되는 웨이퍼 제조 공정의 추론 워크로드를 가속화할 계획입니다.

 

NVIDIA와 KLA는 2008년부터 협력해 최적화된 고성능 컴퓨팅 솔루션으로 KLA의 물리 기반 AI를 발전시켜 왔습니다.

업계 최고인 KLA의 검사, 계측 시스템은 복잡한 AI 알고리즘을 초고속으로 실행해 이미지를 캡처하고 처리하며 가장 중요한 반도체 결함을 찾아내죠.

 

KLA 선임 연구원 겸 AI 이니셔티브 담당 부사장인 크리스 바스카(Kris Bhaskar)는 “초기 결과에 비추어 봤을 때, RTX PRO 6000 Blackwell 서버 에디션의 뛰어난 성능이 기대됩니다.

 

확대된 메모리 용량, FP4를 통해 감소된 정밀도, NVIDIA Blackwell의 새로운 연산 기능은 KLA와 고객들에게 특히 유용할 것”이라고 말했습니다.



유전체, 신약 개발 워크로드 가속화

RTX PRO 6000 Blackwell 서버 에디션은 새로운 종류의 동적 계획법 명령어를 통해 유전체 분석과 신약 개발 추론 워크로드를 획기적으로 빠르게 수행하도록 지원합니다.

 

생식세포 분석을 위한 NVIDIA Parabricks 플랫폼의 구성 요소인 패스트q2밤(Fastq2bam)이나 딥베리언트(DeepVariant)를 하나의 RTX PRO 6000 Blackwell 서버 에디션 GPU에서 수행하면, L40S GPU 대비 최대 1.5배, NVIDIA H100 GPU 대비 최대 1.75배 빠르게 실행됩니다.

 

염기서열 정렬과 변이 검출 애플리케이션에서 많이 사용되는 알고리즘인 스미스-워터맨(Smith-Waterman)의 경우, RTX PRO 6000 Blackwell 서버 에디션 GPU에서 실행될 때 L40S GPU 대비 처리량이 최대 6.8배까지 가속화됩니다.

 

또한, 신약 개발 연구에 있어 단백질 구조를 예측하는 AI 모델인 OpenFold2의 경우, RTX PRO 6000 Blackwell 서버 에디션 GPU에서 실행될 때 L40S GPU 대비 추론 성능이 최대 4.8배까지 향상됩니다.

 

유전체학 회사인 옥스퍼드 나노포어 테크놀로지스(Oxford Nanopore Technologies)는 NVIDIA와 협력해 자사 염기서열 분석 시스템에 최신 AI와 가속 컴퓨팅 기술을 도입하고 있습니다.

 

옥스퍼드 나노포어 테크놀로지스 고급 플랫폼 개발 담당 부사장인 크리스 시모어(Chris Seymour)는 “NVIDIA Blackwell 아키텍처는 누구나 어디서나 실시간 염기서열 분석을 수행할 수 있도록 도와줄 것”이며, “RTX PRO 6000 Blackwell 서버 에디션을 통해 도라도(Dorado) 플랫폼 전반에서 염기 베이스 결정 속도가 최대 2배까지 향상되는 것을 경험했습니다”고 말했습니다.



전 세계 시스템 파트너와 클라우드 제공업체 네트워크를 통해 출시

RTX PRO 6000 Blackwell 서버 에디션이 탑재된 플랫폼은 5월부터 전 세계 파트너들을 통해 출시될 예정입니다.

 

클라우드 서비스 제공업체와 GPU 클라우드 제공업체 중에서는 아마존 웹 서비스(Amazon Web Services, AWS), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure), IBM 클라우드(IBM Cloud), 코어위브(CoreWeave), 크루소(Crusoe), 람다(Lambda), 네비우스(Nebius), 벌처(Vultr)가 최초로 RTX PRO 6000 Blackwell 서버 에디션을 탑재한 인스턴스를 제공할 계획입니다.

 

시스코(Cisco), 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE), 레노버(Lenovo), 슈퍼마이크로(Supermicro)는 RTX PRO 6000 Blackwell 서버 에디션을 탑재한 서버를 제공할 예정입니다.

 

그 외에도 어드밴텍(Advantech), 애티나(Aetina), 에이브레스(Aivres), 애즈락랙(ASRockRack), 에이수스(ASUS), 컴팔(Compal), 폭스콘(Foxconn), 기가바이트(GIGABYTE), 인벤텍(Inventec), MSI, 페가트론(Pegatron), 퀀타 클라우드 테크놀로지(Quanta Cloud Technology, QCT), 미텍 컴퓨팅(MiTAC Computing), 네이션게이트(NationGate), 위스트론(Wistron), 위윈(Wiwynn) 등의 기업들도 이 서버를 제공할 계획이죠.

 

하기의 NVIDIA GTC 키노트를 시청해 보다 자세한 정보를 확인해 보세요.

 

 

포스팅을 마치면서

이번에 NVIDIA RTX PRO 6000 이라는 GPU가 출시 되면서 시장에 큰 주목을 받고 있는 상황 입니다.

 

출시된지 얼마 안된 소비자용 게이밍 그래픽 카드의 최고 상위 제품인 RTX 5090 보다 오히려 VRAM / RT Core / CUDA Core 등 모든 부분을 앞서는 뛰어난 성능으로 출시되어 소비자용 그래픽 카드는 엔비디아가 외면하고 있는것이 아닌가 하는 오해도 불러 일으키고 있는 상황입니다.

 

물론 소비자용 그래픽 카드에 비해 단가는 훨씬 높겠지만, 용도 자체가 틀린 카드인만큼 출시 후에 시장에서 어느정도의 인기를 얻을지 무척 기대가 되는 제품 입니다.

 

오늘은 NVIDIA RTX PRO 6000 제품에 대해 포스팅을 진행해 보았는데요, 앞으로로 새로운 소식이 나오는대로 더 좋은 내용으로 찾아 뵙도록 하겠습니다.

 

제품에 관한 견적 및 문의는 하기에 나와있는 연락처로 부탁 드립니다. ^^

 

이상. 아인시스의 정지훈 부장 이었습니다.

 

감사 합니다.

 

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

 

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

 

 


 NEW >>> 새롭게 출시 된 NVIDIA RTX PRO Blackwell 모델들에 대한 리뷰들이 등록 되었습니다. (하기 리스트 참고)

 

1. NVIDIA RTX PRO 6000 Blackwell 과 L40S, RTX 6000 Ada의 비교 분석

2. NVIDIA RTX PRO Blackwell 출시 및 작업 별 적합한 모델 선정

3. NVIDIA RTX PRO 6000 Blackwell 서버 에디션 - 엔터프라이즈 AI와 비주얼 컴퓨팅을 위해 탄생한 최초의 데이터 센터 GPU


 


안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

 

금일은 NVIDIA에서 새롭게 출시된 #RTX #PRO #6000제품과 기존 출시되어 있던 제품인 L40SRTX 6000 Ada 제품의 비교를 해 보도록 하겠습니다.

 

더불어 해당 GPU및 GPU서버의 구매에 관한 문의가 있으시면 언제든지 연락 부탁 드립니다. ^^

 

제품구매 및 문의 : 정지훈 부장(영업부) / 010-9500-3099 / hoon@einsis.com

 

 

[신제품] 엔비디아 NVIDIA RTX PRO 6000 96GB ServerEdition PCI AI 딥러닝용 GPU 카드 [AS 3년 국내 재고] - 아인

[신제품] 엔비디아 NVIDIA RTX PRO 6000 96GB ServerEdition PCI AI 딥러닝용 GPU 카드 [AS 3년 국내 재고]

einmall.kr

 

 

▣ NVIDIA RTX PRO 6000 WorkStation Edition Dtat sheet 보기

▣ NVIDIA RTX PRO 6000 ServerEdition Dtat sheet 보기

▣ NVIDIA L40S Dtat sheet 보기

 

 

제품 출시 관련 뉴스

 

하기의 인용된 뉴스와 같이 NVIDIA RTX PRO 6000 제품은 이달에 출시 된 최신 GPU 모델 입니다.

 

엔비디아, 블랙웰 데이터센터 GPU 'RTX PRO 6000' 5월 출시

이전 세대 대비 AI 추론 최대 5배·유전체 분석 7배 향상 96GB 메모리·컨피덴셜 컴퓨팅 탑재…AI 추론 처리 가속 엔비디아가 미국 새너제이에서 열린 'GTC'에서 블랙웰 기반 데이터센터 GPU 'RTX PRO 6000

www.news1.kr

 

NVIDIA 최신 아키텍쳐인 블랙웰 (Blackwell)이 사용 되었으며, 기존에 많이 사용 되었던 #L40S GPU 대비 LLM 추론 처리량은 최대 5대, 유전체 염기서열 분석 약 7배, 텍스트-비디오 생성은 3.3배, 랜더링 속도 2배 이상이 각각 향상 되었다고 엔비디아는 밝히고 있습니다.

 

기존에 A100의 수급 문제로 인하여 가성비 좋은 L40S가 시장에서 큰 인기를 얻었고, 현재도 많은 고객사에서 찾고 있는 상황 입니다.

 

L40S도 이제 출시된지 좀 된 모델이어서 더욱 가격대 성능비가 좋은 뛰어난 모델로서 새롭게 출시된 RTX PRO 6000이 바톤을 넘겨 받을 수 있을지 본 포스팅을 통해 알아 보도록 하겠습니다.

 

 

NVIDIA RTX PRO 시리즈 라인업

 

참고용으로 이번에 출시된 RTX PRO 시리즈의 라인업을 안내해 드리오니 참고 하시기 바랍니다.

 

RTX PRO 6000은 블랙웰 서버 에디션 / 블랙웰 워크스테이션 에디션 / 맥스큐 워크스테이션 이렇게 총 3가지 버젼으로 출시 되었습니다.

 

* NVIDIA RTX Pro 시리즈 라인업

- 데이터 센터용 GPU : RTX PRO 6000 블랙웰 서버 에디션

- 데스크탑(워크스테이션)용 GPU : RTX PRO 6000 블랙웰 워크스테이션 에디션,

                                                     RTX PRO 6000 블랙웰 맥스-Q 워크스테이션 에디션

                                                     RTX PRO 5000 / 4500 / 4000 블랙웰

- 랩탑(노트북)용 GPU : RTX PRO 5000 / 4000 / 3000 / 2000 / 1000 / 5000 블랙웰

 

 

* NVIDIA RTX Pro 시리즈 라인업 별 스펙 자료

 

 

 

NVIDIA RTX PRO 6000 블랙웰 서버 에디션의 특징

 

NVIDIA RTX PRO 6000 GPU는 GTC 2025 기조연설에서 발표된 최신 제품 입니다.

 

본 제품은 NVIDIA RTX 5090 그래픽 카드에 사용된 것과 동일한 GB202 다이를 사용 하지만, 꽤 많은 변화가 있습니다.

 

NVIDIA RTX PRO 6000 Blackwell Server Edition은 Blackwell 아키텍처를 기반으로 하며 PCIe Gen 5를 지원합니다.

이 GPU는 AI 가속과 고성능 시각화 기능을 필요로 하는 기업을 위해 설계되었습니다. 

96GB GDDR7 메모리와 5세대 텐서 코어를 탑재한 이 GPU는 엔터프라이즈 데이터센터에서 에이전트 AI, 과학 컴퓨팅, 3D 설계를 지원하는 범용 플랫폼으로 자리매김했습니다.

 

GDDR7 세대별 스펙 자료를 하기에 첨부 드리오니 참고 하세요.

 

* GDDR 세대별 비교표

 

 

Blackwell Server Edition은 멀티 인스턴스 GPU(MIG)도 지원하여 카드를 최대 4개의 완전히 분리된 인스턴스로 분할할 수 있습니다 .

각 인스턴스에는 전용 고대역폭 메모리, 캐시 및 컴퓨팅 코어가 있어 사용자 또는 워크로드 전반에 걸쳐 일관된 서비스 품질을 제공합니다.

이러한 유연성은 공유 환경에서 리소스 활용도를 극대화하는 데 도움이 되며, RTX PRO 6000은 멀티 테넌트 데이터 센터 구축에 매우 적합합니다.

 

멀티모델 워크로드를 지원하도록 설계된 RTX PRO 6000은 최대 AI 처리량을 위한 FP4 정밀도를 제공하고, 가속 렌더링 및 시뮬레이션을 위한 RTX Mega Geometry와 같은 향상된 기능을 제공합니다.

이러한 유연성 덕분에 기업은 단일 아키텍처를 사용하여 다양한 AI 기반 및 비주얼 워크플로를 개발, 시뮬레이션 및 배포할 수 있습니다.

 

 

NVIDIA RTX PRO 6000 외형

 

아래 이미지는 NVIDIA RTX PRO 6000의 서버에디션과 워크스테이션 에디션의 모습 입니다.

 

모델의 네이밍은 같지만 이번에 서버에디션과 워크스테이션 에디션을 같이 출시한 것으로 알고 있습니다.

 

두 제품간의 차이를 발견 하셨나요?

 

서버 에디션의 경우 기존 A100,L40S,H100 등과 같이 서버 자체의 고성능 펜을 통하여 쿨링을 하기 때문에 GPU에 펜이 장착되지 않은 것을 알수 있습니다.

 

워크스테이션 에디션의 경우 시스템 자체의 펜이 아닌 GPU에 장착된 펜을 통하여 GPU 쿨링을 지원하고 있다는 것을 알 수 있습니다.

 

이처럼 동일한 하드웨어 이지만, 서버 또는 워크스테이션용 제품으로 구분해서 출시하여 소비자의 혼란을 줄이려고 노력한 것을 알 수 있습니다.

 

기존에는 워크스테이션에 데이터센터용(서버용) 제품을 잘못 사용하면서 발열등으로 인하여 문제가 된 적이 많았기 때문 입니다.

 

 

\NVIDIA RTX PRO 6000 Blackwell [서버 에디션] 외형

 

 

 

\NVIDIA RTX PRO 6000 Blackwell [워크스테이션 에디션] 외형

 

 

 

NVIDIA RTX PRO 6000 Blackwell 서버 & 워크스테이션 에디션 - 상세 제원

 

아래 표는 NVIDIA RTX PRO 6000 Blackwell 서버 에디션과 워크스테이션 에디션의  상세 제원을 나타 냅니다.

 

보시는 바와 같이 일부 성능상의 차이점이 존재 하므로, 명확하게 확인 해야 할 것 같습니다.

 

 

NVIDIA RTX PRO 6000 Blackwell [서버 에디션] 상세 제원

GPU 아키텍처 NVIDIA Blackwell 아키텍처
CUDA 병렬 처리 코어 24,064
NVIDIA Tensor 코어 752(5세대)
NVIDIA RT 코어 188(4세대)
단정도 성능(FP32) 117테라플롭스
최대 FP4 AI 페타플롭스 3.7페타플롭스
RT 코어 성능 354.5테라플롭스
GPU 메모리 ECC 포함 96GB GDDR7
메모리 인터페이스 512비트
메모리 대역폭 1597 GB/s
전력 소비량 최대 600W(구성 가능)
멀티 인스턴스 GPU(MIG) 24GB에서 최대 4개의 MIG
NVENC | NVDEC | JPEG 4개 | 4개 | 4개
컨피덴셜 컴퓨팅 지원됨
RoT(Root of Trust)를 통한 안전한 부팅
그래픽 버스 PCI Express 5.0 16개
디스플레이 커넥터 DisplayPort 2.1 4개
폼 팩터 4.4인치(H) x 10.5인치(L) 듀얼 슬롯
열 솔루션 수동
전원 커넥터 PCIe CEM5 16핀 1개




 

아래 표는 NVIDIA RTX PRO 6000 Blackwell 워크스테이션 에디션의 상세 제원을 나타 냅니다.

 

 NVIDIA RTX PRO 6000 Blackwell [워크스테이션 에디션] 상세 제원

 

 

NVIDIA RTX PRO 6000 Blackwell vs. RTX 6000 Ada Generation 사양 비교

 

NVIDIA RTX PRO 6000 Blackwell 과 RTX 6000 Ada의 사양을 비교해 보았습니다.

 

성능이 대폭 향상된 만큼 전력 소모량도 크게 늘었다는 부분을 주목해야 할 것 같습니다.

 

사전 주문가가 기존 6000Ada에 비해서 낮은 부분은 긍정적이나, 리테일가가 나오게 되면 어느 정도 가격을 유지 할지가 성패를 가를 것 같습니다.

 

PRO 6000 GPU의 경우에는 기존 L40S 나 6000 Ada 에 비해 높은 전력 소비량을 보이고 있으므로, 기존의 출시된 대부분의 시스템에서는 호환이 가능하지 않을 것 으로 예상 됩니다.

 

따라서, 제품을 도입하기 전에 해당 GPU의 지원 가능유무를 명확하게 확인하지 않으면 낭패를 볼 수 있는 부분은 참고 부탁 드립니다.

 

 

NVIDIA RTX PRO 6000 Blackwell vs RTX 6000 Ada Generation 요약 비교

 

  • 성능: RTX PRO 6000 Blackwell많은 CUDA, RT, Tensor 코어를 탑재하여 FP32 연산 성능과 AI 추론 성능이 뛰어납니다.
  • 메모리: 96GB GDDR7 메모리를 갖춘 Blackwell대규모 데이터셋 처리에 유리합니다.
  • 전력 효율성: Ada Generation최대 300W소비 전력으로, 전력 효율성이 높습니다.
  • 가격: Blackwell약간 높은 가격대에 위치합니다.

 

 

NVIDIA RTX PRO 6000 Blackwell vs RTX 6000 Ada Generation 선택 가이드

  • RTX PRO 6000 Blackwell: 대용량 메모리와 높은 성능이 필요한 데이터 과학, AI 훈련, 고해상도 3D 렌더링 고성능 워크로드에 적합합니다.
  • RTX 6000 Ada Generation: 전력 효율성과 뛰어난 AI 성능을 요구하는 워크플로우에 적합하며, 가격 대비 성능을 고려할 유리한 선택입니다

 

NVIDIA L40S vs. RTX PRO 6000 Blackwell 사양 비교

이번에는 최근 가장 많이 사용되는 L40S와의 비교 자료 입니다.

RTX 6000 Ada와 마찬가지로 PRO 6000은 성능이 대폭 향상 되었습니다.

 

하지만 기존 L40S에 비해 높아진 전력 소모량이 가장 큰 관건이라고 하겠습니다.

GPU의 전력 소모량을 무시하고 사용하게 되면 시스템에 큰 문제가 발생하므로 해당 시스템이 최대 600W급 전력을 소모하는 PRO 6000제품을 명확히 지원하는지 확인 후 구매 해야 할 것 같습니다.

 

 

NVIDIA L40S vs. RTX PRO 6000 Blackwell 요약 비교

  • 성능: RTX PRO 6000 Blackwell많은 CUDA, RT, Tensor 코어를 탑재하여 FP32 연산 성능과 AI 추론 성능이 뛰어납니다.
  • 메모리: 96GB GDDR7 메모리를 갖춘 RTX PRO 6000대규모 데이터셋 처리에 유리합니다.
  • 전력 효율성: L40S최대 350W소비 전력으로, 전력 효율성이 높습니다.
  • 가격: L40SRTX PRO 6000보다 약간 높은 가격대에 위치합니다.

 

 

NVIDIA L40S vs. RTX PRO 6000 Blackwell 선택 가이드

 

  • RTX PRO 6000 Blackwell: 대용량 메모리와 높은 성능이 필요한 데이터 과학, AI 훈련, 고해상도 3D 렌더링 고성능 워크로드에 적합합니다.
  • NVIDIA L40S: 전력 효율성과 뛰어난 AI 성능을 요구하는 워크플로우에 적합하며, 가격 대비 성능을 고려할 유리한 선택입니다.

 

 

NVIDIA L40S vs. RTX PRO 6000 Blackwell 성능 평가

 

단순 GPU 성능치를 평가한 해외 벤치마킹 성능 자료 입니다. 

참고용으로만 보시면 좋을 것 같습니다.

 

 

 

NVIDIA RTX PRO 6000 Blackwell적합한 사용 용도

 

  • 에이전트형 및 생성형 AI : 생성 에이전트와 LLM 기반 애플리케이션을 가속화하기 위해 3.7 PFLOPS의 FP4 성능을 제공합니다.
  • 과학 및 물리 AI : 로봇 공학, 디지털 트윈, 제조 공정에서 까다로운 시뮬레이션 워크로드를 지원합니다.
  • 시각적 컴퓨팅 및 렌더링 : 188개 RT 코어와 고급 NVENC/NVDEC 엔진은 전문적인 렌더링, 3D 모델링 및 고해상도 비디오 처리를 위한 강력한 성능을 제공합니다.
  • 미디어 및 엔터테인먼트 : DisplayPort 2.1 지원 및 향상된 인코딩을 통해 라이브 방송, VFX 및 후반 작업 워크플로에 적합합니다.

 

포스팅을 마치며...

 

NVIDIA L40S는 최대 전력 소모나 추가 냉각 요구 사항 없이 생성적 AI, 모델 추론 및 3D 그래픽에 대한 안정적인 가속을 필요로 하는 기업에 여전히 견고한 성능을 제공하는 제품입니다.

 

새롭게 출시된 RTX PRO 6000 Blackwell Server Edition은 최신 정밀 모드, 그래픽 혁신, 그리고 메모리 용량을 통해 대규모 AI 워크로드를 지원하려는 조직에 적합한 선택입니다.

시뮬레이션, 에이전트 AI, 그리고 대규모 미디어 처리를 위한 미래 지향적인 기반을 제공합니다.

 

적절한 하드웨어를 선택 하셔서 수행하고자 하는 프로젝트에 차질이 없으셨으면 좋겠습니다.

 

긴 포스팅을 읽어 주셔서 감사 합니다.

 

해당 제품의 구매 및 관련 견적 문의가 있으시면 언제든지 하기 연락처로 문의 부탁 드리겠습니다!

 

지금까지 아인시스 아이엔씨의 정지훈 부장 이었습니다. ^^

 

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

 

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰

+ Recent posts