[AI/ML/DL/GPU] NVIDIA MGX 레퍼런스 아키텍쳐에 대한 소개

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

 

최근 전 세계적이 글로벌 기업들과 연구기관에서의 AI 열풍으로 인하여 다양한 종류의 아키텍처기반으로 디자인 된 시스템이 사용 되고 있습니다.

 

기존 전통적인 방식의 PCI-E 카드 타입의 A100, H100 , L40S 등을 사용하는 방식이 있고,

NVIDIA HGX 방식, 그리고 이번에 소개 하고자 하는 #NVIDIA #MGX 아키텍처 방식이 있습니다.

 

 

이 MGX 아키텍처는 작년 5월 경에 NVIDIA 를 통하여 발표가 되었지만, 시장에 아직 많이 알려지지 않은 방식인 만큼 더 자세한 확인이 필요 할 것 같습니다.

 

본 포스팅 이후에 새롭게 추가되는 내용이 있을 경우 지속적으로 내용을 갱신 할 예정 이오니 많은 참고 부탁 드리겠습니다.

 

참고로 하단에 NVIDIA MGX 아키텍처에 대한 기술 자료를 첨부 드리오니, 필요하신 분은 참고 부탁 드립니다.

(아쉽지만 영문 자료밖에 없는 점 양해 부탁 드립니다.)

 

NVIDIA MGX에 대한 기술백서 자료(영문).pdf

5.13MB

 

 

NVIDIA MGX 

NVIDIA의 소개 자료를 참고 하여 MGX 아키텍쳐를 간단하게 정의 하자면, NVIDIA 에서 레퍼런스로 제안한 모듈식으로 디자인 된 GPU 컴퓨팅 아키텍처로 정의 내릴 수 있습니다.

 

저도 아직 제품에 대해서 직접적으로 경험하지 못하였고, 기술 자료로만 본 포스팅을 작성하는 관계로 잘못된 내용이 일부  있을 수 있는 점 미리 양해를 구합니다.

 

MGX 방식은 기존의 PCI 카트 타입의 방식에 비해 정형화 된 모듈타입으로 출시되어 시장에서의 표준을 제공 하고 있으며, 

제공된 자료에 의하면, 하기의 GPU로 구성 할 수 있다고 명시 되어 있습니다.

 

 

이 MGX 아키텍처는 다양한 CPU를 사용 할 수 있는 것으로 확인 되는데 NVIDIA 에서 데이터 센터에서 AI,클라우드,HPC 애플리케이션을 실행을 위해 설계한 GRACE CPU , x86 , ARM 등 다양한 종류의 CPU 사용이 가능 합니다.

 

 

MGX 사용 방식

MGX 아키텍처는 하기의 다양한 용도로 사용 될 수 있습니다.

 

 

 

주요 특징 및 이점

MGX 기반의 아키텍처를 사용 했을 경우에는 하기의 이점이 있다고 NVIDIA 에서 안내 하고 있습니다.

- 시장 출시 시간 단축

- 유연성

- ROI 개선

- 표준 간 호환성

- 여러세대 지원

- 전체 NVIDIA 소프트웨어 스택 실행

- 오픈 소스

- 섀시 방식 : 1U, 2U, 4U(공냉식 또는 수냉식)

- 네트워킹 : 엔비디아 블루필드(BlueField)-3 DPU, 커넥트X(ConnectX)-7 네트워크 어댑터

 

※ HGX 아키텍처와의 차이점

MGX는 엔비디아 제품과의 유연한 다세대 호환성을 제공해 시스템 빌더가 기존 설계를 재사용하고 고가의 재설계 없이 차세대 제품을 쉽게 채택할 수 있도록 하며, 이러한 호환성은 엔비디아 HGX와의 가장 큰 차이점입니다. 반면 HGX는 최고 수준의 AI 및 HPC 시스템을 만들기 위해 확장 가능하도록 맞춤화된 NVLink로 연결된 다중 GPU 베이스보드를 기반으로 합니다.

 

※ 가속화를 더욱 촉진하는 소프트웨어

MGX는 하드웨어 외에도 개발자와 기업이 AI, HPC, 기타 애플리케이션을 구축하고 가속화할 수 있는 엔비디아의 전체 소프트웨어 스택에서 지원됩니다. 여기에는 엔비디아 AI 플랫폼의 소프트웨어 계층인 엔비디아 AI 엔터프라이즈(Enterprise)가 포함되는데요, 엔비디아 AI 엔터프라이즈는 100개 이상의 프레임워크, 사전 훈련된 모델, 개발 도구를 통해 AI 및 데이터 사이언스를 가속, 완벽하게 지원되는 기업용 AI 개발 및 배포를 제공합니다.

MGX는 오픈 컴퓨트 프로젝트(Open Compute Project)와 미국전자산업협회(Electronic Industries Alliance) 서버 랙과 호환돼 엔터프라이즈 및 클라우드 데이터센터에 빠르게 통합될 수 있습니다.

 

 

MGX 아키텍처와 협업 하는 파트너 사들

2024년 10월 16일 기준으로 NVIDIA MGX 아키텍처와 협업을 진행하고 있는 업체는 하기와 같습니다.

 

특이 사항으로는 저희가 잘 알고 있는 ASUS , SUPERMICRO , LENOVO 등의 업체는 존재 하지만,

 

가장 잘 알려진 글로벌 기업인 DELL Technologies 나 HPE가 빠져 있다는 점 입니다.

 

타 기업들에 비해서 공룡 기업인 해당 두 업체는 한발 늦게 시작 하는 경향이 있는 것 같습니다.

 

아무래도 시장에 새롭게 출시 된 아키텍처를 바로 도입 하기보다는 출시 후 시장의 반응을 주시 한 후 안정화 단계에 접어 든 후 출시를 하려는 것이 아닌가 생각 됩니다.

 

 

 

 

 

 

 

글을 마치면서...

NVIDIA 에서 새롭게 발표 된 MGX 아키텍처는 위에서 언급된 다양한 장점들이 있는 반면, 다소 우려 되는 부분도 있습니다.

 

큰 규모의 글로벌 기업에서는 해당 아키텍처를 도입함에 있어서 충분한 예산을 통하여 구매가 가능 하겠으나,

 

GPU 모듈, NVSwitch 모듈 등으로 각각의 쓰임새에 따라 구분된 모듈로 인하여 필수적으로 구성해야 되는 정상 작동될 것으로 예상되므로 제품의 도입 단가가 기존에 비해서 대폭 상향 될 것으로 예상 됩니다.

 

이에 따라, 중소 기업과 소규모 연구 기관에서는 예산상의 문제로 도입에 큰 걸림돌이 되지 않을까 예상해 봅니다.

 

그러한 문제로 인하여, MGX 아키텍처가 아닌 기존의 PCI 카트 타입의 전통적인 방식에서 바로 전환 되기는 쉽지 않을 것으로 생각 됩니다.

 

하지만, NVIDIA가 독점적 위치를 이용하여 기존의 PCI 카드 타입의 제품을 단종 시키거나, 공급을 제대로 하지 않는다면,

예산이 부족한 기업의 경우 도입하느 못하는 불가피한 상황이 발생 할 것으로 예상 됩니다.

 

향 후 1~2년 후의 상황이 어떻게 진행 될지는 NVIDIA 젠슨황 CEO의 판단에 달려 있다고 해도 과언이 아닌 상황 이 된 것 같아 .AMD 가 조금 더 분발해 줬으면 하는 개인적인 바람이 있습니다.

 

긴 글을 읽어 주셔서 감사 드리며,  아직 MGX 아키텍처에 관한 자료들이 부족하여, 추가적인 정보를 얻는대로 지속적인 정보를 공유 드리도록 하겠습니다.

 

GPU서버 및 워크스테이션의 구매관련 문의는 하기로 연락 주시면 최대한 빠른 대응 약속 드립니다.

이상 아인시스의 정지훈 부장 이었습니다.

 

감사 합니다. ^^

 

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com