(주) 아인시스 아이엔씨

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

금일은 최근 GPU 에 이어서 IT 업계의 화두로 떠오르고 있는 NPU에 대해 알아 보도록 하겠습니다.

#NPU 란 #Neural Procession Unit 의 약어로서 말 그대로 번역 하면 "신경망 처리 장치" 라고 합니다.

이 NPU는 인공지능(AI)과 머신러닝 작업을 최적화 하고 가속하기 위해 설계된 하드웨어 장치를 말 합니다.

NPU는 특히 딥러닝 모델과 같은 복잡한 계산을 처리 하는데 특화된 기능을 제공 하며, CPU(중앙 처리 장치)와 GPU(그래픽 처리 장치)는 범용 처리 장치로 다양한 작업을 처리할 수 있지만, NPU는 신경망 연산에 최적화된 아키텍처를 사용하여 AI 관련 작업을 훨씬 더 효율적으로 처리 할 수 있습니다.

NPU의 주요 특징

• 딥러닝 모델 최적화: NPU는 대량의 병렬 연산을 빠르게 처리할 수 있도록 설계되어 있어, 딥러닝 모델에서 중요한 행렬 연산, 벡터 연산 등을 매우 빠르게 수행합니다. 이를 통해 이미지 인식, 음성 처리, 자연어 처리 등 다양한 AI 애플리케이션에서 빠른 성능을 제공합니다.
• 병렬 처리: NPU는 여러 연산을 동시에 처리할 수 있는 능력이 뛰어나기 때문에, 딥러닝 모델을 학습하고 추론하는 데 필요한 수많은 계산을 효율적으로 분산 처리할 수 있습니다. 이는 AI 시스템의 속도와 성능을 크게 향상시킵니다.
• 저전력 소비: NPU는 AI 연산에 필요한 복잡한 계산을 효율적으로 수행하는 반면, CPU나 GPU보다 낮은 전력을 소비하는 특징이 있습니다. 따라서 모바일 기기나 IoT 장치 등 전력 소비가 중요한 환경에서도 사용될 수 있습니다.
• 고속 메모리 처리: NPU는 대용량 데이터를 빠르게 처리할 수 있는 메모리 대역폭을 제공하여, AI 모델을 실시간으로 추론하거나 학습하는 데 필요한 데이터 전송 속도를 지원합니다.

NPU가 사용되는 분야

• 스마트폰과 모바일 기기: 많은 스마트폰 제조사들이 NPU를 자사의 모바일 칩셋에 통합하여, 카메라 성능 향상, 음성 인식, 얼굴 인식 등 AI 관련 기능을 빠르게 처리하고 있습니다. 예를 들어, Apple의 A13 Bionic 칩과 같은 최신 스마트폰 칩은 NPU를 포함하고 있습니다.
• 자율주행차: 자율주행차는 실시간으로 주변 환경을 인식하고 의사결정을 내리는 데 AI 모델을 사용합니다. NPU는 이러한 처리 과정을 가속화하여 자율주행차가 빠르고 안전하게 주행할 수 있도록 돕습니다.
• 헬스케어: 의료 영상 분석, 유전자 데이터 처리, 건강 모니터링 등의 분야에서 NPU는 AI 기반 분석을 빠르고 효율적으로 수행하는 데 사용됩니다.
• 로봇 공학: 로봇이 환경을 인식하고, 학습하며, 의사 결정을 내리는 데 필요한 고속 연산을 수행하는 데 NPU가 활용됩니다.
• 각종 영상 분석 처리: CCTV 및 각종 보안업체에서 지능화된 영상 처리를 위해 활용 될 수 있습니다.

NPU의 발전

NPU는 계속해서 발전하고 있으며, 더 빠르고 효율적인 아키텍처로 개선되고 있습니다.

또한, 기존의 CPU와 GPU와 함께 사용되어 AI 시스템에서 각 장치가 최적의 역할을 수행하도록 하는 하이브리드 시스템을 구성하는 경우도 많습니다.

NPU 관련 기업

현재 전세계적으로 이 NPU를 연구 개발하는 수많은 회사가 있습니다.

그 중에서도 국내의 개발사중 대표적인 회사는 아래의 3군데 회사가 있습니다.

1. Molilint (모빌린트)

2. FURIOSA (퓨리오사)

3. Rebellions (리벨리온)

해외의 업체에는 하기와 같은 다양한 기업들이 있습니다.

- HAILO

- flexlogix

- DEEPX

- Horizon Robotics

- blaize

- Eta Computer

- MYTHIC

- UXfactory

- Kneron

- SAPEON

- GRAPHCORE

- cerebras

- graq

- habana

- Alibaba Group

- GREENWAVES

- SYNTIANT

- Synaptics

Mobilint : On-Device 와 On-Premises AI에 최적화 된 NPU 솔루션 제공 업체

수많은 NPU 업체 중 저희 아인시스는 국내 최고의 딥러닝 가속과 센서 데이터 처리를 위한 NPU 솔루션의 기술력을 보유한 국내 업체인 #Mobilint(#모빌린트)와의 긴밀한 업무 협약을 통한 NPU 디바이스를 제공 하며, 모빌린트의 하드웨어들은 On-Device와On-PremisesAI에 최적화 된 Edge 환경에 최적화 되어 있는 솔루션 이라고 할 수 있습니다.

하기는 이미지는 국내외 NPU 관련 업체들의 포지셔닝 배치도 인데, 모빌린트는 고성능의 Edge 환경을 포지셔닝 하고 있는것 을 알수 있습니다.

모빌린트의 비즈니스 영역

모빌린트는 아래의 표와 같이 Edge Infrastructure , ON-PREMISE EDGE Server, EDGE DEVICE 등을 타겟으로 하고 있는것을 알 수 있습니다.

MOBILINT AI Chips : ARIES & REGULUS

모빌린트에서 개발된 디바이스는 크게 ARIES와 REGULUS로 나뉩니다.

ARIES는 카드 타입의 제품이며, REGULUS는 SOC타입의 제품으로 매우 저전력으로도 고성능을 낼 수 있어 드론등 다양한 장치에 사용 될 수 있습니다.

ARIES의 대표 모델 MLA100

ARIES 제품군중 대표 모델은 하기의 MAL100 모델 입니다.(하기 이미지 참고)

해당 제품은 PCI-Express 타입의 제품이며, MXM 타입의 규격으로도 개발 되었습니다.

* MLA100 모델의 스펙

* MLA100 모델의 제원

REGULUS :  Evaluation 보드타입과 SoM (System On Module) 타입의 모델

RUGULUS 모델은 하기와 같이 보드 타입와 모듈타입 2가지 제품이 출시 되었습니다.

* RUGULUS 의 MLM1 라인업 스펙표

MOBILINT NPU / NVIDIA GPU 비교

모빌린트 NPU와 NVIDIA의 GPU를 비교한 표 입니다.(참고자료: 모빌린트 자체 테스트 결과 자료 첨부)

하기의 자료와 같이 모빌린트 NPU MLA100을 사용 하였을 시 NVIDIA GPU 대비 YOLOv5x 모델에서 더욱 낮은 전력으로 높은 성능을 낼 수 있음을 알 수 있습니다.

추가적으로 하기의 표와 같이 다양한 AI모델 테스트 시에 NVIDIA GPU 대비 높은 성능을 기대 할 수 있습니다.

아래는 HAILO사의 NPU 카드와의 비교 자료인데 참고해 보시면 될 것 같습니다.

NPU 적용 가능 분야

모빌린트의 Edge AI 처리가 가능한 NPU는 실시간 데이터 처리를 가능하게 하며 다양한 분야에서 빠른 성능과 데이터 보안을 보장 합니다.

또한, 모빌린트 NPU는EdgeAI 작업에 최적화 된 솔루션으로 GPU보다 비용 효율적이고 효과적입니다

보안분야 (실시간 비디오 분석)

• 객체 감지, 얼굴 인식, 행동 분석과 같은 작업에서 AI 모델 실행 속도를 향상
• 실시간 데이터 처리를 통해 침입이나 도난 등의 의심스러운 활동들을 즉시 식별
• 카메라 또는 로컬 허브에서 Edge AI 작업이 가능하여 데이터 전송의 필요성을 최소화하여 데이터 관련 보안 확보

자동차/드론/로봇 (자율주행 및 Cobots)  * Cobots : Collaborative Robotics

• 자동차, 드론, 로봇의 객체 감지, 경로 탐색, 장애물 회피등의 기능을 지원하여 실시간 자율주행 가능
• 로컬에서 효율적으로 데이터를 처리하고 클라우드 의존성을 줄임으로써 더 빠른 응답 확보가능
• 인간과의 상호작용, 행동 분석, 동기화된 작업을 위한 군집 지능(Swarm Intelligence) 지원

결함감지 (복합 상황에서의 결함 감지)

• 여러 데이터 스트림을 동시 처리하여 조립 라인과 생산 유닛의 빠른 검사 가능
• 이미지 분류, 객체 감지, 이상 감지와 같은 AI 관련 작업 가속화
• ‘장치 내 학습 (On-Device Training)’을 지원하여 새로운 데이터가 추가됨에 따라 결함 감지 시스템이 적응하고 개선되도록 지원

게임(사용자 경험 향상)

• NPC의 실시간 AI, 적응형 게임플레이, 음성 인식 등으로 게임 경험 개선
• 플레이어의 데이터를 로컬에서 처리하여 개인 맞춤형 콘텐츠 등 다양한 게임 경험 제공
• 비정상적인 플레이어의 행동 패턴을 인식하여 Hacking, 치트 엔진 등을 감지하여 보안 강화

Chatbot (자연어(Natural Language Processing) 향상

• Chatbot은 복잡한 딥러닝 모델을 사용하며, NPU는 GPU보다 빠르게 행렬 연산과 병렬 계산 수행
• 사용자 데이터 (선호도, 과거 상호작용, 위치 등)를 기반으로 실시간 대응 가능
• NPU를 통상 연산 성능 개선을 통해 응답 시간을 단축시키며 원활한 실시간 상호작용 보장

지능형 교통 시스템(ITS) (적응형 교통 제어)

• 센서, 카메라등의장치 데이터를 처리하여 차량, 보행자, 교통 패턴을 감지하는 딥러닝 모델 실행
• 객체 감지, 차량, 자전거 식별 및 교통 법규 집행을 위한 번호판 인식 등의 작업 지원
• 실시간 입력 데이터를 분석하여 교통 신호를 조정하여 지연 최소화 및 교통 최적화

포스팅을 마치며...

금일은 NPU 와 NPU 전문기업인 모빌린트의 제품들에 대해 알아 보았습니다.

CPU는 컴퓨터의 뇌와 같은 역할을 하며, 광범위한 작업을 순차적으로 처리 하며, 

GPU는 광범위한 병렬 처리에 능숙하며, 과학 시뮬레이면, 기계학습, 암호화폐 채굴, 비디오 편집 등에 적합 하다면

NPU는 딥러닝 알고리즘을 가속화 하기 위해 제작된 카드이며, GPU보다 한단계 더 전문화 되어 있는 카드라고 정의를 내릴 수 있습니다.

요새는 GPU에 더해서 NPU와 GPU의 장점만 결합하여 GPNPU(GPU-NPU 하이브리드) 개념까지 새롭게 등장 한 상황 입니다.

이는 NPU 의 AI중심 아키텍처와 GPU의 병렬 처리 기능을 활용하여 좀더 효과적인 워크로드를 위해 만들어 졌습니다.

계속 정교해지는 머신러닝 네트워크에 적응할 수 있는 능력이 커다란 장점이라고 볼 수 있겠습니다.

최근 인텔에서 이 NPU가 탑재된 프로세서가 인텔에서 새롭게 출시 되었는데 이게 바로 인텔의 "메테오 레이크" 입니다.

14세대 코어울트라 프로세서에는 CPU,GPU,NPU가 내장되어 있어 노트북에서도 바로 활용이 가능 하며, CPU와 GPU가 하는 일을 일부 줄여줄수 있어서 CPU와 GPU가 다른 작업들을 좀 더 잘 수 행 할 수 있도록 도와주는 역할을 합니다.

GPU뿐만 아니라 NPU 시장도 그 파이가 매우 커지고 있으며, 향후 IT 기술에서 NPU도 결코 빼놓고 이야기 할 수 없는 중요한 기술이 될 것이라고 확신 합니다.

포스팅을 마치면서.. 모빌린트의 NPU 카드에 대한 문의 사항이 있으시면 하기의 연락처로 연락 주시면 자세한 안내 도와 드리도록 하겠습니다.

감사 합니다!

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

금일은 작년에 출시 되었지만 아직까지도 많은 기업과 연구기관에서 찾고 있는  NVIDIA L40S GPU에 대해서 언급해 보려고 합니다.

작년에 A100의 수급 이슈로 인하여 시장에 새롭게 출시된 GPU가 L40S 인데, 해당 GPU는 PCI 방식 뿐만 아니라  SXM 방식까지 지원하는 A100 에 비해 PCI 방식만을 지원하며, A100같이 NVLink를 지원하지도 않음에도 불구하고 일부 성능이 A100에 비해서 뛰어나며 가성비도 우수해서 꽤 많은 곳에서 사용되고 있는 GPU 입니다.

특히, LLM (Large Language Model) 에서는 매우 뛰어난 가성비를 자랑하는 GPU로서 최근에는 연세대, 서울대 등 다양한 연구기관에서 도입해서 연구용으로도 많이 사용 하고 있습니다.

하기의 출고기에서와 같이 저희 아인시스는 수많은 고객사 납품이력이 있는 검증된 기업 입니다.

출고기 확인 하러 가기 <<<<

출고기 확인 하러 가기 <<<<

출고기 확인 하러 가기 <<<<

해당 GPU는 저희 아인시스에서 매우 합리적인 금액으로 대량 공급이 가능 하며, DELL / HPE / ASUS / SUPERMICRO 등 다양한 GPU 서버도 납품이 가능 하오니 제품 및 구매 견적 관련 문의는 하기로 연락 부탁 드립니다.

감사 합니다.

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰/LLM

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

이번에 저희 아인시스에 #NVIDIA #DGX A100 (320GB) 제품이 새롭게 입고 되어서 제품을 자세히 알아 보고자 입고기를 작성해 보게 되었습니다.

신품이 아닌 중고 제품으로 입고 되었으며, 가격이 어마어마한 제품이어서 쉽게 만나볼 수 없는 제품을 이번에 접할 수 있게 되어 좋은 경험이 된 것 같습니다.

NVIDIA DGX A100의 대응 제품으로는 DELL Technologies와, SUPERMICRO 등 여러 밴더에서도 출시가 되고 있지만 엔비디아 레퍼런스 제품 답게 제품의 완성도와 재질의 마감 퀄리티는 훨씬 뛰어나다고 개인적으로 생각 합니다.

제품 모습

입고된 DGX A100 제품의 모습 입니다.

타사 제품에 비해 훨씬 전면 베젤이 퀄리티 있는 멋진 모습으로 되어 있어서 딱 봐도 고가의 장비라는 느낌이 물씬 나네요.

전면 베젤을 제거하면 하기와 같이 전면에 큼지막한 펜과 NVMe U.2 SSD 슬롯이 보입니다.

또한 전면에서 D-SUB 단자와 USB 포트를 배치 함으로써 번거롭게 후면에 연결해야 하는 수고스러움을 덜어 줍니다.

전면 펜은 하기와 같이 상단의 누르는 부분을 누른 후 당기면 뺄 수 있는 구조로 되어 있으며, 시스템이 켜져 있는 상태에서도 탈부탁이 가능한 핫플러그를 지원 합니다.

전면의 NVMe 슬롯로 레치를 누르면서 앞으로 뺄 수 있는 핫스왑을 지원 합니다.

KIOXIA 사의 3.84TB U.2 NVMe 제품이 장착 되어 있습니다.

시스템의 우측에는 전원 버튼과 인포 버튼이 보입니다.

맨 하단에는 시스템 이상시 LED 색상으로 이상 상태를 알아 볼 수 있게끔 LED 상태 확인할 수 있게 하고 있습니다.

제품의 후면을 보면 고사양의 #A100 SXM 타입의 GPU와 Dual CPU 가 탑재된 고사양의 서버 제품임으로 개당 3000W 급의 고용량 파워가 6개 장착되어 있습니다.

당연하게 파워는 Redundant 방식으로 작동하며, 최소 작동 수량은 3개 입니다.

운용중 파워에 이상이 생겨도 3개 까지는 문제 없이 안정적인 사용이 가능 합니다.

파워서플라이는 운용중에 문제가 생겨도 쉽게 교체가 가능하게 핫스왑을 지원 하고 있습니다.

또한, Mellanox ConnectX-6 200GB HDR Card가 10개 지원하여 최대 500GB/s 의 양방향 대역폭을 지원 합니다.

우측에는 1G/10G를 지원하는 랜포트와, USB 포트, 그리고 BMC 포트를 제공 하고 있습니다.

BMC 설정을 하게 되면 크롬등의 웹브라우저에서 시스템의 상태를 면밀하게 관찰 할 수 있고, 원격 콘솔 기능을 지원해서 원격지에서도 서버를 바로 앞에 있는 것처럼 운용 할 수 있습니다.

서버는 크게 보았을때 3가지 섹션으로 구성되어 있습니다.

가장 상단은 GPU 노드, 중간은, CPU와 램 등이 장착된 일반 서버 노드, 맨 하단은 파워서플라이등이 장착 되는 전원 노드로 구분 됩니다.

각 노드들은 렛지를 당겨서 쉽게 분리가 가능하게 설계되어 있습니다.

하기와 같이 완전히 분리가 된 모습을 볼 수 있습니다.

GPU 노드쪽 후면을 보면 내부의 부품을 볼 수 있는데, 큼지막한 GPU 히트싱크와 여러 커넥터들이 보이네요.

노드를 재 장착시에는 커넥터에 손상이 가지 않도록 매우 유의를 기울여야 합니다.

GPU 노드의 상판을 제거해서 내부의 모습을 살펴 봤습니다.

역시 엔비디아 정품 모델이니 만큼 타사대비 매우 깔끔한 설계와 높은 퀄리티를 볼 수 있습니다.

GPU 부분을 가까이서 본 모습 입니다.

GPU는 아래에 숨겨져 있으며, 보이는 부분은 히트싱크 부분 입니다.

뒤집어서 보면 아래와 같은 모습을 하고 있습니다.

하기의 모습은 GPU에서 빠르게 생성되는 데이터를 GPU간에 초고속으로 처리 할 수 있게 해주는 NVLink Switch 부분 입니다.

PCI 카드 타입의 A100 에서는 NVLink Bridge 라는 파트가 별도로 사용 되지만, 해당 모델에서는 보드에 내장된 타입으로 되어 있습니다.

높은 발열로 인하여 히트싱크 높이도 어마어마한 것을 알 수 있습니다.

사진상 맨 앞 부분은 커넥터 부위이며, 바로 뒤에 솟아 있는 부분이 NVLink Switch 입니다.

서버쪽 노드도 레지를 당겨서 쉽게 열 수 있는 구조로 되어 있습니다.

당연하지만, 핫스왑은 지원되지 않으며 파워를 모두 제거하고 작업을 해야 합니다.

상판에는 각 슬롯들에 대해서 그림으로 설명 하고 있네요~

상판 덥개를 제거한 모습 입니다.

CPU와 메모리,PCI 슬롯에 장착된 Mellanox 200GB 카드가 보입니다.

상기 이미지 하단에 보시면 은색으로 된 PCI 슬롯에 꼽힌 파트가 보이는데, OS 설치용으로 기본 제공되는 2TB 정도 용량의 M.2 NVMe 슬롯입니다.  하기와 같이 2개가 기본 장착 되어 있습니다.

시스템 구동

시스템을 다시 조립 하고 전원을 인가하여 보았습니다.

엔비디아 정품 제품임으로 bios 화면에 멋진 엔비디아 로고가 보입니다.

해당 시스템은 AMD EPYC 7742 DUAL CPU가 장착되어 있으며, 시스템 메모리는 총 1TB 를 기본 제공 합니다.

바이오스는 익히 타 브랜드에서도 많이 사용 하는 AMI 바이오스가 사용되고 있네요.

BIOS 에 진입해서 NVME SSD의 모델을 확인해 보았는데 하기와 같이 삼성과, KIOXIA 제품이 사용 된 것 같습니다.

KIOXIA 3.84 TB U.2 NVMe SSD의 정보 이구요~

삼성 2TB M.2 NVMe SSD (OS 설치용) 디스크의 정보 입니다.

하기는 CPU와 RAM의 정보 입니다.

BMC 설정

본 장비도 슈퍼마이크로나, ASUS 서버들과 같이 BMC 설정을 통하여 시스템을 관리 할 수 있습니다.
바이오스 상의 하기 메뉴에서 BMC 네트워크 설정을 하면 WEB 관리 화면으로 접근이 가능 합니다.

BMC의 IP 설정을 하고 웹브라우저를 통하여 BMC 에 접속 하는 모습 입니다.

화면 구성이 참 깔끔하게 되어 있네요.

창찬할 만한 부분 입니다.

로그인을 하면 하기와 같이 매우 자세한 시스템의 상태를 확인 하며 관리 할 수 있습니다.

본 화면에 표출되는 정보는 IPMI 센서값을 통하여 반영해 준다고 보시면 될 것 같습니다.

(DELL이나 HPE 에서도 BMC와 같은 걸 ILO와 IDRAC 이라고 부르며 제공하고 있는 부분 참고 부탁 드립니다.)

A100 (40GB) 제품을 BMC 에서 확인 가능 합니다.

웹 콘솔을 통하여 원격지에서 하기와 같이 시스템에 접속해 볼 수 있습니다.

네트워크에 연결되어 있다면, 전세계 어디에서도 원격지에서 서버에 직접 오지 않아도 OS 설치부터 서버 리부팅등 전부 가능 합니다.

참 편리한 기능이라고 할 수 있습니다.

(DELL이나 HPE의 경우에는 라이선스를 구매를 통하여 가능한 부분인데 해당 장비의 경우 고가의 장비이다 보니 기본 무료로 원격 콘솔을 지원 하는 것 같았습니다.)

포스팅을 마치며..

이번에 NVIDIA DGX A100 서버를 만져볼 수 있는 좋은 기회가 생겨서 이렇게 하드웨어 리뷰를 작성해 볼 수 있었습니다.

개인적으로 느낀점은 타사의 제품에 비해 NVIDIA 제품은 케이블이 거의 없는 일체형 구조여서 사람의 실수에 의한 문제 발생 소지가 매우 낮고, 유지보수가 참 편리하게 설계된 제품이라는 느낌을 강하게 받았습니다.

역시 설계의 엔비디아 입니다!

앞으로도 다양한  IT 제품에 대해서 알아보는 시간을 자주 갖도록 하겠습니다.

본 장비는 저희 아인시스를 통하여 구매가 가능하며, 제품이나 견적관련 문의는 하기로 연락 주시면 감사 하겠습니다.

이상, 아인시스의 정지훈 부장 이었습니다.

감사 합니다.

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰/dgxa100/DGXA100

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

금일은 AI 딥러닝 등에 필수인 #NVIDIA 의 GPU #A100과 #H100의 다음 세대 제품으로 시장의 큰 관심을 받고 있는 있는 #H200 에 대해 알아 보도록 하겠습니다.

NVIDIA H200 데이터 시트 보기

2022년~2023년 까지는 A100이 대세였고, 2023년 부터 2024년 까지는 H100이 AI 와 딥러닝에서 가장 대세로 자리 잡았던 GPU 였습니다.

이를 이를 차세대 #Hopper 아키텍쳐 기반의 GPU를 NVIDIA가 23년 말경에 발표를 하였는데 이것이 바로 H200 입니다.

H200은 HBM3e 메모리가 탑재한 최초의 GPU로서 이는 1.4배 더 많은 메모리 대역폭을 사진 H100의 거의 두배에 달하는 용량 입니다.

H200은 Llama2와 같은 LLM을 처리 할 때 H100 GPU에 비해 추론 속도를 최대 2배까지 향상 시킬 수 있습니다.

H200은 보드에 CPU와 같은 방식으로 꼽아서 쓸 수 있는 SXM  방식과 PCI-Express 슬롯에 꼽아 쓸 수 있는 H200 NVL 모델이 있습니다.

NVIDIA H200 모델 별 스펙

상기 스펙표에서와 같이 SXM 모델이 PCI 타입의 제품에 비해 약간 더 나은 성능을 보여 줍니다.

SXM 폼펙터를 사용 하는 제품은 더욱 고성능 이지만, 최소 GPU 요구 구성 수량과 더욱 높은 금액으로 인하여 소규모 기업과 연구 기관 등에서 사용 하기에는 다소 부담이 되는 것이 사실 입니다.

Ampere 기반의 아키텍쳐에서 시작해서 Hopper, 그리고 가장 최신 아키텍쳐인 Blackwell 의 출시까지 확정된 현재 Hopper 기반의 H100이 출시 된 이유는 AI 시장에서의 GPU 성능 향상에 대한 요구가 올라가고 있기 때문 입니다.

아래 이미지는 NVIDIA의 GPU 출시 계획 로드맵 자료이니 참고 부탁 드립니다.

고성능 컴퓨팅 강화

NVIDIA H200 은 기존의 H100에 비해서 매우 크게는 아니지만, 그래도 의미있는 성과를 이뤘다고 볼 수 있습니다.

특히 CHAT GPT와 같은 서비스에서 사용 하는 LLM(Large Language Model)에서는 H100에 비해서 60% 정도의 향상 된 성능을 제공 합니다. (하기 엔비디아 공식 자료 참고)

HPC (High Performance Compution) 분야에서는 기존의 a100에 비해서는 약 2배 정도의 성능 향상이 있다는 결과가 있습니다.

에너지 및 TCO 절감

H200은 H100에 비해 약 50%의 전력 효율성을 보입니다.

이 부분은 동일한 전력으로 더욱 높은 수준의 성능을 제공 하므로 장비의 운용 비용을 대폭 줄일 수 있는 이점이 있습니다.

NVIDIA H200 데이터 시트 보기

포스팅을 마치며...

최근 전세계적으로 어려운 경제 상황에도 불구 하고 AI 시장은 지속적인 폭발적인 성장을 이루고 있습니다.

이에 따라 고성능 GPU에 대한 시장의 수요가 매우 높아지고 있는 상황 인데요

#Hopper(호퍼) 뿐만 아니라 #Blackwell(블랙웰) 차세대 아키텍터로 개발된 제품들은 과연 얼마나 뛰어난 성능을 실제로 보여줄지 큰 기대가 됩니다.

참고로 저희 아인시스에서는 엔비디아의 다양한 GPU들을 취급 및 유통하고 있사오니 제품에 대한 문의 및 견적은 하기로 연락 부탁 드립니다.

감사 합니다. ^^

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

금일은 최근 딥러닝 GPU 서버등에서 많이 등장하는 용어인 DGX와 HGX에 대해서 알아 보는 시간을 갖도록 하겠습니다.

참고로 NVIDIA DGX와 HGX는 모두 NVIDIA의 인공지능 및 고성능 컴퓨팅(HPC) 솔루션의 일환으로, 서로 다른 용도와 아키텍처를 가지고 있습니다. 다음은 두 시스템의 주요 차이점입니다:

1. 목적 및 사용 사례

• DGX: DGX 시스템은 AI 개발 및 딥러닝 훈련을 위한 완전한 솔루션입니다. 주로 연구자와 데이터 과학자들이 사용하며, 머신러닝 모델 훈련과 데이터 분석을 위해 최적화되어 있습니다. DGX 시스템은 소프트웨어 스택(예: NVIDIA GPU Cloud)과 함께 제공되어 사용자가 빠르게 AI 모델을 개발할 수 있도록 돕습니다.
• HGX: HGX는 데이터 센터에서의 고성능 컴퓨팅 및 클라우드 서비스 제공을 위해 설계된 모듈형 플랫폼입니다. 주로 기업과 클라우드 서비스 제공업체가 사용하며, 대규모 인프라에 적합한 GPU 기반 솔루션입니다. HGX는 특히 다양한 워크로드(예: AI, HPC, 데이터 분석)에 대해 유연하게 확장할 수 있습니다.

2. 하드웨어 구성

• DGX: DGX 시스템은 NVIDIA A100, H100 등의 고성능 GPU를 포함하여, CPU, 메모리, 저장 장치 등 모든 구성 요소가 최적화된 형태로 통합되어 있습니다. 일반적으로 8개의 GPU를 갖춘 DGX 시스템(예: DGX A100)이 가장 많이 사용됩니다.
• HGX: HGX 플랫폼은 GPU를 여러 대 결합할 수 있는 아키텍처로 설계되어 있습니다. 고객이 필요에 따라 GPU와 CPU의 조합을 유연하게 구성할 수 있으며, 최대 16개의 GPU를 연결할 수 있는 옵션이 있습니다. HGX는 하드웨어적인 모듈화가 가능해 대규모 클러스터를 구축하는 데 적합합니다.

3. 소프트웨어 및 지원

• DGX: DGX 시스템은 NVIDIA의 AI 소프트웨어 스택(예: NGC, CUDA, cuDNN 등)을 기본적으로 포함하여, 사용자가 손쉽게 AI 작업을 시작할 수 있도록 설계되어 있습니다. 또한, NVIDIA의 소프트웨어 업데이트와 지원이 체계적으로 제공됩니다.
• HGX: HGX 플랫폼은 사용자에게 다양한 프레임워크와 솔루션을 지원할 수 있는 유연성을 제공합니다. HGX 시스템은 일반적으로 여러 클라우드 서비스와 통합되며, 다양한 소프트웨어와의 호환성이 높습니다.

4. 배포 및 관리

• DGX: DGX는 독립형 시스템으로서 설치와 관리가 비교적 간편합니다. 작은 팀이나 연구실에서도 쉽게 배포할 수 있습니다.
• HGX: HGX는 대규모 데이터 센터에 최적화되어 있으며, 클러스터 환경에서 운영되는 경우가 많습니다. 따라서 보다 복잡한 관리와 운영을 요구할 수 있습니다.

요약 하자면..

DGX는 AI 연구와 개발에 최적화된 단일 시스템이며, HGX는 유연성과 확장성이 뛰어난 데이터 센터 솔루션입니다.

쉽게 말해 DGX 는 시스템을 말하며, HGX 는 그러한 시스템과 솔루션이 융합되어 있는 엔비디아의 레퍼런스 아키텍쳐라고 보시면 됩니다.

물론 선택은 사용자의 요구와 작업 환경에 따라 달라집니다.

오늘은 DGX와 HGX에 대해서 알아 보는 시간을 마련해 보았는데요, 본 포스팅을 작성 하면서 저도 애매모호하게 알고 있는 부분에 대해 해소가 될 수 있는 기회가 되었습니다.

다소 부족한 포스팅 이었지만 아무쪼록 본 포스팅이 방문해 주신 분들에게 도움이 되었으면 좋겠습니다.

이상 아인시스의 정지훈 부장 이었습니다.

감사 합니다. ^^

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

금일은 서버 시장에서 뗄레야 뗄수 없는 서버용 CPU에 대해 알아 보도록 하겠습니다.

전통적으로 서버용 CPU 시장은 매우 보수적이어서 인텔 계열의 #제온(XEON) CPU가 매우 강세였습니다.

현재까지도 다양한 글로벌 밴더사(DELL, HPE, Lenovo 등)에서 실제 출하되는 서버는 인텔 계열 서버가 판매량이 높은 건 사실 입니다.

하지만, 최근 인텔 13~14세대 CPU 라인업에서 불량 및 성능 발열문제가 큰 이슈로 떠올라서 인텔의 오랜 아성이 무너지고 있는 상황 입니다.

최근 인텔이 주춤하고 있는 사이 인텔 서버용 제온(XEON) CPU의 대항마인 AMD의 #에픽(#EPYC) 프로세서가 큰 인기를 얻고 있습니다.

서버에 사용되는 CPU는 서비스를 제공하는 장비이기 때문에 신뢰성이 매우 중요하기 때문에 오랜역사와 전통을 자랑하는 인텔의 CPU를 사용 했던 고객사들은 인텔을 선호하는게 당연 하다고 하겠습니다.

하지만, 최근 인텔의 행보에 시장은 많은 실망을 하게 되었고, 다수의 회사에서 AMD 프로세서를 도입함으로 인하여 뛰어난 성능과 안전성이 시장에서 점차 검증되어 가고 있는 실정 입니다.

현재 서버용 AMD CPU의 가장 신형 아키텍쳐인 EPYC 9004 시리즈(Zen 4 아키텍처) 모델의 경우 인텔 제품에 비해 더욱 높은 코어수와 전력효율성, 그리고 높은 성능과 안전성을 보여 줍니다.

현업에 종사하고 있는 저의 입장에서 본다면 정말 격세지감일 정도로 고객사들의 AMD CPU 도입 비중이 많이 늘어난 상황 입니다.

저희 아인시스에서는 해당 AMD EPYC 9004 프로세서 라인업을 사용할 수 있는 최신의 GPU 서버를 취급 하고 있으며,

해당 제품들은 하기의 사이트에서 확인 가능하니 참고 부탁 드리겠습니다.

아인시스 자사몰 EinMall(아인몰) : https://einmall.kr

AMD EPYC 프로세서의 세대 별 라인업

AMD EPYC 프로세서는 여러 세대에 걸쳐 다양한 모델로 구성되어 있으며, 각 세대는 고유한 아키텍처와 성능 특징을 가지고 있습니다.

다음은 AMD EPYC 프로세서의 주요 라인업입니다.

1. EPYC 7001 시리즈 (Zen 아키텍처)

• 출시일: 2017년 6월
• 주요 특징: 최초의 EPYC 프로세서로, 최대 32코어와 64스레드를 지원. 데이터 센터의 멀티스레드 성능을 크게 향상.

2. EPYC 7002 시리즈 (Zen 2 아키텍처)

• 출시일: 2019년 8월
• 주요 특징: 최대 64코어와 128스레드를 지원. IPC(Instructions Per Cycle) 향상, PCIe 4.0 지원, 7nm 공정 기술로 제작되어 성능과 전력 효율성이 뛰어남.

3. EPYC 7003 시리즈 (Zen 3 아키텍처)

• 출시일: 2021년 3월
• 주요 특징: 최대 64코어와 128스레드를 지원. IPC 향상이 두드러지며, 더 나은 클럭 속도와 에너지 효율성을 제공. 강화된 보안 기능 포함.

4. EPYC 9002 시리즈 (Zen 4 아키텍처)

• 출시일: 2022년 11월
• 주요 특징: 최대 96코어와 192스레드를 지원. DDR5 메모리 및 PCIe 5.0 지원, 고급 전력 관리 기술로 성능과 전력 효율성 최적화.

5. EPYC 9004 시리즈 (Zen 4 아키텍처)

• 출시일: 2022년 11월
• 주요 특징: EPYC 9002와 유사하나, 추가적인 최적화와 기능 개선. 높은 성능과 확장성으로 다양한 데이터 센터 환경에 적합.

AMD EPYC 프로세서의 세대 별 주요 성능 특징

• 코어 및 스레드 수 증가: 각 세대가 출시될 때마다 코어와 스레드 수가 증가하여 멀티스레드 성능이 향상됨.
• 메모리 지원: DDR4에서 DDR5로의 전환과 메모리 대역폭 증가.
• I/O 향상: PCIe 버전의 진화로 데이터 전송 속도 증가.
• 보안 기능 강화: 각 세대마다 하드웨어 기반 보안 기능이 강화됨.

AMD EPYC 프로세서는 고성능 컴퓨팅, 클라우드 서비스, 데이터베이스 및 머신 러닝 등 다양한 응용 분야에서 사용되고 있으며, 각 세대마다 성능과 효율성을 지속적으로 개선되고 있습니다.

마치면서..

인텔에 비해 AMD의 약진이 두드러 지고 있는 요즘 입니다.

인텔에 비해 다소 늦은 2017년 6월경에  EPYC 7001 시리즈(Zen 1 아키텍처)로 출시가 되었고 인텔의 독점적 시장을 타겟으로 데이터 센터와 서버 시장에 본격 진입하기 위해 EPYC 브랜드를 도입한 결과에 대한 좋은 성과가 최근들어 나오고 있는 것 같습니다.

최근 들어서는 무려 최대 96코어에 192 스레드릴 지원하는 모델도 출시되어 있어 결코 인텔 제온 CPU의 라인업에 뒤쳐지지 않는 상황 입니다.

소비자의 입장에서는 두 회사간의 선의의 경쟁으로 인하여 수혜를 볼 수 도 있지만, 최근 인텔의 행보를 보면 정말 회사의 큰 위기 상황 인 것 같습니다.

그래도 오랜 전통과 뛰어난 기술을 가지고 있는 인텔이 다시 도약해서 시장 선도적인 역할을 다시 하게 되기를 희망 합니다.

회사간에 치열하게 경쟁을 해야 소비자가 수혜를 입는 것이지 인텔이 망하고 AMD 혼자만의 독점 체제가 갖추어 진다면 시장을 더욱 안좋은 상황으로 몰고 갈 수 도 있으니까요. ^^

이상 포스팅을 마치도록 하겠습니다.

감사 합니다.

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

본 포스팅에서 설명 드리는 모델은 저희 자사몰(아인몰 : EinMall) 에서 자세한 확인이 가능 하오니 참고 부탁 드립니다.

아인시스 자사몰 : 아인몰 (EinMall)

금일은 ASUS GPU 서버인 #ESC4000-E11 모델의 메모리 구성방법에 대해 알아 보도록 하겠습니다.

해당 장비는 인텔 제온 CPU가 장착 되는 모델로서, 하기와 같이 총 16개의 메모리 슬롯을 보유하고 있습니다.

CPU 수량별 장착 위치가 정해져 있는데요, 

CPU 1개와 2개를 사용 하였을 시 메모리 수량별 장착 위치는 하기의 표를 참고 하셔서 진행 하시면 되겠습니다.

(※ 참고로, 정해진 위치가 아닌 잘못된 곳에 장착시에 시스템이 켜지지 않거나 문제가 있을 수 있으니 하기의 설정대로 장착을 진행해 주시기 바랍니다.)

감사 합니다.

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

금일은 우분투에서 많이 사용하는 기본 명령어에 대해 알아 보도록 하겠습니다.

최근 GPU 서버에 UBUNTU 가 많이 탑재되고 있어 기존에 많이 사용하던 레드헷(RHEL) 이나 CentOS 와 많이 다른 부분이 있는 UBUNTU에 대해서도 알고 있어야 합니다.

하기의 기초 명령어만 알고 있어도 기본적인 시스템 운영에는 큰 문제가 없을 것으로 생각 됩니다.

UBUNTU (우분투) 기본 명령어

1. man ( manual )

각 명령어들의 도움말을 상세하게 알고 싶을 때 사용

- ( man Is ) 라고 명령어를 검색 시 Is에 대한 상세 설명을 보여준다.

- ( man cd ) 라고 명령어를 입력 시 cd에 대한 상세 설명을 보여준다.

2. ls ( list ) + 옵션 + 파일명

현재 디렉터리의 내용을 보여준다.

- ( ls -l ) : 디렉터리 및 파일 리스트를 권한 정보를 포함하여 상세 출력

- ( ls -a ) : 디렉토리 및 파일 리스트의 숨겨진 정보들까지 모두 출력

- ( ls -la ) : 권한 정보와 숨겨진 정보들 모두 상세히 출력

-i : 파일의 아이 노드(inode) 번호를 출력
-h : 파일의 크기를 쉬운 단위로 표시(k: 킬로바이트, m: 메가바이트)
-l : 파일의 다양한 정보를 함께 출력(소유자 정보, 권한 정보, 크기, 날짜)
-m : 파일을 쉼표로 구분하여 가로로 출력
-s kb : 단위의 파일 크기를 출력
-t : 파일을 최근에 생성된 시간순으로 출력
-f : 파일의 형태와 함께 출력한다('*' : tlfgodvkdlf, '@' : 심볼릭 링크, '/' : 디렉터리)
-r : 서브 디렉터리의 내용을 포함하여 출력(즉 하위 디렉터리 내용을 모두 출력)
-s : 파일을 크기순으로 출력
--help : 도움말 출력

3. pwd ( print working directory )

현재 작업 중인 디렉터리를 확인할 때 사용하는 명령어다.(절대 경로)

- desktop이란 디렉터리에서 입력하면, ~/desktop 이라고 보여준다.

4. cd ( change directory )

해당 디렉터리 경로로 이동, 작업할 디렉터리를 바꿀 때 사용한다.

- smile 디렉터리 경로로 이동 : ( cd /smlies/smile ) 라고 입력하면 된다. (경로는 다를 수가 있어요. 예시일 뿐입니다.) 

- smile 디렉터리로 바꾸고 싶음 :  ( cd smile ) 이라고 입력하면 된다.

- ( cd ) : 홈 디렉터리로 이동
- ( cd ~ ), ( cd  ~/ ) 홈 디렉터리로 이동
- ( cd ~smile ) smile의 홈 디렉토리로 이동
- ( cd ~/path/path2 ) 홈 디렉토리 아래 path/paht2로 이동
- ( cd - ) 바로 앞에 작업한 디렉토리로 이동
- ( cd directory ) 지정한 directory로 옮겨진다
- ( cd / ) root directory로 옮겨진다.
- ( cd .. )현재 작업 directory의 부모 directory로 옮겨진다.

5. mkdir ( make directory ) + 옵션 + 파일명

새로운 디렉터리를 만드는 명령어이다.

- smlie 디렉터리를 만들고 싶으면 ( mkdir smile )라고 입력하면 된다.

6. find와 locate

특정 파일을 찾을 때 이 두 가지 명령어를 모두 사용해도 된다.

ex) find [검색경로] -name [파일명]

7. cp ( copy ) + 옵션 + 원본 파일명 + 목적 파일명 / 디렉터리명

파일 복사 ( 디렉터리 내부까지 복사하기 위해 -r 을 붙여주면 된다)

- ( cp smile sad ) 라고 입력하면, smile 파일의 사본을 sad란 이름으로 생성한다. smile 파일은 그대로 있다.

-i : 파일 복사 시 동일 파일명이 있을 시에 사용자에게 덮어쓸 것인지를 물어봄
-f : 동일 파일명 발생 시에도 모두 강제적으로 복사함
-p : 원본 파일의 시간 및 소유 권한 보존
-r : 포함된 자식 디렉터리까지 모두 복사

8. mv ( move ) + 옵션 + 파일명

파일 이름을 변경 or 다른 디렉터리로 옮길 때 사용

- ( mv smile sad ) 라고 입력하면 smile 파일의 이름을 sad로 바꿔준다.

- ( mv smile ~/desktop )라고 입력하면, smile 파일을 desktop 디렉터리로 옮겨준다.

9. more + -ncdflspu +줄번호 + 파일 이름(들)

파일의 내용을 한 번에 한 화면씩 보여준다.

-n : 여기서 n은 숫자를 의미하며, 숫자는 출력 윈도우의 행수를 지정한다.
-c : 위에서부터 한 행씩 지운 후 한 행씩 출력한다. 보통은 화면 전체를 지운 후 각 행을 출력하기 시작한다. 특정한 터미널을 위해 사용
-d : 스페이스나 q 키를 누르라는 프롬프트를 출력
-f : 화명의 행이 아닌 논리적인 행 수를 계산한다. 보통은 긴 칼럼의 행은 화면에서 행바꿈을 하여 새로운 행으로 계산된다. -f 옵션을 사용하면 이러한 행은 계산하지 않는다.
-s : 여러 개의 빈 공백행은 하나로 취급한다.
-p : 스크롤하지 않는다. 대신 화면을 지우고 출력한다.
-u : 밑줄 치기를 금지한다.

- /expr expression 검색

- return 한 줄만 스크롤
- d 빈 페이지만 뒤로 이동
- space, Ctrl-d 한 페이지만 뒤로 이동(다음 페이지)
- b 한 페이지 앞으로 이동

- enter 화면의 아래쪽 한 줄씩 더 보여줌
- h 도움말을 제공
- v vi 에디터를 부름

- q more 정지
- Q 종료

10. kill

특정 프로세스를 정해서 종료하고 싶을 때 사용, 보통 kill 명령어는 ps 명령어 다음에 사용 

10-1 killall

특정 프로세스를 모두 종료

10-2. killall5

모든 프로세스 종료

11. sudo

관리자 권한(=root 사용자) 만이 설치나 삭제, 변경을 할 수 있는데 sudo 명령어로 일반 사용자도 root 권한을 임시로 부여 

12. passwd

패스워드 입력

13. rm ( remove ) + 옵션 + 파일명

파일이나 디렉터리를 삭제

- f 옵션을 주면 사용자에게 삭제 여부를 묻지 않고 바로 삭제한다.

- 디렉터리를 삭제할 때는 -r 옵션을 주어야 한다. (디렉터리 삭제 시 하위 디렉터리까지 모두 삭제된다.)

-f : 디렉터리 안의 파일을 삭제할 때 사용자에게 확인을 요구하지 않음
-r : 인수 list 에서 지정한 디렉터리 혹은 그 아래의 subdirectory를 삭제
-i : whrite permission 이 없는 파일의 삭제를 위해 대화식으로 확인
-p : 디렉터리 dir-name과 비어있는 부모 디렉터리를 사용자가 제거할 수 있으며, 전체 경로명이 삭제되거나 어떤 이유로 인해 경로명의 일부가 남은 것과 무관하게 표준 출력에 메시지가 출력됨
-s -p : 선택항목 지정 시 표준 오류에 출력되는 메시지를 삭제

13-1. rmdir

비슷한 의미로 디렉터리를 삭제

14. touch + -amc + MMDDhhmmYY + 파일명

파일이나 디렉터리의 최근 업데이트 일자를 현재 시간으로 변경한다.

- 최근 업데이트 일자는 ( ls -l ) 명령으로 확인할 수 있다.

- 파일이나 디렉터리가 존재하지 않으면 빈 파일을 만든다.

-a : 파일의 액세스 시간을 바꿈
-m : 파일의 갱신 시간을 바꿈
-c : 파일명이 존재하지 않는다면 새로운 파일을 만들지 않음

14-1. vi 

vi 편집기 상태로 들어감 

14-2. cat ( concatenate )

파일의 내용을 출력하거나, 파일들을 합치거나, 새로운 파일을 만들거나, 다른 파일에 내용을 덧붙일 때 사용 가능

15. head + -카운트 + 파일명

파일의 앞부분을 보고 싶은 줄 수만큼 보여준다. ( 옵션 미 지정 시 상위 10줄)

16. tail + -카운트 + 파일명

파일의 뒷부분부터 보고 싶은 줄 수만큼 보여준다. ( 옵션 미 지정 시 하위 10줄)

  참고로 -F 옵션을 주고 실행하면,

  파일 내용을 화면에 계속 띄워주고 파일이 변하게 되면 새로운 업데이트된 내용을 갱신해준다.

  주로 실시간으로 내용이 추가되는 로그파일을 모니터링할 때 유용하게 사용한다.

17. whereis

소스, 실행파일, 매뉴얼 등의 위치를 알려준다.

18. which

패스가 걸려있는 실행 명령 or 실행 파일의 경로를 출력

- ( which ls )

19. adduser

새로운 사용자 등록, root 권한으로만 실행 가능

- ( sudo adduser localuser ) 입력 시 localuser 이름의 사용자를 신규 등록

20. userdel 

유저를 삭제

- ( sudo userdel localuser ) 입력 시 localuser 이름의 사용자를 삭제

21. addgroup

신규 그룹을 등록

- ( sudo addgroup localgroup ) localgroup을 신규등록

22. groupdel

그룹을 삭제

- ( sudo groupdel localgroup ) localgroup을 삭제

23. grep + 옵션 + 패턴 + 파일명

파일 내부에 있는 텍스트의 내용으로 파일을 찾을 수 있다

-c : 파일 내에서 패턴과 일치하는 줄의 총수를 구한다.
-h : 여러 개의 파일을 검색할 때, 출력에 파일명이 나타나는 것을 방지한다.
-i : 대, 소문자를 구별하지 않는다
-n : 일치하는 줄의 줄 번호도 같이 출력한다
-v : 패턴과 일치하지 않는 줄만 출력한다

24. du

사용자 자신의 디스크 사용 상황을 보고해준다

25. diff

diff 두 개의 파일이 일치되도록 변경시키기 위한 정보를 제공해 줌

26. tar, bzip2, gzip + 옵션 + 파일명

파일 압축 형식을 묶거나 푸는 명령어

- tar cvf [파일명(.tar, _tar)] 압축할 파일(또는 디렉터리) : 묶을 때
- tar xvf [파일명(.tar, _tar)]  : 풀 때

-c : 새로운 tar파일의 생성
-x : 기존의 tar파일을 푸는 데 사용
-u : 업데이트를 위한 옵션
-t : tar파일을 푸는 것이 아니라 내용을 보는 옵션
-v : 파일을 묶거나 풀 때의 작업을 보여주는 옵션
-z : gzip를 이용해 tar.gz 혹은 .tgz로 묶인 파일을 풀 때 사용하는 옵션

- gzip     [파일명]    : 압축 시
- gzip -d [파일명]   : 해제 시

-d : 압축을 해제하는 옵션
-f : 압축을 하거나 해제할 때 같은 이름의 파일이 존재할 경우 덮어쓰기를 한다.
-l : 압축파일의 정보를 보여 준다.
-r : 압축 대상의 디렉터리까지 압축을 수행한다.

27. chmod + 옵션 + 파일명, 디렉터리

특정 파일 또는 디렉터리의 퍼미션 수정

-R : 서브 디렉터리까지 모든 파일의 권한을 바꾼다.

28. chown + 옵션  + 파일명

파일이나 디렉터리의 소유자, 소유 그룹 수정

-R : 서브 디렉터리까지 모든 파일의 소유자를 바꾼다.

29. chgrp + 옵션

파일이나 디렉터리의 소유 그룹 수정

-R : 서브 디렉터리까지 모든 파일의 그룹을 바꾼다.

30. umask

파일 생성 시의 퍼미션 값을 변경하는 명령어  

31. at

정해진 시간에 작업을 하나만 수행할 수 있는 명령어

32. crontab

반복적인 작업을 수행하는 명령어

33. fg ( foreground )

작업을 전면 작업으로 변환하는 것으로 모니터에 실행되는 모습을 사용자에 직접 보이며 작업하는 것을 말한다.

34. bg ( background )

작업을 후면 작업으로 전화하는 것으로, 사용자의 눈에는 실행되는 모습을 보이지 않으면서도 실제로는 일을 하는 것

- ( 명령어 & ) 로 명령어 다음에 "&" 표시를 붙여서 후면 작업으로 전환할 수 있다.

35. jobs

실행되는 job들 나열

-l : 현재 작업하고 있는 디렉터리와 프로세스 그룹 ID를 출력

36. mesg

메시지 응답 가능 및 불가 설정

37. talk

로그인한 사용자끼리 대화

38. wall

시스템에 로그인한 모든 사용자에게 메시지 보내기

39. write

로그인한 사용자에게 메시지 전달

40. dd

블록단위로 파일을 복사하거나 파일의 변환을 할 수 있는 명령어

41. rpm + 옵션 + 파일명

rpm명령어는 redhat 배포본 관련 패키지를 설치 및 업그레이드하는 명령어입니다.

    시스템에 설치되어 있는 패키지를 설치하려 한다면 -i 옵션과 -U 옵션을 써야 함
    만약 rpm -e rpm 명령을 실해하면 rpm 은 사라지기 때문에 절대로 하지 말아야 한다.
    만약 지웠다면 www.rpm.org 에 가서 rpm 소스를 가져다 설치하는 수밖에 없다.

-i, -u : 설치 및 업그레이드 옵션
-e : 패키지의 제거
-q : 패키지 질의
-V : 패키지 검증

42. fdisk  -l + -v + -s partition + device

디스크의 파티션을 변경한다

-l : 파티션 테이블의 목록을 출력
-v : fdisk 버전 출력
-s : partition DOS 파티션이 아니라면 해당 파티션의 크기를 출력
device : device 에는 몇 번째 하드디스크를 파티션 할 것인지 알려주어야 한다.

아래는 리눅스에서 각각의 디바이스들에 대한 이름이다.
첫 번째 설치된 하드 드라이브 : fdisk /dev/hda
두 번째 설치된 하드 드라이브 : fdisk /dev/hdb
SCSI의 첫 번째 하드 드라이브 : fdisk /dev/sda
SCSI의 두 번째 하드 드라이브 : fdisk /dev/sdb

43. ps

ps 명령을 사용하면 어떤 프로세스의 목록과 활동 중까지 알 수 있다.
-aux 옵션을 사용하면 시스템에서 동작중인 모든 프로세스를 살필 수 있다.

Space : 상황 즉시 갱신
-s : 갱신 시간 지정(초 단위)

CPU 사용률 기준으로 정렬
-M : 메모리 사용률 기준으로 정렬
-u : 지정한 사용자의 프로세스만 나타남
-k : 지정한 프로세스 kill
-h : 도움말

44. shutdown 옵션 + 시간 + 메세지

시스템을 종료할 때 사용되는 명령어

-t : n t 옵션 뒤에 n초를 명시해서, 경고 메시지를 보낸후 n초 후에 kill 시그널을 보냄
-h : shutdown시 halt를 실행
-r : 시스템 종료를 완료하고 나서 다시 부팅 과정을 수행(리부팅)
-c : 이미 예약되어 있는 shutdown을 취소
-k : 모든 동작을 제대로 수행하지만 시스템을 종료할 시간이 되면 아무것도 하지 않음.

이상 포스팅을 마치겠습니다.

감사 합니다.

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰

       ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆
                                      담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

안녕하세요. ^^

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

금일은 델에서 공식적으로 호환성을 보장하는 GPU 지원 목록을 공유해 드릴까 합니다.

도입하고자 하는 서버가 모든 GPU를 지원 하는것이 아니므로 호환성 확인은 정말 중요하다고 하겠습니다.

지원되지 않는 GPU를 사용 할 시 하기의 이슈가 발생 할 수 있는 부분 참고 부탁 드립니다.

*호환성을 무시하고 GPU를 도입함으로 인해 발생 하는 문제

1. 인식 불가

2. GPU 전력 부족으로 인한 비 정상 작동 또는 인식 불가

3. 샤시 구조상 공기 흐름 문제로 인한 GPU 코어 사망

4. 샤시 구조상 장착이 불가 한 경우

등 등 추가적인 다양한 이슈가 발생 할 수 있으니, 필히 호환성 여부를 확인 하시고 GPU를 도입 하시기 바랍니다.

※ 이미지의 사이즈가 커서 시인성이 떨어 지므로 자세한 내용은 추가로 하기에 첨부해 드리는 파일을 참고 부탁 드립니다.

감사 합니다.

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰

※ 본 포스팅에서 설명드린 NVIDIA L40S 는 하기의 링크를 통해서 온라인 구매도 가능 합니다.

(제품 구매 및 견적 문의 : 정지훈 부장 - 010-9500-3099 / hoon@einsis.com)

 NEW >>> 새롭게 입고 된 NVIDIA DGX A100 (320GB) 리뷰가 등록 되었습니다.

안녕하세요.

주식회사 아인시스 아이엔씨 정지훈 부장 입니다.

GPU서버 및 GPU, 일반 서버 및 워크스테이션에 대한 문의가 있으시면 언제든지 연락 부탁 드립니다. ^^

최근 전 세계적인 AI,딥러닝 등의 붐으로 인하여 GPU에 대한 수요가 엄청 난 시장 상황 입니다.

글로벌 유수의 빅테크(구글/메타/테슬라/MS/OpenAI 등)기업들에서도 폭발적인 수요를 감당하지 못할 정도로 품귀가 심각 하였으며, 특히 #A100 과 #H100 모델의 수요가 타 모델에 비해 큰 상황 이었습니다.

현재는 A100 모델의 단종으로 시장에서의 수급이 매우 원활하지 않은 상황이며, 그에 따라 시장에서의 단가도 꽤 높게 형성되어 있습니다.

금일은 작년 3분기에 출시된 모델이기는 하지만, A100의 단종으로 인한 수급 문제, 그리고 단가적인 이슈로 인하여 최근에 많이 찾고 계시는 #L40S 라는 다소 생소한 네이밍의 모델에 대해서 알아 볼 예정 입니다.

물론 A100 뿐만 아니라, H100 이라는 GPU도 존재 하지만, 단가와 성능적인 부분에서 차이가 훨씬 많이 나는 모델이어서 본 포스팅 에서는 A100과 L40S에 대해서 비교해 보도록 하겠습니다.

참고 자료 - NVIDIA A100 & L40S 관련 자료

※ 하기 자료들을 클릭하여 다운로드 할 수 있습니다.  (데이터 시트 및 제품 관련 자료)

NVIDIA A100 (Ampere 아키텍처) 외형 및 상세 스펙

NVIDIA A100 모델은 하기의 외형을 하고 있으며, 데이터센터용 GPU들은 NVIDIA 에서 외부 케이스를 거의 공유 하고 있어서 제품의 모델명을 제외하고 거의 비슷한 외형을 하고 있습니다.

※ NVIDIA에서 공식적으로 제공하는 상세 스펙 자료를 하기에 첨부 드리오니 참고 하시기 바랍니다.

NVIDIA L40S (Ada Lovelace 아키텍처)

NVIDIA L40S 모델도 A100과 비슷한 외형을 하고 있으며, A100과의 외관적인 부분에서의 차이라고 할수 있는 부분은 외부 출력이 가능한 Display 1.4a (DP) 출력 단자가 4개가 위치하고 있는 부분 입니다.

※ NVIDIA에서 공식적으로 제공하는 상세 스펙 자료를 하기에 첨부 드리오니 참고 하시기 바랍니다.

NVIDIA A100 & L40S 사양 비교

※ 하기 표의 자료중 A100은 PCI 타입이 아닌 HGX 타입의 모델의 사양표를 첨부 하였으나, 기본적인 스펙의 거의 동일한 부분 참고 부탁 드립니다.

NVIDIA A100 & L40S 성능 비교

※ 하기에 A100과 L40S의 수치화된 성능 비교를 참고 부탁 드립니다.

※ 가장 참고 하실 항목은 맨 밑의 이론적 성능 부분 입니다.

※ 참고 사이트 :  TOP CPU

※ 원문 출처 링크 : https://www.topcpu.net/ko/gpu-c/a100-pcie-80-gb-vs-l40s#

NVIDIA A100 과 L40S의 특징 및 활용 사례

NVIDIA A100

NVIDIA A100 GPU는 2020년에 처음으로 Ampere 아키텍처를 탑재한 GPU였습니다. 2022년에 H100이 출시되기 전까지 A100은 선도적인 GPU 플랫폼이었습니다. AI를 위한 개선된 텐서 코어, 병렬 처리를 위한 증가된 CUDA 코어 수, 향상된 메모리, 2 Tbps로 사상 최고의 메모리 대역폭을 갖춘 A100은 이전 세대와 비교하여 상당한 성능 향상을 제공했습니다. A100은 단일 A100 GPU를 더 작고 독립적인 GPU로 분할하여 클라우드 및 데이터 센터 환경에서 자원 할당과 효율성을 극대화하는 다중 인스턴스 GPU(MIG)를 지원합니다.

최신 모델이 개발됨에 따라 성능 측면에서 앞서지는 못하지만, A100 GPU는 강력한 텐서 코어와 높은 계산 처리량으로 딥러닝 및 AI 학습 작업의 일부로 복잡한 신경망을 훈련시키기에 여전히 훌륭한 선택입니다. A100은 음성 인식, 이미지 분류, 추천 시스템, 데이터 분석 및 대용량 데이터 처리, 과학적인 계산 및 시뮬레이션, 유전체 시퀀싱과 약물 발견을 포함한 고성능 컴퓨팅(HPC) 작업과 같은 AI 추론 작업에서 유용하게 사용됩니다.

NVIDIA L40S

L40S는 2023년 4분기에 출시(즉시 Gcore의 인프라에 통합)된 NVIDIA의 가장 강력한 GPU 중 하나입니다. 이는 생성형 AI, 대규모 언어 모델(LLM) 추론 및 훈련, 3D 그래픽, 렌더링, 비디오 및 과학적인 시뮬레이션과 같은 차세대 데이터 센터 워크로드를 처리하기 위해서 설계되었습니다.

NVIDIA L40S는 A100 및 H100과 같은 이전 세대 GPU와 비교하여 최대 5배 높은 추론 성능과 최대 2배 빠른 실시간 레이 트레이싱(RT) 성능을 제공합니다. ECC(오류 수정 코드)를 포함한 GDDR6 메모리의 48GB는 고성능 컴퓨팅 환경에서 데이터 무결성을 유지하는 데 중요한 역할을 합니다. 또한, 이 GPU에는 복잡한 계산 작업을 처리하는 데 중요한 병렬 프로세서인 18,000개 이상의 CUDA 코어가 장착되어 있습니다.

참고 사이트 : GCORE

원문 출처 : https://gcore.com/ko/blog/nvidia-gpu-comparison/

NVIDIA A100과 L40S의 주요 차이점

NVIDIA A100 의 장점

1. L40S에 비해 더 높은 VRAM

    - A100 : 80GB

    - L40S : 48GB

2. 더 높은 VRAM의 Bandwidth(대역폭)

    - A100 : 1935GB/s

    - L40S : 864GB/s

NVIDIA L40S 의 장점

1. A100 보다 개선된 공정과 아키텍처로 제작된 신제품 (A100 보다 1년 4개월 후에 출시)

2. Boost Clock의 성능이 79% 개선

   - A100 : 1410MHz

   - L40S : 2520MHz

3. A100에는 없는 11254개의 랜더링 코어 추가 

4. 낮은 최대 전력 소비량(TDP) :

   - A100 : 400W

   - L40S : 350W

5. 일부 연산 성능(FP32)에 있어 A100 보다 우위

6. A100에 비해 낮은 제품 금액

NVIDIA A100의 대안으로 L40S는 적합한가?

기업들이 연산용 GPU를 도입하기 위해 고려야해 할 사항이 있습니다.

GPU들은 사용 용도에 따라 크게 훈련과 추론으로 나뉘게 되는데 이에 따라 사용 할 수 있는 적합한 GPU를 도입해야 불필요한  비용 낭비를 줄일 수 있습니다.

관련 업계에서 사용되는 용어 중 FP16, FP32등과 같은 단어가 있는데 이는 수치형식 (numerical format)으로 부동 소수점(floating-point numbers)를 표현하는 방법 중 하나하고 생각 하면 됩니다.

이게 왜 중요 하냐면, 이 부동소수점을 형식을 사용하여 훈련과 추론등의 작업을 하게 되는데 FP16또는 FP32의 중요도에 따라서 연산에 사용 할 수 있는 모델을 선정할 수 있기 때문 입니다.

FP16은 Half-Precision의 준말로서, 16비트 부동 소수점 형식을 나타내며, 32비트 부동 소수점 형식을 사용하는 FP32에 비해 정밀도가 낮아서 모델의 정확도가 떨어 질 수 있습니다.

따라서, 모델을 훈련 할 때는 일반적으로 FP32를 사용 하고, 추론(inference)단계에서는 FP16을 사용하여 연산 속도를 높이는 경우가 많이 있습니다.

FP16은 연산을 더 빠르게 실행하고 메모리를 절약하는데 도움이 되는 부동 소수점 형식이나 정확도는 낮으므로 연산 모델의 특성에 따라 그게 적합한 형식의 사용 여부를 결정 해야 합니다.

A100이 대역폭이나, VRAM의 크기등이 L40S에 비해서 우위에 있긴 하지만,  모든 연산에서의 성능치가 절대적으로 높은 것은 아니며 하기 자료에서와 같이 FP16의 성능은 L40S와 비슷 하며, 특히 FP32에서의 성능은 L40S 가 월등하게 높습니다.(19.5 TFLOPS VS 91.6 TFLOPS)

특히,  하기와 같이 AI Training 및 Generative AI를 비교를 하였을때 L40S 모델이 A100에 비해서 더 좋은 성능수치를 내고 있습니다.

- AI Training 및 Generative AI를 비교를 하였을때 L40S 모델이 조금 더 좋은 성능수치를 내고 있습니다. (A100 80GPU vs 2 System with 4x L40s)

- Generative AI → 비정형 딥 러닝 모델을 사용하여 사용자 입력을 기반으로 콘텐츠를 생성하는 인공지능의 일종

- Generative AI → 비정형 딥 러닝 모델을 사용하여 사용자 입력을 기반으로 콘텐츠를 생성하는 인공지능의 일종

결론적으로,

NVIDIA L40S GPU는 하기의 작업에 사용 시  A100 대비 비용 효율적인 이점을 볼 수 있습니다.

* L40S 적용시 비용 대비 효율적인 이점을  볼 수 있는 업무

제너레이티브 AI, LLM 추론, 일반 AI 교육 및 추론, 렌더링 및 3D 그래픽, 엔비디아 옴니버스, 스트리밍 및 비디오 콘텐츠, 가상 워크스테이션

이상 포스팅을 마치며,

해당 제품에 대한 문의 및 물품 공급, 제품 견적 지원이 가능 하오니 관련된 문의가 있으시면 언제든지 연락 부탁 드립니다.

      ◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의  ◆
                                     담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com

감사 합니다.

EINSIS/아인시스/einsis/아인시스아이엔씨/아인시스기술지원/스위치/스위치 기술지원비(비용)/스위치 설치비/방화벽/방화벽 기술지원비(비용)/방화벽 설치비/랙/랙(RACK) 기술지원비(비용)/랙(RACK) 설치비/KVM/KVM 기술지원비(비용)/KVM 설치비/스토리지/스토리지 기술지원비(비용)/스토리지 설치비/스토리지 랙마운트비용/스토리지 장애조치비용/서버/서버 기술지원비(비용)/서버 설치비/서버 랙마운트비용/서버 장애조치비용/윈도우서버/윈도우즈 기술지원비(비용)/윈도우즈 설치비/리눅스/Linux/리눅스 기술지원비(비용)/리눅스 설치비/DB/데이터베이스/MySQL 기술지원비(비용)/MySQL 설치비/MSSQL 기술지원비(비용)/MSSQL 설치비/백업 기술지원비(비용)/HPE서버비용/HPE/DL20/DL20GEN10/ML30/ML30GEN10/ML360/ML350GEN10/DL360/DL360Gen10/DL380/DL380Gen10/LENOVO서버/레노보서버/델서버/델서버비용/DELLR540/DELLR750/HP서버/서버엔지니어/서버기술지원/서버디스크장애처리/방화벽/방화벽엔지니어/APC UPS/UPS/UPS설치/UPS기술지원/UPS납품/서버렉마운트/HPE Service Pack for Proliant/HPE SPP/SPP/Intelligent Provisioning/시놀로지나스/나스기술지원/SYNOLOGY/SYNOLOGY나스/시놀로지DS918/시놀로지하이퍼백업/HYPER BACKUP/시놀로지HyperBackup/시놀로지나스백업/서버백업/서버트러블슈팅/리눅스트러블슈팅/보안솔루션/시큐어디스크/인터넷디스크/이스트소프트/알약/카스퍼스키/ESTSOFT/V3/안랩/소포스/SOPHOS/카보나이트/더블테이크/이중화솔루션/HA솔루션/Windows서버설치/왼도우서버설치/윈도우서버2019/윈도우서버2016/MSSQL/MYSQL/디포그랙/DEFOG랙/디포그랙가격/EDFOG랙가격/RMS랙/서버납품/랙납품설치/랙설치/나스설치지원/스토리지납품설치/윈도우서버트러블슈팅/리눅스서버트러블슈팅/HPE서버펌웨어/HP서버펌웨어/HPE서버/FIRMWARE/DELL서버펌웨어/델서버펌웨어업데이트/레노보서버펌웨어/LENOVO펌웨어업데이트/HPE서버드라이버설치/HPE서버구매/DELL서버구매/LENOVO서버구매/보안솔루션구매/이중화솔루션구매/보안솔루션설치/이중화솔루션설치/HPE서버가격비교/DELL서버가격비교/LENOVO서버가격비교/HPE서버가격비교견적/DELL서버가격비교견적/LENOVO서버가격비교견적/HPE서버견적/DELL서버견적/LENOVO서버견적/HPE서버디스크교체/DELL서버디스크교체/LENOVO서버디스크교체/HPE서버RAID컨트롤러/HPE서버RAID컨트롤러/DELL서버RAID컨트롤러/LENOVO서버RAID컨트롤러/HP서버하드디스크/HPE서버하드디스크구매/DELL서버하드디스크구매/LENOVO서버하드디스크구매/HPE서버SAS하드디스크/DELL서버SAS하드디스크/LENONO서버SAS하드디스크/HPE서버메모리/DELL서버메모리/LENOVO서버메모리/HP서버메모리/HPE서버CPU/DELL서버CPU/LENOVO서버CPU/서버CPU/서버메모리/서버MEMORY/ECC메모리/서버용메모리/서버용하드디스크/서버용그래픽카드/쿼드로P400/QUADRO그래픽카드/QUADRO/우분투설치/서버보안/네트워크장비/네트워크스위치/L2스위치/L3스위치/OS설치/서버OS설치/리눅스서버설치/우분투설치/페도라설치/레드헷설치/RHEL설치/워크스테이션/서버/hp워크스테이션/서버컴퓨터/델워크스테이션/hp서버/미니서버랙/중고서버/hpz4/dell워크스테이션/서버pc/hpz4g4/중고워크스테이션/hpz440/레노버p620/서버용컴퓨터/델서버/레노버워크스테이션/hpz420/dell서버/인스퍼/INSPURE/인스퍼서버/R760/R750//R250/R350/R750xs/GPU서버/AI서버/HPPC구매/델서버견적/델워크스테이션견적/A100/L40S/H00/A6000/A5000/A4000/A2000/T400/델서버쇼핑몰/중고서버/HP중고서버/7920T/7960T/5860T/7960T/델워크스테이션/einmall/아인몰