◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆ 담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com
주식회사 아인시스 아이엔씨 입니다. 이번 시간에는 Cisco 스위치에서 사용하는 gateway 이중화 기술 HSRP에 설정 방법에 대하여 알아 보겠습니다.
▣ HSRP 란 무엇인가?
HSRP 란 Cisco 社 의 전용 기술로 ACT 스위치의 업링크 인터페이스 Down 또는 ACT 스위치 전원 OFF시 STD 스위치가 ACT 스위치 Gateway 역할을 하게 되어 시스템의 중단이 없이 지속적으로 작동되어 고가용성이 유지 되고 업무 효율성이 좋아 집니다.
▣ 실습 장비
▣ 네트워크 실습 구성도
A 스위치가 Down 발생하면 패킷의 흐름은 B스위치를 통하여 인터넷 통신을 하게 됩니다.
그럼 본격적으로 설정을 해보겠습니다.
▣ A 스위치의 설정
▣ B 스위치의 설정
▣ 스위치 상태 정보
show standby 또는 show standby brief 라는 점검명령어를 통해서 스위치의 상태를 확인 할 수 있습니다.
이상으로 HSRP 설정 방법에 대하여 알아 보았습니다.
다음 시간에는 VRRP 설정 방법에 대하여 알아보겠습니다.
긴글 읽어 주시느라 고생많으셨고 행운이 가득한 날이 되시기 바랍니다~🍀
감사 합니다.
◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆ 담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com
◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆ 담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com
안녕하세요. ^^
주식회사 아인시스 아이엔씨 정지훈 부장 입니다.
금일은 최근 GPU 에 이어서 IT 업계의 화두로 떠오르고 있는 NPU에 대해 알아 보도록 하겠습니다.
#NPU 란 #Neural Procession Unit 의 약어로서 말 그대로 번역 하면 "신경망 처리 장치" 라고 합니다.
이 NPU는 인공지능(AI)과 머신러닝 작업을 최적화 하고 가속하기 위해 설계된 하드웨어 장치를 말 합니다.
NPU는 특히 딥러닝 모델과 같은 복잡한 계산을 처리 하는데 특화된 기능을 제공 하며, CPU(중앙 처리 장치)와 GPU(그래픽 처리 장치)는 범용 처리 장치로 다양한 작업을 처리할 수 있지만, NPU는 신경망 연산에 최적화된 아키텍처를 사용하여 AI 관련 작업을 훨씬 더 효율적으로 처리 할 수 있습니다.
NPU의 주요 특징
딥러닝 모델 최적화: NPU는 대량의 병렬 연산을 빠르게 처리할 수 있도록 설계되어 있어, 딥러닝 모델에서 중요한 행렬 연산, 벡터 연산 등을 매우 빠르게 수행합니다. 이를 통해 이미지 인식, 음성 처리, 자연어 처리 등 다양한 AI 애플리케이션에서 빠른 성능을 제공합니다.
병렬 처리: NPU는 여러 연산을 동시에 처리할 수 있는 능력이 뛰어나기 때문에, 딥러닝 모델을 학습하고 추론하는 데 필요한 수많은 계산을 효율적으로 분산 처리할 수 있습니다. 이는 AI 시스템의 속도와 성능을 크게 향상시킵니다.
저전력 소비: NPU는 AI 연산에 필요한 복잡한 계산을 효율적으로 수행하는 반면, CPU나 GPU보다 낮은 전력을 소비하는 특징이 있습니다. 따라서 모바일 기기나 IoT 장치 등 전력 소비가 중요한 환경에서도 사용될 수 있습니다.
고속 메모리 처리: NPU는 대용량 데이터를 빠르게 처리할 수 있는 메모리 대역폭을 제공하여, AI 모델을 실시간으로 추론하거나 학습하는 데 필요한 데이터 전송 속도를 지원합니다.
NPU가 사용되는 분야
스마트폰과 모바일 기기: 많은 스마트폰 제조사들이 NPU를 자사의 모바일 칩셋에 통합하여, 카메라 성능 향상, 음성 인식, 얼굴 인식 등 AI 관련 기능을 빠르게 처리하고 있습니다. 예를 들어, Apple의 A13 Bionic 칩과 같은 최신 스마트폰 칩은 NPU를 포함하고 있습니다.
자율주행차: 자율주행차는 실시간으로 주변 환경을 인식하고 의사결정을 내리는 데 AI 모델을 사용합니다. NPU는 이러한 처리 과정을 가속화하여 자율주행차가 빠르고 안전하게 주행할 수 있도록 돕습니다.
헬스케어: 의료 영상 분석, 유전자 데이터 처리, 건강 모니터링 등의 분야에서 NPU는 AI 기반 분석을 빠르고 효율적으로 수행하는 데 사용됩니다.
로봇 공학: 로봇이 환경을 인식하고, 학습하며, 의사 결정을 내리는 데 필요한 고속 연산을 수행하는 데 NPU가 활용됩니다.
각종 영상 분석 처리: CCTV 및 각종 보안업체에서 지능화된 영상 처리를 위해 활용 될 수 있습니다.
NPU의 발전
NPU는 계속해서 발전하고 있으며, 더 빠르고 효율적인 아키텍처로 개선되고 있습니다.
또한, 기존의 CPU와 GPU와 함께 사용되어 AI 시스템에서 각 장치가 최적의 역할을 수행하도록 하는 하이브리드 시스템을 구성하는 경우도 많습니다.
NPU 관련 기업
현재 전세계적으로 이 NPU를 연구 개발하는 수많은 회사가 있습니다.
그 중에서도 국내의 개발사중 대표적인 회사는 아래의 3군데 회사가 있습니다.
1. Molilint (모빌린트)
2. FURIOSA (퓨리오사)
3. Rebellions (리벨리온)
해외의 업체에는 하기와 같은 다양한 기업들이 있습니다.
- HAILO
- flexlogix
- DEEPX
- Horizon Robotics
- blaize
- Eta Computer
- MYTHIC
- UXfactory
- Kneron
- SAPEON
- GRAPHCORE
- cerebras
- graq
- habana
- Alibaba Group
- GREENWAVES
- SYNTIANT
- Synaptics
Mobilint : On-Device 와 On-Premises AI에 최적화 된 NPU 솔루션 제공 업체
수많은 NPU 업체 중 저희 아인시스는 국내 최고의 딥러닝 가속과 센서 데이터 처리를 위한 NPU 솔루션의 기술력을 보유한 국내 업체인 #Mobilint(#모빌린트)와의 긴밀한 업무 협약을 통한 NPU 디바이스를 제공 하며, 모빌린트의 하드웨어들은 On-Device와On-PremisesAI에 최적화 된 Edge 환경에 최적화 되어 있는 솔루션 이라고 할 수 있습니다.
하기는 이미지는 국내외 NPU 관련 업체들의 포지셔닝 배치도 인데, 모빌린트는 고성능의 Edge 환경을 포지셔닝 하고 있는것 을 알수 있습니다.
모빌린트의 비즈니스 영역
모빌린트는 아래의 표와 같이 Edge Infrastructure , ON-PREMISE EDGE Server, EDGE DEVICE 등을 타겟으로 하고 있는것을 알 수 있습니다.
MOBILINT AI Chips : ARIES & REGULUS
모빌린트에서 개발된 디바이스는 크게 ARIES와 REGULUS로 나뉩니다.
ARIES는 카드 타입의 제품이며, REGULUS는 SOC타입의 제품으로 매우 저전력으로도 고성능을 낼 수 있어 드론등 다양한 장치에 사용 될 수 있습니다.
ARIES의 대표 모델 MLA100
ARIES 제품군중 대표 모델은 하기의 MAL100 모델 입니다.(하기 이미지 참고)
해당 제품은 PCI-Express 타입의 제품이며, MXM 타입의 규격으로도 개발 되었습니다.
PCI Card TYPE : MLA100
MXM Type : MLA100
* MLA100 모델의 스펙
* MLA100 모델의 제원
REGULUS : Evaluation 보드타입과 SoM (System On Module) 타입의 모델
RUGULUS 모델은 하기와 같이 보드 타입와 모듈타입 2가지 제품이 출시 되었습니다.
* RUGULUS 의 MLM1 라인업 스펙표
MOBILINT NPU / NVIDIA GPU 비교
모빌린트 NPU와 NVIDIA의 GPU를 비교한 표 입니다.(참고자료: 모빌린트 자체 테스트 결과 자료 첨부)
하기의 자료와 같이 모빌린트 NPU MLA100을 사용 하였을 시 NVIDIA GPU 대비 YOLOv5x 모델에서 더욱 낮은 전력으로 높은 성능을 낼 수 있음을 알 수 있습니다.
추가적으로 하기의 표와 같이 다양한 AI모델 테스트 시에 NVIDIA GPU 대비 높은 성능을 기대 할 수 있습니다.
아래는 HAILO사의 NPU 카드와의 비교 자료인데 참고해 보시면 될 것 같습니다.
NPU 적용 가능 분야
모빌린트의 Edge AI 처리가 가능한 NPU는 실시간 데이터 처리를 가능하게 하며 다양한 분야에서 빠른 성능과 데이터 보안을 보장 합니다.
또한, 모빌린트 NPU는EdgeAI 작업에 최적화 된 솔루션으로 GPU보다 비용 효율적이고 효과적입니다
보안분야 (실시간 비디오 분석)
• 객체 감지, 얼굴 인식, 행동 분석과 같은 작업에서 AI 모델 실행 속도를 향상 • 실시간 데이터 처리를 통해 침입이나 도난 등의 의심스러운 활동들을 즉시 식별 • 카메라 또는 로컬 허브에서 Edge AI 작업이 가능하여 데이터 전송의 필요성을 최소화하여 데이터 관련 보안 확보
자동차/드론/로봇 (자율주행 및 Cobots) * Cobots : Collaborative Robotics
• 자동차, 드론, 로봇의 객체 감지, 경로 탐색, 장애물 회피등의 기능을 지원하여 실시간 자율주행 가능 • 로컬에서 효율적으로 데이터를 처리하고 클라우드 의존성을 줄임으로써 더 빠른 응답 확보가능 • 인간과의 상호작용, 행동 분석, 동기화된 작업을 위한 군집 지능(Swarm Intelligence) 지원
결함감지 (복합 상황에서의 결함 감지)
• 여러 데이터 스트림을 동시 처리하여 조립 라인과 생산 유닛의 빠른 검사 가능 • 이미지 분류, 객체 감지, 이상 감지와 같은 AI 관련 작업 가속화 • ‘장치 내 학습 (On-Device Training)’을 지원하여 새로운 데이터가 추가됨에 따라 결함 감지 시스템이 적응하고 개선되도록 지원
게임(사용자 경험 향상)
• NPC의 실시간 AI, 적응형 게임플레이, 음성 인식 등으로 게임 경험 개선 • 플레이어의 데이터를 로컬에서 처리하여 개인 맞춤형 콘텐츠 등 다양한 게임 경험 제공 • 비정상적인 플레이어의 행동 패턴을 인식하여 Hacking, 치트 엔진 등을 감지하여 보안 강화
Chatbot (자연어(Natural Language Processing) 향상
• Chatbot은 복잡한 딥러닝 모델을 사용하며, NPU는 GPU보다 빠르게 행렬 연산과 병렬 계산 수행 • 사용자 데이터 (선호도, 과거 상호작용, 위치 등)를 기반으로 실시간 대응 가능 • NPU를 통상 연산 성능 개선을 통해 응답 시간을 단축시키며 원활한 실시간 상호작용 보장
지능형 교통 시스템(ITS) (적응형 교통 제어)
• 센서, 카메라등의장치 데이터를 처리하여 차량, 보행자, 교통 패턴을 감지하는 딥러닝 모델 실행 • 객체 감지, 차량, 자전거 식별 및 교통 법규 집행을 위한 번호판 인식 등의 작업 지원 • 실시간 입력 데이터를 분석하여 교통 신호를 조정하여 지연 최소화 및 교통 최적화
포스팅을 마치며...
금일은 NPU 와 NPU 전문기업인 모빌린트의 제품들에 대해 알아 보았습니다.
CPU는 컴퓨터의 뇌와 같은 역할을 하며, 광범위한 작업을 순차적으로 처리 하며,
GPU는 광범위한 병렬 처리에 능숙하며, 과학 시뮬레이면, 기계학습, 암호화폐 채굴, 비디오 편집 등에 적합 하다면
NPU는 딥러닝 알고리즘을 가속화 하기 위해 제작된 카드이며, GPU보다 한단계 더 전문화 되어 있는 카드라고 정의를 내릴 수 있습니다.
요새는 GPU에 더해서 NPU와 GPU의 장점만 결합하여 GPNPU(GPU-NPU 하이브리드) 개념까지 새롭게 등장 한 상황 입니다.
이는 NPU 의 AI중심 아키텍처와 GPU의 병렬 처리 기능을 활용하여 좀더 효과적인 워크로드를 위해 만들어 졌습니다.
계속 정교해지는 머신러닝 네트워크에 적응할 수 있는 능력이 커다란 장점이라고 볼 수 있겠습니다.
최근 인텔에서 이 NPU가 탑재된 프로세서가 인텔에서 새롭게 출시 되었는데 이게 바로 인텔의 "메테오 레이크" 입니다.
14세대 코어울트라 프로세서에는 CPU,GPU,NPU가 내장되어 있어 노트북에서도 바로 활용이 가능 하며, CPU와 GPU가 하는 일을 일부 줄여줄수 있어서 CPU와 GPU가 다른 작업들을 좀 더 잘 수 행 할 수 있도록 도와주는 역할을 합니다.
GPU뿐만 아니라 NPU 시장도 그 파이가 매우 커지고 있으며, 향후 IT 기술에서 NPU도 결코 빼놓고 이야기 할 수 없는 중요한 기술이 될 것이라고 확신 합니다.
포스팅을 마치면서.. 모빌린트의 NPU 카드에 대한 문의 사항이 있으시면 하기의 연락처로 연락 주시면 자세한 안내 도와 드리도록 하겠습니다.
감사 합니다!
◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆ 담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com
◆ GPU서버 / 서버(DELL,HPE,ASUS 신품 및 중고) / 워크스테이션 / 스토리지 / 네트워크 하드웨어 견적 문의 ◆ 담당자 : 정지훈 부장 (영업부) / 010-9500-3099 / hoon@einsis.com
안녕하세요. ^^
주식회사 아인시스 아이엔씨 정지훈 부장 입니다.
금일은 작년에 출시 되었지만 아직까지도 많은 기업과 연구기관에서 찾고 있는 NVIDIA L40S GPU에 대해서 언급해 보려고 합니다.
작년에 A100의 수급 이슈로 인하여 시장에 새롭게 출시된 GPU가 L40S 인데, 해당 GPU는 PCI 방식 뿐만 아니라 SXM 방식까지 지원하는 A100 에 비해 PCI 방식만을 지원하며, A100같이 NVLink를 지원하지도 않음에도 불구하고 일부 성능이 A100에 비해서 뛰어나며 가성비도 우수해서 꽤 많은 곳에서 사용되고 있는 GPU 입니다.
특히, LLM (Large Language Model) 에서는 매우 뛰어난 가성비를 자랑하는 GPU로서 최근에는 연세대, 서울대 등 다양한 연구기관에서 도입해서 연구용으로도 많이 사용 하고 있습니다.
하기의 출고기에서와 같이 저희 아인시스는 수많은 고객사 납품이력이 있는 검증된 기업 입니다.
