i-Tube

장비정보

제작사
Nvidia
모델 명
DGX-H100

내용연수
6년
구분
주장비

용도
시험
표준 분류
데이터 처리장비 > 하드웨어 > 달리 분류되지 않는 하드웨어

장비활용범위
공동활용서비스
취득일
2024-10-28

취득금액
989,632,130원
인증정보
없음
기능
Base command를 활용한 Cluster 배포, 모니터링
AIEnterprise를 사용하여 훈련되고 검증된 pre-train 모델 & Framework 및 추론을 위한 NIM Microservice 제공
장비 상세설명
엔터프라이즈급 인공지능 학습 데이터세트에 대한 트레이닝과 추론 성능 및 결과를 검증에 활용 가능한 장비

이용안내

사용형태
기관의뢰

설치형태
고정형
사용료 형태
시간별

장비 사용료
[Hr] 10,000원

장비설명

고도의 병렬 처리 능력과 높은 메모리 용량을 제공하여 복잡하고 대규모인 데이터셋에 대한 빠른 연산 처리가 가능하고 인공지능 학습을 위한 개발, 훈련, 파인튜닝을 고려한 시스템 장비로 “생성형 AI, 대규모 언어 모델(LLM), 그리고 추천 시스템의 개발, 훈련, 배포”에 최적화 됨

장비 구성 및 성능

- 엔터프라이즈급 고성능 컴퓨팅 시스템
2 x Intel Xeon Platinum 8480C, 56Core
32 x 64GB DDR5 ECC-REG
8 x NVIDIA H100 80GB SXM5 GPU
- 워크스테이션급 컴퓨팅 시스템 x 2
1 x AMD Ryzen TR PRO 5995WX, 64Core
8 x 64GB DDR4 ECC-REG
4 x NVIDIA A100 80GB PCIe GPU, 4 x NVIDIA A100 40GB PCIe GPU

e-Tube 로그인

장비 매뉴얼