Nvidia
H100 NVL PCIE 94GB
5년
부대장비(부가장치) (주장비:GPU 서버)
분석
데이터처리장비 > 하드웨어 > 달리 분류되지 않는 하드웨어
공동활용서비스
2025-08-29
40,700,000원
없음
1. 고성능 연산
- 대규모 행렬 연산, 병렬 처리 기능 제공
2. 딥러닝 모델 학습 및 추론
- 딥러닝 프레임워크(예: TensorFlow, PyTorch)를 통해 인공지능 모델 학습 속도를 크게 향상
3. 대규모 데이터 분석
- 대용량 의료데이터 분석 등 고성능 컴퓨팅 제공
4. 인공지능 및 머신러닝 응용 프로그램 실행
- 이미지/음성 인식 같은 AI 응용 프로그램 실행
본 장비의 역할은 병원 내 폐쇄 분석망에서 기업이 의료영상을 이용한 인공지능 학습을 수행할 수 있는 환경을 제공하기 위한 GPU 서버 (주장비)의 분석 성능을 향상합니다. GPU 서버 (주장비)에는 동일 모델의 H100 GPU 카드가 장착되어 있으며, 본 장비는 GPU 서버 (주장비)에 장착됩니다.
본 부대장비를 통한 주장비 (GPU 서버) 업그레이드를 통해 대용량 영상데이터 획득, 관리 및 전처리 등의 과정 뿐만 아니라, 딥러닝 기반 분석 플랫폼 개발, 데이터 처리, 라벨링 데이터 생성에서 시간 단축 및 대규모 분석을 가능하게 합니다.
본 부대장비인 GPU 카드 (H100 NVL 94GB)는 NVIDIA의 최신 Hopper 기반 Tensor Core GPU로, AI 및 HPC 작업에 최적화된 성능을 제공하고, Tensor 연산 지원을 통해 FP64, FP32, TF32, FP16, FP8, INT8 등 다양한 정밀도 연산을 지원하며, FP8·FP16 기반 Transformer Engine을 통해 GPT-3 수준의 대형 언어 모델 학습 성능을 4배 향상할 수 있습니다. NVLink 연결성을 통해 기존 주장비에 장착된 동일 모델의 GPU 카드 (NVIDIA H100 NVL 94GB)와 최대 600 GB/s 대역폭의 NVLink 브릿지를 통해 두 GPU 간 고속 통신 가능케 합니다. MIG 지원을 통해 한번에 최대 7개의 하드웨어 격리된 GPU 인스턴스로 분할 가능하여 다중 사용자에게 동시적 GPU 자원 할당이 가능합니다.
기관의뢰
고정형
기타
[Hr] 1원
본 장비는 의료데이터를 활용한 인공지능 학습 및 검증을 희망하는 기업에게 정보보안이 갖추어진 폐쇄 분석 환경을 제공하기 위해 과제 목표에 따라 구축된 장비입니다. 의료데이터 기반 딥러닝 모델 학습 및 추론, 대용량 의료데이터 분석, 인공지능 및 머신러닝 응용 프로그램 실행 기능을 제공합니다.
본 장비의 역할은 병원 내 폐쇄 분석망에서 기업이 의료영상을 이용한 인공지능 학습을 수행할 수 있는 환경을 제공합니다. 대용량 영상데이터 획득, 관리 및 전처리 등의 과정을 진행함에 있어 필수적인 대용량 서버이며, 딥러닝 기반 분석 플랫폼 개발, 데이터 처리, 라벨링 데이터 생성에 사용됩니다.
본 부대장비를 통한 주장비 성능의 업그레이드 목적은 대용량 AI 모델 (특히 초대형 언어 모델(LLM))에 대한 고속 추론 및 학습을 가능하게 하며, 고성능 AI 개발을 지원하여 Transformer Engine과 4세대 Tensor Core를 통해 AI 트레이닝 속도를 최대 4배, 추론 성능은 최대 30배 향상할 수 있게 합니다.
NVIDIA H100 NVL 94 GB는 Hopper 아키텍처 기반의 고성능 데이터센터용 GPU로, 94GB의 HBM3 메모리와 약 3.9 TB/s의 메모리 대역폭을 특징으로 합니다.
Tensor 코어 기반 성능으로, FP64는 최대 30 TFLOPS, FP32는 60 TFLOPS, TF32는 약 835 TFLOPS(스파시티 적용 시)이며, FP16과 BFLOAT16은 각각 1671 TFLOPS, FP8는 3341 TFLOPS, INT8은 3341 TOPS 성능을 냅니다.
소비 전력(TDP)은 설정에 따라 350–400 W 수준이며, PCIe Gen5 x16 인터페이스를 사용해 높은 I/O 성능을 제공합니다.
또한, NVLink 브릿지(최대 600 GB/s)를 활용해 다중 GPU 간 고속 통신이 가능하며, MIG (Multi-Instance GPU) 기능을 통해 7개의 독립 인스턴스로 분할해 사용할 수 있고, 각 인스턴스당 약 12 GB 메모리를 할당할 수 있습니다.