Gigabyte

없음

ㅇ NVIDIA Hopper 아키텍처 기반의 고성능 GPU를 활용하여 인공지능 모델의 학습 및 추론 연산을 고속으로 처리하는 장비이다.

ㅇ 고대역폭 GPU 메모리와 Tensor Core 연산 기술을 기반으로 대규모 언어모델(LLM)의 연산 및 데이터 처리를 지원하는 장비이다.

ㅇ FP8, FP16, BF16 등 다양한 연산 정밀도를 지원하여 동 장비를 통해 운영하려는 Tech-GPT 플랫폼의 성능과 연산 효율성을 향상시키는 장비이다.

ㅇ 고성능 병렬 연산 기능을 활용하여 대용량 기술문서 분석, 자연어 처리, 정보검색 등 복합적인 AI 연산을 수행하는 장비이다.

ㅇ 다중 GPU 기반의 연산자원 활용을 통해 고성능 AI 모델 운영 및 다양한 인공지능 서비스의 개발·검증을 지원하는 장비이다.

ㅇ GPU 연산자원의 분할 및 할당 기능을 지원하여 복수의 AI 작업을 효율적으로 수행할 수 있는 장비이다.

ㅇ NVIDIA H100 GPU는 고성능 인공지능 연산 및 대규모 데이터 처리를 위해 개발된 데이터센터용 GPU로, NVIDIA Hopper 아키텍처 기반의 병렬 연산 기술을 적용한 고성능 AI 연산장비이다.

ㅇ 본 장비는 Tensor Core를 활용하여 대규모 언어모델(LLM)의 학습 및 추론에 필요한 행렬 연산을 고속으로 처리할 수 있으며, FP8, FP16, BF16 등 다양한 연산 정밀도를 지원하여 AI 모델의 연산 효율성과 처리 성능을 향상시킬 수 있다. 또한 고대역폭 GPU 메모리를 기반으로 대규모 AI 모델의 가중치 및 연산 데이터를 효율적으로 처리할 수 있어 생성형 AI, 자연어 처리, 데이터 분석 등 다양한 인공지능 응용 분야에 활용할 수 있다.

ㅇ 신규 도입한 NVIDIA H100 GPU 2식을 활용하여 대규모 언어모델의 실행 및 추론을 위한 고성능 연산환경을 구축하고, 복잡한 기술정보 분석과 대용량 문서처리 등에 필요한 연산자원을 확보하였다.

ㅇ 이를 통해 기존 클라우드를 통해 제한적으로 구현하였던 AI 서비스의 처리 성능을 개선하고, 고성능 언어모델의 적용·검증과 다양한 인공지능 기반 서비스의 개발 및 운영을 지원할 수 있다.