엔비디아 H100 GPU(NVIDIA H100 Core GPU)는 지난해 4월에 발표됐으며 국내외 많은 기업과 인공지능(AI) 연구 및 교육 기관, 생명과학, 로봇공학 등에서 도입했거나 도입을 검토하고 있다.
H100은 800억개의 트랜지스터로 제작됐으며 다양한 기술 혁신이 적용됐다. 이 가운데는 새로운 트랜스포머 엔진과 NV 링크 인터커넥트가 포함됐으며, 이를 통해 고급 추천 시스템과 대용량 언어 모델과 같은 최대 AI 모델을 가속하고 대화형 AI와 같은 분야에서의 혁신을 주도할 수 있다.
엔비디아 창립자인 젠슨 황은 'Hooper는 로봇공학, 언어 기반 AI, 생명과학, 헬스케어 연구 분야에 사용되는 수조개의 매개 변수를 가진 모델들을 훈련시키며 무수한 데이터를 처리하고 정제하는 AI 공장의 새로운 엔진이다. 또 트랜스포머 엔진은 성능을 수십 배까지 끌어올려 대규모 AI와 HPC에 활용할 수 있다'고 설명했다.
주요 혁신적인 기능 5가지로는 가장 진보한 칩, 트랜스포머 엔진, 2세대 멀티 GPU, 컨피덴셜 컴퓨팅, 4세대 NV LINK 등이다.
엔비디아 엔터프라이즈(NVIDIA AI Enterprise) 소프트웨어 제품군에 대한 5년 사용권이 메인스트림 서버용 H100에 포함됐다. 이를 통해 AI 워크 플로의 개발,배치를 최적화해 AI 챗봇, 비전 AI, 추천 엔진을 구축하는 데 필요한 AI 프레임 워크와 도구를 이용할 수 있다.
엔비디아의 새로운 기술을 체험해보고 싶은 고객을 위해 엔비디아 런치패드 사이트에서 H100을 체험할 수 있다.
NVIDIA의 H100은 현존하는 가장 높은 스펙의 GPU로서 AI를 위한 최고의 솔루션으로 전 세계 AI 관련 기업들에 폭넓은 사랑을 받고 있다.
현재 H100을 도입한 사례는 바르셀로나 슈퍼컴퓨팅 센터, 로스 알라모스 국립연구소, 스위스 국립슈퍼컴퓨팅 센터 (CSCS), 텍사스 고급컴퓨팅센터, 츠쿠바 대학 등이 있다.
이번 웨비나는 IT 전문 웨비나 전문 매체 토크 IT가 진행하며 무료로 신청할 수 있다. 온라인 카지노 추천인프라의 NVIDIA 기술총괄 담당 윤성호 이사가 발표한다.
