하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

NVIDIA, AI 슈퍼 컴퓨팅을위한 A100 80GB GPU 발표

루민

10 2778 4 2020.11.17 20:22

번역기본의 오의역이 있을 수 있으며 원문 참고 바랍니다. 엔비디아는 오늘 엔비디아 HGX AI 슈퍼 컴퓨팅 플랫폼을 뒷받침하는 최신 혁신 기술인 엔비디아 A100 80GB GPU를 전작보다 두 배나 더 많은 메모리로 공개하여 연구원과 엔지니어에게 차세대 AI 및 과학적 돌파구를 열 수있는 전례없는 속도와 성능을 제공합니다. HBM2E 기술이 적용된 새로운 A100은 A100 40GB GPU의 고 대역폭 메모리를 80GB로 두 배로 늘리고 초당 2 테라 바이트 이상의 메모리 대역폭을 제공합니다. 이를 통해 데이터를 세계에서 가장 빠른 데이터 센터 GPU 인 A100에 빠르게 공급할 수 있으므로 연구원은 애플리케이션을 더욱 빠르게 가속화하고 더 큰 모델과 데이터 세트를 사용할 수 있습니다. NVIDIA의 응용 딥 러닝 연구 부사장 인 Bryan Catanzaro는 "HPC 및 AI 연구에서 최첨단 결과를 얻으려면 가장 큰 모델을 구축해야하지만 이전보다 더 많은 메모리 용량과 대역폭이 필요합니다. "A100 80GB GPU는 불과 6 개월 전에 도입 된 이전 제품에 비해 두 배의 메모리를 제공하고 초당 2TB의 장벽을 허물어 연구자들이 세계에서 가장 중요한 과학 및 빅 데이터 문제를 해결할 수 있도록합니다."<div class="imgcontainer" style="margin-top: 15px; margin-bottom: 15px; line-height: 0; font-family: TPU-Body, "helvetica neue", Arial, Helvetica, sans-serif; font-size: 15px; font-style: normal; font-variant-ligatures: normal; font-variant-caps: normal; font-weight: 400;"><a href="https://www.techpowerup.com/img/nWUfGrRBYcASuzC9.jpg" target="_blank" data-width="1707" data-height="960" data-fancybox="g274740" style="overflow-wrap: break-word; color: rgb(206, 198, 206);"><img src="https://img2.quasarzone.com/editor/2020/11/17/e498bb729b53f21c01a53499ee1b6486.jpg" width="231" height="130" alt="" style="border-width: 1px; border-style: solid; border-color: rgb(221, 221, 221); max-width: 100%; margin-right: 5px; height: 130px; width: auto;"></a></div>NVIDIA A100 80GB GPU는 NVIDIA DGX A100 및 NVIDIA DGX Station A100 시스템에서 사용할 수 있으며, 오늘 발표되었으며 이번 분기에 출시 될 예정입니다. 선도적 인 시스템 제공 업체 인 Atos, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Inspur, Lenovo, Quanta 및 Supermicro는 처음에 A100 80GB를 특징으로하는 4 개 또는 8 개의 GPU 구성에서 HGX A100 통합베이스 보드를 사용하여 구축 된 시스템을 제공 할 것으로 예상됩니다. 데이터 사용량이 많은 워크로드 가속화 A100 40GB의 다양한 기능을 기반으로하는 80GB 버전은 막대한 데이터 메모리 요구 사항이있는 광범위한 애플리케이션에 이상적입니다. AI 교육의 경우 DLRM과 같은 추천 시스템 모델에는 수십억 명의 사용자와 수십억 개의 제품을 나타내는 방대한 테이블이 있습니다. A100 80GB는 최대 3 배의 속도 향상을 제공하므로 기업은 이러한 모델을 신속하게 재교육하여 매우 정확한 권장 사항을 제공 할 수 있습니다. A100 80GB는 또한 초인적 생성 텍스트 기능을 갖춘 자연어 처리 모델 인 GPT-2와 같은 단일 HGX 기반 서버에 맞는 더 많은 매개 변수를 사용하여 가장 큰 모델을 교육 할 수 있습니다. 이렇게하면 구현하는 데 시간이 많이 걸리고 여러 노드에서 실행하는 데 시간이 오래 걸릴 수있는 데이터 또는 모델 병렬 아키텍처가 필요하지 않습니다. 다중 인스턴스 GPU (MIG) 기술을 통해 A100은 각각 10GB의 메모리가있는 최대 7 개의 GPU 인스턴스로 분할 할 수 있습니다. 이를 통해 안전한 하드웨어 격리를 제공하고 다양한 소규모 워크로드에 대한 GPU 활용도를 극대화합니다. RNN-T와 같은 자동 음성 인식 모델의 AI 추론을 위해 단일 A100 80GB MIG 인스턴스는 훨씬 더 큰 배치 크기를 처리하여 프로덕션에서 1.25 배 더 높은 추론 처리량을 제공 할 수 있습니다. 테라 바이트 크기 범위의 소매 용 빅 데이터 분석 벤치 마크에서 A100 80GB는 성능을 최대 2 배 향상시켜 가장 큰 데이터 세트에 대한 빠른 통찰력을 제공하는 데 이상적인 플랫폼입니다. 기업은 데이터가 동적으로 업데이트됨에 따라 실시간으로 주요 결정을 내릴 수 있습니다. 기상 예보 및 양자 화학과 같은 과학 응용 분야의 경우 A100 80GB는 엄청난 가속을 제공 할 수 있습니다. 재료 시뮬레이션 인 Quantum Espresso는 A100 80GB의 단일 노드로 거의 2 배의 처리량 증가를 달성했습니다. RIKEN 전산 과학 센터의 이사 인 Satoshi Matsuoka는 "빠르고 충분한 메모리 대역폭과 용량은 슈퍼 컴퓨팅 애플리케이션에서 고성능을 실현하는 데 매우 중요합니다."라고 말했습니다. "80GB의 HBM2E GPU 메모리를 갖춘 NVIDIA A100은 세계에서 가장 빠른 초당 2TB의 대역폭을 제공하여 애플리케이션 성능을 크게 향상시킬 것입니다." A100 80GB 의 주요 기능 A100 80GB에는 NVIDIA Ampere 아키텍처의 많은 획기적인 기능이 포함되어 있습니다.<ul style="margin-top: 10px; margin-right: 10px; margin-left: 30px; font-family: TPU-Body, "helvetica neue", Arial, Helvetica, sans-serif; font-size: 15px; font-style: normal; font-variant-ligatures: normal; font-variant-caps: normal; font-weight: 400;"><li>3 세대 텐서 코어 : 새로운 형식 TF32, HPC 용 2.5x FP64, AI 추론 용 INT8 20 배 및 BF16 데이터 형식 지원을 통해 이전 Volta 세대보다 최대 20 배의 AI 처리량을 제공합니다.</li><li>더 크고 더 빠른 HBM2E GPU 메모리 : 메모리 용량을 두 배로 늘리고 업계 최초로 초당 2TB 이상의 메모리 대역폭을 제공합니다.</li><li>MIG 기술 : 격리 된 인스턴스 당 메모리를 두 배로 늘려 각각 10GB의 MIG를 최대 7 개 제공합니다.</li><li>구조적 희소성 : 희소 모델을 추론하는 속도를 최대 2 배까지 향상시킵니다.</li><li>3 세대 NVLink 및 NVSwitch : 이전 세대 상호 연결 기술에 비해 두 배의 GPU-GPU 대역폭을 제공하여 데이터 집약적 인 워크로드를 위해 GPU 로의 데이터 전송을 초당 600 기가 바이트로 가속화합니다.</li></ul>NVIDIA HGX AI 슈퍼 컴퓨팅 플랫폼 A100 80GB GPU는 NVIDIA HGX AI 슈퍼 컴퓨팅 플랫폼 의 핵심 요소로, NVIDIA GPU, NVIDIA NVLink, NVIDIA InfiniBand 네트워킹 및 완전히 최적화 된 NVIDIA AI 및 HPC 소프트웨어 스택의 전체 성능을 결합하여 최고의 애플리케이션 성능. 이를 통해 연구자와 과학자는 HPC, 데이터 분석 및 딥 러닝 컴퓨팅 방법을 결합하여 과학적 진보를 이룰 수 있습니다.

루민

행성: 초신성

포인트: 188,450 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 10개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.8k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
32	MSI는 실수(?)로 인텔 11세대 로켓레이크 스펙을 공개 68 CPU/MB/RAM QM포시포시 9.6k 12-04
12	삼성, EUV 리소그래피 공정 배포 확대 15 CPU/MB/RAM QM지름 2.1k 12-04
10	Razer Tomahawk 모듈식 게이밍용 데스크톱 출시 20 기타/주변기기 Railgun0 2.6k 12-04
15	AMD Ryzen 3000 및 이전 Zen 칩은 하드웨어 제한으로 인해 SAM을 지원하지 않음, Haswell이 지원 이후 Intel 칩 40 CPU/MB/RAM Railgun0 5.6k 12-04
6	삼성디스플레이, 다음 주 QD-OLED 시험생산… 수율 향상· 생산 단가 인하가 관건 11 디스플레이 QM포시포시 2k 12-04
11	AMD Radeon RX 6900 XT AotS 성능 누출 38 그래픽카드 Railgun0 4.3k 12-04
21	쓰리알, 고사양 VGA도 OK, 파워서플라이 AK800S 출시. 35 파워 3RSYS 6.6k 12-04
7	MSI는 Re-Size BAR를 지원하기 위해 Intel 400 시리즈 마더보드를 위한 BIOS 업데이트를 출시합니다. 10 CPU/MB/RAM Railgun0 2.1k 12-04
6	[이벤트] 새로운 제닉스 프리미엄 스토어 맞추기 이벤트! 11 업계동향 제닉스홀릭 1.2k 12-04
11	Intel Core i9-11900K“Rocket Lake-S”플래그십 CPU 발견 25 CPU/MB/RAM Railgun0 2.8k 12-04
5	왼손잡이도 사용할 벌집 구조의 경량 게이밍 마우스, SHARKOON "Light2 S 14 키보드/마우스 Railgun0 1.9k 12-04
2	THX 인증의 전체 무선 이어폰, Razer 'Hammerhead True Wireless Pro' 4 음향기기 Railgun0 1.3k 12-04
13	[머블이벤트] 디앤디, 게인워드 RTX 3060Ti 고스트 OC 출시 기념 머니블랙홀 20 그래픽카드 다이나믹DnD 2.9k 12-04
2	ASUS, "Control Center Express" 지원 비즈니스 B550 마더 'Pro B550M-C/CSM' 10 CPU/MB/RAM Railgun0 1.8k 12-04
9	AMD의 리사 수와 Microsoft의 필 스펜서가 The Game Awards에서 "차세대 게임"에 대해 논의할 예정 11 업계동향 QM지름 1.7k 12-04
5	[이벤트] 블로그 누적방문자 400만명 기념 이벤트! 9 업계동향 제닉스홀릭 1.4k 12-04
7	FSP-Group, 80PLUS 230V EU BRONZE 인증 Hydro PRO 800W 출시 10 파워 스파클텍 2.6k 12-04
1	제이씨현시스템㈜, 기가바이트 GP-P750GM 파워 출시기념 선착순 구매후기 행사 진행! 4 업계동향 기가바이트 4.2k 12-04
8	컬러풀 플래그쉽 ‘iGAME 지포스 RTX 3070 VULCAN OC’ 출시! 16 그래픽카드 waycos 2.8k 12-04
6	제이씨현시스템㈜, 기가바이트 GP-P750GM 80PLUS GOLD 풀모듈러 파워 출시! 13 파워 기가바이트 4.8k 12-04
16	Micron의 공장이 한 시간 동안 오프라인 상태, DRAM 가격이 상승? 30 CPU/MB/RAM QM지름 3.8k 12-04
24	DDR5 시대!, 2021년 공식적으로 시작, 현재 세대 간 DRAM 시장 전환, TrendForce 발표 40 업계동향 루민 6k 12-04
5	HyperX, 7.1ch 버추얼 서라운드 게이밍 헤드셋 "HyperX Cloud Revolver + 7.1" 발표 9 음향기기 Wormhole 1.5k 12-04
9	인텔, 일부 Atom 및 Xeon 프로세서를 TSMC에 위탁 16 CPU/MB/RAM QM지름 2k 12-04
23	소매점에 2TB Samsung 980 Pro PCIe 4.0 NVMe SSD 등재 31 CPU/MB/RAM QM지름 4.5k 12-04
19	인텔 11세대 i9 11900K 포착 - 8코어 16쓰레드 77 CPU/MB/RAM QM포시포시 5.2k 12-04
9	엔비디아 CFO의 의견: 2021년 1분기까지 RTX 가격과 공급이 안정화되지 않을 것입니다. 19 그래픽카드 PangE 3.1k 12-04
10	브라보텍 네이버 공식 카페 매일 나눔 이벤트 진행 품목 안내(12월 1주차) 12 업계동향 BRAVOTEC 1k 12-04
2	컬러풀 iGame RTX 3060 Ti Ultra OC 체험단 모집 안내 3 그래픽카드 waycos 1.6k 12-04
5	[포스트 이벤트] 빈칸 낱말 맞추기 이벤트! 11 업계동향 제닉스홀릭 1k 12-04