하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

4세대 텐서 코어가 탑재된 NVIDIA Hopper H100은 클록당 2배 빠른 속도, 30% 성능 향상을 제공하는 주파수 제공

QM지름

10 2704 2 2022.08.23 09:04

<img src="https://img2.quasarzone.com/editor/2022/08/23/37f5f5aa4d26e41a63106fb51e907a5b.png" alt="퀘이사존" style="width: 100%;"> NVIDIA는 Hot Chips 34에서 Hopper H100 GPU를 추가로 분석하여 4세대 Tensor Core 아키텍처가 제공하는 것을 맛볼 수 있도록 합니다. 
NVIDIA Kepler GK110 GPU는 Hopper H100 GPU의 단일 GPC와 동일하며 4세대 Tensor 코어는 최대 2배 더 빠릅니다.
AMD가 HPC GPU에서 MCM 접근 방식을 취하고 있는 동안 NVIDIA는 당분간 모놀리식 디자인을 고수하기로 결정했습니다. 그들의 Hopper H100은 NVIDIA 전용으로 최적화되고 제작된 TSMC의 4N 프로세스 노드를 사용하여 만들어진 가장 큰 GPU 중 하나입니다. <img src="https://img2.quasarzone.com/editor/2022/08/23/610ce6a3bba420a20a97c69c7cb52b27.png" alt="퀘이사존" style="width: 100%;"><img src="https://img2.quasarzone.com/editor/2022/08/23/d8ee6a5a8b2ae2351b84481fd143cfe7.png" alt="퀘이사존" style="width: 100%;"><img src="https://img2.quasarzone.com/editor/2022/08/23/b0d2cab8fc2dc259e315299a59017e19.png" alt="퀘이사존" style="width: 100%;"><img src="https://img2.quasarzone.com/editor/2022/08/23/de767962e78b49e9f3fe46458427332f.png" alt="퀘이사존" style="width: 100%;"><img src="https://img2.quasarzone.com/editor/2022/08/23/c96539fb1a9242d8ee7fa1ef804de6ba.png" alt="퀘이사존" style="width: 100%;"><img src="https://img2.quasarzone.com/editor/2022/08/23/5bd7b71b59fc6c9a3ce2f3945a8c51b4.png" alt="퀘이사존" style="width: 100%;"><img src="https://img2.quasarzone.com/editor/2022/08/23/1746ecbcb61e1d2e7649f95b8be3ceab.png" alt="퀘이사존" style="width: 100%;"> H100 GPU는 최신 4nm 기술로 가득 차 있고 최첨단 HBM3 메모리 기술과 함께 800억 트랜지스터를 통합한 괴물 칩입니다. H100은 30개 이상의 전원 VRM 및 TSMC의 CoWoS 기술을 사용하여 Hopper H100 GPU를 6-스택 HBM3 설계와 결합하는 대규모 통합 인터포저가 있는 PG520 PCB 보드를 기반으로 합니다. Hopper H100 GPU의 주요 기술은 다음과 같습니다. 132개의 SM(클럭당 2배 성능)4세대 텐서 코어스레드 블록 클러스터2세대 멀티 인스턴스 GPU기밀 컴퓨팅PCIe Gen 5.0 인터페이스세계 최초 HBM3 DRAM더 큰 50MB L2 캐시4세대 NVLink(900GB/s 총 대역폭)새로운 SHARP 지원NV링크 네트워크 6개의 스택 중 2개의 스택은 수율 무결성을 보장하기 위해 유지됩니다. 그러나 새로운 HBM3 표준은 3TB/s 속도로 최대 80GB 용량을 허용합니다. 비교를 위해 현재 가장 빠른 게임용 그래픽 카드인 RTX 3090 Ti는 1TB/s의 대역폭과 24GB VRAM 용량을 제공합니다. 그 외에도 H100 Hopper GPU는 최신 FP8 데이터 형식도 포함하고 있으며 새로운 SXM 연결을 통해 칩이 설계된 700W 전력 설계를 수용하는 데 도움이 됩니다. 또한 FP32 및 FP64 FMA 속도의 두 배와 256KB L1 캐시(공유 메모리)를 제공합니다. NVIDIA Hopper H100 GPU 사양 개요
사양에 따라 NVIDIA Hopper GH100 GPU는 총 8개의 GPC에 탑재된 방대한 144 SM(Streaming Multiprocessor) 칩 레이아웃으로 구성됩니다. 이 GPC는 각각 2개의 SM 유닛으로 구성된 총 9개의 TPC를 포함합니다. 이것은 GPC당 18개의 SM을 제공하고 완전한 8개의 GPC 구성에서 144개의 SM을 제공합니다. 각 SM은 최대 128개의 FP32 장치로 구성되어 총 18,432개의 CUDA 코어를 제공해야 합니다. <img src="https://img2.quasarzone.com/editor/2022/08/23/75b19de082198f87cf9129c3f66d1c4e.png" alt="퀘이사존" style="width: 100%;"> 다음은 H100 칩에서 기대할 수 있는 몇 가지 구성입니다: GH100 GPU의 전체 구현에는 다음 장치가 포함됩니다: 8개의 GPC, 72개의 TPC(9개의 TPC/GPC), 2개의 SM/TPC, 전체 GPU당 144개의 SMSM당 FP32 CUDA 코어 128개, 전체 GPU당 FP32 CUDA 코어 18432개SM당 4세대 Tensor 코어 4개, 전체 GPU당 576개6개의 HBM3 또는 HBM2e 스택, 12개의 512-bit 메모리 컨트롤러60MB L2 캐시4세대 NVLink 및 PCIe Gen 5 SXM5 보드 폼 팩터가 있는 NVIDIA H100 GPU에는 다음 장치가 포함됩니다: GPU당 8개의 GPC, 66개의 TPC, 2개의 SM/TPC, 132개의 SMSM당 FP32 CUDA 코어 128개, GPU당 FP32 CUDA 코어 16896개SM당 4세대 Tensor 코어 4개, GPU당 528개80GB HBM3, HBM3 스택 5개, 512-bit 메모리 컨트롤러 10개50MB L2 캐시4세대 NVLink 및 PCIe Gen 5 이는 전체 GA100 GPU 구성보다 2.25배 증가한 것입니다. NVIDIA는 또한 성능을 엄청나게 향상시킬 Hopper GPU 내에서 더 많은 FP64, FP16 및 Tensor 코어를 활용하고 있습니다. 그리고 그것은 1:1 FP64를 특징으로 할 것으로 예상되는 Intel의 Ponte Vecchio와 경쟁하기 위한 필수 요소가 될 것입니다. NVIDIA는 Hopper의 4세대 Tensor 코어가 동일한 클럭에서 2배의 성능을 제공한다고 말합니다. <img src="https://img2.quasarzone.com/editor/2022/08/23/2de0453f50708a474a29dd7d62102eb0.png" alt="퀘이사존" style="width: 100%;"> 다음 NVIDIA Hopper H100 성능 분석은 추가 SM이 20%의 성능 향상만 있음을 보여줍니다. 주요 이점은 4세대 Tensor 코어와 FP8이 경로를 계산하는 데 있습니다. 더 높은 주파수는 또한 믹스에 적절한 30% 향상을 추가합니다. <img src="https://img2.quasarzone.com/editor/2022/08/23/3c104bbfc315eb8d171cef3dbef62041.png" alt="퀘이사존" style="width: 100%;"> GPU 스케일링을 지적하는 흥미로운 비교에 따르면 Hopper H100 GPU의 단일 GPC는 2012년의 플래그십 HPC 칩인 Kepler GK110 GPU와 동일합니다. Kepler GK110에는 총 15개의 SM이 있는 반면 Hopper H110 GPU에는 132개의 SM이 있습니다. 또한 Hopper GPU의 단일 GPC에도 18개의 SM이 있으며, 이는 Kepler 플래그십의 전체 SM보다 20% 더 많습니다. <img src="https://img2.quasarzone.com/editor/2022/08/23/9ff84af14a95a67df6c85e4419fd755b.png" alt="퀘이사존" style="width: 100%;"> 캐시는 NVIDIA가 호퍼 GH100 GPU에서 48MB까지 많은 관심을 기울인 또 다른 공간입니다. 이는 Ampere GA100 GPU에 탑재된 50MB 캐시보다 20%, AMD의 플래그십 Aldebaran MCM GPU인 MI250X보다 3배 증가한 것입니다. 
성능 수치를 정리하면 NVIDIA의 GH100 Hopper GPU는 FP8의 4000TFLOPs, FP16의 2000TFLOPs, TF32의 1000TFLOPs 및 FP64 컴퓨팅 성능의 60TFLOPs를 제공합니다. 이 기록을 깨는 수치는 이전에 나온 다른 모든 HPC 가속기를 죽입니다. 비교를 위해 FP64 컴퓨팅에서 NVIDIA의 자체 A100 GPU보다 3.3배 빠르며 AMD의 Instinct MI250X보다 28% 빠릅니다. FP16 컴퓨팅에서 H100 GPU는 A100보다 3배, MI250X보다 5.2배 빠릅니다. 축소 모델인 PCIe 버전은 최근 일본에서 30,000달러 이상에 상장되었으므로 더 강력한 구성의 SXM 버전은 약 50만 달러의 비용이 쉽게 들 것이라고 상상할 수 있습니다. NVIDIA Ampere GA100 GPU 기반 Tesla A100 사양: <img src="https://img2.quasarzone.com/editor/2022/08/23/0c1c3b4befee8013b366921db9cdcd86.jpg" alt="퀘이사존"> 하드웨어에 미치고 유저들을 사랑하는 남자, 퀘이사존 최고운영자 QM갓지림입니다.본 뉴스는 해외 매체의 단순 번역본으로 퀘이사존의 주관적인 견해가 포함되지 않았음을 밝혀드립니다.여러분들이 남겨 주신 소중한 댓글.. 진심으로 감사드립니다. 원문 출처 <a href="https://wccftech.com/nvidia-hopper-h100-4th-gen-tensor-core-twice-as-fast-clock-for-clock/" target="_blank">wccftech</a>

QM지름

행성: QM

포인트: 417,020 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 10개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.1k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
15	20GB 메모리가 탑재된 MSI GeForce RTX 3080, 중국에서 600달러 미만으로 판매 중 33 그래픽카드 Wormhole 6.6k 09-05
38	NVIDIA RTX 4080는 16GB 및 12GB, RTX 4090 PCB 세부 정보 공개 97 그래픽카드 QM센스 15.3k 09-05
17	전혀 출시된 바 없는 RTX 3090 SUPER 블랙 쿨러 사진이 포착됨 37 그래픽카드 QM벤치 10k 09-05
47	Intel Core i9-13900K ES 샘플 테스트 91 CPU/MB/RAM Wormhole 11.2k 09-04
81	바닥치는 그래픽카드 가격, RTX 3090 $1000 미만, 3090 Ti는 $1100 그리고 3080 Ti는 $799 137 그래픽카드 QM벤치 16.7k 09-03
8	DisplayPort vs HDMI: 재생률이 높은 게임에 가장 적합한 것은? 16 업계동향 QM달려 2.1k 09-02
24	NVIDIA RTX 4080 FE 그래픽카드 사진 유출 45 그래픽카드 QM포시포시 10k 09-02
15	ASUS, RTX 3090 TUF Gaming은 £1,000 미만으로 구입할 수 있다. 37 업계동향 QM달려 5.5k 08-29
75	NVIDIA는 초과 재고를 없애기 위해 9월에 더 큰 가격 인하를 제공할 예정 131 그래픽카드 QM지름 20.5k 08-28
44	[루머] NVIDIA GeForce RTX 4080, 23Gbps 16GB GDDR6X 메모리와 340W 총 보드 전력 제공 95 그래픽카드 Wormhole 15k 08-23
2	4세대 텐서 코어가 탑재된 NVIDIA Hopper H100은 클록당 2배 빠른 속도, 30% 성능 향상을 제공하는 주파수 제공 10 그래픽카드 QM지름 2.7k 08-23
92	차세대 RX 7800 XT RDNA 3 'Navi 31' 그래픽 카드 사양, 성능, 가격 및 가용성 126 그래픽카드 QM지름 12.5k 08-22
21	RTX 3090 Ti는 1,999달러에서 1,349달러로 하락, 미드레인지 RTX 30 GPU는 여전히 비싸다 48 그래픽카드 QM지름 6.1k 08-19
58	[루머] 엔비디아 및 AMD GPU 가격은 8월 말까지 추가 하락 예상, 엔비디아는 재고 정리를 위해 공격적인 가격 인하 발표 예정 89 그래픽카드 Wormhole 13k 08-16
52	AMD Radeon RX 6900 XT 그래픽 카드, 700달러 아래로 하락 72 그래픽카드 QM지름 5.9k 08-15
82	RX 7900 XT RDNA 3 Navi 31 그래픽 카드 사양, 성능, 가격 및 가용성 – 지금까지 우리가 알고 있는 모든 것 100 그래픽카드 QM지름 8.6k 08-13
22	보도에 따르면 NVIDIA는 가격 하락을 통해 자사 AIB의 암페어 재고를 지원하여 RTX 40 GPU를 위한 공간을 마련 43 그래픽카드 QM센스 5.2k 08-12
35	NVIDIA RTX 3080/3080 Ti 가격은 더 낮아질 예정, AMD RX 7700 XT는 2023년으로 연기 58 그래픽카드 QM센스 7.1k 08-12
16	Intel, Arc Gaming & Arc Pro 그래픽 카드용 OneAPI의 Multi-GPU 지원 22 그래픽카드 QM달려 1.9k 08-11
36	NVIDIA RTX 3080 Ti 현재 $845($355 할인), RTX 3090 $1,049($450 할인), RTX 3090 Ti $1,249($750 할인) 66 그래픽카드 QM센스 9.2k 08-11
36	RTX 4080은 RTX 3080과 동일한 320W의 TGP를 특징: RTX 4070, 285W에서 최고 출력 [루머] 63 그래픽카드 QM지름 6.5k 08-10
20	[루머] NVIDIA GeForce RTX 4070, RTX 3090 Ti와 동일한 컴퓨팅 성능을 제공하는 2.8GHz 이상으로 향상 43 그래픽카드 Wormhole 9.1k 08-10
23	MSI, 세계 최초의 ATX 3.0 호환 MEG Ai1300P PCIE5 파워 서플라이 발표 33 파워 Wormhole 4.1k 08-10
17	Nvidia는 AMD가 계속 번창하면서 게임 사업에서 10억 달러를 잃었습니다. 51 업계동향 심심해❤️ 5.4k 08-09
33	RTX 40 시리즈용 Micron 24Gbps GDDR6X 메모리는 현재 생산 중 59 그래픽카드 QM지름 7.4k 08-08
93	EVGA GeForce RTX 3090 Ti FTW3가 1149 USD로 하락, 이제 1000 USD 저렴 145 그래픽카드 GPU 8.2k 08-07
44	[루머] NVIDIA GeForce RTX 4070 사양 변경, 더 많은 코어와 더 빠른 메모리 탑재 85 그래픽카드 Wormhole 14.8k 08-04
65	중고 그래픽 카드는 50% 이상 급락했지만 아무도 구입하지 않았습니다. 159 그래픽카드 QM지름 20.7k 08-03