인공 지능, 고성능 컴퓨팅, 하이엔드 그래픽, 서버와 같은 데이터 집약적 애플리케이션은 점점 더 고대역폭 메모리를 소모하고 있습니다. JEDEC 협회는 제때에 4세대 표준에 대한 예비 사양을 발표했습니다. 이전 표준에 비해 더 높은 대역폭, 증가된 용량, 향상된 속도, 두 배로 늘어난 채널 수를 포함하여 상당한 성능 향상을 제공합니다.
지난주 JEDEC 협회는 4세대 고대역폭 메모리에 대한 예비 사양을 발표했습니다. HBM4 표준이 완성되면 고성능 컴퓨팅 애플리케이션을 위한 메모리 기술의 주요 진전을 나타낼 것입니다. 마찬가지로 중요한 점은 새로운 표준이 미래 메모리 기술의 방향을 설정하고 다양한 제조업체 간의 상호 운용성을 보장할 것입니다.
HBM4는 데이터 처리 속도를 더욱 향상시키고, 이전 제품인 HBM3에 비해 더 높은 대역폭과 다이 및/또는 스택당 증가된 용량을 제공하도록 설계되었습니다. 또한 대규모 컴퓨팅 작업에 필수적인 낮은 전력 소비를 유지하는 것을 목표로 합니다.
기술적 발전으로는 HBM3에 비해 스택당 채널 수가 두 배로 늘었고, 물리적 면적이 더 넓어졌으며, 단일 컨트롤러를 통해 HBM3와 호환되고, 24Gb 및 32Gb 레이어를 지원한다는 점이 있습니다. 또한 최대 6.4Gbps의 속도 빈에 대한 초기 합의가 이루어졌으며, 더 높은 주파수에 대한 논의도 진행 중입니다. 사양에서 빠진 부분은 HBM4 메모리를 프로세서에 직접 통합하는 것인데, Tom's Hardware는 이것이 새로운 유형의 메모리에 대한 가장 흥미로운 부분이라고 말합니다.
HBM4는 생성적 인공 지능, 고성능 컴퓨팅, 하이엔드 그래픽 카드 및 서버에 특히 중요합니다. 특히 AI 애플리케이션은 표준이 제공하는 데이터 처리 및 메모리 기능의 이점을 활용하여 AI 애플리케이션이 더 큰 데이터 세트를 처리하고 복잡한 계산을 더 빠르게 수행할 수 있습니다.
HBM4의 더 높은 대역폭은 AI 모델이 정보를 더 효율적으로 처리할 수 있게 하여 더 빠른 훈련 및 추론 시간을 제공합니다. 또한 HBM4의 더 낮은 전력 소비에 대한 초점은 대규모 AI 운영에 필수적입니다. 결과적으로, 특히 데이터 센터와 고성능 컴퓨팅 환경에서 AI 시스템을 더 지속 가능하고 비용 효율적으로 배포할 수 있게 됩니다.
또한, 다이와 스택당 더 큰 메모리 용량을 통해 AI 애플리케이션은 메모리와 처리 장치 간에 빈번한 데이터 전송 없이도 더 광범위한 데이터 세트와 더 복잡한 모델로 작업할 수 있습니다. 마지막으로, 이러한 개선 사항은 인터포저가 더 높은 데이터 속도와 신호 밀도를 처리할 수 있도록 보장하여 AI 애플리케이션의 전반적인 시스템 성능을 향상시킵니다.
또 다른 주목할 점은 HBM4가 단일 컨트롤러를 통해 HBM3와 호환되도록 설계되었기 때문에 기존 AI 하드웨어 인프라에 더 쉽게 채택하고 통합할 수 있다는 것입니다. 또한 HBM4는 4-high, 8-high, 12-high, 16-high TSV(Through-Silicon Via) 스택에 대한 옵션을 제공하므로 다양한 AI 애플리케이션의 특정 요구 사항을 충족하기 위해 메모리 구성에 더 큰 유연성이 있습니다.
|