지금 배송 중 – AMD Instinct MI300X 가속기를 탑재한 PowerEdge XE9680
AMD Instinct MI300X 가속기를 탑재한 PowerEdge XE9680은 생성적 AI를 활용하는 기업을 위해 설계된 고성능 기능을 제공하며, MI300X 가속기 8개, 결합된 1.5TB HBM3 메모리, 희소성 정밀도 성능을 갖춘 최대 이론 FP8 42페타플롭스를 특징으로 합니다.
이 강력한 구성은 대규모 언어 모델의 더 빠른 학습 및 추론을 가능하게 하여 조직이 AI 기반 통찰력과 혁신적인 애플리케이션을 보다 효율적으로 제공할 수 있도록 돕습니다. 단일 노드 구성에 대한 최근 테스트에서는 선도적인 총 소유 비용 값이 나타났습니다.
> Dell PowerEdge XE9680 서버의 단일 AMD Instinct MI300X 가속기에 Llama 2 70B 매개변수 모델을 배포했습니다.
> Dell PowerEdge XE9680 서버에서 사용 가능한 8개의 AMD Instinct MI300X 가속기를 모두 활용하여 모델의 동시 인스턴스 8개를 배포했습니다.
> 8개의 AMD Instinct MI300X 가속기를 탑재한 Dell PowerEdge XE9680 서버에서 FP16 정밀도로 Llama 2 70B 매개변수 모델을 미세 조정했습니다.
Dell OpenManage Enterprise를 통한 간소화된 배포, APEX AIOps 소프트웨어를 통한 지능형 자동화, 통합 사이버 복구 및 Zero Trust 접근 방식을 갖춘 향상된 보안을 갖춘 XE9680은 기업이 강력한 보안 태세를 유지하는 동시에 GenAI 솔루션을 신속하게 구현하고 확장할 수 있도록 지원합니다.
오늘 출시 – AMD를 탑재한 생성 AI용 Dell 검증 디자인
5월에 발표되어 오늘 출시된 AMD를 탑재한 Dell Validated Design for Generative AI는 Dell Generative AI 솔루션의 다음 단계로, 조직이 신뢰할 수 있는 GenAI를 배포하기 쉽게 만들어줍니다. 이 설계 지침은 조직과 개발자에게 LLM 추론 및 모델 사용자 지정을 구현하기 위한 포괄적인 지침과 미세 조정 및 검색 증강 생성(RAG)과 같은 고급 기술을 제공합니다. 개방형 표준을 기반으로 구축되어 독점적인 AI 소프트웨어 제품군의 필요성을 줄인 개발자는 Hugging Face 및 Meta를 포함한 파트너의 오픈 소스 LLM 모델로 개발을 간소화하고 워크플로를 자유롭게 사용자 지정할 수 있습니다.
현대적 워크로드를 가속화합니다 . 효율적이고 민첩한 비즈니스와 결과를 가능하게 하는 혁신과 규모.
> AMD Instinct MI300X 가속기로 구동되는 Dell Validated Design은 선형에 가까운 확장성과 저지연 분산형 GenAI 학습 및 추론을 구현합니다.
> PowerScale F710은 AI 파이프라인의 모든 단계를 가속화하는 스트리밍 성능을 대폭 향상시켜 방송 시간에 더 빠른 통찰력을 제공합니다.
> 64개의 400GbE 포트를 제공하는 Dell PowerSwitch Z9664F-ON은 최신 AI 클러스터에 낮은 지연 시간과 높은 처리량의 이더넷 패브릭을 제공합니다.
> Broadcom Thor2 AI 최적화 NIC는 400G를 전달하며, 업계에서 가장 낮은 전력 요구 사항으로 MI300X 가속기를 상호 연결합니다.
애플리케이션 개발을 강화합니다. 오픈소스 소프트웨어와 생태계는 개발자와 데이터 과학자가 자유롭게 혁신할 수 있도록 합니다.
> AMD ROCm 기반 프레임워크는 Dell 생성 AI 솔루션 생태계를 확장하고 PyTorch, TensorFlow, ONNX-RT, JAX와 같은 오픈소스 대규모 언어 모델과 AMD Instinct 가속기를 위한 드라이버, 개발 툴킷, API의 전체 스택을 지원합니다.
> Dell Omnia는 효율적인 워크로드 처리를 위한 구성을 자동화하여 AI 클러스터의 생성 및 관리를 간소화합니다.
> Dell Technologies의 Enterprise SONiC 배포는 오픈소스 SONiC 플랫폼과 Dell PowerSwitch를 결합한 확장 가능한 네트워킹 솔루션을 제공하며, 고급 기능과 엔터프라이즈급 지원을 제공합니다.
생성 AI를 위한 Dell 검증 설계를 통해 Dell 고객은 통합, 성능 및 크기 고려 사항에 대한 추측을 배제하여 자사의 요구 사항에 맞는 GenAI 플랫폼을 간편하게 구축할 수 있습니다.
|