하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

인텔, Gaudi 2 AI 가속기 제시, MLPerf Training v4.0 벤치마크를 게시

QM달려

4 602 1 2024.06.13 09:10

<p><br></p><p style="text-align: center; "><img src="https://img2.quasarzone.com/editor/2024/06/13/671195efb830f458bc5fa378a5deb122.jpg" alt="퀘이사존"></p><p style="text-align: center; "><br></p><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody></tbody></table></div><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Intel은 MLPerf Training v4.0의 최신 Gaudi 2 가속기 벤치마크를 발표하여 AI Compute 및 GenAI 워크로드를 위한 저렴한 대안이라고 주장했습니다.
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><span style="font-size: 20px;">Intel의 Gaudi 2 AI 가속기는 최신 MLPerf AI 벤치마크에서 Perf/$에서 빛을 발하고 GenAI 및 컴퓨팅 성능을 더욱 향상시킵니다.
</span></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    오늘의 MLPerf Training v4.0 벤치마크는 인텔이 1024개의 가속기를 통합한 대규모 Gaudi 2 시스템의 성능을 제출한 것이 처음이기 때문에 인텔에게 특별합니다. 이 시스템은 모두 Intel Tuber 개발자 클라우드에서 교육을 받아 인텔 AI 포트폴리오의 성능과 확장성. 이 소프트웨어 에코시스템은 MLPerf의 GPT-3 175B 매개변수 모델 내에서 이러한 가속기의 성능을 미세 조정하는 데 사용되었습니다.</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p></td></tr></tbody></table><p style="line-height: 2;"></p></div><div style="text-align: center; "><img src="https://img2.quasarzone.com/editor/2024/06/13/b3453695e34f2d6e17f4c0573d0180a5.jpg" alt="퀘이사존"><span><br></span></div><div style="text-align: center; "><br></div><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Intel은 이러한 새로운 벤치마크를 통해 자사의 Gaudi 2 가속기가 700억 개, 최대 1,750억 개의 매개변수로 LLM을 훈련할 수 있는 확장 가능하고 저렴하며 접근 가능한 GenAI 및 AI 컴퓨팅 솔루션임을 입증했으며 차세대 Gaudi 3 가속기는 다음과 같다고 밝혔습니다. 개방형 소프트웨어 제품군을 지원하면서 성능이 한 단계 더 발전할 것입니다.
<span style="font-size: 12pt;"></span></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Intel은 최신 MLPerf v4.0 벤치마크를 통해 이것이 TTT(Time-To-Train) 66.9분 만에 175B 실행을 완료한 NVIDIA의 H100에 대한 AI 컴퓨팅의 유일한 벤치마킹 대안임을 다시 한 번 입증했습니다. 뿐만 아니라 LoRa(하급 어댑터)를 사용하여 미세 조정된 새로운 Llama 2 70B 모델에서 인텔은 단 8개의 Gaudi 2 가속기에서 78.1분의 TTT를 달성했습니다.</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>Intel Gaudi 2 MLPerf 결과는 투명성을 입증합니다. MLPerf 결과는 Gaudi 2가 Nvidia H100에 대한 AI 컴퓨팅을 위한 유일한 MLPerf 벤치마킹 대안임을 보여줍니다. Tiber 개발자 클라우드에서 교육을 받은 Intel의 GPT-3 결과는 1,024개의 Gaudi 가속기로 구성된 AI 시스템에서 TTT(훈련 시간) 66.9분으로 개발자 클라우드 환경 내 초대형 LLM에서 강력한 Gaudi 2 확장 성능을 입증합니다.
</i></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>
</i></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>벤치마크 제품군에는 낮은 등급 어댑터(LoRa)를 사용하여 Llama 2 70B 매개변수 모델을 미세 조정하는 새로운 측정 기능이 포함되었습니다. LLM 미세 조정은 많은 고객과 AI 실무자가 공통적으로 수행하는 작업이므로 일상적인 애플리케이션에 대한 관련 벤치마크가 됩니다.
</i></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>
</i></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>Intel의 제출은 8개의 Gaudi 2 가속기에서 78.1분의 훈련 시간을 달성했습니다. Intel은 제출을 위해 Optimum Habana의 오픈 소스 소프트웨어를 활용했으며 DeepSpeed의 Zero-3을 활용하여 대규모 모델 훈련 중에 메모리 효율성과 확장성을 최적화했으며 Flash-Attention-2를 활용하여 주의 메커니즘을 가속화했습니다. Intel의 Habana Labs와 Hugging Face의 엔지니어링 팀이 이끄는 벤치마크 태스크 포스는 참조 코드와 벤치마크 규칙을 담당합니다.</i></p></td></tr></tbody></table><p style="line-height: 2;"></p></div><div style="text-align: center; "><br></div><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Intel이 강조한 Gaudi 2 가속기의 주요 판매 포인트는 가격입니다. Intel은 Computex에서 8개의 가속기와 UBB(Universal Baseboard)를 갖춘 Gaudi 2 AI 시스템을 경쟁 솔루션 비용의 1/3에 해당하는 65,000달러에 구입할 수 있다고 발표했습니다. 뿐만 아니라 유사한 구성의 Intel Gaudi 3 키트는 125,000달러에 구입할 수 있습니다 .
<span style="font-size: 12pt;"></span></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p></td></tr></tbody></table><p style="line-height: 2;"></p></div><div style="text-align: center; "><img src="https://img2.quasarzone.com/editor/2024/06/13/acb930e1a7606407de2fcaf829d7074a.jpg" alt="퀘이사존"></div><div style="text-align: center; "><br></div><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Gaudi 3 가속기는 NVIDIA의 H100보다 빠르면서 AI 시장에 진출할 때 H200 솔루션에 비해 경쟁력이 매우 높을 것으로 예상됩니다. Gaudi 시스템의 높은 가치로 인해 여러 고객이 NVIDIA의 제품보다 이 시스템을 선택하게 되었으며 그 중 일부는 다음과 같습니다.
<span style="font-size: 12pt;"></span></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"> > 한국의 클라우드 서비스 제공업체이자 6억 명 이상의 사용자를 대상으로 하는 선도적인 검색 엔진 인 네이버는 새로운 AI 생태계를 구축하고 고객의 개발 비용과 프로젝트 일정을 단축하여 광범위한 LLM 도입을 가능하게 하는 장벽을 낮추고 있습니다.
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"> > 스웨덴 정부와 민간 기업 간의 동맹인 AI 스웨덴은 Gaudi를 활용하여 영역별 지방 자치 콘텐츠를 미세 조정하여 운영 효율성을 개선하고 스웨덴 구성원을 위한 공공 서비스를 강화합니다.
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    다음 공개 MLPerf 벤치마크를 위해 Intel은 다가오는 추론 벤치마크에서 Gaudi 3 가속기 에 대한 결과를 게시할 것이라고 확인했습니다 . 이러한 AI 가속기는 2024년 가을까지 OEM을 통해 일반적으로 제공될 예정입니다.</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p></td></tr></tbody></table><p style="line-height: 2;"></p></div><div style="text-align: center; "><br></div><div style="text-align: center;"><i style="background-color: initial; color: rgb(255, 153, 0);">※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.</i></div><div style="text-align: center;"><i style="background-color: initial; color: rgb(255, 153, 0);"><br></i></div><div style="text-align: center;">
</div>

QM달려

행성: QM

포인트: 419,427 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 4개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.2k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
8	인텔 및 AMD 신제품 출시로 2024년 메인보드 시장 회복세로 전환 전망 9 CPU/MB/RAM Wormhole 2k 07-20
5	크라우드스트라이크 업데이트로 전세계 은행·항공·방송사 등 피해 속출…주가 하락 4 소프트웨어 큰돌 1k 07-20
12	AMD Software: Adrenalin Edition 24.7.1 Release 16 그래픽카드 RoseWoo 3.9k 07-20
3	오픈AI, GPT-4o 소형 버전 공개…"60% 이상 저렴" 4 소프트웨어 블랙웰 1.5k 07-20
2	엔비디아-미스트랄AI, 신규 AI 모델 출시…"개인 데스크톱도 AI 실행" 3 소프트웨어 블랙웰 992 07-20
12	삼성, 엔비디아行 HBM3 양산…평택 4공장 'D램 전용' 전환 20 업계동향 빌보 3.8k 07-19
37	지스킬, AMD EXPO 지원 Trident Z5 Royal Neo 시리즈 DDR5 메모리 발표 45 CPU/MB/RAM Wormhole 4.4k 07-19
9	Watercool, 200mm 팬용 MO-RA IV 라디에이터 발표 11 쿨링솔루션 Wormhole 1.5k 07-19
1	삼성전자, 올해 말 CXL 2.0 DRAM 양산 계획 3 CPU/MB/RAM Wormhole 1.4k 07-19
2	마이크론, 인텔 제온 6용 MRDIMM 공개: 최대 256GB DDR5-8800 모듈 2 CPU/MB/RAM Wormhole 1k 07-19
5	YMTC, 마이크론을 상대로 미국 소송 제기 마이크론이 자사 특허 11건을 침해했다고 주장 5 업계동향 Wormhole 513 07-19
11	MS 클라우드 장애…세계 곳곳 통신 대란 14 업계동향 ComAssem 1.3k 07-19
12	기가바이트, 새로운 C500 파노라마 스텔스 게이밍 케이스 출시 12 케이스 Wormhole 1.3k 07-19
6	애즈락, 12V-2x6 전원 커넥터 탑재 AMD Radeon RX 7900 Creator 시리즈 출시 5 그래픽카드 Wormhole 1k 07-19
21	MS발 전세계 IT 대란 국내도 파장…일부 항공·게임 서버 '먹통' 32 업계동향 빌보 4.7k 07-19
5	TSMC의 2nm는 2025년 예정대로 양산, A16은 2026년 하반기 양산 예정 9 업계동향 QM바나 1.4k 07-19
20	VGN×엘든 링, 콜라보 에디션 키보드/마우스 발표 22 키보드/마우스 QM포시포시 2.7k 07-19
4	메인보드 출하량 통계...하반기 시장 성장세 진입 전망 6 CPU/MB/RAM QM포시포시 1.2k 07-19
1	OpenAI, 차세대 모델에 전력을 공급하는 맞춤형 AI 칩 개발에 관해 Broadcom과 협의 중 2 업계동향 QM제크 593 07-19
21	AMD Ryzen 9900X/9600X 및 Ryzen 9 5900XT CPU 아마존 등록 23 CPU/MB/RAM Wormhole 7.3k 07-19
0	챗GPT 엔터프라이즈를 위한 새로운 기능 출시 기타/주변기기 QM브로리 5.9k 07-19
16	넷플릭스, 계정 공유 단속으로 인해 신규 가입자 감소 29 업계동향 QM브로리 2.7k 07-19
7	랜섬웨어 공격과 관련된 비용이 급등하고 있습니다. 7 업계동향 QM달려 1.1k 07-19
2	ViewSonic, RGB 레이저 프로젝터 LX700-4K RGB 출시 2 기타/주변기기 QM달려 757 07-19
8	FiiO DM13 출시: 이번에는 휴대용 CD 플레이어로 향수로의 새로운 복귀 11 음향기기 심심해❤️ 1.2k 07-19
9	심랩이 메르세데스-AMG F1 스티어링 휠을 선보입니다 12 기타/주변기기 QM건빵 1k 07-19
1	Innocn, 새로운 초광각 모니터 출시 2 디스플레이 QM안나 754 07-19
1	필립스 에브니아 27M2C5200W가 출시되었습니다. 280Hz VA 2 디스플레이 QM안나 435 07-19
8	한국 과학자들이 혁신적인 100인치 나노 투명 스크린을 개발 7 디스플레이 QM이라 1.6k 07-19
6	430Hz QHD Fast IPS 디스플레이를 탑재한 뷰소닉 VX2781-2K-PRO-4가 소개되었습니다. 6 디스플레이 QM이라 658 07-19