하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

인텔, Gaudi 2 AI 가속기 제시, MLPerf Training v4.0 벤치마크를 게시

QM달려

4 533 1 2024.06.13 09:10

<p><br></p><p style="text-align: center; "><img src="https://img2.quasarzone.com/editor/2024/06/13/671195efb830f458bc5fa378a5deb122.jpg" alt="퀘이사존"></p><p style="text-align: center; "><br></p><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody></tbody></table></div><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Intel은 MLPerf Training v4.0의 최신 Gaudi 2 가속기 벤치마크를 발표하여 AI Compute 및 GenAI 워크로드를 위한 저렴한 대안이라고 주장했습니다.
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><span style="font-size: 20px;">Intel의 Gaudi 2 AI 가속기는 최신 MLPerf AI 벤치마크에서 Perf/$에서 빛을 발하고 GenAI 및 컴퓨팅 성능을 더욱 향상시킵니다.
</span></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    오늘의 MLPerf Training v4.0 벤치마크는 인텔이 1024개의 가속기를 통합한 대규모 Gaudi 2 시스템의 성능을 제출한 것이 처음이기 때문에 인텔에게 특별합니다. 이 시스템은 모두 Intel Tuber 개발자 클라우드에서 교육을 받아 인텔 AI 포트폴리오의 성능과 확장성. 이 소프트웨어 에코시스템은 MLPerf의 GPT-3 175B 매개변수 모델 내에서 이러한 가속기의 성능을 미세 조정하는 데 사용되었습니다.</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p></td></tr></tbody></table><p style="line-height: 2;"></p></div><div style="text-align: center; "><img src="https://img2.quasarzone.com/editor/2024/06/13/b3453695e34f2d6e17f4c0573d0180a5.jpg" alt="퀘이사존"><span><br></span></div><div style="text-align: center; "><br></div><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Intel은 이러한 새로운 벤치마크를 통해 자사의 Gaudi 2 가속기가 700억 개, 최대 1,750억 개의 매개변수로 LLM을 훈련할 수 있는 확장 가능하고 저렴하며 접근 가능한 GenAI 및 AI 컴퓨팅 솔루션임을 입증했으며 차세대 Gaudi 3 가속기는 다음과 같다고 밝혔습니다. 개방형 소프트웨어 제품군을 지원하면서 성능이 한 단계 더 발전할 것입니다.
<span style="font-size: 12pt;"></span></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Intel은 최신 MLPerf v4.0 벤치마크를 통해 이것이 TTT(Time-To-Train) 66.9분 만에 175B 실행을 완료한 NVIDIA의 H100에 대한 AI 컴퓨팅의 유일한 벤치마킹 대안임을 다시 한 번 입증했습니다. 뿐만 아니라 LoRa(하급 어댑터)를 사용하여 미세 조정된 새로운 Llama 2 70B 모델에서 인텔은 단 8개의 Gaudi 2 가속기에서 78.1분의 TTT를 달성했습니다.</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>Intel Gaudi 2 MLPerf 결과는 투명성을 입증합니다. MLPerf 결과는 Gaudi 2가 Nvidia H100에 대한 AI 컴퓨팅을 위한 유일한 MLPerf 벤치마킹 대안임을 보여줍니다. Tiber 개발자 클라우드에서 교육을 받은 Intel의 GPT-3 결과는 1,024개의 Gaudi 가속기로 구성된 AI 시스템에서 TTT(훈련 시간) 66.9분으로 개발자 클라우드 환경 내 초대형 LLM에서 강력한 Gaudi 2 확장 성능을 입증합니다.
</i></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>
</i></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>벤치마크 제품군에는 낮은 등급 어댑터(LoRa)를 사용하여 Llama 2 70B 매개변수 모델을 미세 조정하는 새로운 측정 기능이 포함되었습니다. LLM 미세 조정은 많은 고객과 AI 실무자가 공통적으로 수행하는 작업이므로 일상적인 애플리케이션에 대한 관련 벤치마크가 됩니다.
</i></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>
</i></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><i>Intel의 제출은 8개의 Gaudi 2 가속기에서 78.1분의 훈련 시간을 달성했습니다. Intel은 제출을 위해 Optimum Habana의 오픈 소스 소프트웨어를 활용했으며 DeepSpeed의 Zero-3을 활용하여 대규모 모델 훈련 중에 메모리 효율성과 확장성을 최적화했으며 Flash-Attention-2를 활용하여 주의 메커니즘을 가속화했습니다. Intel의 Habana Labs와 Hugging Face의 엔지니어링 팀이 이끄는 벤치마크 태스크 포스는 참조 코드와 벤치마크 규칙을 담당합니다.</i></p></td></tr></tbody></table><p style="line-height: 2;"></p></div><div style="text-align: center; "><br></div><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Intel이 강조한 Gaudi 2 가속기의 주요 판매 포인트는 가격입니다. Intel은 Computex에서 8개의 가속기와 UBB(Universal Baseboard)를 갖춘 Gaudi 2 AI 시스템을 경쟁 솔루션 비용의 1/3에 해당하는 65,000달러에 구입할 수 있다고 발표했습니다. 뿐만 아니라 유사한 구성의 Intel Gaudi 3 키트는 125,000달러에 구입할 수 있습니다 .
<span style="font-size: 12pt;"></span></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p></td></tr></tbody></table><p style="line-height: 2;"></p></div><div style="text-align: center; "><img src="https://img2.quasarzone.com/editor/2024/06/13/acb930e1a7606407de2fcaf829d7074a.jpg" alt="퀘이사존"></div><div style="text-align: center; "><br></div><div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    Gaudi 3 가속기는 NVIDIA의 H100보다 빠르면서 AI 시장에 진출할 때 H200 솔루션에 비해 경쟁력이 매우 높을 것으로 예상됩니다. Gaudi 시스템의 높은 가치로 인해 여러 고객이 NVIDIA의 제품보다 이 시스템을 선택하게 되었으며 그 중 일부는 다음과 같습니다.
<span style="font-size: 12pt;"></span></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"> > 한국의 클라우드 서비스 제공업체이자 6억 명 이상의 사용자를 대상으로 하는 선도적인 검색 엔진 인 네이버는 새로운 AI 생태계를 구축하고 고객의 개발 비용과 프로젝트 일정을 단축하여 광범위한 LLM 도입을 가능하게 하는 장벽을 낮추고 있습니다.
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"> > 스웨덴 정부와 민간 기업 간의 동맹인 AI 스웨덴은 Gaudi를 활용하여 영역별 지방 자치 콘텐츠를 미세 조정하여 운영 효율성을 개선하고 스웨덴 구성원을 위한 공공 서비스를 강화합니다.
</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px">    다음 공개 MLPerf 벤치마크를 위해 Intel은 다가오는 추론 벤치마크에서 Gaudi 3 가속기 에 대한 결과를 게시할 것이라고 확인했습니다 . 이러한 AI 가속기는 2024년 가을까지 OEM을 통해 일반적으로 제공될 예정입니다.</p><p align="justify" style="text-align: justify; line-height: 2;min-height: 30px"><br></p></td></tr></tbody></table><p style="line-height: 2;"></p></div><div style="text-align: center; "><br></div><div style="text-align: center;"><i style="background-color: initial; color: rgb(255, 153, 0);">※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.</i></div><div style="text-align: center;"><i style="background-color: initial; color: rgb(255, 153, 0);"><br></i></div><div style="text-align: center;">
</div>

QM달려

행성: QM

포인트: 414,203 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 4개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.8k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
2	언더그라운드 네트워크, 미국 제재에도 불구하고 엔비디아 AI GPU 중국으로 밀수 3 업계동향 블랙웰 461 07-03
1	RISC-V 칩은 시스템 전원을 끄지 않고 RAM 스틱을 교체할 수 있도록 지원합니다 9 CPU/MB/RAM 블랙웰 1.3k 07-03
4	최신 Intel CPU, 새로운 "Indirector" 공격에 취약 9 CPU/MB/RAM 블랙웰 2k 07-03
1	인간 줄기세포로 만든 뇌 탑재한 로봇 나왔다 4 기타/주변기기 빌보 758 07-03
15	벤큐, 새로운 MOBIUZ EX321UX 4K Mini LED 게이밍 모니터 공식 발표 17 디스플레이 Wormhole 1.9k 07-03
0	미국에서 탄생: Prusa는 이제 델라웨어에서 3D 프린터와 필라멘트를 생산합니다 기타/주변기기 블랙웰 415 07-03
3	OpenAI가 중국 시장을 포기한 후 중국 현지 기업들이 AI 공백을 메우기 위해 서두르고 있습니다 6 소프트웨어 블랙웰 625 07-03
1	미국 정부, 새로운 프로그램으로 반도체 산업의 심각한 인력 부족 문제 해결 3 업계동향 블랙웰 413 07-03
25	RX 7600 한국 DIY 시장에서 가장 인기 있는 AMD GPU, 엔비디아는 89% 점유율 차지 39 그래픽카드 Wormhole 5.3k 07-03
4	HBM과 첨단 패키징, 실리콘 웨이퍼에 이점 제공 기대 4 업계동향 QM바나 865 07-03
0	윈본드, 2025년 좋은 한 해 기대, 메모리 시장 회복이 임박 업계동향 QM바나 315 07-03
0	키오시아, 최신 BiCS FLASH 기술을 탑재한 2TB QLC 플래시 메모리 출시 4 저장장치 QM제크 630 07-03
34	AMD Ryzen 8000G APU, 대규모 가격 인하: MSRP 대비 최대 34% 인하 55 CPU/MB/RAM Wormhole 9.4k 07-03
5	中서 성능 낮춘 엔비디아 AI 칩 수요 급증… “바이두·알리바바·텐센트, 화웨이 AI 칩 대신 선택” 5 업계동향 QM포시포시 1.4k 07-03
15	[루머]루나 레이크는 올해 소수 제품만 출시, 다수 제품은 2025년 출시 예정 25 CPU/MB/RAM QM포시포시 3.5k 07-03
3	접이식 마이크로 LED TV C Seed N1 출시: TV와 고급 가구를 결합 3 디스플레이 심심해❤️ 597 07-03
6	SilverStone, Air Nexus 120 ARGB Interlocking 팬 출시 7 쿨링솔루션 QM제크 542 07-03
10	샤쿤, OfficePal M25W Productivity 마우스 공개 10 키보드/마우스 QM락형 657 07-03
6	세계 최대 규모의 해저 에너지 상호연결망을 구축하기 위한 대담한 계획이 구체화되고 있다. 7 업계동향 QM달려 1.1k 07-03
9	스티브 발머의 순자산이 역사상 처음으로 빌 게이츠를 앞지르다 14 업계동향 QM달려 2.1k 07-03
2	Nocs Monolith, 휴대용 무선 스피커는 단일 알루미늄 덩어리로 조각되었다. 4 음향기기 QM달려 550 07-03
57	인텔 i9 K CPU는 퍼스트 디센던트에서 5분마다 크래시 발생 77 CPU/MB/RAM QM포시포시 14k 07-03
6	LG 디스플레이가 최신 OLED의 품질과 성능 면에서 삼성 디스플레이를 앞지르고 있을까? 8 업계동향 QM이라 7.2k 07-03
2	MSI MAG 32CQ6PF, 180Hz QHD 곡면 VA 디스플레이 탑재로 공개 3 디스플레이 QM안나 446 07-03
2	새로운 LG OLED evo M4 TV가 글로벌 출시를 시작했습니다. 4 디스플레이 QM안나 924 07-03
3	MSI, 산업용 라이트 박스 MS-C918 미니 PC 출시 6 기타/주변기기 QM브로리 1.4k 07-03
3	Acer SpatialLabs View Pro 27은 3,000달러의 가격으로 사전 주문 가능합니다. 5 디스플레이 QM이라 318 07-03
5	윈도우 11은 가상화를 통해 데이터를 보호하는 신 보안 응용 프로그램 '인클레이브'를 제공할 계획 3 소프트웨어 QM락형 938 07-03
4	넷플릭스가 기본 요금제 사용자를 새로운 요금제로 변경하도록 강요 3 업계동향 QM건빵 1.2k 07-03
3	인텔, 200시리즈 Optane 메모리 DIMM 생산 종료 예정 - 2025년 후반에 출하 종료 예정 5 업계동향 QM달려 1k 07-03