하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

인텔, 현재 세대 제온 칩이 차세대 EPYC Turin보다 AI에서 더 빠르다는 결과를 공유

블랙웰

19 2623 6 2024.06.14 01:08

<img src="https://img2.quasarzone.com/editor/2024/06/14/fe78af0c6d9142c326b7702cd773500a.png" alt="퀘이사존"> AI 불꽃 전쟁이 가열되고 있습니다.
 인텔은 AMD가 최근 컴퓨텍스 기조연설에서 공개한 AI 벤치마크에서 AMD의 EPYC Turin이 AI 워크로드에서 인텔의 제온 칩보다 5.4배 빠르다고 주장한 것에 대해 반박하고 있습니다. 인텔은 오늘 블로그를 통해 자체 벤치마크에서 현재 세대 제온 프로세서의 성능을 강조하며 현재 출시 중인 5세대 제온 칩이 2024년 하반기에 출시될 예정인 AMD의 3nm EPYC Turin 프로세서보다 더 빠르다고 주장했습니다. 인텔은 AMD의 벤치마크가 제온의 성능을 '부정확하게 표현'한 것이라며 자체 벤치마크를 공개해 AMD의 주장에 반박했습니다.
 항상 그렇듯이 공급업체가 제공하는 벤치마크 결과는 신중하게 접근하고 테스트 구성에 세심한 주의를 기울여야 합니다. 위의 앨범에 인텔의 테스트 노트가 포함되어 있습니다.
 AMD의 벤치마크는 제온에 비해 다양한 이점을 보여주었지만, Llama2-7B 챗봇 결과는 128코어 Turin이 인텔의 64코어 제온 8592+에 비해 5.4배의 이점을 보여주며 가장 극단적인 승리를 강조했습니다.
 인텔은 AMD가 벤치마크에 사용한 소프트웨어의 세부 사항이나 테스트에 필요한 SLA를 공유하지 않았으며, 사용된 배치 크기의 목록도 찾을 수 없다고 말합니다. 그럼에도 불구하고 인텔은 AMD의 결과가 널리 사용 가능한 오픈 소스 소프트웨어(Intel 확장 기능이 있는 PyTorch)를 사용한 자체 내부 벤치마킹 결과와 일치하지 않는다고 말합니다. 인텔은 벤치마크에 "엄격한" 50ms P99 지연 시간 제약 조건을 가정하고 동일한 INT4 데이터 유형을 사용했습니다.
 인텔의 내부 결과는 AMD의 벤치마크보다 5.4배 더 빠르므로 현재 출시 중인 64코어 제온이 향후 출시될 128코어 모델보다 우위에 있으며, 이는 매우 인상적인 주장입니다.
 이 벤치마크가 실제 성능을 나타내는 것이라면, 여기서 가장 큰 차이는 인텔의 AMX(고급 매트릭스 확장) 매트릭스 수학 확장에 대한 지원일 가능성이 높습니다. 이러한 수학 기능은 AI 워크로드에서 성능을 엄청나게 향상시키지만, AMD가 인텔의 칩을 테스트할 때 AMX를 사용했는지 여부는 확실하지 않습니다. 특히 AMX는 BF16/INT8을 지원하므로 소프트웨어 엔진은 일반적으로 INT4 가중치를 더 큰 데이터 유형으로 변환하여 AMX 엔진을 통해 구동합니다. AMD의 현재 세대 칩은 네이티브 매트릭스 수학 연산을 지원하지 않으며, Turin도 지원할지 여부는 확실하지 않습니다. <img src="https://img2.quasarzone.com/editor/2024/06/14/026f04c84d3e237dc8e1659f4e44795e.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/24ab0889a4822bffba9cded19d754beb.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/848f6d4adb9e390289bd48c64b45b60e.png" alt="퀘이사존"> AMD의 컴퓨텍스 벤치마크에서도 Turin은 요약 및 번역 워크로드에서 5세대 제온에 비해 각각 3.9배 및 2.5배의 우위를 차지하며 승리했습니다. 다시 말하지만, 인텔은 AMD가 제온 8592+로 달성한 결과보다 2.3배 및 1.2배 더 높은 결과를 보여 주며 차이를 보였습니다.
 인텔은 이 차트에서 AMD의 토리노 주장과 벤치마크 결과를 일치시키지 않았습니다(위의 앨범에 AMD의 주장도 포함시켰습니다). 대신 AMD의 출시 96코어 EPYC 9754 프로세서와 비교하기로 했으며, 해당 칩 대비 상대적인 성능 향상을 백분율로 표시했습니다. AMD의 테스트 노트에는 요약 및 번역 워크로드에 어떤 모델을 사용했는지 명시되어 있지 않으므로 이러한 워크로드에서 Turin과의 상대적 성능을 계산하는 것은 불가능해 보입니다. 그러나 이러한 벤치마크에서 Turin이 여전히 1위를 차지할 것으로 보이지만 근소한 차이로 앞서는 것으로 보입니다.
 특히 인텔은 자사의 마지막 세대 제온조차도 AMD의 현재 세대 EPYC 제노아보다 빠르다고 주장하며, 최신 5세대 칩이 제노아보다 최대 2.5배 빠르다고 주장합니다.
 인텔의 블로그는 최신 Granite Rapids 제온 6 칩이 8개의 메모리 채널에서 12개로 이동하는 부산물로 여기에 사용되는 현재 세대 칩보다 최대 2.3배의 메모리 대역폭을 지원하고 대역폭을 향상시키는 MCR DIMM을 지원하므로 곧 출시될 칩의 성능이 더 향상될 것으로 기대한다고 지적합니다. 특히 인텔은 AMD의 분자 역학 워크로드에서 투린이 3.1배 빠르다는 주장에 대한 반박을 제공하지 않았습니다.
 인텔과 AMD가 CPU에서 실행되는 AI 워크로드에서 선두 자리를 놓고 경쟁하면서 AI 벤치마크 전쟁이 뜨거워지고 있습니다. 두 회사가 최신 칩을 출시함에 따라 벤치마크 경쟁은 더욱 치열해질 것으로 예상됩니다. 인텔의 반박에 대한 의견을 듣기 위해 AMD에 연락을 취했으며, 답변이 오면 다시 알려드리겠습니다.

블랙웰

행성: 은하

포인트: 610,799 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 19개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.5k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
11	Surface Copilot+ PC 역대 최고의 수리성을 자랑합니다 11 노트북 블랙웰 2.9k 06-24
17	AMD Ryzen AI 9 HX 370 "Zen 5" APU 긱벤치 유출, 강력한 싱글 코어 성능 55 CPU/MB/RAM Wormhole 6.2k 06-24
25	SK하이닉스, 5단 3D DRAM 수율 56.1% 기록 37 CPU/MB/RAM Wormhole 5.1k 06-24
11	필립스, 세계 최초의 상업용 투명 OLED TV, 55BDL9151TO 출시 12 디스플레이 심심해❤️ 1.3k 06-24
8	AMD Ryzen AI 300 Pro 시리즈는 최대 128GB의 메모리를 장착할 수 있습니다 5 업계동향 QM제크 1.2k 06-24
4	첨단 홀로그래피와 회절을 위한 이중기능성 준결정 메타표면 연구가 공개되었습니다. 3 디스플레이 QM이라 409 06-24
3	에이서, AW620p 프로젝터 출시 4 기타/주변기기 QM브로리 563 06-24
32	인텔 루나 레이크 9월 중~하순 출시, 애로우 레이크는 10월 출시 40 CPU/MB/RAM QM포시포시 4k 06-24
1	삼성전기, 베트남 FC-BGA 공장 가동 개시…AI 반도체용 기판 양산 6 업계동향 QM포시포시 1k 06-24
3	삼성·SK, 후공정 업계와 장비공급 논의…D램·HBM 수혜 본격화 5 업계동향 QM포시포시 1.1k 06-24
33	삼성전자, 3나노 수율에 '올인'…"가격 올리는 TSMC 넘는다" 88 업계동향 빌보 6.1k 06-24
9	2025년 미니 LED TV 판매량, OLED TV 판매량 추월할 전망 14 디스플레이 심심해❤️ 1.3k 06-24
7	OLED 소재 시장, 부활할 듯 6 디스플레이 QM안나 3.1k 06-24
3	뷰소닉 XG2736-2K가 미국에서 판매됩니다. 27" QHD IPS 240Hz 4 디스플레이 QM안나 441 06-24
13	LG디스플레이, 업계 최초 노트북용 탠덤 OLED 양산 13 디스플레이 빌보 2.2k 06-24
3	스포티파이, 저렴한 '기본 개인' 요금제 추가, 하지만 주목할 만한 혜택은 제외 3 업계동향 QM건빵 902 06-24
30	AMD, 라이젠 7 7700 가격을 247달러로 인하하여 가장 저렴한 AM5 8코어 CPU 만들다 40 CPU/MB/RAM QM달려 4.7k 06-24
1	새로운 Phoenix UEFI 펌웨어 결함은 BlackLotus의 우려를 반영하여 수많은 Intel 칩을 위협 3 CPU/MB/RAM QM달려 753 06-24
2	마이크로소프트, Windows 및 Server 치명적인 Wi-Fi 결함을 수정하는 패치 출시 2 업계동향 QM달려 913 06-24
54	Intel i9-14900K/13900K CPU는 기본 전원 프로필을 사용해도 불안정: 게임에서 계속 충돌이 발생 65 CPU/MB/RAM QM지름 7.6k 06-24
6	AMD Ryzen 7 8840U/7840U는 게이밍에서 Snapdragon X Elite보다 ~2배 빠릅니다(동일 전력에서) 6 CPU/MB/RAM QM지름 2.6k 06-24
40	AMD Ryzen 9000 'Zen 5' 데스크탑 CPU 사양, 성능, 가격 및 가용성 - 지금까지 우리가 알고 있는 모든 것 49 CPU/MB/RAM QM지름 11.6k 06-24
4	Firefox 127 릴리스는 많은 비판에 직면해 있다. 6 업계동향 QM달려 828 06-24
4	Intel Arrow Lake-S, Arrow Lake-HX 24코어 및 Arrow Lake-H 16코어 CPU가 훨씬 더 높은 기본 클럭으로 발견 6 CPU/MB/RAM QM지름 1.8k 06-24
1	라이젠 AI PRO 300 'Strix Point' APU: 12코어 라이젠 AI 9 HX 및 라이젠 AI 7 SKU 발견 2 CPU/MB/RAM QM달려 670 06-24
5	공식 Windows 11 가이드에서 Microsoft 계정에서 로컬 계정으로의 전환 가이드 삭제 15 소프트웨어 블랙웰 4.2k 06-24
1	연구원들은 둘 이상의 의미를 가진 단어에서 발생하는 AI 환각 버그를 없애기를 희망합니다 2 소프트웨어 블랙웰 677 06-24
2	엔비디아, 제재에도 불구하고 중동 국가에 첨단 AI 프로세서 판매 4 업계동향 블랙웰 1.2k 06-24
3	"1분에 7대 이상 팔린다"...삼성 AI 에어컨 날개 5 기타/주변기기 블랙웰 2.3k 06-24
1	독일 설득 안 통했다…중국, EU 전기차 관세 보복 경고 2 업계동향 블랙웰 889 06-24