하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

인텔, 현재 세대 제온 칩이 차세대 EPYC Turin보다 AI에서 더 빠르다는 결과를 공유

블랙웰

19 2870 6 2024.06.14 01:08

<img src="https://img2.quasarzone.com/editor/2024/06/14/fe78af0c6d9142c326b7702cd773500a.png" alt="퀘이사존"> AI 불꽃 전쟁이 가열되고 있습니다.
 인텔은 AMD가 최근 컴퓨텍스 기조연설에서 공개한 AI 벤치마크에서 AMD의 EPYC Turin이 AI 워크로드에서 인텔의 제온 칩보다 5.4배 빠르다고 주장한 것에 대해 반박하고 있습니다. 인텔은 오늘 블로그를 통해 자체 벤치마크에서 현재 세대 제온 프로세서의 성능을 강조하며 현재 출시 중인 5세대 제온 칩이 2024년 하반기에 출시될 예정인 AMD의 3nm EPYC Turin 프로세서보다 더 빠르다고 주장했습니다. 인텔은 AMD의 벤치마크가 제온의 성능을 '부정확하게 표현'한 것이라며 자체 벤치마크를 공개해 AMD의 주장에 반박했습니다.
 항상 그렇듯이 공급업체가 제공하는 벤치마크 결과는 신중하게 접근하고 테스트 구성에 세심한 주의를 기울여야 합니다. 위의 앨범에 인텔의 테스트 노트가 포함되어 있습니다.
 AMD의 벤치마크는 제온에 비해 다양한 이점을 보여주었지만, Llama2-7B 챗봇 결과는 128코어 Turin이 인텔의 64코어 제온 8592+에 비해 5.4배의 이점을 보여주며 가장 극단적인 승리를 강조했습니다.
 인텔은 AMD가 벤치마크에 사용한 소프트웨어의 세부 사항이나 테스트에 필요한 SLA를 공유하지 않았으며, 사용된 배치 크기의 목록도 찾을 수 없다고 말합니다. 그럼에도 불구하고 인텔은 AMD의 결과가 널리 사용 가능한 오픈 소스 소프트웨어(Intel 확장 기능이 있는 PyTorch)를 사용한 자체 내부 벤치마킹 결과와 일치하지 않는다고 말합니다. 인텔은 벤치마크에 "엄격한" 50ms P99 지연 시간 제약 조건을 가정하고 동일한 INT4 데이터 유형을 사용했습니다.
 인텔의 내부 결과는 AMD의 벤치마크보다 5.4배 더 빠르므로 현재 출시 중인 64코어 제온이 향후 출시될 128코어 모델보다 우위에 있으며, 이는 매우 인상적인 주장입니다.
 이 벤치마크가 실제 성능을 나타내는 것이라면, 여기서 가장 큰 차이는 인텔의 AMX(고급 매트릭스 확장) 매트릭스 수학 확장에 대한 지원일 가능성이 높습니다. 이러한 수학 기능은 AI 워크로드에서 성능을 엄청나게 향상시키지만, AMD가 인텔의 칩을 테스트할 때 AMX를 사용했는지 여부는 확실하지 않습니다. 특히 AMX는 BF16/INT8을 지원하므로 소프트웨어 엔진은 일반적으로 INT4 가중치를 더 큰 데이터 유형으로 변환하여 AMX 엔진을 통해 구동합니다. AMD의 현재 세대 칩은 네이티브 매트릭스 수학 연산을 지원하지 않으며, Turin도 지원할지 여부는 확실하지 않습니다. <img src="https://img2.quasarzone.com/editor/2024/06/14/026f04c84d3e237dc8e1659f4e44795e.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/24ab0889a4822bffba9cded19d754beb.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/848f6d4adb9e390289bd48c64b45b60e.png" alt="퀘이사존"> AMD의 컴퓨텍스 벤치마크에서도 Turin은 요약 및 번역 워크로드에서 5세대 제온에 비해 각각 3.9배 및 2.5배의 우위를 차지하며 승리했습니다. 다시 말하지만, 인텔은 AMD가 제온 8592+로 달성한 결과보다 2.3배 및 1.2배 더 높은 결과를 보여 주며 차이를 보였습니다.
 인텔은 이 차트에서 AMD의 토리노 주장과 벤치마크 결과를 일치시키지 않았습니다(위의 앨범에 AMD의 주장도 포함시켰습니다). 대신 AMD의 출시 96코어 EPYC 9754 프로세서와 비교하기로 했으며, 해당 칩 대비 상대적인 성능 향상을 백분율로 표시했습니다. AMD의 테스트 노트에는 요약 및 번역 워크로드에 어떤 모델을 사용했는지 명시되어 있지 않으므로 이러한 워크로드에서 Turin과의 상대적 성능을 계산하는 것은 불가능해 보입니다. 그러나 이러한 벤치마크에서 Turin이 여전히 1위를 차지할 것으로 보이지만 근소한 차이로 앞서는 것으로 보입니다.
 특히 인텔은 자사의 마지막 세대 제온조차도 AMD의 현재 세대 EPYC 제노아보다 빠르다고 주장하며, 최신 5세대 칩이 제노아보다 최대 2.5배 빠르다고 주장합니다.
 인텔의 블로그는 최신 Granite Rapids 제온 6 칩이 8개의 메모리 채널에서 12개로 이동하는 부산물로 여기에 사용되는 현재 세대 칩보다 최대 2.3배의 메모리 대역폭을 지원하고 대역폭을 향상시키는 MCR DIMM을 지원하므로 곧 출시될 칩의 성능이 더 향상될 것으로 기대한다고 지적합니다. 특히 인텔은 AMD의 분자 역학 워크로드에서 투린이 3.1배 빠르다는 주장에 대한 반박을 제공하지 않았습니다.
 인텔과 AMD가 CPU에서 실행되는 AI 워크로드에서 선두 자리를 놓고 경쟁하면서 AI 벤치마크 전쟁이 뜨거워지고 있습니다. 두 회사가 최신 칩을 출시함에 따라 벤치마크 경쟁은 더욱 치열해질 것으로 예상됩니다. 인텔의 반박에 대한 의견을 듣기 위해 AMD에 연락을 취했으며, 답변이 오면 다시 알려드리겠습니다.

블랙웰

행성: 은하

포인트: 659,002 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 19개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.3k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
2	AMD, NPU가 없는 Ryzen 7 8745H/HS "Zen 4" APU 출시 3 CPU/MB/RAM Wormhole 1.5k 07-25
58	언리얼 엔진 수퍼바이저, 14900K/13900K 50% 오류율 공개, "안정성" 위해 AMD로 변경 67 CPU/MB/RAM Wormhole 15.4k 07-25
1	Loongson, 인텔 아이스 레이크 10nm 성능에 도달한 차세대 서버 CPU 테이프 아웃: 3C6000 16코어 및 최대 64코어 3 CPU/MB/RAM QM락형 1.1k 07-25
11	6GHz 오버클럭 AMD Ryzen 9 9950X CPU 긱벤치 발견 34 CPU/MB/RAM Wormhole 4.6k 07-25
7	컬러풀, CVN Z790D5 ARK Frozen 메인보드 발표 10 CPU/MB/RAM Wormhole 913 07-25
4	인텔 코어 울트라 5 236V 루나 레이크 CPU 긱벤치 등장 6 CPU/MB/RAM Wormhole 2k 07-25
5	AMD, Strix Point의 Radeon 890M RDNA 3.5 iGPU에 대한 자세한 정보 공개 7 CPU/MB/RAM QM달려 2.1k 07-25
2	AMD Strix Point SoC, 듀얼 CCX CPU 다시 도입, 기타 흥미로운 실리콘 세부 정보 공개 4 CPU/MB/RAM QM달려 1.6k 07-25
2	AMD EPYC 9755 128코어 ‘Zen 5’ CPU가 CPU-z 벤치마크 유출에서 108,000점을 기록 CPU/MB/RAM QM지름 1.9k 07-25
20	애로우레이크 CPU는 250W에서 14900K보다 최대 18% 빠릅니다 27 CPU/MB/RAM 블랙웰 4.6k 07-25
34	AMD, 불특정 품질 문제로 인해 Ryzen 9000 출시 연기 54 CPU/MB/RAM 블랙웰 9.4k 07-25
8	리뷰어들이 여전히 AMD Ryzen 9000 CPU 샘플을 기다리는 중 9 CPU/MB/RAM Wormhole 3.1k 07-24
21	인텔 Core Ultra 9 285K 벤치마크 유출, 시네벤치 43,000점 77 CPU/MB/RAM QM포시포시 6.3k 07-24
0	AMD, Zen 5 마이크로아키텍처 및 SoC 레이아웃에 대한 세부 정보 공개 CPU/MB/RAM Wormhole 1.6k 07-24
8	AMD Ryzen 9000 데스크탑 CPU 가격, 새로운 소매 목록에서 발견 13 CPU/MB/RAM Wormhole 4.3k 07-24
5	AMD, 55 TOPS NPU 탑재 세계에서 가장 강력한 AI SOC Ryzen AI 9 HX 375 공개 3 CPU/MB/RAM Wormhole 1.6k 07-24
45	인텔이 말하지 않은 불안정 이슈 조사 내용...근본 원인은 여전히 조사 중 54 CPU/MB/RAM QM포시포시 5.5k 07-24
30	인텔 13/14세대 이슈의 근본 원인은 여전히 불명확하다 35 CPU/MB/RAM QM포시포시 5k 07-24
6	AMD EPYC 9755 CPU 발견: 128개 코어, 256개 스레드, 최대 4.1GHz 클럭 및 650MB 캐시 6 CPU/MB/RAM QM달려 1.6k 07-24
9	[1보] "삼성전자, 엔비디아 HBM3E 테스트 아직 통과 못해"(로이터) 19 CPU/MB/RAM GPU 3.1k 07-24
6	ModelFarm, Unreal Engine Supervisor는 Intel CPU로 50% 고장률을 기록했다. 9 CPU/MB/RAM QM달려 991 07-24
4	[루머] 인텔 코어 울트라 9 285K 애로우 레이크 ES 샘플 CPU-Z 스크린샷 등장 14 CPU/MB/RAM Wormhole 3.1k 07-24
0	[넥스트 HBM]②메모리 한계 넘는 'PIM' CPU/MB/RAM 블랙웰 884 07-24
2	AMD, EPYC 프로세서가 엔비디아의 Grace CPU 슈퍼칩보다 최대 2배 빠르다고 밝힘 4 CPU/MB/RAM 블랙웰 1.9k 07-23
37	유튜버에 의해 유출된 AMD 9900X CPU 초기 게임 테스트, 7800X3D보다 약간 뒤처짐 94 CPU/MB/RAM Wormhole 17.9k 07-23
8	루머)AMD의 가장 빠른 새로운 노트북 칩,싱글 코어 성능에서 애플 M3 맥스를 능가 17 CPU/MB/RAM 스퀴니 3.3k 07-23
6	KAIST 신승원 교수 연구팀, 애플 새로운 M 시리즈 프로세스 프리패칭 취약점 공개 6 CPU/MB/RAM 큰돌 1.8k 07-23
25	인텔, 2025년 P코어 전용 "Bartlett" LGA1700 프로세서 출시 계획 76 CPU/MB/RAM user_854318 5.7k 07-23
3	ASUS, AMD EPYC 4004로 구동되는 완전히 새로운 서버급 하드웨어 발표 3 CPU/MB/RAM QM달려 979 07-23
15	Zen 아버지, AMD 'Mike Clark' 인터뷰 - 3nm Zen 5가 빠르게 다가오고 있다고 말했다 18 CPU/MB/RAM QM달려 3.6k 07-23