하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

인텔, 현재 세대 제온 칩이 차세대 EPYC Turin보다 AI에서 더 빠르다는 결과를 공유

블랙웰

19 2738 6 2024.06.14 01:08

<img src="https://img2.quasarzone.com/editor/2024/06/14/fe78af0c6d9142c326b7702cd773500a.png" alt="퀘이사존"> AI 불꽃 전쟁이 가열되고 있습니다.
 인텔은 AMD가 최근 컴퓨텍스 기조연설에서 공개한 AI 벤치마크에서 AMD의 EPYC Turin이 AI 워크로드에서 인텔의 제온 칩보다 5.4배 빠르다고 주장한 것에 대해 반박하고 있습니다. 인텔은 오늘 블로그를 통해 자체 벤치마크에서 현재 세대 제온 프로세서의 성능을 강조하며 현재 출시 중인 5세대 제온 칩이 2024년 하반기에 출시될 예정인 AMD의 3nm EPYC Turin 프로세서보다 더 빠르다고 주장했습니다. 인텔은 AMD의 벤치마크가 제온의 성능을 '부정확하게 표현'한 것이라며 자체 벤치마크를 공개해 AMD의 주장에 반박했습니다.
 항상 그렇듯이 공급업체가 제공하는 벤치마크 결과는 신중하게 접근하고 테스트 구성에 세심한 주의를 기울여야 합니다. 위의 앨범에 인텔의 테스트 노트가 포함되어 있습니다.
 AMD의 벤치마크는 제온에 비해 다양한 이점을 보여주었지만, Llama2-7B 챗봇 결과는 128코어 Turin이 인텔의 64코어 제온 8592+에 비해 5.4배의 이점을 보여주며 가장 극단적인 승리를 강조했습니다.
 인텔은 AMD가 벤치마크에 사용한 소프트웨어의 세부 사항이나 테스트에 필요한 SLA를 공유하지 않았으며, 사용된 배치 크기의 목록도 찾을 수 없다고 말합니다. 그럼에도 불구하고 인텔은 AMD의 결과가 널리 사용 가능한 오픈 소스 소프트웨어(Intel 확장 기능이 있는 PyTorch)를 사용한 자체 내부 벤치마킹 결과와 일치하지 않는다고 말합니다. 인텔은 벤치마크에 "엄격한" 50ms P99 지연 시간 제약 조건을 가정하고 동일한 INT4 데이터 유형을 사용했습니다.
 인텔의 내부 결과는 AMD의 벤치마크보다 5.4배 더 빠르므로 현재 출시 중인 64코어 제온이 향후 출시될 128코어 모델보다 우위에 있으며, 이는 매우 인상적인 주장입니다.
 이 벤치마크가 실제 성능을 나타내는 것이라면, 여기서 가장 큰 차이는 인텔의 AMX(고급 매트릭스 확장) 매트릭스 수학 확장에 대한 지원일 가능성이 높습니다. 이러한 수학 기능은 AI 워크로드에서 성능을 엄청나게 향상시키지만, AMD가 인텔의 칩을 테스트할 때 AMX를 사용했는지 여부는 확실하지 않습니다. 특히 AMX는 BF16/INT8을 지원하므로 소프트웨어 엔진은 일반적으로 INT4 가중치를 더 큰 데이터 유형으로 변환하여 AMX 엔진을 통해 구동합니다. AMD의 현재 세대 칩은 네이티브 매트릭스 수학 연산을 지원하지 않으며, Turin도 지원할지 여부는 확실하지 않습니다. <img src="https://img2.quasarzone.com/editor/2024/06/14/026f04c84d3e237dc8e1659f4e44795e.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/24ab0889a4822bffba9cded19d754beb.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/848f6d4adb9e390289bd48c64b45b60e.png" alt="퀘이사존"> AMD의 컴퓨텍스 벤치마크에서도 Turin은 요약 및 번역 워크로드에서 5세대 제온에 비해 각각 3.9배 및 2.5배의 우위를 차지하며 승리했습니다. 다시 말하지만, 인텔은 AMD가 제온 8592+로 달성한 결과보다 2.3배 및 1.2배 더 높은 결과를 보여 주며 차이를 보였습니다.
 인텔은 이 차트에서 AMD의 토리노 주장과 벤치마크 결과를 일치시키지 않았습니다(위의 앨범에 AMD의 주장도 포함시켰습니다). 대신 AMD의 출시 96코어 EPYC 9754 프로세서와 비교하기로 했으며, 해당 칩 대비 상대적인 성능 향상을 백분율로 표시했습니다. AMD의 테스트 노트에는 요약 및 번역 워크로드에 어떤 모델을 사용했는지 명시되어 있지 않으므로 이러한 워크로드에서 Turin과의 상대적 성능을 계산하는 것은 불가능해 보입니다. 그러나 이러한 벤치마크에서 Turin이 여전히 1위를 차지할 것으로 보이지만 근소한 차이로 앞서는 것으로 보입니다.
 특히 인텔은 자사의 마지막 세대 제온조차도 AMD의 현재 세대 EPYC 제노아보다 빠르다고 주장하며, 최신 5세대 칩이 제노아보다 최대 2.5배 빠르다고 주장합니다.
 인텔의 블로그는 최신 Granite Rapids 제온 6 칩이 8개의 메모리 채널에서 12개로 이동하는 부산물로 여기에 사용되는 현재 세대 칩보다 최대 2.3배의 메모리 대역폭을 지원하고 대역폭을 향상시키는 MCR DIMM을 지원하므로 곧 출시될 칩의 성능이 더 향상될 것으로 기대한다고 지적합니다. 특히 인텔은 AMD의 분자 역학 워크로드에서 투린이 3.1배 빠르다는 주장에 대한 반박을 제공하지 않았습니다.
 인텔과 AMD가 CPU에서 실행되는 AI 워크로드에서 선두 자리를 놓고 경쟁하면서 AI 벤치마크 전쟁이 뜨거워지고 있습니다. 두 회사가 최신 칩을 출시함에 따라 벤치마크 경쟁은 더욱 치열해질 것으로 예상됩니다. 인텔의 반박에 대한 의견을 듣기 위해 AMD에 연락을 취했으며, 답변이 오면 다시 알려드리겠습니다.

블랙웰

행성: 은하

포인트: 640,714 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 19개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.9k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
2	Silkland, 4피트 USB4 케이블 출시: 40Gbps 데이터 동기화, 240W 고속 충전 6 기타/주변기기 QM달려 410 07-09
4	Phanteks, NV5 MKII 미들타워 케이스 출시 8 케이스 QM달려 960 07-09
3	기가바이트, AM5 마더보드용 AGESA 1.2.0.0a BIOS 업데이트, Ryzen 9000 최적화 목표 2 CPU/MB/RAM QM달려 774 07-09
2	AMD, 브랜드 인지도에서 인텔 추월, NVIDIA, 단일 최대 브랜드 가치 성장으로 6위 차지 2 업계동향 QM달려 1.2k 07-09
32	'유튜브 뮤직 끼워팔았다'…공정위, 구글 제재 착수 77 기타/주변기기 빌보 8.8k 07-09
10	GPU, HBM 강타, 일본 칩 장비 판매량 상향 조정, 기록 경신 9 업계동향 QM바나 1.9k 07-08
19	기가바이트, 192mm 컴팩트한 Intel Arc A380 탑재 카드 발매 25 그래픽카드 QM달려 2.5k 07-08
67	[루머] AMD Ryzen 9 9900X 긱벤치 유출 77 CPU/MB/RAM Wormhole 15.2k 07-08
25	써멀라이트, PA140 WHITE 공랭 쿨러 출시 35 쿨링솔루션 QM달려 2.1k 07-08
3	AMD, Strix Halo FP11 패키지는 Intel LGA1700 크기와 일치, Phoenix보다 60% 더 크다. 7 CPU/MB/RAM QM달려 1.6k 07-08
2	AMD 전 레이 트레이싱 전문가, 퀄컴 DXR 팀 합류, GPU를 개선하기 위한 DX12.2 기능 개발 3 업계동향 QM달려 1.4k 07-08
5	TV 뒤쪽 앰비언트 라이트가 눈에 끼치는 영향의 장, 단점은 이렇습니다 18 기타/주변기기 심심해❤️ 1.6k 07-08
5	QNAP, 비용 효율적인 10 GbE 지원 TS-432X 및 TS-632X 타워형 NAS 출시 7 네트워크 QM락형 681 07-08
6	TSMC와 고객은 대만 거대 기업이 꾸준한 공급을 유지한다는 점을 고려하여 3nm 가격 인상에 동의 8 업계동향 QM지름 1.6k 07-08
14	KAIST 'AI 가속기'에 잇단 러브콜…"엔비디아 2배 성능" 27 업계동향 빌보 5.6k 07-08
4	클립쉬 플렉서스 서브 100 무선 서브우퍼 출시 4 음향기기 심심해❤️ 493 07-08
27	애로우 레이크는 i9 13900K 대비 싱글 3%/멀티 15% 향상...울트라 3는 메테오 리프레시 66 CPU/MB/RAM QM포시포시 7.2k 07-08
3	HP 727pm은 Thunderbolt 4를 탑재한 4K IPS 블랙 회의용 모니터입니다. 6 디스플레이 QM이라 697 07-08
4	AOC Q27G12ZE는 27인치 Fast IPS 디스플레이, QHD 해상도, 240Hz 재생률로 출시됩니다. 3 디스플레이 QM이라 498 07-08
5	기가바이트 M27UA, 160Hz 4K IPS 디스플레이 탑재 5 디스플레이 QM안나 577 07-08
2	nubia Red Magic Realm 32인치 QD-OLED 게이밍 모니터, 240Hz 곡면 디스플레이로 출시 3 디스플레이 QM안나 583 07-08
16	ATK, Z87 Pro 기계식 키보드 출시 20 키보드/마우스 QM브로리 2.9k 07-08
1	클라우드 제공업체, 기록적인 DDoS 공격 방어 2 기타/주변기기 QM건빵 1.7k 07-08
5	삼성 게이밍 모니터 ‘오디세이 OLED G8’, 포브스 등 해외 주요 매체서 잇따라 호평 8 디스플레이 빌보 1.3k 07-08
9	해커들이 올해 현재까지 13억 8천만 달러 상당의 암호화폐를 탈취 13 기타/주변기기 QM건빵 1.4k 07-08
2	베이어다이나믹, MMX 300 PRO 차세대 게이밍 헤드폰 사양 및 상세정보 4 음향기기 심심해❤️ 593 07-08
1	Intel Arrow Lake-S Core Ultra 3(Core i3)는 Raptor Lake 리프레시일 수 있습니다 3 CPU/MB/RAM QM지름 1.6k 07-08
2	beyerdynamic, MMX 300 Pro 게이밍 헤드셋 출시 3 음향기기 QM달려 2.7k 07-08
4	RTX 4060 및 RTX 4070 Super는 2024년 6월 스팀 게이머 중 가장 많이 팔린 GPU 5 그래픽카드 QM지름 1.7k 07-08
3	빅테크 기업은 AI 하드웨어 지출을 정당화하기 위해 연간 6000억 달러의 수익을 창출해야한다. 5 업계동향 QM달려 397 07-08