하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

인텔, 현재 세대 제온 칩이 차세대 EPYC Turin보다 AI에서 더 빠르다는 결과를 공유

블랙웰

19 2882 6 2024.06.14 01:08

<img src="https://img2.quasarzone.com/editor/2024/06/14/fe78af0c6d9142c326b7702cd773500a.png" alt="퀘이사존"> AI 불꽃 전쟁이 가열되고 있습니다.
 인텔은 AMD가 최근 컴퓨텍스 기조연설에서 공개한 AI 벤치마크에서 AMD의 EPYC Turin이 AI 워크로드에서 인텔의 제온 칩보다 5.4배 빠르다고 주장한 것에 대해 반박하고 있습니다. 인텔은 오늘 블로그를 통해 자체 벤치마크에서 현재 세대 제온 프로세서의 성능을 강조하며 현재 출시 중인 5세대 제온 칩이 2024년 하반기에 출시될 예정인 AMD의 3nm EPYC Turin 프로세서보다 더 빠르다고 주장했습니다. 인텔은 AMD의 벤치마크가 제온의 성능을 '부정확하게 표현'한 것이라며 자체 벤치마크를 공개해 AMD의 주장에 반박했습니다.
 항상 그렇듯이 공급업체가 제공하는 벤치마크 결과는 신중하게 접근하고 테스트 구성에 세심한 주의를 기울여야 합니다. 위의 앨범에 인텔의 테스트 노트가 포함되어 있습니다.
 AMD의 벤치마크는 제온에 비해 다양한 이점을 보여주었지만, Llama2-7B 챗봇 결과는 128코어 Turin이 인텔의 64코어 제온 8592+에 비해 5.4배의 이점을 보여주며 가장 극단적인 승리를 강조했습니다.
 인텔은 AMD가 벤치마크에 사용한 소프트웨어의 세부 사항이나 테스트에 필요한 SLA를 공유하지 않았으며, 사용된 배치 크기의 목록도 찾을 수 없다고 말합니다. 그럼에도 불구하고 인텔은 AMD의 결과가 널리 사용 가능한 오픈 소스 소프트웨어(Intel 확장 기능이 있는 PyTorch)를 사용한 자체 내부 벤치마킹 결과와 일치하지 않는다고 말합니다. 인텔은 벤치마크에 "엄격한" 50ms P99 지연 시간 제약 조건을 가정하고 동일한 INT4 데이터 유형을 사용했습니다.
 인텔의 내부 결과는 AMD의 벤치마크보다 5.4배 더 빠르므로 현재 출시 중인 64코어 제온이 향후 출시될 128코어 모델보다 우위에 있으며, 이는 매우 인상적인 주장입니다.
 이 벤치마크가 실제 성능을 나타내는 것이라면, 여기서 가장 큰 차이는 인텔의 AMX(고급 매트릭스 확장) 매트릭스 수학 확장에 대한 지원일 가능성이 높습니다. 이러한 수학 기능은 AI 워크로드에서 성능을 엄청나게 향상시키지만, AMD가 인텔의 칩을 테스트할 때 AMX를 사용했는지 여부는 확실하지 않습니다. 특히 AMX는 BF16/INT8을 지원하므로 소프트웨어 엔진은 일반적으로 INT4 가중치를 더 큰 데이터 유형으로 변환하여 AMX 엔진을 통해 구동합니다. AMD의 현재 세대 칩은 네이티브 매트릭스 수학 연산을 지원하지 않으며, Turin도 지원할지 여부는 확실하지 않습니다. <img src="https://img2.quasarzone.com/editor/2024/06/14/026f04c84d3e237dc8e1659f4e44795e.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/24ab0889a4822bffba9cded19d754beb.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/848f6d4adb9e390289bd48c64b45b60e.png" alt="퀘이사존"> AMD의 컴퓨텍스 벤치마크에서도 Turin은 요약 및 번역 워크로드에서 5세대 제온에 비해 각각 3.9배 및 2.5배의 우위를 차지하며 승리했습니다. 다시 말하지만, 인텔은 AMD가 제온 8592+로 달성한 결과보다 2.3배 및 1.2배 더 높은 결과를 보여 주며 차이를 보였습니다.
 인텔은 이 차트에서 AMD의 토리노 주장과 벤치마크 결과를 일치시키지 않았습니다(위의 앨범에 AMD의 주장도 포함시켰습니다). 대신 AMD의 출시 96코어 EPYC 9754 프로세서와 비교하기로 했으며, 해당 칩 대비 상대적인 성능 향상을 백분율로 표시했습니다. AMD의 테스트 노트에는 요약 및 번역 워크로드에 어떤 모델을 사용했는지 명시되어 있지 않으므로 이러한 워크로드에서 Turin과의 상대적 성능을 계산하는 것은 불가능해 보입니다. 그러나 이러한 벤치마크에서 Turin이 여전히 1위를 차지할 것으로 보이지만 근소한 차이로 앞서는 것으로 보입니다.
 특히 인텔은 자사의 마지막 세대 제온조차도 AMD의 현재 세대 EPYC 제노아보다 빠르다고 주장하며, 최신 5세대 칩이 제노아보다 최대 2.5배 빠르다고 주장합니다.
 인텔의 블로그는 최신 Granite Rapids 제온 6 칩이 8개의 메모리 채널에서 12개로 이동하는 부산물로 여기에 사용되는 현재 세대 칩보다 최대 2.3배의 메모리 대역폭을 지원하고 대역폭을 향상시키는 MCR DIMM을 지원하므로 곧 출시될 칩의 성능이 더 향상될 것으로 기대한다고 지적합니다. 특히 인텔은 AMD의 분자 역학 워크로드에서 투린이 3.1배 빠르다는 주장에 대한 반박을 제공하지 않았습니다.
 인텔과 AMD가 CPU에서 실행되는 AI 워크로드에서 선두 자리를 놓고 경쟁하면서 AI 벤치마크 전쟁이 뜨거워지고 있습니다. 두 회사가 최신 칩을 출시함에 따라 벤치마크 경쟁은 더욱 치열해질 것으로 예상됩니다. 인텔의 반박에 대한 의견을 듣기 위해 AMD에 연락을 취했으며, 답변이 오면 다시 알려드리겠습니다.

블랙웰

행성: 은하

포인트: 660,726 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 19개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.3k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
26	엔비디아 TITAN AI 그래픽 카드: 512비트 메모리 버스, RTX 4090보다 63% 빠름: 루머 50 그래픽카드 QM지름 10.5k 07-24
11	AMD RDNA 4 유출로 PC 및 PlayStation 5 Pro의 대규모 레이 트레이싱 업그레이드 예고 13 그래픽카드 QM지름 5.5k 07-24
0	레노버, 요가 포털 AI 3.7리터 미니 PC 해외 출시 - 14세대 인텔 데스크톱 CPU 탑재 2 기타/주변기기 QM락형 1k 07-24
0	Comcast, 파리 하계 올림픽을 위한 4K 스트리밍 강화 2 업계동향 QM안나 460 07-24
3	인텔, 파리 2024 올림픽에서 8K 방송을 지원 3 업계동향 QM안나 825 07-24
30	인텔 13/14세대 이슈의 근본 원인은 여전히 불명확하다 35 CPU/MB/RAM QM포시포시 5.2k 07-24
6	Moza Racing 새로운 Vision GS 스티어링 휠 출시 6 기타/주변기기 QM건빵 811 07-24
17	보안 회사, 재택 근무자가 북한 해커라는 사실 발견 15 기타/주변기기 QM건빵 10k 07-24
5	구글의 신형 셋톱박스, '구글 TV 스트리머' 공개: 크롬캐스트의 뒤를 잇는 제품 7 기타/주변기기 심심해❤️ 1.5k 07-24
6	AMD EPYC 9755 CPU 발견: 128개 코어, 256개 스레드, 최대 4.1GHz 클럭 및 650MB 캐시 6 CPU/MB/RAM QM달려 1.6k 07-24
4	Llama 3.1 모델은 모든 AMD 하드웨어에서 Day-0 지원을 받습니다. 3 업계동향 QM달려 1.5k 07-24
5	TP-Link & 월마트, 최초의 100달러 미만 Wi-Fi 7 라우터 출시 7 네트워크 블랙웰 980 07-24
9	[1보] "삼성전자, 엔비디아 HBM3E 테스트 아직 통과 못해"(로이터) 19 CPU/MB/RAM GPU 3.1k 07-24
3	AMD, 마우스 반응 시간을 측정하는 무료 프레임 지연 측정 툴 출시 1 소프트웨어 블랙웰 1k 07-24
2	HighPoint의 새로운 SSD 어댑터는 56GB/s에 달하며 2페타바이트의 데이터를 저장합니다 2 저장장치 블랙웰 554 07-24
6	ModelFarm, Unreal Engine Supervisor는 Intel CPU로 50% 고장률을 기록했다. 9 CPU/MB/RAM QM달려 1k 07-24
1	Seagate Technology, 회계연도 4분기 및 2024 회계연도 재무 결과 보고 2 업계동향 QM달려 352 07-24
0	AMPACS, MEMS 스피커를 기반으로 한 업계 최초의 양방향 오버이어 헤드폰 디자인 발표 음향기기 QM달려 352 07-24
5	JLab, JBuds Lux ANC 무선 헤드폰 출시 5 음향기기 QM달려 364 07-24
0	Sharp, 새로운 M 시리즈 표준 레이저 프로젝터 출시 기타/주변기기 QM달려 296 07-24
1	Sharkoon, OfficePal 콤보 어댑터 공개 2 기타/주변기기 QM달려 319 07-24
0	Micron, 9550 NVMe 데이터센터 SSD 출시 1 저장장치 QM달려 640 07-24
0	D-Link, G530 5G NR AX3000 Wi-Fi 6 라우터 출시 네트워크 QM오즈 481 07-24
3	구글의 32조원 제안 거절…위즈 "IPO 할 것" 3 업계동향 빌보 2k 07-24
3	삼성전자 노사, 파업 2주 만에 임금 교섭…합의점 못 찾아 4 업계동향 빌보 967 07-24
4	[루머] 인텔 코어 울트라 9 285K 애로우 레이크 ES 샘플 CPU-Z 스크린샷 등장 14 CPU/MB/RAM Wormhole 3.2k 07-24
0	[넥스트 HBM]②메모리 한계 넘는 'PIM' CPU/MB/RAM 블랙웰 908 07-24
3	구글, AI 활용해 정확성 높인 날씨 시뮬레이터 개발 4 소프트웨어 블랙웰 486 07-24
2	AMD, EPYC 프로세서가 엔비디아의 Grace CPU 슈퍼칩보다 최대 2배 빠르다고 밝힘 4 CPU/MB/RAM 블랙웰 1.9k 07-23
4	러시아로의 첨단 프로세서 출하량이 20% 감소 5 업계동향 블랙웰 496 07-23