하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

인텔, 현재 세대 제온 칩이 차세대 EPYC Turin보다 AI에서 더 빠르다는 결과를 공유

블랙웰

19 2654 6 2024.06.14 01:08

<img src="https://img2.quasarzone.com/editor/2024/06/14/fe78af0c6d9142c326b7702cd773500a.png" alt="퀘이사존"> AI 불꽃 전쟁이 가열되고 있습니다.
 인텔은 AMD가 최근 컴퓨텍스 기조연설에서 공개한 AI 벤치마크에서 AMD의 EPYC Turin이 AI 워크로드에서 인텔의 제온 칩보다 5.4배 빠르다고 주장한 것에 대해 반박하고 있습니다. 인텔은 오늘 블로그를 통해 자체 벤치마크에서 현재 세대 제온 프로세서의 성능을 강조하며 현재 출시 중인 5세대 제온 칩이 2024년 하반기에 출시될 예정인 AMD의 3nm EPYC Turin 프로세서보다 더 빠르다고 주장했습니다. 인텔은 AMD의 벤치마크가 제온의 성능을 '부정확하게 표현'한 것이라며 자체 벤치마크를 공개해 AMD의 주장에 반박했습니다.
 항상 그렇듯이 공급업체가 제공하는 벤치마크 결과는 신중하게 접근하고 테스트 구성에 세심한 주의를 기울여야 합니다. 위의 앨범에 인텔의 테스트 노트가 포함되어 있습니다.
 AMD의 벤치마크는 제온에 비해 다양한 이점을 보여주었지만, Llama2-7B 챗봇 결과는 128코어 Turin이 인텔의 64코어 제온 8592+에 비해 5.4배의 이점을 보여주며 가장 극단적인 승리를 강조했습니다.
 인텔은 AMD가 벤치마크에 사용한 소프트웨어의 세부 사항이나 테스트에 필요한 SLA를 공유하지 않았으며, 사용된 배치 크기의 목록도 찾을 수 없다고 말합니다. 그럼에도 불구하고 인텔은 AMD의 결과가 널리 사용 가능한 오픈 소스 소프트웨어(Intel 확장 기능이 있는 PyTorch)를 사용한 자체 내부 벤치마킹 결과와 일치하지 않는다고 말합니다. 인텔은 벤치마크에 "엄격한" 50ms P99 지연 시간 제약 조건을 가정하고 동일한 INT4 데이터 유형을 사용했습니다.
 인텔의 내부 결과는 AMD의 벤치마크보다 5.4배 더 빠르므로 현재 출시 중인 64코어 제온이 향후 출시될 128코어 모델보다 우위에 있으며, 이는 매우 인상적인 주장입니다.
 이 벤치마크가 실제 성능을 나타내는 것이라면, 여기서 가장 큰 차이는 인텔의 AMX(고급 매트릭스 확장) 매트릭스 수학 확장에 대한 지원일 가능성이 높습니다. 이러한 수학 기능은 AI 워크로드에서 성능을 엄청나게 향상시키지만, AMD가 인텔의 칩을 테스트할 때 AMX를 사용했는지 여부는 확실하지 않습니다. 특히 AMX는 BF16/INT8을 지원하므로 소프트웨어 엔진은 일반적으로 INT4 가중치를 더 큰 데이터 유형으로 변환하여 AMX 엔진을 통해 구동합니다. AMD의 현재 세대 칩은 네이티브 매트릭스 수학 연산을 지원하지 않으며, Turin도 지원할지 여부는 확실하지 않습니다. <img src="https://img2.quasarzone.com/editor/2024/06/14/026f04c84d3e237dc8e1659f4e44795e.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/24ab0889a4822bffba9cded19d754beb.png" alt="퀘이사존"><img src="https://img2.quasarzone.com/editor/2024/06/14/848f6d4adb9e390289bd48c64b45b60e.png" alt="퀘이사존"> AMD의 컴퓨텍스 벤치마크에서도 Turin은 요약 및 번역 워크로드에서 5세대 제온에 비해 각각 3.9배 및 2.5배의 우위를 차지하며 승리했습니다. 다시 말하지만, 인텔은 AMD가 제온 8592+로 달성한 결과보다 2.3배 및 1.2배 더 높은 결과를 보여 주며 차이를 보였습니다.
 인텔은 이 차트에서 AMD의 토리노 주장과 벤치마크 결과를 일치시키지 않았습니다(위의 앨범에 AMD의 주장도 포함시켰습니다). 대신 AMD의 출시 96코어 EPYC 9754 프로세서와 비교하기로 했으며, 해당 칩 대비 상대적인 성능 향상을 백분율로 표시했습니다. AMD의 테스트 노트에는 요약 및 번역 워크로드에 어떤 모델을 사용했는지 명시되어 있지 않으므로 이러한 워크로드에서 Turin과의 상대적 성능을 계산하는 것은 불가능해 보입니다. 그러나 이러한 벤치마크에서 Turin이 여전히 1위를 차지할 것으로 보이지만 근소한 차이로 앞서는 것으로 보입니다.
 특히 인텔은 자사의 마지막 세대 제온조차도 AMD의 현재 세대 EPYC 제노아보다 빠르다고 주장하며, 최신 5세대 칩이 제노아보다 최대 2.5배 빠르다고 주장합니다.
 인텔의 블로그는 최신 Granite Rapids 제온 6 칩이 8개의 메모리 채널에서 12개로 이동하는 부산물로 여기에 사용되는 현재 세대 칩보다 최대 2.3배의 메모리 대역폭을 지원하고 대역폭을 향상시키는 MCR DIMM을 지원하므로 곧 출시될 칩의 성능이 더 향상될 것으로 기대한다고 지적합니다. 특히 인텔은 AMD의 분자 역학 워크로드에서 투린이 3.1배 빠르다는 주장에 대한 반박을 제공하지 않았습니다.
 인텔과 AMD가 CPU에서 실행되는 AI 워크로드에서 선두 자리를 놓고 경쟁하면서 AI 벤치마크 전쟁이 뜨거워지고 있습니다. 두 회사가 최신 칩을 출시함에 따라 벤치마크 경쟁은 더욱 치열해질 것으로 예상됩니다. 인텔의 반박에 대한 의견을 듣기 위해 AMD에 연락을 취했으며, 답변이 오면 다시 알려드리겠습니다.

블랙웰

행성: 은하

포인트: 628,052 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 19개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.7k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
34	AMD Ryzen 8000G APU, 대규모 가격 인하: MSRP 대비 최대 34% 인하 55 CPU/MB/RAM Wormhole 9.3k 07-03
5	中서 성능 낮춘 엔비디아 AI 칩 수요 급증… “바이두·알리바바·텐센트, 화웨이 AI 칩 대신 선택” 5 업계동향 QM포시포시 1.4k 07-03
15	[루머]루나 레이크는 올해 소수 제품만 출시, 다수 제품은 2025년 출시 예정 25 CPU/MB/RAM QM포시포시 3.5k 07-03
3	접이식 마이크로 LED TV C Seed N1 출시: TV와 고급 가구를 결합 3 디스플레이 심심해❤️ 577 07-03
6	SilverStone, Air Nexus 120 ARGB Interlocking 팬 출시 7 쿨링솔루션 QM제크 511 07-03
10	샤쿤, OfficePal M25W Productivity 마우스 공개 10 키보드/마우스 QM락형 647 07-03
6	세계 최대 규모의 해저 에너지 상호연결망을 구축하기 위한 대담한 계획이 구체화되고 있다. 7 업계동향 QM달려 1.1k 07-03
9	스티브 발머의 순자산이 역사상 처음으로 빌 게이츠를 앞지르다 14 업계동향 QM달려 2k 07-03
2	Nocs Monolith, 휴대용 무선 스피커는 단일 알루미늄 덩어리로 조각되었다. 4 음향기기 QM달려 526 07-03
57	인텔 i9 K CPU는 퍼스트 디센던트에서 5분마다 크래시 발생 77 CPU/MB/RAM QM포시포시 13.9k 07-03
6	LG 디스플레이가 최신 OLED의 품질과 성능 면에서 삼성 디스플레이를 앞지르고 있을까? 8 업계동향 QM이라 7.2k 07-03
2	MSI MAG 32CQ6PF, 180Hz QHD 곡면 VA 디스플레이 탑재로 공개 3 디스플레이 QM안나 421 07-03
2	새로운 LG OLED evo M4 TV가 글로벌 출시를 시작했습니다. 4 디스플레이 QM안나 894 07-03
3	MSI, 산업용 라이트 박스 MS-C918 미니 PC 출시 6 기타/주변기기 QM브로리 1.4k 07-03
3	Acer SpatialLabs View Pro 27은 3,000달러의 가격으로 사전 주문 가능합니다. 5 디스플레이 QM이라 308 07-03
5	윈도우 11은 가상화를 통해 데이터를 보호하는 신 보안 응용 프로그램 '인클레이브'를 제공할 계획 3 소프트웨어 QM락형 911 07-03
4	넷플릭스가 기본 요금제 사용자를 새로운 요금제로 변경하도록 강요 3 업계동향 QM건빵 1.1k 07-03
3	인텔, 200시리즈 Optane 메모리 DIMM 생산 종료 예정 - 2025년 후반에 출하 종료 예정 5 업계동향 QM달려 1k 07-03
2	미국 정부, 새로운 프로그램으로 반도체 산업의 심각한 인력 부족 해결 4 업계동향 QM달려 521 07-03
3	Skullcandy, 액티브 트루 와이어리스 이어버드 컬렉션 출시 4 음향기기 QM달려 266 07-03
19	LG, 2024그램 슈퍼슬림 노트북 발표 27 노트북 QM달려 4.2k 07-03
0	Sabrent, Rocket V60 microSDXC 메모리 카드 출시 저장장치 QM달려 217 07-03
0	Panmnesia, CXL 프로토콜을 사용하여 추가 DRAM 카드 또는 SSD로 GPU 메모리 확장 1 업계동향 QM달려 611 07-03
7	“마약·폭탄 제조법 다 알려주네”…범죄 악용될 질문에 걸려든 AI 10 업계동향 빌보 1.7k 07-03
5	국내 데이터센터 153곳···민간 매출규모 3.9조 9 기타/주변기기 블랙웰 852 07-03
8	삼성전자 노조, 총파업 앞두고 "생산 차질이 목적"…사측 압박 지속 43 업계동향 블랙웰 2k 07-03
5	중국, 뉴럴링크와 유사한 표준화된 뇌-컴퓨터 기술을 계획 6 업계동향 블랙웰 599 07-02
46	마이크로소프트, 윈도우 11의 날씨 앱을 재설계하면서 더 많은 광고 삽입 49 소프트웨어 Wormhole 6.6k 07-02
16	마이크로소프트 계정, 해커에 탈탈 털렸다…배후는? 26 업계동향 빌보 3.2k 07-02
34	Ryzen 9000 CPU, 향상된 오버클럭을 위한 커브 옵티마이저용 "커브 셰이퍼" 애드온 도입 25 CPU/MB/RAM Wormhole 6.9k 07-02