하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

AMD, 엔비디아와 경쟁하기 위해 120만 GPU AI 슈퍼컴퓨터 사용

QM달려

12 2977 7 2024.06.26 08:40

<img src="https://img2.quasarzone.com/editor/2024/06/26/14d1c15b52ebe60f809101ad2de85b74.webp" alt="퀘이사존"> <div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);">    데이터 센터에서 더 많은 컴퓨팅 성능에 대한 수요가 엄청난 속도로 증가하고 있으며, AMD는 무려 120만 개 이상의 GPU를 포함하는 단일 AI 클러스터를 구축하기 위한 진지한 문의를 받았다고 밝혔습니다 . AMD의 인정은 데이터 센터에서 AMD의 미래에 대해 AMD의 EVP이자 데이터 센터 솔루션 그룹의 GM인 Forrest Norrod와 함께 The Next Platform을

    오랫동안 논의한 데서 비롯되었습니다 . 가장 눈에 띄는 반응 중 하나는 누군가가 진지하게 고려하고 있는 가장 큰 AI 훈련 클러스터에 관한 것이었습니다. 회사가 120만 GPU 규모의 클러스터에 대한 문의를 접수했는지 묻는 질문에 Forrest는 평가가 사실상 정확하다고 답했습니다.

    Morgan: 누군가가 심각하게 생각하는 가장 큰 AI 훈련 클러스터는 무엇입니까? 이름을 언급할 필요가 없습니다. 누군가 당신에게 와서 MI500에 대해 120만 GPU 정도가 필요하다고 말한 적이 있습니까? 
    포레스트 노로드: 그 범위 안에 있다고요? 예.

    Morgan: “그 범위 안에 있다”고만 말할 수는 없습니다. 실제 가장 큰 숫자는 무엇입니까?

    Forrest Norrod: 정말 심각합니다. 그 범위에 속합니다.

    모건: 한 대의 기계로요.

    Forrest Norrod: 예, 저는 하나의 기계에 대해 이야기하고 있습니다.

    모건: 조금 마음이 흔들립니다. 아시죠?

    120만 개의 GPU는 터무니없는 숫자입니다(포레스트가 인터뷰 후반부에 농담을 하듯 놀랍습니다). AI 훈련 클러스터는 여러 서버 랙 이하에 걸쳐 고속 상호 연결을 통해 연결된 수천 개의 GPU로 구축되는 경우가 많습니다. 반면 120만 개의 GPU로 AI 클러스터를 만드는 것은 사실상 불가능해 보입니다.

    백만 개가 넘는 GPU를 갖춘 AI 클러스터를 구축하기 위해 누군가가 극복해야 할 함정은 상상할 수 있지만 대기 시간, 전력 및 하드웨어 오류의 불가피성은 즉시 떠오르는 몇 가지 요소입니다.

    AI 워크로드는 지연 시간, 특히 특정 데이터 전송이 다른 데이터 전송보다 훨씬 오래 걸리고 워크로드를 방해하는 꼬리 지연 시간 및 이상값에 매우 민감합니다. 또한 오늘날의 슈퍼컴퓨터는 규모에 따라 몇 시간마다 발생하는 GPU 또는 기타 하드웨어 오류를 완화해야 합니다. 이러한 문제는 현재 알려진 가장 큰 클러스터 크기의 30배로 확장할 때 훨씬 더 두드러집니다. 그리고 그것은 그러한 대담한 목표에 필요한 원자력 발전소 규모의 전력 공급을 다루기도 전입니다.

    세계에서 가장 강력한 슈퍼컴퓨터라도 수백만 개의 GPU로 확장할 수는 없습니다. 예를 들어, 현재 가장 빠르게 작동하는 슈퍼컴퓨터인 Frontier에는 "유일하게" 37,888개의 GPU가 있습니다.

    백만 개의 GPU 클러스터 목표는 2020년대를 형성하고 있는 AI 경쟁의 심각성을 말해줍니다. 가능성의 영역이라면 AI 처리 능력이 더 높아진다면 누군가는 시도할 것이다. 포레스트는 어떤 조직이 이 규모의 시스템 구축을 고려하고 있는지 밝히지 않았지만 "매우 냉정한 사람들"이 AI 훈련 클러스터에 수백억에서 수천억 달러를 지출하는 것을 고려하고 있다고 언급했습니다. 모두). </td></tr></tbody></table></div><div style="text-align: center; "></div><div style="text-align: center; "> </div><div style="text-align: center; ">※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다. </div><div style="text-align: center;"> </div><div style="text-align: center;">
</div>

QM달려

행성: QM

포인트: 416,635 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 12개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
8	레이저 Aether 시리즈: 게임룸용 조명 장치 출시 8 기타/주변기기 QM락형 1.4k 07-22
9	엔비디아, 중국용 신규 플래그쉽 AI 칩, B20 개발 중 17 그래픽카드 QM포시포시 1.8k 07-22
4	KEF 사운드 오브 서머 세일 2024가 시작되었습니다 7 음향기기 심심해❤️ 1k 07-22
4	삼성전기, AMD와 하이퍼스케일 데이터센터용 고성능 기판 공급 협력 3 업계동향 QM포시포시 1.9k 07-22
9	ASUS, 주요 Armoury Crate 업데이트로 ROG Ally 및 Ally X 한 단계 업그레이드 11 기타/주변기기 심심해❤️ 1.8k 07-22
8	듀얼모드 WOLED 디스플레이를 탑재한 Asus ROG Swift OLED PG32UCDP 출시 10 디스플레이 QM이라 1.3k 07-22
30	아야네오 레트로 보조 배터리 12,000mAh 출시 36 기타/주변기기 QM브로리 2.1k 07-22
4	7.1.4 vs 5.1.2 사운드 시스템의 장 단점 및 선택 가이드 7 음향기기 심심해❤️ 1k 07-22
5	소켓형 CPU 노트북과 하이엔드 MXM 그래픽은 역사 속으로 사라져 가고 있다. 9 노트북 QM달려 1.4k 07-22
5	이웃을 괴롭히지 않고 영화 사운드를 즐기는 방법은 다음과 같습니다 4 음향기기 심심해❤️ 2.3k 07-22
5	엔비디아의 중국용 H20 GPU가 곧 미국의 제재를 받을 수 있습니다 6 그래픽카드 블랙웰 2.3k 07-22
4	MSI Z790M MPOWER 메인보드, Patriot Xtreme 5 MPower D5 메모리 8600MT/s로 높이다 4 CPU/MB/RAM QM달려 6.1k 07-22
5	마이크로소프트, 크라우드스트라이크 복구 툴 출시 3 소프트웨어 블랙웰 1.1k 07-22
11	중국의 신형 드론, 태양이 비추는 한 계속 비행 가능 20 기타/주변기기 블랙웰 3.3k 07-22
0	인텔 제온, W9-3575X 44 코어 '340W' / W7-2595X 26 코어 '250W' CPU 벤치마크 2 CPU/MB/RAM QM달려 1.1k 07-22
3	엔비디아, 라스베이거스 스피어 구동 시스템 공개: 150개의 RTX A6000 GPU 사용 3 그래픽카드 심심해❤️ 814 07-22
4	여름철 찜통주방 걱정 끝…떡볶이·볶음밥 만드는 '인덕션 조리로봇' 5 기타/주변기기 블랙웰 662 07-22
2	일상을 바꿀 AI 개인화 핵심 ‘AI PC’…초기 경험이 미래 바꾼다 3 기타/주변기기 블랙웰 353 07-22
3	미국, 새로운 중국 지향 GPU를 금지하면 엔비디아 최대 120억 달러 매출 손실을 입을 수 있다. 4 업계동향 QM달려 708 07-22
3	차세대 뇌 이식을 위해 설계된 그래핀 칩에 대한 첫 수술이 예정됨 3 업계동향 QM달려 437 07-22
1	'러시아의 구글'이 러시아에서 철수. Yandex는 Nvidia GPU 배포를 3배로 늘릴 계획 2 업계동향 QM달려 508 07-22
5	GMKtec, 베이퍼 챔버 및 OCuLink 탑재 라이젠 기반 미니 PC 출시 예정 4 기타/주변기기 QM오즈 7.3k 07-22
7	윈도PC 850만대 전세계 동시다발 먹통…수십조 줄소송 사태 오나 5 업계동향 빌보 1.9k 07-22
35	프랑스 소매점에서 AMD Ryzen 9000 시리즈 CPU 등록 37 CPU/MB/RAM Wormhole 9.2k 07-22
10	Xikii, 중국에서 522달러에 Asus ProArt FF04 10리터 케이스 출시 19 케이스 Wormhole 2.7k 07-22
19	Microsoft: CrowdStrike 중단으로 전 세계 850만 대의 Windows PC가 영향을 받음 18 업계동향 신지™ 3.8k 07-21
14	삼성전자 노사, 23일 임금교섭 재개 60 업계동향 빌보 3k 07-21
3	네이버·카카오, 올해 2분기 장사 잘했다..."AI 모멘텀은 절실" 4 업계동향 빌보 878 07-21
18	AI 반도체 휘젓는 큰 손…손정의·올트먼 '탈 엔비디아' 선언 왜 36 업계동향 QM포시포시 4.1k 07-21
22	화웨이, 미디어텍을 특허 침해 혐의로 고소 36 업계동향 QM포시포시 2.1k 07-21