하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

AMD, 엔비디아와 경쟁하기 위해 120만 GPU AI 슈퍼컴퓨터 사용

QM달려

12 2944 7 2024.06.26 08:40

<img src="https://img2.quasarzone.com/editor/2024/06/26/14d1c15b52ebe60f809101ad2de85b74.webp" alt="퀘이사존"> <div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);">    데이터 센터에서 더 많은 컴퓨팅 성능에 대한 수요가 엄청난 속도로 증가하고 있으며, AMD는 무려 120만 개 이상의 GPU를 포함하는 단일 AI 클러스터를 구축하기 위한 진지한 문의를 받았다고 밝혔습니다 . AMD의 인정은 데이터 센터에서 AMD의 미래에 대해 AMD의 EVP이자 데이터 센터 솔루션 그룹의 GM인 Forrest Norrod와 함께 The Next Platform을

    오랫동안 논의한 데서 비롯되었습니다 . 가장 눈에 띄는 반응 중 하나는 누군가가 진지하게 고려하고 있는 가장 큰 AI 훈련 클러스터에 관한 것이었습니다. 회사가 120만 GPU 규모의 클러스터에 대한 문의를 접수했는지 묻는 질문에 Forrest는 평가가 사실상 정확하다고 답했습니다.

    Morgan: 누군가가 심각하게 생각하는 가장 큰 AI 훈련 클러스터는 무엇입니까? 이름을 언급할 필요가 없습니다. 누군가 당신에게 와서 MI500에 대해 120만 GPU 정도가 필요하다고 말한 적이 있습니까? 
    포레스트 노로드: 그 범위 안에 있다고요? 예.

    Morgan: “그 범위 안에 있다”고만 말할 수는 없습니다. 실제 가장 큰 숫자는 무엇입니까?

    Forrest Norrod: 정말 심각합니다. 그 범위에 속합니다.

    모건: 한 대의 기계로요.

    Forrest Norrod: 예, 저는 하나의 기계에 대해 이야기하고 있습니다.

    모건: 조금 마음이 흔들립니다. 아시죠?

    120만 개의 GPU는 터무니없는 숫자입니다(포레스트가 인터뷰 후반부에 농담을 하듯 놀랍습니다). AI 훈련 클러스터는 여러 서버 랙 이하에 걸쳐 고속 상호 연결을 통해 연결된 수천 개의 GPU로 구축되는 경우가 많습니다. 반면 120만 개의 GPU로 AI 클러스터를 만드는 것은 사실상 불가능해 보입니다.

    백만 개가 넘는 GPU를 갖춘 AI 클러스터를 구축하기 위해 누군가가 극복해야 할 함정은 상상할 수 있지만 대기 시간, 전력 및 하드웨어 오류의 불가피성은 즉시 떠오르는 몇 가지 요소입니다.

    AI 워크로드는 지연 시간, 특히 특정 데이터 전송이 다른 데이터 전송보다 훨씬 오래 걸리고 워크로드를 방해하는 꼬리 지연 시간 및 이상값에 매우 민감합니다. 또한 오늘날의 슈퍼컴퓨터는 규모에 따라 몇 시간마다 발생하는 GPU 또는 기타 하드웨어 오류를 완화해야 합니다. 이러한 문제는 현재 알려진 가장 큰 클러스터 크기의 30배로 확장할 때 훨씬 더 두드러집니다. 그리고 그것은 그러한 대담한 목표에 필요한 원자력 발전소 규모의 전력 공급을 다루기도 전입니다.

    세계에서 가장 강력한 슈퍼컴퓨터라도 수백만 개의 GPU로 확장할 수는 없습니다. 예를 들어, 현재 가장 빠르게 작동하는 슈퍼컴퓨터인 Frontier에는 "유일하게" 37,888개의 GPU가 있습니다.

    백만 개의 GPU 클러스터 목표는 2020년대를 형성하고 있는 AI 경쟁의 심각성을 말해줍니다. 가능성의 영역이라면 AI 처리 능력이 더 높아진다면 누군가는 시도할 것이다. 포레스트는 어떤 조직이 이 규모의 시스템 구축을 고려하고 있는지 밝히지 않았지만 "매우 냉정한 사람들"이 AI 훈련 클러스터에 수백억에서 수천억 달러를 지출하는 것을 고려하고 있다고 언급했습니다. 모두). </td></tr></tbody></table></div><div style="text-align: center; "></div><div style="text-align: center; "> </div><div style="text-align: center; ">※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다. </div><div style="text-align: center;"> </div><div style="text-align: center;">
</div>

QM달려

행성: QM

포인트: 413,850 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 12개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.8k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
8	중국 최대 칩 개발사 X-Epic, 대규모 프로젝트 완료 후 인력을 절반으로 감축 9 업계동향 QM달려 1.1k 07-12
5	Dangbei Atom Google TV Mini 레이저 프로젝터 5 기타/주변기기 QM달려 513 07-12
11	13세대 및 14세대 인텔 CPU 불안정성, W680 서버에서 Core i9 K 시리즈 칩 충돌 12 CPU/MB/RAM 겔싱어曰인텔은리콜 3.1k 07-12
18	Ryzen 9 6900HX APU와 7인치 4K 내장 디스플레이를 탑재한 미니 PC 등장 23 업계동향 QM달려 3.8k 07-12
12	주문 몰린 TSMC 3나노, 내년 단가 ↑…삼성 미래 걸린 '엑시노스' 양산 28 업계동향 빌보 3.1k 07-12
4	TSMC와 인텔, AI 시대를 선도하기 위해 2025년 자본 지출 확대 6 업계동향 QM바나 690 07-12
10	마이크론 HBM 불량 이슈, 사실은..."성능 우수" vs "수율 불안" 엇갈려 13 업계동향 QM포시포시 1.9k 07-12
2	소프트뱅크 그룹, 차세대 AI 컴퓨팅 구축을 위해 Graphcore 인수 2 업계동향 QM제크 445 07-12
3	ARM, 인상적인 성능을 갖춘 AMD FSR 2 기반 'ASR' 초해상도 업스케일러 공개 3 소프트웨어 QM지름 1.7k 07-12
9	인텔 코어 울트라 200, 애로우 레이크는 10월 중~하순 출시한다 13 CPU/MB/RAM QM포시포시 2.6k 07-12
7	신형 Xgimi Horizon Ultra 프로젝터 이브 생 로랑 에디션 출시 10 기타/주변기기 심심해❤️ 839 07-12
42	애플 비전 프로 판매량은 재앙입니다 66 기타/주변기기 심심해❤️ 10k 07-12
2	일론 머스크, X 보이콧 배후자 광고주 고소 희망 2 업계동향 QM브로리 593 07-12
7	독일 법원, 'AI 생성 결과물 저작권 있다' 판결 9 업계동향 QM브로리 1.2k 07-12
4	CPU-Z 목록을 통해 공개된 Intel Arrow Lake-S 및 Lunar Lake SKU 출시 예정 7 CPU/MB/RAM QM달려 2k 07-12
8	AMD의 유리 기판 칩은 2025~2026년 사이에 출시될 것으로 알려짐: Intel 및 삼성은 2025년 이후 대량 생산 계획을 준비 15 CPU/MB/RAM QM지름 4.3k 07-12
3	기가바이트 G27QX / G27QA는 240Hz, 180Hz 27인치 QHD IPS 디스플레이로 공식 출시 2 디스플레이 QM안나 477 07-12
1	180Hz 31.5인치 곡면 VA 디스플레이 탑재 필립스 32M2C3500L 공개 2 디스플레이 QM이라 535 07-12
13	사운드 바를 배치하는 가장 좋은 위치에 대한 9가지 팁 15 음향기기 QM이라 2.2k 07-12
5	Acer & Chuwi, i5-12450H 탑재 E10 ETBox 미니 PC 출시 6 기타/주변기기 QM브로리 848 07-12
13	ASRock, B760 Pro RS WiFi 화이트 시리즈 메인보드 출시 예정 14 CPU/MB/RAM QM락형 919 07-12
11	식료품점이 AI 기술을 적용한 탄약 자판기를 도입 10 기타/주변기기 QM건빵 1.1k 07-12
2	샤쿤, SKILLER SGK36 무선 RGB 게이밍 키보드 출시 2 키보드/마우스 QM락형 415 07-12
5	파나텍의 차기 프로젝트: 포르쉐 비전 GT 스티어링 휠 7 기타/주변기기 QM건빵 628 07-12
5	Microsoft, 사이버 범죄자들이 1년 이상 악용한 Internet Explorer의 제로데이 취약점 수정 6 소프트웨어 QM달려 579 07-12
8	Geekbench에 루나 레이크 iGPU 벤치마크 유출, Radeon 780M & Arc A380과 비슷한 성능 13 CPU/MB/RAM QM달려 1.9k 07-12
5	Microsoft, Windows 11 부팅 루프를 유발하는 심각한 업데이트 버그 수정 4 소프트웨어 QM달려 5.8k 07-12
5	Alphacool, 코어 1 카본 CPU 워터블럭 시리즈 출시 7 쿨링솔루션 QM달려 541 07-12
1	샤프 NEC, MultiSync 27인치 엔터프라이즈 디스플레이 2종 출시 2 디스플레이 QM달려 198 07-12
3	Razer, 마우스 회전 및 동적 감도로 마우스 성능 향상 4 키보드/마우스 QM달려 791 07-12