하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

중국 AI 회사들은 GPU 부족을 해결하기 위해 개별 AI 서버에 서로 다른 GPU를 혼합하여 사용

블랙웰

3 554 1 2024.07.04 21:26

<img src="https://img2.quasarzone.com/editor/2024/07/04/1f577bd0e2ffe0e95213e1f207ab18c4.png" alt="퀘이사존"> 여러 개의 GPU로 AI 데이터 센터를 운영할 수 있을까요?
 중국 AI 기업들이 AI 기능을 개선하기 위해 멀티칩 하이브리드 접근 방식을 구현하고 있다고 DigiTimes Asia가 보도했습니다. 멀티칩 접근 방식은 몇 가지 장점도 제공합니다. 여기에는 멀티 GPU 병렬 학습을 사용하여 LLM 학습 속도를 높이고, 더 많은 데이터를 동시에 처리하여 메모리 활용도를 높이며, 값비싼 Nvidia 칩에만 의존하지 않음으로써 비용을 절감할 수 있다는 점이 포함됩니다. 중국 기술 기업들은 고급 하드웨어에 대한 접근을 제한하는 미국의 제재를 피하기 위해 AI 훈련에 필요한 여러 공급업체의 GPU를 번들로 묶어 사용하고 있습니다. 백악관이 2024년 화웨이의 수출 라이선스 8건을 취소하는 등 미국산 기술의 중국 진출을 막기 위한 적극적인 조치를 취하면서, 동아시아 국가에서는 고급 AI 처리에 필요한 데이터센터 GPU 수급이 더욱 복잡해지고 있습니다. 현지 반도체 회사들이 시장 격차를 메우기 위해 노력하고 있지만, 화웨이의 어센드 AI 프로세서는 중국에서 쉽게 구할 수 있는 유일한 실행 가능한 AI 칩입니다. 그러나 화웨이는 어센드 910B의 칩 수율에 문제가 있는 것으로 알려졌으며, 이는 칩의 가격이 더 비싸고 생산에 더 오래 걸릴 수 있다는 것을 의미합니다. 미중 칩 전쟁 이후 중국의 GPU 상황은 매우 악화되어 이미 엔비디아의 AI GPU를 중심으로 한 지하 밀수 네트워크가 형성되어 있습니다. 그럼에도 불구하고 이러한 암시장 Nvidia 카드의 공급이 제한적이고 가격이 비싸기 때문에 기술 기업들은 화웨이와 같은 현지 칩이나 이전 세대 GPU와 같은 비공인 공급으로 미국 GPU 공급을 보완할 방법을 찾아야 합니다. 이를 위해 중국 기업들은 다양한 칩을 하나의 트레이닝 클러스터에 결합하는 '멀티칩 하이브리드' 기술을 개발하기 시작했습니다. 예를 들어, 바이두는 2024년 실적 발표에서 다양한 공급업체의 GPU를 결합하여 AI 학습에 사용할 수 있다고 발표했습니다. 중국의 또 다른 주요 기술 기업인 알리바바는 2021년부터 '하나의 클라우드, 여러 개의 칩' 솔루션을 개발해 왔습니다. 단일 AI 서버에서 서로 다른 GPU를 사용하려면 서로 다른 가속기가 효율적으로 통신할 수 있도록 Nvidia의 NVLink와 같은 고속 패브릭이 필요한 등 여러 가지 문제가 있습니다. 하지만 알리바바 클라우드가 이더넷 기반의 고성능 네트워크를 도입하는 등 중국 기술 기업들도 이러한 방식으로 혁신을 추진하고 있습니다. 중국에 대한 백악관의 제재는 중국의 AI 개발을 심각하게 제한하고 있습니다. 하지만 그렇다고 해서 중국의 발전이 멈춘다는 의미는 아닙니다. 많은 전문가들은 중국이 몇 가지 중요한 기술적 측면에서 미국보다 10년 이상 뒤처져 있다고 말하지만, 중국은 여전히 전진할 것이며 기술 기업들은 지정학적 장애에도 불구하고 번영할 방법을 찾으려고 노력할 것입니다.

블랙웰

행성: 은하

포인트: 614,304 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 3개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.5k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
3	올 여름 홈 시어터를 업그레이드하는 9가지 저렴한 방법 3 음향기기 QM이라 2.6k 07-15
16	엔비디아, TSMC에 AI 칩 '블랙웰' 주문량 25% 확대 16 업계동향 빌보 2.9k 07-15
7	세계 최초의 미스 AI 콘테스트, 미인 기준 대한 반발에 직면 12 업계동향 QM브로리 2.3k 07-15
0	SAP, 매니페스토(OSM) 발표에 오픈소스 커뮤니티 반응은 회의적 업계동향 QM브로리 266 07-15
3	OpenAI는 안전 문제로 어려움을 겪고 있습니다. 3 업계동향 QM안나 796 07-15
30	게임 스튜디오, 서버 업체가 AMD로 전환 촉구, 인텔이 결함 있는 CPU 판매 한다 주장 38 CPU/MB/RAM 심심해❤️ 6.6k 07-15
6	스페이스X는 발사 결함으로 인해 20개의 스타링크 위성을 잃을 것으로 예상 2 업계동향 QM건빵 1.4k 07-15
5	AT&T, 해커에게 도난당한 전화 기록을 삭제하는 대가로 37만 달러 지급 2 기타/주변기기 QM건빵 588 07-15
4	에이서 니트로 VG240YU, 24인치 QHD 180Hz 출시 5 디스플레이 QM브로리 269 07-15
5	MSI 신형 SSD 타워, 스파티움 M580 FROZR 각종 벤치, 성능 등 전체 테스트 공개 11 저장장치 심심해❤️ 813 07-15
7	미니프로카, 터치스크린 탑재 미니 PC 공개 7 기타/주변기기 QM브로리 2.1k 07-15
7	Sapphire, Radeon RX 7800 XT Once Human Edition 출시 8 그래픽카드 QM달려 923 07-15
7	AMD Radeon RX 7900 XT가 처음으로 649달러로 하락 6 그래픽카드 QM달려 1.2k 07-15
6	Seasonic, 출시되지 않은 AMD Radeon RX 7000 GPU 나열: 7990 XTX, 7950 XTX, 7950 XT 7 업계동향 QM달려 1.5k 07-15
0	Dell, 'PowerEdge' AI 서버에서 AMD의 최첨단 Instinct MI300X AI 가속기 제공 2 업계동향 QM달려 409 07-15
3	인텔, Arrow Lake 'Core Ultra 200' 데스크탑 CPU QS 샘플 8월 초 출시, 10월 출시 예정 6 CPU/MB/RAM QM달려 1.1k 07-15
2	"오픈AI, 2027년부터 원전 에너지로 AI 구동" 6 업계동향 블랙웰 699 07-15
2	"학습 관리·오답풀이 걱정 끝"...학원가에 부는 AI 교육 바람 3 소프트웨어 블랙웰 491 07-15
2	연구팀은 3년 이내에 DNA 하드 드라이브를 개발할 예정 5 저장장치 블랙웰 3.5k 07-15
1	구글 제미니 AI, 구글 드라이브에 호스팅된 PDF 파일을 무단으로 스캔하다 적발 2 소프트웨어 블랙웰 1.1k 07-15
1	화웨이, 상하이에 2,600에이커 규모의 R&D 센터 공식 오픈 2 업계동향 블랙웰 195 07-15
1	구글과 마이크로소프트는 일부 국가보다 더 많은 전력을 소비합니다 2 업계동향 블랙웰 706 07-15
32	라이젠 9 7950X3D, 역대 최저 가격 기록 24 CPU/MB/RAM 블랙웰 12.9k 07-15
41	[루머] 시소닉 파워 용량 계산기에서 엔비디아 RTX 50 그래픽카드 TDP 발견 77 그래픽카드 Wormhole 13.5k 07-15
6	“오픈AI가 ‘인류에 위험’ 입막음” 미 규제당국에 내부고발 11 업계동향 빌보 1.9k 07-14
57	AMD Ryzen 9 7900X3D CPU 309달러로 하락 76 CPU/MB/RAM Wormhole 12k 07-14
9	JEDEC, HBM4 사양 마무리로 이동: 16-Hi TSV 스택에서 최대 32Gb 밀도, 6.4Gbps 속도 7 CPU/MB/RAM 신지™ 1.8k 07-14
21	AI 기상예보 모델 '터닝포인트' 도달했다…'눈부신 발전' 27 업계동향 빌보 5.2k 07-14
57	무제한 PPT 모드에서 테스트된 AMD 9950X: 320W 전력, 올코어 5.5GHz 클럭 이상 81 CPU/MB/RAM Wormhole 10.2k 07-14
9	美, 생성형 AI '무단 학습' 철퇴…강력 규제법 만든다 15 업계동향 빌보 2.1k 07-13