하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

최신 AI GPU 한 대는 연간 최대 3.7MWh의 전력을 소비합니다

블랙웰

4 1482 3 2024.06.15 02:38

<img src="https://img2.quasarzone.com/editor/2024/06/15/3768db993e989563109f12d6b03c11ec.png" alt="퀘이사존"> 데이터 기반 미래를 위한 전기가 부족해지지는 않을까요?
 오늘날 AI 워크로드를 위한 가장 강력한 새로운 데이터센터 GPU는 각각 700와트까지 소비할 수 있습니다. 연간 사용률이 61%인 경우, 이는 GPU당 연간 약 3,740,520Wh 또는 3.74MWh에 해당하며, 특히 작년에만 판매된 총 GPU의 수를 축소하여 살펴보면 전력 가용성과 환경에 미치는 영향에 대한 우려를 불러일으킬 수 있습니다.
 엔비디아는 작년에 376만 개의 데이터센터 GPU를 판매하여 시장의 98%를 차지했습니다. 인텔, AMD 및 기타 업체의 나머지 2%를 더하면 2023년에는 3,836,000개 이상의 GPU가 데이터 서버에 공급될 것으로 예상됩니다.
 이 숫자에 작년 총 데이터센터 GPU 공급량을 곱하면 연간 14,348.63GWh의 전력이 사용된다는 계산이 나옵니다. 미국 가정의 평균 연간 전력 사용량은 10,791kWh이므로, 작년에 판매된 데이터센터 GPU는 130만 가구가 연간 사용하는 것과 동일한 양의 전력을 소비한다는 뜻입니다. 이를 주 차원에서 살펴보면, 캘리포니아 에너지 위원회는 2022년에 캘리포니아 주에서 203,257GWh를 생산했으며, 이는 데이터센터 GPU가 캘리포니아 주 연간 생산량의 약 7%를 소비한다는 것을 의미합니다.
 하지만 이는 데이터센터 GPU만을 대상으로 한 수치라는 점을 기억해야 합니다. 이 데이터에는 데이터센터가 제대로 작동하는 데 필요한 CPU, 냉각 시스템 및 기타 장비는 포함되지 않습니다. 예를 들어, 대부분의 RTX 4090은 최소 850와트 전원 공급 장치를 권장하며, 일부는 1,000와트 또는 1,200와트가 필요합니다. 최소 전력만 따져도 작년에 구축된 서버와 데이터센터에는 연간 25GWh 이상의 전력이 필요합니다. 이 수치에는 2022년 이후의 데이터 센터는 포함되지 않았으며, 올해 온라인에 접속할 수많은 데이터 센터를 고려하지 않은 수치입니다.
 업계 분석가들은 데이터센터 GPU 시장이 2028년까지 전년 대비 34.6% 성장할 것으로 예상하고 있으며, 이는 향후 몇 년 동안 더 많은 데이터센터 GPU가 공급될 것이라는 의미입니다. 또한, Nvidia의 차세대 AI GPU는 현재의 700와트 H100보다 더 많은 전력을 소비할 것으로 예상됩니다. 향후 몇 년간 데이터센터 컴퓨터의 전력 소비량이 유지되더라도(물론 유지되지는 않겠지만) 데이터센터의 전력 수요는 시장의 성장에 비례하여 증가할 것입니다.
 데이터센터의 전례 없는 증가로 인해 전력 인프라에 대한 우려가 커지고 있습니다. 실제로 미국 정부는 이러한 새로운 데이터센터가 전력망에 과도한 부담을 줄 수 있기 때문에 이미 기술 기업들과 AI 전력 수요에 대해 논의하고 있습니다. 메타의 창립자 마크 저커버그는 지난 10년간 전 세계 전력 생산량이 연간 2.5% 증가에 그쳤다는 Enerdata의 조사 결과를 언급하며 제한된 전력이 AI 성장을 제약할 것이라고 말하기도 했습니다.
 그럼에도 불구하고 기술 기업들도 이 문제를 외면하지 않습니다. 전통적으로 소프트웨어 회사인 Microsoft는 데이터 센터를 위한 소형 모듈형 원자로에 투자할 계획까지 세우고 있습니다. 이는 특히 엄청난 전력을 필요로 하는 1,000억 달러 규모의 AI 슈퍼컴퓨터를 구축하기 위해 OpenAI와 파트너십을 맺었기 때문에 더욱 중요합니다.
 데이터 중심 사회에서 AI의 부상은 컴퓨팅 요구 사항을 충족하기 위해 많은 전력이 필요하다는 것을 의미합니다. 또한 전기차와 같이 많은 전력을 필요로 하는 다른 미래 기술도 잊어서는 안 됩니다. 전력을 더 적게 소비하면서 동시에 더 많은 전력을 공급하는 칩(및 모터)을 개발하는 방법을 찾지 못한다면, 필요한 곳에 전력을 공급하기 위해 더 많은 전력 생산 시설을 추가하고 지원 인프라를 업그레이드해야 할 것입니다.

블랙웰

행성: 은하

포인트: 645,519 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 4개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
5	MSI 신형 SSD 타워, 스파티움 M580 FROZR 각종 벤치, 성능 등 전체 테스트 공개 11 저장장치 심심해❤️ 954 07-15
7	미니프로카, 터치스크린 탑재 미니 PC 공개 7 기타/주변기기 QM브로리 2.2k 07-15
7	Sapphire, Radeon RX 7800 XT Once Human Edition 출시 8 그래픽카드 QM달려 1.1k 07-15
7	AMD Radeon RX 7900 XT가 처음으로 649달러로 하락 6 그래픽카드 QM달려 1.4k 07-15
6	Seasonic, 출시되지 않은 AMD Radeon RX 7000 GPU 나열: 7990 XTX, 7950 XTX, 7950 XT 7 업계동향 QM달려 1.7k 07-15
0	Dell, 'PowerEdge' AI 서버에서 AMD의 최첨단 Instinct MI300X AI 가속기 제공 2 업계동향 QM달려 473 07-15
3	인텔, Arrow Lake 'Core Ultra 200' 데스크탑 CPU QS 샘플 8월 초 출시, 10월 출시 예정 6 CPU/MB/RAM QM달려 1.3k 07-15
2	"오픈AI, 2027년부터 원전 에너지로 AI 구동" 6 업계동향 블랙웰 827 07-15
2	"학습 관리·오답풀이 걱정 끝"...학원가에 부는 AI 교육 바람 3 소프트웨어 블랙웰 604 07-15
2	연구팀은 3년 이내에 DNA 하드 드라이브를 개발할 예정 5 저장장치 블랙웰 5.1k 07-15
1	구글 제미니 AI, 구글 드라이브에 호스팅된 PDF 파일을 무단으로 스캔하다 적발 2 소프트웨어 블랙웰 1.3k 07-15
1	화웨이, 상하이에 2,600에이커 규모의 R&D 센터 공식 오픈 2 업계동향 블랙웰 265 07-15
1	구글과 마이크로소프트는 일부 국가보다 더 많은 전력을 소비합니다 2 업계동향 블랙웰 772 07-15
34	라이젠 9 7950X3D, 역대 최저 가격 기록 24 CPU/MB/RAM 블랙웰 13.8k 07-15
44	[루머] 시소닉 파워 용량 계산기에서 엔비디아 RTX 50 그래픽카드 TDP 발견 86 그래픽카드 Wormhole 16.3k 07-15
6	“오픈AI가 ‘인류에 위험’ 입막음” 미 규제당국에 내부고발 11 업계동향 빌보 2k 07-14
57	AMD Ryzen 9 7900X3D CPU 309달러로 하락 76 CPU/MB/RAM Wormhole 12.6k 07-14
9	JEDEC, HBM4 사양 마무리로 이동: 16-Hi TSV 스택에서 최대 32Gb 밀도, 6.4Gbps 속도 7 CPU/MB/RAM 신지™ 2k 07-14
21	AI 기상예보 모델 '터닝포인트' 도달했다…'눈부신 발전' 27 업계동향 빌보 5.3k 07-14
57	무제한 PPT 모드에서 테스트된 AMD 9950X: 320W 전력, 올코어 5.5GHz 클럭 이상 81 CPU/MB/RAM Wormhole 10.8k 07-14
9	美, 생성형 AI '무단 학습' 철퇴…강력 규제법 만든다 15 업계동향 빌보 2.2k 07-13
55	Chrome은 가장 빠른 브라우저임이 입증되었지만 과연 최고일까요? 71 소프트웨어 QM지름 8.9k 07-13
4	4개의 타일을 특징으로 하는 Intel Arrow Lake CPU 아키텍처, CPU 타일에는 P 코어와 E 코어를 연결하는 일관된 패브릭이 포함 18 CPU/MB/RAM QM지름 2.3k 07-13
31	ASUS, RTX 4060 Dual V3 그래픽카드 출시 69 그래픽카드 Wormhole 5.7k 07-13
12	Intel CPU 로드맵 2024-2025: Lunar Lake, Arrow Lake, Arrow Lake 리프레시 및 Panther Lake 21 CPU/MB/RAM QM지름 3.4k 07-13
6	300번 이상 연속 발사 성공 스페이스X 팔콘 9 로켓 8년 만에 실패 3 업계동향 빌보 1.9k 07-13
3	NVIDIA, SK하이닉스, TSMC, 차세대 AI 표준을 위한 GPU 및 HBM4 개발 가속화를 위해 새로운 제휴 체결 8 업계동향 QM지름 2.1k 07-13
46	게임 개발사, 인텔이 결함이 있고 충돌이 잦은 CPU를 리콜해야 한다고 주장 52 업계동향 QM달려 6.5k 07-13
4	AMD Ryzen AI 9 HX 370, 긱벤치에서 모바일 CPU 역대 최고 점수 기록 15 CPU/MB/RAM Wormhole 3.7k 07-13
41	워프레임 크래시 현상, i9 CPU가 전체 사례 중 80% 차지 57 CPU/MB/RAM QM포시포시 6k 07-13