하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

새로운 기술을 통해 GPU가 PCIe 연결 메모리를 사용하여 용량을 확장할 수 있습니다

QM지름

4 2496 3 2024.07.05 14:37

<img src="https://img2.quasarzone.com/editor/2024/07/05/87d43ee6c60a28155e418aac1ca65a29.webp" alt="퀘이사존"> GPU는 AI 및 HPC 애플리케이션의 요구에 직면할 때 메모리 제한이 있습니다. 이 병목 현상을 해결할 수 있는 방법이 있지만 솔루션은 비용이 많이 들고 번거로울 수 있습니다. 이제 대한민국 대전에 본사를 둔 한 스타트업은 PCIe 연결 메모리를 사용하여 용량을 확장하는 새로운 접근 방식을 개발했습니다. 이 솔루션을 개발하려면 많은 기술 문제를 뛰어넘어야 했으며 앞으로는 여전히 과제가 남아 있습니다. 즉, AMD, Intel, Nvidia가 이 기술을 지원할 것인가? AI 및 HPC 애플리케이션을 위한 고급 데이터 세트에서 발생하는 메모리 요구 사항으로 인해 GPU에 내장된 메모리가 압도되는 경우가 많습니다. 해당 메모리를 확장한다는 것은 일반적으로 값비싼 고대역폭 메모리를 설치하는 것을 의미하며, 이로 인해 기존 GPU 아키텍처나 소프트웨어가 변경되는 경우가 많습니다. 이러한 병목 현상에 대한 한 가지 솔루션은 한국 KAIST 연구 기관의 지원을 받는 회사인 Panmnesia에서 제공하고 있습니다. Panmnesia는 GPU가 CXL(Compute Express Link) 인터페이스를 통해 시스템 메모리에 직접 액세스할 수 있는 새로운 기술을 도입했습니다. 기본적으로 GPU는 시스템 메모리를 자체 메모리의 확장으로 사용할 수 있습니다. CXL GPU 이미지라고 불리는 이 PCIe 장착 메모리는 기존 SSD보다 훨씬 빠른 두 자릿수 나노초 대기 시간을 갖는다고 회사는 말합니다. <img src="https://img2.quasarzone.com/editor/2024/07/05/c048dff132fb59d077039096ffa5c7c6.webp" alt="퀘이사존"> CXL은 PCIe 링크 위에서 작동하는 프로토콜이지만 이 기술은 ASIC 및 해당 하위 시스템에서 인식되어야 합니다. 즉, GPU에서 DRAM 및/또는 SSD 엔드포인트를 지원하는 CXL 로직 패브릭 및 하위 시스템이 없기 때문에 단순히 기술 스택에 CXL 컨트롤러를 추가할 수는 없습니다. 또한 GPU 캐시 및 메모리 하위 시스템은 AI나 HPC에 비해 속도가 느린 UVM(통합 가상 메모리)을 제외한 모든 확장을 인식하지 못합니다. Panmnesia의 테스트에서 UVM은 테스트된 모든 GPU 커널 중에서 최악의 성능을 보였습니다. 그러나 CXL은 로드/저장 명령을 통해 확장된 스토리지에 대한 직접 액세스를 제공하여 페이지 오류 및 페이지 수준에서 데이터 전송 중 호스트 런타임 개입으로 인한 오버헤드와 같은 UVM을 방해하는 문제를 제거했습니다. 이에 대응하여 Panmnesia가 개발한 것은 모든 주요 CXL 프로토콜을 지원하고 이를 통합 컨트롤러로 통합하는 일련의 하드웨어 계층입니다. CXL 3.1 호환 루트 컴플렉스에는 PCIe를 통해 외부 메모리를 지원하는 여러 루트 포트와 GPU의 시스템 버스에 연결하고 시스템 메모리를 관리하는 호스트 관리 장치 메모리 디코더가 있는 호스트 브리지가 있습니다. Panmnesia가 통제할 수 없는 또 다른 과제에 직면해 있습니다. 가장 큰 문제는 AMD와 Nvidia가 GPU에 CXL 지원을 추가해야 한다는 것입니다. 업계 관계자들이 GPU에 PCIe 연결 메모리를 사용하는 접근 방식을 선호하고 계속해서 자체 기술을 개발할 가능성이 있습니다. 하드웨어에 미치고 유저들을 사랑하는 남자, 퀘이사존 최고운영자 지름입니다.본 뉴스는 해외 매체의 단순 번역본으로 퀘이사존의 주관적인 견해가 포함되지 않았음을 밝혀드립니다.여러분들이 남겨 주신 소중한 댓글.. 진심으로 감사드립니다. 원문 출처 <a href="https://www.techspot.com/news/103670-new-technology-enables-gpus-use-pcie-attached-memory.html" target="_blank">techspot</a>

QM지름

행성: QM

포인트: 419,904 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 4개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.9k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
23	AI 모델 훈련 동안 실패 중 절반이 H100에서 발생...3시간에 한 번씩 실패 30 그래픽카드 QM포시포시 5.9k 07-28
20	인텔 코어 울트라 200K “애로우 레이크” CPU 클럭 공개: 울트라 9 285K 5.7GHz, 울트라 7 265K 5.5GHz, 울트라 5 245K 5.2GH... 47 CPU/MB/RAM user_854318 5.5k 07-28
12	네이버·카카오페이·페이코, 티메프 결제 취소·환불처리 나선다 15 업계동향 베놈 2.7k 07-28
44	AMD Ryzen 9 9900X 및 Ryzen 7 9700X CPU 시네벤치 점수 유출 72 CPU/MB/RAM Wormhole 8.3k 07-28
4	[종합] SK하이닉스, 반도체 슈퍼사이클 타고 HBM 고공비행 4 업계동향 블랙웰 1.3k 07-28
0	"구글 텃밭 차지할까"…오픈AI, 검색엔진 '서치GPT' 공개 소프트웨어 블랙웰 839 07-28
35	네이버는 28일 오전 10시부터 티몬·위메프 환불 처리 43 업계동향 빌보 6.4k 07-27
18	인텔 15세대 Core Ultra 7 265KF CPU 긱벤치 발견, 최대 5.5GHz 클럭 38 CPU/MB/RAM Wormhole 5.7k 07-27
6	AMD Zen 수석 설계자 마이크 클라크와의 동영상 인터뷰 6 CPU/MB/RAM user_854318 2.1k 07-27
19	'티몬·위메프' 집단 소송하면 돈 돌려받을까 38 업계동향 빌보 3.4k 07-27
29	VXE, MAD R 고성능 경량 마우스 출시: PAW3395/3950 센서, 36g 무게 46 키보드/마우스 QM포시포시 2.6k 07-27
61	인텔, 불안정성 문제로 인한 소비자 불만이 고조되는 가운데 14/13세 리콜 가능성 부인 85 CPU/MB/RAM Wormhole 8.5k 07-27
15	새로운 AMD 9600X 벤치마크 유출, ASUS는 9950X LN2 오버클럭으로 55000점 기록 14 CPU/MB/RAM Wormhole 5.6k 07-27
21	큐텐 물류자회사 큐익스프레스 "구영배, 최고경영자직 사임" 42 업계동향 Wormhole 6.2k 07-27
14	서멀 그리즐리, PhaseSheet PTM 서멀 패드 출시 16 쿨링솔루션 Wormhole 2k 07-27
25	게임 개발사에서 13세대 및 14세대 인텔 CPU에 대한 게임 내 충돌 경고 추가 25 CPU/MB/RAM Wormhole 4.7k 07-27
11	인텔 13세대 및 14세대 '랩터 레이크' 불안정성 문제: 알아야 할 모든 것 4 CPU/MB/RAM Wormhole 2.1k 07-27
2	Erying, 최대 24코어 Polestar HM770 "MoTD" 메인보드에 인텔 14세대 "HX" CPU 제공 3 CPU/MB/RAM Wormhole 3.8k 07-27
4	[루머] 엔비디아, 중국에 "미국 규정 준수" GB20 Blackwell AI 서버 제공 예정 6 기타/주변기기 Wormhole 1.3k 07-27
2	블랙웰 서버 캐비닛당 최대 3백만 달러를 청구할 수 있으며, 분석가들은 엔비디아의 수익이 2천억 달러가 넘을 것으로 예상하고 있음 2 기타/주변기기 Wormhole 707 07-27
1	라즈베리 파이 기반의 피케이드 맥스는 피모로니의 피케이드 제품군에 2인용 레트로 게임 제공 2 기타/주변기기 Wormhole 468 07-27
4	미국, 칩스법 보조금으로 칩 패키징 역량 강화: 앰코, 첨단 칩 패키징 시설에 6억 달러 지원 받아 5 업계동향 Wormhole 333 07-27
1	슈퍼컴퓨팅 아이콘은 중국이 세계에서 가장 빠른 슈퍼컴퓨터를 보유할 수 있다고 경고 2 업계동향 Wormhole 348 07-27
0	2022년에 손상된 보안 부팅 키가 200개 이상의 모델에서 여전히 사용되고 있으며, 추가로 300개 이상의 사용 키가 '신뢰하지 않음'으로 표시되어 있음 소프트웨어 Wormhole 562 07-27
5	저전력 장치를 위해 무선 및 Wi-Fi 신호에서 전력을 수확하는 배터리 없는 기술을 발견한 연구원들 3 업계동향 Wormhole 631 07-27
4	"AI로 로드킬 예방" 포스코DX, 환경부와 야생동물 보호 나선다 7 소프트웨어 블랙웰 488 07-27
2	'스마트농업법' 26일부터 시행…농업 SW '신바람' 4 업계동향 블랙웰 540 07-27
3	IT 대란, 리눅스도 장담 못한다…플레인비트가 내놓은 대응책은? 3 소프트웨어 빌보 1k 07-26
15	MSI, 8월 중순까지 새로운 마이크로코드 패치로 인텔 13/14세대 불안정성 문제 해결 예정 20 CPU/MB/RAM Wormhole 2.8k 07-26
21	애즈락, AMD Radeon RX 7900 패시브 시리즈 그래픽 카드 출시 25 그래픽카드 Wormhole 4.1k 07-26