
AI 팩토리는 계속해서 규모가 커지고 있다. GPU가 가득 들어찬 서버들이 늘어서 있는 환경에서는 막대한 양의 데이터를 주고받으면서도 속도가 떨어지거나 건물 내부의 온도가 과도하게 상승하지 않도록 해야 한다. 수년 동안 이러한 데이터를 전달하는 네트워크는 각 스위치 전면에 별도의 광 모듈을 꽂는 방식에 의존해 왔다. 이러한 모듈은 전기 신호를 빛으로 변환하고, 광섬유를 통해 빛을 전송한 다음 다시 전기 신호로 변환한다. 제대로 작동하기는 하지만 많은 전력을 소비하고 열을 발생시키며, 고장이 발생할 수 있는 지점을 추가한다.
NVIDIA의 Spectrum-X Ethernet Photonics는 경쟁 제품과 차별화되는 모습을 보여준다. 광 엔진이 이제 스위치 실리콘과 함께 하나의 구성으로 통합됐다. 빛의 생성과 변환이 각 패킷이 어디로 이동할지를 결정하는 칩 바로 옆에서 이루어지는 것이다. 그 결과 현대적인 AI 학습 및 추론 클러스터의 규모에 맞춰 설계된 더욱 깔끔하고 발열이 적으며 신뢰성도 높은 네트워크를 구현할 수 있다. 시스템의 중심에는 수백 개의 실리콘 포토닉스 엔진이 병렬로 탑재된 멀티칩 모듈이 있다. 각 엔진은 여러 개의 고속 레인을 처리하면서 스위치 ASIC의 전기 신호를 광 신호로 변환한다. 기존 설계보다 에너지 손실이 크게 줄어들며, 변환 과정이 실리콘과 매우 가까운 곳에서 이루어지기 때문에 전기 신호가 이동하는 경로 역시 상대적으로 짧다. 이를 통해 높은 신호 품질을 유지할 수 있으며, 기존에는 전기 저항과 발열을 해결하는 데 소모됐던 전력도 절약할 수 있다. 이제 이러한 기술은 실제 컴퓨팅 환경에 적용할 준비를 마쳤다.
레이저는 더 이상 각각의 트랜시버 내부에 배치되지 않는다. 대신 외부 레이저 소스 모듈을 별도의 안정적인 환경에 배치하고, 모든 광 엔진에 동시에 빛을 공급한다. 이러한 구조를 통해 기존 방식보다 레이저 수를 4분의 1 수준으로 줄일 수 있다. 레이저가 적어지면 전력 소비와 발열이 줄어들 뿐 아니라 시간이 지나면서 마모되거나 고장날 수 있는 부품도 감소한다. NVIDIA는 기존의 플러그형 광학 장치를 사용하는 네트워크와 비교했을 때 네트워크 전력 효율은 5배, AI 애플리케이션의 무중단 실행 시간은 5배 향상된다고 주장한다. 여기에 TBE도 10배 증가한다.

구체적인 예로 SN6810은 2U 액체 냉각 섀시에 800Gb/s 포트 128개를 집약하면서 초당 102.4Tb의 데이터를 처리할 수 있다. 더 큰 SN6800은 5U 시스템에 4개의 ASIC을 탑재해 800Gb/s 기준 512개 포트에서 409.6Tb/s의 처리량을 제공하며, 200Gb/s 기준으로는 2,000개가 넘는 포트를 지원한다. 대규모 GPU 클러스터를 운영하는 경우 더 큰 섀시 내부에 내장된 파이버 셔플 기능을 통해 연결 구조를 매우 평평하고 단순하게 유지할 수 있다. 이에 따라 단순히 지연 시간을 증가시키는 추가 스위칭 계층을 늘리지 않고도 시스템을 확장할 수 있다.

이러한 시스템을 더 큰 규모로 생산하기 위해서는 조립 공정도 변경해야 했다. 광 엔진은 일반적인 생산 공정과 원활하게 통합될 수 있는 제조 방식을 통해 모듈 기판에 직접 납땜된다. 간단한 광섬유 커넥터를 사용하면 상단에서 광섬유를 매우 정밀하고 높은 성공률로 연결할 수 있다. 공급망 파트너들은 각각 다른 영역을 담당한다. TSMC는 실리콘 포토닉스를 담당하고, SPIL은 칩 스케일 패키징과 테스트를 맡는다. Lumentum과 TFC는 레이저 부품을 공급하며, Foxconn은 처음부터 전체 스위치 시스템을 개발한다. 출하 전에는 NVIDIA가 자체 시설에서 완성된 스위치에 대한 최종 테스트를 진행하며, 현재는 본격적인 양산이 진행되고 있다.

이러한 스위치는 Spectrum-X가 제공하는 더 광범위한 이더넷 플랫폼의 일부에 불과하다. 이 플랫폼은 수천 개의 GPU가 동시에 통신하는 상황에서도 데이터 흐름이 원활하게 유지되도록 적응형 라우팅, 혼잡 제어, 종단 간 텔레메트리를 사용한다. 멀티플레인 시스템에서는 각각의 연결을 여러 개의 독립적인 네트워크 플레인으로 분산하기 때문에 하나의 장애가 전체 프로젝트를 중단시키는 상황을 방지할 수 있다. Spectrum-XGS는 동일한 네트워크 패브릭을 건물 전체 또는 캠퍼스 단위로 확장해 여러 데이터센터를 하나의 통합된 시스템처럼 연결한다. NVIDIA는 이 기술이 기존 이더넷 대비 AI 네트워킹 속도를 1.6배 향상시키면서도 SONiC과 같은 널리 사용되는 도구와 개방적인 호환성을 유지한다고 설명한다.
※ 자세한 내용은 원문을 참조해주세요.
※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다. |