MSI는 128GB 메모리 구성 모델이 최대 1,200억(120B) 파라미터 규모의 대형 언어 모델(LLM)을 실행할 수 있다고 설명했다. 다만 이 최대 지원 규모를 활용하려면 일반적으로 양자화(Quantization) 같은 최적화 방식이 필요하다. 운영체제, 추론 소프트웨어, 컨텍스트 캐시 역시 메모리를 사용하기 때문에, 모델 자체의 파라미터만으로 전체 메모리 사용량을 결정할 수 없기 때문이다. 또한 동일한 파라미터 수를 가진 모델이라도 모델 구조에 따라 실제 요구되는 메모리 용량은 달라질 수 있다.
해당 시스템은 4리터 크기의 소형 케이스에 탑재되며, MSI의 Frozr AI Pro Cooling과 Glacier Armor 열 설계를 적용했다. 이 냉각 구조는 장시간 AI 추론 작업이 진행되는 환경에서도 온도를 안정적으로 제어하는 것을 목표로 한다. 다만 장시간 구동 시 성능 유지 수준, 실제 작동 온도, 소음 수준 등은 향후 독립적인 테스트를 통해 확인이 필요하다.
또한 여러 대의 PRO MAX EDGE AI+ 데스크톱을 연결해 분산 클러스터 구성도 가능하다. MSI는 여러 시스템의 메모리와 연산 자원을 결합하면, 클러스터 환경에서 최대 6,700억(670B) 파라미터 규모의 모델을 실행할 수 있다고 주장했다. 하지만 실제 성능은 연결되는 시스템 수, 네트워크 하드웨어, 선택한 추론 프레임워크의 지원 여부에 따라 달라진다.
로컬 환경에서 AI 모델을 실행하면 프롬프트, 문서 및 기타 민감한 정보를 외부 클라우드 서비스로 전송하지 않고 처리할 수 있다.
이 때문에 해당 시스템은 다음과 같은 용도에서 활용 가능성이 있다. - 개인 문서 분석
- 로컬 AI 비서
- 소프트웨어 개발
- 검색 증강 생성(RAG, Retri*!*-Augmented Generation)
하지만 로컬 처리가 자동으로 완벽한 보안을 제공하는 것은 아니다. 기업이나 조직에서는 여전히 적절한 스토리지 암호화, 접근 제어, 네트워크 보안 정책 등을 별도로 적용해야 한다.
MSI는 아직 PRO MAX EDGE AI+의 가격과 지역별 출시 일정을 공개하지 않았다. 해당 정보는 이 시스템을 기존의 GPU 워크스테이션, 멀티 GPU 서버, 클라우드 컴퓨팅 서비스와 비교할 때 중요한 요소가 될 전망이다. |