
마이크로소프트는 그동안 코파일럿+ 지원 PC에 적용해왔던 엄격한 제한을 완화하여, 적합한 GPU를 탑재한 더 많은 윈도우 11 기기에서 로컬 AI 워크로드를 실행할 수 있도록 허용하고 있습니다. 업데이트에 따르면, 최소 6GB의 VRAM을 갖춘 엔비디아 RTX 30 시리즈 GPU 이상이 장착된 시스템은 이제 윈도우의 로컬 언어 모델 API를 지원할 수 있습니다. 표면적으로는 개발자만을 위한 작은 변경 사항처럼 보이지만, 이는 마이크로소프트가 기기 내 AI 기능을 코파일럿+ 브랜드와 얼마나 긴밀하게 연결해야 할지 재고하고 있음을 시사합니다.
2024년 6월 18일 코파일럿+ PC가 출시되었을 때, 핵심 메시지는 분명했습니다. 바로 전용 AI 하드웨어가 필수적이라는 것이었습니다. 이 제품들은 신경 처리 장치(NPU)를 비롯하여 16GB RAM과 솔리드 스테이트 스토리지와 같은 기본 사양으로 정의되었습니다. 특히 NPU는 윈도우에서 로컬 AI 기능을 활성화하는 데 핵심적인 요소로 강조되었습니다.
하지만 AI 워크로드를 처리할 수 있는 칩은 NPU만이 아닙니다. GPU, 특히 최신 GPU는 대규모 병렬 처리에 최적화되어 있으며 오랫동안 머신러닝 모델 실행에 사용되어 왔습니다. 실질적으로 GPU는 오늘날의 NPU보다 많은 AI 워크로드에서 더 높은 처리량을 제공할 수 있지만, 일반적으로 전력 소모는 더 높습니다.
지금까지 마이크로소프트는 대부분의 내장 AI 기능을 NPU가 탑재된 기기에만 제공해 왔습니다. 이로 인해 많은 고성능 GPU 기반 PC에서 로컬 텍스트 및 이미지 생성 기능은 물론 윈도우 리콜과 같은 AI 도구들을 사용할 수 없었습니다.
이제 그 격차가 좁혀지고 있습니다. 마이크로소프트는 업데이트된 문서와 GitHub 게시물을 통해 개발자들이 지원되는 GPU를 사용하여 Copilot+가 아닌 PC에서도 언어 모델 API를 실행할 수 있다고 확인했습니다 .

회사 측은 해당 기능을 다음과 같이 설명했습니다. "GPU 기반 언어 모델 API [실험적]. 이제 지원되는 GPU가 장착된 Copilot+ 이외의 PC에서도 언어 모델 API가 실행되어 더 다양한 Windows 11 장치에서 로컬 언어 모델 기능을 사용할 수 있습니다." 또한 "지원되는 하드웨어에는 6GB 이상의 VRAM을 탑재한 NVIDIA GeForce RTX 30 시리즈 이상이 포함됩니다."라고 명시했습니다.
현재로서는 이 기능은 일반 사용자에게 직접 노출되지 않고 개발자 계층에 숨겨져 있습니다. 이러한 API를 실행하려면 Windows AI 프레임워크를 활용하는 애플리케이션을 구축하거나 사용해야 합니다. 하지만 이는 로컬 AI가 훨씬 더 많은 Windows 컴퓨터에 보급될 수 있는 발판을 마련합니다.
이 시스템의 핵심은 Phi Silica라는 소형 온디바이스 모델입니다. 모든 시스템에 사전 설치되어 있는 것이 아니라, 앱에서 필요로 할 때 Windows Update를 통해 다운로드할 수 있습니다. 설치가 완료되면 이 모델은 기기의 하드웨어에서 로컬로 실행되며, 사용 가능한 경우 GPU를 활용합니다.
현재 기능은 텍스트 기반 작업에 초점을 맞추고 있습니다. Windows.AI.Text API를 통해 앱은 콘텐츠를 요약하고, 텍스트를 다시 작성하고, 텍스트를 구조화된 형식으로 변환하고, 프롬프트를 생성할 수 있습니다. 이러한 기능은 사용자가 클라우드 기반 AI 도구에서 기대하는 기능과 유사하지만, 모든 작업은 기기에서 로컬로 실행됩니다.

모든 작업을 로컬에서 실행하면 실질적인 이점이 있습니다. 클라우드 처리 의존도를 줄여 응답 속도를 향상시킬 수 있으며, 데이터를 외부 서버로 전송하는 대신 자체 시스템에 보관할 수 있습니다. 개발자와 기업 사용자에게 이러한 이점은 AI 기능 도입 방식에 상당한 차이를 가져올 수 있습니다.
하지만 아직은 부분적인 배포에 그치고 있습니다. 윈도우 리콜(Windows Recall)과 클릭 투 두(Click to Do)를 포함한 코파일럿+의 주요 기능 중 일부는 여전히 NPU가 탑재된 시스템에만 적용됩니다. GPU 지원은 적어도 현재로서는 광범위한 AI 통합 기능보다는 언어 모델 API 계층에만 국한되어 있습니다.
이러한 제약 조건에도 불구하고, 이러한 추세는 분명합니다. 마이크로소프트는 더 이상 윈도우에서 로컬 AI를 구현하는 유일한 방법으로 NPU를 고려하지 않습니다. GPU가 이러한 워크로드를 처리하도록 함으로써 호환 가능한 하드웨어의 범위가 넓어지고, Copilot+ PC가 출시 당시보다 덜 배타적으로 느껴지게 되었습니다. |