기기 내 AI
온라인 액세스와 유료 구독이 필요한 대규모 클라우드 호스팅 AI 모델과 달리 G-Assist는 GeForce RTX GPU에서 실행됩니다. 즉, 반응성이 뛰어나고 무료로 사용할 수 있으며 오프라인에서 실행할 수 있습니다.
G-Assist는 30억 개의 매개변수가 있는 Llama 기반 Instruct 모델을 사용하여 오늘날 대규모 AI 모델의 1% 미만인 아주 작은 부분에 언어 이해를 담았습니다. 이를 통해 G-Assist는 다양한 RTX 하드웨어에서 우수한 성능으로 실행할 수 있습니다. 그리고 SLM 연구의 빠른 속도로 이러한 컴팩트한 모델은 몇 달마다 더욱 유능하고 효율적이 되고 있습니다.
G-Assist에 그래픽 설정을 최적화하거나 GPU 온도를 확인하는 등의 도움이 필요할 때 RTX GPU는 잠시 마력의 일부를 AI 추론에 할당합니다. 그 몇 초 동안 게임을 하거나 다른 GPU 중심 애플리케이션을 실행하면 렌더링 속도가 잠시 떨어질 수 있습니다. G-Assist가 작업을 마치면 GPU는 게임이나 앱에 완전한 성능을 제공하기 시작합니다.
파트너 및 커뮤니티 팅커러를 위한 어시스턴트 강화
G-Assist는 NVIDIA ACE를 기반으로 구축되었습니다. 이는 게임 개발자가 NPC에 생명을 불어넣는 데 사용하는 것과 동일한 AI 기술 제품군입니다. OEM 및 ISV는 이미 ACE 기술을 활용하여 G-Assist와 같은 맞춤형 AI 어시스턴트를 만들고 있습니다.
MSI는 CES에서 MSI Center 및 MSI Afterburner에 내장된 AI 어시스턴트를 구동하도록 설계된 "AI 로봇" 엔진을 공개했습니다. Logitech은 ACE를 사용하여 스트리머와 채팅하고 게임 플레이에 대해 논평하는 등의 작업을 수행할 수 있는 대화형 아바타가 포함된 Streamlabs Intelligent AI Assistant를 개발하고 있습니다. HP는 또한 Omen Gaming Hub에서 AI 어시스턴트 기능을 위해 ACE를 활용하기 위해 노력하고 있습니다.
업계 파트너를 넘어 이 프레임워크를 더 광범위한 AI 커뮤니티에 공개하고 있습니다. CrewAI, Flowise, LangFlow와 같은 도구는 이 서비스를 활용하여 애호가와 개발자가 로우코드, 사용자 정의 가능한 언어 처리 워크플로, AI 애플리케이션 및 에이전트 흐름에 함수 호출 기능을 통합할 수 있도록 합니다.
G-Assist 자체는 커뮤니티에서 확장 가능하도록 설계되었습니다. NVIDIA는 G-Assist에 추가 기능을 가르치는 "플러그인"을 만드는 샘플이 있는 GitHub 저장소를 게시할 예정입니다. Tinkerers는 간단한 JSON 형식으로 함수를 정의한 다음 검토 및 잠재적 포함을 위해 NVIDIA에 제출하여 이러한 새로운 기능을 다른 사람이 사용할 수 있도록 할 수 있습니다. 병합하기 전에 플러그인은 지정된 디렉토리에 구성 파일을 배치하여 로컬에서 테스트할 수 있으며, 이를 통해 G-Assist가 이를 로드하고 해석할 수 있습니다.
플러그인을 빌드, 공유 및 로드하는 방법에 대한 자세한 내용은 G-Assist가 출시되면 GitHub 저장소의 설명서에서 제공됩니다. 커뮤니티에서 무엇을 꿈꾸는지 기대가 큽니다!
프로젝트 G-Assist: 2월에 NVIDIA 앱에 출시
2013년에 GeForce Experience를 출시했는데, 한 번의 클릭으로 원활한 게임 플레이를 위한 게임 옵션을 자동으로 구성하는 Optimal Playable Settings가 특징입니다. 수천만 명의 게이머가 수년에 걸쳐 "Optimize"를 클릭했습니다.
이제 AI는 RTX AI PC와 지능적으로 상호 작용하고 최적화하는 새로운 방법을 열었습니다. 2월에 출시되면 Project G-Assist는 GeForce RTX 소유자가 다운로드하여 설치할 수 있는 Discover 섹션의 새 항목으로 NVIDIA 앱의 Home 탭에 표시됩니다.
|