엔비디아의 ChatRTX 앱이 오늘 엔비디아 웹사이트를 통해 0.3 버전 업데이트를 출시했습니다. ChatGPT와 유사한 앱의 이번 업데이트에서는 사진 검색 기능, AI 기반 음성 인식, 더 많은 LLM과의 호환성 등 지난 3월에 열린 엔비디아의 GTC 컨퍼런스에서 처음 공개된 새로운 기능들이 대거 추가되었습니다.
ChatRTX는 소비자용 RTX 그래픽 카드의 힘을 실감할 수 있는 엔비디아의 또 다른 주요 AI 기술 시연입니다. ChatRTX 프로그램은 컴퓨터에 로컬로 설치되어 ChatGPT와 유사한 경험을 제공하며, 데이터를 훈련 목적이나 다른 불순한 용도로 탈취당할 위험 없이 AI 사용 사례에 활용할 수 있습니다. 이 프로그램의 실제 사례로, 한 열성 사용자가 RTX 카드를 NAS에 장착하여 전체 데이터 네트워크에서 ChatRTX의 데이터 합성 기능을 활용한 예를 들 수 있습니다.
저희는 공식 출시 전에 새 버전을 다운로드하여 새로운 기능 중 일부를 확인할 수 있었습니다. ChatRTX는 지원되는 LLM(언어 학습 모델, 즉 GPT-4)을 확장하여 Google의 최신 LLM인 Gemma와 새로운 오픈 소스 옵션인 ChatGLM3-6B와 같은 새로운 옵션을 포함시켰습니다. LLM마다 동일한 작업을 완전히 다르게 수행할 수 있기 때문에 자체 LLM을 선택할 수 있는 능력은 매우 중요합니다.
이미지 검색 및 상호작용 도구도 대폭 업그레이드되어, OpenAI의 CLIP 도구에서 차용한 기술을 통해 이전에는 앱에 필요했던 복잡한 메타데이터 라벨링 없이 이미지를 검색할 수 있게 되었습니다. 마지막으로, 이제 ChatRTX 사용자는 자신의 데이터로 대화할 수 있게 되었으며, AI 기반 음성 인식 시스템인 Whisper를 추가 지원하여 ChatRTX가 구두 음성을 이해할 수 있게 되었습니다.
이 기술 데모는 엔비디아의 텐서 코어와 텐서RT 라이브러리의 성능을 활용하므로 RTX GPU가 필요하며, 당분간은 1세대 RTX 20 시리즈도 지원하지 않습니다. 따라서 앱을 직접 실행하려면 최소 8GB 이상의 VRAM이 탑재된 엔비디아 RTX 30 또는 40 시리즈 GPU가 필요하며, 전문가용 Ampere 또는 Ada GPU도 마찬가지로 사용할 수 있습니다.
이 프로그램은 보안 취약점 패치를 위한 긴급 0.2.x 업데이트 직후에 제거되었던 YouTube 링크 스크러빙 기능이 최근 다시 추가되는 등 최종 1.0 버전이 출시되기 전까지 기능이 계속 향상될 것으로 보입니다.
※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다. |