하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

엔비디아, 최적화를 통해 DeepSeek V4 토큰 비용을 5배 낮추다

QM포시포시

8 4927 6 2026.07.01 10:50

<div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);"><img src="https://img2.quasarzone.com/editor/2026/07/01/7a86a3a476be991c5e9313131eab19cc.png" alt="퀘이사존"> 엔비디아는 각종 풀스택 최적화를 통해 DeepSeek V4의 토큰 비용을 최대 5배 낮출 수 있었다고 밝혔습니다. 엔비디아는 블랙웰 GPU에서 토큰 비용을 낮출 뿐 아니라 성능도 크게 높일 수 있었습니다. 엔비디아는 AI 분야에서 총 소유 비용, TCO를 강조했고 이제는 토큰 당 비용, CPT를 강조하고 있습니다. 이러한 토큰 비용 절감은 개별 최적화를 엔비디아 GPU의 시스템 수준으로 전환함으로써 가능했습니다. 여러 추론 소프트웨어 스택을 연결하고 최적화했습니다. 여기에 엔비디아 NVLink, NVFP4, 멀티 토큰 예측(MTP) 등의 기술을 결함해 성능 향상을 달성했습니다. 그 결과 처리량이 최대 20배 높아졌습니다. 비용 측면에서는 토큰 당 비용을 최대 5배까지 낮춤으로써 토큰 당 비용이 TCO의 핵심 지표임을 보였습니다. <img src="https://img2.quasarzone.com/editor/2026/07/01/fedec116e54ede19910518d7f7e6fa50.png" alt="퀘이사존"> <img src="https://img2.quasarzone.com/editor/2026/07/01/b956b67731e4189bf24d5832b049083a.png" alt="퀘이사존"> <img src="https://img2.quasarzone.com/editor/2026/07/01/08746f7f52e176009dddd33083d857dd.png" alt="퀘이사존"> </td></tr></tbody></table></div>

QM포시포시

행성: QM

포인트: 283,996 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 8개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(25.07.16)

퀘이사존

36.7k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
11	윈도우, 개발자 플랫폼으로 귀환 선언 15 소프트웨어 큰돌 7.5k 07-05
16	삼성중공업, ‘바다 위 데이터센터’ 2028년 띄운다…AI 신시장 정조준 20 업계동향 빌보 3.9k 07-04
34	ASUS ROG Astral RTX 5090 에디션 20이 유럽 소매점에서 무려 7,435달러에 등록되었습니다 45 그래픽카드 크로노 5.3k 07-04
22	RTX 5090이 라이저 케이블을 녹였다 28 그래픽카드 그런말하지말아요 11.5k 07-04
43	소비자 구매력이 한계에 도달하며 메모리 가격 급등세가 둔화 51 CPU/MB/RAM QM포시포시 8.9k 07-04
22	인텔, 200S Plus 가격 인상 공식 확인...공급망 비용 때문 30 CPU/MB/RAM QM포시포시 4.1k 07-04
14	마이크론, 14조 들여 일본에 HBM 공장 짓는다 28 업계동향 QM포시포시 6k 07-04
34	키보드 안에 컴퓨터 한 대가 통째로 … 어디서든 업무 가능하네 55 키보드/마우스 큰돌 8k 07-04
10	써멀테이크, ATX 3.1 파워서플라이용 Dr. Power III Pro 테스터 출시 13 기타/주변기기 크로노 2.5k 07-04
32	윈도우 10 및 11 사용자들이 그래픽 버그를 보고하고 있으며, 그 원인은 구글 크롬일 가능성이 있습니다 29 소프트웨어 크로노 10.6k 07-04
19	젠슨 황의 사인 가죽 재킷이 자선 경매에서 최대 6만 달러에 팔릴 수 있다 18 업계동향 크로노 3.6k 07-04
13	한국판 스타링크 띄운다…2035년 저궤도 위성망 완성 22 업계동향 빌보 3.6k 07-04
26	360Hz 울트라와이드 QD-OLED 게이밍 모니터, HP HyperX OMEN OLED 34 출시 32 디스플레이 QM두파 2.5k 07-03
23	스팀 머신, 기기 작동 20분 만에 Red Line of Death(RLOD)를 마주하며 GPU 고장 발생 35 기타/주변기기 QM깜냥 14.3k 07-03
8	인텔 노바레이크 데스크톱, bLLC 적용 18코어 2종 준비, 125/65W 구성 11 CPU/MB/RAM QM센스 2.9k 07-03
3	알리바바, Anthropic 산하 Claude 제품을 전면 금지했다는 소식: 7월 10일 발효, 전 직원 삭제 9 업계동향 QM깜냥 2.3k 07-03
34	메모리 품귀에 가려진 CPU 부족 심화… 질주하는 인텔·AMD '이중 호황' 국면 48 업계동향 QM포시포시 7k 07-03
34	삼성전자, 3분기 D램 가격 최대 20% 인상…AI 수요 굳건 37 CPU/MB/RAM 빌보 6.9k 07-03
20	마이크로소프트, 수천 명 규모의 직원 해고 27 업계동향 QM건빵 13.4k 07-03
5	앤트로픽, 삼성전자와 AI 칩 생산 검토…2나노 파운드리 '주목' 7 업계동향 빌보 3.3k 07-03
13	팔란티어 CEO "AI 기업들, 데이터 훔치고 쓸모없는 토큰에 과금"…기업들 "돈만 날린다" 격분 14 업계동향 QM깜냥 2.4k 07-03
5	저커버그 'AI 에이전트 기술 개발 속도, 예상보다 느려' 7 업계동향 QM카재 2k 07-03
11	WinRAR 7.23 배포… 메모리 오버플로우·경로 탐색 보안 취약점 수정 13 소프트웨어 QM달려 2.5k 07-03
15	체리 Xtrfy, 초광대역 무선 지원 K63W Pro 키보드 출시 16 키보드/마우스 QM달려 2.4k 07-03
5	엔비디아, 하드웨어 판매 넘어 AI 클라우드 수익 일부 확보 추진 7 업계동향 QM센스 2.7k 07-03
18	필립스 에브니아, 세계 최초 트리플 모드 Fast IPS 모니터 공개 20 디스플레이 QM달려 2.3k 07-03
16	쿨러마스터, 고성능 쿨링팬 MasterFan A·M 시리즈 발표 20 쿨링솔루션 QM달려 2.3k 07-03
2	KIOXIA, 10세대 BiCS FLASH 샘플 출하 시작 5 업계동향 QM달려 1k 07-03
13	삼성, HMB 적용 디램리스 PCIe 4.0 NVMe SSD 준비 19 저장장치 QM달려 2.7k 07-03
53	인텔, 코어 울트라 200S Plus 제품 가격 인상 64 CPU/MB/RAM QM포시포시 5.9k 07-02