하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

'소음은 잔디깎이, 성능은 AI 특화'… 엔비디아 Tesla V100 PC에 장착

QM달려

9 1147 5 2026.07.27 09:14

<img src="https://img2.quasarzone.com/editor/2026/07/26/43c691c57837890cee1c43ea0417b2b3.jpg" alt="퀘이사존" width="100%">
 
<div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199,199,199) rgb(199,199,199) currentColor currentColor; width:800px; max-width:100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td style="width:100%; max-width:800px; border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199,199,199) rgb(199,199,199);">한 컴퓨팅 마니아가 매우 시끄럽고 사실상 구형이 된 엔터프라이즈 GPU를 로컬 LLM 추론 용도로 재활용했다. 이 GPU는 대용량 VRAM을 갖춘 제품으로, 사용자는 단돈 266달러(약 200파운드)를 투자해 전체 VRAM 용량을 32GB로 두 배 늘린 시스템을 구축했다. 특히 현재 RAMpocalypse(메모리 대란) 상황을 고려하면 상당히 좋은 결과라는 평가다.
 
Oscar Molnar는 이번 VRAM 확장 프로젝트를 위해 16GB HBM2 메모리를 탑재한 저렴한 Tesla V100 SXM2 모델을 구입했다. 여기에 SXM2 → PCIe 변환 어댑터와, 마치 잔디 깎는 기계처럼 시끄러운 쿨러를 개선하기 위한 PWM 개조 작업을 추가해 대형 로컬 LLM 구동 환경을 완성했다. 실제로 현재 이러한 GPU는 상당히 저렴하게 구할 수 있다. 미국 eBay에서는 중국 판매자로부터 구매하는 것을 감수한다면 개당 140달러 이하 가격으로 등록된 Tesla V100 SXM2 제품도 확인할 수 있다. 
다만 앞서 언급했듯이, VRAM이 풍부한 Tesla V100 SXM2 카드를 그대로 구매해 일반 PC에 장착하는 것은 불가능하다. Molnar에 따르면, 해당 시스템을 구축하기 위해 eBay에서 약 66달러를 들여 SXM2 → PCIe 변환 어댑터를 별도로 구매했다. 이 어댑터를 통해 서버용 SXM2 GPU를 일반 PCIe 기반 시스템에서 사용할 수 있도록 변환한 것이다.
 여기까지라면 충분하다고 생각할 수도 있다. 하지만 이 PC 및 로컬 LLM 마니아는 Tesla V100 SXM2에 기본 장착된 "지옥의 팬(the fan from hell)" 소음 때문에 결국 문제를 해결해야 했다.  기본 쿨러는 무려 82dB의 소음을 발생시키는 것으로 측정됐다. Molnar는 이 소리를 "쓰레기 처리기와 잔디 깎는 기계 사이 어딘가에 있는 소리"라고 표현했다. 가장 복잡한 개조 작업처럼 보일 수 있지만, 실제 과정은 비교적 단순했다. 기존 팬 케이블을 다시 배선한 뒤 메인보드의 PWM 팬 헤더에 연결하면 된다. 또는 작업을 위해 "2.54mm 수(Male) to PH2.0 암(Female) 점퍼 케이블"을 별도로 구매해 사용할 수도 있다. 놀랍게도 이 팬은 최대 부하 상태에서도 10% 속도만으로 Tesla V100의 온도를 50℃ 이하로 유지할 수 있는 것으로 알려졌다. 즉, 서버 환경에서는 강력한 냉각 성능을 위해 과도하게 높은 속도로 동작하도록 설정됐던 쿨러를, 일반 PC 환경에서는 훨씬 조용한 수준으로 낮춰 사용할 수 있다는 의미다. </td></tr></tbody></table></div>
 
<img src="https://img2.quasarzone.com/editor/2026/07/26/026f3cae4ac3ff986bec0c35e146ea58.jpg" alt="퀘이사존" width="100%">
 <div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199, 199, 199) rgb(199, 199, 199) currentColor currentColor;width:800px;max-width: 100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td width="800" style="border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199, 199, 199) rgb(199, 199, 199);">270억 개 파라미터 LLM, 초당 32토큰으로 구동 모든 하드웨어 장착과 최적화 작업을 마친 뒤, Molnar는 총 32GB VRAM을 갖춘 시스템을 구축할 수 있었다. 구성은 다음과 같다.<ul><li style="text-align: justify; line-height: 2; min-height: 30px;">RTX 4080: 16GB VRAM, Ada 아키텍처</li><li style="text-align: justify; line-height: 2; min-height: 30px;">Tesla V100: 16GB VRAM, Volta 아키텍처</li></ul>Molnar는 32GB VRAM을 탑재한 Tesla V100 모델도 존재하지만, 해당 제품은 가격이 두 배 정도 비싸다고 설명했다. 이 32GB의 총 VRAM을 LLM 구동에 활용하도록 설정하는 과정은 생각보다 어렵지 않았다고 한다. DIY 제작자는 NixOS 운영체제와 Volta 및 Ada 아키텍처를 모두 지원하는 구형 NVIDIA 드라이버를 사용했다. 로컬 LLM 테스트에서는 270억 개 파라미터(parameter)를 가진 모델을 초당 32토큰 속도로 실행하는 데 성공했다. 그는 이 성능이 "대화형 사용에 충분할 정도로 빠르다"고 평가했으며, 대부분의 클라우드 API 기반 서비스보다도 빠른 수준이라고 설명했다.</td></tr></tbody></table></div> 
<div align="center"><table align="center" class="__se_tbl" style="border-width: 1px 1px 0px 0px; border-style: dashed dashed none none; border-color: rgb(199,199,199) rgb(199,199,199) currentColor currentColor; width:800px; max-width:100%" border="1" cellspacing="0" cellpadding="0" attr_no_border_tbl="1"><tbody><tr><td style="width:100%; max-width:800px; border-width: 0px 0px 1px 1px; border-style: none none dashed dashed; border-color: currentColor currentColor rgb(199,199,199) rgb(199,199,199);">출처: <a href="https://www.tomshardware.com/pc-components/gpus/ai-enthusiast-adds-nvidia-tesla-v100-as-loud-as-a-lawnmower-to-gaming-pc-for-usd266-32gb-of-vram-rig-can-run-27-billion-parameter-model-at-32-tokens-per-second" target="_blank">Tom's Hardware</a></td></tr></tbody></table></div>
 
※ 해당 기사는 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 기사입니다. 퀘이사존 견해와 주관은 포함되어 있지 않습니다.

QM달려

행성: QM

포인트: 584,650 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 9개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(25.07.16)

퀘이사존

36.6k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
5	삼성·SK하이닉스, 광주 군공항 부지 등 현지 답사 9 업계동향 빌보 1.2k 07-27
13	전기차 충전 플랫폼 '채비' 개인정보 약 30만 건 유출 17 업계동향 크로노 1.2k 07-27
2	삼성전자, HBM5 베이스 다이에 '2나노' 적용…속도 50%↑ 5 CPU/MB/RAM 크로노 844 07-27
16	중국 CXMT, 상장 동시에 472% 상승...시가총액 1위 등극 30 업계동향 크로노 2.5k 07-27
27	MS, 윈도우 11의 메모리 누수 인정, WinUI 개선 약속 34 소프트웨어 QM카재 9k 07-27
2	MSI PRO MAX EDGE AI+, 대형 AI 모델 로컬 구동 지원 5 업계동향 QM달려 999 07-27
1	VR 기기도 가격 폭등… 퀄컴 칩 단가 인상에 밸브 '스팀 프레임' 1,000달러 돌파 전망 7 기타/주변기기 QM달려 644 07-27
5	TSMC 2나노 양산 본격화, 한 공장 월 2만 장 돌파, 수요 폭증에 3나노 넘어설 듯 7 업계동향 QM센스 736 07-27
3	젠슨 황, AI 홍보 위해 X 가입 7 업계동향 QM센스 466 07-27
3	AMD 임원: "엔비디아 베라 성능 결과 매우 만족, 우리가 근소하게 앞선다' 4 CPU/MB/RAM QM센스 1.2k 07-27
5	'소음은 잔디깎이, 성능은 AI 특화'… 엔비디아 Tesla V100 PC에 장착 9 그래픽카드 QM달려 1.1k 07-27
1	화웨이, 자체 DRAM 공장 건설, 모든 기업 RAM 가격 변화 가능성 3 CPU/MB/RAM QM센스 945 07-27
4	'방침 철회' 인텔, 서버용 칩에 하이퍼스레딩 기술 다시 넣는다 10 CPU/MB/RAM QM달려 2k 07-27
2	매모리값 인상에 中 그래픽카드 가격 급등 … 매장마다 '재고 확보전' 6 그래픽카드 QM달려 817 07-27
6	RTX 50 시리즈 핫스팟·메모리 온도 모니터링, 지금까지 밝혀진 모든 것 7 그래픽카드 QM달려 2.2k 07-27
35	RTX 5060, 3일 만에 중국서 가격 10만 원 이상 급등 37 그래픽카드 QM포시포시 5.5k 07-26
3	"中 AI 오픈모델 막아야" vs "허용해야"… 美 빅테크 진영 분열 9 업계동향 빌보 805 07-26
2	3D 프린팅으로 제작된 F-14 톰캣은 '세계 최초의 마이크로프로세서'를 FPGA로 재현한 CADC사의 MP944 칩을 사용하는데, 이 칩은 전투기의 가변익 시스... 4 기타/주변기기 크로노 1.3k 07-26
12	마이크로소프트 엣지는 크롬이 마침내 도입한 윈도우 11 기능을 10년 동안 독점적으로 제공해왔습니다 17 소프트웨어 크로노 3.7k 07-26
21	유튜브, AI 저퀄 영상 수익대상서 제외…의료·금융 분야 AI아바타도 제한 20 업계동향 빌보 2.8k 07-26
22	마이크로소프트가 마침내 윈도우 11 다운로드 및 설치 과정에 필요한 개선 작업을 진행하고 있습니다 20 소프트웨어 크로노 15.6k 07-26
47	AMD 라이젠(Zen 7 코어)은 AM5 소켓용 마지막 "Zen" 제품군이 될 가능성이 높으며, Zen 8은 DDR6 및 PCIe 6.0을 지원하며 AM6 소켓으... 53 CPU/MB/RAM 크로노 12.3k 07-26
13	마이크론 CEO 산제이 메흐로트라와 애플의 앙금은 수년 전부터 이어져 왔다는 보고서가 나왔으며, 이는 칩 공급 분쟁과 중국 CXMT로부터의 칩 조달 노력 속에 드... 15 업계동향 크로노 2k 07-25
53	기가바이트, RTX 4090 기판 손상 관련 보증 청구 거부 (해당 손상은 카드 표면에서 육안으로 확인할 수 없음) 76 그래픽카드 크로노 4.8k 07-25
13	삼성전자·브로드컴, 2000억 달러 규모 ‘전략적 협력’ 22 업계동향 빌보 1.8k 07-25
7	네이버, 엔비디아·브룩필드서 14조원 조달해 AI팩토리 짓는다 9 업계동향 빌보 1.3k 07-25
11	한국 AI 시대 개막… 글로벌 빅테크 리더들과 풀스택 AI 미래 비전 공유 14 업계동향 QM포시포시 1k 07-25
11	미국 의원들이 악의적인 AI가 우리를 해치기 전에 이를 제거할 수 있는 'AI 킬 스위치'를 제안했습니다 22 업계동향 크로노 1.8k 07-25
26	Zen 6 EPYC으로 미리보는 차세대 라이젠 CPU 모습, 기대 38 CPU/MB/RAM QM포시포시 3.5k 07-25
3	마이크로소프트, 팀즈 및 아웃룩 일부 기능 배포 중단 5 소프트웨어 크로노 646 07-25