성능 비교 분석의 정수! 퀘이사존 벤치마크

퀘이사존 NVIDIA TITAN V 벤치마크 2부: 딥러닝/작업/연산 성능

QM벤치

106 28094 56 2018.02.15 20:56

<img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518576883_8417.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518576883_8417.jpg" style="max-width:100%; height:auto;"> <div style="text-align: justify;" align="justify"> </div>  <div align="center" style="text-align: center;"><table align="center" class="__se_tbl" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1" style="text-align: justify;"><tbody><tr><td style="width: 800px; height: 61px;" class="">NVIDIA TITAN V 딥러닝/작업/연산 성능 벤치마크딥러닝과 작업 생산성 그리고 GPGPU 성능까지! ※ 참고: 퀘이사존 NVIDIA TITAN V 벤치마크는 총 2부로 구성되었습니다.<a href="https://www.quasarzone.co.kr/bbs/board.php?bo_table=qc_qsz&wr_id=138727" target="_self">벤치마크 1부(16종 게임 성능) 보러가기</a><a href="https://www.quasarzone.co.kr/bbs/board.php?bo_table=qc_qsz&wr_id=138749" target="_self">벤치마크 2부(딥러닝/작업/연산 성능) 보러가기</a><div> </div><div> </div><div> </div><div>안녕하세요. 퀘이사존벤치입니다.</div> NVIDIA TITAN V 벤치마크 1부에서 다룬 게임 성능에 이어 2부에서는 다양한 분야에서 활용될 수 있는 딥러닝/작업/연산 성능을 다뤄보고자 합니다. 하지만 본격적인 성능 테스트 및 분석 내용을 공개하기에 앞서 엔비디아의 역대 TITAN 시리즈에 대해서 알아보는 시간을 마련해보았는데요. 여기에는 그럴만한 이유가 있습니다. 그동안의 TITAN 시리즈는 브랜드 정체성 면에서 혼돈 그 자체였고, 이 혼돈을 이해하기 위해서는 최초 출시부터 현재에 이르기까지 무슨 일이 있었는지를 알 필요가 있기 때문입니다. 또한, 지금의 TITAN V를 보다 폭넓은 시각으로 바라보는 것에도 도움이 될 수 있을 것입니다.  데스크톱 시장을 위한 최초의 TITAN 그래픽카드 탄생  <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518606536_9348.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518606536_9348.jpg" style="max-width:100%; height:auto;"> ▲ 최초의 TITAN 그래픽카드, 슈퍼컴퓨터 'TITAN'에서 이름을 따왔다 먼저 2013년 2월에 등장한 최초의 TITAN, 바로 케플러(Kepler) 아키텍처 기반의 GK110 GPU를 탑재한 지포스 GTX TITAN 6GB입니다. 해당 그래픽카드는 미국 오크리지 국립 연구소(Oak Ridge National Laboratory)의 테슬라(Tesla) K20X를 탑재한 슈퍼컴퓨터 'TITAN'에서 이름을 따오고, 지포스 게이밍 브랜드인 'GEFORCE GTX'를 모델명에 포함하여 HPC(High Performance Computing) 시장과 데스크톱 시장을 모두 아우를 목적으로 태어났습니다. 실제로 출시 당시에는 경쟁 제품조차 존재하지 않을 정도의 최강 게이밍 성능을 기반으로, 일반적인 지포스 그래픽카드와 차별성을 갖는 출중한 배정도(Double-Precision) 연산 성능까지 뽐냈습니다. 잘나가던 엔비디아에서 내놓은 새로운 브랜드라는 신선함과 성능까지 갖췄으니, 정말 특별한 제품이라는 인식을 소비자들에게 심어주는 데 성공할 수 있었습니다. 가격 또한 자신감 넘치는 $999 USD!! 하지만, 소비자들은 이 그래픽카드의 정체성에 대해 정확한 이해도를 가지기 힘들었습니다. 전례 없는 콘셉트의 제품이었기에 충분한 경험과 학습이 이루어지지 못했던 것이죠. 결국 3개월 뒤 TITAN의 게임 성능에 근접하면서도 훨씬 저렴한 가격, $649 USD로 지포스 GTX 780이 출시되면서 그래픽카드 시장과 하드웨어 마니아들에게 여러 의미의 충격(?)을 안겨주었습니다. 이 시기를 기점으로 '통수'라는 단어가 본격적으로 통용되었으며, 역사적인 짤들도 태어났습니다.(여러분도 잘 알고 있는... 에비츄가 타이탄을 끌며 오열하는 바로 그 짤) 당시의 TITAN은 비록 GTX 780과 비교하여 게임 성능 부문에서 가성비는 훨씬 떨어졌지만, 2배에 달하는 VRAM 용량(6GB)과 배정도 연산에서는 여전히 독보적인 성능을 가지고 있었기에 자존심은 지킬 수 있었습니다. 또한, 엔비디아 입장에서도 어느 정도 명분을 확보할 수 있었고요. 그 후 GK110 풀칩 기반의 GTX TITAN Black, GK110 GPU를 듀얼로 구성한 $2,999 USD의 GTX TITAN Z 등을 출시하면서 TITAN은 혼돈의 첫 단추를 꿰기 시작합니다.  맥스웰 아키텍처 기반의 2세대 TITAN, 지포스 GTX TITAN X <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518606779_1846.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518606779_1846.jpg" style="max-width:100%; height:auto;"> ▲ 맥스웰 아키텍처 기반의 TITAN 시리즈는 GTX TITAN X로 작명! 본격적인 문제는 맥스웰(Maxwell) 아키텍처 세대로 진입하면서 시작되었습니다. 2015년 3월, 엔비디아는 2세대 TITAN으로 볼 수 있는 지포스 GTX TITAN X를 출시했는데요. 12GB의 압도적인 VRAM 용량과 함께 기존에 가장 높은 게임 성능을 가지고 있던 지포스 GTX 980을 훨씬 능가하는 성능과 $999 USD의 몸값을 자랑했습니다. 하지만 최초 TITAN과는 달리 TITAN을 TITAN답게 만들었던 배정도 연산과 같은 요소에서 특별함을 찾아볼 수 없었습니다. 그저 엄청난 게임 성능과 당시 상상하기 힘들었던 12GB VRAM을 갖춰 게임용 그래픽카드의 괴물이 된 것이죠. 여기서 3개월 뒤, 2년 전과 비슷한 일이 반복되게 됩니다. 바로 GTX 980 Ti 6GB가 등장하게 된 것이죠. GTX TITAN X의 성능에 근접하면서도 가격은 $649 USD로 훨씬 저렴하다는 특징도 모두 2년 전 상황과 동일했습니다. 게다가 과거 1세대 TITAN 시절과는 달리 이번에는 GTX TITAN X의 연산 성능에 특별히 뛰어난 점도 없었기 때문에, 기존에 GTX TITAN X를 사용하던 유저 입장에서는 '통수'로 느껴지는 것이 당연했습니다. 결국 맥스웰 아키텍처 시기로 오면서 그냥 TITAN이라는 브랜드는 해당 아키텍처의 빅칩을 먼저 느껴보고자 하는 사람들에게 비싸게 파는 게임용 그래픽카드 정도가 되었습니다. 엄청난 VRAM 용량과 함께 예견된 통수를 끌어안은... 가성비 낮은 최고 성능의 그래픽카드. 그 이상의 의미를 찾기 힘들었습니다.  파스칼 아키텍처는 알리고 싶고... 'X' 네이밍을 버리기는 아깝고...옜다 NVIDIA TITAN X (Pascal) <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518606891_1326.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518606891_1326.jpg" style="max-width:100%; height:auto;"> ▲ 완전히 새로운(맥스웰->파스칼) TITAN X가 돌아왔다! TITAN X (Pascal)로... 그리고 2016년 5월, 파스칼(Pascal) 아키텍처 시대로 진입하면서 엔비디아는 하이엔드 그래픽카드 시장에서 경쟁자도 없이 지포스 GTX 1080/GTX 1070으로 돌풍을 일으켰습니다. 독보적인 행보였고 또 성공적이었죠. 결국 2016년 8월에 GP102 GPU를 탑재한 3세대 TITAN, NVIDIA TITAN X (Pascal) 12GB를 $1,199 USD 가격으로 발표하게 됩니다. 기존 TITAN 시리즈와의 차이점이라면 몸값이 더 올라갔고 지포스 브랜드(GEFORCE GTX)에서 빠져나왔다는 것입니다. 따라서 모델명에는 GEFORCE GTX가 제외되었고, 지금껏 그래왔지만 앞으로도 일반적인 게임용 그래픽카드가 아닌 '이유는 잘 모르겠지만 어쨌든 굉장히 비싼' 그래픽카드 세그먼트로 굳히겠다는 의도를 드러냈습니다. 하지만 여기서 의문이었던 것은 여전히 측면에는 GEFORCE GTX LED 로고가 밝게 빛나고 있었고, 백플레이트에도 선명하게 GEFORCE GTX 로고가 음각으로 새겨져 브랜드 정체성을 스스로 정립하지 못하고 양다리를 걸치는 듯한 면모를 보였다는 것이죠. 또한, TITAN X 네이밍을 챙기면서도 파스칼 아키텍처를 강조하고 싶었던 탓인지 공식 모델명에 괄호가 포함된 점은 개인적으로 지저분한 네이밍 정책이라는 생각이 들었습니다 '(Pascal)'이라뇨? 유저들의 인식도 달라졌습니다. TITAN 시리즈이기 때문에 유저들은 분명히 GTX 1080 Ti로 강한 통수를 맞을 것이라고 자연스럽게 추측했습니다. 이제는 충분한 학습과 경험치가 있었던 것이죠. 그러나 기존 TITAN 시리즈의 경우 3개월 수준에서 통수를 맞았지만 TITAN X (Pascal)은 비교적 오랜 시간을 버텼습니다. 그리고 시간은 흘러... 결국 해를 넘긴 2017년 3월, GTX 1080 Ti가 $699 USD로 출시되며 예견된 통수를 맞게 됩니다. 물론, 과거에는 3개월 만에 통수를 맞았지만 이번엔 7개월 만이니까 많이 양호한 것 아니냐고 반문할 수 있습니다. 그러나 텀이 길었던 만큼 더욱 강력한 통수의 면모가 숨어있었습니다. 과거와는 달리 이번엔 GTX 1080 Ti가 TITAN X (Pascal)의 성능에 근접하는 수준이 아니고 오히려 소폭 뛰어넘는 하극상을 선보였습니다. VRAM도 반 토막 수준이 아닌 단 1GB 수준의 열세였기 때문에 어쩌면 더 아픈 통수로도 볼 수 있겠죠.  모든 유닛을 활성화한 파스칼 완전체!! 소문자 p만 넣자3세대 TITAN의 완성, NVIDIA TITAN Xp <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518607002_1732.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518607002_1732.jpg" style="max-width:100%; height:auto;"> ▲ 엔비디아도 민망했는지 공식 아트 이미지에는 측면의 GEFORCE GTX LED를 제외시켰다 그리고 여기서 끝나지 않았습니다. TITAN의 이름값과 성능은 항상 최고여야 한다는 엔비디아의 정책 때문인지는 알 수 없으나 1개월 뒤인 2017년 4월, 엔비디아는 TITAN Xp라는 이름으로 GP102 풀칩 기반의 TITAN Xp를 출시하게 됩니다. 가격은 TITAN X (Pascal)과 동일한 $1,199 USD. 물론, 이 경우는 GTX 1080 Ti와는 궤를 달리하는 몸값으로 통수가 아닐 수도 있겠지만, GTX 1080 Ti 사용자 입장에서는 최강의 성능이라는 칭호를 유지했던 기간이 고작 한 달밖에 되지 않는 것이기 때문에, 역사적으로도 유례를 찾아보기 힘든 행보였습니다. 또한, TITAN X (Pascal)이 그랬던 것처럼 지포스 브랜드가 아님에도 불구하고 GEFORCE GTX LED가 점등되고, 백플레이트에도 여전한 GEFORCE GTX 로고, 심지어 출력 포트부의 제품명은 TITAN Xp가 아닌 TITAN X로 되어있는 등. 도무지 성의라고는 찾아볼 수 없었기에 해당 특징들은 과거 퀘이사존 벤치마크에서도 강하게 비판한 바 있습니다.  이렇게 TITAN Xp는 최강의 게임 성능을 발휘하는 그래픽카드로 왕좌를 유지하게 되고, 유유자적의 세월을 보내게 됩니다. 초기 TITAN의 정신과 정체성은 찾아볼 수 없었죠. 그냥 최강의 게임용 그래픽카드일 뿐인데 거창한 이름을 달고 값비싼 모델 느낌이랄까요? 하지만 얼마 지나지 않아 AMD에서 Vega Frontier Edition(이하 Vega FE)이 출시되면서 갑자기 상황은 바뀌게 됩니다. 워크스테이션과 게임용을 확실히 나누고 있던 AMD에서도 Vega FE를 통해 게임과 작업 성능을 모두 추구하는 가격대로 노선을 타기 시작한 것이죠. 실제로 OpenCL 성능이나 SPECviewperf 작업 생산성 벤치마크에서 Vega FE는 TITAN Xp의 성능을 크게 앞지르며 엔비디아의 심기를 건드렸습니다. 물론 게임 성능은 여전히 TITAN Xp의 압도적 우세였으나, TITAN의 이름값은 본격적으로 공허해지기 시작했습니다. 이대로 두고 볼 수 없었던 것인지 엔비디아는 결국 드라이버를 통해 잠겨있는 성능을 개방하기에 이릅니다. 이게 무슨 말이냐 하면, 본래 지포스 브랜드에 속하는 그래픽카드는 게임 성능과는 별개로 쿼드로(Quadro)로 대변되는 엔비디아 워크스테이션용 그래픽카드의 가격과 작업 생산성 가치를 보장하기 위해 작업 성능 관련 요소를 드라이버 단에서 제한하고 있었습니다. 이는 TITAN Xp 역시 마찬가지였고요. 하지만 Vega FE로 얻어맞게 되자, 7월 31일 자로 업데이트 된 385.12 드라이버를 통해 TITAN Xp는 지포스 브랜드 그래픽카드와는 차별화된 작업 성능을 선보이게 됩니다. 아주 얄미운 행보라고 할 수 있겠죠. 퀘이사존에서도 벤치마크를 통해 봉인 해제된 성능을 확인한 바 있습니다.<a href="https://www.quasarzone.co.kr/bbs/board.php?bo_table=qc_qsz&wr_id=89989" target="_self">(기사 링크)</a> 다른 측면에서 생각해보면 AMD가 TITAN의 본래 정체성을 억지로 찾아줬다고도 볼 수 있습니다.  역대 최고의 가격과 볼타(Volta) 아키텍처4세대 TITAN, NVIDIA TITAN V <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518588768_7933.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518588768_7933.jpg" style="max-width:100%; height:auto;"> ▲ 볼타 아키텍처 기반의 현존 최강의 GPU를 탑재한 NVIDIA TITAN V 이렇게 혼돈 그 자체인 TITAN 시리즈의 역사를 모두 살펴보았습니다. 다시 본론으로 돌아와 TITAN V를 살펴보겠습니다. 엔비디아가 조금 정신을 차린 것일까요? 이번에는 정말 많은 것들이 달라졌습니다. 네이밍만 봐도 참 깔끔합니다. TITAN X (Pascal) 혹은 TITAN Xp와 같은 미련섞인 지저분한 네이밍 정책이 재정립되어 아키텍처를 상징하는 V로 자리 잡았습니다. 또한, 더욱더 압도적인 가격($2,999 USD)을 가지게 되었고, GEFORCE GTX의 흔적은 아예 존재하지 않으며, TITAN만의 특별한 금빛 옷을 두른 채 LED도 제외하였습니다. 잔기술 안 부리고 프리미엄 콘셉트로 나아가겠다는 뜻이겠죠. 단순히 외형뿐만 아니라 GPU 아키텍처에서도 딥러닝 연산을 위한 전용 텐서(Tensor) 코어를 탑재하였고 실제로 압도적인 성능을 발휘합니다. 물론 보너스 개념으로 TITAN Xp를 능가하는 최강의 게임 성능도 갖추고 있습니다. 이제서야 다시 TITAN다운 TITAN이 되었지만, 가격은 더 먼 곳으로 떠나버렸습니다.    스펙, 스펙을 보자 !! </td></tr></tbody></table></div><table align="center" class="__se_tbl" style="text-align: justify;" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1"><tbody><tr><td style="width: 800px; height: 50px;" class=""><img src="https://img2.quasarzone.co.kr/img/data/editor/1802/40b13caf094c6b4a8a09fbc261617e7b_1518523460_3817.jpg" title="40b13caf094c6b4a8a09fbc261617e7b_1518523460_3817.jpg" style="max-width:100%; height:auto;"> ▲ NVIDIA TITAN V 및 주요 하이엔드 그래픽카드 스펙 TITAN V의 스펙에 대한 설명은 벤치마크 1부에서 다루고 있으니 해당 칼럼을 참고해주시기 바랍니다. 여기서는 텐서 코어에 대해 간략하게 언급하는 것으로 대체하겠습니다.  <div class="apms-autowrap"><div class="apms-autosize"><iframe width="800" height="450" src="https://www.youtube.com/embed/NPrfiOldKf8" frameborder="0" allow="autoplay; encrypted-media" allowfullscreen=""></iframe></div></div> ▲ NVIDIA TITAN V 공식 영상   <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518589329_3313.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518589329_3313.jpg" style="max-width:100%; height:auto;"> 텐서 코어는 딥러닝(Deep Learning) 연산에 최적화된 전용 코어로써 TITAN V에는 640개가 탑재되어 110 TFLOPS 연산 능력을 발휘하는 것으로 알려져 있습니다. 즉 5,120개의 CUDA 코어와 640개의 텐서 코어가 결합된 형태로 TITAN V는 단순 게임용 그래픽카드가 아니라는 확실한 반증이 되어줍니다. 본 벤치마크에서는 TITAN V의 딥러닝 연산 능력을 검증해보기 위해 우분투(ubuntu) OS에서 ResNet-50 모델을 이용한 딥러닝 트레이닝(Training) 연산 능력을 테스트해보았으니 꼭 참고해보시기 바랍니다.     </td></tr></tbody></table><table align="center" class="__se_tbl" style="text-align: justify;" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1"><tbody><tr><td style="width: 800px; height: 50px;">벤치마크 시스템 사양  <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518591082_1152.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518591082_1152.jpg" style="max-width:100%; height:auto;"> 먼저 딥러닝 테스트를 위한 시스템 구성입니다. 리눅스 커널 기반의 우분투(ubuntu) 운영체제를 사용하며 버전은 16.04 LTS입니다. 여기에 전용 드라이버와 워크스테이션 급의 시스템으로 구축하여 NVIDIA TITAN V의 딥러닝 연산 성능에 병목현상의 여지를 최소화하였습니다.  <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518525527_4236.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518525527_4236.jpg" style="max-width:100%; height:auto;"> 다음은 일반적인 작업 성능 및 연산 관련 벤치마크 툴을 구동하기 위한 시스템 구성입니다. 해당 시스템 사양은 벤치마크 1부에서 등장한 시스템과 동일합니다.    <div align="justify" style="line-height: 2; text-align: justify;"><div align="center" style="text-align: center; line-height: 2.2;">※ 퀘이사존 후원사 특별 협찬</div><div align="center" style="text-align: center; line-height: 0.8;"> </div><div align="justify" style="line-height: 2; text-align: justify;"><img src="https://img2.quasarzone.co.kr/img/data/editor/1709/c0f0a2b8517cb7fa50f7a1537a88c8e8_1506574594_4528.jpg" title="c0f0a2b8517cb7fa50f7a1537a88c8e8_1506574594_4528.jpg" style="max-width: 100%; height: auto;"> </div><div align="center" style="text-align: center; line-height: 2.2;">파워서플라이: FSP AURUM PT1000W -> <a href="https://www.enuri.com/detail.jsp?modelno=12009738&cate=&IsDeliverySum=N" target="_self">제품정보클릭</a></div><div align="center" style="text-align: center; line-height: 2.2;">SSD: 마이크론 Crucial MX300 아스크텍 1TB -> <a href="https://www.enuri.com/detail.jsp?modelno=14206647&condiDelivery=N" target="_self">제품정보클릭</a></div><div align="center" style="text-align: center; line-height: 2.2;">램: G.SKILL DDR4 PC4-24000 TRIDENT Z 8GB x2 -> <a href="https://www.enuri.com/detail.jsp?modelno=12531468&condiDelivery=N" target="_self">제품정보클릭</a></div><div align="center" style="text-align: center; line-height: 2.2;"> </div><div align="center" style="text-align: center; line-height: 2.2;"> </div><div align="center" style="text-align: center; line-height: 2.2;"> </div><div align="center" style="text-align: center; line-height: 2.2;"> </div></div></td></tr></tbody></table><table align="center" class="__se_tbl" style="text-align: justify;" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1"><tbody><tr><td style="width: 800px; height: 50px;" class="">※ 아래 내용부터는 벤치마크 결과로 이어집니다.항목별 구체적인 테스트 결괏값은 세부 페이지에서 확인해주세요. 딥러닝(Deep Learning) 성능 테스트  <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/aaffa004254ef88a24e807d459863c92_1518694465_4143.jpg" title="aaffa004254ef88a24e807d459863c92_1518694465_4143.jpg" style="max-width:100%; height:auto;"> <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/47e19b961c2aa4f50f31480e13b5eaff_1519003437_0448.jpg" title="47e19b961c2aa4f50f31480e13b5eaff_1519003437_0448.jpg" style="max-width:100%; height:auto;">  ▲ ResNet-50을 사용한 트레이닝 성능 테스트 결과 표   <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/aaffa004254ef88a24e807d459863c92_1518694124_0266.jpg" title="aaffa004254ef88a24e807d459863c92_1518694124_0266.jpg" style="max-width:100%; height:auto;">  ▲ ResNet-50 네트워크를 사용한 FP16 트레이닝 성능 테스트 결과 그래프 ResNet-50 네트워크(50 레이어)와 이미지넷(ImageNet) 데이터베이스를 활용하여 트레이닝 연산 작업을 수행했을 때의 테스트 결과입니다. 수치가 의미하는 바는 1초에 처리할 수 있는 이미지의 개수이며, 당연히 높을수록 성능이 좋다는 것을 의미하겠죠. 실행 명령어에서 --dtype 매개변수(parameter)를 통해 연산 유닛을 정할 수 있는데요. --dtype float 16으로 입력하면 FP16 정밀도로 연산을 진행할 수 있습니다.(--dtyle float로 입력 시, FP32 연산) 또한, TITAN V에 탑재된 텐서 코어를 활성화하기 위해 --enable-tensor-core 매개변수를 추가할 수 있으며, 위 그래프에는 텐서 코어 활성화에 따른 성능 변화를 살펴볼 수 있게 제작해보았습니다. TITAN V의 경우 FP16과 텐서 코어를 활성화했을 때 가장 최적화된 연산 성능을 발휘하게 되는데요. Batch Size=96 기준, 초당 591.5장의 이미지를 처리하여 TITAN Xp의 약 1.8배에 달하는 성능을 보여줍니다. 게임 성능 부문에서 아무리 높아봐야 약 1.4배에 달하는 성능에 그친 것과 비교하여 더욱 높은 성능 차이를 보여주고 있는 것이죠. 또한 텐서 코어 활성화에 따른 성능 차이(약 1.5배)가 확실하여 텐서 코어의 존재 가치가 분명하다는 것을 증명하고 있습니다. ※ 딥러닝 테스트 관련 내용은 본 칼럼의 별도 페이지에서 자세히 살펴보실 수 있습니다    AIDA64 v5.95.4531 Beta GPGPU 벤치마크 </td></tr></tbody></table><img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518577891_2833.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518577891_2833.jpg" style="max-width: 100%; height: auto;"><table align="center" class="__se_tbl" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1" style="text-align: justify;"><tbody><tr><td class="" style="width: 800px; height: 50px;">▲ AIDA64 GPGPU 벤치마크 테스트 결과 표 ※ GPGPU(General-Purpose Computing on Graphics Processing units)는 기존 그래픽카드의 GPU 역할이 3D 그래픽 분야에 한정되던 것에서 벗어나, 일반 컴퓨팅 영역에서도 GPU를 활용하는 것을 말합니다. 이것은 CPU와 달리 병렬 구조에 압도적인 강점을 지닌 GPU의 특징으로 인해 최신 GPU의 FLOPS 성능이 매우 우수하다는 특성에 기인하고 있습니다. CUDA/OpenCL과 같은 라이브러리를 주로 사용하며, GPU 기반의 렌더링은 CPU보다 훨씬 빠른 속도로 작업을 처리할 수 있기 때문에, 전문가에게는 매우 중요한 지표라 할 수 있습니다. 테스트 결과, 단정도(Single-Precision) 성능은 크게 인상적이지 않았으나, 배정도(Double-Precision) 성능에서 압도적 우위를 점하고 있습니다. TITAN Xp와 비교 시 약 14배 전후의 성능을 발휘하며 이와 같은 특성은 배정도 연산이 요구되는 과학 분야에서 TITAN Xp와는 비교도 되지 않는 성능적 가치를 제공하는 것으로 평가할 수 있습니다. 또한 AES-256, SHA-1과 같은 암호화 알고리즘 연산에도 두각을 나타냅니다.    SiSoft SANDRA 2017 SP4 (build 24.61) 벤치마크 <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518595597_3563.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518595597_3563.jpg" style="max-width:100%; height:auto;"></td></tr></tbody></table><img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518577909_9782.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518577909_9782.jpg" style="max-width:100%; height:auto;"><table align="center" class="__se_tbl" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1" style="text-align: justify;"><tbody><tr><td class="" style="width: 800px; height: 50px;"> ▲ SiSoft SANDRA 2017 SP4 벤치마크 테스트 결과 표 다음은 광범위한 GPGPU 테스트가 가능한 SiSoft SANDRA 벤치마크 결과입니다. 먼저 GP Processing 영역에서 AIDA64가 그랬던 것처럼 배정도 연산에서 단연 두각을 나타냅니다. TITAN Xp의 약 14.5배, RX Vega 64의 약 7.2배에 달하는 성능입니다. GP Scientific Analysis 영역에서는 테스트 항목에 따라 상이한 결과를 나타내는데요. 단정도 연산을 사용하는 FFT(Fast Fourier Transform)에서 TITAN Xp의 약 1.4배, 배정도 연산의 GEMM(General Matrix Multiply)과 N-Body 시뮬레이션에서는 대조군에 포함된 모든 그래픽카드를 압도적인 성능으로 날려버립니다.    LuxMark v3.1 OpenCL GPUs 벤치마크 </td></tr></tbody></table><table align="center" class="__se_tbl" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1" style="text-align: justify;"><tbody><tr><td class="" style="width: 800px; height: 50px;"><img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518596045_6865.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518596045_6865.jpg" style="max-width:100%; height:auto;"> <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518596085_3395.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518596085_3395.jpg" style="max-width:100%; height:auto;">  ▲ Luxmark v3.1 테스트 결과 그래프 ※ Luxmark는 OpenCL(Open Computing Language) 성능을 측정할 수 있는 대표적인 벤치마크 프로그램입니다. OpenCL은 범용 병렬 컴퓨팅 프레임워크를 위한 API로 최초 애플이 개발하였으며, 그 후 AMD, 인텔, 엔비디아 등과 함께 크로노스(Khronos) 그룹을 통해 규격화되었습니다. 퀘이사존 회원이라면 한 번쯤은 OpenCL에 대해 들어봤을 걸로 추측되는데요, 쉽게 말하면 3D 게임에서 사용되는 DirectX, OpenGL, Vulkan 등의 API 개념과 유사한 것으로 생각하면 쉽습니다. 테스트는 각기 다른 Triangle(폴리곤 데이터)로 구성된 3D 이미지를 OpenCL로 렌더링 하며 호텔 로비, TLM-102 마이크, LuxBall HDR 3종으로 구성됩니다. TITAN V는 테스트에 포함된 그래픽카드 중 가장 뛰어난 성능을 발휘하는 것은 물론이고, TITAN Xp와 비교했을 때 약 2배에 해당하는 성능을 보여주었습니다. 한 가지 특이한 부분은 지포스 GTX 1080, GTX 1070 Ti, GTX 1070의 성능이 항목별로 서로 뒤죽박죽인 순서를 보여준다는 것인데요. 수차례 테스트를 반복해도 변하지 않는 것으로 보아 드라이버에 다소 문제가 있는 것으로 판단됩니다.    SPECviewperf v12.1.1 벤치마크 <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518596752_2257.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518596752_2257.jpg" style="max-width:100%; height:auto;"> </td></tr></tbody></table><img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518577931_9512.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518577931_9512.jpg" style="max-width:100%; height:auto;"><table align="center" class="__se_tbl" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1" style="text-align: justify;"><tbody><tr><td class="" style="width: 800px; height: 50px;"> ▲ SPECviewperf v12.1.1 테스트 결과 표 ※ 참고: SPECviewperf는 전문가용 그래픽카드 성능을 측정하는 데 있어서, 인지도가 매우 높은 프로그램입니다. 3ds 맥스(3ds Max), 카티아(Computer Aided Three dimensional Interactive Application; CATIA), PTC CREO, 마야(Maya), SIEMENS NX, 솔리드웍스(Solidworks) 등의 영상/설계 프로그램에서 직접 작업 생산성을 테스트하기 때문에, 실제 작업자가 체감하는 성능과 가장 맞닿아있다고 볼 수 있습니다. 3D 작업 능력의 핵심이라 할 수 있는 SPECviewperf 테스트입니다. NVIDIA TITAN V는 TITAN Xp와 비교하여 성능상 큰 개선점을 보여주지는 못하고 있습니다. 아무래도 엔비디아의 쿼드로(Quadro)가 강세를 보이는 영역인만큼 과거 드라이버를 통해 봉인 해제한 TITAN Xp의 성능에 맞춰 적당선에서 조율한 것이 아닐까하는 의구심도 살짝 있네요. 전반적으로 TITAN V/TITAN Xp가 다른 지포스 그래픽카드에 비해 비교불가능할 정도로 뛰어난 성능을 보여주고 있음을 알 수 있습니다.  이더리움(Ethereum) 채굴 성능 벤치마크  <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518611329_0356.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518611329_0356.jpg" style="max-width:100%; height:auto;"> ▲ Claymore Miner v10.4 채굴 성능 테스트 결과  이더리움 채굴 성능도 테스트 해보았습니다. 벤치마크를 등록하는 현시점에서는 암호화폐에 대한 정부의 규제 및 국제사회의 움직임까지 더해져 과열된 양상이 누그러지고 있지만, 전세계를 강타한 암호화폐의 광풍은 그래픽카드 시장에도 직격탄을 날렸습니다. 어쨌든, 순수한 의미에서 암호화폐를 채굴하기 위한 TITAN V의 성능적 가치가 궁금했는데요. 결과적으로 TITAN V는 채굴 성능에서도 우월함을 뽐냈습니다. 해시값은 69.1 MH/s로 TITAN Xp와 직접 비교 시, 약 1.85배에 달하는 성능입니다. 또한, 오버클로킹에 의한 성능 향상도 커서 약 11.4%의 추가 성능 향상을 얻을 수 있었습니다. 간단히 말해서 이더리움 채굴을 위한 가장 빠른 GPU로 볼 수 있습니다. 추가로 TITAN Xp의 경우 오버클록이 더 많이 이루어졌음에도 성능 향상은 상대적으로 적은데요. 이것은 TITAN V가 단순히 전력 제한 레벨을 해제하면서 얻는 클록 향상률이 훨씬 높기 때문인 것으로 해석 가능합니다. 여기에서 가격을 언급하지 않을 수 없는데요. 과연 채굴자 입장에서 TITAN V가 가치있게 느껴질까요? 가격만 생각하면 TITAN Xp에 비해 2.5배가 높아 가성비가 떨어진다고 볼 수 있지만, 물리적인 관점에서 단일 그래픽카드의 높은 성능은 분명 매력적일 것입니다. 하나의 보드에 장착 가능한 그래픽카드는 한정되어 있기 때문이죠. 또한 TITAN Xp와 동일한 TDP를 갖고 있다는 것 역시 전성비 관점에서도 매력적인 요소입니다. 이러한 다방면의 요소를 고려해볼 필요가 있는 것이죠. 결국 최종적인 판단은 그분들에게 맡기도록 하겠습니다.    </td></tr></tbody></table> <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518616196_3952.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518616196_3952.jpg" style="max-width:100%; height:auto;"> <div align="center" style="text-align: center;"> <table align="center" class="__se_tbl" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1" style="text-align: justify;"><tbody><tr><td style="width: 800px; height: 2442px;" class="">NVIDIA TITAN V 벤치마크 종합 및 결론딥러닝/연산/작업 성능 분석 결과  "모든 분야에서 탁월한 절대 강자" 벤치마크 1부의 게임 성능 부문에서 TITAN V는 냉정히 말해 가격에 비해서는 아쉬운 최강자였습니다. TITAN Xp와 비교하여 최대 30~40% 높은 게임 성능을 누리기 위해 약 400만 원에 달하는 금액을 지불하는 건 일반적인 관점에서 미친 짓입니다. 물론, 여기서 제가 미친 짓이라 표현한 건 좋은 의미와 나쁜 의미를 모두 담고 있습니다. 가성비 그런 거 모르겠고 그저 최강의 게임 성능을 발휘할 수 있다는 사실 만으로도 만족할 수 있는 소비자들은 분명 존재할 것이기 때문입니다.(극소수로 예상합니다) 가격에 구애받지 않는 그분들에게 TITAN V는 배신하지 않을 카드임이 분명합니다. 하지만 보다 현실적이고 일반적인 기준을 적용하면, TITAN V는 게이머를 위해 설계된 그래픽카드가 아니며, 게임 용도로 활용했을 때의 처참한 가성비는 이 카드의 몸값을 납득시켜주지 못합니다. TITAN V의 진정한 가치는 게임에 있지 않은 것이죠. 또한, 곧 시장에 등장할 것으로 예상되는 지포스 20(가제) 시리즈를 고려하는 것이 훨씬 더 합리적인 선택이 될 것입니다.  <img src="https://img2.quasarzone.co.kr/img/data/editor/1802/be84e43226d3ff552ddfd105e9f4b9fa_1518618971_8346.jpg" title="be84e43226d3ff552ddfd105e9f4b9fa_1518618971_8346.jpg" style="max-width:100%; height:auto;"> 반면, 게이밍 영역을 떠난 2부 벤치마크에서 TITAN V는 독보적이었고 빛나는 존재임이 확실했습니다. TITAN V는 적수가 없었습니다. AI 알고리즘에 최적화된 640개의 전용 텐서 코어는 딥러닝(Deep Learning) 트레이닝 테스트에서 TITAN Xp의 성능을 멀찌감치 따돌리는 데 성공했고, 딥러닝 분야에 관심 있는 사람들에게 고려할 수 있는 그래픽카드 중 최강의 성능으로 보답합니다. 또한, 배정도(Double-Precision) 연산 부문에서 부실했던 TITAN Xp의 성능과 비교하여 약 14배 이상 뛰어난 면모를 과시했고, GPGPU 컴퓨팅 분야에서도 가장 뛰어난 성능을 발휘하였습니다. 이와 같은 특징은 배정도 연산이 필요한 개발자나 데이터 과학자에게 상당히 매력적일 것입니다. "강력한 딥러닝 머신, 그리고 GPGPU" 그 외 OpenCL API를 사용하는 LuxMark나 이더리움 채굴 성능에서도 TITAN V는 지구상 가장 빠른 GPU 임을 확인시켜 주었습니다. 이 모든 테스트 결과를 종합해보면, 볼타(Volta) 아키텍처의 특성과 장기는 게이밍 용도에 한정된 것이 아니라는 것에 자연스럽게 무게가 실립니다. 생각해보면 $2,999 USD라는 엄청난 가격은 엔비디아 스스로 소비자층을 의도적으로 제한한 것으로 보이기도 합니다. 게임용 그래픽카드를 원하는 사람이라면 조금 더 기다리라는 신호로써 말이죠. 정리하면, TITAN V는 볼타 아키텍처의 특성과 적합한 사용처를 제대로 이해하고 있는 사람에게는 절대적인 그래픽카드로서 상당한 매력을 갖췄습니다. 비록 고가의 가격이지만 말이죠. 또한, 게임용 지포스 그래픽카드를 기다리고 있는 분들이라면, 제가 벤치마크 1부에서도 견해를 밝힌 것처럼 곧 시장에 등장할 것으로 예상되는 지포스 20 시리즈를 기다리시는 게 좋을 것입니다. 관련 소식과 정보도 하나둘씩 풀릴 것이고요. 과연 차세대 지포스 시리즈는 정말 세간의 루머처럼 볼타가 아닌 암페어(Ampere)로 등장할까요? 그 여부는 곧 밝혀지겠죠. 우리는 그저 실체가 공개될 그날을 흥미로운 상상력으로 기다리면 되겠습니다.    ※ 벤치마크 항목별 구체적인 테스트 결과는본 칼럼의 세부 페이지에서 확인해주시기 바랍니다. </td></tr></tbody></table></div><img title="78abd4bb7c463fe52a8ac5fc4f982a3b_1489064392_9244.jpg" style="height: auto; max-width: 100%;" src="https://img2.quasarzone.co.kr/img/data/editor/1703/78abd4bb7c463fe52a8ac5fc4f982a3b_1489064392_9244.jpg"><table align="center" class="__se_tbl" border="0" cellspacing="0" cellpadding="1" attr_no_border_tbl="1" style="text-align: center;"><tbody><tr><td class="" style="width: 800px; height: 61px;">        <img title="0806ec80b22c3dea531dacab3e4cba81_1518413256_4698.jpg" src="https://img2.quasarzone.co.kr/img/data/editor/1802/0806ec80b22c3dea531dacab3e4cba81_1518413256_4698.jpg" style="height: auto; max-width: 100%;"> </td></tr></tbody></table><div align="center" style="line-height: 2.2; text-align: center;"><div align="center">퀘이사존의 저작물은 <a rel="license" href="https://creativecommons.org/licenses/by-nc-nd/4.0/" style="font-style: italic; text-align: justify;">크리에이티브 커먼즈 저작자표시-비영리-변경금지 4.0 국제 라이선스</a>에 따라 이용할 수 있습니다. </div></div><div align="center" style="text-align: center; line-height: 2.2;"> </div><div align="center" style="text-align: center; line-height: 2.2;"> </div><div align="center" style="text-align: center; line-height: 2.2;"> </div> <div class="content_move">[이 게시물은 퀘이사존슈아님에 의해 2020-05-29 17:34:21 퀘이사 칼럼게시판에서 이동 됨]</div><div class="content_move">[이 게시물은 퀘이사존슈아님에 의해 2020-05-29 20:19:52 벤치마크게시판에서 이동 됨]</div>