인트로
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/bb63a5c15d8632812fcff2c744887a97.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/287608b421db67f70ea74344a6dcf333.jpg)
미국으로 향하는 첫 관문은 인천국제공항입니다. 그동안 김포에서만 출발하다가 정말 오랜만에 인천국제공항에 들렀네요. 7월 8일에 비는 오지 않았지만 구름이 짙게 껴있었습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/541270f703f9ecf904998df82912b375.jpg)
인고의 11시간 비행 스케줄... 여담으로 한국으로 올 때는 13시간 비행이었습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/d7b1ce7b568b4312c1140e5695a6d61a.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/4431634c68c599235970c763916bac2a.jpg)
11시간 비행 후 도착한 로스앤젤레스 국제공항. 악명높은 입국심사를 익히 들어 알고 있었기 때문에 각종 질문에 답변을 준비했지만 역시 엄청나게 긴장됐습니다. 다행히 세컨더리 룸에 불려 가지는 않고 안전하게 입국 심사를 마쳤습니다. 근육이 엄청난 직원이었는데 Take care라는 인사를 듣고 심사장을 떠나니 마침내 미국에 온 게 실감 났습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/dc6406cb201dfc58b1e56834d08575c1.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/3c7b14c0af4414ea5a0e6cd9c69df111.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/a7a790913fb239542bbb8c099c0d9cdb.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/a908f4c77cc5bad143dc310416895d5b.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/c8e8b01b37618b4729f9343dc63d529a.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/aa02984534992e21e8326148db6eec56.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/c84c4b905110013b641a8c5a2ef6bfd5.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/32639ebe05357991236840204af362cf.jpg)
첫 번째 일정은 박물관 투어였습니다. 이런 행사에서는 으레 현지 투어가 일정에 있다고 합니다. 피터슨 자동차 박물관(Petersen Automotive Museum)인데, 20세기 초반의 올드카부터 테슬라, 백 투 더 퓨처로 유명한 들로리안, 배트포드, 각종 콘셉트 카 까지 차덕후라면 눈이 즐거울 장소입니다. 안타깝게도 저는 차에 그다지 관심이 없어서...
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/9203d9c109434e464dbf715eeee9e806.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/ab21ef52077ed3b0b25687c65f533fb4.jpg)
7월 9일부터 10일까지 이틀 일정의 AMD 젠 5 테크데이 행사가 진행된 LA 웨스틴 보나벤처 호텔. 사실상 호텔 전체가 AMD 테크데이 행사장이라고 해도 좋을 정도로 전 세계에서 모인 기자들로 넘쳤습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/77279af57485a02a3cb57bbde20cb01c.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/404c342f1f7877b0f3566ab118436acf.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/a7c4253ec9d76c642725cab5488a0a9e.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/02b6e1bd52ea61e50daebefd8213e575.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/bd491db0db3899d42a4f03a0289f21a7.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/e8088733ee4cceebb23604d402e49b1d.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/63a6f7231d22837ae2c99264ff88edc7.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/ee9f160cf0302769e431bfa19d59f707.jpg)
행사장 한켠에 마련된 데모 부스. 라이젠 AI 300 시리즈 탑재 노트북과 라이젠 9000 시리즈 탑재 데스크톱, CPU 실물이 전시되어 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/e687db8ae8415344e81c601aa3a65241.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/69d2f35693fc44273468df4d5da0ce1a.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/bf7d7a6c5d3df08f9ef8306846f8bdb7.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/cf876ebcbd4b53344d5d02cf147f8470.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/c37bf9073bce4a65e3115cb9113948c6.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/ba0966078fcd293db1b295c3dbd15a15.jpg)
아시아, 유럽, 남미 등 다양한 대륙에서 수많은 기자가 참석한 테크데이 행사 메인 세션. 다양한 AMD 담당자, 연구원이 각자 영역을 소개하는 시간이었습니다. 라이젠 9000 시리즈, 라이젠 AI 300 시리즈, 젠 5 아키텍처, XDNA 2 아키텍처, RDNA 2 아키텍처까지 소비자용 제품은 물론 아키텍처 기술까지 총망라한 기술 발표회입니다.
라이젠 9000 시리즈
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/a8d9eb7ae16da8a29e77aa34e59d0bb9.jpg)
아마 가장 많은 분들이 기대하셨을 라이젠 9000 시리즈 CPU입니다. 라이젠 9000 시리즈 CPU는 현재 출시한 모든 AM5 메인보드에서 사용할 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/46ee3bcde0d5362cc3d6c140ead6cf94.jpg)
컴퓨텍스 2024에서 미리 소개한 바 있는 16, 12, 8, 6코어 CPU입니다. 컴퓨텍스에서 라이젠 9 9950X 성능을 미리 확인했는데, 이번에는 나머지 CPU를 소개했습니다.
컴퓨텍스 2024 AMD 리사수 키노트 보러 가기 링크
라이젠 9 9900X vs. 코어 i9-14900K
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/5f69070183f5404a55aba832173c14fc.jpg)
먼저 12코어 라이젠 9 9900X입니다. 왼쪽은 콘텐츠 생산성, 오른쪽은 게임입니다. 코어 i9-14900K와 비교했습니다. 핸드브레이크에서 가장 극적인 향상을 보여주었고, 라이젠 9000 시리즈는 AVX-512 명령어를 지원합니다. 게임에서도 전반적으로 두 자릿수만큼 성능이 높습니다.
라이젠 7 9700X vs. 코어 i7-14700K
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/59f27e0162b7288d5d1621c49cdb6012.jpg)
8코어 라이젠 7 9700X는 코어 i7-14700K와 비교했는데, 마찬가지로 생산성과 게임에서 더 높은 성능을 제공합니다.
라이젠 5 9600X vs. 코어 i5-14600K
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/ecbc34726e83a46c59456e6a6914bcfc.jpg)
마지막으로 6코어 라이젠 5 9600X입니다. 코어 i5-14600K와 비교했습니다.
라이젠 7 9700X 65 W vs. 5800X3D 105 W
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/7f3ca38b776c1f2cae34370e7c87faa5.jpg)
하지만 경쟁사와 비교가 능사는 아닙니다. AMD 역사상 가장 인기 있는 CPU와 비교입니다. 라이젠 7 9700X와 5800X3D의 성능입니다. 라이젠 7 5800X3D에 탑재된 3D V-캐시는 게임에서 정말 놀라운 성능을 보여줍니다. 라이젠 7 9700X는 이보다 평균적으로 12% 더 높은 게임 성능을 발휘합니다. AM4 플랫폼에서 더 높은 성능을 얻고자 한다면 AM5 플랫폼으로 업그레이드가 좋은 선택입니다.
한 가지 아쉬운 건 라이젠 7 7800X3D와 비교가 아니라는 점입니다. 분명 많은 사람들이 궁금할 성능은 현재 최고의 게이밍 CPU인 7800X3D와 비교일텐데 말이죠. 퀘이사존 벤치마크에서 7800X3D는 5800X3D보다 16% 게임 성능이 높았으니 이로 짐작해 보면 9700X는 7800X3D보다 게임 성능은 떨어질 것으로 예상해 볼 수 있습니다. 7800X3D와 비교는 엠바고 해제일까지 기다려야 하겠습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/4310a15c6a035d140b1c06b3340d8340.jpg)
AMD는 라이젠 9000 시리즈에서 덮개 디자인, 열 인터페이스 소재, CPU의 전반적인 구조를 최적화하기 위해 노력했습니다. 그리고 세대를 거듭하면서 열 저항이 15% 향상되었고, 따라서 동일한 TDP에서 온도가 7℃ 낮아졌다고 합니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/4d011589c2d8533d054f60f38592069e.jpg)
라이젠 9000 시리즈는 전반적으로 TDP가 변경되었습니다. 16코어 CPU는 170 W로 같지만, 12코어는 170 W에서 120 W로 낮아졌고, 라이젠 7, 5는 65 W로 낮아졌습니다. 그러면서 더 높은 멀티코어 성능을 제공합니다. 전력과 성능 간 최적화와 균형점을 찾으면서 작동 지점에서 에너지 효율을 극대화하고 집중한 TDP를 선택했습니다. 이에 따라 일부 제품의 TDP를 실제로 낮출 수 있었다고 합니다.
DDR5-8000 메모리 지원
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/37c92c2ba64af6407088936c1a1f0293.jpg)
라이젠 9000 시리즈와 함께 공개되는 AGESA 버전에 새로운 오버클록 기능이 추가됩니다. 우선 AM5 메인보드에서 최대 DDR5-8000 메모리 오버클록을 지원합니다. 또한 메모리 오버클록을 위한 새로운 기능을 추가했습니다. 메모리 최적화 성능 프로필은 예를 들어 DDR5-8000 메모리 키트를 장착했을 때 성능 프로필이 실제로 해당 DIMM의 메모리 속도와 지연 시간을 동적으로 조정하여 실행 중인 애플리케이션에 최적화된 성능을 제공합니다.
라이젠 9000 시리즈에는 Curve Shaper 기능이 도입됩니다. 사용자가 성능을 원하는 만큼 전압 주파수 곡선 모양을 동적으로 조정할 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/3886985d40b72680f741ecdbb1fd6d75.jpg)
PBO 기능은 라이젠 CPU의 필수 요소입니다. 라이젠 9000 시리즈도 다르지 않은데, 라이젠 9, 7, 5 CPU에서 기본 TDP와 비교하여 시네벤치에서 더 높은 점수를 달성할 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/a76c4247149ce26ad46ab3ef13097689.jpg)
AM4 플랫폼은 여러 세대에 걸친 젠 CPU를 지원했고 처음으로 지원하는 다양한 기능을 가능케 했습니다. 소켓 수명에 대한 약속은 소비자에게 매우 중요합니다. AM5는 2027년까지 지원됩니다. 향후 로드맵에서도 AM5 플랫폼을 유지합니다.
AMD 800 시리즈 칩세트
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/b8eca3f1913113d2d791fb730704e131.jpg)
800 시리즈 메인보드는 올해 말 출시할 예정입니다. X870 칩세트에서 중요한 사항은 USB 4입니다. USB 4 저장장치를 통해 빠르게 자료를 옮길 수 있습니다. 또한 CPU와 메모리 오버클록을 지원합니다. 800 시리즈에서 새롭게 등장하는 라인업은 메모리 오버클록만 지원하는 B840입니다. 600 시리즈 칩세트에는 40이라는 이름이 없었었죠.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/65dcb679609c118914ca9d34e8af7760.jpg)
AM5 플랫폼의 장점 중 하나는 경쟁사보다 더 많은 PCIe 5.0을 지원한다는 겁니다. 다양한 그래픽카드는 물론 Gen 5 저장장치를 함께 사용할 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/0e681de9627afef028b89dcad94b1198.jpg)
라이젠 9 9900X는 AVX-512와 VNNI 명령어를 지원하여 코어 i9-14900K 대비 Llama와 Mistral 모델에서 17, 20% 초당 더 많은 토큰을 생성할 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/e447a9fde719e4e25eb0c72f715f181e.jpg)
마지막으로 라이젠 9000 시리즈는 7월 31일 출시할 예정입니다.
라이젠 AI 300 시리즈
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/77cd76e3290e87fa9613cb1d01fcd4a5.jpg)
PC 시장은 매우 빠르게 변화하고 있습니다. 가장 큰 변화중 하나는 AI PC의 등장과 로컬로 AI를 사용하는 것입니다. 라이젠 AI 300 시리즈는 타협 없는 AI PC 설루션입니다. 마이크로소프트의 새로운 Copilot+는 XDNA NPU를 활용하는 기능으로 매우 기대됩니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/ebe6021888b3788e520d37e7639feb53.jpg)
사람들이 AI를 사용하는 가장 큰 이유는 무언가를 처리하고 싶기 때문입니다. 시간을 효율적으로 사용하면서 말이죠. 애플리케이션 시작, 파워포인트, 엑셀을 빠르게 불러오거나 바로 실행할 수 있는 기능은 매우 중요합니다. 광범위한 생산성 벤치마크인 PC마크 10에서 라이젠 AI 300 시리즈는 경쟁사들을 모두 앞섭니다. 오피스 작업과 웹브라우징 벤치마크 역시 가장 높습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/25c865cfbeac5301b48104b96a03a9ea.jpg)
렌더링이나 이미지 생성, 동영상 등 콘텐츠 제작도 빠르게 끝마칠 수 있어야 합니다. 시네벤치, 핸드브레이크, 블렌더 같은 주요 애플리케이션에서도 라이젠 AI 300 시리즈는 최고 성능을 제공합니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/968597204ff7198cdd3d3df0c91edf03.jpg)
생산성 못지않게 중요한 분야가 게임입니다. 유명한 AAA 게임 타이틀에서도 젠 5 CPU와 내장 그래픽으로 뛰어난 성능을 발휘합니다. 일부 타이틀을 실행할 수 없는 일부 경쟁사 모델과 달리 라이젠 AI 300 시리즈는 모든 게임을 지원합니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/6d35c85b92a3157ea3ef069bdbe1bb9a.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/2893e656d22864332d654ca20e3cf19c.jpg)
AMD는 마이크로소프트와 긴밀한 파트너 관계를 맺고 있습니다. XBOX, 데이터센터, 윈도우 시스템에 새롭게 도입하는 Copilot+까지 말이죠. XDNA 2 NPU는 마이크로소프트와 협력으로 개발되었습니다. 7월에 출시하는 라이젠 AI 300 시스템은 모두 Copilot+ 표준을 지원합니다. 긴밀한 파트너십을 통해 라이젠 AI 300 설루션의 XDNA 2 NPU를 효율적으로 사용할 수 있도록 합니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/3b7f291866e62c144998fda30cf9cf3f.jpg)
또한 유니티는 AI 기술과 NPU를 기반으로 설루션을 쉽게 개발할 수 있는 소프트웨어 키트 표준을 공개했습니다. 이번 달 말에 출시하는 AMUSE 2.0입니다. 머릿속에 있는 기본적인 아이디어를 스케치하면 이를 시각적으로 완성되게 만들 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/8bc909ac6d5bf72ddf8be9a7a325ff90.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/6dcd6afc7a1be0db3c9b38629649e005.jpg)
간단한 그림을 원하는 콘셉트에 맞게 멋진 그림으로 바꿀 수 있습니다. 단지 몇 초 만에 할 수 있습니다.
젠 5 아키텍처
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/c63122bc54bdc97e7525f08a53820bcf.jpg)
라이젠 9000 시리즈와 라이젠 AI 300 시리즈를 비롯한 차세대 CPU의 핵심은 바로 젠 5 아키텍처입니다. AMD 젠 5 아키텍처는 프론트엔드를 새롭게 디자인했습니다. 이로인해 백엔드에 더 많은 명령어를 제공할 수 있습니다. 또판 실행 파이프라인도 넓어졌습니다. 캐시 대역폭이 두 배로 늘어나는 효과가 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/691fe75e3fcf29b093439eb4e985df93.jpg)
첫 번째로 설명할 내용은 프론트엔드입니다. 마이크로 아키텍처의 중요한 요소인 분기 예측(Branch Prediction) 정확도가 향상되었습니다. 젠 5는 정확할 뿐 아니라 주기당 더 많은 예측을 실행합니다. 지연시간이 개선되었으며, 추가로 이중 디코드 파이프를 추가했습니다. 이 모든 요소를 통해 주기당 더 많은 예측을 실행할 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/67810969fb2fe105ee2e5e6566df090c.jpg)
다음은 디스패치와 실행입니다. AMD는 1세대 젠부터 젠 4까지 명령어 처리를 개선해왔고 IPC는 계속 상승했습니다. 이런 기조는 젠 5에서도 이어집니다. 젠 5는 8개의 명령어 디스패치/퇴출을 통해 각 사이클을 지원합니다. 스케줄링 역시 개선되었습니다. 젠 5에는 실행을 최적화할 수 있는 통합 스케줄러가 각 ALU(정수 유닛)에 적용되었습니다. 파이프라인이 넓어지면 명령어가 많을 때 미스 처리를 해결해야 성능이 효과적으로 높아집니다. 이를 위해 execution window를 40% 넓혔습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/391d8b8ccfc60ee86a0471154d8d31f7.jpg)
젠 4에는 32 KB의 데이터 캐시가 있었습니다. 젠 5에는 앞선 개선사항을 실현하기 위해 데이터 캐시를 48 KB로 50% 늘렸습니다. 캐시가 늘어나면 지연시간이 늘어나는 부작용이 있습니다. 하지만 젠 5는 4 사이클 액세스로 개선하면서 캐시를 늘렸습니다. 균형을 맞추기 위해 L1 대역폭을 두배로 늘리고, 마지막으로 데이터 프리패치 알고리즘을 조정했습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/78c47decb860dc436ab4fb12d4b2519c.jpg)
젠 5는 512-bit 데이터 경로로 AVX-512를 완벽하게 지원합니다. 젠 4에서는 AVX-512를 256-bit 듀얼 펌프하여 지원하고 있었습니다. 또한 부동소수점 지연 시간을 3에서 2주기로 줄였습니다. 파이프라인을 물리적으로 두 배로 늘렸고, 지연시간을 줄였으며, 처리량이 늘어났습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/05598daa0041365f390dfe60ff578cdd.jpg)
이런 개선 사항으로 젠 4 대비 광범위한 워크로드에서 전체적으로 16% 성능 향상을 이뤘습니다. 일부 소프트웨어는 그보다도 높은 성능을 달성합니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/09259f163d3dcd4186b118a59c0991ca.jpg)
젠 4 대비 싱글 코어 머신 러닝에서 최대 32%, AES 암호화 벤치마크에서는 최대 35% 성능 향상이 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/33ab59387542729c65be1fd56d1097ed.jpg)
IPC 향상 배경에는 다양한 요소가 관여하고, 상당히 균형 잡혀있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/4d02ec464e194c3f40b51f0fdd0de62c.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/11fb1f48f591c0f48430115bc6979648.jpg)
3세대 라이젠 AI CPU와 5세대 에픽 CPU는 젠 5 아키텍처를 사용합니다. 특히 5세대 에픽 CPU는 최대 무려 192코어 384스레드의 괴물이라고 할 수 있습니다.
XDNA 2 아키텍처
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/c01f380e6a899e7b7ea2878381bfe18b.jpg)
AI는 빠르게 진화하고 있습니다. 일반적인 머신 러닝에서 신경망과 딥 러닝, 신경망 아키텍처까지 확장되었습니다. 놀라운 속도로 향상되고 있습니다. 대학에서 처음 발명되었을 때 부터 실제로 생산되기까지의 시간이 극히 짧아졌습니다. 우리가 알고 있던 전통적인 컴퓨팅이 통합되고 인공지능의 지시를 받고 있습니다.
CPU에는 일반적으로 AI 명령어가 있어서 바로 가속할 수 있습니다. 당연히 GPU에도 AI를 가속하고 다양한 워크로드에 사용되고 있습니다. 하지만 AI가 점점 전문화되면서 특히 상시 작동해야 하는 애플리케이션의 경우 높은 에너지 효율성이 필요합니다. 이룰 위해 새로운 아키텍처가 필요해졌는데 바로 NPU입니다. NPU의 유일한 목적은 AI를 효율적으로 실행하는 겁니다. AI 처리에 특화되어 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/1cc05e4f22e0f8a037634becba625bce.jpg)
PC 내부에서 점점 많은 작업이 로컬 AI로 실행되고 있습니다. PC에서 실행되는 AI 유형도 성장하고 다양해지고 있습니다. 이를 통제하기 위해서는 AI가 매우 효율적으로 작동해야 합니다. 특히 AI는 항상 켜져 있어야 하는 경우가 많습니다. 이것이 바로 NPU가 중요한 이유입니다. 간단하게 NPU의 에너지 효율성을 그래프로 나타냈습니다. 다른 아키텍처에 비해 상당히 높습니다. 라이젠 AI 300 프로세서로 다양한 AI 작업을 실행해서 에너지 효율을 비교했습니다. CPU에 비해 NPU는 35배에 달하는 에너지 효율을 제공할 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/8ce999efd90799fc7588e7f42b187ce5.jpg)
AMD는 세계 최초로 x86 프로세서에 NPU를 통합했습니다. 이미 작년에 대량생산에 돌입했으며, 대규모 AI 경험을 제공합니다. 이런 유리한 출발은 생태계 생성과 파트너 협력을 통해 다음 세대를 더 수월하게 준비할 수 있었습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/0c80cffc9eb11050a1285f651a424fd9.jpg)
새로운 XDNA 2 아키텍처는 50 TOPS AI 연산 성능을 갖추고 있습니다. 이를 통해 차세대 AI 경험을 강화하기 위해 노력하고 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/a97c74c6baa8050938052bd0489c820c.jpg)
XDNA는 다른 NPU와는 다릅니다. XDNA는 슬라이드 오른쪽 같은 공간 데이터 흐름 아키텍처를 기반으로 합니다. 기본적으로 매우 똑똑하고 유연한 상호 연결을 갖춘 AI 컴퓨팅의 2차원 배열이라는 것을 알 수 있습니다. 이런 연결은 프로그래밍할 수 있습니다. 다른 몇 가지 중요한 이점이 있습니다. 예를 들어 AI 컴퓨팅 간에 다른 아키텍처에는 없는 테라바이트 규모의 동/서 대역폭이 있습니다. 특정 AI 애플리케이션에 매우 필수적인 실시간 성능을 얻을 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/89f346245b78ba07760bda52e4feb20d.jpg)
XDNA 2에서는 컴퓨팅 성능을 크게 향상했습니다. 1세대와 비교하여 AI 컴퓨팅 타일이 20에서 32로 증가했습니다. 각 타일당 AI 컴퓨팅 용량은 두 배로 늘렸습니다. 온칩 메모리를 1.6배 늘려서 새로운 데이터 유형을 통해 혁신을 이루었습니다. 이를 블록 부동 소수점이라고 합니다. 마지막으로 비선형 함수에 대한 지원을 강화했습니다. 이를 모두 합쳐서 XDNA 2는 50 NPU TOPS 성능을 제공합니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/a53bd8a58396c5bb343c4a710a276429.jpg)
이전 세대와 비교하면 컴퓨팅 성능은 5배, 전력 효율은 2배 증가했습니다. 더 높은 성능을 제공할 뿐 아니라 실제로는 더 많은 기능까지 제공합니다. XDNA 2는 최대 8개의 동시 공간 스트림을 전송할 수 있으며 칼럼-베이스 파워는 많은 파워 게이팅을 할 수 있는 강력한 기능입니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/e1436ead2b4763981250deaab5419ff6.jpg)
컴퓨텍스 2024에서도 소개된 바 있는 Block FP16입니다. AI를 사용할 때 FP16나 INT8로 연산할 수 있습니다. FP16은 정밀도나 정확도는 굉장히 높지만, 성능이 충분하지 않은 경우가 많습니다. 반면 INT8은 굉장히 빠릅니다. 하지만 문제는 정확성이 떨어진다는 점에 있습니다. 개발자는 딜레마에 빠지게 됩니다. 정확하지만 느린 FP16을 사용해야 할지, 빠르지만 정확도가 낮은 INT8을 사용해야할 지 말이죠. XDNA 2에는 새로운 유형을 도입했습니다. 바로 Block FP16입니다. 개발자는 INT8 수준의 성능과 FP16과 거의 비슷한 정확도를 얻을 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/0f698ab6ddf4a12736d1640e5cb290e2.jpg)
XDNA 2는 다른 NPU와 마찬가지로 뛰어난 INT8 성능을 제공합니다. 경쟁사와 차별화되는 점은 FP16과 유사한 정확도를 유지하면서 이 성능을 제공할 수 있다는 겁니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/0e976f234449855f18135ab716d38cd6.jpg)
Llama2-7B 모델을 사용한 성능입니다. FP16을 점진적 재교육 없이 INT8로 낮추면 정확도가 떨어집니다. 하지만 Block FP16을 사용하면 FP16과 거의 동일한 정확도를 얻을 수 있습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/33f6a92b14f26d2a87d776edfc771420.jpg)
비전 트랜스포머, NLP, 게임 음성 모델의 다양한 모델을 조사했습니다. 그리고 이 모든 항목에서 Block FP16이 높은 정밀도와 정확도를 대부분 유지했습니다.
RDNA 3.5 아키텍처
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/79bf6bd35054041f4b60df67e8e0ab2c.jpg)
RDNA 3.5는 모바일 환경에 최적화 되어있습니다. 삼성과 파트너십을 통해 갤럭시 스마트폰에 최적화된 RDNA IP를 라이선스 제공했습니다. 모바일을 위해서는 W당 성능에 집중해야 하고, 소비전력 대비 두 자릿수 성능 향상을 이뤄냈습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/27ce69e67702a84a6f77ef26e6639257.jpg)
RDNA 3.5에서는 샘플링 속도를 두 배로 늘렸습니다. 텍스처 샘플 단위를 두 배로 늘려서 가능한 향상입니다. 그래서 병렬 처리를 추가하여 상당한 속도 향상을 제공합니다. 일반적인 게임 텍스처링 작업에 활용됩니다. 셰이더 서브시스템도 개선했는데, 픽셀 보간, 비교율을 두 배로 늘렸습니다. 일반적인 셰이딩에 사용되는 연산입니다. 특별한 요소를 추가했는데 바로 스칼라 산술 논리 유닛이며, 이 장치는 단일 사용 쓰기를 식별합니다.
다음으로 집중한 영역은 메모리에 접근하는 래스터화 하위 시스템입니다. 주요 변화는 하위 배치(sub-batches)에 대한 새로운 접근 방식입니다. 더 작은 하위 배치를 만들 수 있을 때 공간적 지역성(spatial locality)을 이용할 수 있습니다. 이를 통해 메모리에 저장하는 것보다 더 쉽고, 캐시에서 더 많은 작업을 수행할 수 있습니다. 전력도 크게 절약됩니다. 마지막으로 LPDDR5 메모리에 최적화했습니다. 지연시간을 줄이고 압축 기술을 조정했습니다. 이를 통해 메모리 트래픽을 줄였습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/9f6ff5d7c7a5bfc2a8e5aa659fa6bef7.jpg)
이런 개선으로 이전 세대 모델과 비교하여 3D 마크 타임 스파이에서 32%, 나이트 레이드에서 19% 성능 향상을 이뤄낼 수 있었습니다. 다시 한번 말하자면 이는 저전력 플랫폼입니다.
라이젠 9 9950X 시네벤치 공개!
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/a0e055d5faceabe880d5aa287db20c25.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/9c3c101ce3282c053f5a9df2df84f389.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/d6bbdd560a5585fef5f45fd3f6572519.jpg)
마지막 세션은 오버클록 시연입니다. 라이젠 9 9950X의 실제 성능을 확인할 수 있습니다. 라이젠 9 9950X에 PBO와 EXPO를 적용한 시네벤치 R23 점수입니다. 43,905점.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/745f14b95d7c684d2297082abdcd78ea.jpg)
PBO보다 더 높은 성능 향상, Curve Shaper
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/fe8f6bfc0b710b8f24580ae719fd08b5.jpg)
앞선 라이젠 9000 시리즈 오버클록 슬라이드에서 소개한 Curve Shaper입니다. 메인보드에 새로운 AGESA 버전 바이오스로 업데이트하면 메뉴에 나타납니다. 시연에 사용한 메인보드는 ASRock X670E Taichi입니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/26b66865649dd88000e88c2060bac6c5.jpg)
Curve Shaper를 적용하면 41,924점에서 45,303점으로 8%만큼 점수가 높아집니다. 빨리 만져보고 싶은 기능입니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/1d9cccaf2d2c1348e89164129a6f0798.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/250a5129624268000b6143534c8aa581.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/e4dd85870337079f7a5d4a6f11901ff2.jpg)
다음은 LN2로 하는 극한 오버클록입니다. 차가운 액체 질소에서 연기가 나는 모습은 언제 봐도 대단합니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/7e4b98bc1d57183436a5d47a0ec3ff8b.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/01071d9aedc3c37f17e031f61c72d388.jpg)
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/253f7bcf0d35473566150778e1a5db22.jpg)
최종적으로 LN2 오버클록은 6.2 GHz에서 시네벤치 53,557점을 달성했습니다.
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/ce7c99e69eb80227574ae79747492cb7.png)
맺음말
![퀘이사존](https://img2.quasarzone.com/editor/2024/07/15/a2c7d75eec0e52b7579e3cd14b81d524.jpg)
사실 행사 이름은 젠 5 테크데이지만, 2/3 정도의 분량이 라이젠 AI 300 시리즈와 AI에 할당되어 컴퓨텍스 2024에 이어 AI에 얼마나 주요 제조사가 사활을 걸고 있는지 다시 한번 알 수 있는 자리였습니다. 물론 일반 소비자나 게이머에게 구미가 당기는 요소가 없지는 않았습니다. AM5에서 드디어 고클록 메모리를 사용할 수 있게 된 DDR5-8000 메모리 지원, Curve Shaper 기술로 PBO보더 더 높은 성능을 달성할 수 있는 등 어서 테스트해 보고 싶은 기능이 한가득입니다.
AMD가 FX 시리즈로 암흑기에 접어든 후 라이젠으로 기사회생하여 업계를 선도하는 기업으로 발돋움하는 일련의 과정을 실제로 지켜보고 테스트해 보고 직접 써본 입장에서 감회가 새로운 시간이었습니다. 가까운 미래에 등장하지 않을까 하는 라이젠 9000 시리즈 X3D CPU가 벌써부터 기대되는군요.