하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

SK하이닉스, 생성형 AI에 특화된 가속기 카드 'AiMX' 시제품 최초 공개

빌보

8 927 3 2023.09.18 13:32

SK하이닉스, 생성형 AI에 특화된 GDDR6-AiM 기반 가속기 카드 ‘AiMX’ 시제품 최초 공개
 SK하이닉스가 지난 12일(미국시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 ‘AI Hardware & Edge AI Summit(이하 AI 서밋) 2023’에서 GDDR6-AiM 기반의 생성형 AI 가속기* 카드인 AiMX* 시제품을 최초 공개 및 시연했다고 18일 밝혔다. <img src="https://img2.quasarzone.com/editor/2023/09/18/3a23d2608acacaff4384d791d61bb692.webp" alt="퀘이사존"> AI 서밋은 영국 마케팅 기업 키사코 리서치(Kisaco Research)가 주최하는 연례 행사로, 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다. 
회사는 이번 서밋에서 ‘인공지능 성능을 가속하는 SK하이닉스의 PIM* 반도체 AiM*(Boost Your AI: Discover the Power of PIM with SK hynix’s AiM)’이라는 슬로건을 걸고, GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 처음 선보였다<a href="https://news.skhynix.co.kr/presscenter/developed-processing-in-memory" target="_blank" style="color: rgb(107, 173, 222);">[관련기사]</a>. 
* 가속기(Accelerator): 각종 정보 처리와 연산에 특화 설계한 칩(Chip)을 사용해 만든 특수 목적의 하드웨어(Hardware) 장치를 통칭
* AiMX(AiM based Accelerator): GDDR6-AiM 칩을 사용해 대규모 언어 모델(Large Language Model, 대량의 텍스트 데이터로 학습하는 인공지능으로 챗GPT가 이에 해당)에 특화된 SK하이닉스의 가속기 카드 제품
* PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 기술
* AiM(Accelerator-in-Memory): SK하이닉스의 PIM 반도체 제품명, GDDR6-AiM이 이에 포함됨 <img src="https://img2.quasarzone.com/editor/2023/09/18/29f7093527b4227adb7db5db4e3ddd34.webp" alt="퀘이사존">▲ GDDR6-AiM(Accelerator-in-Memory)을 여러 개 연결해 성능을 한층 개선한 가속기 카드 ‘AiMX’ 시제품 
생성형 AI*는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에, 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 한다.

 * 생성형 AI(Generative AI): 대량의 데이터를 학습해 이용자의 특정 요구에 따라 결과를 능동적으로 생성해내는 인공지능 
SK하이닉스는 이번 행사에서 메타(Meta)의 생성형 AI인 ‘OPT(Open Pre-trained Transformer) 13B’ 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다. GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만, 전력 소모는 1/5 수준이다. 회사는 이번 시연을 통해 최신 가속기 대비 높은 성능*을 낼 수 있다는 점을 보여주며 인공지능을 서비스하는 글로벌 기업들의 주목을 받았다.

 * AiMX 카드 내부 AiM Control Hub를 ASIC(Application-Specific Integrated Circuit, 특정 용도로 맞춤 제작한 회로)으로 개발 가정했을 때의 성능 이와 함께 회사는 AiMX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다. SK하이닉스 임의철 부사장(메모리솔루션담당)은 ‘생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션(Cost-Effective Generative AI Inference Acceleration using AiM)’이라는 주제로 GPU와 AiMX의 성능을 비교하며 차세대 지능형 메모리 반도체의 미래를 설명했다. 
임 부사장은 “SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션”이라며, “앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라고 밝혔다. 출처 : <a href="https://news.skhynix.co.kr/post/ai-hw-summit-2023" target="_blank">SK하이닉스 뉴스룸</a>

빌보

행성: 블랙홀

포인트: 392,805 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 8개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

15.4k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
0	존 카맥은 2030년까지 인공 일반 지능이 획기적으로 발전할 것으로 예상 1 업계동향 QM지름 173 11:01
0	마이크론, 128GB 단일 DDR5 RAM 샘플 공개: 1TB도 멀지 않았습니다. CPU/MB/RAM QM지름 210 10:55
2	EUV 리소그래피를 구축할 수 있는 유럽: 최초로 자체 EUV 생산 라인을 보유 업계동향 QM지름 122 10:48
2	삼성 SSD 990 프로 4TB 각종 벤치 및 게임 성능, 시스템 등 전체 테스트 3 저장장치 심심해❤️ 495 10:27
1	프랑스 사법 당국, "반경쟁적 관행" 혐의로 엔비디아 프랑스 지사 압수수색 4 업계동향 Wormhole 521 08:44
9	[루머] 92개의 SM과 512비트 메모리 버스를 갖춘 RTX 50 플래그십 "GB202" GPU 13 그래픽카드 Wormhole 1.3k 07:22
9	AMD FSR 3, 포스포큰 & 이모탈스 오브 아베움에서 내일 PC 데뷔 13 소프트웨어 Wormhole 695 07:17
7	Maxsun, 새로운 iCraft Z790 화이트 메인보드 출시 9 CPU/MB/RAM Wormhole 431 07:10
1	Beyerdynamic, 최초의 무선 게임용 헤드셋 MMX 200 발표 음향기기 신지™ 479 03:03
0	Quantinuum의 H1 양자 컴퓨터는 완전한 내결함성 알고리즘을 성공적으로 실행합니다 업계동향 신지™ 443 02:45
3	에픽게임즈, 직원 16%에 영향을 미치는 대량 해고 발표 8 업계동향 신지™ 1k 02:41
7	"한 집에 안 사시죠?"…디즈니플러스도 비번공유 단속 10 소프트웨어 아스트레이 1.8k 01:23
0	SKT가 AI에 사활 건 이유는? 소프트웨어 아스트레이 489 01:21
0	TSMC 오토바이 폭파범, 9년 징역형 선고 업계동향 아스트레이 639 00:50
1	인텔, 유럽에 대용량 EUV를 도입: Fab 34, 인텔 4 노드 생산 시작 업계동향 아스트레이 321 00:47
10	메인기어, 리볼트 소형 폼팩터 게이밍 PC 소개 16 기타/주변기기 아스트레이 741 09-28
13	MSI, 다양한 QD-OLED 게이밍 모니터 준비 중: DQHD 144Hz, UHD 240Hz 및 WQHD 360Hz 15 디스플레이 Wormhole 809 09-28
7	ASUS, ProArt PA169CDV 펜 디스플레이 출시 발표 10 디스플레이 Wormhole 1.1k 09-28
10	기가바이트, 600/700 시리즈 메인보드용 새로운 사용자 중심 BIOS 출시 26 CPU/MB/RAM Wormhole 1.6k 09-28
1	엡손, 법정 승소: XGIMI는 밝기 사양을 수정해야 합니다 4 디스플레이 심심해❤️ 439 09-28
1	중국 최초의 국산 PCIe 5.0 기업용 SSD 컨트롤러 대량 생산 개시 2 저장장치 아스트레이 1.2k 09-28
29	백블레이즈, 올해 중반 SSD 보고서 발표, 씨게이트 드라이브 고장률 800% 달성 31 저장장치 아스트레이 1.9k 09-28
8	인텔 애로우 레이크는 아마도 LP E-코어를 탑재하고 있습니다. 6 CPU/MB/RAM 아스트레이 1.3k 09-28
1	벤큐, 밝기 및 이미지 처리 개선된 신형 게이밍 프로젝터 출시 3 디스플레이 심심해❤️ 278 09-28
6	LG, 내년 OLED TV에 새로운 인공지능 알파10 칩 탑재 예정 8 디스플레이 심심해❤️ 610 09-28
16	Sabrent, PlayStation 5용 최초의 8TB SSD 출시: 높은 가격에 대용량 20 저장장치 퀘이사존 713 09-28
13	AMD 소프트웨어 Adrenalin 23.9.3 WHQL 출시 (다운로드) 14 소프트웨어 퀘이사존 1.3k 09-28
2	중국 최초의 자체 PCIe 5.0 기업용 SSD 컨트롤러 대량 생산 개시 7 저장장치 퀘이사존 393 09-28
3	하드웨어 부족으로 인해 Apple Vision Pro 생산량이 절반으로 줄어들 것이라고 예측 9 기타/주변기기 퀘이사존 570 09-28
5	ASML EUV 선적은 낮은 3nm 수요로 인해 2024년에 30% 감소할 수 있다고 분석가는 경고 6 업계동향 QM지름 771 09-28