하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

L1, L2 및 L3 캐시의 차이점: CPU 캐시는 어떻게 작동합니까?

QM지름

27 52347 19 2021.01.16 22:22

하드웨어에 미치고 유저들을 사랑하는 남자, 생각하는 모든 것들을 현실로 만들 수 있는 열정을 가진 남자,
퀘이사존 최고운영자 QM지림입니다.
본 뉴스는 해외 매체의 단순 번역본으로 퀘이사존의 주관적인 견해가 포함되지 않았음을 밝혀드립니다.
 <img src="https://img2.quasarzone.com/editor/2021/01/16/d706fe3bb188918b9fe1efa3c2fddff6.jpg" style="width: 100%;"> 모든 최신 프로세서에는 소량의 캐시 메모리가 있습니다. 지난 수십 년 동안 캐시 아키텍처는 점점 더 복잡해졌습니다. CPU 캐시 수준은 L1, L2 및 L3의 3개로 증가했으며 각 블록의 크기가 증가했으며 캐시 연관성도 여러 번 변경되었습니다. 그러나 세부 사항을 살펴보기 전에 캐시 메모리가 정확히 무엇이며 왜 중요한지 알아야 합니다. 또한 최신 프로세서는 L1, L2 및 L3 캐시로 구성됩니다. 이러한 캐시 수준의 차이점은 무엇입니까? 캐시 메모리 vs 시스템 메모리 : SRAM vs DRAM
캐시 메모리는 훨씬 더 빠르고 고가의 정적 RAM을 기반으로 하며 시스템 메모리는 더 느린 DRAM (동적 RAM)을 활용합니다. 두 가지의 주요 차이점은 전자는 CMOS 기술과 트랜지스터 (각 블록 당 6 개)로 만들어졌고 후자는 커패시터와 트랜지스터를 사용한다는 것입니다. 데이터를 장기간 보관하려면 DRAM을 지속적으로 새로 고쳐야 합니다 (충전 누출로 인해). 이로 인해 훨씬 더 많은 전력을 소비하고 속도도 느립니다. SRAM은 새로 고칠 필요가 없으며 훨씬 더 효율적입니다. 그러나 더 높은 가격은 주류 채택을 방해하여 프로세서 캐시로의 사용을 제한했습니다. 프로세서에서 캐시 메모리의 중요성? <img src="https://img2.quasarzone.com/editor/2021/01/16/4bb0e065df286dfa20b3ac63ceccff39.png" style="width: 100%;"> 현대의 프로세서는 80년대와 90년대 초반의 원시 조상들보다 광년 앞서 있습니다. 오늘날, 최상위 소비자 칩은 4GHz를 훨씬 상회하는 반면, 대부분의 DDR4 메모리 모듈은 1800MHz 미만으로 평가되고 있습니다. 따라서 시스템 메모리가 너무 느려서 CPU의 속도를 크게 저하시키지 않고 직접 CPU로 작업할 수 없습니다. 캐시 메모리가 여기에 들어갑니다. 이것은 둘 사이의 중간 역할을 하여 반복적으로 사용되는 데이터의 작은 청크를 저장하거나 경우에 따라 해당 파일의 메모리 주소를 저장합니다. L1, L2 및 L3 캐시 : 차이점은 무엇입니까? <img src="https://img2.quasarzone.com/editor/2021/01/16/c697dbaa10862212eba282c41d0e866c.png" style="width: 100%;"> 현대의 프로세서에서 캐시 메모리는 크기를 늘리고 속도를 줄이기 위해 L1, L2, L3 캐시의 세 세그먼트로 나뉩니다. L3 캐시는 가장 크면서도 가장 느립니다(3세대 Ryzen CPU는 최대 64MB의 L3 캐쉬를 지원합니다). L2와 L1은 L3보다 훨씬 작고 빠르며 각 코어에 대해 분리되어 있습니다. 이전 프로세서는 3단계 L3 캐시를 포함하지 않았으며 L2 캐시와 직접 상호 작용하는 시스템 메모리를 포함했습니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/08e26879c7b7f1976f60459feb857e4a.png"> L1 캐시는 L1 데이터 캐시와 L1 명령 캐시라는 두 섹션으로 더 나뉩니다. 후자는 CPU 코어가 사용하는 반면 전자는 기본 메모리에 다시 기록될 데이터를 저장하는 데 사용됩니다.

L1 캐시는 명령 캐시로 작동할 뿐만 아니라, 사전 해독 데이터와 분기 정보도 보유합니다. 또한 L1 데이터 캐시는 종종 출력 캐시 역할을 하지만 L1 명령 캐시는 입력 캐시처럼 작동합니다. 이 기능은 필요한 지침이 인출 장치 바로 옆에 있으므로 루프가 체결될 때 유용합니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/50b592d0bc2914150464ed7236b871d9.jpg"> 최신 CPU에는 플래그십 프로세서를 위해 최대 512KB의 L1 캐시 (코어 당 64KB)가 포함되어 있으며 서버 부품은 거의 두 배나 많은 기능을 제공합니다.

L2 캐시는 L1보다 훨씬 크지만 동시에 느립니다. 플래그십 CPU의 경우 4-8MB (코어 당 512KB)입니다. 각 코어에는 자체 L1 및 L2 캐시가 있으며 마지막 레벨인 L3 캐시는 다이의 모든 코어에서 공유됩니다.

L3 캐시는 가장 낮은 수준의 캐시입니다. 10MB에서 64MB까지 다양합니다. 서버 칩에는 256MB의 L3 캐시가 있습니다. 또한 AMD의 Ryzen CPU는 경쟁 Intel 칩에 비해 캐시 크기가 훨씬 큽니다. 이는 MCM 설계와 Intel 측의 모 놀리 식 때문입니다. 여기에서 자세한 내용을 읽어보십시오. <img src="https://img2.quasarzone.com/editor/2021/01/16/eff29b986d36f8bbedb354afe9fd69fa.png"><img src="https://img2.quasarzone.com/editor/2021/01/16/c625b11f251cce0e22c0bdb4cb16390a.png"> CPU에 데이터가 필요한 경우 먼저 연결된 코어의 L1 캐시를 검색합니다. 찾을 수없는 경우 L2 및 L3 캐시가 다음에 검색됩니다. 필요한 데이터가 발견되면 이를 캐시 적중이라고 합니다. 반면에 데이터가 캐시에 없으면 CPU는 데이터를 주 메모리 또는 스토리지에서 캐시로 로드하도록 요청해야 합니다. 이는 시간이 걸리고 성능에 부정적인 영향을 미칩니다. 이를 캐시 미스라고 합니다.

일반적으로 캐시 적중률은 캐시 크기가 증가할 때 향상됩니다. 이는 게임 및 기타 지연 시간에 민감한 워크로드의 경우 특히 그렇습니다. 포함 vs 독점 캐시
기본 캐시 구성은 포함 및 독점 캐시의 두 가지 유형입니다. 상위 수준 캐시에 있는 모든 데이터 블록이 하위 수준 캐시에 있는 경우 하위 수준 캐시는 상위 수준 캐시를 포함하는 것으로 알려져 있습니다.

반면에 하위 수준 캐시에 상위 수준 캐시에 없는 데이터 블록만 포함되어 있는 경우 캐시는 상위 수준 캐시를 제외한다고 합니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/0eb8153a53b02688c8d3a8b038ce8358.png"> 포괄적인 캐시
 두 가지 수준의 캐시 메모리가 있는 CPU를 고려하십시오. 이제 블록 X가 요청되었다고 가정합니다. 블록이 L1 캐시에서 발견되면 L1 캐시에서 데이터를 읽고 CPU 코어에서 사용합니다. 그러나 블록이 L1 캐시에서 발견되지 않고 L2에 있으면 L2 캐시에서 가져와 L1에 배치됩니다.

L1 캐시도 꽉 차면 L2 캐시가 변경되지 않은 동안 새로운 블록을 위한 공간을 만들기 위해 블록이 L1에서 제거됩니다. 그러나 데이터 블록이 L1과 L2에서 모두 발견되지 않으면 메모리에서 가져와서 두 캐시 수준에 모두 배치됩니다. 이 경우 L2 캐시가 가득 차고 새 데이터를 위한 공간을 만들기 위해 블록이 제거되면 L2 캐시는 L1 캐시에 무효화 요청을 보내므로 제거된 블록도 거기에서 제거됩니다. 이 무효화 절차로 인해 포함 캐시는 비 포함 또는 독점 캐시보다 약간 느립니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/b5e38dfbc2ea0a450c3eaade8d9946fe.png"> 비포함 또는 독점 캐시
 이제 비포함 또는 전용 캐시의 동일한 예를 살펴보겠습니다. CPU 코어가 블록 X에 대한 요청을 보낸다고 가정해 보겠습니다. 블록이 X인 경우 해당 위치에서 코어에서 읽고 소비됩니다. 그러나 블록 X가 L1에서 발견되지 않고 L2에 있으면 L2에서 L1로 이동합니다. L1에 공간이 없는 경우 L1에서 블록 하나가 제거되고 L2에 저장됩니다. 이것은 공격 대상자 캐시와 같이 L2 캐시가 모집단일 수 있는 유일한 방법입니다. 블록 X가 L1 또는 L2에서 발견되지 않으면 메모리에서 가져와 L1에만 배치됩니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/15dcfc7e7baf32269f48e2bc6fa7a930.png"> 비포함 비독점 (NINE)
 NINE (non-inclusive non-exclusive)이라고 하는 덜 일반적으로 사용되는 세 번째 캐시 정책이 있습니다. 여기서 블록은 상위 수준 캐시를 포함하거나 배타하지 않습니다. 마지막으로 같은 예를 살펴보겠습니다. 블록 X에 대한 요청이 있으며 L1에 있습니다. 그런 다음 CPU 코어는 L1 캐시에서 이 블록을 읽고 사용합니다. 블록이 L1에는 없지만 L2에는 있는 경우 L2에서 L1로 가져옵니다. L2 캐시는 포괄적 캐시가 작동하는 방식과 유사하게 변경되지 않습니다.

그러나 블록이 캐시 수준 중 하나에서 발견되지 않으면 기본 메모리에서 가져와 L1과 L2 모두에 배치됩니다. 그러나 이로 인해 포함된 캐시와 달리 L2에서 블록이 제거되면 L1 캐시에 대해 동일한 블록을 다시 무효화하지 않습니다. 메모리 매핑 살펴보기
캐시에 대한 기본 설명을 중단하고 시스템 메모리가 캐시 메모리와 통신하는 방식에 대해 이야기하겠습니다. 이를 캐시 또는 메모리 매핑이라고 합니다. 캐시 메모리는 블록 또는 세트로 나뉩니다. 이러한 블록은 차례로 n개의 64-byte 행으로 나뉩니다. 시스템 메모리는 캐시와 동일한 수의 블록 (세트)으로 분할된 다음 두 블록이 연결됩니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/22c0e66fcc218aa53538823cdac97b8f.jpg"> 1GB의 시스템 RAM이 있는 경우 캐시는 8192줄로 분할된 다음 블록으로 구분됩니다. 이를 n-way 연관 캐시라고 합니다. 2방향 연관 캐시의 경우 각 블록에는 각각 두 개의 줄이 포함되고, 4방향에는 각각 네 개의 줄이 포함되며, 8방향에는 여덟 개의 줄이, 16방향에는 16개의 줄이 포함됩니다. 총 RAM 크기가 1GB인 경우 메모리의 각 블록의 크기는 512KB가 됩니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/a29b2d16f3a7507b5730fd565c55cc62.jpg" style="width: 100%;"> 512KB의 4방향 관련 캐시가 있는 경우 RAM은 2,048개의 블록(1GB의 경우 8192/4)으로 분할되고 동일한 수의 4라인 캐시 블록에 연결됩니다.

16방향 연관 캐시의 경우와 마찬가지로 캐시는 메모리의 512(2048KB) 블록에 연결된 512개의 블록으로 나뉘며 각 캐시 블록은 16개의 줄을 포함합니다. 캐시에 데이터 블록이 부족하면 캐시 컨트롤러는 프로세서 실행을 계속하기 위해 필요한 데이터로 새 블록 집합을 다시 로드합니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/866cee4188546666b26d24a02e7bfc92.jpg" style="width: 100%;"> N-way 연관 캐시는 가장 일반적으로 사용되는 매핑 방법입니다. 직접 매핑과 완전히 연결된 매핑이라는 두 가지 방법이 더 있습니다. 전자의 경우 캐시 라인과 메모리 사이에 하드 링크가 있는 반면 후자의 경우 캐시는 메모리 주소를 포함할 수 있습니다. 기본적으로 각 줄은 모든 기본 메모리 블록에 액세스할 수 있습니다. 이 메서드의 적중률이 가장 높습니다. 그러나 구현 비용이 많이 들고 그 결과 대부분 칩 제조업체는 이를 회피하고 있습니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/9e49ff1cebfbe995bcf635753e254752.png" style="width: 100%;">완전히 연결된 매핑

어떤 매핑이 가장 좋습니까?
직접 매핑은 구현하기 가장 쉬운 구성이지만 동시에 효율성이 가장 낮습니다. 예를 들어 CPU가 지정된 메모리 주소(이 경우 1,000개)를 요청하는 경우 컨트롤러는 메모리에서 64바이트 라인을 로드하여 캐시(1,000개에서 1,063개)에 저장합니다. 향후 CPU에 동일한 주소 또는 이 주소 바로 뒤에 있는 주소(1,000 ~ 1,063)의 데이터가 필요할 경우 해당 데이터는 이미 캐시에 저장됩니다. 캐시 라인과 메모리 사이에는 하드 디스크(hard-combination)가 존재하지만 캐시에는 메모리 주소가 포함될 수 있습니다. 기본적으로 각 줄은 모든 기본 메모리 블록에 액세스할 수 있습니다. 이 메서드의 적중률이 가장 높습니다. 그러나 구현 비용이 많이 들고 그 결과 대부분 칩 제조업체는 이를 회피하고 있습니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/022314313034c6eac4da2b012f92c754.jpg" style="width: 100%;"> 이 문제는 CPU에 동일한 캐시 라인에 매핑된 메모리 블록에 있는 두 개의 주소가 하나씩 필요할 때 문제가 됩니다. 예를 들어 CPU가 먼저 주소 1,000을 요청한 다음 주소 2,000을 묻는 경우 이 두 주소가 동일한 메모리 블록(블록 크기 128KB) 내에 있기 때문에 캐시 누락이 발생합니다. 반면에, 그것에 매핑된 캐시 라인은 주소 1,000에서 1,063까지 시작하는 라인입니다. 따라서 캐시 컨트롤러는 첫 번째 캐시 라인에 주소 2000에서 2,063까지 라인을 로드하여 이전 데이터를 제거합니다. 이것이 바로 직접 매핑 캐시가 가장 효율적인 캐시 매핑 기술이며 대부분 폐기된 이유입니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/2b20f7986dcada4324b3a7cc3abd7a2b.png"> 완전 연관 매핑은 직접 매핑과 다소 반대입니다. 메모리 캐시 라인과 RAM 메모리 위치 사이에는 하드 링크가 없습니다. 캐시 컨트롤러는 모든 주소를 저장할 수 있습니다. 위의 문제가 발생하지 않습니다. 이 캐시 매핑 기술은 적중률이 가장 높은 가장 효율적입니다. 그러나 이미 설명했듯이 구현하기가 가장 어렵고 비용이 많이 듭니다. <img src="https://img2.quasarzone.com/editor/2021/01/16/e7a706e6591e11b6334afd10823f8870.jpg" style="width: 100%;"> 결과적으로 완전 연관 매핑과 직접 매핑의 하이브리드인 집합 연관 매핑이 사용됩니다. 여기서 모든 메모리 블록은 일련의 라인 (SA 매핑 종류에 따라 다름)에 연결되고 각 라인은 매핑된 메모리 블록의 모든 주소에서 데이터를 보유할 수 있습니다. 4방향 세트 연관 캐시에서 메모리 캐시의 각 세트는 동일한 메모리 블록에서 최대 4개의 라인을 보유할 수 있습니다. 16방향 구성을 사용하면 이 수치가 16개로 늘어납니다. 매핑된 세트의 슬롯이 모두 사용되면 컨트롤러는 슬롯 중 하나의 내용을 제거하고 동일한 매핑된 메모리 블록에서 다른 데이터 집합을 로드합니다. 4방향 메모리 캐시에서 8방향 캐시로 설정되는 방법 수가 늘어나면 세트당 사용할 수 있는 캐시 슬롯이 늘어납니다. 그러나 캐시 양을 늘리지 않으면 연결된 각 메모리 블록의 메모리 크기가 증가합니다. 기본적으로 전체 캐시 크기를 늘리지 않고 세트 캐시 세트의 사용 가능한 슬롯 수를 늘리면 세트가 더 큰 메모리 블록에 연결되므로 플러시 수가 증가하므로 효율성이 크게 저하됩니다. 반면에 캐시 크기를 늘리면 각 집합에 더 많은 줄이 있게 됩니다(설정 크기도 증가한다고 가정할 때). 즉, 각 메모리 블록에 대해 연결된 캐시 행 수가 더 많다는 의미입니다. 일반적으로 적중률은 증가하지만 전체 수치를 개선할 수 있는 수준에는 한계가 있습니다. 원문 출처 <a href="https://www.hardwaretimes.com/difference-between-l1-l2-and-l3-cache-how-does-cpu-cache-work/" target="_blank">hardwaretimes</a>

QM지름

행성: QM

포인트: 465,703 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 27개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(25.07.16)

퀘이사존

36.9k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
2	LG디스플레이, 고성능 '5스택 OLED' 개발 2 디스플레이 심심해❤️ 113 32분 전
2	마이크로소프트, 윈도우 OEM 라이선스 비용 7~10% 인상… PC 가격 추가 상승 전망 6 소프트웨어 QM달려 193 1시간 전
1	CORSAIR, Stream Deck 지원 NIGHTSWORD v2 WIRELESS SD 게이밍 마우스 출시 2 키보드/마우스 QM달려 159 1시간 전
1	인텔 unlock one game 번들 행사 B860 OR Z890 보드 구매시 다잉라이트 더 비스트 , 문명7 , 히트맨3 증정 1 CPU/MB/RAM 에그시 107 1시간 전
0	LG전자, 차세대 무선 월페이퍼 TV ‘시그니처 OLED W’ 공개… 두께 0.9cm 1 디스플레이 QM달려 205 2시간 전
2	블랙웰 가격 인상 여파… RTX 50 시리즈, 미국 판매가 최대 39% 상승 8 그래픽카드 QM달려 363 2시간 전
1	거센 비난에 직면한 마이크로소프트는 원치 않는 OneDrive 기능의 제거 옵션을 서둘러 추가했습니다 1 소프트웨어 크로노 287 2시간 전
0	마이크로소프트, OneDrive Photos 앱 배포… 현재 제거 옵션 없어 3 소프트웨어 QM달려 149 2시간 전
1	로지텍 G Pro X2 슈퍼스트라이크 2세대 유출 정보, 새로운 색상 및 MCU 탑재 예상 4 키보드/마우스 크로노 293 2시간 전
2	이제 스팀 덱에서 콘솔 없이도 PS5 게임 스트리밍 가능 [PC버전도 공개 예정] 3 기타/주변기기 심심해❤️ 324 3시간 전
9	인텔, 게이머즈 데이 CPU 14세대 시리즈 / 200 시리즈 톰레이더 신작 스타워즈 레이스 신작 게임 번들 이벤트 13 CPU/MB/RAM 에그시 1.3k 11시간 전
4	쿨러마스터는 100% 보증을 제공하는 GPU shield adapter를 발표 8 파워 류오동 1.3k 13시간 전
12	인텔 150억 달러 유상 증자 21 CPU/MB/RAM 립부탄曰인텔은작업 2.6k 14시간 전
4	SK하이닉스 충칭 매각 계획, 중국 철수가 아닌 글로벌 생산 체계 재편 신호 8 업계동향 QM바나 1.8k 15시간 전
16	삼성전자 HBM4 수율, 80%에 도달한 것으로 알려져 18 업계동향 QM바나 3.2k 15시간 전
4	AMD, NPU 뺀 라이젠 7 449·라이젠 5 439 공개… 보급형 노트북에도 Zen 5 탑재 5 CPU/MB/RAM QM달려 819 16시간 전
4	클립쉬, 9개의 새로운 레퍼런스 프리미어 III 스피커 발표: 레퍼런스 프리미어 라인업을 완전히 쇄신합니다 6 음향기기 심심해❤️ 515 17시간 전
0	스페이스X, AT&T·Verizon·T-Mobile에 맞설 이동통신 서비스 출시 계획 공개 4 업계동향 QM건빵 333 17시간 전
8	WH-1000XM4C: 소니, 6년 된 헤드폰 재출시? 9 음향기기 QM락형 1.2k 17시간 전
17	개조된 RTX 4080 32GB 카드가 중고 시장에 다수 등장 35 그래픽카드 QM지름 11.9k 18시간 전
14	발키리, VK87 MAX V2 THOR 87키 기계식 키보드 출시, 약 7만 원 19 키보드/마우스 QM센스 1.2k 18시간 전
2	NVIDIA의 베라 루빈 메모리 관련 비용이 그레이스 블랙웰의 비용보다 두 배나 늘어났습니다. DRAM 가격이 한 세대 만에 2.5배나 급등했고, 한 랙에 스마트... 8 CPU/MB/RAM 크로노 1.2k 19시간 전
0	인텔, 256코어 '다이아몬드 래피즈' 제온 프로세서 출시 정황 포착 5 CPU/MB/RAM QM센스 952 22시간 전
9	기가바이트 B760M GAMING 메인보드 재출시, DDR4+PCIe 5.0 조합 19 CPU/MB/RAM QM센스 1.3k 22시간 전
4	인텔 8080 오리지널 공정 마스크 원본 발견, 복원 전문가 찾는중 6 CPU/MB/RAM QM센스 6.2k 22시간 전
19	대한민국 화이트해커, 세계 해킹 올림픽서 2·3위 '쾌거' 18 업계동향 크로노 2k 23시간 전
14	2026년 4GB GPU로 게임을 플레이하다: AMD는 최악의 실수를 반복하고 있습니다 30 그래픽카드 QM깜냥 4.3k 08-10
4	모더, 지포스 나우 인터페이스 우회해 윈도우 바탕화면 접근 성공 8 소프트웨어 QM센스 1.1k 08-10
5	오픈AI, ChatGPT 무료 사용자 텍스트 대화 횟수 제한 폐지 12 업계동향 QM달려 945 08-10
5	인텔 코어 울트라 7 270K Plus vs AMD 라이젠 7 7700X3D…미드레인지 CPU 맞대결 12 CPU/MB/RAM QM달려 998 08-10