حافظه کش CPU چیست؟ بررسی L1، L2، L3 و تأثیر آن بر سرعت پردازنده

حافظه کش CPU چیست؟ بررسی L1، L2، L3 و تأثیر آن بر سرعت پردازنده

پردازنده مرکزی یا CPU در هر ثانیه میلیاردها عملیات را اجرا می‌کند، اما برای انجام این محاسبات به داده‌ها و دستورهایی نیاز دارد که ممکن است در حافظه RAM یا فضای ذخیره‌سازی قرار داشته باشند. اگر پردازنده برای دریافت هر داده منتظر حافظه اصلی بماند، بخش زیادی از توان محاسباتی آن بلااستفاده خواهد ماند.

برای کاهش این فاصله سرعت، داخل یا بسیار نزدیک به هسته‌های پردازنده از حافظه‌ای سریع به نام حافظه کش CPU استفاده می‌شود. Cache نسخه‌ای از داده‌ها و دستورهای پرکاربرد را نگهداری می‌کند تا پردازنده برای دسترسی مجدد به آن‌ها مجبور نباشد هر بار به RAM مراجعه کند.

حافظه کش معمولاً ظرفیت بسیار کمتری نسبت به RAM دارد، اما سرعت دسترسی آن بالاتر و تأخیر آن کمتر است. به همین دلیل حتی چند مگابایت کش می‌تواند تأثیر قابل‌توجهی بر عملکرد پردازنده، بازی‌ها، پایگاه داده، ماشین‌های مجازی و نرم‌افزارهای محاسباتی داشته باشد.

کش پردازنده معمولاً در چند سطح با نام‌های L1، L2 و L3 طراحی می‌شود. هرچه سطح کش به هسته نزدیک‌تر باشد، معمولاً سریع‌تر و کوچک‌تر است. با دورشدن از هسته، ظرفیت افزایش و سرعت دسترسی کاهش پیدا می‌کند.

حافظه کش CPU چیست؟

CPU Cache حافظه‌ای با دسترسی سریع است که میان واحدهای اجرایی پردازنده و حافظه اصلی سیستم قرار می‌گیرد. این حافظه داده‌ها و دستورهایی را نگهداری می‌کند که احتمال می‌رود پردازنده در آینده نزدیک دوباره به آن‌ها نیاز داشته باشد.

هنگامی که CPU به داده‌ای نیاز دارد، ابتدا سطوح نزدیک‌تر کش را بررسی می‌کند. اگر داده موردنظر در Cache وجود داشته باشد، پردازنده آن را با تأخیر بسیار کمتری دریافت می‌کند. اگر داده در هیچ‌یک از سطوح کش پیدا نشود، درخواست به RAM ارسال می‌شود.

نقش Cache را می‌توان به یک میز کار تشبیه کرد:

• ابزارهای داخل دست کاربر مانند Registerهای پردازنده هستند.
• وسایل روی میز مانند حافظه L1 و L2 هستند.
• کشوی میز مانند حافظه L3 است.
• قفسه اتاق مانند RAM است.
• انبار ساختمان مانند SSD یا هارددیسک است.

برداشتن وسیله‌ای از روی میز بسیار سریع‌تر از رفتن به انبار است. Cache نیز اطلاعاتی را که احتمال استفاده مجدد از آن‌ها وجود دارد، نزدیک پردازنده نگه می‌دارد.

چرا CPU به حافظه کش نیاز دارد؟

سرعت پردازنده‌ها طی چند دهه به‌طور چشمگیری افزایش یافته است، اما سرعت دسترسی به حافظه اصلی با همان نسبت افزایش پیدا نکرده است. این اختلاف باعث ایجاد یک گلوگاه میان CPU و RAM می‌شود.

اگر CPU پس از هر دستور مجبور باشد منتظر دریافت اطلاعات از RAM بماند، Pipeline پردازنده متوقف شده و بخشی از Cycleهای پردازشی هدر می‌روند.

Cache با نگهداری داده‌های پرکاربرد، مزایای زیر را ایجاد می‌کند:

• کاهش مدت انتظار پردازنده
• کاهش مراجعه مستقیم به RAM
• افزایش تعداد دستورهای اجراشده در واحد زمان
• کاهش مصرف پهنای باند حافظه اصلی
• بهبود عملکرد نرم‌افزارهای دارای دسترسی تکراری به داده
• بهبود پاسخ‌گویی سیستم در بعضی Workloadها
• کاهش تأخیر پردازش در برنامه‌های حساس

سلسله‌مراتب حافظه در کامپیوتر

سیستم‌های کامپیوتری از چند لایه حافظه با سرعت، ظرفیت و هزینه متفاوت استفاده می‌کنند.

هرچه یک حافظه سریع‌تر و به CPU نزدیک‌تر باشد، ساخت آن گران‌تر و ظرفیت اقتصادی آن کمتر است. به همین دلیل نمی‌توان تمام حافظه سیستم را با فناوری مشابه L1 Cache ساخت.

حافظه L1 چیست؟

L1 Cache یا Level 1 Cache نزدیک‌ترین سطح Cache به واحدهای اجرایی هر هسته است. این سطح معمولاً کمترین تأخیر و بالاترین پهنای باند را در میان Cacheهای عمومی پردازنده دارد.

حافظه L1 در بسیاری از معماری‌ها به دو بخش تقسیم می‌شود:

• L1 Data Cache یا L1D: نگهداری داده‌های مورد استفاده دستورها
• L1 Instruction Cache یا L1I: نگهداری دستورهای برنامه

جداکردن کش دستور و داده اجازه می‌دهد CPU هم‌زمان دستور بعدی را دریافت کرده و اطلاعات لازم برای اجرای دستور فعلی را بخواند.

ویژگی‌های عمومی L1 عبارت‌اند از:

• بسیار نزدیک به هسته پردازنده
• ظرفیت محدود
• تأخیر بسیار کم
• معمولاً اختصاصی برای هر هسته
• تقسیم‌شدن به کش دستور و داده در بسیاری از معماری‌ها

ظرفیت دقیق L1 به معماری پردازنده بستگی دارد و نباید برای تمام مدل‌های Intel، AMD یا ARM یک مقدار ثابت در نظر گرفت.

حافظه L2 چیست؟

L2 Cache یا Level 2 Cache دومین سطح حافظه کش است. این حافظه معمولاً ظرفیت بیشتری از L1 دارد، اما دسترسی به آن اندکی کندتر است.

در بسیاری از پردازنده‌های جدید، هر هسته یک L2 اختصاصی دارد. در بعضی معماری‌ها نیز چند هسته بخشی از L2 را با یکدیگر به اشتراک می‌گذارند.

هنگامی که داده در L1 پیدا نشود، پردازنده معمولاً L2 را بررسی می‌کند. وجود داده در L2 همچنان بسیار سریع‌تر از مراجعه به حافظه RAM است.

ویژگی‌های عمومی L2:

• ظرفیت بیشتر از L1
• تأخیر بیشتر از L1 و کمتر از RAM
• معمولاً Unified و شامل دستور و داده
• ممکن است اختصاصی یا اشتراکی باشد
• نقش واسط میان L1 و Last-Level Cache

حافظه L3 چیست؟

L3 Cache یا Level 3 Cache در بسیاری از پردازنده‌ها آخرین سطح Cache داخلی است و با اصطلاح Last-Level Cache یا LLC نیز شناخته می‌شود.

حافظه L3 معمولاً ظرفیت بیشتری از L1 و L2 دارد، اما تأخیر آن بیشتر است. این Cache در بسیاری از طراحی‌ها میان چند هسته مشترک است.

اشتراک L3 اجازه می‌دهد هسته‌ها داده‌های مشترک را با مراجعه کمتر به RAM دریافت کنند. بااین‌حال ساختار واقعی L3 به معماری بستگی دارد:

• ممکن است میان تمام هسته‌های CPU مشترک باشد.
• ممکن است فقط میان هسته‌های یک Chiplet یا CCD مشترک باشد.
• ممکن است به چند Slice تقسیم شده باشد.
• ظرفیت قابل استفاده هر هسته ممکن است با بار سایر هسته‌ها تغییر کند.

در پردازنده‌های Server و Workstation، ظرفیت L3 می‌تواند بسیار بیشتر از پردازنده‌های معمولی باشد؛ زیرا Workloadهای دیتابیس، مجازی‌سازی و محاسبات علمی از مجموعه داده‌های بزرگ‌تری استفاده می‌کنند.

آیا کش L4 نیز وجود دارد؟

برخی معماری‌ها ممکن است سطح دیگری از Cache، حافظه روی Package یا حافظه سریع نزدیک پردازنده داشته باشند که به‌صورت عمومی L4 نامیده شود. بااین‌حال وجود L4 یک ویژگی عمومی برای تمام CPUها نیست.

همچنین باید میان موارد زیر تفاوت قائل شد:

• Cache استاندارد هسته‌های CPU
• حافظه eDRAM یا SRAM روی Package
• حافظه HBM نزدیک پردازنده
• Cache کارت گرافیک یا شتاب‌دهنده
• Cache کنترلر RAID یا Storage

هر حافظه سریع نزدیک پردازنده الزاماً همان L4 Cache استاندارد CPU نیست.

مقایسه L1، L2 و L3

Cache Hit چیست؟

هنگامی که CPU داده موردنیاز را در حافظه Cache پیدا کند، یک Cache Hit رخ می‌دهد.

مثال:

1. پردازنده به یک مقدار نیاز دارد.
2. L1 Cache بررسی می‌شود.
3. داده در L1 موجود است.
4. داده بدون مراجعه به سطوح بعدی تحویل داده می‌شود.

هرچه درصد Cache Hit بیشتر باشد، پردازنده زمان کمتری منتظر دریافت اطلاعات از حافظه اصلی خواهد ماند.

Cache Miss چیست؟

اگر داده موردنیاز در سطح Cache مورد بررسی پیدا نشود، Cache Miss اتفاق می‌افتد.

در این شرایط درخواست به سطح بعدی ارسال می‌شود:

L1 Miss → بررسی L2
L2 Miss → بررسی L3
L3 Miss → مراجعه به RAM

مدت اضافه‌ای که برای دریافت داده از سطح پایین‌تر صرف می‌شود، Miss Penalty نام دارد.

انواع عمومی Cache Miss عبارت‌اند از:

• Compulsory Miss: اولین دسترسی به داده‌ای که قبلاً در Cache نبوده است.
• Capacity Miss: داده به دلیل محدودیت ظرفیت Cache خارج شده است.
• Conflict Miss: چند آدرس برای موقعیت‌های مشابه Cache رقابت می‌کنند.
• Coherence Miss: تغییر داده توسط هسته دیگر باعث نامعتبرشدن نسخه Cache شده است.

Hit Rate و Miss Rate چیست؟

Cache Hit Rate درصد درخواست‌هایی است که مستقیماً از Cache پاسخ داده می‌شوند.

Hit Rate = Cache Hits / Total Memory Requests

Miss Rate نیز نسبت درخواست‌هایی است که در Cache پیدا نشده‌اند:

Miss Rate = 1 - Hit Rate

Hit Rate بالاتر معمولاً مطلوب است، اما تأثیر نهایی به سطح Cache، مدت Miss Penalty و نوع Workload بستگی دارد.

Cache Line چیست؟

پردازنده معمولاً داده‌ها را به‌صورت تک‌بایت از RAM به Cache منتقل نمی‌کند. انتقال در بلوک‌هایی با اندازه ثابت انجام می‌شود که Cache Line نام دارند.

در بسیاری از پردازنده‌های x86 جدید، اندازه Cache Line برابر با ۶۴ بایت است؛ اما این مقدار به معماری بستگی دارد و نباید برای تمام پردازنده‌ها ثابت فرض شود.

وقتی CPU به یک بایت از حافظه نیاز دارد، کل Cache Line حاوی آن آدرس ممکن است به Cache منتقل شود. این رفتار بر پایه احتمال استفاده از داده‌های مجاور طراحی شده است.

Locality یا محلی‌بودن دسترسی چیست؟

کارایی Cache بر دو الگوی رایج در برنامه‌ها متکی است:

Temporal Locality

اگر برنامه اخیراً از یک داده استفاده کرده باشد، احتمال دارد در آینده نزدیک دوباره به همان داده نیاز داشته باشد.

مثال‌ها:

• متغیر شمارنده یک حلقه
• ساختار داده‌ای که مکرراً به‌روزرسانی می‌شود
• بخشی از کد که بارها اجرا می‌شود

Spatial Locality

اگر برنامه به یک آدرس حافظه دسترسی پیدا کند، احتمال دارد به آدرس‌های نزدیک آن نیز نیاز داشته باشد.

مثال:

• پیمایش یک آرایه
• خواندن سطرهای متوالی یک جدول
• پردازش پشت‌سرهم Packetها
• خواندن یک فایل به‌صورت ترتیبی

برنامه‌هایی که داده‌ها را به‌شکل منظم و پیوسته پردازش می‌کنند، معمولاً استفاده مؤثرتری از Cache دارند.

Associativity در Cache چیست؟

Cache باید مشخص کند هر بلوک از حافظه اصلی در کدام بخش ذخیره شود. روش نگاشت داده بر تعداد Conflict Missها و پیچیدگی سخت‌افزار تأثیر دارد.

Direct-Mapped Cache

هر بلوک حافظه فقط در یک موقعیت مشخص Cache قرار می‌گیرد. این روش ساده و سریع است، اما احتمال Conflict Miss بیشتری دارد.

Fully Associative Cache

هر بلوک می‌تواند در هر بخش Cache قرار گیرد. انعطاف آن زیاد است، اما جست‌وجو و پیاده‌سازی سخت‌افزاری پیچیده‌تری دارد.

Set-Associative Cache

Cache به چند Set تقسیم می‌شود و هر داده می‌تواند در یکی از چند Way داخل Set مربوط قرار گیرد. این روش تعادلی میان سرعت، هزینه و کاهش Conflict ایجاد می‌کند.

عبارت‌هایی مانند 8-Way یا 16-Way به تعداد موقعیت‌های قابل استفاده در هر Set اشاره دارند و به معنی هشت یا شانزده برابر بودن ظرفیت Cache نیستند.

Replacement Policy چیست؟

وقتی Cache پر باشد و داده جدیدی باید وارد شود، کنترلر Cache باید یکی از خطوط فعلی را خارج کند.

روش‌های جایگزینی می‌توانند شامل موارد زیر باشند:

• Least Recently Used یا الگوریتم‌های تقریبی LRU
• Random Replacement
• Policyهای اختصاصی معماری
• ترکیبی از تاریخچه استفاده و پیش‌بینی سخت‌افزاری

پردازنده‌های مدرن الزاماً از یک LRU ساده و قابل مشاهده استفاده نمی‌کنند و ممکن است الگوریتم‌های پیچیده‌تری داشته باشند.

Write-Through و Write-Back چیست؟

هنگام نوشتن اطلاعات، Cache باید مشخص کند داده چه زمانی در سطح پایین‌تر حافظه ثبت شود.

این مفاهیم مربوط به Cache پردازنده هستند و نباید مستقیماً با Write Cache کنترلر RAID یا SSD یکسان در نظر گرفته شوند؛ هرچند اصول کلی مشابهی دارند.

Inclusive، Exclusive و Non-Inclusive Cache

نحوه رابطه داده‌های ذخیره‌شده در سطوح Cache نیز به معماری پردازنده بستگی دارد.

Inclusive Cache

داده موجود در Cache سطح پایین‌تر، در سطح بالاتر نیز نسخه‌ای دارد. برای مثال داده L2 ممکن است در L3 نیز موجود باشد.

Exclusive Cache

داده‌ها تا حد امکان فقط در یکی از سطوح Cache قرار می‌گیرند و ظرفیت مؤثر مجموع سطوح افزایش پیدا می‌کند.

Non-Inclusive یا Non-Exclusive

وجود داده در یک سطح الزاماً وجود یا نبود آن در سطح دیگر را تعیین نمی‌کند.

هیچ‌یک از این طراحی‌ها در تمام شرایط مطلقاً بهتر نیستند. انتخاب معماری به اهداف طراح، هزینه، تأخیر و روش حفظ Coherency بستگی دارد.

Cache Coherency چیست؟

در یک پردازنده چند‌هسته‌ای ممکن است چند هسته نسخه‌ای از یک داده مشترک را داخل Cache خود داشته باشند. اگر یک هسته داده را تغییر دهد، سایر هسته‌ها نباید از نسخه قدیمی استفاده کنند.

Cache Coherency مجموعه مکانیزم‌هایی است که هماهنگی نسخه‌های Cache را حفظ می‌کند.

پروتکل‌هایی مانند MESI و MOESI می‌توانند وضعیت Cache Lineها را با حالت‌هایی مانند موارد زیر مدیریت کنند:

• Modified
• Exclusive
• Shared
• Invalid
• Owned در بعضی پروتکل‌ها

هماهنگی Cache میان هسته‌ها هزینه دارد و در Workloadهایی که تعداد زیادی هسته مرتباً یک داده مشترک را تغییر می‌دهند، می‌تواند باعث کاهش مقیاس‌پذیری شود.

Private Cache و Shared Cache

Cacheها می‌توانند اختصاصی یا مشترک باشند.

• Private Cache: فقط یک هسته به آن دسترسی مستقیم دارد.
• Shared Cache: چند هسته از یک ظرفیت مشترک استفاده می‌کنند.

L1 معمولاً Private است. L2 می‌تواند اختصاصی هر هسته یا مشترک میان گروهی از هسته‌ها باشد. L3 نیز اغلب میان چند هسته مشترک است، اما ساختار دقیق به طراحی CPU بستگی دارد.

کش اختصاصی تأخیر قابل پیش‌بینی‌تری ایجاد می‌کند. کش مشترک انعطاف بیشتری در توزیع ظرفیت میان هسته‌ها دارد، اما رقابت میان هسته‌ها می‌تواند عملکرد را تحت‌تأثیر قرار دهد.

تأثیر SMT و Hyper-Threading بر Cache

در فناوری‌هایی مانند Intel Hyper-Threading یا AMD SMT، دو Thread منطقی می‌توانند منابع یک هسته فیزیکی را به اشتراک بگذارند.

در این حالت بخش‌هایی مانند L1، L2، واحدهای اجرایی و پهنای باند هسته ممکن است میان Threadها مشترک باشند. بنابراین دو Thread منطقی معادل دو هسته فیزیکی مستقل نیستند.

عملکرد SMT به نوع Workload بستگی دارد:

• اگر یک Thread تمام منابع هسته را مصرف نکند، Thread دوم می‌تواند بهره‌وری را افزایش دهد.
• اگر هر دو Thread به Cache و منابع یکسان فشار وارد کنند، افزایش عملکرد محدودتر خواهد بود.
• در Workloadهای حساس به Latency یا امنیت، سیاست استفاده از SMT باید جداگانه بررسی شود.

کش در پردازنده‌های Hybrid

پردازنده‌های Hybrid ممکن است ترکیبی از هسته‌های Performance و Efficient داشته باشند. ظرفیت و ساختار L1 یا L2 این هسته‌ها الزاماً یکسان نیست.

برای مثال ممکن است:

• هر Performance Core دارای L2 اختصاصی باشد.
• چند Efficient Core یک L2 مشترک داشته باشند.
• تمام هسته‌ها به یک Last-Level Cache مشترک یا چند Slice آن دسترسی داشته باشند.

به همین دلیل عدد کل Cache روی صفحه مشخصات، اطلاعات کاملی درباره سهم هر هسته یا تأخیر دسترسی ارائه نمی‌دهد.

تفاوت حافظه Cache و RAM

Cache جایگزین RAM نیست. حتی پردازنده‌ای با Cache بزرگ همچنان برای اجرای سیستم‌عامل و برنامه‌ها به ظرفیت کافی RAM نیاز دارد.

برای آشنایی بیشتر با حافظه اصلی می‌توانید مقاله RAM و انواع حافظه RAM را مطالعه کنید.

آیا حافظه Cache از SRAM ساخته می‌شود؟

حافظه کش پردازنده معمولاً با سلول‌های SRAM ساخته می‌شود. SRAM برخلاف DRAM برای نگهداری داده در زمان وجود برق به Refresh دوره‌ای نیاز ندارد.

SRAM سریع‌تر است، اما مزایای سرعت آن با محدودیت‌های زیر همراه است:

• تعداد Transistor بیشتر برای هر بیت
• سطح Die بیشتر
• هزینه ساخت بالاتر
• چگالی کمتر نسبت به DRAM
• مصرف قابل‌توجه توان و فضای پردازنده

این محدودیت‌ها یکی از دلایلی هستند که ظرفیت CPU Cache بسیار کمتر از RAM است.

آیا کش بیشتر همیشه بهتر است؟

ظرفیت بیشتر Cache می‌تواند Cache Miss را کاهش دهد، اما به‌تنهایی تضمین‌کننده عملکرد بهتر نیست.

عوامل مهم دیگر عبارت‌اند از:

• تأخیر دسترسی Cache
• پهنای باند Cache
• معماری هسته‌ها
• فرکانس پردازنده
• IPC یا تعداد دستور در هر کلاک
• تعداد و نوع هسته‌ها
• ساختار اشتراک Cache
• Cache Replacement Policy
• توان Memory Controller
• سرعت و Latency حافظه RAM
• بهینه‌سازی نرم‌افزار
• اندازه Working Set برنامه

بزرگ‌ترکردن Cache می‌تواند مسیرهای داخلی را طولانی‌تر و تأخیر دسترسی را بیشتر کند. طراح پردازنده باید میان ظرفیت، سرعت، مصرف انرژی و سطح Die تعادل برقرار کند.

آیا می‌توان دو پردازنده را فقط با مقدار Cache مقایسه کرد؟

خیر. عدد Cache فقط در داخل یک خانواده یا معماری مشابه می‌تواند یکی از معیارهای مقایسه باشد.

برای مثال دو CPU با ۳۲ مگابایت L3 ممکن است از نظر موارد زیر تفاوت زیادی داشته باشند:

• تعداد هسته‌ها
• Cache اختصاصی هر هسته
• تقسیم Cache میان Chipletها
• تأخیر دسترسی
• فرکانس
• IPC
• توان مصرفی
• Memory Channel
• دستورهای سخت‌افزاری
• کارایی در Workload واقعی

برای انتخاب CPU باید Benchmarkهای معتبر و مرتبط با نرم‌افزار واقعی نیز بررسی شوند.

تأثیر حافظه Cache در بازی‌ها

بازی‌ها معمولاً به داده‌هایی مانند موقعیت اشیا، وضعیت هوش مصنوعی، فیزیک، Draw Callها و Assetهای فعال دسترسی مکرر دارند. اگر بخش بیشتری از این Working Set در Cache قرار گیرد، مراجعه به RAM کاهش پیدا می‌کند.

Cache بیشتر ممکن است در بعضی بازی‌ها باعث موارد زیر شود:

• افزایش متوسط Frame Rate
• بهبود 1% Low Frame Rate
• کاهش Stutterهای ناشی از انتظار حافظه
• عملکرد بهتر در صحنه‌های CPU-Bound
• پایداری بیشتر Frame Time

بااین‌حال نتیجه به موتور بازی، رزولوشن، قدرت کارت گرافیک، سرعت RAM و تنظیمات گرافیکی بستگی دارد. در شرایط GPU-Bound، افزایش Cache ممکن است تأثیر محدودی داشته باشد.

AMD 3D V-Cache چیست؟

AMD 3D V-Cache فناوری قرارگیری یک Die اضافی SRAM به‌صورت عمودی روی بخش پردازشی سازگار است. این روش ظرفیت L3 Cache را بدون افزایش مشابه سطح افقی Chiplet افزایش می‌دهد.

هدف از این فناوری نگهداری Working Set بزرگ‌تر در نزدیکی هسته‌ها و کاهش مراجعه به RAM است.

3D V-Cache می‌تواند در بعضی Workloadها مانند موارد زیر مفید باشد:

• بازی‌های حساس به Cache
• شبیه‌سازی
• محاسبات علمی
• EDA و بعضی نرم‌افزارهای مهندسی
• برخی Workloadهای فنی سرور

بزرگ‌بودن Cache به معنی برتری در تمام برنامه‌ها نیست. نرم‌افزارهایی که بیشتر به فرکانس، تعداد هسته یا پهنای باند حافظه وابسته‌اند ممکن است نتیجه متفاوتی داشته باشند.

Intel Smart Cache چیست؟

عبارت Intel Smart Cache معمولاً برای معرفی Last-Level Cache قابل اشتراک میان هسته‌های پردازنده‌های سازگار Intel استفاده می‌شود.

اشتراک Cache اجازه می‌دهد هسته‌ای که به ظرفیت بیشتری نیاز دارد، از فضای آزاد موجود استفاده کند. بااین‌حال ساختار، ظرفیت و نحوه تقسیم Cache در نسل‌های مختلف Intel یکسان نیست.

هنگام مقایسه پردازنده‌ها باید صفحه مشخصات مدل دقیق، تعداد Performance Core و Efficient Core و ظرفیت L1، L2 و L3 بررسی شود.

تأثیر Cache در سرورها

در سرورها پردازنده ممکن است هم‌زمان تعداد زیادی ماشین مجازی، Query پایگاه داده، Session شبکه یا Thread برنامه را اجرا کند. مجموعه داده فعال در چنین محیطی معمولاً بزرگ‌تر از یک سیستم دسکتاپ است.

Cache بیشتر می‌تواند در برخی سناریوها باعث کاهش مراجعه به RAM و افزایش عملکرد شود:

• مجازی‌سازی
• پایگاه داده
• Web Serverهای پرترافیک
• کامپایل نرم‌افزار
• محاسبات علمی
• پردازش Packet و NFV
• تحلیل داده
• سیستم‌های ERP
• ماشین‌های مجازی متعدد

در مقابل، پردازنده‌های سرور دارای هسته‌های زیاد ممکن است رقابت بیشتری بر سر Last-Level Cache داشته باشند. طراحی NUMA، تعداد Socketها، Memory Channelها و محل اجرای VMها نیز اهمیت دارد.

Cache و معماری NUMA

در سرورهای چندسوکته یا پردازنده‌های دارای چند Node داخلی، دسترسی به حافظه می‌تواند حالت NUMA داشته باشد.

در NUMA، دسترسی یک هسته به حافظه متصل به Node محلی معمولاً سریع‌تر از دسترسی به حافظه Node دیگر است.

برای دستیابی به عملکرد مناسب باید موارد زیر هماهنگ شوند:

• CPU Affinity
• NUMA Node محل اجرای Process یا VM
• محل تخصیص RAM
• اشتراک Last-Level Cache
• کارت شبکه و Storage Controller نزدیک به Node

Cache بزرگ نمی‌تواند تمام هزینه دسترسی Remote NUMA را حذف کند. در سرورهای حساس، توپولوژی CPU و حافظه باید همراه با Cache بررسی شود.

تأثیر Cache در مجازی‌سازی

در یک Hypervisor، ماشین‌های مجازی مختلف Cache فیزیکی پردازنده را با یکدیگر به اشتراک می‌گذارند. هر VM ممکن است Working Set متفاوتی داشته باشد.

مشکلات احتمالی عبارت‌اند از:

• Cache Contention میان VMها
• خارج‌شدن داده‌های یک VM توسط VM دیگر
• افزایش Cache Miss
• رفتار غیرقابل پیش‌بینی Latency
• کاهش عملکرد هنگام Overcommit بیش از حد

در Workloadهای حساس بهتر است نسبت vCPU به هسته فیزیکی، NUMA Placement، CPU Affinity و میزان Overcommit براساس تست واقعی تنظیم شوند.

تأثیر Cache در پایگاه داده

پایگاه داده از چند لایه Cache استفاده می‌کند:

• CPU Cache
• Cache سیستم‌عامل
• Buffer Pool پایگاه داده
• Cache کنترلر Storage
• Cache داخلی SSD یا HDD

CPU Cache می‌تواند ساختارهایی مانند Index Nodeها، Lockها، Query Planها و داده‌های پرتکرار را نزدیک هسته نگه دارد.

بااین‌حال برای عملکرد دیتابیس باید RAM، Storage Latency، تعداد Core، NUMA، اندازه Buffer Pool و ساختار Queryها نیز بررسی شوند.

تأثیر Cache در پردازش شبکه

روترها، Firewallهای نرم‌افزاری و سرورهای NFV به‌صورت مداوم Header بسته‌ها، جدول Connection Tracking، Routeها و ساختارهای Queue را پردازش می‌کنند.

موارد زیر می‌توانند بر بهره‌وری Cache تأثیر بگذارند:

• اندازه جدول Connection Tracking
• تعداد Flowها
• اندازه Packetها
• CPU Affinity کارت شبکه
• RSS و تقسیم Queueهای NIC
• NUMA Placement
• ساختار Firewall Ruleها
• تعداد VM یا Containerهای شبکه

در Packet Processing با بسته‌های کوچک، Cache Miss و دسترسی حافظه می‌تواند پیش از پهنای باند خام کارت شبکه به گلوگاه تبدیل شود.

تفاوت CPU Cache و Disk Cache

این Cacheها هدف مشترک کاهش دسترسی به منبع کندتر را دارند، اما محل، فناوری و سیاست مدیریت آن‌ها متفاوت است.

برای مطالعه بیشتر درباره Cache ذخیره‌سازی و RAID می‌توانید مقاله کنترلر HPE Smart Array را مطالعه کنید.

چگونه اندازه Cache پردازنده را بررسی کنیم؟

بررسی مشخصات رسمی پردازنده

مطمئن‌ترین روش، بررسی مدل دقیق CPU در صفحه رسمی سازنده است. عبارت Total Cache ممکن است مجموع چند سطح یا Cacheهای مختلف باشد؛ بنابراین جزئیات L1، L2 و L3 را جداگانه بررسی کنید.

بررسی Cache در Windows با PowerShell

Get-CimInstance Win32_Processor |
Select-Object Name, NumberOfCores, NumberOfLogicalProcessors,
L2CacheSize, L3CacheSize

برای مشاهده ساختار Cacheهای گزارش‌شده:

Get-CimInstance Win32_CacheMemory |
Select-Object DeviceID, Level, InstalledSize, MaxCacheSize,
Associativity, BlockSize

مقدارهای گزارش‌شده ممکن است به Firmware، BIOS، Hypervisor و نحوه ارائه اطلاعات توسط سیستم بستگی داشته باشند.

بررسی Cache در Linux

lscpu | grep -i cache

برای مشاهده ساختار دقیق‌تر هر Cache:

for cache in /sys/devices/system/cpu/cpu0/cache/index*; do
 echo "=== $cache ==="
 cat "$cache/level"
 cat "$cache/type"
 cat "$cache/size"
 cat "$cache/coherency_line_size"
 cat "$cache/ways_of_associativity"
 cat "$cache/shared_cpu_list"
done

نمونه استفاده از getconf:

getconf LEVEL1_DCACHE_SIZE
getconf LEVEL1_ICACHE_SIZE
getconf LEVEL2_CACHE_SIZE
getconf LEVEL3_CACHE_SIZE

بررسی Cache در macOS

sysctl hw.l1icachesize
sysctl hw.l1dcachesize
sysctl hw.l2cachesize
sysctl hw.l3cachesize
sysctl hw.cachelinesize

تمام کلیدها الزاماً روی همه مدل‌ها و معماری‌های macOS موجود نیستند.

چگونه Cache Miss را در Linux اندازه‌گیری کنیم؟

در سیستم‌های پشتیبانی‌شده می‌توان با ابزار perf رویدادهای Cache را بررسی کرد:

perf stat -e cache-references,cache-misses ./application

برای یک Process در حال اجرا:

perf stat -e cache-references,cache-misses \
 -p PROCESS_ID \
 sleep 30

برای بررسی جزئی‌تر ممکن است از رویدادهای معماری‌محور، Intel VTune، AMD uProf یا ابزارهای Performance Profiling استفاده شود.

چگونه پردازنده مناسب را براساس Cache انتخاب کنیم؟

ابتدا نوع Workload را مشخص کنید. سپس Cache را در کنار سایر مشخصات بررسی کنید.

برای خرید سرور فقط مجموع Cache پردازنده را بررسی نکنید. تعداد Socket، نسل CPU، تعداد Memory Channel، ظرفیت RAM قابل پشتیبانی، PCIe Laneها و توان مصرفی نیز اهمیت دارند.

اشتباهات رایج درباره حافظه کش

کش بیشتر یعنی همیشه پردازنده سریع‌تر است

عملکرد به معماری، Latency، IPC، فرکانس و نرم‌افزار نیز وابسته است.

تمام Cache در اختیار هر هسته قرار دارد

بخشی از Cache ممکن است اختصاصی و بخشی مشترک باشد. هسته‌ها ممکن است بر سر ظرفیت اشتراکی رقابت کنند.

Cache جایگزین RAM است

Cache بسیار کوچک‌تر است و نمی‌تواند کمبود ظرفیت RAM را جبران کند.

عدد Total Cache برای مقایسه کافی است

ممکن است سازندگان مجموع L2 و L3 یا روش‌های متفاوتی را در بازاریابی نمایش دهند. جزئیات هر سطح باید بررسی شود.

Cache فقط برای بازی اهمیت دارد

دیتابیس، مجازی‌سازی، پردازش شبکه، کامپایل و محاسبات علمی نیز می‌توانند به Cache حساس باشند.

تمام CPUها سه سطح Cache یکسان دارند

تعداد سطوح، ظرفیت و ساختار اشتراک در معماری‌های مختلف متفاوت است.

فرکانس بالاتر همیشه کمبود Cache را جبران می‌کند

اگر CPU مرتباً منتظر RAM باشد، افزایش فرکانس لزوماً مشکل Memory Stall را برطرف نمی‌کند.

انتخاب تجهیزات سرور با مشاوره گروه بیستون

انتخاب پردازنده برای سرور فقط با مشاهده تعداد Core یا مقدار Cache انجام نمی‌شود. نوع نرم‌افزار، تعداد ماشین‌های مجازی، ظرفیت RAM، تعداد Socket، توان مصرفی، Storage و برنامه توسعه آینده باید هم‌زمان بررسی شوند.

گروه فناوری ارتباطات پندار بیستون در زمینه تأمین تجهیزات شبکه، سرور و زیرساخت ارتباطی و ارائه مشاوره فنی فعالیت می‌کند. پیش از پیشنهاد محصول، اطلاعات فنی پروژه، تجهیزات موجود، تعداد کاربران، حجم ترافیک و برنامه توسعه قابل بررسی است.

خدمات مشاوره می‌تواند شامل موارد زیر باشد:

• انتخاب سرور متناسب با Workload
• بررسی نسل و مدل پردازنده
• مقایسه تعداد Core، فرکانس و Cache
• انتخاب ظرفیت و نوع RAM سرور
• بررسی RAID Controller و Storage
• بررسی سازگاری قطعات HPE
• انتخاب تجهیزات شبکه و مرکز داده
• برنامه‌ریزی برای ارتقا یا توسعه زیرساخت
• جلوگیری از خرید تجهیزات نامتناسب با پروژه

برای مشاهده تجهیزات و قطعات موجود می‌توانید به صفحه محصولات HPE گروه بیستون مراجعه کنید. قیمت، موجودی و شرایط گارانتی باید پیش از ثبت سفارش از واحد فروش استعلام شوند.

گارانتی و خدمات پس از فروش بیستون

در خرید قطعات سرور و تجهیزات زیرساختی، اصالت کالا، سازگاری قطعه و امکان استفاده از خدمات پس از فروش اهمیت زیادی دارد.

محصولاتی که براساس شماره سریال، فاکتور، کارت یا برچسب ضمانت تحت پوشش گروه بیستون ثبت شده باشند، مطابق شرایط ثبت‌شده پشتیبانی می‌شوند.

وجود یک محصول در فروشگاه یا مقاله سایت به‌تنهایی به معنی برخورداری تمام نمونه‌های آن از گارانتی بیستون نیست. نوع و مدت ضمانت باید هنگام استعلام، خرید و دریافت فاکتور تأیید شود.

برای محصولات مشمول می‌توانید شماره سریال را در صفحه اعتبارسنجی گارانتی بیستون وارد کنید.

پیش از خرید تجهیزات Server موارد زیر را بررسی کنید:

• Part Number دقیق قطعه
• مدل و نسل سرور
• سازگاری پردازنده با Socket و System ROM
• حداکثر توان حرارتی قابل پشتیبانی
• نوع Heatsink موردنیاز
• تعداد و نوع RAM Channelها
• وضعیت گارانتی و شماره سریال
• نو یا کارکرده‌بودن قطعه
• شرایط نصب و خدمات پس از فروش

جزئیات پوشش ضمانت و موارد خارج از آن در صفحه شرایط گارانتی گروه بیستون درج شده است.

سؤالات متداول درباره حافظه کش CPU

حافظه کش CPU چیست؟

حافظه‌ای بسیار سریع و نزدیک هسته‌های پردازنده است که داده‌ها و دستورهای پرکاربرد را موقتاً نگهداری می‌کند.

کش L1 چیست؟

نزدیک‌ترین، کوچک‌ترین و معمولاً سریع‌ترین سطح Cache است و در بسیاری از پردازنده‌ها به بخش دستور و داده تقسیم می‌شود.

کش L2 چیست؟

سطح دوم Cache با ظرفیتی بیشتر از L1 است که ممکن است برای هر هسته اختصاصی یا میان چند هسته مشترک باشد.

کش L3 چیست؟

معمولاً بزرگ‌ترین Cache داخلی پردازنده است و در بسیاری از معماری‌ها میان چند هسته به اشتراک گذاشته می‌شود.

کدام Cache سریع‌تر است؟

در ساختار عمومی پردازنده‌ها L1 سریع‌تر از L2 و L2 سریع‌تر از L3 است. مقادیر دقیق به معماری بستگی دارند.

چرا ظرفیت L1 کم است؟

زیرا باید با تأخیر بسیار کم و پهنای باند بالا در نزدیکی هسته قرار گیرد. افزایش ظرفیت، سطح Die و پیچیدگی دسترسی را بیشتر می‌کند.

Cache Hit چیست؟

زمانی رخ می‌دهد که داده موردنیاز CPU در Cache پیدا شود و نیازی به مراجعه به سطح پایین‌تر نباشد.

Cache Miss چیست؟

زمانی است که داده در سطح Cache موردنظر پیدا نمی‌شود و پردازنده باید سطح بعدی یا RAM را بررسی کند.

Cache Line چیست؟

کوچک‌ترین بلوک عمومی انتقال داده میان حافظه و Cache است. اندازه آن معماری‌محور بوده و در بسیاری از CPUهای x86 برابر ۶۴ بایت است.

آیا کش بیشتر FPS بازی را افزایش می‌دهد؟

در بازی‌های CPU-Bound و حساس به دسترسی حافظه ممکن است Frame Rate و Frame Time بهتر شوند، اما نتیجه به موتور بازی، GPU، RAM و معماری CPU بستگی دارد.

آیا Cache جایگزین RAM می‌شود؟

خیر. Cache ظرفیت بسیار محدودی دارد و RAM برای نگهداری سیستم‌عامل، برنامه‌ها و مجموعه داده‌های بزرگ ضروری است.

آیا می‌توان حافظه کش CPU را ارتقا داد؟

خیر. Cache بخشی از طراحی پردازنده است و برای افزایش آن باید CPU دیگری انتخاب شود.

آیا Cache با خاموش‌شدن سیستم پاک می‌شود؟

بله. Cache پردازنده حافظه فرار است و با قطع برق اطلاعات آن از بین می‌رود.

تفاوت Cache و Register چیست؟

Register مستقیماً در اختیار واحدهای اجرایی CPU قرار دارد و ظرفیت بسیار کمتری دارد. Cache بزرگ‌تر است و داده‌های حافظه را برای دسترسی سریع نگهداری می‌کند.

AMD 3D V-Cache چیست؟

فناوری قرارگیری یک SRAM Cache اضافی به‌صورت عمودی روی Chiplet پردازنده است که ظرفیت L3 را افزایش می‌دهد.

Intel Smart Cache چیست؟

عنوانی برای Last-Level Cache قابل اشتراک میان هسته‌های پردازنده‌های سازگار Intel است.

چرا Cache سرور اهمیت دارد؟

سرورها معمولاً تعداد زیادی Thread، ماشین مجازی و Query را اجرا می‌کنند. Cache می‌تواند مراجعه مکرر به RAM و تأخیر بعضی Workloadها را کاهش دهد.

آیا مجموع Cache معیار خوبی برای خرید CPU است؟

فقط یکی از معیارها است. نسل معماری، تعداد Core، فرکانس، IPC، RAM Channel، NUMA، مصرف انرژی و Benchmark واقعی نیز باید بررسی شوند.

چگونه اندازه Cache را در Linux ببینیم؟

از دستور زیر استفاده کنید:

lscpu | grep -i cache

چگونه Cache Miss را بررسی کنیم؟

در Linux و سخت‌افزار پشتیبانی‌شده می‌توان از ابزار Perf استفاده کرد:

perf stat -e cache-references,cache-misses ./application

جمع‌بندی

حافظه کش CPU یکی از اجزای اصلی معماری پردازنده است که فاصله سرعت میان هسته‌های محاسباتی و حافظه RAM را کاهش می‌دهد.

کش L1 نزدیک‌ترین و سریع‌ترین سطح است. L2 ظرفیت بیشتری دارد و L3 معمولاً بزرگ‌ترین Last-Level Cache محسوب می‌شود. ساختار اختصاصی یا اشتراکی این سطوح به معماری پردازنده بستگی دارد.

در صورت پیداشدن داده در Cache، یک Cache Hit رخ می‌دهد. اگر داده موجود نباشد، Cache Miss اتفاق می‌افتد و پردازنده باید به سطح بعدی یا RAM مراجعه کند. کاهش Miss و Miss Penalty می‌تواند عملکرد برنامه را بهبود دهد.

ظرفیت بیشتر Cache در بعضی بازی‌ها، پایگاه‌های داده، ماشین‌های مجازی و پردازش‌های علمی مفید است؛ اما عدد Cache به‌تنهایی معیار کافی برای مقایسه پردازنده‌ها نیست.

معماری هسته، IPC، فرکانس، تعداد Core، سرعت RAM، Memory Channel، NUMA و نوع Workload همگی بر نتیجه نهایی تأثیر دارند.

برای انتخاب پردازنده سرور باید مشخصات کامل پلتفرم، ظرفیت توسعه، نوع نرم‌افزار و سازگاری قطعات بررسی شوند. دریافت مشاوره تخصصی پیش از خرید می‌تواند از انتخاب مدل نامناسب و هزینه‌های ارتقای زودهنگام جلوگیری کند.

منابع فنی پیشنهادی

• ساختار سلسله‌مراتب Cache در پردازنده‌های Intel
• بررسی ظرفیت L1، L2 و L3 پردازنده‌های Intel
• فناوری AMD 3D V-Cache