Memory Hierarchy (Hafıza hiyerarşisi)'nde sıralama hızlı olan yapıdan yavaş olan yapıya doğrudur. Hızlı yapıların maliyeti fazla olduğu için sınırlı kaynaklardır. Bu yüzden gerekli tüm verileri hızlı kaynaklarda tutulamaz. Bunun için en üst katmanda bulunamayan veri sıra ile alt katmanlarda aranır. Bu işlemi daha efektif olarak gerçekleştirmek için çok kullanılan veriler daha üst katmanlarda tutulmaya çalışılır. Buna caching denir.