memory hierarchy

memory hierarchy (tsz. memory hierarchies)

1. (informatika) A memory hierarchy (memóriahierarchia) a modern számítógépek memóriarendszerének réteges felépítését jelenti, ahol a különböző memóriatípusok sebességük, méretük és költségük szerint vannak elrendezve. A cél: optimális egyensúly a teljesítmény, ár és kapacitás között.

• A CPU rendkívül gyors, de a fő memória (RAM) sokkal lassabb.
• Egyetlen, gyors és nagy kapacitású memória túl drága és fizikailag kivitelezhetetlen lenne.
• Ezért többlépcsős rendszert használunk, ahol:
  • a gyors, kis méretű memória a legfelső szinten van,
  • a lassú, nagy méretű memória az alsó szinteken.

Ha a CPU adatot kér:

1. Megnézi regiszterekben → ha nincs:
2. L1 cache → ha nincs:
3. L2 cache → ha nincs:
4. L3 cache → ha nincs:
5. RAM → ha nincs:
6. SSD/HDD → leglassabb (page fault lehet)

Ezt hívjuk cache miss láncolatnak.

• Cache: kis, gyors memória, ami előrehozza a gyakran használt adatokat.
• Temporal locality: ha egy adatot nemrég használtunk, valószínű újra kell.
• Spatial locality: ha egy adatot használtunk, valószínű a környezete is kell.
• Hit: adat megtalálható az adott szinten.
• Miss: adat nem található, tovább kell keresni lejjebb.

• Direct-mapped: minden RAM cím egy adott cache pozícióba megy.
• Set-associative: több cache blokk is lehet egy címhez.
• Fully associative: bárhová kerülhet a cache-be.

• Cache coherence – több CPU esetén a cache-ek szinkronizálása nehéz.
• Cache miss – lassítja a teljesítményt.
• Prefetching hibák – előrehozott, de nem használt adatok.
• Energiafogyasztás – több szint fenntartása drágább energia szempontból.

Az effektív hozzáférési idő (EAT) egyenlete:

$${\displaystyle EAT=h\cdot t_{\text{cache}}+(1-h)\cdot t_{\text{RAM}}}$$

ahol:

• h = találati arány,
• t_cache = cache válaszidő,
• t_RAM = RAM válaszidő.

Ha a találati arány magas, az EAT jelentősen csökken.

• CPU és GPU architektúra
• Operációs rendszerek – lapozás, virtuális memória
• Magasszintű nyelvek optimalizálása (pl. Java GC cache-tudatos)
• Adatbázis-kezelők – memóriatudatos tárolás
• Beágyazott rendszerek – kis cache + NOR flash

A memóriahierarchia egy több szintből álló struktúra, amely a különböző memóriatípusokat kombinálja gyorsaság, kapacitás és költséghatékonyság szempontjából. Ez a struktúra biztosítja, hogy a CPU nagy teljesítménnyel működhessen anélkül, hogy az egész memóriarendszer drága és lassú lenne.

• memory hierarchy - Szótár.net (en-hu)
• memory hierarchy - Sztaki (en-hu)
• memory hierarchy - Merriam–Webster
• memory hierarchy - Cambridge
• memory hierarchy - WordNet
• memory hierarchy - Яндекс (en-ru)
• memory hierarchy - Google (en-hu)
• memory hierarchy - Wikidata
• memory hierarchy - Wikipédia (angol)