Durchschnittliche Speicherzugriffszeit (AMAT)

Average memory access time ist die erwartete mittlere Zugriffszeit einer Speicherhierarchie. Jeder Zugriff benötigt zuerst die Cache-Hit-Zeit; zusätzlich wird die Miss-Strafe mit der Wahrscheinlichkeit eines Misses gewichtet. Die Kennzahl fasst damit schnellen Normalfall und seltene langsame Fälle zusammen. Sie ersetzt keine vollständige Laufzeitmessung, hilft aber beim Vergleich von Cache-Konfigurationen. Das einfache AMAT-Modell setzt voraus, dass jeder Zugriff zuerst die Cache-Hit-Zeit bezahlt und ein Miss danach eine Zusatzstrafe auslöst. Bei mehreren Cacheebenen müssen lokale Miss-Raten und Strafen rekursiv zusammengesetzt werden. Miss-Raten beziehen sich auf die Zugriffe, die eine Ebene tatsächlich erreichen. Diese Werte beschreiben Latenz pro Zugriff; Durchsatz und überlappende Zugriffe benötigen zusätzliche Modelle.

Verwende 4 ns Hit-Zeit, rmiss=0,05 und 40 ns zusätzliche Miss-Strafe: AMAT=4+0,05·40=6 ns. Der Miss-Anteil ist eine Wahrscheinlichkeit als Dezimalzahl, nicht die Zahl 5. Ein Prozent der Zugriffe erfährt eine zusätzliche Strafe; jeder Zugriff bezahlt dennoch die Hit-Zeit. Das einfache AMAT-Modell setzt voraus, dass jeder Zugriff zuerst die Cache-Hit-Zeit bezahlt und ein Miss danach eine Zusatzstrafe auslöst. Bei mehreren Cacheebenen müssen lokale Miss-Raten und Strafen rekursiv zusammengesetzt werden. Miss-Raten beziehen sich auf die Zugriffe, die eine Ebene tatsächlich erreichen. Diese Werte beschreiben Latenz pro Zugriff; Durchsatz und überlappende Zugriffe benötigen zusätzliche Modelle.

In dieser Konvention ist Miss Penalty die zusätzliche Zeit nach der Hit-Prüfung. Ein Miss dauert also thit+tpenalty. Manche Materialien nennen dagegen die gesamte Miss-Zeit Miss Time; dann lautet die gewichtete Form hit_rate·hit_time+miss_rate·miss_time. Prüfe die Definition in der Quelle, um die Hit-Zeit nicht doppelt zu zählen. Das einfache AMAT-Modell setzt voraus, dass jeder Zugriff zuerst die Cache-Hit-Zeit bezahlt und ein Miss danach eine Zusatzstrafe auslöst. Bei mehreren Cacheebenen müssen lokale Miss-Raten und Strafen rekursiv zusammengesetzt werden. Miss-Raten beziehen sich auf die Zugriffe, die eine Ebene tatsächlich erreichen. Diese Werte beschreiben Latenz pro Zugriff; Durchsatz und überlappende Zugriffe benötigen zusätzliche Modelle.

Wenn Hit-Zeit und Miss-Strafe konstant bleiben, senkt eine kleinere Miss-Rate die mittlere Zeit linear. Sinkt rmiss etwa von 0,05 auf 0,025 bei 40 ns Strafe, fällt der Zusatzanteil von 2 ns auf 1 ns. Änderungen an Cachegröße können aber zugleich Hit-Zeit oder Energiebedarf erhöhen. Optimiere daher nicht nur einen Faktor isoliert. Das einfache AMAT-Modell setzt voraus, dass jeder Zugriff zuerst die Cache-Hit-Zeit bezahlt und ein Miss danach eine Zusatzstrafe auslöst. Bei mehreren Cacheebenen müssen lokale Miss-Raten und Strafen rekursiv zusammengesetzt werden. Miss-Raten beziehen sich auf die Zugriffe, die eine Ebene tatsächlich erreichen. Diese Werte beschreiben Latenz pro Zugriff; Durchsatz und überlappende Zugriffe benötigen zusätzliche Modelle.

Bei seriellen Ebenen zahlt jeder Zugriff die L1-Hit-Zeit. Ein L1-Miss führt nur mit seiner lokalen Miss-Rate zu L2; dessen Zugriff und möglicher Hauptspeicher-Miss bilden den zusätzlichen Penalty. Verwende Miss-Raten bedingt auf den Zugang zur jeweiligen Ebene, nicht globale Raten ohne Umrechnung. Eine rekursive Berechnung macht diese bedingten Wege sichtbar. Das einfache AMAT-Modell setzt voraus, dass jeder Zugriff zuerst die Cache-Hit-Zeit bezahlt und ein Miss danach eine Zusatzstrafe auslöst. Bei mehreren Cacheebenen müssen lokale Miss-Raten und Strafen rekursiv zusammengesetzt werden. Miss-Raten beziehen sich auf die Zugriffe, die eine Ebene tatsächlich erreichen. Diese Werte beschreiben Latenz pro Zugriff; Durchsatz und überlappende Zugriffe benötigen zusätzliche Modelle.