Kontext-Cache
Beim Kontext-Cache hält der Modellanbieter den bereits verarbeiteten Teil eines Gesprächs kurz bereit. Antworten starten dadurch schneller und verbrauchen weniger Credits. Admins legen fest, ob Custodos einen Cache anfordert und für wie lange.
Zuletzt geprüft am 28. September 2026
Auf dieser Seite
Was der Cache macht
Mit jeder neuen Nachricht erhält das Modell das ganze bisherige Gespräch noch einmal, samt Anweisungen und angehängten Dateien. Ohne Cache verarbeitet der Anbieter diesen Text jedes Mal von vorn. Mit Cache hält er den bereits verarbeiteten Anfang eine Zeit lang bereit, und die nächste Nachricht baut darauf auf.
Der Cache liegt beim selben Anbieter und in derselben Region, die den Prompt ohnehin verarbeitet. An der Verarbeitungsregion ändert sich dadurch nichts. Gespeichert werden keine zusätzlichen Inhalte, sondern Zwischenergebnisse zu Text, den der Anbieter ohnehin erhält.
Die Einstellungen
| Einstellung | Was gilt |
|---|---|
| Aus | Custodos fordert keinen Cache an. Jede Nachricht verarbeitet das ganze Gespräch neu. Das kostet mehr Credits, und Antworten starten langsamer. |
| Standard | Fünf Minuten, bei jeder Nachricht verlängert. Passend für ein Gespräch, das in einem Zug geführt wird. Voreinstellung für neue Workspaces. |
| Lang | Eine längere Dauer, damit ein Gespräch eine Pause überdauert. Wirkt nur bei Modellen, für die Custodos die längere Dauer beim Anbieter bestätigt hat. Im aktuellen Modellkatalog ist das für noch kein Modell bestätigt; bis dahin gilt die Dauer von Standard. |
Die Cache-Dauer ändern
- 1
Einstellungen öffnen
Klicken Sie als Admin auf Einstellungen und gehen Sie zum Abschnitt Kontext-Cache. - 2
Dauer wählen
Wählen Sie unter Cache-Dauer Aus, Standard oder Lang. Die Auswahl wird sofort gespeichert und steht im Aktivitätsprotokoll.
Getrennt nach Workspace
Custodos kennzeichnet jede Anfrage so, dass ein Cache-Eintrag nur von Anfragen aus demselben Workspace genutzt werden kann. Einträge aus einem anderen Workspace sind für Ihre Anfragen nicht erreichbar und umgekehrt.
Ändert sich die Datenschutzeinstellung, der Sicherheitsmodus eines Chats oder der Zugriff auf ein Brain, entsteht ein neuer Cache. Ältere Einträge sind dann nicht mehr erreichbar und laufen beim Anbieter von selbst ab. Löschen lassen sie sich vorher nicht, weil kein Anbieter das anbietet.
Wann die Einstellung nicht greift
- Einzelne Modelle speichern von sich aus zwischen und lassen sich davon nicht abhalten, in ihrer eigenen Region und mit denselben Daten, die sie ohnehin verarbeiten. Bei diesen Modellen gilt die Dauer des Anbieters. Aus heißt deshalb: Custodos fordert keinen Cache an.
- Im Sicherheitsmodus gilt höchstens Standard, auch wenn der Workspace Lang gewählt hat.
- Lang wirkt nur bei Modellen, für die Custodos die längere Dauer bestätigt hat. Solange keines bestätigt ist, verhält sich Lang wie Standard.
- Sehr kurze Gespräche unterschreiten die Mindestlänge des Anbieters. Dann entsteht kein Cache-Eintrag.
Weiterlesen
Frage offen? Schreiben Sie uns.