Dieser Rechner hilft dir, das Kontextfenster für eine Vektorsuche zu planen. Er summiert die Token der abgerufenen Chunks, berücksichtigt Metadaten pro Treffer und reserviert Platz für Systemprompt, Nutzerfrage und Antwort. Das Ergebnis zeigt, wie viele Treffer in dein verfügbares Kontextfenster passen.
Das maximale Top-K ist die höchste Trefferzahl, die unter den angenommenen Chunk- und Reservegrößen in das Kontextfenster passt.
Tokenizer unterscheiden sich zwischen Modellen. Verwende möglichst Tokenmessungen des tatsächlich eingesetzten Modells.
Bei 128.000 Token Kontext, 1.800 festen Prompt-Token und 2.500 Token Antwortreserve bleiben 123.700 Token. Ein Treffer mit 700 Chunk- und 60 Metadaten-Token benötigt 760 Token; maximal passen 162 Treffer.
Das hängt von Chunk-Größe, Metadaten, festem Prompt und Antwortreserve ab. Der Rechner ermittelt das maximale Top-K aus diesen Werten.
Ja. Titel, Quellen, IDs oder Trennzeichen werden häufig in den Prompt übernommen und verbrauchen damit Kontexttoken.
Sie sollte zu deiner maximal erwarteten Antwortlänge passen und zusätzlich etwas Spielraum für Formatierung oder Tool-Ausgaben lassen.
Tokenizer zerlegen Text modellabhängig. Sprache, Sonderzeichen, Zahlen und Code können sehr unterschiedliche Tokenmengen erzeugen.
Nein. Mehr Treffer erhöhen Kontextkosten und können irrelevante Informationen einbringen. Relevanz und Budget sollten gemeinsam optimiert werden.
| Kennzahl | Bedeutung |
|---|---|
| Retrieval-Budget | Verbleibende Kontexttoken nach festen Reserven. |
| Maximales Top-K | Anzahl kompletter Treffer, die in das Budget passen. |
| Budgetauslastung | Gesamtnutzung inklusive gewünschter Trefferzahl. |