Dieser Rechner dimensioniert GPU-Kapazität für eine beschleunigte Vektorsuche. Er berücksichtigt deine Abfragerate, gemessene Abfragen pro Sekunde je GPU, ein gewünschtes Auslastungsziel und einen Replikationsfaktor. Zusätzlich kann der Speicherbedarf des Vektorbestands mit der verfügbaren GPU-Speicherkapazität verglichen werden.
Die benötigte GPU-Anzahl ist das größere Ergebnis aus Durchsatz- und Speicheranforderung. Dadurch wird verhindert, dass eine Dimensionierungsseite übersehen wird.
Indexstrukturen haben zusätzlichen Speicher-Overhead. Trage beim Speicher je Vektor deshalb möglichst einen gemessenen effektiven Wert inklusive Indexanteil ein.
600 q/s bei 1.200 q/s je GPU und 70 % Zielauslastung ergeben mit Faktor 1,2 rechnerisch 1 GPU nach Durchsatz. 50 Mio. Vektoren × 1.536 Byte entsprechen 76,8 GB; bei 60 GB nutzbarem GPU-Speicher und Faktor 1,2 werden 2 GPUs nach Speicher benötigt. Ergebnis: 2 GPUs.
Vergleiche sowohl den benötigten Suchdurchsatz als auch den effektiven Speicherbedarf des Indexes mit der Kapazität einer GPU und nimm den höheren Bedarf.
Große Vektorbestände oder speicherintensive Indexstrukturen können nicht auf eine einzelne GPU passen, selbst wenn deren Rechenleistung ausreicht.
Ja. Nutze nach Möglichkeit einen gemessenen effektiven Speicherwert, der Vektoren, Indexstrukturen und notwendige Metadaten umfasst.
Verwende einen Benchmark mit deiner Dimension, Metrik, Top-K, Filterung, Indexparametern und einem realistischen Datenbestand.
Er erhöht die Kapazitätsanforderung, um Redundanz, Failover oder zusätzliche Kopien des Indexes abzubilden.
| Kennzahl | Bedeutung |
|---|---|
| GPU nach Durchsatz | Kapazität auf Basis der Abfragerate. |
| GPU nach Speicher | Kapazität auf Basis des Vektor-/Indexspeichers. |
| Vektorspeicher | Rohschätzung aus Vektorzahl und effektiven Bytes pro Vektor. |