Das Budget für 1.000 Anfragen reproduzieren
Dieser technische Fall verwendet von RouterLab erstellte synthetische Profile. Er zeigt den Einfluss der Eingabemenge bei konstanter Ausgabe. Die Ergebnisse werden mit aktuellen Katalogpreisen berechnet; es sind weder abgerechnete Anfragen noch Qualitäts- oder Latenzmessungen.
Daten und Methode
Zwei Profile: 1.000 Anfragen mit 2.000 Eingabe- und 500 Ausgabetokens, danach 1.000 Anfragen mit 20.000 Eingabe- und 500 Ausgabetokens. Ohne Cache, Batch, zusätzliche Tools und Steuern. Die Ausgabe umfasst als Ausgabe abgerechnetes Reasoning. Jede Anfrage verwendet in diesem Datensatz höchstens 20.500 Tokens; prüfen Sie Modellpreisstufen vor einer Verallgemeinerung.
total = requests × (input_tokens × input_rate + output_tokens × output_rate)Aus dem Katalog berechnete Ergebnisse
Verwendete Preise pro Token: input 1e-7 · output 3.5e-7
| Profil | Eingabe / Anfrage | Ausgabe / Anfrage | Geschätzte Credits gesamt |
|---|---|---|---|
| short | 2000 | 500 | 0.375000 |
| long-input | 20000 | 500 | 2.175000 |
Lokal reproduzieren
Python 3, nur Standardbibliothek. Speichern Sie das Skript als budget_case.py und starten Sie python budget_case.py. Es liest keinen Schlüssel, sendet keine Anfrage und muss die beiden Tabellensummen ausgeben. Kopierte Preise entsprechen dem Katalog beim Öffnen dieser Seite.
budget_case.py python
from decimal import Decimal
input_rate = Decimal("1e-7")
output_rate = Decimal("3.5e-7")
profiles = [{"id":"short","requests":1000,"input":2000,"output":500},{"id":"long-input","requests":1000,"input":20000,"output":500}]
for profile in profiles:
total = Decimal(profile["requests"]) * (
Decimal(profile["input"]) * input_rate + Decimal(profile["output"]) * output_rate
)
print(profile["id"], format(total, ".6f"))Von der Schätzung zur Integration
Eine Credit-Schätzung allein ergibt nicht den bezahlten Betrag: Berücksichtigen Sie Zuteilung, Erneuerung und tatsächlichen Verbrauch. Prüfen Sie im Trial die freigegebenen -trial-Varianten; interne Trial-Einheiten sind keine Kundenpreise. Planen Sie beim Wechsel des Embedding-Modells eine Neuindexierung und verwenden Sie dasselbe Modell für Dokumente und Anfragen.