Token

Die Grundeinheit des Textes, die ein Modell verarbeitet; etwa 4 englische oder 1–2 chinesische Zeichen pro Token. Abrechnung und Kontextlimits werden in Tokens gemessen.

Ein Beispiel: „AI Resource Hub“ sind etwa 4–5 Tokens. Da APIs pro Ein- und Ausgabe-Token abrechnen, senkt das Kürzen von Prompts und Antworten die Kosten unmittelbar.