Bevor du startest
- API-Key: Um die API zu nutzen, erstellst du einen persönlichen API-Key oder fragst deinen Workspace-Admin nach einem Workspace-API-Key mit dem Scope Completion API.
Basis-URL
Parameter
Alle Parameter des OpenAI Chat Completion Endpunkts werden gemäß den OpenAI-Spezifikationen unterstützt, mit folgenden Ausnahmen:Prompt Caching
Prompt Caching erfolgt automatisch für geeignete Anfragen. Wenn eine Anfrage ein ausreichend langes Präfix mit einer kürzlichen Anfrage auf demselben Modell teilt, verwendet der Anbieter das gecachte Präfix wieder. Du musst deiner Anfrage keine Felder hinzufügen. Top-Level OpenAI Cache-Controls wieprompt_cache_key und prompt_cache_options werden nicht unterstützt und beim Parsen aus der Anfrage entfernt. Nicht-gestreamte Antworten melden gecachte Tokens in usage.prompt_tokens_details.cached_tokens.
Details zu Eignung, minimalen Präfix-Längen und Caching-Verhalten findest du im OpenAI Prompt Caching Guide.
Rate Limits
Die Standard-Limits sind 500 RPM (Anfragen pro Minute) und 150.000 TPM (Tokens pro Minute).- RPM wird je Workspace, Modell und API-Key begrenzt.
- TPM teilen sich alle API-Keys, die dasselbe Modell in einem Workspace verwenden.
- In der Cloud können Admins unter Einstellungen > Workspace > Produkte > API die TPM für eigene Modelle setzen; sie begrenzt die geschätzte Größe einer einzelnen Anfrage.
- In Dedicated Deployments können Admins unter Einstellungen > Workspace > Produkte > API eigene Limits je Modell festlegen.
429 Too Many Requests Antwort.
Verwendung von OpenAI-kompatiblen Bibliotheken
Da das Anfrage- und Antwortformat dasselbe wie bei der OpenAI API ist, kannst du beliebte Bibliotheken wie die OpenAI Python-Bibliothek oder das Vercel AI SDK verwenden, um die Langdock API zu nutzen.Beispiel mit der OpenAI Python-Bibliothek
Beispiel mit dem Vercel AI SDK in Node.js
Langdock blockiert bewusst Browser-basierte Anfragen, um deinen API-Schlüssel zu schützen und die Sicherheit deiner Anwendungen zu gewährleisten. Weitere Informationen findest du in unserem Guide zu Best Practices für API-Schlüssel.