Zum Hauptinhalt springen
Erstellt eine Modellantwort für die angegebene Chat-Konversation. Dieser Endpunkt folgt der OpenAI API-Spezifikation. Anfragen werden an die OpenAI- oder Azure-OpenAI-Deployment-Konfiguration des Modells in deinem Workspace weitergeleitet. Informationen zu Codex und anderen Clients, die das Responses Format verwenden, findest du unter OpenAI Responses.

Bevor du startest

  • API-Key: Um die API zu nutzen, erstellst du einen persönlichen API-Key oder fragst deinen Workspace-Admin nach einem Workspace-API-Key mit dem Scope Completion API.

Basis-URL

Dedicated DeploymentsErsetze api.langdock.com durch <your-deployment-url>/api/public in allen Anfragen.

Parameter

Alle Parameter des OpenAI Chat Completion Endpunkts werden gemäß den OpenAI-Spezifikationen unterstützt, mit folgenden Ausnahmen:

Prompt Caching

Prompt Caching erfolgt automatisch für geeignete Anfragen. Wenn eine Anfrage ein ausreichend langes Präfix mit einer kürzlichen Anfrage auf demselben Modell teilt, verwendet der Anbieter das gecachte Präfix wieder. Du musst deiner Anfrage keine Felder hinzufügen. Top-Level OpenAI Cache-Controls wie prompt_cache_key und prompt_cache_options werden nicht unterstützt und beim Parsen aus der Anfrage entfernt. Nicht-gestreamte Antworten melden gecachte Tokens in usage.prompt_tokens_details.cached_tokens. Details zu Eignung, minimalen Präfix-Längen und Caching-Verhalten findest du im OpenAI Prompt Caching Guide.

Rate Limits

Die Standard-Limits sind 500 RPM (Anfragen pro Minute) und 150.000 TPM (Tokens pro Minute).
  • RPM wird je Workspace, Modell und API-Key begrenzt.
  • TPM teilen sich alle API-Keys, die dasselbe Modell in einem Workspace verwenden.
  • In der Cloud können Admins unter Einstellungen > Workspace > Produkte > API die TPM für eigene Modelle setzen; sie begrenzt die geschätzte Größe einer einzelnen Anfrage.
  • In Dedicated Deployments können Admins unter Einstellungen > Workspace > Produkte > API eigene Limits je Modell festlegen.
Wenn du dein Rate Limit überschreitest, erhältst du eine 429 Too Many Requests Antwort.

Verwendung von OpenAI-kompatiblen Bibliotheken

Da das Anfrage- und Antwortformat dasselbe wie bei der OpenAI API ist, kannst du beliebte Bibliotheken wie die OpenAI Python-Bibliothek oder das Vercel AI SDK verwenden, um die Langdock API zu nutzen.

Beispiel mit der OpenAI Python-Bibliothek

Beispiel mit dem Vercel AI SDK in Node.js

Langdock blockiert bewusst Browser-basierte Anfragen, um deinen API-Schlüssel zu schützen und die Sicherheit deiner Anwendungen zu gewährleisten. Weitere Informationen findest du in unserem Guide zu Best Practices für API-Schlüssel.