OpenAI Embeddings

​

Bevor du startest

• API-Key: Nutze einen Workspace- oder persönlichen API-Key mit dem Scope Embedding API.

​

Basis-URL

https://api.langdock.com/openai/{region}/v1/embeddings

​

Parameter

• model: Derzeit wird nur das text-embedding-ada-002 Modell unterstützt.
• encoding_format: Unterstützt sowohl float als auch base64 Formate.

​

Rate Limits

• RPM wird je Workspace, Modell und API-Key begrenzt.
• TPM teilen sich alle API-Keys, die dasselbe Modell in einem Workspace verwenden.
• In der Cloud können Admins unter Einstellungen > Workspace > Produkte > API die TPM für eigene Modelle setzen; sie begrenzt die geschätzte Größe einer einzelnen Anfrage.
• In Dedicated Deployments können Admins unter Einstellungen > Workspace > Produkte > API eigene Limits je Modell festlegen.

​

Verwendung von OpenAI-kompatiblen Bibliotheken

​

Beispiel mit der OpenAI Python-Bibliothek

from openai import OpenAI
client = OpenAI(
  base_url="https://api.langdock.com/openai/eu/v1",
  api_key="<YOUR_LANGDOCK_API_KEY>"
)

embedding = client.embeddings.create(
  model="text-embedding-ada-002",
  input="The quick brown fox jumps over the lazy dog",
  encoding_format="float"
)

print(embedding.data[0].embedding)

​

Beispiel mit dem Vercel AI SDK in Node.js

import { createOpenAI } from "@ai-sdk/openai";

const langdockProvider = createOpenAI({
  baseURL: "https://api.langdock.com/openai/eu/v1",
  apiKey: "<YOUR_LANGDOCK_API_KEY>",
});

const response = await langdockProvider.embeddings.create({
  model: "text-embedding-ada-002",
  input: "The quick brown fox jumps over the lazy dog",
  encoding_format: "float",
});

console.log(response.data[0].embedding);