Zum Hauptinhalt springen
Es gibt zwei Möglichkeiten, wie Inhalte einer Datei für die Generierung einer Antwort verarbeitet werden:
  • Eine ist, dass das gesamte Dokument an das Modell gesendet wird, zusammen mit deinem Prompt (siehe diesen Guide). Dies ist der Standard in Chats und Agenten.
  • KI-Modelle haben ein Kontextfenster, das die Grenze dafür ist, wie viel Text auf einmal verarbeitet werden kann. Bei langen Dokumenten oder einer großen Anzahl von Dokumenten werden die Dokumente in Abschnitte aufgeteilt und eine semantische Suche ruft nur die relevantesten Abschnitte ab, die dann an das Modell im Kontextfenster gesendet werden. Dies wird in Ordnern verwendet.
Das Anhängen der Dateien direkt an einen Agenten oder an einen Chat führt zu den besten Ergebnissen. Wenn möglich, solltest du diese Option wählen. Wir empfehlen, so wenige Dokumente wie möglich an einen Agenten oder Chat anzuhängen. In einigen Fällen, z. B. bei der Arbeit mit umfangreichen Dokumentationen oder für einen FAQ-Agenten, ist es nicht möglich, die Dokumente direkt an einen Agenten oder einen Chat anzuhängen. Hier kannst du Ordner verwenden, die sich gut für Anwendungsfälle eignen, in denen nur bestimmte Abschnitte relevant sind, nicht jedoch die gesamten Dokumente.