Preview einer Datei im Kontextfenster des Modells
Langdock schickt so viel Text aus jedem Dokument wie möglich als Preview an das Modell. Kleine Dateien können vollständig erscheinen. Dateien in einer Chat-Nachricht bleiben auf dem direkten Vorschaupfad. Bei Agenten gilt der Schwellenwert von 20 Dokumenten für die Dateien im Agenten-Wissen. Bei mehr als 20 Dokumenten bleiben Textdokumente über Dateilisten und Datei-Tools verfügbar, während Tabellen direkt gelesen werden können. Text aus synchronisierten Ordnern wird semantisch durchsucht. Bilddateien übergibt Langdock als visuellen Inhalt, sodass du sie direkt analysieren kannst.Embedding-Suche
Für unterstützte Textdokumente in Wissenssammlungen und synchronisierten Ordnern kann das Modell eine Embedding-Suche nutzen. Tabellen in synchronisierten Ordnern werden direkt gelesen, nicht eingebettet. Hierbei wird ein Textdokument beim Upload zunächst in kleinere Abschnitte (Chunks) aufgeteilt. Jeder Abschnitt wird anschließend in ein Embedding umgewandelt, eine numerische Darstellung, die die Bedeutung des Inhalts erfasst. Wenn eine Frage gestellt wird, sucht das System die Abschnitte, die inhaltlich am besten zur Frage passen. Dabei wird nicht nach konkreten Wörtern gesucht, sondern nach Abschnitten mit ähnlicher Bedeutung. Nur diese relevanten Teile werden an das Modell im Kontext geschickt. Dies ermöglicht, mit sehr großen Dokumenten zu arbeiten, die über das Kontextfenster des Modells hinausgehen.Unsere Parameter
Embedding-Dimension
Die Dimension der Vektoren beträgt 1536.
Chunk-Größe
Dokumente werden in Abschnitte von bis zu 2.000 Zeichen zerlegt.
Retrieval-Parameter (k-Wert)
Die Suche in Wissenssammlungen gibt pro Anfrage bis zu 50 Chunks zurück.
FAQ
Wann schickt Langdock eine ganze Datei in den Modellkontext?
Wann schickt Langdock eine ganze Datei in den Modellkontext?
Kleine, direkt angehängte Dateien werden nach Möglichkeit vollständig in den Modellkontext aufgenommen. Agenten stellen direkte Dateien bei bis zu 20 Dokumenten im Agenten-Wissen als Vorschau bereit. Bei mehr als 20 Dokumenten bleiben Textdokumente über Dateilisten und Datei-Tools verfügbar, während Tabellen direkt gelesen werden können.
Wann nutzt Langdock semantische Suche über Chunks?
Wann nutzt Langdock semantische Suche über Chunks?
Langdock nutzt semantische Suche für unterstützte Textdokumente in Wissenssammlungen und synchronisierten Ordnern. Direkte Agenten-Textdokumente bleiben bei mehr als 20 Dokumenten über Dateilisten und Datei-Tools verfügbar. Tabellen werden direkt gelesen. Für jede Frage werden relevante Abschnitte abgerufen, sodass das Modell möglicherweise nicht jedes Dokument oder jeden Satz sieht.
Warum kann eine Antwort Inhalte aus einer Wissenssammlung übersehen?
Warum kann eine Antwort Inhalte aus einer Wissenssammlung übersehen?
Die Antwort hängt davon ab, was für die konkrete Anfrage abgerufen wurde. Inhalte können übersehen werden, wenn die Frage zu breit ist, die relevante Formulierung von der Frage des Users abweicht, die Datei nicht verarbeitet wurde, Berechtigungen den Zugriff blockieren oder zu viele Quellen um das Retrieval konkurrieren. Engere Fragen und klarere Verweise auf Dateien, Themen oder Abschnitte verbessern die Ergebnisse meist.
Wie wirken sich Wissensquellen auf das Kontextfenster aus?
Wie wirken sich Wissensquellen auf das Kontextfenster aus?
Abgerufenes Wissen wird für die aktuelle Anfrage zum Kontext des Modells hinzugefügt. Mehr Wissensquellen, größere abgerufene Chunks, ein langer Chatverlauf, Agenten-Anweisungen und Tool-Ergebnisse konkurrieren alle um dasselbe Kontextfenster.