Skip to main content
KI-Modelle sind noch nicht gut darin, ein ganzes Repository zu verarbeiten. Dafür gibt es einige Gründe:
  • Erstens verfügen sie über ein Kontextfenster, also die maximale Textmenge, die sie gleichzeitig verarbeiten können. Der Web-Chat akzeptiert bis zu 50 Dateien pro Nachricht, der mobile Chat bis zu 5. Ein Agent unterstützt bis zu 50 Dateien. Wenn ein Agent insgesamt mehr als 20 Dokumente hat, bleiben Textdokumente über Dateilisten und Datei-Tools verfügbar, während Tabellen direkt gelesen werden können, statt alle Inhalte im Kontext als Vorschau bereitzustellen. Repositories enthalten oft mehr Dateien, als diese Limits erlauben.
  • Wissenssammlungen verarbeiten Dokumente oder Dokumentenstapel, die größer als das Kontextfenster sind. Da das Kontextfenster eine technische Einschränkung des Modells darstellt, kann nicht alles an das Modell gesendet werden. Eine Embedding-Suche identifiziert relevante Abschnitte der Dokumente, und nur diese Abschnitte werden an das Modell gesendet. Für die Kodierung ist es wichtig, das gesamte Dokument zu berücksichtigen, nicht nur ausgewählte Abschnitte. Daher schränkt das Kontextfenster auch dieses Verhalten ein.
  • Selbst wenn das Repository in das Kontextfenster passt, kann es für das Modell dennoch schwierig sein, es zu verstehen, wenn es sich um ein großes Repository handelt, da die Qualität der Antworten mit einem volleren Kontextfenster abnimmt.
Für Repository-Aufgaben kannst du eine verfügbare Code-Repository-Integration wie GitHub oder Bitbucket verwenden, um Code zu durchsuchen und bestimmte Dateien bei Bedarf zu öffnen. Für kleine Aufgaben kannst du auch mit einzelnen Dateien, kleineren Abschnitten oder Screenshots arbeiten.