Neue Agenten-Architektur in AIS.chat
Die Nutzung eines KI-Chatbots soll sich leicht anfühlen: Einfach eine Frage stellen und eine brauchbare Antwort erhalten.
Der Weg zu dieser Antwort gestaltet sich im Hintergrund allerdings deutlich komplexer. Manchmal reicht das Wissen des Sprachmodells aus, manchmal sind Informationen aus einem hochgeladenen Dokument gefragt. In anderen Fällen braucht es aktuelle Quellen aus dem Web oder ein spezialisiertes Werkzeug. Genau hier setzt die neue Agenten-Architektur von AIS.chat an. Bei jeder Anfrage kann das Sprachmodell abhängig vom Kontext entscheiden, ob es direkt antwortet oder eines der verfügbaren Werkzeuge nutzt, um zusätzliche Informationen zu erhalten.
Die neue Architektur verbessert bestehende Funktionen und schafft die technische Grundlage dafür, AIS.chat künftig um weitere spezialisierte Werkzeuge und Wissensquellen wie zum Beispiel Bildungsmedien und Lehrpläne zu erweitern.
Sprachmodelle funktionieren – vereinfacht dargestellt – nach folgendem Prinzip: Sie erhalten eine Frage (Prompt) und erzeugen auf dieser Grundlage eine Antwort. Eine Agenten-Architektur erweitert diesen Prozess. Das Sprachmodell ist nicht mehr nur für die Formulierung der Antwort zuständig, sondern kann auch selbstständig „entscheiden”, welche zusätzlichen Schritte notwendig sind, um eine möglichst passende Antwort zu erstellen.
Ein einfaches Beispiel: Wird AIS.chat eine allgemeine Frage gestellt, kann das Sprachmodell diese möglicherweise direkt beantworten. Fragt eine Lehrkraft dagegen nach einem bestimmten Aspekt in einem hochgeladenen Dokument, kann AIS.chat gezielt darin recherchieren. Werden zusätzlich aktuelle Informationen benötigt, kann das System eine Websuche durchführen und deren Ergebnisse ebenfalls in die Antwort einbeziehen.
Benötigt ein Sprachmodell zur Beantwortung einer Frage zusätzliche Informationen, kann es sogenannte Tool Calls, also „Werkzeugaufrufe“, auslösen. Zu diesen Werkzeugen gehören beispielsweise die Websuche, das Abrufen von Webseiten oder der Zugriff auf hochgeladene Dateien. Die Ergebnisse dieser Werkzeuge fließen anschließend wieder an das Sprachmodell zurück. Dort werden sie ausgewertet, miteinander verknüpft und für die endgültige Antwort verwendet.
Abbildung 1: Die Grafik zeigt vereinfacht, wie AIS.chat eine Anfrage verarbeitet
1. Dokumente intelligent nutzen
Der KI-Agent in AIS.chat entscheidet selbst, ob ein Dokument vollständig betrachtet oder gezielt nach relevanten Textstellen durchsucht werden soll. Dadurch verbessert sich die Qualität der Antworten.
2. Anschlussfragen besser verstehen
Chats mit mehreren Frageschritten – etwa nach Personen, Funktionen und Hintergründen – werden nun anders verarbeitet, sodass sich die Qualität der Antworten erheblich steigert.
3. Mehrere Webrecherchen parallel durchführen
Mehrere Websuchen können gleichzeitig durchgeführt werden. Das verbessert die Qualität der Ergebnisse.
4. Dokumente und Webrecherche miteinander verbinden
Informationen aus hochgeladenen Dokumenten können nun direkt in die Websuche einfließen. Dadurch werden die Ergebnisse passgenauer.
Die neue Architektur verbessert nicht nur die Funktionen, die heute bereits in AIS.chat zur Verfügung stehen. Vor allem schafft sie eine Grundlage, an die sich künftig weitere spezialisierte Werkzeuge und Informationsquellen anbinden lassen.
Wie das in der Praxis aussehen kann, zeigt aktuell bereits die Integration von MUNDO, der offenen Bildungsmediathek der Länder.
Angenommen, eine Lehrkraft möchte eine Unterrichtsstunde zum menschlichen Auge vorbereiten, …
… dann kann AIS.chat daraufhin nun die angebundene Bildungsmediathek MUNDO einbeziehen und passende Bildungsmedien für das Thema vorschlagen.
Ein weiterer geplanter Baustein ist die Integration von Lehrplänen verschiedener Klassenstufen und Schulformen.
Lautet der Prompt einer Lehrkraft beispielsweise „Plane eine Unterrichtsstunde zum Thema Auge für meine 7. Klasse und berücksichtige dabei die relevanten Inhalte des Lehrplans“, könnte AIS.chat daraufhin nicht nur allgemeines Wissen und passende Materialien heranziehen, sondern zusätzlich prüfen, welche Inhalte für das konkrete Thema laut hinterlegtem Lehrplan relevant sind.
Für Lehrkräfte könnte das einen entscheidenden Unterschied machen: Sie müssten die verschiedenen Informationsquellen nicht mehr separat durchsuchen und anschließend selbst zusammenführen. Die Agenten-Architektur schafft damit die technische Voraussetzung dafür, dass AIS.chat die jeweils benötigten Quellen gezielt einbezieht.