Warum kleine Sprachmodelle gut zu Unternehmensagenten passen

Eine Kundenübersicht vorzubereiten umfasst mehrere Aufgaben. Das System muss den Kunden zuordnen, aktuelle Aktivitäten finden, relevante Vereinbarungen abrufen und eine hilfreiche Zusammenfassung erstellen.

Jeder Schritt hat einen eigenen Zweck. Manche erfordern eine Auswahl aus wenigen Möglichkeiten. Andere verlangen, mehrere Quellen gemeinsam zu interpretieren.

Damit wird die Modellwahl zu einer Architekturfrage: Welche Fähigkeit braucht der einzelne Schritt, und wie geht das System mit Ausnahmen um?

Das Argument für spezialisierte Modelle

In ihrem Positionspapier Small Language Models are the Future of Agentic AI argumentieren Peter Belcak und seine Mitautoren, dass viele Agentenaufgaben wiederkehrend und ausreichend klar begrenzt für kleine Sprachmodelle sind. Sie schlagen Systeme vor, die spezialisierte Modelle mit größeren Modellen für umfassendere Aufgaben kombinieren.

Das Paper liefert eine architektonische und wirtschaftliche Argumentation. Welche Vorteile ein bestimmter Geschäftsprozess erzielt, muss im konkreten Einsatz gemessen werden.

Mit einer klar definierten Aufgabe beginnen

Für Traize könnten geeignete Aufgaben beispielsweise das Formulieren einer Suchanfrage, die Auswahl eines Suchwerkzeugs oder das Extrahieren strukturierter Angaben sein.

Bei „Was hat sich diesen Monat beim Kunden Northwind getan?“ muss das System zunächst Kunde und Zeitraum bestimmen. Eine spezialisierte Komponente könnte daraus eine strukturierte Suchanfrage mit festgelegten Feldern erzeugen.

Dieses Ergebnis lässt sich vergleichsweise einfach überprüfen: Existiert der Kunde? Stimmt der Zeitraum? Sind alle erforderlichen Angaben vorhanden?

Eine klar beschriebene Aufgabe schafft damit eine konkrete Grundlage für Training und Bewertung.

Das Gesamtsystem bestimmt die Zuverlässigkeit

Ein Modell braucht Werkzeuge, Kontext, Prüfungen und einen Umgang mit Fehlern. Diese Komponenten bilden den operativen Rahmen eines Agenten.

Bei einer Kundenübersicht muss dieser Rahmen Zugriffsrechte durchsetzen, Werkzeugaufrufe prüfen und Quellenbezüge erhalten. Außerdem muss er erkennen, wann ein leistungsfähigeres Modell oder eine Rückfrage erforderlich ist.

Diese Entscheidungen beeinflussen Qualität und Kosten. Ein günstiger Modellaufruf kann teuer werden, wenn er wiederholte Suchen, ungültige Werkzeugaufrufe oder eine unbrauchbare Antwort verursacht.

Entscheidend sind deshalb die Kosten einer erfolgreich abgeschlossenen Aufgabe, einschließlich Wiederholungen und Übergaben an andere Modelle.

Mehr Kontrolle über den Betrieb

Spezialisierung eröffnet auch die Möglichkeit, Modelle für eine selbst gewählte Betriebsumgebung zu prüfen. Für Traizes Interesse an souveräner europäischer KI gehören dazu Modellherkunft, Lizenzen, Hosting und operative Kontrolle.

Ein kleineres Modell kann einen bestimmten Betrieb wirtschaftlich erleichtern. Souveränität ergibt sich aus den tatsächlichen Bedingungen, unter denen es trainiert, bereitgestellt und betrieben wird.

Unsere Richtung orientiert sich an überprüfbaren Unternehmensaufgaben: die Arbeit klar beschreiben, passende Modelle auswählen und das vollständige Ergebnis bewerten. So entsteht eine praktische Grundlage für effiziente KI, die Unternehmen täglich und regelmäßig einsetzen können.