Kurz zusammengefasst
- Ein LLM verarbeitet Text als kleine Einheiten und berechnet wahrscheinliche Fortsetzungen.
- Es kann formulieren, zusammenfassen, strukturieren und klassifizieren, ohne Inhalte wie ein Mensch zu verstehen.
- Für Unternehmensaufgaben braucht es zusätzlich Datenzugriff, Regeln, Tests, Berechtigungen und eine Anwendung.
Wie entsteht eine Antwort?
Beim Training sieht ein LLM sehr grosse Textmengen und lernt, welche sprachlichen Elemente in welchem Zusammenhang häufig vorkommen. Eine Eingabe wird in kleine Einheiten, sogenannte Tokens, zerlegt. Das Modell berechnet Schritt für Schritt, welche Fortsetzung zur bisherigen Eingabe wahrscheinlich passt.
Das Ergebnis wirkt oft verständig, weil Sprache viele Muster enthält. Das Modell prüft jedoch nicht automatisch, ob eine Aussage wahr, aktuell oder für Ihr Unternehmen freigegeben ist. Es erzeugt eine plausible Antwort auf Basis seiner Parameter und des Kontexts, den die Anwendung mitsendet.
- Modellparameter
- Enthalten die beim Training erlernten Sprachmuster. Sie liefern allgemeine Fähigkeiten, aber keine verlässlich abrufbare Sammlung aktueller Unternehmensfakten.
- Laufzeitkontext
- Umfasst die aktuelle Frage, Anweisungen, Gesprächsverlauf und bereitgestellte Auszüge. Nur dieser begrenzte Kontext ist für die konkrete Antwort direkt sichtbar.
- Externe Quellen und Tools
- RAG, Datenbanken und APIs liefern freigegebene Dokumente oder Live-Werte. Das Modell greift nicht selbst darauf zu; die Anwendung wählt und kontrolliert den Zugriff.
- Anwendung und Kontrollen
- Die umgebende Software steuert Identität, Rechte, Ausgabeformat, Prüfungen und erlaubte Aktionen. Erst diese Ebene macht aus dem Modell eine nutzbare Unternehmenslösung.
Wofür eignet sich ein LLM?
LLMs sind besonders nützlich, wenn unstrukturierte Sprache in eine andere Form gebracht werden soll. Gute Aufgaben haben ein klares Ziel und ein Ergebnis, das geprüft werden kann.
- Texte zusammenfassen, übersetzen oder für eine Zielgruppe umformulieren
- Informationen aus Dokumenten extrahieren und in ein Schema übertragen
- Anfragen klassifizieren oder Antwortentwürfe vorbereiten
- In natürlicher Sprache nach freigegebenem Wissen suchen
Vom Modell zur Unternehmensanwendung
Ein LLM allein kennt weder Ihre Rollen noch Ihre Prozesse. Eine produktive Anwendung ergänzt den sprachlichen Motor um eine Benutzeroberfläche, freigegebene Datenquellen, Identität und Berechtigungen, Geschäftsregeln, Protokollierung sowie einen definierten Prüf- oder Freigabeweg.
Das Modell kann dabei austauschbar bleiben. Wichtiger als der Markenname ist häufig, wie die Anwendung Kontext bereitstellt, Ergebnisse prüft und mit Fehlern umgeht. Dieselbe Aufgabe kann je nach Datenschutz, Sprache, Qualität und Kosten ein anderes Modell erfordern.
Wo liegen die Grenzen?
Ein LLM kann Fakten erfinden, Anweisungen missverstehen oder relevante Ausnahmen übersehen. Vertrauliche Eingaben können zudem falsch behandelt werden, wenn Datenfluss und Vertrag nicht geklärt sind. Für rechtlich, finanziell oder sicherheitskritische Entscheidungen darf eine flüssige Formulierung deshalb nie mit Verlässlichkeit gleichgesetzt werden.
- Ergebnisse mit repräsentativen eigenen Fällen testen
- Quellen und Unsicherheit sichtbar machen
- Zugriff und Aktionen nach dem Prinzip der geringsten Rechte begrenzen
- Für kritische Ergebnisse eine fachliche Prüfung verlangen
Welche Fragen sollten Unternehmen stellen?
Beginnen Sie nicht mit dem Modellvergleich, sondern mit der Aufgabe. Erst wenn gewünschtes Ergebnis, zulässige Daten und Fehlerfolgen klar sind, lassen sich Modelle sinnvoll beurteilen.
- Schritt 1
Aufgabe
Welche konkrete Arbeit soll unterstützt werden, und wer prüft das Ergebnis?
- Schritt 2
Kontext
Welche Informationen braucht das Modell, und wer darf darauf zugreifen?
- Schritt 3
Qualität
Mit welchen echten Fällen werden Richtigkeit, Vollständigkeit und Nutzen gemessen?
- Schritt 4
Betrieb
Wie werden Modellwechsel, Kosten, Fehler und Änderungen überwacht?
Beispiel: Antwortvorschläge im Kundendienst
Ein Kundendienst beantwortet wiederkehrende Fragen zu Verträgen und Abläufen. Eine Anwendung sucht zuerst relevante Stellen in freigegebenen Handbüchern, gibt sie mit der Anfrage an ein LLM und erstellt einen Entwurf. Die Fundstellen bleiben sichtbar; eine Mitarbeitende prüft und versendet die Antwort. Der Nutzen liegt im kontrollierten Zusammenspiel aus Quellen, Berechtigungen, Entwurf und menschlicher Freigabe.
Was Sie mitnehmen sollten
Wählen Sie ein Modell erst, wenn Daten, Qualitätsmassstab und Verantwortlichkeiten geklärt sind. Für viele Aufgaben ist ein kleineres Modell in einer gut entworfenen Anwendung sinnvoller als ein leistungsstarkes Modell ohne Leitplanken.
Quellen und Vertiefung
Diese Primärquellen vertiefen Definitionen, technische Grundlagen oder verantwortlichen Einsatz.
Inhaltlich geprüft