Was ist ein LLM (Large Language Model)?

Eine Steuerkanzlei bekommt von einem Mandanten einen 40-seitigen Vertrag mit der Bitte um eine erste Einschätzung bis morgen. Statt zwei Stunden zu lesen, lässt die Sachbearbeiterin ein Sprachmodell die Kernpunkte, Fristen und ungewöhnlichen Klauseln herausziehen — in zwei Minuten. Die fachliche Bewertung macht sie selbst, aber die Vorarbeit ist erledigt.

Das Werkzeug dahinter heißt LLM: Large Language Model, großes Sprachmodell.

Wie ein LLM funktioniert

Ein LLM ist ein Computerprogramm, das mit gewaltigen Textmengen trainiert wurde — Bücher, Webseiten, Fachartikel, Millionen von Dokumenten. Beim Training lernt das Modell, welche Wörter und Formulierungen in welchem Zusammenhang typischerweise aufeinander folgen. Das klingt banal, führt aber zu einer erstaunlichen Fähigkeit: Das Modell kann Sprache in fast beliebiger Form verarbeiten und erzeugen.

Konkret heißt das: Ein LLM kann Texte zusammenfassen, E-Mails formulieren, übersetzen, Informationen aus Dokumenten herausziehen, Fragen beantworten und Texte in andere Formate bringen — etwa aus einem Besprechungsprotokoll eine Aufgabenliste machen.

Wichtig zu wissen: Das Modell versteht nicht im menschlichen Sinn. Es berechnet die wahrscheinlichste Fortsetzung eines Textes. Meistens ist das Ergebnis richtig und brauchbar. Manchmal klingt es richtig, ist aber falsch — man spricht dann von Halluzinationen. Deshalb gehört zu jedem sinnvollen LLM-Einsatz eine Kontrolle durch Menschen oder eine technische Absicherung über geprüfte Firmendaten.

ChatGPT, Claude, Gemini — und die offenen Modelle

Die bekannten Namen sind Anwendungen großer US-Anbieter, die deren LLMs über die Cloud bereitstellen. Daneben gibt es eine zweite, für Unternehmen oft interessantere Kategorie: offene Modelle, die man herunterladen und auf eigener Hardware betreiben kann. Qualitativ haben diese Modelle in den letzten Jahren stark aufgeholt und reichen für die meisten betrieblichen Aufgaben — Zusammenfassen, Extrahieren, Beantworten von Fragen zu Firmendokumenten — vollkommen aus.

Was ein LLM nicht kann: Ihre Firma kennen

Ein LLM kennt nur, was in seinen Trainingsdaten stand. Ihre Preislisten, Verträge, Arbeitsanweisungen und E-Mail-Verläufe gehören nicht dazu. Fragt man ein Standardmodell nach internen Themen, erfindet es im Zweifel eine plausibel klingende Antwort.

Die Lösung ist nicht, das Modell mit Firmendaten neu zu trainieren — das ist teuer und selten nötig. Stattdessen verbindet man das LLM mit den eigenen Dokumenten: Das System sucht zur Frage die passenden Textstellen heraus und lässt das Modell auf dieser Grundlage antworten, mit Quellenangabe. Dieses Verfahren heißt RAG und ist der Standardweg, um aus einem allgemeinen Sprachmodell einen firmenspezifischen Assistenten zu machen.

DSGVO und Datenhoheit

Wer ein Cloud-LLM nutzt, schickt seine Eingaben an den Anbieter — inklusive allem, was Mitarbeitende dort hineinkopieren. Bei Kundendaten, Personaldaten oder Geschäftsgeheimnissen ist das ein reales Risiko und datenschutzrechtlich oft heikel. Die Alternative: ein offenes LLM auf einem eigenen Server im Haus. Die Verarbeitung bleibt vollständig im Unternehmen, kein Datum verlässt das Netzwerk. Moderne, kompakte KI-Hardware macht das inzwischen auch für mittelständische Budgets realistisch.

Fazit

Ein LLM ist ein universelles Sprachwerkzeug — so grundlegend wie die Tabellenkalkulation vor 30 Jahren. Der Unterschied zwischen Spielerei und Produktivität liegt in drei Fragen: Welche Aufgabe soll es übernehmen? Woher bekommt es verlässliche Firmendaten? Und wo laufen die Daten durch? Wer diese drei Fragen beantwortet hat, hat die LLM-Entscheidung im Kern schon getroffen.