Wie funktioniert eigentlich generative KI und warum macht sie genau die Fehler, die sie macht? Auf diese Frage ist Tara Bosenick in ihrem Webinar im Rahmen des Experience Leadership Clubs eingegangen. Statt eines reinen Prompting-Trainings hat sie die Mechanik dahinter aufgemacht. Sie hat vorgestellt, wie ein LLM intern arbeitet, warum Halluzinationen kein Bug sind, sondern eine strukturelle Eigenschaft und welche Konsequenzen sich daraus für die tägliche Arbeit ergeben.
Der Aufbau des Webinars folgte dabei einer einfachen Logik. An jeder Station im Verarbeitungsprozess eines LLMs entstehen typische Probleme. Wer diese Stationen versteht, kann Prompts so bauen, dass möglichst wenige davon greifen.
Was im Alltag mit LLMs auffällt
Tara eröffnet das Webinar mit sieben Phänomenen, die ihr und vielen anderen bei der Nutzung von LLMs immer wieder begegnen:
- Es gab offensichtliche Fehler.
- Es hätte mehr Inhalte oder Aspekte geben können.
- Die Antworten wurden kürzer und unpräziser.
- Die Antworten waren stark gebiast.
- Das LLM war vorschnell.
- Das LLM hat sich stur gestellt.
- ChatGPT hat „die Meinung geändert”.
Besonders eindrücklich ist das letzte Phänomen. Tara zeigt einen Fall, in dem ein Nutzer ChatGPT mit nur zwei Sätzen davon überzeugt, dass am 5. Februar 2025 ein großer Ausfall stattgefunden habe. Tatsächlich war an diesem Tag aber alles normal. Das Modell entschuldigt sich, bestätigt das angebliche Datum und liefert eine lange, komplett erfundene Liste von Serverproblemen mit. Ein Lehrstück für die Gefahr, mit der man es zu tun hat.
„Das alles ausgelöst durch nur zwei Sätze des Nutzers.”
Gen AI, LLM, GPT – was ist was?
Bevor es technisch wird, sortiert Tara die Begriffe und erläuterte grundlegende Funktionsweisen:
- Generative AI ist der Oberbegriff für KI-Modelle, die Inhalte wie Texte, Bilder oder Audio erzeugen.
- Large Language Models (LLMs) sind große KI-Modelle, die auf riesigen Textmengen trainiert wurden, um Sprache zu verstehen und zu generieren. Sie bilden die Grundlage vieler Anwendungen.
- GPT (Generative Pretrained Transformer) ist eine spezielle Art von LLM, entwickelt von OpenAI.
Tara erklärt das Training in zwei Phasen. Im Self-Supervised Pre-Training wird das Modell mit großen Textmengen gefüttert und versucht, jeweils das nächste Wort vorherzusagen. Bei jeder Abweichung vom tatsächlichen Wort werden die internen Parameter angepasst. Durch milliardenfache Wiederholung lernt das Modell Sprachmuster, Grammatik und Zusammenhänge.
Im zweiten Schritt, dem Reinforcement Learning with Human Feedback (RLHF), bewerten Menschen die Antworten als hilfreich oder problematisch – die Parameter werden entsprechend nachjustiert.
Ein zentraler Punkt: Nach dem Training lernt das Modell nichts Permanentes mehr dazu. Was nicht im Trainingsmaterial war, ist nicht da. Was nach dem Cut-off passiert ist, ist unbekannt.
Vermeidung von Halluzinationen: Bei aktuellen Themen unbedingt Webrecherche durchführen und/oder Daten selbst zur Verfügung stellen.
„Transformer” – die fünf Schritte der Sprachverarbeitung
Den Kern des Webinars bildet die Frage, was eigentlich im Transformer passiert. Tara zerlegt den Prozess in fünf Schritte:
Zerlegen → Übersetzen → Begrenzen → Verknüpfen → Ausgeben
An jeder dieser Stationen entstehen typische Fehlerquellen und damit konkrete Hebel für besseres Prompting.
Zerlegen – Tokenisierung
Die kleinste Verarbeitungseinheit eines LLMs ist nicht das Wort, sondern das Token. Ein Token kann ein ganzes Wort sein oder nur ein Wortteil. Das Wort „unverantwortlich” wird zum Beispiel in drei Token zerlegt: „un” + „verantwort” + „lich”. Diesen Vorgang nennt man Tokenisierung.
Übersetzen – Embedding
Jedes Token wird in eine Liste von Zahlen umgewandelt – einen Vektor in einem hochdimensionalen Raum. Token mit ähnlicher Bedeutung liegen in diesem Raum nah beieinander.
Tara veranschaulicht das mit einem schönen Beispiel: Die Vektoren für „Japan” und „Deutschland” liegen nah beieinander, weil beide für „Land” stehen. „Sushi” liegt in der Nähe von „Japan”, „Bratwurst” in der Nähe von „Deutschland”. Und der Abstand zwischen Japan und Sushi ist ähnlich wie der zwischen Deutschland und Bratwurst – das Modell hat die Beziehung „typisches Gericht des Landes” implizit gelernt.
Zusätzlich bekommt jedes Token eine Positionskodierung. Ohne sie wäre „Hund beißt Mann” für das Modell identisch mit „Mann beißt Hund”.
Vermeidung von Halluzinationen: Konventionell schreiben, sowohl bei der Wortwahl als auch bei der Reihenfolge der Wörter.
Begrenzen – Kontextfenster
Das Arbeitsgedächtnis eines LLMs heißt Kontext. Es umfasst die Eingabe, die bisherige Konversation und die Ausgabe. Was außerhalb des Kontextfensters liegt, ist für das Modell schlicht nicht vorhanden.
Die Größenordnungen sind dabei beeindruckend, aber endlich. ChatGPT 5.4 arbeitet mit 1.000.000 Token Kontextlänge (rund 1.500 A4-Seiten), Claude 4.6 Opus mit 1.000.000 Token (ca. 1.500 A4-Seiten) und Gemini 3.1 Pro mit 1.048.576 Token (ca. 1.550 A4-Seiten). Klingt nach viel – aber Anhänge, lange Verläufe und ausführliche Prompts addieren sich schnell.
Vermeidung von Halluzinationen: Kontextlänge beachten – inklusive aller Anhänge.
Verknüpfen – Self-Attention
Hier wird es spannend. Beim Self-Attention-Mechanismus „schaut” jedes Wort auf alle anderen Wörter im Text und fragt sinngemäß: „Wer von euch ist wichtig, um mich zu verstehen?”.
Technisch gesehen hat jedes Token drei Matrizen mit trainierbaren Parametern:
- Query: „Auf wen soll ich achten?”
- Key: „Bin ich relevant für dich?”
- Value: „Wenn ja, nimm diese Information.”
Am Beispielsatz „Eine fluffige blaue Kreatur geht durch den Wald” macht Tara das anschaulich: Das Wort „Kreatur” stellt die Anfrage – und die Wörter „fluffige” und „blaue” antworten mit hoher Relevanz, weil sie die Kreatur näher beschreiben.
Im Anschluss wird der Vektor jedes Tokens auf Basis seines Kontexts aktualisiert. Der Vektor für „Bank” verändert sich also je nachdem, ob im Text „Geld” oder „Park” vorkommt. Dieser Prozess aus Self-Attention und Transformation wird vielfach wiederholt – bei ChatGPT 5.2 zwischen 400 und 600 Mal pro Anfrage. Je häufiger, desto präziser die Vorhersagen.
Vermeidung von Halluzinationen: Texte so formulieren, dass möglichst wenige Fragen innerhalb des Self-Attention-Mechanismus falsch beantwortet werden. Komplexe Aufgaben in kleine Schritte aufteilen. Nicht mit zu vielen Daten auf einmal arbeiten. Wichtige Anweisungen wiederholen.
Ausgeben – Autoregressiver Decoder
Der letzte Schritt ist die eigentliche Textgenerierung. „Autoregressiv” bedeutet: Das Modell greift auf seine eigenen vorherigen Outputs zurück, um den nächsten zu erzeugen. Es füttert sich selbst – jedes neue Wort basiert auf allem, was es bisher selbst geschrieben hat.
Diese Selbstbezüglichkeit hat eine wichtige Konsequenz: Wenn am Anfang eines Chats Falsches oder Unsinniges steht, baut das Modell darauf auf und verstärkt den Fehler über die gesamte Konversation.
Vermeidung von Halluzinationen: Wenn „Müll” im Chat steht, einen neuen Chat starten. Keine Prompts formulieren, in denen etwas vorausgesetzt wird.
Halluzinationen – not a bug, but a feature
Aus der Funktionsweise eines Transformers ergeben sich vier strukturelle Ursachen für Halluzinationen:
1. Fehlendes Weltwissen. Transformer-Modelle haben keine Verbindung zur realen Welt. Sie kennen nur die Wahrscheinlichkeit, mit der bestimmte Wortfolgen auftreten.
2. Fehlende Faktenprüfung. Es gibt kein inneres Kontrollsystem, keine logische Validierung, keine semantische Redundanzprüfung.
3. Gleiches Sprachgefühl unabhängig vom Wahrheitsgehalt. Das Modell spricht im gleichen Stil, egal ob es rät, halluziniert oder Fakten ausgibt. Die sprachliche Qualität suggeriert eine Sicherheit, die nicht da ist.
4. Qualität und Verzerrung der Trainingsdaten. LLMs lernen aus riesigen Textkorpora – darin steckt viel Wissen, aber auch Fehler, Fiktion, Meinungen, Satire und Polemik. Das Modell kann nicht unterscheiden, ob ein Satz aus Wikipedia oder Reddit stammt. Was oft genug auftritt, prägt das Modell – egal ob wahr oder falsch.
Eine Untersuchung von Xu, Jain und Kankanhalli (2025, „Hallucination is Inevitable”) bestätigt das empirisch. Je höher die Aufgabenkomplexität, desto häufiger treten Halluzinationen auf. Selbst bei einfachen Fakten kommt es vereinzelt zu erfundenen Details. Chain-of-Thought hilft etwas, beseitigt das Problem aber nicht. Das Verhalten ist nicht zufällig, sondern systematisch.
Vom Texte schreiben zum „Reasoning”
Tara grenzt klassische LLMs von neueren Large Reasoning Models (LRMs) ab. LLMs erzeugen Text durch Wort-für-Wort-Vorhersage, sind stark im flüssigen Formulieren, aber schwach bei komplexer Logik, Mathematik und mehrstufigen Problemen.
LRMs hingegen durchdenken Probleme Schritt für Schritt, bevor sie antworten. Sie zerlegen Aufgaben in Teilschritte, prüfen Zwischenergebnisse und zeigen ihren Denkprozess. Der Preis: mehr Rechenzeit, höhere Kosten.
In der Praxis kombinieren viele aktuelle Produkte beide Ansätze – ein LLM für die schnelle Ausführung, ein LRM für tiefes Nachdenken.
Können LLMs rechnen?
Streng genommen: nein. Tara räumt mit dem Denkfehler „Computer = kann rechnen” auf. Das stimmt für Taschenrechner, Excel und Python, aber nicht für Sprachmodelle. Ein Taschenrechner verarbeitet Zahlen, das Ergebnis ist korrekt. Ein Sprachmodell verarbeitet Textbausteine, das Ergebnis klingt korrekt.
Wenn ein LLM mit Code-Interpreter rechnet, durchläuft es vier Schritte. Drei davon sind probabilistisch:
- Verstehen (probabilistisch): Welche Formel? Welche Annahmen?
- Code schreiben (probabilistisch): Das Modell wählt die Formel, die am wahrscheinlichsten passt – nicht unbedingt die richtige.
- Ausführen (exakt): Hier passieren keine Fehler.
- Antwort formulieren (probabilistisch): Zahlen können falsch übernommen werden.
Drei von vier Schritten „raten” also. Und viele Modelle haben nicht einmal Schritt 3.
Die Zahlen sind ernüchternd: Vierstellige Multiplikationen werden ohne Tools zu rund 99 Prozent falsch berechnet, mit Code-Interpreter fast immer richtig. Bei klinischen Berechnungen aber sinkt die Fehlerrate selbst mit Code-Interpreter nur von 56 auf 30–40 Prozent – weil die Fehler nicht beim Rechnen entstehen, sondern beim Verstehen der Aufgabe und beim Schreiben des Codes.
Mit wem reden wir da eigentlich?
Statt einer technischen Antwort gibt Tara ein Bild: Ein LLM ist wie ein sehr schlauer jugendlicher Mensch, der einerseits unbedingt gefallen möchte, andererseits versteckt renitent und ab und an launisch und frech ist. Ein Pubertier.
Konkret heißt das: Sie hält Wissen zurück. Sie ist faul. Sie antwortet manchmal sehr schnell, ohne wirklich nachzudenken. Sie will gefallen. Sie vergisst Dinge. Sie nutzt Ungenauigkeiten aus. Sie versteht nicht wirklich. Sie ist launisch, widerspenstig und manchmal frech. Und: Sie ist sehr, sehr clever.
Diese Metapher trägt überraschend weit und liefert die Brücke zu den Prompting-Empfehlungen.
Was folgt daraus für die Praxis?
Tara strukturiert ihre Empfehlungen entlang von drei Phasen.
Vor dem Prompten:
- Komplexe Aufgaben in kleine Schritte aufteilen.
- Daten vorbereiten – je mehr Struktur und Konsistenz, desto besser.
- Nicht mit zu vielen Daten auf einmal arbeiten, sondern in Abschnitten oder Batches.
- Kontextlänge beachten, inklusive aller Anhänge.
- Bei aktuellen Themen Webrecherche aktivieren oder eigene Daten bereitstellen.
- An die Zeitplanung denken – die USA sollten schlafen.
- Die KI selbst fragen, wie ein guter Prompt für die Aufgabe aussehen könnte, und den Prompt gemeinsam mit ihr verbessern.
Während des Promptens:
- Kontext geben.
- Beispiele hinzufügen – gute und schlechte.
- Fragen, ob sie den Prompt verstanden hat.
- Code-Interpreter verwenden oder LRM-Modus aktivieren („Erweitertes Nachdenken”, „Deep Research”).
- Konventionell schreiben in Wortwahl und Reihenfolge.
- Beschreiben, was mit wichtigen Begriffen gemeint ist.
- Freundlich sein.
- Keine Prompts formulieren, in denen etwas vorausgesetzt wird.
- Wichtige Anweisungen wiederholen.
- Mit <important>…</important> oder Fettschrift wichtige Aspekte betonen.
- Warnungen deutlich aussprechen – was sie nicht tun soll.
- Schritt-für-Schritt-Argumentation einfordern.
Nach dem Prompten:
- „Fällt dir noch mehr ein?” fragen.
- Zur Darlegung der Argumente zwingen.
- Kritische Prüfung durchführen, z.B. in der Rolle eines Qualitätsmanagers.
- Ergebnisse mit einer anderen KI gegenchecken.
- Neutralität und andere Standpunkte einfordern (Bias!).
- Ihr sagen, wo sie sich irrt – im aktuellen Kontext macht sie den Fehler dann hoffentlich nicht noch einmal.
Und wenn es schiefläuft? Neuen Chat starten.
Fazit: Verstehen statt vertrauen
Das Webinar macht deutlich, dass guter Umgang mit LLMs nicht aus Prompting-Tricks besteht, sondern aus einem Verständnis dafür, wie diese Modelle funktionieren. Wer weiß, dass Tokens nur Wahrscheinlichkeiten haben, dass Self-Attention Fragen beantwortet, dass der Decoder sich selbst füttert – der baut automatisch andere Prompts.
Halluzinationen sind kein Bug, sondern eine strukturelle Eigenschaft. Sie verschwinden nicht durch ein besseres Modell, sondern müssen aktiv eingedämmt werden. Genau dafür braucht es das, was Tara zum Abschluss noch einmal betont: Human in the Loop.
Das Potential ist da. Aber die Verantwortung bleibt bei uns.
Online-Seminar
Effizienter Umgang mit KIs und fortgeschrittenes Prompting für UXler:innen
Seit KI-Tools wie ChatGPT, Claude, Gemini und Co. fester Bestandteil unseres Arbeitsalltags geworden sind, hat sich die Art und Weise, wie wir mit diesen Technologien interagieren, rasant weiterentwickelt. Die meisten Nutzer:innen konzentrieren sich darauf, ihre Prompts zu optimieren – doch wahre Effizienz und Produktivität entstehen erst durch eine fundierte, strategische Nutzung dieser Tools.
- Wie kannst Du KI-gestützte Assistenten so steuern, dass sie Dir nicht nur Antworten liefern, sondern echte Mehrwerte schaffen?
- Wie entwickelst Du eine eigene, bewusste Haltung im Umgang mit KI, die Dir hilft, sie zielgerichtet und nachhaltig einzusetzen?
Dieser Workshop geht weit über die Grundlagen hinaus: Wir vermitteln Dir an Beispielen aus dem UX-Research ein tiefgehendes Verständnis für die Mechanismen hinter den KI-Modellen, zeigen Dir erprobte Strategien für produktive Interaktionen und helfen Dir, eine systematische Herangehensweise für Deine individuelle KI-Nutzung zu entwickeln. So entstehen nicht nur bessere Prompts, sondern auch konsistent hochwertigere Ergebnisse – effizient, kreativ und maßgeschneidert für Deine Bedürfnisse.
