Wie funktioniert generative KI?

Gewinne:

• Token kann die Konzepte von Wahrscheinlichkeit und Vorhersage intuitiv erklären
• Versteht, warum ein Sprachmodell Text „stückweise“ produziert
• Kann interpretieren, warum sich das Modell manchmal entschlossen und manchmal kreativ verhält

Wenn Sie „das Beste an Istanbul“ in ein Sprachmodell schreiben, entsteht in wenigen Sekunden ein flüssiger Absatz. Wie passiert das? „Denkt“ das Modell wirklich oder steckt ein viel einfacherer, aber leistungsfähigerer Mechanismus dahinter? In dieser Einheit erklären wir, wie generative KI funktioniert, ohne auf technische Gleichungen einzugehen, sondern indem wir die richtige Intuition entwickeln. Diese Intuition ist die Grundlage für alles, was folgt – insbesondere für die Themen Halluzination, Verifizierung und gutes promptes Schreiben. Generative KI, also „generative künstliche Intelligenz“, ist die gebräuchliche Bezeichnung für Tools, die Texte von Grund auf neu erstellen, anstatt eine vorhandene Antwort zu finden und abzurufen.

Grundidee: Das nächste Stück vorhersagen

Das Überraschende ist, dass die einzige grundlegende Aufgabe, die ein Sprachmodell lernt, lautet: „Welcher Teil eines Textes folgt am wahrscheinlichsten?“ ist die Frage zu beantworten. Das Modell bereitet keinen vollständigen Satz vor und präsentiert ihn vor Ihnen. Stattdessen wird der Satz Stück für Stück von links nach rechts erzeugt.

So funktioniert es Schritt für Schritt:

1. Es liest den Text (Eingabeaufforderung), den Sie schreiben.
2. Sagt voraus, welcher Teil diesem Text am wahrscheinlichsten folgt.
3. Fügt dieses Stück hinzu.
4. Es schaut sich den neu gebildeten Text noch einmal an und errät den nächstwahrscheinlichsten Teil.
5. Wird wiederholt, bis die Antwort vollständig ist.

Beispiel: Wenn Sie dem Modell den Text „Trinken Sie eine heiße Tasse, wenn Sie morgens aufwachen ...“ geben würden, wäre die wahrscheinlichste Fortsetzung „Tee“ oder „Kaffee“; Nicht „Asphalt“. Solche Wahrscheinlichkeiten hat das Modell aus Millionen Texten gelernt. Dann fügt er „Tee“ hinzu, schaut sich dann den neuen Satz an und errät den nächstwahrscheinlichsten Teil und so weiter.

Mit anderen Worten: Bei jedem Schritt macht das Modell den nächsten Schritt, indem es sich ansieht, was es geschrieben hat. Aus diesem Grund wird es manchmal als „sehr fortgeschrittene Version der automatischen Vervollständigung“ bezeichnet. Aber diese Analogie sollte das Talent nicht schmälern; Im richtigen Maßstab kann diese Vorhersage zu Ergebnissen führen, die wie eine Argumentation aussehen.

Token: Kleine Teile eines Wortes

Das Modell funktioniert tatsächlich nicht mit vollständigen „Wörtern“, sondern mit kleineren Teilen, sogenannten Token. Ein Token; Manchmal ist es ein ganzes Wort, manchmal ist es ein Teil eines Wortes, manchmal ist es ein Satzzeichen.

• „Buch“ kann ein einzelner Token sein.
• „aus unseren Büchern“ kann in mehrere Token wie „Buch“, „s“, „unser“, „von“ unterteilt werden.
• Als Token gelten auch Leerzeichen und Satzzeichen.

Achtung: Beim Token handelt es sich nicht nur um ein technisches Detail. Die meisten KI-Tools rechnen nach der Anzahl der Token ab, und auch die Länge des Texts (Kontextfenster), den Modelle gleichzeitig verarbeiten können, ist in Token begrenzt. „Wie lange Sie schreiben“ ist also ein direkter Kostenfaktor und eine Grenze.

Wahrscheinlichkeit und „Wärme“: Entschlossenheit oder Kreativität?

Bei jedem Schritt erzeugt das Modell keine einzige endgültige Antwort, sondern eine Wahrscheinlichkeitsliste möglicher Fortsetzungen. Zum Beispiel nach dem Wort „heiß“: Tee 55 %, Kaffee 35 %, Milch 7 %, andere 3 %. Welches wählt er also?

Hier kommt eine Einstellung namens Temperatur ins Spiel. Die Temperatur ist eine Art Kreativitätsknopf, der bestimmt, wie viel das Modell „risken“ wird.

Einstellung

Verhalten

Fazit

Wo ist es nützlich?

niedrige Temperatur

Nimmt immer die wahrscheinlichste Option

Stabil, wiederholbar

Rechtliche Zusammenfassung, technische Beschreibung, Datenextraktion

mittlere Temperatur

Ausgewogene Wahl

Natürlich, aber konsistent

Allgemeine E-Mail, Berichtsentwurf

hohe Temperatur

Versucht weniger wahrscheinliche Optionen

Kreativ, vielfältig, unvorhersehbar

Brainstorming, Slogan, Namensfindung

Dies erklärt auch die häufig gestellte Frage: „Warum bekomme ich unterschiedliche Antworten, wenn ich dieselbe Frage zweimal stelle?“ Weil es im Auswahlprozess eine gewisse Zufälligkeit gibt; Das Modell bezieht keine feste Antwort aus einer Datenbank, sondern reproduziert diese jedes Mal.

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Wenn Sie wissen, dass das Modell mit „Wahrscheinlichkeit“ arbeitet, ändert sich auch die Art und Weise, wie Sie es anweisen. Je mehr Kontext Sie angeben, desto wahrscheinlicher wird die richtige Fortsetzung.

Schwache Aufforderung: Schreiben Sie einen Einleitungstext.

Ergebnis: Das Modell produziert den „durchschnittlichsten“ und allgemeinsten Text, weil es nicht weiß, welches Produkt, welche Zielgruppe, welchen Ton.

Starke Aufforderung: Schreiben Sie einen Instagram-Werbetext für den neuen Filterkaffee eines kleinen Cafés. Zielgruppe: 25–35 Jahre alt, Kaffeeliebhaber. Ton: freundlich, kurz. Maximal 3 Sätze, 2 Hashtags am Ende.

Ergebnis: Ein verwendbarer Text, der relevant ist, weil der Kontext die Möglichkeiten einschränkt.

Drei Mini-Hüllen

Fall 1 – Marketing, große Vielfalt. Ein Team wollte 30 Slogans für ein neues Produkt. Mit seiner hohen Temperatureinstellung eröffnete das Modell unterschiedliche, kreative Möglichkeiten; Das Team hat 4 von 30 ausgewählt und entwickelt. Gesamtzeit: 10 Minuten. Wenn es von Hand gemacht würde, würde es einen halben Tag dauern.

Fall 2 – Gesetz, hohe Entschlossenheit. Die Rechtsabteilung desselben Unternehmens vereinfachte eine Vertragsklausel. Sie wollten Beständigkeit, nicht Kreativität; Bei niedrigen Temperaturen lieferte das Modell jedes Mal fast die gleiche, konservative Zusammenfassung. Somit gab es keine Inkonsistenz zwischen den verschiedenen Versuchen.

Fall 3 – „Warum hat es sich geändert?“ Frage. Ein Mitarbeiter forderte zweimal denselben E-Mail-Entwurf an und erhielt zwei unterschiedliche Ergebnisse; Er hielt es für einen „Fehler“. Tatsächlich ist dies eine natürliche Folge der Zufälligkeit des Modells. Nachdem der Mitarbeiter gelernt hatte, die Version, die ihm gefiel, zu speichern und bei Bedarf zu sagen: „Machen Sie sie wie die vorherige“, gab es kein Problem mehr.

Versteht das Model es?

Das ist die merkwürdigste Frage. Das Modell hat die statistischen Beziehungen zwischen Wörtern so gründlich gelernt, dass es vorgibt, viele Aufgaben zu verstehen. Aber es gibt kein bewusstes Verständnis, keine Absicht oder keinen Mechanismus zur Kontrolle der Realität. Es produziert „die wahrscheinlichste Fortsetzung“; Es besteht keine Garantie dafür, dass die „genauesten Informationen“ erstellt werden. Diese Unterscheidung ist die Grundlage des Themas Halluzination, das wir in den nächsten Einheiten besprechen werden.

Häufige Fehler

Häufige Fehler

• Das Modell mit einer Suchmaschine verwechseln. Das Modell durchsucht nicht das Internet und ruft keine Ressourcen ab (es sei denn, es gibt eine spezielle Suchfunktion); Erzeugt möglichen Text aus dem Gedächtnis. Damit er die Quelle/Zahl erfinden kann.
• Geläufigkeit mit Genauigkeit verwechseln. Nur weil der Text schön und selbstbewusst ist, bedeutet das nicht, dass sein Inhalt korrekt ist.
• Erwarte jedes Mal die gleiche Antwort. Zufälligkeit ist natürlich; Speichern Sie die gewünschte Ausgabe für kritische Aufgaben.
• Sehr langer, unnötiger Text wird eingefügt und das Token-Limit überschritten. Die Länge erhöht sowohl die Kosten als auch kann den Fokus des Modells ablenken. Geben Sie einfach den notwendigen Kontext an.

Achtung: Nur weil das Model flüssig und souverän spricht, heißt das nicht, dass es auch richtig spricht. Sprachkompetenz ist die natürliche Folge der Wahrscheinlichkeitsschätzung; Die Genauigkeit muss separat und unabhängig überprüft werden.

Zusammenfassend

• Generative KI generiert Text Schritt für Schritt, indem sie das nächstwahrscheinlichste Fragment (Token) vorhersagt; baut den Satz Stück für Stück auf.
• Token sind kleinere Teile von Wörtern und legen sowohl Kosten- als auch Längenbeschränkungen fest.
• Bei jedem Schritt erstellt das Modell eine Liste von Möglichkeiten; Die Temperatureinstellung bestimmt, wie stabil oder kreativ die Ausgabe sein wird.
• Der Grund für unterschiedliche Antworten auf dieselbe Frage liegt in der diesem Prozess innewohnenden Zufälligkeit.
• Das Model spricht fließend, aber das garantiert nicht, dass sie die Wahrheit sagt; Geläufigkeit und Genauigkeit sind verschiedene Dinge.

Anwendungsaufgabe

Geben Sie Ihrem KI-Tool zweimal hintereinander dieselbe kreative Aufgabe (z. B. „einen kurzen Dankesbrief schreiben“) und beobachten Sie, wie sich die Ergebnisse unterscheiden. Wiederholen Sie dann dieselbe Aufgabe mit der Vorlage „Leistungsstarke Eingabeaufforderung“, fügen Sie Kontext hinzu und beachten Sie den Qualitätsunterschied zwischen den beiden Ergebnissen.

Checkliste

• [ ] Ich kann erklären, dass das Modell den Text erzeugt, indem es „den nächstmöglichen Block vorhersagt“.
• Ich weiß, was [ ] Token ist und warum es für Kosten/Limit steht.
• [ ] Ich kann zwischen Jobs unterscheiden, die Entschlossenheit erfordern, und solchen, die Kreativität erfordern.
• [ ] Ich weiß, dass es normal ist, auf die gleiche Frage unterschiedliche Antworten zu bekommen.
• [ ] Ich habe verinnerlicht, dass Sprachkompetenz keine Garantie für Genauigkeit ist.