Warum KI nicht frei ist und trotzdem unberechenbar wirkt

Autor
Steve Sinnwell
Veröffentlicht

Determinismus

Determinismus ist die Auffassung, dass jeder Zustand der Welt durch vorherige Zustände und Naturgesetze festgelegt ist. Wenn man alle Ursachen vollständig kennen würde, wäre auch die Zukunft vollständig bestimmt. Das heißt aber nicht automatisch, dass die Zukunft für uns praktisch vorhersagbar ist.

Die alte Idee einer berechenbaren Welt

Laplacescher Dämon

Der Laplacesche Dämon ist ein Gedankenexperiment. Es beschreibt eine Intelligenz, die alle Naturgesetze und alle aktuellen Zustände kennt. Für sie wären Vergangenheit und Zukunft vollständig berechenbar. Der Punkt ist nicht, dass so ein Wesen existiert, sondern dass Determinismus und Vorhersagbarkeit auseinanderfallen können.

Kausalität

Kausalität meint Ursache-Wirkungs-Beziehungen. Wenn A B verursacht, ist B nicht bloß nach A passiert, sondern durch A zustande gekommen. In der KI ist Kausalität schwierig, weil Modelle oft starke Muster erkennen, ohne echte Ursachen zu verstehen.

Was an neuronalen Netzen deterministisch ist

Ein künstliches neuronales Netz ist zunächst keine mystische Maschine. Es ist ein mathematisches System. Es nimmt Zahlen als Eingabe, verarbeitet sie durch Schichten von Gewichtungen und Funktionen, und erzeugt Zahlen als Ausgabe.

Wenn Architektur, Gewichte, Eingabe und Rechenumgebung exakt gleich bleiben, kann ein Netz im engen Sinn deterministisch arbeiten. Dieselbe Eingabe führt dann zur selben Ausgabe.

Künstliches neuronales Netz

Ein künstliches neuronales Netz, kurz ANN, ist ein Modell aus vielen verbundenen Recheneinheiten. Es lernt nicht durch explizite Regeln, sondern durch Anpassung von Gewichten. Diese Gewichte bestimmen, wie stark bestimmte Signale weitergegeben werden.

Praktisch heißt das: Es gibt keine Stelle, an der eine Regel steht. Wissen liegt verteilt in Millionen bis Milliarden von Gewichten, und einzelne Gewichte bedeuten für sich genommen nichts.

Daraus folgt die Schwierigkeit beim Prüfen. Man kann ein Netz nicht aufschlagen wie einen Regelsatz und nachlesen, warum es so geantwortet hat. Man kann es nur beobachten, testen und einzäunen — deshalb verschiebt sich die Kontrolle vom Modell auf den Prozess drumherum.

Aber moderne KI besteht nicht nur aus diesem engen Funktionskern. Schon beim Training entstehen viele Quellen von Varianz. Die Anfangswerte der Gewichte werden oft zufällig gesetzt. Daten werden in wechselnder Reihenfolge verarbeitet. Optimierungsverfahren wie stochastischer Gradientenabstieg arbeiten mit Ausschnitten der Daten. Manche Techniken wie Dropout bauen Zufall sogar absichtlich ein, damit das Modell robuster wird.

Training

Training ist der Prozess, in dem ein Modell seine Gewichte an Daten anpasst. Es bekommt Beispiele, macht Vorhersagen, misst Fehler und verändert seine internen Parameter. Das Ziel ist nicht Auswendiglernen, sondern ein Muster, das auch bei neuen Eingaben funktioniert.

Hinzu kommt die Hardware. Auf GPUs laufen viele Rechenoperationen parallel. Kleine Unterschiede in der Reihenfolge können bei Fließkommazahlen zu leicht anderen Ergebnissen führen. PyTorch dokumentiert deshalb ausdrücklich, dass vollständige Reproduzierbarkeit nicht über alle Plattformen, Releases und CPU/GPU-Ausführungen hinweg garantiert ist. Quelle: PyTorch Reproducibility.

Reproduzierbarkeit

Reproduzierbarkeit bedeutet, dass ein Experiment oder eine Berechnung bei gleichen Bedingungen erneut dasselbe Ergebnis liefert. In der KI ist das schwer, weil Daten, Zufallszahlen, Hardware, Bibliotheken und Modellversionen alle Einfluss haben können.

Das ist der erste wichtige Punkt: Ein neuronales Netz kann theoretisch deterministisch sein, ohne dass das gesamte KI-System praktisch reproduzierbar ist.

Warum LLMs anders wirken

Ein Large Language Model erzeugt Text nicht wie eine Datenbank, die einen gespeicherten Satz abruft. Es berechnet für den nächsten Token eine Wahrscheinlichkeitsverteilung. Dann wird entschieden, welcher Token als nächstes erscheint. Danach wiederholt sich der Vorgang.

Large Language Model

Ein Large Language Model, kurz LLM, ist ein großes Sprachmodell. Es wurde auf sehr vielen Texten trainiert und erzeugt Sprache, indem es Token für Token fortsetzt. Es „weiß“ nicht wie ein Mensch, sondern berechnet plausible Fortsetzungen aus gelernten Mustern.

Ein Token ist dabei nicht unbedingt ein Wort. Es kann ein Wort, ein Wortteil, ein Satzzeichen oder ein anderes Textstück sein. Aus „Determinismus“ können je nach Tokenizer mehrere Einheiten werden.

Token

Ein Token ist die kleinste Verarbeitungseinheit eines Sprachmodells. Modelle lesen und schreiben nicht direkt Wörter, sondern Token. Deshalb kann eine minimale Änderung im Prompt die interne Verarbeitung verändern.

Decoding

Decoding ist das Verfahren, mit dem ein Sprachmodell aus Wahrscheinlichkeiten konkrete Tokens auswählt. Je nach Strategie entstehen nüchterne, wiederholbare, kreative oder überraschende Antworten.

Hier sitzt der Zufall, nicht im Netz. Das Netz liefert für jeden möglichen nächsten Token eine Wahrscheinlichkeit — dieser Schritt ist berechnet und wiederholbar. Erst die Auswahl entscheidet, ob immer der wahrscheinlichste Token genommen wird oder aus der Verteilung gezogen wird.

Das ist die praktisch wichtigste Stellschraube: Wer Varianz reduzieren will, ändert nicht das Modell, sondern das Auswahlverfahren.

Temperature

Temperature ist ein Parameter, der die Zufälligkeit der Ausgabe beeinflusst. Niedrige Werte machen Antworten stabiler und konservativer. Höhere Werte erhöhen Vielfalt, aber auch die Wahrscheinlichkeit unerwarteter oder falscher Ausgaben.

KI-Agent

Ein KI-Agent ist ein System, das nicht nur Text erzeugt, sondern Aufgaben plant, Werkzeuge nutzt und Zwischenergebnisse verarbeitet. Dadurch wird es mächtiger, aber auch schwerer reproduzierbar.

Der Unterschied zum einzelnen Aufruf ist die Schleife: planen, ein Werkzeug aufrufen, das Ergebnis lesen, weiterentscheiden. Jeder dieser Schritte ist eine zusätzliche Quelle von Varianz.

Damit wird auch die Umwelt Teil des Ergebnisses. Suchergebnisse ändern sich, APIs antworten anders, Dateien und Datenbanken haben einen anderen Stand. Zwei Durchläufe sind dann nicht mehr direkt vergleichbar — selbst wenn Modell und Prompt identisch waren.

Determinismus ist nicht Vorhersagbarkeit

Hier liegt die philosophische Pointe. Determinismus bedeutet nicht, dass ein Mensch ein System leicht vorhersagen kann.

Das Wetter folgt physikalischen Gesetzen, ist aber langfristig schwer vorherzusagen. Ein Schachprogramm folgt Regeln, kann aber Züge finden, die Menschen überraschen. Ein LLM kann aus festen Gewichten berechnen, welcher Token wahrscheinlich ist, und trotzdem bleibt der konkrete Verlauf für uns schwer durchschaubar.

Vorhersagbarkeit

Vorhersagbarkeit ist eine epistemische Frage: Was können wir wissen oder berechnen? Determinismus ist eine ontologische Frage: Wie ist die Welt oder das System strukturiert? Ein System kann determiniert und trotzdem für uns unvorhersagbar sein.

Entscheidung

Im technischen Sinn ist eine Entscheidung oft eine Auswahl: Klasse A statt Klasse B, Token X statt Token Y, Aktion 1 statt Aktion 2. Im philosophischen Sinn meint Entscheidung mehr: Gründe abwägen, sich zu einer Handlung bestimmen und Verantwortung übernehmen.

Das Wort trägt zwei Bedeutungen, die im Alltag verschmelzen. Technisch ist eine Entscheidung eine Auswahl aus berechneten Möglichkeiten. Normativ ist eine Entscheidung etwas, das jemand verantwortet und begründen muss.

Ein System kann das Erste, nicht das Zweite. Wer sagt „das Modell hat entschieden“, verschiebt sprachlich eine Verantwortung, die technisch gar nicht übergeben wurde. Genau deshalb lohnt es, im Prozess festzuhalten, wer die Freigabe erteilt.

Das Wort „Entscheidung“ verbindet also zwei Ebenen. Technisch geht es um Auswahl. Philosophisch geht es um Handlung, Gründe und Zurechnung.

Wo Startups Determinismus suchen

Neurosymbolische KI

Neurosymbolische KI verbindet neuronale Netze mit symbolischen Verfahren. Neuronale Modelle erkennen Muster. Symbolische Systeme arbeiten mit Regeln, Typen, Logik oder Wissensgraphen. Ziel ist eine KI, die flexibel und zugleich überprüfbarer ist.

Auditierbarkeit

Auditierbarkeit bedeutet, dass eine Entscheidung später nachvollzogen und geprüft werden kann. Man muss sehen können, welche Daten, Regeln, Modellversionen und Zwischenschritte beteiligt waren.

Was die KI-Debatte vom Determinismus lernt

Quellen und weiterführende Lektüre

Lass uns sprechen