Warum KI gleichzeitig genial und erstaunlich ahnungslos wirkt
Heutige KI-Systeme wirken oft gleichzeitig beeindruckend intelligent und seltsam orientierungslos. Eine KI kann jedes Lehrbuch über empathische Führung lesen, sie wird aber trotzdem nicht merken, dass ein Gespräch gekippt ist, bevor das jemand explizt ausgesprochen hat. An dieser Stelle beginnt das sogenannte Polanyi-Paradoxon.
„We know more than we can tell“
Der ungarisch-britische Philosoph Michael Polanyi (1891-1976) formulierte den Satz: „Wir wissen mehr, als wir zu sagen wissen.“
Menschen verfügen oft über ein Wissen, das selten bewusst abrufbar ist. Man hört am Klang eines „Alles gut“, dass eben nicht alles gut ist. Das Wissen sitzt irgendwo tiefer, verankert im Körper und gewachsen aus Erfahrungsschichten, die sich über Jahre übereinandergelegt haben.
Denn das Polanyi-Paradoxon stellt genau die Annahme infrage, auf der ein großer Teil der KI-Forschung lange beruhte: dass Intelligenz letztlich vollständig in Sprache, Regeln und Daten übersetzbar sei.
Je länger man sich mit künstlicher Intelligenz beschäftigt, desto mehr wirkt das Paradoxon wie ein kleiner Haarriss in einer Hochglanzfassade aus Silicon-Valley-Erlösungsfantasien, weil moderne KI-Systeme stellenweise so überzeugend wirken, dass man leicht vergisst, wie viel menschliches Wissen still, implizit und körperlich eingebettet bleibt.
Die Maschine als logisches Regelwerk
Die frühe KI-Forschung glaubte, Intelligenz ließe sich sauber zerlegen wie ein Uhrwerk. Regeln hinein, Logik hinein, genug Rechenleistung dazu, irgendwann müsste Bewusstsein oder zumindest menschenähnliches Denken schon herausfallen. Die ersten Systeme arbeiteten deshalb mit Symbolen, Entscheidungsbäumen und formalen Regeln.
Das Moravec-Paradoxon: Die komplizierte Einfachheit des Alltags
Doch etwas ging an dieser Vorstellung nicht ganz auf. Computer konnten Schachgroßmeister schlagen, verzweifelten gleichzeitig aber an Aufgaben, die Menschen mühelos beherrschen. Daraus entstand wiederum das Moravec-Paradoxon, benannt nach dem Robotikforscher Hans Moravec (*1948). Abstrakte Kognition ist für Maschinen vergleichsweise leicht zugänglich, Alltagsintelligenz, die auch Flexibilität erfordert, hingegen kaum. Ein Computer schlägt Schachgroßmeister, während ein Roboter Schwierigkeiten hat, Schnürsenkel zu binden.
Erst mit Deep Learning änderte sich die Richtung der KI-Forschung radikal. Systeme konnten Sprache übersetzen, programmieren, Stimmen imitieren oder medizinische Auffälligkeiten erkennen. Viele sahen darin bereits den Anfang einer Superintelligenz. Aber das ist ein Denkfehler.
Mustererkennung ist noch kein Verstehen
Denn auch moderne KI versteht die Welt nicht so, wie Menschen sie verstehen. Sie erkennt Muster. Sehr komplexe Muster, sehr effizient, oft erschreckend überzeugend. Trotzdem bleibt ein Unterschied zwischen statistischer Kohärenz und Bedeutung. Eine KI kennt das Wort „Vertrauen“, aber sie hat nie erlebt, wie ein Gespräch kippt, obwohl grammatikalisch alles korrekt war. Sie verarbeitet Tokens, Wahrscheinlichkeiten und Zusammenhänge in Datenräumen. Menschen bewegen sich durch soziale Situationen eher wie durch vertraute Räume, in denen man auch im Halbdunkel noch weiß, welche Stufe knarzt.
Denken entsteht nicht nur im Kopf
Die moderne Kognitionswissenschaft beschreibt dieses Prinzip oft mit dem Begriff „Embodied Cognition“. Denken entsteht nicht isoliert im Gehirn wie Software auf einem Server. Es entsteht durch Körperlichkeit, soziale Erfahrung, kulturelle Prägung, Emotionen und Umwelt. Intelligenz sitzt nicht irgendwo abstrakt im Kopf wie eine Excel-Datei mit Bewusstsein, sondern wächst aus Interaktion.
Die Vorstellung einer vollständig menschenähnlichen „Super-KI“ basiert häufig auf der Annahme, dass Intelligenz letztlich nur ausreichend komplexe Informationsverarbeitung sei. Mehr Daten, mehr Rechenleistung, größere Modelle, irgendwann müsse daraus automatisch allgemeines Verstehen entstehen.
Das Polanyi-Paradoxon kratzt genau an dieser Annahme.
Bewusstsein ist der blinde Fleck jeder KI-Debatte
Wenn Menschen schon nicht in der Lage sind, ihr gesamtes Denken und Handeln in Sprache zu übersetzen, fehlt der KI genau dieses Material zum Lernen und damit die Grundlage, den Menschen jemals vollständig einzuholen. Maschinen könnten menschliches Verhalten immer präziser simulieren, ohne jemals dieselbe Form von subjektivem Verstehen, von Bewusstsein, zu besitzen.
Simulation ist noch keine Erfahrung
Zwar müssen KI-Systeme kein Bewusstsein besitzen, um enorme gesellschaftliche Macht zu entfalten. KI verändert bereits Arbeitsmärkte, Entscheidungsprozesse, Wissenschaft, Verwaltung, Finanzsysteme und militärische Strategien.
Trotzdem bleibt ein Unterschied bestehen zwischen dem präzisen Simulieren menschlichen Verhaltens und dem tatsächlichen Erleben der Welt. Genau darauf verweist das Polanyi-Paradoxon: auf die Möglichkeit, dass Intelligenz tief in Körperlichkeit, Erfahrung und implizitem Wissen verwurzelt ist.
Der Abstand zwischen maschineller Mustererkennung und menschlichem Verstehen ist nicht unbedingt groß sichtbar im Alltag, aber fundamental in seiner Struktur.
Dass dieser Gedanke eher beruhigend wirkt als enttäuschend, hat vermutlich auch damit zu tun, dass er den Menschen nicht kleiner macht als die Maschine, sondern menschliche Erfahrung komplexer, widersprüchlicher und schwerer berechenbar, als es viele Technologievisionen derzeit erzählen.