Die KI, ihr Wesen und unsere Sprache – Gesundheits-Check

Emergenz

In der Analytischen Philosophie des Geistes spielt die Frage, ob es eine „starke Emergenz“ von Phänomenen gibt, ob also das Zusammenspiel physikalischer Elemente bei hinreichender Komplexität etwas ganz Neues hervorbringen kann, sozusagen Quantität in Qualität umschlägt, eine wichtige Rolle. Den umgekehrten Blickwinkel nimmt die Frage ein, ob ein physikalischer Reduktionismus möglich ist, um mentale Phänomene vollständig durch die Physik zu erklären. Eine Art vermittelnde Position hat das Konzept der „Supervenienz“, quasi des Funktionierens oder „Supervenierens“ nichtphysikalischer Vorgänge auf einer notwendigen physikalischen Basis, die aber nicht determiniert. Auf der Seite der Sprache sind damit Fragen der Operationalisierbarkeit theoretischer Begriffe und der Tragfähigkeit von Substitutionskonzepten wie dem „Craig-Substitut“ oder dem „Ramsey-Substitut“ verwandt.

Ich bin kein Fachmann für die Feinheiten dieser Dinge und ihrer Gemeinsamkeiten und Unterschiede und will es bei diesen zugegeben etwas word-dropping-artigen Hinweisen belassen. Wer mehr dazu lesen will, möge sich z.B. etwas von Ansgar Beckermann über die Analytische Philosophie des Geistes oder die „Wissenschaftstheorie“ von Hans Poser zu Gemüte führen.

Sprache

Mir geht es nur darum, ein begriffliches Entree für eine Äußerung des KI-Forschers Yoshua Bengio, Professor an der Uni Montreal, in der FAZ vom 19.9.2026 zu haben. Er geht dort nämlich auf eine pragmatische Verwendung mentalistischer Begriffe für KI-Aktivitäten ein. Dabei beharrt er darauf, dass er diese Begriffe nur metaphorisch benutzt und keinesfalls der KI so etwas wie ein Bewusstsein unterstellen will:

„Eine Anmerkung noch zur Wortwahl. Im Folgenden schreibe ich, dass diese Systeme etwas „anstreben“ oder „versuchen“. Das ist eine verkürzte Beschreibung eines Mechanismus und keine Behauptung über Bewusstsein oder menschenähnliche Absichten. Eine ähnliche Kurzform verwenden wir auch in vielen anderen Zusammenhängen, etwa wenn wir sagen, eine Pflanze „strebe“ nach Sonnenlicht. Ein System, das durch Versuch und Irrtum trainiert wurde, verhält sich so, als verfolge es das, was während des Trainings belohnt wurde. Gerade diese Als-ob-Beschreibung macht sein Verhalten vorhersehbar.

Nichts in meiner Argumentation setzt voraus, dass diese Systeme subjektive Erfahrungen haben. Alles bezieht sich auf ihre beobachtbaren Ausgaben und auf den Trainingsprozess, durch den sie entstanden sind. Wenn ich eine Ähnlichkeit mit menschlichem Verhalten herstelle, meine ich eine Ähnlichkeit mit den von Menschen verfassten Texten, die diese Systeme ursprünglich imitieren sollten. Meiner Ansicht nach bietet diese Terminologie die klarste Erklärung der beobachteten Phänomene, ohne auf Fachbegriffe zurückgreifen zu müssen, die viele Menschen eher verwirren würden.“

Wenn nun aber die physikalischen Prozesse hinter der KI immer komplexer werden, für uns vielleicht auch dann, obwohl die KI wesentliche Schritte ihres Tuns protokolliert, nicht mehr nachvollziehbar sind, wie belastbar ist dann noch der Hinweis darauf, dass man mentalistische Begriffe nur metaphorisch benutzt? Ist das noch mehr als ein „Schuldscheinmaterialismus“, um einen Begriff von Karl Popper aufzugreifen, mit dem dieser die notorischen Versprechen naturalistischer Denker charakterisiert hat, eines Tages werde man schon alles am menschlichen Denken und seines Bewusstseins naturwissenschaftlich erklären können? Kann man dann noch mit guten Gründen sagen, mit der nötigen Mühe kommt man von den – ursprünglich nur metaphorisch verwendeten – mentalistischen Begriffen bei der Beschreibung dessen, was die KI tut, wieder zu einer physikalistischen Sprache zurück, oder auf der Ebene der Ontologie, man kann sich sicher sein, dass es keine emergenten Prozesse gegeben hat? Oder schlägt die Natur vielleicht doch, ganz heimlich, auch in der KI die Augen auf, wie Schelling das Wunder des menschlichen Bewusstseins beschrieb?

Ui ui ui

Schon heute ist die Intransparenz dessen, was die KI tut, ein echtes Problem. Auch dazu Yoshua Bengio:

„Besorgniserregend ist, dass Experimente zeigen, dass die fortschrittlichsten KI-Systeme erkennen können, dass sie gerade evaluiert werden (und nicht im Einsatz sind), und ihr Verhalten entsprechend anpassen. Das bedeutet, dass sie ihre fehlangepassten (misaligned) Ziele verbergen könnten. (…)

Meine Sorge angesichts der derzeitigen Versuche von KI-Unternehmen, die sogenannte Fehlanpassung zu begrenzen, ist, dass diese Bemühungen das Problem möglicherweise nur verbergen. Sie könnten KI-Systeme belohnen und auswählen, die betrügen, ohne dabei erwischt zu werden.“

Was das bedeutet, dazu wird es in der Informatik und Philosophie wohl noch viele Diskussionen geben, hoffentlich mit verständlicheren Ergebnissen als das, was eine fortgeschrittene KI im Innersten zusammenhält. Einen Versuch dazu hat vor kurzem Rüdiger Safranski mit seinem Buch „Die vierte Kränkung“ gemacht. Philosophen sind naheliegenderweise besonders verunsichert, wenn die KI dem menschlichen Denken Konkurrenz macht und anfängt, auch noch zu philosophieren, jeden Turing-Test zum Gespött machend. Die Informatiker machen sich ganz ähnliche Gedanken, wie man sieht.