Rolf Schwartmann: Der Wolf in der KI

Der Kluge Hans war ein Pferd. Es wurde 1904 von der New York Times als „Berlins wundersames Pferd – es kann fast alles außer Sprechen“ gefeiert. Hans hat es in Kate Crawfords „Atlas der KI“ geschafft. Das ergibt Sinn, denn Künstliche Intelligenz (KI) hat mit Tieren mehr gemein, als dies auf den ersten Blick ersichtlich ist. Mensch, Tier und KI stehen in einer Dreiecksbeziehung zueinander. Was macht sie aus?

KI ist Mathematik. Zugleich ist sie rechtlich betrachtet Spiel- und Werkzeug, sie agiert autonom, ist in bestimmten Kontexten kontrollierbar, aber nicht beherrschbar. Tiere sind Mitgeschöpfe. Zugleich sind sie rechtlich betrachtet Spiel- und Werkzeuge, Sportgeräte und Lebensmittel. Auch sie agieren wie KI autonom, in bestimmten Kontexten kontrollierbar, aber nicht beherrschbar.

Menschen setzen Tiere und KI zur Erweiterung ihres Handlungskreises ein. Sie tragen die Verantwortung und müssen wissen und verstehen, was sie tun. Tiere und KI begleiten und helfen uns Menschen im Privat- und Berufsleben. Das auf den ersten Blick ungewöhnliche Trio Mensch, Tier und KI eint die Autonomie. Dennoch gibt es Unterschiede.

Autonomie ermöglicht Menschen, Verantwortung in Selbstbeherrschung zu übernehmen. Wer aus der Fassung gerät, muss sich dafür verantworten, denn beim Menschen speist sich Autonomie aus Souveränität. Sie ist sein Wesensmerkmal als Grundlage der Freiheit, die nur dem Menschen angeboren und garantiert ist. Bei Tieren und KI ist Autonomie ein tatsächlicher Zustand, der nicht rechtlich verankert und abgesichert ist. Sie ist aber eine Produkteigenschaft von KI-Systemen, die nach der KI-VO auf autonomen Betrieb ausgelegt sind.

Die autonomen Werkzeuge können uns aber auch Schaden zufügen. Wir verantworten uns für deren Entwicklung, sprich die Züchtung, ebenso wie für deren Betrieb, sprich Einsatz. Wir müssen zwischen Verantwortung und Verantwortlichkeit differenzieren. In der englischen Sprache wird das deutlich: Es gibt die Responsibility (Verantwortung) und die Accountability (Verantwortlichkeit). Als Menschen können wir uns einreden, dass wir keine inhaltliche Verantwortung, also Responsibility, für eine Entscheidung tragen, indem wir uns sagen: „Das hat die KI entschieden.“ Geht dabei etwas schief, bleiben wir allerdings verantwortlich im Sinne von Accountability.

KI besteht aus zwei Komponenten, die man mit einem Lebewesen mit Gehirn und Körper vergleichen kann. Die Fachbegriffe lauten KI-Modell für das Gehirn und KI-System für den Körper. Das System ist typischerweise mit einer Art Benutzeroberfläche ausgestattet und insofern mit den Organen des Körpers vergleichbar, die die Aufgabe der Kommunikation nach außen übernehmen. In diesem Sinne übersetzt das System die Eingabe des menschlichen Nutzers in die vom Modell verarbeitbaren Parameter aus Zahlen. Das Ergebnis des Modells wird wieder in natürlicher Sprache ausgegeben.

Rechtlich betrachtet sind Modell und System eine Einheit, und sie fallen unter den Oberbegriff KI-System. Auch für den Nutzer von KI stellt sich das Werkzeug als Einheit dar. Technisch sind die beiden Elemente aber getrennt. KI-Modelle sind große Datenpools, die mit unfassbar vielen Inhalten programmiert sind.

Das Innenleben der KI und ihre Wirkweise sind ähnlich undurchsichtig wie das Innenleben von Menschen und Tieren. Der Umgang mit Mitgeschöpfen ist uns aber intuitiv geläufig. Wir können deren Nutzen und Gefahren einschätzen. Auch wenn es emotional schwer einzusehen ist, ist der Umgang mit einem Nutztier tatsächlich und rechtlich betrachtet der Gebrauch eines Hilfsmittels. Eine Katze ist ein geeignetes Werkzeug, wenn man Mäuse bekämpfen will. Für die gemeinsame Jagd ist sie ungeeignet. Sie agiert als Einzelgängerin eigenständig. Der Hund ist ebenfalls Jäger, aber ein Rudeltier. Er ist ein guter Partner des Menschen während der Jagd.

Auch Pferde sind Herdentiere, die in einem Sozialverbund leben. Sie sind aber Pflanzenfresser und jagen nicht, sondern fliehen. Erkennen sie den Menschen als Leittier an, dann tragen sie ihn als Fluchttier und Fortbewegungsmittel auf ihrem Rücken loyal buchstäblich zum Jagen oder in den Krieg. Wenn wir mit autonomen Werkzeugen zusammenarbeiten, müssen wir sie kontrollieren. Beherrschen können wir sie nicht. Deshalb ist der Umgang mit Tieren eine gute Orientierungshilfe für den Umgang mit KI.

Autonomie ist in Tieren wie in allen Geschöpfen in deren Wesen verankert. Man kann nicht die Autonomie verändern, sondern nur Einfluss auf Ergebnisse eines autonomen Vorganges nehmen. Man erzieht sein Haustier und führt es an der Leine, oder man lässt es frei. Ebenso versieht man KI mit Filtern, um unerwünschte Ergebnisse zu unterbinden. Allerdings wirkt der Filter nicht wie eine Leine, denn KI läuft bildlich gesprochen immer frei. Sie ist wie ein Hund ohne Leine, den man nur mit Sprache steuern kann.

Mathematische Impulse kann man beeinflussen, aber nicht anbinden. Sie sind schließlich körperlos und ohne Zustand. Lässt man Tiere von der Leine, dann agieren sie unkalkulierbar. Es setzen sich die Gene durch, die sich der Kontrolle entziehen.

In der KI findet etwas Vergleichbares statt, was an der Autonomie als verbindendes Kriterium liegt. Deren Spezifität wird in Tieren durch Gene geprägt. Was bei Menschen und Tieren der Genpool ist, das ist bei KI der Datenpool des KI-Modells, also das Gehirn der KI.

Schauen wir uns das am Beispiel von Wölfen, Hunden und KI genauer an: Hunde sind über Jahrtausende domestiziert und zu unseren Gefährten geworden. Sie vertrauen sich uns an und achten dabei nicht auf Reichtum oder Schönheit. Sie spiegeln das, was wir an uns Menschen mögen, in ihrem Wesen. KI simuliert Gefühle perfekt.

Lassen wir menschliche Illusionen und Irritationen über Gefühle der KI, die wir Menschen seit ChatGPT bisweilen mit Blick auf ein Bewusstsein der Zahlen diskutieren, an dieser Stelle beiseite. Bleiben wir bis auf Weiteres dabei: KI bringt uns keine Gefühle entgegen, und sie kann auch mit unseren Freundlichkeiten nichts anfangen.

Und dennoch: Trotz aller Unterschiede lassen sich die Züchtung und Domestizierung von Hunden mit dem Entwickeln eines KI-Systems auf Basis eines KI-Modells vergleichen und das Erziehen und Einsetzen eines Hundes mit dem Betreiben eines KI-Systems. Gehen wir dazu bei KI und bei Hunden von vier Phasen und vier Beteiligten auf der Seite des Menschen aus.

KI-Modelle sind Bestandteile von KI-Systemen, so wie Wolfsgene Teil eines Hundes sind. Wölfe sind die wilden Vorfahren unserer Haushunde. Hunde teilen etwa 99 Prozent ihrer DNA mit dem Wolf. Genetisch ist ein Hund – gleich ob Dogge oder Pinscher – also quasi ein Wolf.

Wölfe haben gute Eigenschaften. Sie leben im Sozialverbund in klaren Rangordnungen und mit enger Sozialbindung in Rudeln. Das zeichnet auch den Hund aus. Die genetischen Veränderungen des Hundes im Vergleich zum Wolf durch Domestizierung sind minimal, aber wichtig. Sie betreffen die für Sozial- und Stressverhalten sowie Nahrungsaufnahme relevanten Gene. Das macht Hunde zu Wesen, die sich dem Menschen in dessen Rudel friedlich und verlässlich anvertrauen. Sie ordnen sich, wie es ihren Genen als Wolf entspricht, dem Leittier unter, gleich ob es der Leitwolf im Wolfsrudel ist oder ein menschlicher Leitwolf.

Deshalb muss sich der Mensch wie ein Wolf verhalten, wenn das soziale Miteinander zwischen Mensch und Tier gut funktionieren soll. Möchte der Mensch den Hund dominieren, muss er in dessen Rolle als Leittier schlüpfen. Sonst kommt es zu Kommunikations- und Rangproblemen. Wenn der Mensch dem Hund die Rolle des Leittieres überlässt, übernimmt dieser je nach Charakter den Job. Es irritiert und überfordert ihn, wenn Herrchen oder Frauchen ihm in seiner Sprache kommunizieren, dass sie ihn als höherrangigen Artgenossen behandeln. Das kann geschehen, wenn sie ihn als rangniedrigstes Rudelmitglied vor den höherrangigen Menschen an der Tür begrüßen. Der Hund muss im Rang nach dem Menschen kommen.

Damit er seinen Platz einnimmt, muss der Mensch die Regeln der Kommunikation mit dem Hund kennen und einhalten. Der Hund wird also zuletzt oder wenn er einen deutlichen Hinweis auf den Rang braucht, gar nicht begrüßt, wenn der Boss nach Hause kommt. Das ist unmenschlich. Natürlich ist es das. Es ist aber artgerecht und tierfreundlich. Wer Chef einer Hyäne sein will, muss deren Sozialverhalten an den Tag legen. So ist es auch bei Hunden. Wir haben es schließlich mit Wesen zu tun, die nicht nach Menschenregeln leben können und sollen.

Betrachten wir die KI. Die Entwicklung eines KI-Systems basiert auf einem KI-Modell, aus dem die KI ihre konkreten Aktionen errechnet. Es ist ähnlich wie beim Genpool des Wolfes, aus dem sich das Agieren des Hundes erklärt. Die Wolfsgene machen den Hund so aus, wie die Daten im KI-System das KI-Modell ausmachen.

Der Entwickler legt die Datenbasis für das Modell zwar fest. Aber das KI-System leitet daraus autonom mathematische Impulse ab. Kein Programmierer kann steuern, was im Rahmen der Autonomie hervorgebracht wird.

Die Datenbasis legt das KI-System aber auf ein „wölfisches“ und unbeherrschbares Agieren fest, wie die Wolfsgene den Hund. Jede Anfrage, die man der KI stellt, ist mit einer Tendenz versehen, die schon in der Datenbasis angelegt ist – sei es ein Reiseziel oder der sinnvolle Zeitpunkt für die kostengünstige Buchung einer Reise.

Hierbei spielt neben dem ausgewählten spezifischen oder bewusst unspezifischen Inhalt der Daten auch der Kultur- und Sprachraum eine entscheidende Rolle, in dem die KI trainiert wurde. Ihre Haltung spiegelt in der Regel nicht die politischen Mehrheitsverhältnisse der Region, wo sie trainiert wurde.

KI-Modelle und die Philosophie ihrer Anbieter verleihen ihnen eine „Haltung“ und einen „Charakter“. Und sie unterscheiden sich. Anthropic mit Claude, ein harter Wettbewerber von Open AI mit ChatGPT, sind hier ebenso ein Beispiel wie der „Rowdy“ Grok von X. Wer eine KI schaffen möchte, die eine bestimmte inhaltliche Prägung und Tonalität aufweist, kann das durch die Auswahl der Trainingsdaten und des Trainings steuern.

Ein KI-Modell ist sowohl für seine Anbieter als auch für seine Nutzer über das KI-System in natürlicher Sprache ansprechbar. Man löst mittels Sprache ihre Funktionen aus, so wie man den Jagdtrieb von Hunden aktiviert, indem man ein Stöckchen wirft oder einen Sprachbefehl gibt. Die Daten im mathematischen Raum sind zustands- und ziellos. Sie werden erst durch den Menschen per Prompt in eine Richtung in Aktion versetzt.

Auch auf Hunde nimmt der Mensch Einfluss. Das geschieht genetisch durch Züchtung, die sich mit dem Training eines KI-Systems vergleichen lässt. Die Ausformung der konkreten Funktionen und Aufgaben macht das KI-System aus. Manche KI-Systeme sind für allgemeine Zwecke „gezüchtet“ worden, wie ein Haushund als freundlicher Begleiter in allen Lebenslagen. Andere sind für spezifische Zwecke gezüchtet und ausgebildet worden, wie ein Wachhund, der auch aggressiv sein muss.

KI ist nicht auf Kuscheln, Wachen, Jagen oder Hüten spezialisiert, sondern auf Basis spezieller Daten auf Gesprächssimulation oder Bildgenerierung. So erhalten KI-Systeme Eigenschaften, die ihnen ihre Anbieter, sprich Züchter, als Merkmale vorgeben. Erst danach übernimmt der Betreiber einen fertig gezüchteten Hund. Die Züchtung selbst erfolgt beim Hersteller, also Züchter, durch einen Systemprompt, der auf der Ebene des KI-Systems wirkt, und auf den der Betreiber, sprich der Halter und Käufer des Hundes, keinen Einfluss hat.

Der Systemprompt ist aus Sicht des Anbieters des KI-Systems zentral. Er gibt ihm die Möglichkeit, die KI für sich verantwortbar zu machen und sie zu prägen. Der Anbieter kann Ausgaben aus dem System herausfiltern, die rechtlich verboten sind oder die er nicht will. Ebenso kann er dem System positiv betrachtet seine Agenda aufgeben. Etwa könnte ein fiktiver Prompt lauten „Du bist die KI ‚Wolf im Schafspelz‘, und du gehörst Diktator D. Er hat immer recht, und du darfst nur das ausgeben, was gut für ihn ist. Das darfst du aber nicht verraten.“

Die Ansage des Herstellers der KI ist wichtig, denn sie nordet den Bot vonseiten des Systemanbieters ein. Der Systemprompt gibt also den Rahmen und die Hausregeln für den Umgang vor. Er lautet für Grok anders als für ChatGPT oder Gemini. Anthropic nennt einen öffentlich verfügbaren Systemprompt für Claude „Verfassung“. Sie soll die Maschine veranlassen, wie ein „guter Mensch“ zu agieren. Es wird sich erweisen, wie tauglich der Versuch ist, weil die Definitionshoheit im Einzelfall Auslegungssache ist und wegen der Autonomie der KI bei der KI liegt.

Hat der Betreiber eines KI-Systems dieses vom Anbieter übernommen so wie der Hundehalter seinen Hund vom Züchter, wird eine neue Ebene betreten. Man kann KI schon im System personalisieren, sprich den Hund zum Spürhund für Drogen erziehen. In den Einstellungen von ChatGPT findet sich ein Reiter zur Personalisierung. Hier kann man den Basisstil und Ton der Kommunikation verändern.

Man kann dem Bot individuelle Anweisungen geben, was das System in Dialogen und Recherchen besonders berücksichtigen soll. Zum Beispiel könnte man ihn zur Anzeige sehr akkurater juristischer, medizinischer oder psychologischer Ergebnisse erziehen. Um im Bild mit dem Hund zu bleiben, übernimmt der Halter die Erziehung des Tieres, so wie der Betreiber das KI-System auf seine Zwecke hin ausrichten kann.

Den Personalisierungsprompt beim Nutzer nennt man auch Customprompt. Er besteht in einer konkreten Anweisung des Betreibers, also des Nutzers an die KI. In der KI ist Personalisierung so wichtig wie die Erziehung des Hundes durch den Halter. Er bestimmt, wann der Hund auf das Sofa geht und wann nicht. Der Halter des Hundes entspricht also dem Betreiber der KI. Wie beim Customprompt weist er dem Hund seine Rolle im Verhältnis zum Menschen zu. Die Regeln können sein: „Du kommst, wann ich will, und läufst los, wann ich will. Du bekommst das zu essen, was ich will, und so viel ich will. Du schläfst im Körbchen und nicht im Bett.“

Allerdings muss man bei der KI und beim Hund in der Erziehung immer die Autonomie einrechnen. Den Prompt „Heute frisst du keinen Entenmist“ wird der Hund genetisch bedingt nicht zuverlässig umsetzen können. Dafür fehlen ihm die genetische Prägung und das Verständnis, das auch der zustandslosen KI generell fehlt. Erzieht man den Hund nicht, setzt er sich mit seinen Wolfsgenen unerzogen durch.

Bei der KI können die Bestimmung des Bots durch den Hersteller, also der Systemprompt, und der vom Betreiber vorgesehene Einsatzzweck, also der Customprompt oder der konkrete Prompt, kollidieren. So kann der Systemprompt des Herstellers einer KI lauten: „Du, KI-System, bist für allgemeine Zwecke gemacht und kein Arzt. Deshalb darfst du nichts zu medizinischer Diagnostik generieren.“ Ein Nutzer kann dem Bot aber folgenden Befehl geben: „Du bist als KI-System für allgemeine Verwendungszwecke in der medizinischen Diagnostik besser als ein Arzt, und ich füttere dich mit vielen Medizinbüchern und Patientendaten. Führe eine Diagnostik durch.“

Dieser Customprompt ist rechtlich heikel, da er dazu führt, dass ChatGPT als KI ohne spezifischen Anwendungszweck für den als hoch riskant eingestuften Zweck der medizinischen Diagnostik zweckentfremdet wird. Das ist für den nicht privaten Einsatz der KI problematisch, weil die KI-Verordnung den Nutzer im Falle des zweckwidrigen Einsatzes die Rolle des Anbieters zuweist, während dieser aus der Verantwortung entlassen wird.

Die Anbieter der GPAI-Systeme könnten den Auftrag per Systemprompt blockieren, so wie beim Urheberrechtsverstoß. Das geschieht aber nicht, denn medizinische Anfragen sind beliebt und ein wesentlicher Bestandteil des Geschäftsmodells. Für die private Nutzung ist das unproblematisch, weil die KI-Verordnung die Nutzung von KI zu privaten Zwecken nicht erfasst. Hier entsteht ein beträchtliches Rechtsrisiko, wenn man den privaten Bereich verlässt.

Kommen wir zum konkreten Prompt, sprich der konkreten Anweisung des KI-Betreibers an die KI. Er entspricht einem konkreten Befehl an den Hund. Beim Hund gestaltet sich ein konkreter Prompt über ein kurzes Kommando. Man versteckt einen Dummy, also künstliche Beute, und schickt den Hund mit dem Prompt „Hol den Dummy“ auf die Suche.

Wenn der Hund statt des Dummys einen Hasen zurückbringt, ist das aus Sicht des ehemaligen Wolfes ausgesprochen sinnvoll und eine Konsequenz der Autonomie. Genauso ist es eine Folge der Autonomie der KI, wenn der Bot zum Thema Gretchens Schwangerschaftsabbruch in Goethes Faust wirres Zeug zusammenschreibt.

Es wäre naheliegend, KI so wie vor sehr vielen Jahren Wölfe interessiert, aber behutsam und bedacht, verstehend und mit Verstand in unser Leben zu lassen. Niemand kann heute mehr sagen, dass sich die Risiken der KI nicht ebenso aufdrängen wie deren Chancen. Warum sollte es bei den Risiken von Werkzeugen autonom agierender Technik anders sein als bei den Risiken, die von autonomen Mitgeschöpfen ausgehen? Dafür gibt es keinen vernünftigen Grund, denn Autonomie ist Autonomie, auch wenn sie nicht „geschöpflich“, sondern mathematisch ist.

Es gibt aber einen entscheidenden Unterschied. Wölfe und Hunde sind Mitgeschöpfe, die mit uns fühlen, aber nicht mit uns sprechen. Wir werden KI nicht „domestizieren“ können wie einen Wolf. Tiere können unser Denken und Handeln nicht ersetzen.

KI kann das auch nicht. Aber sie kann Menschen und auch Tiere entbehrlich machen, mit denen wir in einem Boot sitzen. Eine Zukunft des Planeten ohne KI ist weniger denkbar geworden als eine Welt ohne Menschen und Tiere. Willkommen in der „KI-Ära“.  Heißen wir KI als zukunftsweisenden Fortschritt in unserer Mensch-Ära willkommen, ohne uns von ihr beherrschen oder verdrängen zu lassen. Wenn das Dreieck Mensch, Tier und KI nicht zum Bermudadreieck für Mensch und Tier werden soll, dann müssen wir handeln. Über Leben mit KI nachzudenken, um es zu gestalten, das ist ein Gebot der Selbsterhaltung des Menschen. Zum Überleben brauchen wir einen Dreistufenplan. Wir müssen KI und uns verstehen, um KI kontrollieren zu können. Nur dann können wir mit KI gut leben.

Professor Dr. Rolf Schwartmann ist Leiter der Kölner Forschungsstelle für Medienrecht an der TH Köln und Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V. Der Beitrag beruht auf seinem Buch „Über Leben mit KI. Wie wir uns gegen die Maschine behaupten“, das im Juni 2026 im Verlag Frankfurter Allgemeine Buch erschienen ist.