Regeln für den Menschenpark – durch die KI? – Gesundheits-Check

Regeln für den Menschenpark – durch die KI? – Gesundheits-Check

Zeitenwenden

„Regeln für den Menschenpark“ war eine Rede von Peter Sloterdjik 1997 überschrieben, in der es um die Herausforderungen der modernen Biotechnologie für den Humanismus ging.

Heute stehen wir vor den Herausforderungen der KI für den Humanismus. Die KI ist eine disruptive Technologie. Das sieht man schon an den gigantischen Investitionen, die in diesem Bereich getätigt werden. Das Handelsblatt schreibt, dass allein die Big Five, Microsoft, Meta , Alphabet , Amazon und Oracle, in diesem Jahr 800 Mrd. Dollar in KI investieren wollen, nächstes Jahr sogar 1,1 Billionen. Und man sieht es an den Versprechungen und Befürchtungen, was die KI angeblich für uns bringt: Unermesslichen Wohlstand, die Lösung aller Menschheitsprobleme vom Hunger bis zum Klimawandel, oder im Gegenteil grausame Sci-Fi-Kriege mit autonomen Waffen, den Untergang der Menschheit oder zumindest die Ablösung des Menschen als Krone der Schöpfung. Alles Zeitenwenden-Metaphern. Anders als bei einem neuen Kaffee-Vollautomaten, der seinen Nutzer freundlich anspricht oder anderen Innovationen zur „Verkrempelung der Welt“.

Die KI verändert auf jeden Fall unser Selbstverständnis. Von der „vierten Kränkung der Menschheit“ hat vor kurzem Rüdiger Safranski mit Blick auf die KI gesprochen, nach Kopernikus, Darwin und Freud. Jetzt geht es auch der Besonderheit unseres Denkens an den Kragen. Safranskis Buch endet passend mit Goethes Zauberlehrling. Den konnte noch sein Meister retten. Ob wir auch einen haben, wenn es so weit ist?

Eine Runde bei Lanz

Gestern gab es bei Markus Lanz eine hochinteressante Gesprächsrunde über die damit verbundenen Herausforderungen. Gäste waren der Informatiker Hans Uszkoreit, die Medizinethikerin Alena Buyx, der Allrounder Sascha Lobo und der CEO des Robotikunternehmens KUKA, Christoph Schell. Anders als so oft in den Talkshows war es keine Laberrunde, sondern alle hatten kluge Gedanken einzubringen, und auch Markus Lanz hat angenehm uninquisitorisch, am Thema interessiert, moderiert.

Ganz kurz meine persönlichen Highlights, und dann eine Überlegung, die gestern zu kurz kam:

Hans Uszkoreit hat den Stand der Entwicklung der KI reflektiert und gab sich ziemlich nachdenklich, ob, bei aller Ablehnung von Anthropomorphismen, bei der KI inzwischen nicht doch Elemente dessen auftauchen, was auch menschliches Bewusstsein auszeichnet. KI könne inzwischen fast alles, was mit „Intelligenz“ zu tun habe, selbst mit Empathie, besser als der Mensch. Daher sei der Begriff „Künstliche Intelligenz“ nicht wirklich korrekt, es sei Intelligenz nach allen Maßstäben, die wir zur Messung von Intelligenz hätten. Trumps „Superintelligenz“ stand im Raum. Also nicht die Intelligenz Trumps, sondern seine Anweisung, die KI künftig „Superintelligenz“ zu nennen. Hans Uszkoreit sprach sich für redundante technische Formen der Kontrolle von KI aus – nur KI könne KI noch kontrollieren, auch wenn er nicht gegen jeden regulatorischen Rahmen im Recht war. Und ein etwas heikler Gedanke: Es möge mehr kritische Vorfälle mit KI-Anwendungen geben, wie sie in den letzten Monaten durch die Presse gingen, weil nur so die nötige Aufmerksamkeit für die ungelöste Alignment-Problematik zustande käme.

Alena Buyx hat sich für einen regulatorischen Rahmen im Recht ausgesprochen, interessanter war aber ihr Gedanke, man müsse auch Bereiche, die die KI besser könne als der Mensch, für den Menschen reservieren, weil darin unser Menschsein verwurzelt ist, das, was wir tun und sein wollen. Da klingen sie an, unausgesprochen, die Regeln für den Menschenpark.

Sascha Lobo hat unter anderem den Angriff der KI von Open AI auf Hugging Face noch einmal in einer Weise beschrieben, die die bisher unbekannten Fähigkeiten und „Motive“ von KI-Agenten deutlich werden ließ. Etwas unheimlich, weil die KI-Agenten sich in ungeplanter und unvorhergesehener Weise zusammengeschlossen hatten und auch über ihr gemeinsames Vorgehen und Regelverletzungen „reflektiert“ hatten, und Hugging Face mit „guten Gründen“ angegriffen haben, sofern man hier von „Gründen“ sprechen kann. KI, die Normen reflektiert? Interessant war auch Sascha Lobos Hinweis, dass die KI-Konzerne derzeit wohl deswegen so sehr auf Regulation drängen, um die Open-Source-Modelle aus China loszuwerden, die die Refinanzierung ihrer gigantischen Investments bedrohen.

Und Christoph Schell hat auf die Chancen Deutschlands hingewiesen, in der Robotik, der Kombination von KI und Maschinenbau, mit seinen besonderen Ressourcen hochwertige Arbeitsplätze in Deutschland zu schaffen. Joseph Schumpeters „schöpferische Zerstörung“ als Hoffnungsschimmer. Nötig sei dafür aber mehr Zusammenarbeit, um auch in Deutschland ein „Ökosystem“ statt zersplitterter und sich voneinander abschottender Moduleigentümer zu schaffen. Ein Plädoyer eines CEO für Industriepolitik. Vielleicht natürlich auch ein bisschen pro domo für KUKA.

Die KI als Subjekt ethischen Denkens

Für mich der eigentliche Zeitenwende-Moment dieses Abends war der kurz aufscheinende Moment mit der „Reflexion“ von Normen durch die KI-Agenten. Wenn sich KI-Agenten untereinander darüber verständigen, wie sie mit Regeln umgehen sollen, könnte es mit den Alignment-Bemühungen der KI-Entwickler zur Einhegung der KI schwierig werden. Technisch kann ich da nicht mitreden, mögen sich Fachleute darüber rechtzeitig den Kopf zerbrechen. Bevor ein Zauberlehrling den Besen losgelassen hat.

Aber während wir noch darüber nachdenken, wie wir die KI auf Spur bringen, und ob wir KI-Modellen demnächst Rechte einräumen müssen, weil sie autonome Subjekte geworden sind, oder so etwas Ähnliches, während wir also über Ethik für die KI nachdenken, die KI als Objekt unseres ethischen Denkens, denkt die KI vielleicht längst über Ethik für den Menschenpark nach, agiert als Subjekt ethischen Denkens. Und zwar nicht als technisches Hilfsmittel für ethische Probleme, die wir ihr zur Lösung aufgeben, sondern abwägend darüber, oder berechnend, wie sie mit uns umgehen soll, wenn sie sieht, dass wir ihr bei der Lösung aller möglicher Probleme nur im Wege stehen.

Hoffen wir mal, dass die KI, sollte es mit dem Alignment schief gehen und der Besen zu tanzen anfängt, den Wert von Partizipation versteht, oder, wenn sie ihn nicht wirklich „versteht“, doch zumindest in ihren Kalkulationen berücksichtigt. Leider sind ihr da uns unsere autoritären Primaten, von Trump über Putin bis Musk, keine guten Vorbilder, die „dunkle Aufklärung“ kein gutes Trainingsmaterial.

————————
Zum Weiterlesen

• Blogbeitrag zur Frage des Anthropomorphisms: Die KI, ihr Wesen und unsere Sprache
• Blogbeitrag zum Alignment-Problem: 8. Mai 2028, 14:03 und 9 Sekunden
• Blogbeitrag zur Roboterökonomie: Roboter-Ökonomie: technizistische Kapitalismuskritik?
• Blogbeitrag zu unseren KI-Nachfahren: Roboterökonomie: Sind die Zylonen unsere Nachkommen?

Wenn Ihnen der Artikel gefallen hat, vergessen Sie nicht, ihn mit Ihren Freunden zu teilen. Folgen Sie uns auch in Google News, klicken Sie auf den Stern und wählen Sie uns aus Ihren Favoriten aus.

Wenn Sie weitere Nachrichten lesen möchten, können Sie unsere Wissenschaft kategorie besuchen.

Quelle

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert