#Künstliche Intelligenz als „Auslöschungsrisiko“ für die Menschheit

Es ist eine drastische Warnung von äußerst prominenter Stelle: Eine Gruppe von Wissenschaftlern und Managern, darunter Sam Altman, der Vorstandschef von Open AI, hat jetzt in einer Stellungnahme gewarnt, dass Künstliche Intelligenz (KI) ein „Auslöschungsrisiko“ für die Menschheit darstelle. Es sollte eine „globale Priorität“ sein, dieses Risiko abzumildern, ähnlich wie andere Risiken, die die gesamte Gesellschaft betreffen, etwa Pandemien und Atomkriege. Dies ist die jüngste Warnung vor KI-Risiken, die zum Teil aus der Branche selbst kommt.

Im März gab es schon einen offenen Brief mit Vertretern aus Forschung und Wirtschaft, in dem ein sechsmonatiges Moratorium für die Arbeit an besonders fortgeschrittenen KI-Systemen gefordert wurde. Diesen Brief hat Elon Musk unterschrieben, der Vorstandschef des Elektroautoherstellers Tesla, der einst auch Open AI mitgegründet hat. Darin wurden mit Blick auf etwaige KI-Risiken ähnliche Töne angeschlagen, wobei die Wortwahl in der jetzt veröffentlichten Stellungnahme noch etwas dramatischer ist.

Schattenseiten werden sichtbar

Die neue Warnung hat auch deshalb besonderes Gewicht, weil Sam Altman sich ihr angeschlossen hat. Seit Open AI mit der Einführung seines KI-Sprachmodells ChatGPT im vergangenen November für Furore gesorgt hat, herrscht in der Branche ein verschärfter Wettbewerb um die Entwicklung solcher Technologien, und parallel dazu hat die Diskussion um etwaige Schattenseiten eine zusätzliche Dringlichkeit bekommen.

Die neue Warnung wurde vom Center for AI Safety veröffentlicht, einer nicht gewinnorientierten Organisation, die es als ihre Mission beschreibt, KI-Risiken für die Gesellschaft zu reduzieren. Die Stellungnahme hat rund 350 Unterschriften, darunter sind neben Sam Altman noch eine Reihe anderer prominenter Namen. Beispielsweise Demis Hassabis, der Vorstandschef des zum Internetkonzern Google gehörenden KI-Labors Deepmind, und mehrere Top-Manager des Softwarekonzerns Microsoft, der ein enges Bündnis mit Open AI unterhält.

An der Spitze der Unterschriften steht Geoffrey Hinton, der als Pionier auf diesem Feld gilt und oft „Pate der Künstlichen Intelligenz“ genannt wird. Hinton hat bis vor Kurzem für Google gearbeitet, seit seiner Kündigung vor wenigen Wochen hat er aber wiederholt in düsteren Worten öffentlich vor KI-Risiken gewarnt. Dabei hat er auch schon den Vergleich mit Atomwaffen gezogen.

Die rasanten Fortschritte von KI-Systemen wecken unter anderem Sorgen, dass solche Instrumente die Verbreitung von Propaganda erleichtern und Millionen von Arbeitsplätzen überflüssig machen. Manche Warnungen wie die jetzt veröffentlichte Stellungnahme gehen so weit, KI als existenzbedrohlich für die Menschheit darzustellen. Sam Altman sagte kürzlich bei einer Anhörung vor dem amerikanischen Kongress: „Wenn mit dieser Technologie etwas schiefgeht, dann kann es ziemlich schiefgehen.“

Altman hat sich zwar für umfassende Regulierung ausgesprochen, allerdings ein Moratorium abgelehnt, wie es Musk gefordert hat. Musk hat heute keine Verbindung mehr zu Open AI, kürzlich wurde allerdings bekannt, dass er selbst ein neues KI-Unternehmen gegründet hat.