Um ChatGPT ist in den vergangenen Wochen ein Hype entbrannt. Der Chatbot mit Künstlicher Intelligenz (KI) ist in einer Testphase: Wer möchte, kann sich unter chat.openai.com einen Account erstellen und selbst mit dem Programm schreiben. Wir erklären, was die KI schon kann und wo sie noch Schwächen hat.

Was ist ChatGPT?

„ChatGPT ist ein künstlicher Intelligenz-Chatbot, der von OpenAI trainiert wurde. Er kann menschenähnliche Konversationen führen und Antworten auf Fragen geben, indem er aus einer riesigen Menge an Texten im Internet lernt.“ So beschreibt sich ChatGPT selbst, wenn man den Chatbot darum bittet. Das Programm kann Wissensfragen beantworten, Texte nach Wünschen der Nutzerinnen und Nutzer erstellen und sogar Programmiercodes schreiben. ChatGPT kann auch übersetzen, deshalb funktioniert es in verschiedenen Sprachen.

Welches Potenzial hat ChatGPT?

Programme wie ChatGPT „haben das Potenzial, uns ganz viel nervige Routinearbeit abzunehmen“, sagt Philipp Riederle. Der 28-Jährige ist in Burgau aufgewachsen, hat mit 15 sein erstes Unternehmen gegründet und mit 18 den Bestseller „Wie wir arbeiten und was wir fordern“ veröffentlicht. Er arbeitet seit zwölf Jahren als Unternehmensberater zur Digitalisierung und forscht am Oxford Internet Institute. Er sagt: „Die Motivation für Innovationen ist, Arbeit leichter zu machen und die Lebensqualität zu erhöhen.“ Das gelte für die Entwicklung von Werkzeugen in der Steinzeit wie nun auch für Programme wie ChatGPT. So eine Künstliche Intelligenz könne zudem einen Beitrag zur Chancengerechtigkeit leisten.

Wie funktioniert das?

Die Künstliche Intelligenz wurde mit gigantischen Mengen Text trainiert. Das Programm analysiert diese Texte und erkennt Muster darin. So lernt es, möglichst menschlich zu kommunizieren – es errechnet Wahrscheinlichkeiten, welche Wörter am besten zur Eingabe des Nutzers oder der Nutzerin passen. „Künstliche Intelligenz ist keine echte Intelligenz“, sagt Riederle. „Das ist ausschließlich Statistik mit extrem viel Rechenpower.“

Ist der Hype um das Programm gerechtfertigt?

Die Faszination, die der Chatbot auslöst, kann Riederle gut nachvollziehen – weil es ein niederschwelliges Angebot ist, mit dem jeder ohne viel Vorwissen ein derartiges Programm testen kann. Besonders überrasche wohl viele, dass ChatGPI auch mit verschiedenen Kunstformen funktioniert. So reagiert das Programm auch auf Aufforderungen wie „Schreibe ein Gedicht“ und verblüfft mit vermeintlich kreativen Antworten. „Natürlich ist es nicht kreativ“, stellt Riederle klar – auch hier laufen Rechenprozesse ab, die eine möglichst passende Antwort ergeben.

Lesen Sie dazu auch

Wie gehen Schulen mit der Künstlichen Intelligenz um?

Für Aufsehen sorgt ChatGPT auch in den Schulen – schließlich könnten zumindest manche Schularbeiten an die KI ausgelagert werden. Derartige Entwicklungen in der Schule einfach zu verbieten und aus dem Unterricht herauszuhalten sei keine Option, erklärt Simone Fleischmann, Präsidentin des Bayerischen Lehrerinnen- und Lehrerverbandes (BLLV). „Nein, wir müssen und wollen uns des Themas annehmen.“ Dabei gehe es ans Eingemachte: Man müsse die Frage stellen, was in der Schule bewertet wird. „Wir wollen schon seit Jahren, dass man über den traditionellen Leistungsbegriff nachdenkt“, sagt Fleischmann. „Wir sind der Meinung, dass der Prozess, wie man zu einem Ergebnis kommt, bewertet gehört, nicht das Ergebnis alleine.“ Sie betont den Willen der Lehrerinnen und Lehrer, sich solcher neuer Themen anzunehmen, verweist aber darauf, dass die Schulen krisengebeutelt seien: Die Integration, aktuell von aus der Ukraine Geflüchteten, auch die Inflation, Nachwehen der Corona-Pandemie und der Lehrermangel – die Schulen brauchten dringend Unterstützung. „Und in so einer Lage gibt es eine neue Entwicklung, die wir annehmen wollen.“

Welche Schwachstellen hat die KI?

Eine offensichtliche Schwachstelle ist im Moment: ChatGPT hat den Wissensstand von 2021 und kann so zu aktuellen Thema nichts beitragen. Dieses Problem dürfte aber nach dem Testbetrieb behoben sein. Ganz auf die Antworten verlassen sollte man sich allerdings auch dann nicht: Eine Künstliche Intelligenz kann falsche Antworten geben. Das Programm speist sich aus realen Texten, die können Fehler und Falschbehauptungen enthalten. Die zu erkennen ist ziemlich schwierig, weil Nutzerinnen und Nutzer nicht erkennen, woher das Programm seine Informationen hat. Ähnlich wie Falschbehauptungen können auch Vorurteile weitergegeben werden, die in den Texten, aus denen der Bot lernt, enthalten sind.

Wo liegen Gefahren des Programms?

Eine KI wie ChatGPT könnte für Fake-News-Kampagnen oder Propaganda verwendet werden. Riederle warnt vor einer Desinformations-Maschine: „Es erfordert nur noch wenig menschliche Ressourcen, um sehr glaubhaft klingende Texte in großen Mengen zu erstellen und zu verteilen.“ In der Forschung diskutiere man daher darüber, wie künstlich erstellte Texte mit einer Art Wasserzeichen versehen werden können, um diese zu kennzeichnen.

Welche weiteren Kritikpunkte gibt es?

ChatGPT lernt auch aus den Fragen, die ihm gestellt werden. Dafür speichert und analysiert das Programm Nutzereingaben, was Datenschützer kritisieren. Ein weiterer Kritikpunkt: Die KI wird mit Unmengen von Texten trainiert – deren Urheber werden nicht gefragt oder gar bezahlt. „Gegenüber diesen Debatten sind wir im deutschen Kulturraum aufgrund unserer Geschichte besonders sensibel“, sagt Riederle. „Die heutige enorme Menge an ständig anfallenden Benutzerdaten zusammen mit der heutigen Rechenpower ermöglicht es, auch aus scheinbar harmlosen Datenpunkten sehr sensible Schlüsse zu ziehen – dies ist aber kein Problem speziell von ChatGPT, sondern jeder modernen KI-Software.“ Forschung, Recht, Politik und Gesellschaft seien erst dabei, Modelle zu entwickeln, die Privatsphäre und das technische Funktionspotenzial zusammenbringen. Und die Diskussion um die digitale Verarbeitung von online verfügbaren Texten erinnere an den Streit zwischen Verlagen und Google News. „Da geht es um unser grundsätzliches Verständnis, wie Urheberrecht im digitalen Raum funktioniert.“

Welches Unternehmen steckt hinter ChatGPT?

Hinter ChatGPT steckt das Unternehmen OpenAI. Die Firma wurde als Non-Profit-Organisation gegründet, unter anderem von Tesla-Chef Elon Musk. Ziel ist, Künstliche Intelligenz zu erforschen und öffentlich zur Verfügung zu stellen. Der wichtigste Geldgeber des Unternehmens ist Microsoft. Der hat in den vergangenen Jahren mehrere Milliarden Dollar in OpenAI investiert.