#Hausaufgaben machen mit ChatGPT?

Wann immer es in Deutschland revolutionäre technische Neuerungen gibt, wird als Erstes nach Regulierung gerufen. Das gilt auch für ChatGPT, das vor allem von Gymnasialschülern und Studenten schon jetzt nahezu täglich genutzt wird und als Text- und Sprachverarbeitungsprogramm Möglichkeiten wie Risiken birgt. Zweifellos erhöht es die Betrugsmöglichkeiten, vor allem in der Wissenschaft. ChatGPT produziert gegenwärtig noch sehr viele Fehler. Die meisten Forscher halten es je­doch für eine trügerische Hoffnung, dass die Herkunft eines mit Künstlicher Intel­ligenz (KI) generierten Textes technisch leicht erkennbar bleibt.

Der KI-Forscher vom Institut für Technikfolgenabschätzung und Systemanalyse am KIT in Karlsruhe, Steffen Albrecht, der für eine Anhörung des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung in dieser Woche im Deutschen Bundestag ein Hintergrundpapier verfasst hat, verweist auf den Unikat-Charakter der von ChatGPT erzeugten Texte. Die schon existierende Software zum Aufspüren von Plagiaten scheitere, und neue Programme würden zwar trainiert, aber nicht mit durchschlagendem Erfolg. Er schlägt eine Art Wasserzeichen vor, das bestimmte Muster in Texte einstreut, die Menschen beim Lesen nicht stören, maschinell aber erkennbar sind.

Beim Schreiben wissenschaftlicher Texte könnte die KI dabei helfen, sich einen Überblick in relevante Literatur zu verschaffen oder in einer anderen Sprache zu publizieren. Die Wissenschaftsverlage lehnen mit guten Gründen ab, von KI-Systemen verfasste Texte zu veröffentlichen. Denn das deutsche Urheberrecht setzt ei­ne persönliche geistige Schöpfung voraus, sodass nur von Menschen geschaffene Texte schutzfähig sind. Der steigende Pu­blikationszwang gerade in der Qualifikationsphase könnte trotzdem manchen Forscher verleiten, seine Studien durch ein KI-System schreiben zu lassen – von Hausarbeiten und Dissertationen ganz abge­sehen.

Prüfungsformate müssen geändert werden

Die ersten Universitäten haben sich schon auf den Weg gemacht und ihre Prüfungsformate geändert. Sie setzen eher auf Präsenzklausuren als auf Hausarbeiten. In den sozial- und sprachwissenschaftlichen Fächern ist das allerdings schwierig. So­wohl in den Rechtswissenschaften als auch in anderen geisteswissenschaftlichen Fächern könnte ChatGPT Gegenargumente zur eigenen Position entwerfen und damit kontroverse Diskussionen schulen. Das Oberlandesgericht Stuttgart erprobt derzeit in einem Pilotprojekt den Einsatz von KI bei der Vertragsprüfung und anderen juristischen Routineaufgaben.

In den Schulen könnten der Prozess einer Quellensuche, der Aufbau einer Ar­gumentation, also die Vorarbeiten für ei­nen eigenen sprachlichen Text, künftig ei­ne sehr viel größere Rolle spielen. Die Technische Universität in München hat am Lehrstuhl von Enkelejda Kasneci das Tool „PEER“ (Paper Evaluation and Em­powerment Resource) entwickelt, das Schüler gezielt beim Verfassen von Aufsätzen unterstützen soll. So können Schüler ihren Text fotografieren oder hochladen, der dann von der KI untersucht wird und eine personalisierte Rückmeldung mit Ver­besserungsvorschlägen gibt. Kasneci selbst ist der Auffassung, dass vor allem schwächere Schüler von solchen Tools profitieren können. Das bedeutet aber auch, dass ChatGPT keine Lehrer ersetzen kann, sondern eine kontinuierliche Begleitung des Lernprozesses nötig macht. An­dernfalls wird sich wiederholen, was sich schon bei anderen digitalen Lehr- und Lernangeboten zeigte: die stärkeren Schüler profitieren enorm, und die schwä­cheren lernen noch weniger effektiv. Beim Le­senlernen könnte die sogenannte Eyetracking-Technik in KI-unterstützten Schul­­büchern erkennen, ob die Kinder dem, was sie lesen, auch folgen können. Ähnliche Modelle sind bei Sprachdefiziten und Lernschwächen denkbar.

Zu den größten Risiken zählen für KI-Forscher nicht nur urheberrechtliche Fragen, sondern auch das Risiko, dass Schüler ChatGPT mit vielen persönlichen Daten füttern, über die sie dann keine Kontrolle mehr haben, weil das System von einer Privatfirma in den Vereinigten Staaten be­treut wird. Außerdem können Nutzer leicht Urheberrechtsverletzungen begehen, wenn ChatGPT urheberrechtlich ge­schützte Textteile benutzt, die dem Original ähnlich oder gar identisch sind, ohne dass dies für den Nutzer erkennbar ist.

FDP: Keine Angst vor Künstlicher Intelligenz

Als erstes Land hat Berlin eine Handreichung zum Umgang mit KI an den Schulen am Beispiel ChatGPT herausgegeben, die auf die Möglichkeiten beim Selbstlernen und bei der Überprüfung des eigenen Lernfortschritts verweist, allerdings auch festhält, dass ein von ChatGPT erzeugter Text, der als eigener ausgegeben wird, in jedem Fall mit einem ungenügend zu be­werten ist. Andere Länder und auch die Kultusministerkonferenz werden folgen.

Die FDP-Bundestagsfraktion hebt in einem Positionspapier für KI in der Bildung vor allem die Chancen hervor. „Angst vor KI darf unser Handeln nicht bestimmen“. Allerdings schießt die FDP auch gleich über das Ziel hinaus, wenn sie meint, die Wissensvermittlung würden künftig vor allem KI-basierte Lerntools übernehmen. Sie können zwar Lehrer entlasten, aber sicher nicht ersetzen. Sinnvoller dagegen erscheint der Vorschlag der FDP, KI für pädagogische Diagnostik und Leistungsbewertung zu verwenden, um Förderbedarfe und objektive Beurteilungskriterien sicherzustellen.

Eine Einstufung von Chatrobotern als „Hochrisiko-Anwendung“ wie sie derzeit auf europäischer Ebene diskutiert wird, lehnen die Liberalen strikt ab. Dann wäre „ihre Nutzung, etwa im schulischen Be­reich, praktisch unmöglich“, heißt es in dem Papier, das der F.A.Z. vorliegt. Bei der Diagnostik, etwa vor dem Schuleintritt oder während der Schuleingangsuntersuchungen, könnten KI-Anwendungen gute Dienste leisten, wenn Lehrer damit umgehen können. „Ethische und datenschutzrechtliche Debatten müssen realitätsnah statt praxisfern geführt werden“, heißt es in dem Positionspapier der Freien Demokraten.