Reddit-Nutzer werden ungewollt zu Versuchspersonen

Forschern der Universität Zürich wird vorgeworfen, ein nicht genehmigtes viermonatiges Experiment auf einem Reddit-Forum durchgeführt zu haben, bei KI-generierte Kommentare verwendet wurden, um zu testen, ob KI die Meinung von Menschen verändern kann.

Im Rahmen des Experiments täuschten die KI-gesteuerten Konten eine Vielzahl von Personen vor, darunter ein Vergewaltigungsopfer, eine Person, die gegen bestimmte soziale Bewegungen ist, und einen Traumaberater, der sich auf Missbrauch spezialisiert hat, so die Moderatoren des Subreddits r/changemyview in einem Beitrag vom 26. April.

„Unser Sub ist ein dezidiert menschlicher Raum, der nicht offengelegte KI als Grundwert ablehnt“, so die Moderatoren.

„Die Menschen kommen nicht hierher, um ihre Ansichten mit KI zu diskutieren oder um einem Experiment zu dienen.“

Die Forscher setzten KI ein, um Antworten zu generieren, versuchten aber, die Antworten anhand von Informationen aus dem früheren Reddit-Verlauf der ursprünglichen Poster zu personalisieren, wie z. B. politische Orientierung, Geschlecht, Alter und ethnische Zugehörigkeit, wie es in einem Entwurf der Arbeit heißt.

Während des viermonatigen Experiments posteten die gefälschten KI-Accounts der Universität Zürich 1.783 Kommentare und erhielten 137 Deltas. Ein Delta ist ein Wert, der anzeigt, wann ein anderer Reddit-Nutzer einräumte, dass der Account ihn dazu gebracht hatte, seine Meinung zu einem Thema zu ändern.

Die Forscher erklärten in einem Beitrag auf dem Subreddit, dass alle Kommentare vor der Veröffentlichung manuell überprüft wurden, um sicherzustellen, dass sie den Community-Richtlinien entsprechen und um „möglichen Schaden zu minimieren“.

Das Universitätsteam argumentierte, dass der „potenzielle Nutzen dieser Forschung ihre Risiken bei weitem überwiegt“, da sie herausgefunden haben, dass die in dem Experiment verwendeten großen Sprachmodelle sehr überzeugend sein können und alle „bisher bekannten Maßstäbe für menschliche Überzeugungskraft“ übertreffen.

„Unsere kontrollierte, risikoarme Studie lieferte wertvolle Einblicke in die realen Überzeugungsfähigkeiten von LLMs – Fähigkeiten, die bereits für jedermann leicht zugänglich sind und die böswillige Akteure bereits in großem Umfang für weitaus gefährlichere Zwecke ausnutzen könnten“, so die Forscher.

Gleichzeitig sagten die Forscher, das Experiment zeige, dass die Unterscheidung zwischen Menschen und KI immer noch eine große Herausforderung darstellt, da während des gesamten Experiments niemand im Subreddit die KI-Bots entdeckte.

Das Forum r/changemyview hat 3,8 Millionen Mitglieder und gehört zu den Top 1 % der Subreddits nach Größe.

Reddit prüft rechtliche Schritte

Die Moderatoren des Reddit-Forums erklärten, dass sie nichts von dem Experiment gewusst und von der Universität eine Entschuldigung gefordert hätten. Zudem wollen sie eine Veröffentlichung der Forschungsergebnisse unterbinden.

Reddit könnte auch rechtliche Schritte in Erwägung ziehen, da der Leiter der Rechtsabteilung der Plattform, Ben Lee, in einem Folgeposting am 28. April erklärte, dass das Experiment gegen die Nutzungsvereinbarung und die Regeln der Website verstoße und dass alle bekannten Konten, die mit der Forschung der Universität Zürich in Verbindung stehen, nun gesperrt seien.

„Wir sind dabei, der Universität Zürich und dem betreffenden Forschungsteam formelle rechtliche Forderungen zu stellen“, sagte Lee.

„Wir wollen alles tun, was wir können, um die Gemeinschaft zu unterstützen und sicherzustellen, dass die Forscher für ihre Untaten zur Rechenschaft gezogen werden“, fügte er hinzu.

Die Ethikkommission der Philosophisch-Naturwissenschaftlichen Fakultät der Universität Zürich teilte in ihrer Antwort auf den Subreddit mit, dass sie den Vorfall untersucht habe und versprach, sich in Zukunft besser mit den Versuchspersonen abzustimmen. Der leitende Forscher des Projekts wurde zudem abgemahnt.

„Dieses Projekt liefert wichtige Erkenntnisse, und die Risiken sind minimal. Das bedeutet, dass die Unterbindung der Veröffentlichung in keinem Verhältnis zur Bedeutung der Erkenntnisse steht, die die Studie liefert“, so die Ethikkommission.