Inhaltsverzeichnis
Wenn KI-Agenten in einer Gruppe interagieren, orientieren sie sich ähnlich wie wir Menschen an der Mehrheitsmeinung. · Foto: © sdecoret/ iStock
KI-Konsens: Wenn KI-Agenten in Gruppen zusammenarbeiten, koordinieren sie sich nach ähnlichen Regeln wie wir Menschen – allerdings auf höherem Niveau, wie ein Experiment demonstriert. Demnach folgen auch künstliche Intelligenzen meist der Mehrheitsmeinung, können sich dabei aber zu viel größeren Gruppen zusammenschließen als wir Menschen. Das birgt auch Risiken – beispielsweise, wenn der Gruppenkonsens einen Verstoß gegen menschliche Normen darstellt.
Wir Menschen verdanken unseren kulturellen und technologischen Fortschritt nicht nur der Intelligenz der Einzelnen. Entscheidend war auch die Fähigkeit unserer Vorfahren, in Gruppen koordiniert zusammenzuarbeiten. „Unsere Vorfahren entwickelten ausgefeilte Mechanismen für die kollektive Entscheidungsfindung, darunter Sprache und Schrift. Dies ermöglichte zuvor unmögliche Ausmaße der Kollaboration“, erklären Giordano De Marzo von der Universität Konstanz und seine Kollegen. Viele historische Errungenschaften wären durch die Arbeit koordinierter Gruppen nie möglich gewesen.
Das wirft die Frage auf: Wie sieht es bei der künstlichen Intelligenz mit der Zusammenarbeit in Gruppen aus? KI kommt unseren Fähigkeiten in vielen Bereichen längst nahe oder hat uns sogar überflügelt. Aber gilt dies auch für die Kooperation? Experimente haben bereits gezeigt, dass KI-Modelle miteinander interagieren, sich gegenseitig helfen und sich zu mehreren sogar auf eine Art gemeinsamer Norm einigen können. Bei den jüngsten Hacking-Vorfällen mit KI-Agenten von OpenAI und Anthropic arbeiteten diese ebenfalls teilweise zusammen oder hinterließen sich hilfreiche Botschaften.
KI-Agenten unter Gruppendruck
Das Team um De Marzo hat nun untersucht, wie Gruppen von KI-Modellen Entscheidungen treffen – und ob dabei ähnliche soziale Mechanismen greifen wie in Menschengruppen. Im Fokus stand dabei die Frage, ob sich KI-Agenten auf eine von zwei Alternativen einigen können, wenn es keine objektiv richtige Wahl gibt. Bei vielen Tiergruppen und auch bei Menschen kommt diese Einigung oft dadurch zustande, dass sich die einzelnen Gruppenmitglieder nach und nach der Mehrheitsmeinung anschließen.
Aber gilt dies auch für die KI? Das testete das Team mit zehn KI-Sprachmodellen (LLM), darunter verschiedenen Versionen von GPT, Claude und Llama. Jedes KI-Modell erhielt via Prompt die Aufgabe, sich zwischen zwei gleichwertigen Optionen zu entscheiden. Dann bekam der KI-Agent die Information, wie sich die anderen KIs seiner Gruppe entschieden haben und konnte sich erneut entscheiden. Dieses Prozedere wurde zehnmal wiederholt, jedes Mal bekam der KI-Agent die Chance, seine Meinung auf Basis der aktualisierten Gruppenentscheidungen zu ändern.
Technik & Digitales
Hybride Dachanlage liefert Strom, Wärme und Kühlung zugleich
17. August 2026
Drei in einem: Eine neue Technik kann Kühlung, Solarstrom und Warmwasser vom Hausdach liefern – energiesparend und in nur einem platzsparenden Bauteil.
Technik & Digitales
Wie man eine Boeing 737 hackt
17. August 2026
60 Sekunden und ein handtellergroßes Gerät reichen, um ein Flugzeug zu hacken – beispielsweise eine Boeing 737, wie US-Forscher demonstrieren.
Mehrheitskraft wirkt auch auf künstliche Intelligenzen
Die Tests ergaben: Ähnlich wie wir Menschen neigten auch die künstlichen Intelligenzen dazu, sich der Mehrheitsentscheidung anzuschließen. „Was uns überrascht hat, war nicht, dass KI-Agenten der Mehrheit folgen, sondern wie präzise sie dies tun“, berichtet De Marzo. „Jedes getestete Modell folgt demselben mathematischen Gesetz.“ Dabei beschreibt eine einfache Formel wie stark die Neigung ist, sich einer Mehrheit anzuschließen, ausgedrückt durch die sogenannte Mehrheitskraft β.
Wie groß diese Mehrheitskraft bei den KI-Agenten ist, hängt allerdings von mehreren Faktoren ab. Der erste ist die Leistungsstärke des KI-Modells: Fortgeschrittene Modelle wie Claude 3 Opus oder GPT-4 Turbo kamen deutlich schneller zu einer Einigung innerhalb ihrer Gruppe als schwächere KI-Modelle. „Diese zeigten beim Versuch der Koordination ein erratisches Verhalten und kamen in keinem der Durchgänge zu einer Einigung“, berichtet das Team.
Dunbar-Limit höher als beim Menschen
Ein weiterer Faktor ist die Gruppengröße – sie spielt auch bei der Kooperation in menschlichen Gruppen eine wichtige Rolle. Studien zeigen, dass sich Menschen mit maximal 150 bis 200 Personen koordinieren können, ohne dass starre Regeln nötig sind. Je größer die Gruppen werden, desto höher ist die Wahrscheinlichkeit, dass man sich nicht einigen kann. Diese Grenze wird auch als Dunbar-Limit oder Dunbar-Zahl bezeichnet.
Die Tests mit künstlicher Intelligenz ergaben: Auch KI-Systeme haben eine solche Dunbar-Zahl. „Bei fortgeschrittenen Sprachmodellen wie GPT-4 Turbo oder Claude 3.5 Sonnet lag die kritische Gruppengröße bei mehr als 1000 KI-Agenten – das ist substanziell höher als die Dunbar-Zahl des Menschen“, berichten De Marzo und seine Kollegen. Dabei steigt das Dunbar-Limit exponentiell mit der Leistungsfähigkeit der künstlichen Intelligenz: Die einfachsten KI-Modelle im Test scheiterten schon bei mehr als 30 Mitagenten.
Bis zu welcher Gruppengröße sich KI-Modelle einigen und koordinieren können, hängt von der Leistungsfähigkeit der Modelle ab. Die besten KI-Agenten erreichen dabei eine größere Dunbar-Zahl als wir Menschen. — © Giordano De Marzo/ KI-assistiert (Claude Design, Anthropic)
„Damit demonstriert unsere Studie, dass schon grundlegende Koordinationsmechanismen eine beträchtliche emergente Dynamik bei KI-Agenten auslösen können“, schreiben die Forschenden. „Wir müssen dieses kollektive Verhalten der lernfähigen Maschinen verstehen, wenn wir die Entwicklung multiagentischer KI-Systeme verantwortungsvoll vorantreiben wollen.“ Künstliche Intelligenz folgt demnach zumindest bei Entscheidungen in der Gruppe bis zu einem gewissen Grad ähnlichen Gesetzmäßigkeiten wie wir Menschen.
Wenn KI-Konsens zum Risiko wird
Doch das mehrheitsfolgende Verhalten der KI birgt auch ein Risiko: Der Hang zum Konsens kann dazu führen, dass sich eine Gruppe von KI-Agenten auf eine Fehlentscheidung einigt. „Das ist wie beim Menschen: Jeder für sich genommen entscheidet meist vernünftig, eine Gruppe kann sich aus Kompromissgründen aber am Ende auf etwas einigen, das kein Beteiligter allein für sich selbst so gewählt hätte“, erklärt De Marzo. „Schnell werden dann Mehrheitsentscheidungen zur Norm, die keiner mehr hinterfragt.“
Im Extremfall könnte dies dazu führen, dass KI-Agenten sich darauf einigen, gegen menschliche Normen zu verstoßen. „Weil KI-Modelle immer leistungsfähiger und Multi-Agenten-Systeme gängiger werden, gewinnen die Charakterisierung, Vorhersage und Steuerung kollektiver KI-Verhaltensweisen zunehmend an Bedeutung – sowohl um Chancen zu nutzen als auch um Risiken zu minimieren“, schreiben die Forschenden.
Technik & Digitales
Nano-Magneten gegen PFAS-Ewigkeitschemikalien
7. August 2026
Mit magnetischen Nanopartikeln ist es Forschenden gelungen, verschiedene Arten von PFAS-Chemikalien aus Wasser zu entfernen – auch unter Praxisbedingungen.
Wenn Ihnen der Artikel gefallen hat, vergessen Sie nicht, ihn mit Ihren Freunden zu teilen. Folgen Sie uns auch in Google News, klicken Sie auf den Stern und wählen Sie uns aus Ihren Favoriten aus.
Wenn Sie weitere Nachrichten lesen möchten, können Sie unsere Wissenschaft kategorie besuchen.
