#US-Finanzaufsichten warnen vor Risiken von Künstlicher Intelligenz (KI)

Ein Gremium aus mehreren Regulierungsbehörden hat davor gewarnt, dass die rasche Einführung von Künstlicher Intelligenz (KI) neue Risiken für das Finanzsystem der Vereinigten Staaten mit sich bringen könnte, wenn die Technologie nicht angemessen überwacht wird.

Der amerikanische Finanzstabilitätsrat (FSOC), der sich aus hochrangigen Finanzaufsichtsbehörden zusammensetzt und von US-Finanzministerin Janet Yellen geleitet wird, wies in seinem am 14. Dezember veröffentlichten Jahresbericht zur Finanzstabilität entsprechend erstmals auf die von KI ausgehenden Risiken hin.

Das FSOC erkannte zwar das Potenzial von KI zur Förderung von Innovation und Effizienz in Finanzinstituten an, betonte jedoch, dass Unternehmen und Aufsichtsbehörden aufgrund der raschen technologischen Fortschritte wachsam bleiben müssen.

In ihrem Jahresbericht betonte die Organisation weiter, dass KI spezifische Risiken birgt, wie z. B. Cybersicherheits- und Modellrisiken. Sie schlug deshalb vor, dass Unternehmen und Aufsichtsbehörden ihr Wissen und ihre Fähigkeiten zur Überwachung von KI sowie zur Identifizierung aufkommender Risiken verbessern.

Dem Bericht zufolge sind bestimmte KI-Tools technisch anspruchsvoll und komplex, was die Institutionen vor die Herausforderung stellt, sie effektiv zu erklären oder zu überwachen. Der Rat warnt davor, dass Unternehmen und Aufsichtsbehörden ohne ein umfassendes Verständnis verzerrte oder ungenaue Ergebnisse übersehen könnten.

Der Bericht hebt auch hervor, dass KI-Tools zunehmend von umfangreichen externen Datensätzen und Drittanbietern abhängen, was zusätzliche Bedenken hinsichtlich des Datenschutzes und der Cybersicherheit hervorruft.

Einige amerikanische Aufsichtsbehörden, darunter die Börsenaufsicht SEC, deren Vorsitzender im FSOC sitzt, haben die KI-Nutzung von Unternehmen bereits untersucht. Das Weiße Haus hat außerdem eine Executive Order erlassen, um KI-Risiken anzugehen und zu verringern.

Papst Franziskus äußerte sich in einem Brief vom 8. Dezember besorgt über die potenziellen Gefahren der KI für die Menschheit. Er plädiert für einen internationalen Vertrag zur ethischen Regulierung der KI-Entwicklung und warnt vor dem Risiko einer „technologischen Diktatur“ ohne angemessene Kontrollen.

Auch Tech-Größen wie Elon Musk und Steve Wozniak haben sich besorgt über den raschen Fortschritt der KI geäußert. Mehr als 2.600 führende Techniker und Forscher, darunter Musk und Wozniak, unterzeichneten im März 2023 eine Petition, in der sie eine vorübergehende „Pause“ bei der Entwicklung von KI forderten. Sie betonten die potenziellen „tiefgreifenden Risiken für die Gesellschaft und die Menschheit“, die von KI-Fortschritten ausgehen, die über GPT-4 hinausgehen.