Kaum jemand kann heute eine Zeitung aufschlagen, ohne darin über Künstliche Intelligenz (KI) zu lesen. In der Tat kann sogar kaum je­mand eine Zeitung aufschlagen, ohne mehrere Geschichten über magische neue Dinge zu lesen, die KI leisten kann. Es gibt jedoch nur einen Aspekt der KI, der magisch ist, und das ist ihre Autonomie: Wir geben Maschinen die Fähigkeit, in unserer Welt einigermaßen unabhängig zu handeln. Und diese Handlungen können Auswirkungen auf uns Menschen haben. Es überrascht darum nicht, dass die Autonomie eine ganze Reihe ethischer Herausforderungen mit sich bringt.

Noch nie zuvor gab es Maschinen, die unabhängig von ihren menschlichen Beherrschern Entscheidungen treffen konnten. Bisher taten Maschinen nur das, was wir ihnen vorgaben. In gewissem Sinne waren Maschinen in der Vergangenheit immer nur unsere Diener. Aber bald werden wir Maschinen haben, die viele ihrer Entscheidungen selbst treffen. Wer ein Tesla-Auto besitzt, verfügt in gewissem Sinne schon über eine solche Maschine. Die Autonomie wirft einige sehr schwierige neue Fragen auf. Wer ist für die Handlungen einer autonomen KI rechenschaftspflichtig? Wie sollte eine autonome KI beschränkt werden? Was passiert, wenn eine autonome KI absichtlich oder versehentlich einen Menschen schädigt oder tötet?