Menschen gehen (fälschlicherweise) davon aus, dass Maschinen keine Fehler machen. Sobald sich deren Unvollkommenheit aber offenbart, wie etwa im Fall des Uber-Autos, nehmen Menschen (fälschlicherweise) an, sie könnten es besser. Forscher bezeichnen dieses Phänomen als „algorithm aversion“. Dabei ist es keineswegs gesagt, dass ein Mensch in derartigen Situationen bessere Entscheidungen träfe als eine KI. Aber das ist nicht der Punkt. Der Punkt ist, dass wir der Maschine die wichtigste aller Entscheidungen anvertrauen: die über Leben und Tod. Das dürfen derzeit nicht einmal Drohnen des US-Militärs. Bevor sie feuern, muss ein Mensch die kill decision geben. Wenn Maschinen unsere Autos lenken, unsere DHL-Lieferwägen, Kräne und Bagger, werden KI-Systeme täglich über Fragen von Leben und Tod entscheiden. Die tote Passantin von Arizona erinnert uns daran.
Quelle:
Keith Gordon, John Stockwell: Christine by John Carpenter, 1983
nytimes.com, Daisuke Wakabayashi, 23.03.2018
spiegel.de, Tom Hillenbrand, 21.03.2018