Follow

Untersuchungsbericht des IEEE zu einem tödlichen Unfall zwischen einem autonomen SUV von Uber und einer Fußgängerin: spectrum.ieee.org/cars-that-th

Zusammenfassung:
- katastrophale Softwarefehler (keine Bugs, sondern schlechte Software)
- Fahrer war abgelenkt
- schlechte Kontrollen im Uber-Werk
- zu lasche staatliche Vorgaben

"Spoiler" der Softwarefehler 

- Fußgängerin befand sich nicht auf einem Zebrastreifen, deswegen erkannte der Wagen sie nicht als Fußgänger
- Software klassifizierte F. dann abwechselnd als Auto oder Motorrad auf der Gegenspur oder als stationäres Objekt
- durch den ständigen Wechsel konnte der Wagen keine Bewegung feststellen (Neuklassifizierung machte aus dem sich bewegenden Hindernis jedesmal ein neues Hindernis)

Show thread

"Spoiler" der Softwarefehler 

- Hindernis ohne Bewegung = stationär oder auf der Gegenfahrbahn in Gegenrichtung = keine Gefahr
- erst als die Fußgängerin auf der Fahrbahn des Wagens angekommen war und eine Kollision unvermeidbar war, hätte eine Notfallbremsung eingeleitet werden müssen
- das Notfallsystem war aber ausgeschaltet, weil es zuviele Fehlalarme gemeldet hat
- stattdessen wurde ein Alarm gestartet und die Kontrolle an den (abgelenkten) Fahrer übergeben

Show thread

"Spoiler" der Softwarefehler 

Das automatische Bremssystem des Wagenherstellers war deaktiviert worden, da es sich nicht mehr den Modifikationen von Uber vertrug.

Show thread
Sign in to participate in the conversation
norden.social

Moin! Dies ist eine Mastodon Instanz für Nordlichter, Schnacker und was sonst noch so aus dem Norden kommt. Administriert wird der Norden von Niklas & Benny. Zusätzliche Moderatoren sind Marius und Kurzi.
Bitte gebt bei der Registrierung einen kurzen Text ein. Das erleichtert uns euch schneller freizugeben.