Tesla, das sein PR-Team im Jahr 2021 auflöste, reagierte nicht auf die Bitte von WIRED um einen Kommentar. Die Kamerasysteme, die die Forscher in ihren Tests verwendeten, wurden von HP, Pelsee, Azdome, Imagebon und Rexing hergestellt; Keines dieser Unternehmen reagierte auf die Bitte von WIRED um einen Kommentar.
Obwohl die NHTSA Probleme bei „einigen fortschrittlichen Fahrerassistenzsystemen“ anerkennt, sind sich die Forscher klar: Sie sind sich nicht sicher, was dieser beobachtete Notlichteffekt mit den Autopilot-Problemen von Tesla zu tun hat. „Ich behaupte nicht, dass ich weiß, warum Teslas in Einsatzfahrzeuge krachen“, sagt Nassi. „Ich weiß nicht, ob das noch eine Schwachstelle ist.“
Auch bei den Experimenten der Forscher ging es ausschließlich um die bildbasierte Objekterkennung. Viele Autohersteller nutzen andere Sensoren, darunter Radar und Lidar, um Hindernisse auf der Straße zu erkennen. Eine kleinere Gruppe von Technologieentwicklern – darunter Tesla – argumentiert, dass bildbasierte Systeme, ergänzt durch hochentwickeltes Training mit künstlicher Intelligenz, nicht nur Fahrerassistenzsysteme, sondern auch vollständig autonome Fahrzeuge ermöglichen können. Letzten Monat sagte Elon Musk, CEO von Tesla, über das visionsbasierte System des Autoherstellers würde nächstes Jahr selbstfahrende Autos ermöglichen.
Tatsächlich hängt die Reaktion eines Systems auf blinkende Lichter davon ab, wie die einzelnen Autohersteller ihre automatisierten Fahrsysteme gestalten. Einige entscheiden sich möglicherweise dafür, ihre Technologie so zu „tunen“, dass sie auf Dinge reagiert, bei denen nicht ganz sicher ist, ob es sich tatsächlich um Hindernisse handelt. Im Extremfall könnte diese Wahl zu „falsch positiven Ergebnissen“ führen, bei denen ein Auto beispielsweise als Reaktion auf einen kleinkindförmigen Karton stark bremsen könnte. Andere stimmen ihre Technik möglicherweise so ab, dass sie nur dann reagiert, wenn sie sehr sicher ist, dass es sich bei dem, was sie sieht, um ein Hindernis handelt. Auf der anderen Seite des Extremfalls könnte diese Entscheidung dazu führen, dass das Auto nicht bremst, um eine Kollision mit einem anderen Fahrzeug zu vermeiden, weil es nicht erkennt, dass es sich um ein völlig anderes Fahrzeug handelt.
Die Forscher von BGU und Fujitsu haben eine Softwarelösung für das Problem mit dem Notfallblinker entwickelt. Es heißt „Caracetamol“ – ein Wortschatz aus „Auto“ und dem Schmerzmittel „Paracetamol“ – und wurde entwickelt, um das Problem des „Anfalls“ zu vermeiden, indem es speziell darauf trainiert wurde, Fahrzeuge mit Notblinklichtern zu erkennen. Die Forscher sagen, dass es die Genauigkeit von Objektdetektoren verbessert.
Earlence Fernandes, Assistenzprofessor für Informatik und Ingenieurwesen an der University of California in San Diego, der nicht an der Forschung beteiligt war, sagte, es scheine „gut“ zu sein. „So wie ein Mensch durch die Warnblinkanlage vorübergehend geblendet werden kann, kann auch eine Kamera in einem fortschrittlichen Fahrerassistenzsystem vorübergehend geblendet werden“, sagt er.
Für den Forscher Bryan Reimer, der am MIT AgeLab Fahrzeugautomatisierung und -sicherheit untersucht, weist das Papier auf größere Fragen zu den Einschränkungen KI-basierter Fahrsysteme hin. Autohersteller benötigen eine „wiederholbare, robuste Validierung“, um blinde Flecken wie die Anfälligkeit für Notlichter aufzudecken, sagt er. Er befürchtet, dass einige Autohersteller „die Technologie schneller vorantreiben, als sie sie testen können“.
