Follow

Interessantes Angriffsszenario auf Fahrassistenz-System: MobilBye: Attacking ADAS with Camera Spoofing

Krasses Paper. Zitat: "... we used a drone to carry a portable projector which projected the spoofed traffic sign on a driving car. Our experiments show that it is possible to fool Mobileye so that it interprets the drone carried spoofed traffic sign as a real traffic sign. " 😵

Video: invidio.us/watch?v=C-JxNHKqgtk

@kuketzblog
Das Verhalten kenne ich von meinem Dienst-Opel schon, wenn ich auf der Autobahn einen LKW überhole, erkennt er das 80-Schild auf dem LKW als Verkehrszeichen und zeigt das als Höchstgeschwindigkeit an.

Meiner Meinung nach ist jemandem der der KI vertraut nicht zu trauen.

@nahtanoy @kuketzblog
Ich behaupte jetzt einfach mal, dass sich das mit Plausibilitätsprüfungen (begrenzt) lösen lassen würde. Das Auto weiß dank GPS wo es sich befindet, und wenn das in einer Ortschaft ist, wäre >50km/h schon mal unwahrscheinlich. Das begrenzt dann immerhin das Risiko.

Abgesehen davon würde ich das ganze auch nicht als KI bezeichnen. Das sind noch immer relativ einfache Prozesse, geht ja nur um die Erkennung von Schildern.

@kuketzblog Ich habe die Erfahrung gemacht (ohne den Hersteller nennen zu wollen), dass es gar keines Angriffs bedarf, denn die Verkehrszeichenerkennung (und noch viel schlimmer die Kollisonserkennung) arbeitet äusserst fehlerhaft. Assistenssysteme sind m.E. mehr Fluch als Segen und das sage ich als jemand, der >60.000km/Jahr im Auto sitzt.

Sign in to participate in the conversation
Mastodon

One of the first Mastodon instances, there is no specific topic we're into, just enjoy your time!