Sticky Werbung

Sonntagsfahrer

Stopp: Farbmuster bringt autonome Autos aus der Spur

Am Max Planck Institut für intelligente Systeme in Tübingen gelang es einem Team von Wissenschaftlern, ein optisches System zu überlisten. Die Experten für Maschinelles Sehen und Lernen warnen die Automobilindustrie, dass ein einfaches Farbmuster ausreichen könnte, einen Autopiloten in selbstfahrenden Fahrzeugen zu verwirren. Im Versuch stört ein einfaches Farbmotiv die Bewegungserkennung eines Fluss-Algorithmus.

Von   Uhr

Innerhalb von vier Stunden erstellten die Forscher ein Farbmuster, das zum Beispiel als T-Shirt-Aufdruck, als Heckscheibenaufkleber oder als Emblem auf einer Einkaufstüte geeignet ist, den auf tiefen neuronalen Netzen basierenden optischen Fluss-Algorithmus in einem autonomen Fahrzeug zu stören. Die Tübingen wählen den Begriff der Attacke, obwohl die Gefahr für aktuell auf dem Markt verfügbare Serienfahrzeuge eher gering ist.

In ihrer Forschungsarbeit prüften Anurag Ranjan und seine Kollegen Joel Janai, Andreas Geiger und Michael J. Black die Robustheit einer Reihe verschiedener Algorithmen zur Bestimmung des sogenannten optischen Flusses. Derartige Systeme werden in selbstfahrenden Autos, in der Robotik, Medizin, bei Videospielen und in der Navigation verwendet, um nur einige wenige Einsatzbereiche zu nennen. Der optische Fluss beschreibt die Bewegung in einer Szene, die von den Bordkameras erfasst wird. Jüngste Fortschritte im Bereich des maschinellen Lernens haben zu schnelleren und besseren Verfahren beim Berechnen von Bewegung geführt. Die Forschung der Tübinger Wissenschaftler zeigt jedoch, dass derartige Verfahren anfällig sind, wenn Störsignale im Spiel sind: zum Beispiel ein einfaches, buntes Muster, das in die Szene platziert wird. Selbst wenn sich das Muster nicht bewegt, kann es dazu führen, dass tiefe neuronale Netze, wie sie heute in großem Maße zur Flussberechnung eingesetzt werden, falsch rechnen: das Netzwerk kalkuliert plötzlich, dass sich große Teile der Szene in die falsche Richtung bewegen.
 
Man könnte dem selbstfahrenden Auto auch ein Stopp-Schild präsentieren, mit dem etwa Schüler-Lotsen in den USA den Verkehr regeln. Allerdings könnten durch winzige Muster neuronale Netze im Bordcomputer verwirrt und dadurch Objekte wie Stoppschilder falsch klassifiziert werden. Die neue Tübinger Forschungsarbeit zeigt erstmals, dass auch Algorithmen zur Bestimmung der Bewegung von Objekten anfällig für derartige Angriffe sind.

Damit wäre auch geklärt, warum die für 2018 von Elon Musk versprochenen voll-autonomen Tesla-Modelle noch nicht auf den Straßen fahren. Denn die benötigte Infrastruktur gehe weit über Kameras, Radar und schlaue Algorithmen hinaus. In China etwa setzt man auf Vernetzung der Systeme und baut bis 2025 ein flächendeckendes 5G-Netzwerk.

Mehr zu diesen Themen:

Diskutiere mit!

Hier kannst du den Artikel "Stopp: Farbmuster bringt autonome Autos aus der Spur" kommentieren. Melde dich einfach mit deinem maclife.de-Account an oder fülle die unten stehenden Felder aus.

ist so gut dass man ihr das eigene Leben anvertrauen kann. Keine Software ist so gut dass sie nicht Amok laufen kann. Die ständigen Updates sollten es jedem klar machen.

ist so gut dass man ihr das eigene Leben anvertrauen kann. Keine Software ist so gut dass sie nicht Amok laufen kann. Die ständigen Updates sollten es jedem klar machen.

ist so gut dass man ihr das eigene Leben anvertrauen kann. Keine Software ist so gut dass sie nicht Amok laufen kann. Die ständigen Updates sollten es jedem klar machen.

ist so gut dass man ihr das eigene Leben anvertrauen kann. Keine Software ist so gut dass sie nicht Amok laufen kann. Die ständigen Updates sollten es jedem klar machen.

ist so gut dass man ihr das eigene Leben anvertrauen kann. Keine Software ist so gut dass sie nicht Amok laufen kann. Die ständigen Updates sollten es jedem klar machen.

Guten Morgen,
Toll, endlich wieder jemand, der etwas negatives geschafft hat. So kommt die Menschheit weiter.
Anstatt Lösungen anzubieten wird eine Neuerung nur mal wieder schlecht gemacht. Super, wie unsere Forschungsgelder genutzt werden.

Wie soll man Lösungen anbieten, wenn man das Problem nicht kennt? Insofern ist gerade diese Studie nicht nur wichtig, sondern ggf. sogar lebenswichtig. Schönreden ist da nicht hilfreich.

Die Kommentare für diesen Artikel sind geschlossen.