Forscher der an der University of Southern California angesiedelten Viterbi-Ingenieursschule haben mit Kollegen der Arizona State University eine Möglichkeit für verborgene Fehler in der Software autonom fahrender Autos gefunden. Das Problem vieler Programme ist bislang die sichere Identifizierung dessen, was die Kameras aufnehmen. Sie müssen zwischen Fussgängern, Kinderwagen, Radlern, Autos und allen anderen Verkehrsteilnehmern unterscheiden können, um richtig zu reagieren.
Die in autonom fahrenden Autos eingesetzte Software lernt selbstständig. Sie macht Erfahrungen, die sie im nächsten, ähnlichen oder gleichen Fall nutzt. Derartige Programme lassen sich schlecht testen, weil niemand ganz genau weiss, aufgrund welcher Umstände sie Entscheidungen treffen. Das kann verheerende Folgen haben, wenn das Fahrzeug auf die Strasse kommt.
"Erkennungs-Software zuverlässig zu machen, ist die grösste Herausforderung", sagt Viterbi-Doktorand Anand Balakrishnan. "Mit unserer Testmethode können Software-Entwickler Fehler schnell erkennen und dieses Wissen nutzen, um sie weiter zu trainieren. Es müsse vor der Zulassung eines fahrerlosen Autos auch für die eingesetzte Software eine Art Crashtest geben, so Balakrishnan.
Erkennungs-Software wird in den meisten Fällen mit gewaltigen Datenmengen gefüttert. Daran lernen die Algorithmen, die unterschiedlichen Verkehrsteilnehmer zu identifizieren. Das klappt nicht immer. Vor einem Jahr klassifizierte eine Software einen Fussgänger als nicht existent und entschied sich gegen einen Stopp. Der Fussgänger wich noch rechtzeitig aus.
Die US-Forscher haben ihre Prüf-Software an zwei maschinell lernenden Programmen getestet. Dabei stellten sie fest, dass das System einen Radfahrer von hinten nicht als solchen erkannte, weil er einem Fußgänger glich. Umgekehrt "sieht" das System oft Phantome, also Objekte, die es gar nicht gibt. Das verhindert eine zügige Fahrt oder beendet sie gar.
