Ich seh' ich seh' was du nicht siehst: Wie eine Künstliche Intelligenz Verkehrszeichen sieht - RISC ...

Ich seh’ ich seh’ was du nicht siehst: Wie eine
Künstliche Intelligenz Verkehrszeichen sieht

Projekt „SafeSign“ für den Straßenverkehr: vertrauenswürdige
Verkehrszeichenerkennung der Zukunft

Fahrassistenzsysteme im Straßenverkehr sind bereits jetzt ein fixer Bestandteil der Grundausstattung
von modernen Autos. In Zukunft spielen diese intelligenten Systeme eine noch größere Rolle. Für dabei
verwendete Methoden der Künstlichen Intelligenz (KI) stellt das Lesen von Verkehrszeichen jedoch eine
Herausforderung dar. In einem gemeinsamen Projekt erforschten die ASFINAG, die Johannes Kepler
Universität Linz und die RISC Software GmbH diese Systeme – und wollen dadurch das Vertrauen in
diese neuen Technologien erhöhen.

Wenn beim Tunnelportal die LED-Anzeige „STOP“ zeigt, dann wissen wir – es könnte gefährlich werden
und wir halten an – auch wenn einzelne LEDs defekt sind. Oder wenn durch starken Schneefall die
Geschwindigkeitsbeschränkung für mich als Mensch schwer zu erkennen ist – kann die KI das dann
trotzdem noch? Der Mensch ist meist in der Lage beschädigte oder verschmutzte und dadurch schlecht
erkennbare Verkehrszeichen zu erkennen und richtig zu reagieren. Künstliche Systeme müssen dies
erst erlernen und beweisen, damit wir ihnen vertrauen können.

All das wird in Zukunft immens wichtig, wenn autonome Fahrzeugsysteme im Mischbetrieb mit
herkömmlichen, sprich von Menschen gesteuerten Autos zusammen unterwegs sind. Auch KI-Ethik
Prinzipien werden parallel wissenschaftlich und empirisch hinterfragt und die Ergebnisse bei der
Entwicklung mit einbezogen, um so das Vertrauen der Anwender*innen in das System zu erhöhen.

Ein österreichischer Verkehrszeichen-Datensatz

Die Projektergebnisse und insbesondere eine Datenbank mit Störungsbildern wird öffentlich verfügbar
gemacht, um für österreichische Unternehmen im Bereich Mobilität, Straßeninfrastruktur und
autonomes Fahren eine Basis für weitere Entwicklungen zu legen. Insbesondere kann dadurch die
Entwicklung zukünftiger Verkehrszeichen angeregt werden, die für Mensch und Maschine
gleichermaßen lesbar sind.

Für Mobilitätspartner wie die ASFINAG sind dies wesentliche Schritte in die Zukunft, die bereits erforscht
werden müssen. Nur dadurch ist gewährleistet, dass beim Thema autonomes Fahren oder Künstliche
Intelligenzen im täglichen Verkehr rechtzeitig Entwicklungen eingeleitet werden können. Ziele dabei sind
weiterhin möglichst hohe Sicherheit bei maximaler Reduktion von Fehlern oder falschen
Einschätzungen von Situationen.

Erkennung von Verkehrszeichen mit Deep Learning

Das Forschungsunternehmen RISC Software stellt autonome Systeme auf den Prüfstand und
untersucht, inwieweit Störungen bei Verkehrssignalen zu Fehlinterpretationen bzw. -verhalten führen.
Mit den Erkenntnissen aus der Analyse sollen auf Künstlicher Intelligenz basierende Systeme noch
sicherer und robuster gemacht werden. Dabei werden die Systeme anhand von realen
Verkehrssignalen und Straßenzeichen evaluiert und auch Störungen simuliert. Daher werden in diesem
Projekt neue Methoden zur besseren Interpretierbarkeit durch KI-Modelle entwickelt. Mithilfe von Deep
Learning-Methoden wird auf Basis von realen Verkehrszeichenbildern mit und ohne Störungen sowie
synthetisch erzeugten Störungsbildern das Erkennungssystem evaluiert werden.

Das Erkennen der korrekten Verkehrszeichen erfolgt dabei in zwei Schritten: zuerst muss überhaupt
erkannt werden, wo am Bild ein Verkehrszeichen ist (Detektion) und erst im zweiten Schritt erfolgt das
Erkennen (Klassifikation). Dabei werden moderne Deep Learning-Methoden eingesetzt. Zusätzlich
muss eine vertrauenswürdige KI auch robust gegenüber kleinen Veränderungen der Verkehrszeichen
sein, insbesondere, wenn diese für den Menschen kaum wahrnehmbar sind. Um die Schwächen von
aktuellen Erkennungsmethoden sichtbar zu machen hat sich die RISC Software mit Adversarial Attacks
– gezielte Veränderung von Bildern mit dem Ziel die KI zu täuschen – beschäftigt.

Abbildung 1: Pipeline zur Verkehrszeichenerkennung mit den Schritten Detektion und Klassifikation.

Mit dem Exponat „Crash me if you can” für das diesjährige ARS Electronica Festival können
Besucher*innen spielerisch erleben, wo die Grenzen der maschinellen Verkehrszeichenerkennung
liegen.

Abbildung 2: Exponat "Crash me if you can" am Ars Electronica Festival 2021

Vertrauenswürdige KI

Um VZ-Erkennungssysteme verstärkt einsetzen zu können, bedarf es der Akzeptanz der Gesellschaft.
Eine solche ist erreichbar, wenn die KI vertrauenswürdig entwickelt wird. Technisch ausgereifte
Methoden begründen die Vertrauenswürdigkeit; reichen allein aber nicht aus. Die Einbeziehung des
Rechts und der Ethik in der Entwicklung tragen wesentlich zur Vertrauensbildung bei. In der Praxis ist
das schwieriger, als man meinen sollte. Soll die KI – aus Sicht der Verkehrsteilnehmer – insgesamt
möglichst viele Unfälle vermeiden? Oder lieber besonders schwere Unfälle an gefährlichen Abschnitten
(etwa Tunneleinfahrten oder Auf- und Ausfahrten) verhindern? Soll die KI das Auto aufgrund der
Erkennung der Verkehrszeichen alleine steuern, oder soll der Mensch doch jederzeit übernehmen
können? Durch eine umfangreiche Befragung finden Jurist*innen der Johannes Kepler Universität Linz
heraus, welche Aspekte der Bevölkerung sowie den Stakeholdern wichtig sind, damit sie einer KI
vertrauen können. Das Ergebnis unter Einbeziehung der wesentlichen KI-Prinzipien (Autonomie,
Schadensminderung, Fairness, Transparenz) fließen in die Entwicklung der KI ein.

Projektpartner

Ziel des Forschungsprojektes "SafeSign" war, maximale Sicherheit autonomer Systeme zu
gewährleisten und Vertrauen in die Künstliche Intelligenz zu erhöhen. Die RISC Software evaluierte
dazu die technischen Methoden. Der Projektpartner Johannes Kepler Universität stellte sicher, dass die
Forschung und Entwicklung auf Grundlage von ethischen Prinzipien erfolgt und das System letztendlich
ethische Kriterien umsetzt. Der Partner ASFINAG bringt konkrete Anforderungen von österreichischen
Straßenerhaltern ein. Die gewonnenen Daten wurden österreichischen Unternehmen im Bereich
Mobilität, Straßeninfrastruktur und autonomem Fahren zur Verfügung gestellt. Damit soll eine starke

Basis für weitere Entwicklungen gelegt werden – wie unter anderem Verkehrszeichen, die für Mensch
und Maschine gleichermaßen lesbar sind.

Abbildung 3: Projektteam „SafeSign“ beim Abschlussmeeting, v.l.n.r.: Nikolaus Hofer (RISC), Nikolaus Kasper
(ASFINAG), Christoph Wruß (ASFINAG) , Karin Bruckmüller (JKU), Anton Bachleitner-Hofmann (ASFINAG), Stefan
Thumfart (RISC), Alexander Maletzky (RISC), Karl-Heinz Kastner (RISC),Aris Demelius (ASFINAG), ); nicht am
Bild Stefan Schumann (JKU)

Das Projekt

Die Arbeiten wurden im Projekt SafeSign (FFG IdeenLab 4.0, 879320) sowie aus Mitteln des
Strategischen Wirtschafts- und Forschungsprogrammes „Innovatives OÖ 2020“ vom Land OÖ
gefördert. Die RISC Software GmbH ist Teil des Netzwerkes der UAR (Upper Austrian Research).

Eckdaten

    •    Laufzeit: 01.03.2020 – 31.08.2021
    •    Förderschiene: Ideen Lab4.0 – Ausschreibung 2019
    •    Projektpartner:    Autobahnen-        und     Schnellstraßen-Finanzierungs-Aktiengesellschaft
         (ASFINAG), Johannes Kepler Universität Linz (JKU), RISC Software GmbH
    •    Fördervolumen: Gesamtkosten 141.341.- | Förderung 113.072.- (= 80%)

Bilder

    •    Abbildung 1: Pipeline zur Verkehrszeichenerkennung mit den Schritten Detektion und
         Klassifikation, © RISC Software GmbH

•   Abbildung 2: Exponat "Crash me if you can" am Ars Electronica Festival 2021, © RISC Software
        GmbH
    •   Abbildung 3: Projektteam „SafeSign“ beim Abschlussmeeting, v.l.n.r.: Nikolaus Hofer (RISC),
        Nikolaus Kasper (ASFINAG), Christoph Wruß (ASFINAG), Karin Bruckmüller (JKU), Anton
        Bachleitner-Hofmann (ASFINAG), Stefan Thumfart (RISC), Alexander Maletzky (RISC), Karl-
        Heinz Kastner (RIS C),Aris Demelius (ASFINAG), ); nicht am Bild Stefan Schumann (JKU)©
        RISC Software GmbH

Kontakt
    •   Autobahnen- und Schnellstraßen-Finanzierungs-Aktiengesellschaft (ASFINAG)
        Mag. Christoph Pollinger, M.A., Marketing und Kommunikation, Pressesprecher
        Oberösterreich und Salzburg
        Tel +43 50108 16841, E-Mail: christoph.pollinger@asfinag.at, Web: www.asfinag.at

    •   Johannes Kepler Universität Linz, Altenberger Straße 69, 4040 Linz, Austria
        Mag. Christian Savoy, PR-Mitarbeiter
        Tel: +43 732 2468 3012, E-Mail: christian.savoy@jku.at, Web: www.jku.at

    •   RISC Software GmbH, Softwarepark 32a, 4232 Hagenberg, Austria
        Mag. Cornelia Staub, Marketing and Communications Manager,
        Tel: +43 7236 93028-103, E-Mail: cornelia.staub@risc-software.at Web: https://www.risc-
        software.at

Firmeninfo RISC Software GmbH

Seit der Gründung im Jahr 1992 durch Prof. Bruno Buchberger forscht und entwickelt die RISC Software
GmbH für die Wirtschaft. Dabei werden in einzigartiger Weise die Kernkompetenzen Symbolisches
Rechnen, Mathematik und Informatik im Rahmen der Geschäftsbereiche Logistik-Informatik, Industrielle
Softwareanwendungen, Medizin-Informatik und Domänenspezifische Applikationen zur Entwicklung
praxisgerechter Softwarelösungen eingesetzt. Das Unternehmen steht zu 80% im Eigentum der
Johannes Kepler Universität Linz sowie zu 20% im Eigentum der Upper Austrian Research GmbH – der
Leitgesellschaft für Forschung des Landes Oberösterreich. Mehr Informationen unter www.risc-
software.at.