KÜNSTLICHE INTELLIGENZ - DER GAMECHANGER WKO WEBINARREIHE
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
WKO WEBINARREIHE: KÜNSTLICHE INTELLIGENZ DER GAMECHANGER
16. JUNI 2021, 14:00 – 15:00 UHR KI DER GAME CHANGER: ERKLÄRBARE KÜNSTLICHE INTELLIGENZ – WAS IST EXPLAINABLE AI (XAI)? Manuela Geiß - Senior Data Scientist | SCCH Michael Roßbory - Senior Researcher| SCCH Florian Sobieczky - Senior Researcher |SCCH Hans Baldinger – Innovationsservice/WKOÖ
wko.at/ki DIE EXPERTIN/EN Manuela Geiß ist Researcher und Senior Data Scientist im Bereich Data Science am SCCH. Dort beschäftigt sie sich intensiv mit Themen wie Deep Learning und Erklärbare KI in anwendungs- orientierten Forschungsprojekten. Sie studierte Mathematik sowie Mikrobiologie und Genetik an der Universität Wien und absolvierte ein Doktoratsstudium am Bioinformatik Institut der Universität Leipzig. Michael Roßbory ist Senior Researcher im Bereich Data Science am SCCH. Aktuell leitet er das Horizon 2020 Projekt SERUMS. Ziel des Projektes ist die Entwicklung einer Infrastruktur zur sicheren Speicherung, Zugriff, Übertragung und Analyse von medizinischen Daten. Privacy Preserving Machine Learning beschäftigt sich mit Methoden, wie solche Daten analysiert, die Privatsphäre jedoch geschützt werden kann. Florian Sobieczky ist Senior Researcher im Bereich Data Science am SCCH. Er forscht im Bereich Erklärbare Künstliche Intelligenz und Machine Learning in der prädiktiven Instandhaltung, sein allgemeines Forschungsinteresse gilt der Wahrscheinlichkeitstheorie. Nachdem er an der TU-Graz, der Universität Jena und an der CU Boulder als Post-Doktorand gearbeitet hat, war er Lecturer an der University of Denver in Colorado.
wko.at/ki FRAGEN? GEBEN SIE IHRE FRAGEN IM FRAGEN-CHAT EIN: 1. 2. 3.
Erklärbare Künstliche Intelligenz (Einführung) Software Competence Center Hagenberg Dr. Manuela Geiß Dr. Florian Sobieczky DI Michael Rossbory Researcher and Senior Data Scientist Senior Researcher Data Science Senior Research Project Manager +43 50 343 848 +43 50 343 839 +43 50 343 860 Manuela.Geiss@scch.at Florian. Sobieczky@scch.at Michael.Rossbory@scch.at www.scch.at www.scch.at www.scch.at
Software Competence Center Hagenberg Seite 6
Software Competence Center Hagenberg • Non-Profit GmbH für Data Science & Software Science • Gegründet von der Johannes Kepler University Linz in 1999 • ~ 90 MitarbeiterInnen (über 120 mit Partnern) • ~ 8.5 Mio Euro Umsatz • COMET competence center
COMET-Förderprogramm • Langfristige Forschungskooperationen • Aktuelle Förderperiode 2019-2022 (€ 20,4 Mio. Budget) • Kein eigener Förderantrag notwendig • Überwiegend firmenübergreifende Projekte • Teilnahme an bestehenden Projekten möglich, sofern noch Fördermittel vorhanden sind • Geförderte Stundensätze zwischen ~ € 45,-- (Junior) und ~ € 60,-- ((Senior) PostDoc) • Verfahren: COMET-Agreement, Firmenverein, Kooperationsvereinbarung
Master-Arbeiten Forschungs- Dissertationen Kooperationen Projektarbeit Angewandte Publikationen Projekte Technologie- und Internationale Wissenstransfer Unternehmens Wissenschaftliche -partner Partner Internationale Forschungsergebnisse in regionaler Wirtschaft (anwendungsorientierte Partnerprojekte)
Areas SOFTWARE DATA SCIENCE SCIENCE Secure Software Analytics Knowledge Based Vision Systems und Software Analytics and Evolution und Data Analysis Systems Secure Software Analytics Computer Vision Software Test Deep-Learning Software Architektur Prognose Software Qualität Machine Learning Human-Centered Software Engineering Predictive Analytics Software Analysis Datenanalyse Seite 10
Area Data Science Forschungsschwerpunkte "Data Analysis Systems" entwickelt und verbessert Methoden für die automatisierte Analyse von Daten (Sensordaten, ...) zwecks Wissensgewinnung, Verfeinerung v. Modellen & Optimierung "Knowledge Based Vision Systems" entwickelt und verbessert Methoden für die automatisierte Analyse von räumlich-zeitlichen Daten aus Bildern oder Videos
Area Data Science • MitarbeiterInnen • ~40 MitarbeiterInnen am SCCH • + mehrere PhDs und MSc-StudentInnen bei wissenschaftlichen Partnern (z.b. JKU, KTH, TU Prague, U Passau, U Nijmegen, ...) • COMET • Aktuell 6 anwendungsorientierte Projekte mit ~20 Unternehmenspartnern • 1 strategisches Projekt • Aktuell ~20 Förderprojekte außerhalb von COMET (EU, FFG, ...) • Betriebsleistung: ca. 5.25 Mio. EUR https://www.scch.at/de/projekte-das - https://www.scch.at/de/projekte-kvs Seite 12
Project Portfolio Data Analysis Systems COMET 2019-2022 Non-COMET Deepred AutoDetect (OÖ Digitalisierung) international Deep Learning based Predictive Analytics and Optimization IoT4CPS (FFG, Leitprojekt IKT der Zukunft) SERUMS Flex+ (Energie- (EU, H2020) FDI stratDL (strategic) forschungsprogramm) Machine Learning Based Fault Smart Villages inAIco (Interreg Alpine Space) Detection and Identification (FFG, Bridge) COGNIPLANT PSSP (EU, H2020) (FFG, COMET K-Projekt) SmartDD KI-Net Smart Data Discovery InTribology (Interreg Österreich-Bayern) (FFG, COMET K1) CHASE Sebista (FFG, COMET K1) COMET-Modul Secure Big Stream Data PRIMAL S3AI (Security & Safety for Processing (FFG, IKT der Zukunft) Shared Artificial Intelligence) Seite 13
https://www.leewayhertz.com/ai-applications-across-major-industries/ https://www.factoryworx.com.au/blog/top-7-ways-artificial-intelligence-is-revolutionizing-manufacturing/ https://www.theguardian.com/technology/2018/may/24/amazon-alexa-recorded-conversation https://de.wikipedia.org/wiki/Sophia_(Roboter) 14 https://www.dspace.com/de/gmb/home/news/autonomous-driving.cfm https://www.greenbiz.com/article/edible-ai-future-food-tech
Erklärbare KI (“XAI”) • Warum diese Vorhersage und nicht eine andere? • Unter welchen Bedingungen ist eine Vorhersage richtig? Wann falsch? • Unter welchen Bedingungen kann ich dem Modell vertrauen? • Wie korrigiere ich einen Fehler? 15
Verstehen und Vertrauen Ribeiro, M. T., Singh, S., & Guestrin, C. (2016, August). " Why should I trust you?" Explaining the predictions of any classifier. In Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining (pp. 1135-1144). https://www.extremetech.com/extreme/233746-ai-beats-doctors-at-visual-diagnosis-observes-many-times-more-lung-cancer-signals https://robots.net/ai/artificial-intelligence-in-medicine/ 16
Verstehen und Lernen Rory Mc Grath, Luca Costabello, Chan Le Van, Paul Sweeney, FarbodKamiab, Zhao Shen, Freddy Lécué: Interpretable Credit Application Predictions With Counterfactual Explanations. FEAP-AI4finworkshop, NeurIPS, 2018. 17
Verstehen und Schwächen identifizieren Nur ein Fehler! Das Modell scheint gut zu sein Ribeiro, M. T., Singh, S., & Guestrin, C. (2016, August). " Why should I trust you?" Explaining the predictions of any classifier. In Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining (pp. 18 1135-1144).
Verstehen und Schwächen identifizieren Ribeiro, M. T., Singh, S., & Guestrin, C. (2016, August). " Why should I trust you?" Explaining the predictions of any classifier. In Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining (pp. 19 1135-1144).
Das Konzept von XAI XAI designed für Endbenutzer, die: • von Entscheidungen, Empfehlungen oder Handlungen von KI Systemen abhängig sind • die Entscheidungsgrundlage eines KI Systems benötigen, um das System zu verstehen, ihm zu vertrauen und es zu managen XAI ... • liefert eine Erklärung für einzelne Entscheidungen des KI Systems • ermöglicht das Verständnis von Stärken und Schwächen des KI Systems • hilft Schwächen in Daten zu identifizeren • hilft Fehler des KI Systems zu korrigieren • ermöglicht ein Verständnis über das zukünftige Verhalten des KI Systems 20
Business Benefits from XAI https://de.slideshare.net/saurabhkaushikin/explainable-ai-xai-a-perspective 21
Trade-Off: Erklärbarkeit und Performance https://www.darpa.mil/program/explainable-artificial-intelligence 22
XAI Methoden • Interpretierbare Modelle z.B. Entscheidungsbäume • Modell-spezifische Methoden: Nutzen Eigenschaften des Algorithmus/Modells zur Interpretation der Ergebnisse (z.B. Modellparameter, interne Gewichte) • Modell-agnostische Methoden: Modell-unabhängig, post-hoc https://medium.datadriveninvestor.com/decision-trees-lesson-101-f00dad6cba21 https://www.joanneum.at/fileadmin/ROBOTICS/Vortraege/04_NadjaElBekri_ERF19.pdf 23
Modell-Agnostische Methoden: Partial Dependence Plots • Partial Dependence Plots [Friedmann, Ann. Stat. 2001] (hier: Benutzung des Packets 'pdp' unter R) • Anwendung: Bandförderung Ein Förderband transportiert Schüttgut unter Kraftschluss mit einer Fördergeschwindigkeit v auf eine Förderhöhe H: (*) Prinzip: Haftreibkraft > Lastkraft ( > tan ) H • Aufgabe: Bestimmung der notwendigen Leistung Je größer das Verhältnis aus H zur Länge L des Bands, desto größer die Förderleistung. = + 0 Aber: Restleistung beinhaltet Leerlauf, Reibung, Witterung etc. 24
Modell-Agnostische Methoden: Partial Dependence Plots i Höhe Restleistung • Erhebung von Daten: ... ... ... n 0 • 0 ist die Restleistung – beinhaltet Leerlaufleistung, Reibung etc. • Trainieren eines Random Forest Modells für die Förderleistung • Bestimmung vom Grad des Einflusses der Variablen und 0 : -> In diesem Fall ändert sich nur mit Förderleistung! • Stat. Unabhängigkeit zwischen Restleistung und Förderhöhe 25
Modell-Agnostische Methoden: Partial Dependence Plots i Höhe Restleistung • Erhebung von Daten: ... ... ... n 0 • 0 ist die Restleistung – beinhaltet Leerlaufleistung, Reibung etc. • Trainieren eines Random Forest Modells für die Förderleistung • Bestimmung vom Grad des Einflusses der Variablen und 0 : -> Hier auch 0 positiv mit Förderleistung korreliert. • Interpretation: Durch stärkere Neigung ändern sich Reibungskräfte, die durch Restleistung überwunden werden. 26
Modell-Agnostische Methoden: Lokale Surrogate • Bekanntes Surrogat-Modell: Lime (Ribeiro 2016) • Datenbeispiel 2: (Psychometrische Daten) Erfolgswahrscheinlichkeit von Startups • Beobachtung: Eine zu hohe Risikobereitschaft führt manchmal zum Erfolg, aber im Mittel zur Misserfolg • Ein KI-Modell assistiert einem Regressionsmodell bei der Ein lineares Regressionsmodell (blau) wird durch verbesserten Voraussage von Startups-Erfolgen aufgrund ein KI-Modell verbessert (orange), nachdem es 'gelernt' hat, wie die Lösung (rot) ohne den störenden Einfluss der Daten in [2, 3] aussieht. von psychometrischen Profilen der Mitarbeiter. 27
Danke für Ihr Interesse • Manuela.Geiß@scch.at • Michael.Rossbory@scch.at • Florian.Sobieczky@scch.at Wir freuen uns auf eine intensive Diskussion! 28
wko.at/ki WEBINARREIHE „ ERKLÄRBARE KÜNSTLICHE INTELLIGENZ “ IM FOKUS DER WKO WEBINAR-REIHE 2021 wieder jeden 3. Mittwoch im Monat ! IHRE NÄCHSTEN WEBINARTERMINE: 21.Juli | 14:00 Uhr: Prädiktive Wartung und Erklärbare KI im Einsatz 15. September | 20. Oktober | 17. November: jeweils 14:00 Uhr: Themen werden noch bekannt gegeben
wko.at/ki KONTAKT | INFO FRAGEN? – WIR FREUEN UNS ÜBER IHRE KONTAKTAUFNAHME: Hans Baldinger T +43 5-90909–3542 M +43 664 82 61 722 E hans.baldinger@wkooe.at W wko.at/ki WIR BEDANKEN UNS FÜR IHR INTERESSE!
Sie können auch lesen
