KÜNSTLICHE INTELLIGENZ - DER GAMECHANGER WKO WEBINARREIHE
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
WKO WEBINARREIHE: KÜNSTLICHE INTELLIGENZ DER GAMECHANGER
21. JULI 2021, 14:00 – 15:00 UHR KI DER GAME CHANGER: ERKLÄRBARE KÜNSTLICHE INTELLIGENZ & PRÄDIKTIVE INSTANDHALTUNG Michael Roßbory - Senior Researcher| SCCH Florian Sobieczky - Senior Researcher |SCCH Hans Baldinger – Innovationsservice/WKOÖ
wko.at/ki DIE EXPERTEN Michael Roßbory ist Senior Researcher im Bereich Data Science am SCCH. Aktuell leitet er das Horizon 2020 Projekt SERUMS. Ziel des Projektes ist die Entwicklung einer Infrastruktur zur sicheren Speicherung, Zugriff, Übertragung und Analyse von medizinischen Daten. Privacy Preserving Machine Learning beschäftigt sich mit Methoden, wie solche Daten analysiert, die Privatsphäre jedoch geschützt werden kann. Florian Sobieczky ist Senior Researcher im Bereich Data Science am SCCH. Er forscht im Bereich Erklärbare Künstliche Intelligenz und Machine Learning in der prädiktiven Instandhaltung, sein allgemeines Forschungsinteresse gilt der Wahrscheinlichkeitstheorie. Nachdem er an der TU-Graz, der Universität Jena und an der CU Boulder als Post-Doktorand gearbeitet hat, war er Lecturer an der University of Denver in Colorado.
wko.at/ki FRAGEN? GEBEN SIE IHRE FRAGEN IM FRAGEN-CHAT EIN: 1. 2. 3.
Erklärbare KI und Prädiktive Instandhaltung Software Competence Center Hagenberg Dr. Florian Sobieczky DI Michael Rossbory Senior Researcher Data Science Senior Research Project Manager +43 50 343 839 +43 50 343 860 Florian. Sobieczky@scch.at Michael.Rossbory@scch.at www.scch.at www.scch.at
Überblick • Software Competence Center Hagenberg • Wer wer sind... • Was wir machen... • Erklärbare KI und Prädiktive Instandhaltung • Was ist erklärbare KI? • Was ist Prädiktive Instandhaltung? • Warum muss Prädiktive Instandhaltung erklärbar sein? • Methoden und Beispiele 6
Software Competence Center Hagenberg Seite 7
Software Competence Center Hagenberg • Non-Profit GmbH für Data Science & Software Science • Gegründet von der Johannes Kepler University Linz in 1999 • ~ 90 MitarbeiterInnen (über 120 mit Partnern) • ~ 8.5 Mio Euro Umsatz • COMET competence center
COMET-Förderprogramm • Langfristige Forschungskooperationen • Aktuelle Förderperiode 2019-2022 (€ 20,4 Mio. Budget) • Kein eigener Förderantrag notwendig • Überwiegend firmenübergreifende Projekte • Teilnahme an bestehenden Projekten möglich, sofern noch Fördermittel vorhanden sind • Geförderte Stundensätze zwischen ~ € 45,-- (Junior) und ~ € 60,-- ((Senior) PostDoc) • Verfahren: COMET-Agreement, Firmenverein, Kooperationsvereinbarung 9
Master-Arbeiten Forschungs- Dissertationen Kooperationen Projektarbeit Angewandte Publikationen Projekte Technologie- und Internationale Wissenstransfer Unternehmens Wissenschaftliche -partner Partner Internationale Forschungsergebnisse in regionaler Wirtschaft (anwendungsorientierte Partnerprojekte) 10
Areas SOFTWARE DATA SCIENCE SCIENCE Secure Software Analytics Knowledge Based Vision Systems und Software Analytics and Evolution und Data Analysis Systems Secure Software Analytics Computer Vision Software Test Deep-Learning Software Architektur Prognose Software Qualität Machine Learning Human-Centered Software Engineering Predictive Analytics Software Analysis Datenanalyse Seite 11
Area Data Science • MitarbeiterInnen • ~40 MitarbeiterInnen am SCCH • + mehrere PhDs und MSc-StudentInnen bei wissenschaftlichen Partnern (z.b. JKU, KTH, TU Prague, U Passau, U Nijmegen, ...) • COMET • Aktuell 6 anwendungsorientierte Projekte mit ~20 Unternehmenspartnern • 1 strategisches Projekt • Aktuell ~20 Förderprojekte außerhalb von COMET (EU, FFG, ...) • Betriebsleistung: ca. 5.25 Mio. EUR https://www.scch.at/de/projekte-das - https://www.scch.at/de/projekte-kvs Seite 12
Project Portfolio Data Analysis Systems COMET 2019-2022 Non-COMET Deepred AutoDetect (OÖ Digitalisierung) international Deep Learning based Predictive Analytics and Optimization IoT4CPS (FFG, Leitprojekt IKT der Zukunft) SERUMS Flex+ (Energie- (EU, H2020) FDI stratDL (strategic) forschungsprogramm) Machine Learning Based Fault Smart Villages inAIco (Interreg Alpine Space) Detection and Identification (FFG, Bridge) COGNIPLANT PSSP (EU, H2020) (FFG, COMET K-Projekt) SmartDD KI-Net Smart Data Discovery InTribology (Interreg Österreich-Bayern) (FFG, COMET K1) CHASE Sebista (FFG, COMET K1) COMET-Modul Secure Big Stream Data PRIMAL S3AI (Security & Safety for Processing (FFG, IKT der Zukunft) Shared Artificial Intelligence) Seite 13
Erklärbare KI (“XAI”) Recap • Warum diese Vorhersage und nicht eine andere? • Unter welchen Bedingungen ist eine Vorhersage richtig? Wann falsch? • Unter welchen Bedingungen kann ich dem Modell vertrauen? • Wie korrigiere ich einen Fehler? 14
Das Konzept von XAI XAI designed für Endbenutzer, die: • von Entscheidungen, Empfehlungen oder Handlungen von KI Systemen abhängig sind • die Entscheidungsgrundlage eines KI Systems benötigen, um das System zu verstehen, ihm zu vertrauen und es zu managen XAI ... • liefert eine Erklärung für einzelne Entscheidungen des KI Systems • ermöglicht das Verständnis von Stärken und Schwächen des KI Systems • hilft Schwächen in Daten zu identifizeren • hilft Fehler des KI Systems zu korrigieren • ermöglicht ein Verständnis über das zukünftige Verhalten des KI Systems 15
Prädiktive Instandhaltung • Zustandsbasierte Instandhaltung • Im Gegensatz zu präventiver oder reaktiver Instandhaltung werden bei • vorausschauender Instandhaltung die Instandhaltungsmaßnahmen • auf Basis der Analyse von Daten aus kontinuierlicher Zustandsüberwachung durchgeführt 16
Schritte zu prädiktiver und präskriptiver Wartung Produktion IN OUT Sensors Parameters • Condition Monitoring Logs • Visualisierung Änderung Vorhersage • Anomalieerkennung • Fehlerdetektion und Diagnose Detektion Diagnose • Vorhersage von Ergebnissen • Vorschreibung von Änderungen 17
Fehleranalyse Produktionslinie • Identifikation von kritischen Installationen • Diagnose / Analyse von bekannten Fehlern • Optimierung der Beschaffung • Früherkennung von Problemen und Abweichungen 18
Fehleranalyse Produktionslinie Sauggreifer Produktionslinien Trends 19
NASA Turbofan RUL Vorhersage • Vorhersage der verbleibenden Lebensdauer von Mantelstromtriebwerken [6] • Steigende Komplexität • Viele Sensordaten • Black-Box-Model zur Vorhersage der verbleibenden Lebensdauer S e n • Instandhaltung zeit- und kostenintensiv s o • Sicherheitskritisch r RUL • Akzeptanz d a • Optimierung t e n 20
Wer setzt Predictive Maintenance um? 21
Wie kann Erklärbarkeit helfen? Wie ändert sich das Identifikation der Ergebnis der Vorhersage, Einflussfaktoren wenn einzelne Faktoren erhöht das Vertrauen verändert werden? und die Akzeptanz Optimierung/Präskription In welcher Weise beeinflussen diese Faktoren das Ergebnis der Vorhersage? 22
PRÄDIKTIVE INSTANDHALTUNG UND ERKLÄRBARE KI Prädiktive Instandhaltung 1. Erkennung ( z.B. von Anomalien [S3]), 2. Diagnose ( z.B. von Anomalieparametern [S4]), 3. Prognose ( z.B. von der MTTF [1, 4]) von Sensor- und Log-Daten sind Grundbestandteile. Daten sind typischerweise Zeitreihendaten: -> zeitliche Anordnung der Daten ist ein wesentliches Merkmal bei Methoden für Zeitreihendaten. Beispiel: Ausfallsmeldungen von Heizungsanlagen, die in einer bestimmten (saisonalen) Abfolge beobachtet werden: -> Im Winter entstehen höhere Meldungsdichten . Saisonaler Trend bei der über ein Jahr beobachteten Ausfallsmeldungen und Warnsystem von Anomalien. 23
PRÄDIKTIVE INSTANDHALTUNG UND ERKLÄRBARE KI Einige Begriffe aus der Erklärbaren KI (XAI): • Post-Hoc: Das Ergebnis der KI liegt bereits vor und soll im Nachhinein interpretiert werden. • Intrinsic: Im KI Modell verankerte Erklärbarkeit schaffende Methode • Model-Agnostic: Auf jede prädiktive KI Methode anwendbar. • Specific: Nur auf bestimmte KI Methoden anwendbar • Local: Erklärung nur für einzelne Dateninstanz (oder Umgebung davon) anwendbar. • Global: Erklärung gilt (in irgendeiner Weise) für den ganzen Datensatz 24
PRÄDIKTIVE INSTANDHALTUNG UND ERKLÄRBARE KI Einige XAI-Methoden ohne Zeitordnungsaspekt von Daten: • Surrogate: Für die Wirkung eines KI Modells gibt es ein interpretierbares Ersatzmodell; • Visualisierung von Randverteilungseffekten (PDP, ALE, ICE, M, ....): Die verschiedenen Features werden auf ihren Effekt auf das prädiktive Ergebnis untersucht; • SHAPLEY-Werte: Erwartete Differenz zwischen Wirkung auf Modellaussage Beachtung und nicht- Beachtung des jeweiligen Merkmals. • Anchors: Ein 'anchor' ist eine Frage, deren Beantwortung garantiert, dass bei 'kleinen Änderungen' der Features der Wert der KI-Prognose stabil bleibt. 25
PRÄDIKTIVE INSTANDHALTUNG UND ERKLÄRBARE KI • Literatur von XAI für Zeitreihendaten [3]: Typ der Methode Methode Anwendung Charakteristika Back-Propagation Class Activation Mapping Convolutional NNets (CNNs) Post-Hoc (CAM) & Clustered Pattern Aktivierungsintensität der Nodes Specific (CNN) High Activation Period Local (CPHAP) Gradienten Basiert Gradient*Input Gradienten der Aktivierungsintensität einzelner Post-Hoc (gradCAM) Nodes in einer Schicht Specific (CNN), Local Wirkung von Störungen Occlusion Sensitivity Kleine Änderungen von einzelnen Features Post-Hoc Method (OSM, werden bez. ihrer Wirkung auf Prognose unters. Model-Agnostic, Local ConvTimeNet) Erklärung durch Repräsentative Teilfolgen Sichtbare & nachvollziehbare geometrische Specific (nur Zeitreihen) Beispiele (Shapelets) Charakteristika von Zeitreihen Global Data Mining Symbolic Aggregate Tex-Mini Specific Approxim. Global (SAX) & Fuzzy Logic Attention Mechanisms Combine with f.f. CNN Recurrent Neural Networks (RNN) Model-Agnostic,Post- (Feed-Forward Local and Globael Variable&Temporal Attention Hoc, Layerweigths) Local & Global 26
PRÄDIKTIVE INSTANDHALTUNG UND ERKLÄRBARE KI Anwendung einer Occlusion Sensitivity Methode [5]: • Filter (a) repräsentieren Merkmale der Zeitreihe • Einfluss der Merkmale an bestimmten Stellen (b) wird durch Sensitivität (c) auf deren Fortlassen im Training des Modells bestimmt. 27
Einige Beispiele 28
Prognose von Anomalien CUSUM-Regel: Die kumulative Summe der Differenzen aus dem aktuellen Signalwert und einem geeigneten Mittel : = ( − ) =1 • steigt an, wenn die Werte der Zeitreihe systematisch über dem Mittel liegen; • Schwellenwerte lassen sich für gewünschte Sensitivität berechnen • Average Run Lengt (ARL, [1]): i. zwischen falschen Alarmen, ii. vor Erkennung nach (wirklichem) Auftreten der Anomalie. Unterstützung dieser Regel durch KI [S1]: Abbildung 2 Die V-Maske nach Barnard [1]: Das nach links offene V wird in einem bestimmten Abstand zum letzten Datenpunkt der Zeitreihe • Anstelle von Mittel wird Prognose eines angelegt und überprüft, ob die Folge von vorhergehenden Werten die LSTM-Netzes verwendet sogenannten Schenkel der Maske durchstößt. Das entspricht einem -> Anomalie nur, wenn das NNetz Fund. Diese 'Stopping-Rule' entspricht einem bestimmten Schwellenwert die Werte nicht richtig vorraussagt. für . 29
Anwendung von CUSUM auf eine verrauschte Stufenanomalie • Signal-Rauschverhältnis etwa 1:1 Beispiel 1: • Vergleich mit gesamter Vergangenheit Mean-Shift -> Erkennung der Anomalie -> Hohe Typ I Fehlerrate 30
Anwendung von CUSUM auf eine verrauschte Stufenanomalie Beispiel 1: • Signal-Rauschverhältnis etwa 1:1 • Vergleich mit Werten in 'Sliding Window' (Running Mean) Mean-Shift -> Späte Erkennung der Anomalie -> Geringe Typ I Fehlerrate 31
Beispiel 2: Körperschallsensoren messen akustische Festkörperschwingungen • Einsatzbereich 50kHz-1MHz • Direkt in Beziehung mit Elastizitätseigenschaften • Einsetzbar im Condition Monitoring (Verschleiß von Lagern) Körperschallsensorik • in der Metallverarbeitung (Schleiftechnik) und im Bauwesen Hohe Robustheit der Sensoren trotz hoher Messempfindlichkeit • Körperschallmikrophone (Beschleunigungsmessung/Piezo-Effekt) Datenbeispiel: Verrauschte Schwingungsdaten (ca. 40kHz) mit Sprung-Anomalie bei 100 sec. Anwendung: Mit einer Zeitwaage lassen sich Fehler in Uhrwerken feststellen (Abb. aus Wikipedia 'Zeitwaage') 32
Beispiel 2: Anwendung von CUSUM auf verrauschte Vibrationsdaten: • Vergleich einfache CUSUM Regel mit KI-assistiertem CUSUM • Anstelle von Running Mean wird LSTM-Prognose verwendet -> Die KI-assistierte CUSUM Regel hat gegenüber der einfachen Körperschallsensorik CUSUM Regel eine deutlich geringere False Positive Rate. Einfache CUSUM-Regel LSTM-assistierte CUSUM-Regel Es ist an der KI zu erklären: Welche Merkmale der KI sind für die genauere Anomaliedetektion verantwortlich? Welche Features sind für die genaue und zuverlässige Erkennung von Anomalien wesentlich? 33
Anwendung eines OSM auf 'Exkursion' in verrauschten FM-Daten: Beispiel 2: • Es wird untersucht, ob Vibrationen zehn mal höherer Frequenz als die der Grundschwingung ein wichtiges Merkmal darstellt. • Die Untersuchung ergibt, ob die Oklusion dieses Merkmals einen Unterschied in der Prognose des LSTM-Modells ergibt. Körperschallsensorik • • Vergleich der Performance des Detektors mit/ohne 400kHz Feature Vergleich der Performance mit/ohne Anomalie Wirkung der Okklusion der "Vibration mit 400kHz" Einbeziehung des Merkmals; keine Anomalie Erklärung: Man sieht, dass das Merkmal höher frequenter Vibrationen zu geringerer False Positive Rate führt. Man erkennt auch, dass dieses Merkmal nicht für die Erkennung der Anomalie wesentlich ist. 34
Beispiel 3: Anwendung von BAPC [S1] auf konst. geregelte Bohrgeschwindigkeit Regelung von 1. Verwendung eines (linearen, parall.) PID-Reglermodells Industriebohrmaschinen für konstante Rotationsgeschwindigkeit 2. Verwendung eines Random Forest für Korrektur zu gemessenen echten geregelten Geschwindigkeitsdaten 3. Erklärung der Wirkung der KI-Korrektur durch Angabe des notwendigen Parameteränderungsvektors für die Einstellung des korrigierten Wertes mit linearem PID- Regler. Neuanpassung passiert auf Daten, die durch Abzug der Korrektur von originalen Daten gewonnen wurden. (-> Before and After correction Parameter Comparison) BAPC [S1] Das ideale PID-Reglermodell ist ein lineares Modell, mit dem der reale Regler anhand von 3 interpretierbaren Konstanten ( , , ) abgebildet werden soll: Links: Führungsgröße 10KHz - = 5 = 10msec = 0.012msec Rechts: Korrektur (rot) einzelner Bohrung (gelb) mit Random Forest 35
Beispiel 3: Anwendung von BAPC [S1] auf konst. geregelte Bohrgeschwindigkeit Regelung von 1. Verwendung eines (linearen, parall.) PID-Reglermodells Industriebohrmaschinen für konstante Rotationsgeschwindigkeit 2. Verwendung eines Random Forest für Korrektur zu gemessenen echten geregelten Geschwindigkeitsdaten 3. Erklärung der Wirkung der KI-Korrektur durch Angabe des notwendigen Parameteränderungsvektors für die Einstellung des korrigierten Wertes mit linearem PID- Regler: • +0.1 für , • -3.0 für • -0.0005 für Das bedeutet, dass der ideale Regler eine kleinere Nachstellzeit = für diese spezielle Bohrung braucht, um den realen Regler abzubilden. Links: Nach Neuanpassung - = 5.1 = 7mses = 0.015msec Neuanpassung passiert anhand korrigierter Daten (siehe BAPC [S1]) 36
PREDICTIVE MAINTENANCE AND XAI AT SCCH Ausgewählte Publikationen: Anomalie und Change Point Erkennung: [1] Woodall, W. The Distribution of the Run Length of One-Sided CUSUM Procedures for Continuous Random Variables. Technometrics, 25(3), 295-301. doi:10.2307/1268615 (1983) [2] W. H. Woodall and B. M. Adams, “THE STATISTICAL DESIGN OF CUSUM CHARTS,” Qual. Eng., vol. 5, no. 4, pp. 559– 570, (1993), doi: 10.1080/08982119308918998. Erklärbarkeit von Machine Learning: [3] Rojat, T., Puget, R., Filliat, D., Ser, J., Gelin, R., & Diaz-Rodriguez. Explainable Artificial Intelligence (XAI) on TimeSeries Data: A Survey. ArXiv, abs/2104.00950, (2021) [4] A. Birolini. Reliability Engineering - Theory and Practice. Seventh Edition, (2014) [5] K. Kashiparekh, J. Narwariya, P. Malhotra, L. Vig, and G. Shroff,“Convtimenet: A pre-trained deep convolutional neural network fortime series classification,” in2019 International Joint Conference onNeural Networks (IJCNN), 2019, pp. 1–8 [6] Saxena, A., Goebel, K., Simon, D., & Eklund, N. (2008). Damage propagation modeling for aircraft engine run-to-failure simulation. 2008 International Conference on Prognostics and Health Management. doi:10.1109/phm.2008.4711414
PREDICTIVE MAINTENANCE UND XAI AT SCCH ESCCH Beiträge zu PM und XAI: [S1] F. Sobieczky, S. Mahmoud, S. Neugebauer, L. Rippitsch, M. Geiß. Explainable AI by BAPC -- Before and After correction Parameter Comparison, arXiv:2103.07155, 2021 [S2] F. Sobieczky, M. Shahriari Shourabi, B. Freudenthaler. A data transformation for the estimation of decay types of multivariate distributions. Procedia Manufacturing, volume 42, pages 524-527, March, 2020. [S3] A. Glock, F. Sobieczky, M. Jech. Detection of anomalous events in the wear-behaviour of continuously recorded sliding friction pairs. Symposium 2019 Tribologie in Industrie und Forschung, pages 30-40, ÖTG, November, 2019. [S4] S. Mahmoud, F. Sobieczky, J. Martinez-Gil, B. Freudenthaler. Decay Parameter Diagnosis in Industrial Domains by Robustness through Isotonic Regression, Procedia Computer Science, (in press; to be published in March 2021) [S5] A.-C. Glock. Explaining a Random Forest with the Difference of two ARIMA models, Procedia Computer Science, Volume 180, 2021, Pages 476-481, ISSN 1877-0509, https://doi.org/10.1016/j.procs.2021.01.360 [S6] S. Mahmoud, J. Martinez-Gil, P. Praher, and A. Girkinger, “Deep Learning Rule for Efficient Changepoint Detection in the Presence of non-linear Trends,” (accepted at: PROTIME2021 – Time-Series-Methods Workshop at DEXA2021)
Danke für Ihr Interesse • Michael.Rossbory@scch.at • Florian.Sobieczky@scch.at Wir freuen uns auf eine intensive Diskussion! 39
wko.at/ki KI WORKSHOP - XAI PREDICTIVE MAINTENANCE - ERKLÄRBARE KI IM EINSATZ 17. September 2021 | 09:00 bis 13:00 WKO Oberösterreich | Hessenplatz 3 | Linz https://www.wk-events.at/ooe/Impulstage2021/freitag • Was ist prädiktive Wartung und wo kommt KI ins Spiel? • Warum wird hier erklärbare KI gebraucht? • Welche Rolle spielt die Erklärbarkeit bei der Diagnose von Anomalien? • Was ist Präskriptive Wartung und wie kann sie durch erklärbare KI unterstützt werden? Im Workshop werden die individuellen Anwendungsmöglichkeiten von XAI im Bereich Predictive Maintenance der Teilnehmer thematisiert und Lösungsansätze gemeinsam mit Michael Roßbory und Florian Sobieczky erarbeitet. Teilnahmebedingungen: Max. 8 Teilnehmer, der Workshop ist ausschließlich für TeilnehmerInnen der KI-Webinare zum Thema "Erklärbare Künstliche Intelligenz - XAI" (16. Juni bzw. 21. Juli) buchbar
wko.at/ki WEBINARREIHE „KI/ML-BASIERTES ONLINE-MARKETING“ IM FOKUS DER WKO WEBINAR-REIHE 2021 wieder jeden 3. Mittwoch im Monat | jeweils 14:00 Uhr IHRE NÄCHSTEN WEBINARTERMINE: 15. Sept. 2021: Single Customer View, oder was Ihre digitalen Besucher wirklich machen 20. Okt. 2021: Marketing Automation – aus potentiellen Kunden echte Kunden machen 17. Nov. 2021: Performance Marketing – Onlinemarketing - nur wer misst, kann den Nutzen steigern
wko.at/ki WEBINARREIHE
wko.at/ki KONTAKT | INFO FRAGEN? – WIR FREUEN UNS ÜBER IHRE KONTAKTAUFNAHME: Hans Baldinger T +43 5-90909–3542 M +43 664 82 61 722 E hans.baldinger@wkooe.at W wko.at/ki WIR BEDANKEN UNS FÜR IHR INTERESSE!
Sie können auch lesen
