Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV

Die Seite wird erstellt Lukas Breuer
 
WEITER LESEN
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Machine Learning
Februar 2021   Fiktion und Realität
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Realität und Fiktion
oder aber FOMO

             Machine Learning Publikationen:
             Springer Link: 22‘771 (D2.3%, E97.1%, Rest 0.006%)
             Amazon: >10‘000

04.02.2021                         © Alex Marti 2021              2
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Angst gehört auch dazu
Wobei genau lesen hilft…

                                                  Ein 76 Seitiges Dokument, das zig
                                                  Bücher erwähnt, diese dann nicht
                                                      berücksichtigt und dann noch
                                                              das berühmte Beispiel
                                                        bemüht, wo ein Schmetter-
                                                           ling mit dem Flügeschlag
                                                                einen Orkan auslöst
                                                                      (ist widerlegt).
                                                               Auf zwei Seiten dann
                                                        eine einigermassen wissen-
                                                   schaftliche Abhandlung über die
                                                  Kontrollierbarkeit von Computern
                                               Erkenntnis: nicht anschliessen – aber
                                              dann kann man sie nicht mehr nutzen.

   Der Artikel: https://www.jair.org/index.php/jair/article/view/12202/26642
04.02.2021                        © Alex Marti 2021                                 3
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Geschichte
Alter Wein in neuen Schläuchen

Lineare Regression
19.JH: Sir Francis Galton
Polynome Regression
1810: Joseph Diez Gergonne
Weitere Regressionen
1970: ARIMA von George Box and Gwilym Jenkins
Künstliche Neuronale Netze
1958: Psychologe Frank Rosenblatt entwickelt das Percepton
1959: Bernard Widrow & Marcian Hoff entwickeln MADALINE
Klassifikatoren
1963: Support Vector Machine V. N. Vapnik and A. Ya. Chervonenkis

02/04/2021                       © Alex Marti 2021                  4
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Klassierung & Prognose
Classification & Regression (Regression = Prognose) gibt es schon lange
Regression
                                           X
Y        X        20

     1        1   18                                         R² = 0,9365
     2        3   16
     6        5   14
     7        7   12
     9        8   10
    10       13    8
    15       16    6
                   4
                   2
                   0                                                       Wenn ich 16 als Input habe
                       0   2   4   6   8       10    12     14      16     18

                                                                                    Klassifikation

                                                    Lineare                                          SupportVector
                                                    Regression¹                                      Machine¹

                                                                                                         ¹siehe Weitere Links

04.02.2021                                                © Alex Marti 2021                                                5
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Machine Learning BS Bingo
Zum Angeben und nachlesen

                         Realität
  Diagnose
                                  Keine
                Grippe
                                  Grippe
                  True             False
    Grippe
                 Positve         Positive
    Keine         False            True
    Grippe      Negative         Negative

                            F1

04.02.2021                          © Alex Marti 2021
                                                        Quelle: Wikipedia   6
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Use/Business Cases Klassierung
    Wer ist da? Ist etwas kaputt? Ist das ein ‘n’ oder ein ‘u’?

                              Risse im Beton?                     Ab wo/wie ist nicht mehr gut?

                                   Welche sind’s?

                                         10’000 Bilder
                                         am Tag prüfen?

Quelle: ML Modul
                                               ‘n’ oder ‘u’?
Classification Contest
Uni Mannheim

    04.02.2021                            © Alex Marti 2021                               7
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Use/Business Cases Prognosen
Wetterbericht und anderes
             Muss die Schiene ersetzt werden?

                                                 Sicher, aber
                                                 wann
                                                 spätestens?

                                   Benötigt’s weitere
                                   Storage? Ja, aber
                                   wann?

04.02.2021                          © Alex Marti 2021           8
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Programmieren vs Lernen
             Wo steckt denn nun der Unterschied?

                     Input           Process           Output
Programmed

                                           Analysis 100%
                                            Design 100%
                                          Implement 100%
                                             Test 90%

                                               ML Methods
                                               Split / Shuffle     Use learned ML
                  Input/Output
Learned

                                                Train Data            Method
                       List
               «Attribute/Feature»                                 Check F1 from
                                                Test Data           time to time
                                               Optimize F1

             04.02.2021                        © Alex Marti 2021                    9
Machine Learning Fiktion und Realität - Februar 2021 - Swiss Engineering STV
Machine Learning lernt!
Wer lernt macht Fehler! Aber 100% Zuverlässigkeit gibt’s nicht!!

                                                             F1

04.02.2021
             Quelle: SaaS Conference Bonn   Fall 2018
                                      © Alex Marti 2021            10
ANN mit Taschenrechner
Auch multilayer perceptron genannt – klingt so toll

                  1+2+ -3+1=1                     0.76 + 0.76 + 1=2.52
        1
              *
               1

                                 =1
                                       0.76
             weight

                                                             =2.52
       2
              *                 weight 12.22                               5
               1
                                 =1
                                       0.76
             weight
       -3
              *             weight 12.22                          Korrektur Rechnen mit
               1                                                  Ableitung der
             weight                                               Aktivierungsfunktion
                                   1
       1
                                              2.46
                                                                      Aktivierungsfunktion
      Bias                      Bias
                                                                       Activation function
                                                                      Hier: Sigmoid (tanh)
             Hidden Layer
                                                                     Viele hidden Layers = Deep Learning
04.02.2021                                    © Alex Marti 2021                                     11
ANN/CNN/RNN
Artificial / Convolutional / Recurrent Neural Network

             Quelle: YouTube 3blue1brown «But what *is* a Neural Network?»
04.02.2021                          © Alex Marti 2021                        12
“Stethoscope” for ANN/CNN
  Layerwise Relevance Propagation (LRP) and LIME¹

Input                                               Output

Positive: blue (yes this is a 3), Negative: red (no this is not a 3)
Access to Model needed

Black Box approach: Local Interpretable model-agnostic explanation (LIME)

  ¹Bach et all (2015) plos one 10(7); Robin Schmitt Seminar Work 2020; “Why Should I Trust You?“ Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin

  04.02.2021                                                   © Alex Marti 2021                                                                 13
LRP versus LIME
Quite similar

04.02.2021      © Alex Marti 2021   14
Praktisches Beispiel Heizungen
 Zuerst einmal etwas Statisik

Alarm bis
Start Einsatz
Prio 1, 2 und 3 Alarme zeigen
kaum Unterschiede in der
Dauer vom Alarmzeitpunkt
bis zum Start des Einsatzes

                                                                    250min ignoriert

  Quelle: Summerschool 2019 DataScience Marti/Bozok/Feßen-Fallsehr, Geschwill, Oleksinski, Tusak, Marti, Arb, Nonenmacher

 04.02.2021                                       © Alex Marti 2021                                                 15
Vorhersage der Störuung
Der Traum aller Planer

 -    Vorhersage von Störungen des nächsten Tages

 -    Bedarfsgerechte Planung von Monteuren, um Unterbrechungen zu verringern

 -    Anforderung zur Modell-Nutzung:
        -   flexible Einsatzplanung
        -   Aufgaben flexibel gestalten

 Quelle: Summerschool 2019 DataScience Marti/Bozok/Feßen-Fallsehr, Geschwill, Oleksinski, Tusak, Marti, Arb, Nonenmacher

04.02.2021                                       © Alex Marti 2021                                                 16
Auswertung der Daten
Was ist für den Menschen sichtbar

-      Je höher die
Drei Prognose - Algorithmen
   Ausprobieren ist angesagt!                                                    MAE = Mean Absolute Error (smaller =
                                                                                 better)

                                                              ARIMA (order=(10,1,0))
                                                              21.56 MAE

                                                              Autoregressive Integrated Moving Average

                                                               Prophet
                                                               34.69 MAE

                                                              Linear model with fourier analysis

                                                              Keras - LSTM
                                                              36.30 MAE
                                                             Ein RNN mit vielen (500) Hidden Layers und
                                                             Spezialfunktion zum vermeiden von
                                                             Falschlernen und Schutz vor Überlaufen der
                                                             Gewichte
Quelle: Summerschool 2019 DataScience Marti/Bozok/Feßen-Fallsehr, Geschwill, Oleksinski, Tusak, Marti, Arb, Nonenmacher
  04.02.2021                                       © Alex Marti 2021                                                    18
Prognosen sind schwierig
   Besonders die in die Zukunft

Quelle: Summerschool 2019 DataScience Marti/Bozok/Feßen-Fallsehr, Geschwill, Oleksinski, Tusak, Marti, Arb, Nonenmacher
  04.02.2021                                       © Alex Marti 2021                                                    19
Geht Machine Learning immer?
Wo 99.99% sofortige Zuverlässigkeit angesagt ist, nein!
Ideengenerator                             False negatives – wirklich?
• Diagnose-Support für Ärzte (auf          • GPWS¹: «Terrain ahead, pull up»
  das wäre man nicht gekommen)             • Self drive car: Full Stop on
• Finden von Korrelationen (nicht            Pedestrian/Obstacle
  Kausalität)                              • TCAS: Traffic Alert and Collision
• Gruppierungen                              Avoidance System
                                           • Sicherheitssysteme,
Entlastung der Arbeitenden                   Schliesssysteme
• Übersetzungshilfe zum
  Beschleunigen des Prozesses
• Vorselektionieren von Bildern            False positives – wirklich?
• Vorselektionieren von Alerts
• Vorhersagen aller Art                    Militärische Angriffssysteme
• Wetterbericht

      Keine Menschenleben und                     Menschenleben und keine
             Analysezeit                                Analysezeit
                                                      ¹Ground Proximity Warning System
04.02.2021                        © Alex Marti 2021                                      20
Tools?
Viele viele Tools

         Programmatisch                  Symbolisch

         • R¹                            • RapidMiner²
             • RandomForest                  • >100 AddOns¹²
             • CARET                     • SPSS
             • Nnet                      • SAAS
             • kernlab                   • Mathlab
         • Python¹                       • SPLUNK
             • Numpy/Scipy               • Moogsoft
             • ScyKit Learn              • Knime
             • Keras                     • (Excel 2019 – sehr
             • NLTK                        simpel)
             • CNN
         • Apache Spark
             ¹Open Source
             ²Community Edition

04.02.2021                        © Alex Marti 2021             21
Weitere Links
Von einfach verständlich bis zur Hardcore Mathematik

•   Änderung der Arbeitswelt
•   Übersicht Lernalgorithmen
•   F1
•   ROC
•   Künstliche neuronale Netzwerke schön erklärt
•   Support Vector Machine (SVM) für Hartgesottene
•   Convolutional Neural Network i.e. Bird Recognition
•   Aktivierungsfunktion Neuronale Netze
•   https://towardsdatascience.com
04.02.2021                 © Alex Marti 2021           22
Backup
Wissen und Schulen

04.02.2021           © Alex Marti 2021   23
Änderung des Wissens
Präsentationen des WEF 2018

04.02.2021               © Alex Marti 2021   24
Wettbewerbs des Schulens
Präsentationen des WEF 2018

04.02.2021               © Alex Marti 2021   25
Sie können auch lesen