Künstliche Intelligenz: KI Karten - eine Möglichkeit zur Strukturierung
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Künstliche Intelligenz:
KI Karten - eine Möglichkeit zur Strukturierung
Roland Konopac & Dr. Ulli Waltinger
Siemens AG
© 2021 Engineering und IT Tagung 2021 - Chemnitz
siemens.com
Die datengetriebene
Gesellschaft: Zum ersten Mal
in der Geschichte können wir
genug über uns selbst
sehen, um …
… Orte und Produkte bauen,
die besser funktionieren als
die, die wir (möglicherweise)
schon immer hatten
Artwork: Chris Labrooy, Darty, Gadget Portrait
Den digitalen Wandel gestalten - Intelligente Vernetzung vorantreiben
Wachstum vernetzter Menschen Wachstum vernetzter Maschinen
Anstieg der Autonomie Anstieg der Autonomie
der H2M Kommunikation der M2M Kommunikation
11.9
4.4 6.3
3.1 3.8 4.3
2018 2021 2025 2018 2021 2025
*Zahlen in Mrd
Page 3 Siemens 2021 | Roland Konopac & Dr. Ulli Waltinger – Siemens AG
Auf welche Werte hin optimieren wir technische oder Softwaresysteme?
Die datengetriebene Gesellschaft vom Bauchgefühl zur Selbstkontrolle
Human-driven Data-driven System-driven
• Systeme tun nur das, was • Systeme tun nur das, was sie • Systeme erkunden ihre
der Mensch explizit definiert aus Daten lernen Umgebung autonom –
• … daher auf den • … daher auf den nutzen ihre Neugierde aus
menschlichen Zustand Datenzustand angewiesen • … daher auf
angewiesen Selbstüberwachung und
Systemzustand angewiesen
Umfassender Einsatz von Künstlicher Intelligenz entlang aller
Anwendungsbereiche
Device Edge Edge Edge
Cloud Cloud
ML & distributed analytics – Teaching trams to drive Online simulation during Optimize operation of gas
Intelligent grid controller autonomously operation turbines (
Zur Konvergenz von Wertschöpfungsketten in AIoT
+ =
Ermöglicht neue
Enterprise AI Industrial AI Geschäftsmodelle,
nutzt Künstliche Intelligenz und nutzt Künstliche Intelligenz und
Automatisierung, um die Digitale Steuerung, um die Digitale
die über die gesamte
Transformation von Transformation von Industriellen Wertschöpfungskette
Geschäftsprozessen Anwendungen voranzutreiben des Unternehmens
voranzutreiben
skalieren
AIoT wird die Wertschöpfung auf Geräte- und Prozessebene verstärken und kombinieren, um
Effizienz zu steigern, Lieferketten optimieren, Qualität zu verbessern und Kosten zu senken
Page 8 Siemens 2021 | Roland Konopac & Dr. Ulli Waltinger – Siemens AG
KI-Lösungen basieren auf leistungsstarken Technologien und bieten bei
verantwortungsvollem Einsatz mehrere Vorteile
AI-driven Helfen Sie uns,
coaching? bessere
Entscheidungen
zu treffen?
oder oder
Mitarbeiter Überwältigen
überwachen? Sie uns mit
ihren
Fähigkeiten?
Page 9 Siemens 2021 | Roland Konopac & Dr. Ulli Waltinger – Siemens AG
Künstliche Intelligenz
Black BoxKI verändert Euer Verhalten Blackbox • Ihr gebt ein Stück freien Willen ab • Ihr verzichtet auf Transparenz, Vergleichbarkeit und Vielfalt • Ihr akzeptiert Beurteilungsfehler • Ihr akzeptiert Optimierung als obersten Sinn des Handelns • Ihr habt weniger Empathie Freiwillige Selbstbeschränkungen der entwickelnden Firmen (AI Ethics Teams) „Since early last year, Google has also blocked new AI features analyzing emotions, fearing cultural insensitivity, while Microsoft restricted software mimicking voices and IBM rejected a client request for an advanced facial-recognition system.” https://www.reuters.com/technology/money-mimicry-mind-control-big-tech-slams-ethics-brakes-ai-2021-09-08/
Digitales Europa
Vertrauenswürdige KI intern
Möglichkeiten für den Betriebsrat
▪ Mitbestimmung der DV Ausschüsse u.a. bei Leistungs-
und Verhaltenskontrolle gemäß § 87 Abs. 1 Ziff. 6
BetrVG,
▪ Informations- und Beratungsrechte bei der Planung von
Arbeitsverfahren und Arbeitsabläufen, einschließlich des
Einsatzes von Künstlicher Intelligenz
§ 90 Abs. 1, Ziff. 3 BetrVG und
▪ Überwachung der DSGVO, Need to know
▪ Performance der Künstlichen Intelligenz beeinflussbar
durch:
▪ Änderungen am Algorithmus selbst
▪ Bewertung der Daten
▪ Die zur Verfügung stehenden Daten
▪ Es gilt die Hinzuziehung eines Sachverständige als
erforderlich § 80 Abs. 3 BetrVG
▪ Wildwest der KI Anbieter / StartupsAI Cards in der Siemens AG
• Ausfüllen der AI Cards durch die
Bedarfsträger / Verantwortlichen
- Selbstreflektion
- Dokument für Entscheider und den
Betriebsrat
• Inhouse Consulting, incl. des Monitorings
der Künstlichen Intelligenz
• Eskalationsinstanz zur Künstlichen
Intelligenz (Ethikrat und
Unternehmenskultur)Was sind „KI Karten“ (AI Cards)
„AI Application Cards“ sind ein Ansatz, welches ermöglichen soll, die wesentlichen Fakten, Nutzen und
möglicher Risiken, von Anwendungen aus dem Bereich der Künstlichen Intelligenz & Machine Learning in
strukturierter Weise zu dokumentieren und für den gemeinsamen Diskurs zu kontextualisieren.
Ansatz:
• KI-Lösungen basieren auf leistungsstarken Technologien und bieten bei
verantwortungsvollem Einsatz vielfältige Vorteile
Learn
• Gemeinsam lernen von dem was funktioniert und was mit Risiken
behaftet ist
• Gemeinsam Fähigkeiten aber auch Grenzen von angewandten KI
Empower
Technologien einzuschätzen lernen
• Teilen von Erfahrungen und Best Practices um Aspekte der Unsicherheit Share
und Bias zu reduzieren, und gleichzeitig Innovations- und Explorations-
Mechanismen zu erhöhen
Mitchell et al. Model Cards for Model Reporting, FAT Conference 2019, https://arxiv.org/pdf/1810.03993.pdf
Waltinger, Blumoser, 2020: Responsible AI, https://ingenuity.siemens.com/2020/11/responsible-ai-transparency-bias-and-responsibility-in-the-age-of-trustworthy-artificial-intelligence/
Seite 16 Siemens 2021 | Roland Konopac & Dr. Ulli Waltinger – Siemens AGDATUM: XX.XX.XX
AI Card
XXXXX
1 | Anwendung 5 | KI Aufgabe 8 | Reifegrad 9 | Anwendung
• Kurze Beschreibung zur Anwendung, Modell oder Service? Automatisierung Prognose Visualisierung Demo Pilot Product Service
• Was ermöglicht die Anwendung? Outlier Detection Klassifikation Generation PoC Roll-Out Solution
Optimierung Information Retrieval
2 | Organisation 10 | Leistungsmetriken
• Wie werden die Ergebnisse ausgewertet?
• Welche Organisation/Firma stellt die Software bereit?
• Wie etabliert ist die Firma mit welchen Referenzen?
6 | Verwendete Daten • Welche KPIs werden für die Evaluierung herangezogen?
ACP 1 – 3 • Wer legt die Kennzahlen fest, anhand derer in der Software Ziele definiert werden?
• Wie transparent ist der Entscheidungsweg?
3 | Service Bilder Text Tabellarisch Mitarbeiter-Daten
Zeitreihen Graph Transaktion Kunden-Daten
• Welche Services, Modelle oder Algorithmen werden
aus dem Angebot verwendet? 11 | Ethische- & Risikoüberlegungen
• Welche Daten/Merkmale werden für die Evaluierung verwendet?
• Welche Features/Merkmale haben die jeweiligen Services? • Wurde eine Risikoabschätzung vorgenommen?
• Um welche Software / welche Komponenten geht es? • Auf welche Daten hat die Software Zugriff? • Wie wird Bias in den Daten transparent gemacht?
• Welche Kriterien für die Daten-Auswahl wurden herangezogen? • Wie bewerten wir das Missbrauchspotenzial?
4 | Algorithmen & Daten • Identifiziert der Datensatz irgendwelche Teilpopulationen
(z. B. nach Alter, Geschlecht)?
• Welche konkreten Algorithmen werden verwendet? • Wie werden Mitarbeiter geschult um Algorithmen zu interpretieren?
• Auf welchen Daten und wie wurden die Algorithmen trainiert? 7 | Verwendungszweck • Werden mögliche subtile Beeinflussungen durch die Gestaltung der Softwareoberfläche
ausgeschlossen?
• Werden weitere Daten zur Verfügung gestellt? Primärer Verwendungszweck
Gibt es Referenz-Implementierungen (open source et al)?
• • Welche menschliche Entscheidung soll durch die Anwendung unterstützt
werden?
12 | Vorsichtsmaßnahmen und Empfehlungen
• Welche Aussage trifft die Software und mit welchem Wahrheitsgehalt?
• Für welchen Zweck wird die Anwendung verwendet? • Welche Risiken entstehen, wenn die Anwendung in die Skalierung kommt?
• Nach welchen Kriterien entscheidet die Software?
• In welche Prozess wird die Software integriert • Wofür sollte die Anwendung nicht eingesetzt werden?
• Wie wurde das ML-Verfahren getestet?
• Können automatische Entscheidungen korrigiert werden/wie?
• Wie ist die Qualität der Implementierung (des Programmcodes)
Primäre beabsichtigte Benutzer
sichergestellt?
• Welche Personen/Profile verwenden die Anwendung?
• Wie verwenden die Anwender die Software?
13 | Verantwortlicher Kontakt
• Welche Fähigkeiten und Kenntnisse werden auf Seiten der AnwenderInnen der
Software benötigt? Name: Domain Expert Name: IT Application
Seite 17 Siemens 2021 | Roland Konopac & Dr. Ulli Waltinger – Siemens AGDATUM: XX.XX.XX
AI Card
XXXXX
1 | Anwendung 5 | KI Aufgabe 8 | Reifegrad 9 | Anwendung
• Kurze Beschreibung zur Anwendung, Modell oder Service? Automatisierung Prognose Visualisierung Demo Pilot Product Service
• Was ermöglicht die Anwendung? Outlier Detection Klassifikation Generation PoC Roll-Out Solution
Optimierung Information Retrieval
2 | Organisation 10 | Leistungsmetriken
• Wie werden die Ergebnisse ausgewertet?
• Welche Organisation/Firma stellt die Software bereit?
• Wie etabliert ist die Firma mit welchen Referenzen?
6 | Verwendete Daten • Welche KPIs werden für die Evaluierung herangezogen?
ACP 1 – 3 • Wer legt die Kennzahlen fest, anhand derer in der Software Ziele definiert werden?
• Wie transparent ist der Entscheidungsweg?
3 | Service Bilder Text Tabellarisch Mitarbeiter-Daten
Zeitreihen Graph Transaktion Kunden-Daten
• Welche Services, Modelle oder Algorithmen werden
aus dem Angebot verwendet? 11 | Ethische- & Risikoüberlegungen
• Welche Daten/Merkmale werden für die Evaluierung verwendet?
• Welche Features/Merkmale haben die jeweiligen Services? • Wurde eine Risikoabschätzung vorgenommen?
• Um welche Software / welche Komponenten geht es? • Auf welche Daten hat die Software Zugriff? • Wie wird Bias in den Daten transparent gemacht?
• Welche Kriterien für die Daten-Auswahl wurden herangezogen? • Wie bewerten wir das Missbrauchspotenzial?
4 | Algorithmen & Daten • Identifiziert der Datensatz irgendwelche Teilpopulationen
(z. B. nach Alter, Geschlecht)?
• Welche konkreten Algorithmen werden verwendet? • Wie werden Mitarbeiter geschult um Algorithmen zu interpretieren?
• Auf welchen Daten und wie wurden die Algorithmen trainiert? 7 | Verwendungszweck • Werden mögliche subtile Beeinflussungen durch die Gestaltung der Softwareoberfläche
ausgeschlossen?
• Werden weitere Daten zur Verfügung gestellt? Primärer Verwendungszweck
Gibt es Referenz-Implementierungen (open source et al)?
• • Welche menschliche Entscheidung soll durch die Anwendung unterstützt
werden?
12 | Vorsichtsmaßnahmen und Empfehlungen
• Welche Aussage trifft die Software und mit welchem Wahrheitsgehalt?
• Für welchen Zweck wird die Anwendung verwendet? • Welche Risiken entstehen, wenn die Anwendung in die Skalierung kommt?
• Nach welchen Kriterien entscheidet die Software?
• In welche Prozess wird die Software integriert • Wofür sollte die Anwendung nicht eingesetzt werden?
• Wie wurde das ML-Verfahren getestet?
• Können automatische Entscheidungen korrigiert werden/wie?
• Wie ist die Qualität der Implementierung (des Programmcodes)
Primäre beabsichtigte Benutzer
sichergestellt?
• Welche Personen/Profile verwenden die Anwendung?
• Wie verwenden die Anwender die Software?
13 | Verantwortlicher Kontakt
• Welche Fähigkeiten und Kenntnisse werden auf Seiten der AnwenderInnen der
Software benötigt? Name: Domain Expert Name: IT Application
Seite 18 Siemens 2021 | Roland Konopac & Dr. Ulli Waltinger – Siemens AGDATUM: XX.XX.XX
AI Card
XXXXX
1 | Anwendung 5 | KI Aufgabe 8 | Reifegrad 9 | Anwendung
• Kurze Beschreibung zur Anwendung, Modell oder Service? Automatisierung Prognose Visualisierung Demo Pilot Product Service
• Was ermöglicht die Anwendung? Outlier Detection Klassifikation Generation PoC Roll-Out Solution
Optimierung Information Retrieval
2 | Organisation 10 | Leistungsmetriken
• Wie werden die Ergebnisse ausgewertet?
• Welche Organisation/Firma stellt die Software bereit?
• Wie etabliert ist die Firma mit welchen Referenzen?
6 | Verwendete Daten • Welche KPIs werden für die Evaluierung herangezogen?
ACP 1 – 3 • Wer legt die Kennzahlen fest, anhand derer in der Software Ziele definiert werden?
• Wie transparent ist der Entscheidungsweg?
3 | Service Bilder Text Tabellarisch Mitarbeiter-Daten
Zeitreihen Graph Transaktion Kunden-Daten
• Welche Services, Modelle oder Algorithmen werden
aus dem Angebot verwendet? 11 | Ethische- & Risikoüberlegungen
• Welche Daten/Merkmale werden für die Evaluierung verwendet?
• Welche Features/Merkmale haben die jeweiligen Services? • Wurde eine Risikoabschätzung vorgenommen?
• Um welche Software / welche Komponenten geht es? • Auf welche Daten hat die Software Zugriff? • Wie wird Bias in den Daten transparent gemacht?
• Welche Kriterien für die Daten-Auswahl wurden herangezogen? • Wie bewerten wir das Missbrauchspotenzial?
4 | Algorithmen & Daten • Identifiziert der Datensatz irgendwelche Teilpopulationen
(z. B. nach Alter, Geschlecht)?
• Welche konkreten Algorithmen werden verwendet? • Wie werden Mitarbeiter geschult um Algorithmen zu interpretieren?
• Auf welchen Daten und wie wurden die Algorithmen trainiert? 7 | Verwendungszweck • Werden mögliche subtile Beeinflussungen durch die Gestaltung der Softwareoberfläche
ausgeschlossen?
• Werden weitere Daten zur Verfügung gestellt? Primärer Verwendungszweck
Gibt es Referenz-Implementierungen (open source et al)?
• • Welche menschliche Entscheidung soll durch die Anwendung unterstützt
werden?
12 | Vorsichtsmaßnahmen und Empfehlungen
• Welche Aussage trifft die Software und mit welchem Wahrheitsgehalt?
• Für welchen Zweck wird die Anwendung verwendet? • Welche Risiken entstehen, wenn die Anwendung in die Skalierung kommt?
• Nach welchen Kriterien entscheidet die Software?
• In welche Prozess wird die Software integriert • Wofür sollte die Anwendung nicht eingesetzt werden?
• Wie wurde das ML-Verfahren getestet?
• Können automatische Entscheidungen korrigiert werden/wie?
• Wie ist die Qualität der Implementierung (des Programmcodes)
Primäre beabsichtigte Benutzer
sichergestellt?
• Welche Personen/Profile verwenden die Anwendung?
• Wie verwenden die Anwender die Software?
13 | Verantwortlicher Kontakt
• Welche Fähigkeiten und Kenntnisse werden auf Seiten der AnwenderInnen der
Software benötigt? Name: Domain Expert Name: IT Application
Seite 19 Siemens 2021 | Roland Konopac & Dr. Ulli Waltinger – Siemens AGKI-Lösungen basieren
auf leistungsstarken
Technologien und Ease to
manage
bieten bei Black box /
opaqueness
Higher system
complexity
Transparency
& Security
verantwortungsvollem efficiency
Intrusion and
Misuse of
personal data
manipulation
Einsatz mehrere New levels
Process
efficiency
of innovation Responsible
Vorteile & arts
Reinforced
AI @ Risk of bias &
discrimination
inequalities Speed &
quality of work
Utilitarian
decisions
Error and
safety risks
Zero harm
infrastructure Release humans
Cost & Failure from repetitive
reduction tasks
Inability to
control AI Labor
displacement
Page 20 Siemens 2021 | Roland Konopac & Dr. Ulli Waltinger – Siemens AGThis is a call
for engagementVielen Dank!
Sie können auch lesen
