6 Warum intelligente Decision-Support-Systeme das Betriebssystem eines Smart Hospitals sein und Medizin menschlicher machen werden
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
6
Warum intelligente Decision-Support-Systeme
das Betriebssystem eines Smart Hospitals sein und
Medizin menschlicher machen werden
Martin Christian Hirsch
Die Anzahl der Publikationen in der Biomedizin nimmt kontinuierlich zu. Ebenso die Anzahl diagnosti-
scher Verfahren und therapeutischer Möglichkeiten, die durchschnittliche Anzahl verschriebener Me-
dikamente bei chronisch erkrankten älteren Menschen und damit einhergehend die Gefahren von
Wechselwirkungen. Gleiches gilt für die von „digital natives“ in zunehmendem Ausmaß vorgenom-
mene Selbstvermessung mittels sogenannter Wearables (Böttinger 2019). Parallel zu dieser wachsen-
den Fülle an Daten, Informationen und Wissen wachsen im Globalen Süden Bevölkerung und Wohl-
stand schneller als die medizinische Infrastruktur. Solche Entwicklungen führen dazu, dass die Zeit-
spanne, die ein Arzt für einen Patienten hat, abnimmt, während gleichzeitig die dabei zu verarbei-
tende Informationsmenge zunimmt. Immer mehr erkrankte Bürgerinnen und Bürger nehmen daher
ihre Gesundheit selbst in die Hand und bedienen sich aus dem wachsenden Angebot an Gesund-
heits-Apps, z.B. wenn sie Symptome haben, die sie beunruhigen und selber herausfinden wollen wel-
che Erkrankung sich dahinter verbergen könnte (s. Abb. 1).
Es bedarf also neuer Ansätze, wie die Zeit, die Arzt und Patient miteinander verbringen, besser ge-
nutzt wird und wie die Versorgungssteuerung innerhalb von Kliniken medizinisch effizienter gelingen
kann. Gleiches gilt für die Frage, wie unnötige Arzt- und Klinikbesuche vermieden werden können.
Große Hoffnung ruht dabei auf der Künstlichen Intelligenz (KI).
Dieses Kapitel geht am Beispiel der Diagnostik der Frage nach, ob und wie KI den klinischen Alltag der
Ärzte entlasten kann und wie solche Entscheidungsunterstützungssysteme aufgebaut sein müssen, um
die Akzeptanz von Ärzten und Patienten, aber auch von Krankenhausbetreibern zu finden. Eine tech-
nisch mehr in die Tiefe gehende Abhandlung des Themas findet sich bei Hunink (Hunink et al. 2014).
Leseprobe aus Werner et al. (Hrsg.), Smart Hospital 93
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche Verlagsgesellschaft
II Die digitale Gesundheit
Abb. 1 Der Chatbot Stärken und Grenzen menschlicher wenn ich in dieselbe Situation komme, bin ich
Ada ist ein DDSS Kognition in klinischen Umgebungen schneller handlungsfähig. Diesen gedanken-
für Patienten. Nach speichernden Loop nennen wir Lernen. Das in
Eingabe eines ersten Wenn man darüber reden will, wie Künstliche unseren Zeiten so vielfach beschworene Ma-
Symptoms führt das Intelligenz und Clinical-Decision-Support-Sys- chine Learning simuliert genau diesen Prozess.
Programm eine Ana- teme (CDSS) die Klinik der Zukunft verändern Machine Learning ist also die Fähigkeit, eine
mnese in Form eines werden, lohnt es sich, kurz die Besonderheiten sinnhafte Reiz-Reaktions-Kopplung zu finden
Chat-Dialogs durch. Am menschlicher Intelligenz im Kontext klinischer und diese zu speichern. Der Kern von Intelli-
Ende präsentiert es Umgebungen anzusehen und die dafür wesent- genz, nämlich das sinnhafte Zusammenführen
nach Wahrscheinlich- lichen Begriffe zu definieren. von mentalen Inhalten zu einer neuen Lösung,
keit sortiert mögliche ist darin nicht enthalten.
Erkrankungen, die diese
Symptomkonstellation Wissen, Denken, Entscheiden und Lernen
auslösen. Ada ist als Eine der Hauptaufgaben unseres Gehirns ist es, Das Wesen ärztlichen Denkens – Heilkunst,
Medizinprodukt der uns im Wissen zu halten, also basierend auf Er- Krankheitsbilder und Klinischer Blick
Klasse I zertifiziert lerntem zu wissen, wie es jetzt weitergeht. „Wis- Wissen ist der sicherste Handlungsgrund. Ba-
und für Android- und sen“ macht uns schnell und handlungsfähig. sierend darauf können Entscheidungen getrof-
iOS-Smartphones ver- Wenn wir in eine Situation kommen, die wir fen und begründet werden. Aber die Grenzen
fügbar. noch nicht kennen, für die also noch kein Wis- des Fachwissens, das unser Gehirn präzise spei-
sen verfügbar ist, gelangen wir in das, was wir chern und zur Verfügung stellen kann ist limi-
gemeinhin Denken nennen. Das Gehirn versucht tiert. Ebenso seine Möglichkeit, dieses Wissen
dann, basierend auf existierenden Wissensfrag- stets aktuell zu halten.
menten, eine Lösung zu basteln, um uns hand- Und auch das generell verfügbare medizini-
lungsfähig zu halten. Das Ergebnis eines solchen sche Wissen ist begrenzt. Wir wissen bei wei-
Denkens ist ein Gedanke, eine mögliche Lösung tem nicht alles, was für wissenschaftlich be-
der Situation, die mich handlungsfähig hält. gründete, evidenzbasiert-medizinische Ent-
Treffe ich die Entscheidung, gemäß diesem scheidungsfindung notwendig wäre.
Gedanken zu handeln und die Handlung ent- Trotz dieser Limitierungen der Wissensbasis
puppt sich als zielführend, so wird der Gedanke (Weiß ich es? Ist mein Wissen aktuell? Ist dieses
stabilisiert und gespeichert – und somit in Er- Wissen überhaupt existent?) müssen Ärzte stän-
fahrungswissen überführt. Das nächste Mal, dig Entscheidungen treffen. Daher kommt dem
94 Leseprobe aus Werner et al. (Hrsg.), Smart Hospital
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche Verlagsgesellschaft
6 Warum intelligente Decision-Support-Systeme das Betriebssystem eines Smart Hospitals sein und
Medizin menschlicher machen werden II
ärztlichen „Denken“ eine besondere Bedeutung Trübungen und Grenzen ärztlichen Denkens
zu. Will man ärztliches Denken unterstützen, Aus den Kognitionswissenschaften wissen wir,
lohnt es sich, dessen Besonderheiten genauer dass Denken ein hoch fragiler Prozess mit viel-
in den Blick zu nehmen. fältigen Limitationen und hoher Manipulier-
Medizin war und ist handlungsorientiert. barkeit ist. Müdigkeit, Hunger, Erschöpfung,
Wenn möglich, basiert eine Handlung auf Zeitdruck, Ängste, Emotion, Vorurteile – selbst
einem Verständnis des Sachverhalts. Ist aber solche häufigen und allzu menschlichen Rah-
die Situation kritisch, muss dennoch gehandelt mungen eines normalen Lebens beeinflussen
werden, ohne den Sachverhalt komplett ver- die Leistungsfähigkeit des Denkapparates. Das
standen zu haben. Leitschnur des Handelns ist macht Denken zwar menschlich – limitiert aber
dann die Erfahrung. Aus dieser Grundsituation auch seine Verlässlichkeit.
heraus hat sich Medizin als eine Disziplin zwischen Neben solchen gemütsbedingten Limitierun-
Heuristik und Wissenschaft etabliert, und so wun- gen gibt es zudem auch Grenzen der Geschwindig-
dert es nicht, dass das Denken des Arztes diese keit, der Komplexität und der Kapazität. Zeit- und
beiden unterschiedlichen Denkmodi nutzt. Da Kostendruck in Krankenhäusern, aber auch Ab-
ist zum einen das wissenschaftlich-analytische rechnungs- und Verwaltungslogiken beeinflussen
Betrachten von Einzelbefunden und zum ande- ärztliches Denken und drängen es in nicht immer
ren eine intuitiv-holistische Betrachtung der medizinisch geprägte Entscheidungen. Der zu-
Befundsituation als Ganzes. nehmende Ärztemangel nicht nur im Globalen
So oszilliert ärztliches Denken zwischen den Süden wird diese Beeinträchtigungen ärztlichen
Teilen (z.B. Befunden) und einer aus diesen Tei- Denkens eher vertiefen statt entschärfen.
len zusammengefügten Gestalt, bis ein kohä- Neben diesen algorithmischen Beeinträchti-
rentes Ganzes entsteht (z.B. eine Diagnose). gungen kommt das ärztliche Denken auch von
Immer, wenn von Ganzheiten die Rede ist, die anderer Seite unter Druck: Der rasante, täglich
häufig kein einfaches, eindeutiges Wahrheits- stattfindende Wissenszuwachs in der Medizin
kriterium haben, nutzt die deutsche Sprache (man denke an die immer feiner differenzieren-
das Wort „Bild“ (Selbstbild, Vorbild, Leitbild, den diagnostischen Tests, die deutlich persona-
Feindbild, Weltbild u.a.). Im Kontext einer Er- lisierteren Therapiemöglichkeiten, an Wechsel-
krankung spricht sie daher von Krankheitsbild. wirkungsrisiken einer immer größer werden-
Ärzte verfügen über ein hochgradig „bildli- den Anzahl von Wirkstoffen, an neue Krank-
ches“ Denken. Das Erkennen von sinnhaften Sig- heitsbilder etc.) ist für Menschen nicht mehr
nalkonstellationen in großen, unübersichtlichen zu bewältigen. Selbst innerhalb einer Domäne
Informationsmengen nennt man „Erblicken“, ist der Wissenszuwachs inzwischen so stark,
und das geistige Vermögen dahinter „Blick“. In dass er selbst von den am besten ausgebildeten
den Wörtern Einblick, Durchblick, Überblick, Ärzten, neben seiner ärztlichen Tätigkeit, nicht
Weitblick kommt dieses Vermögen zum Aus- mehr zu bewältigen ist.
druck. Im Bereich der Klinik spricht man gern
vom Klinischen Blick. Da Bild und Blick auch in der
Kunst eine große Rolle spielen und auch der Arzt Wie ein Decision-Support-System
regelmäßig die Gratwanderung zwischen Wis- für die Klinik (CDSS) aufgebaut sein sollte
sen und Intuition beschreiten muss, hat sich zu
Recht der Begriff der Heilkunst etabliert. Wie im vorherigen Abschnitt dargelegt, kommt
Entscheidend für unseren Kontext ist, dass menschliche Kognition im Kontext der Medizin
derartige mentale Gratwanderungen einem mehr und mehr an ihre natürlichen Grenzen
„Denken ohne Geländer“ gleichen und fragiler und es stellt sich die Frage, ob Künstliche Intel-
Natur sind. ligenz hier Abhilfe schaffen kann.
Leseprobe aus Werner et al. (Hrsg.), Smart Hospital 95
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche Verlagsgesellschaft
II Die digitale Gesundheit
Zunächst einmal scheint offensichtlich, Auch Laborwerte sind hochgradig „unscharf“.
dass Computer in Bezug auf Geschwindigkeit, Wie gut war die Probe zum Zeitpunkt der Mes-
logische Komplexitäten und Speicherkapazität sung? Mit welchem Gerät wurde gemessen? War
in andere Dimensionen vordringen können als das Gerät richtig kalibriert? Die Daten, die wir in
das Gehirn des Menschen. Beeinträchtigungen den KIS-/KAS-Systemen finden, spiegeln nicht
durch Gemütslagen fallen ebenso weg. Compu- nur die medizinische Situation des Patienten
ter haben auch keine Probleme damit, kontext- wieder, sondern sind maßgeblich auch von den
sensitiv sehr unterschiedlichen Logiken zu fol- Logiken der Abrechnung bestimmt. Aber auch
gen und ohne Einbußen an Qualität zwischen scheinbar klare, eindeutige Informationen ber-
diesen zu wechseln. gen Unschärfen, zum Beispiel wenn die Angst
Somit verfügen Computer erst einmal über vor dem Arztbesuch den Blutdruck hochtreibt
ein vielversprechendes Potenzial. Allerdings ist oder „das Blut im Stuhl“ in Wirklichkeit rote
das nur eine notwendige, keineswegs aber eine Beete war. Auch eine „Hautrötung“ stellt sich
hinreichende Voraussetzung, wenn sie medizi- bei dunkler oder heller Hautfarbe sehr unter-
nisch vernünftig und effektiv bestehende Ent- schiedlich dar. Dauermedikationen können
scheidungsprozesse in Kliniken unterstützen Symptome kaschieren und die Frage, ob man
sollen. Damit das gelingt, müssen Entschei- Fieber hat, wird in über der Hälfte der Fälle
dungsunterstützungssysteme falsch beantwortet.
1. mit der Eigenart der im Gesundheitssystem In gesteigerter Form tritt diese Unschärfe
verfügbaren Informationen zurechtkom- in unstrukturierten und semi-strukturierten Datenfor-
men, maten in Erscheinung, vor allem in freien Text-
2. dem Personal sinnhaft zuarbeiten (denn passagen. Klinische Texte in KIS/KAS enthal-
das Personal trägt die Verantwortung), ten oft stenografische Sätze, klinik- und ab-
3. vertrauenswürdig und teilungsspezifische Abkürzungen und wissen-
4. mit existierenden KIS/KAS Systemen inter- schaftliche Akronyme (diese sind inzwischen
operabel sein. so vieldeutig, dass sich sogar Experten mit ihrer
Interpretation schwertun). Auch neigen Ärzte
in komplexen Situationen verständlicherweise
Ein CDSS muss mit semantischer Unschärfe dazu, Aussagen entsprechend der Unschärfe der
umgehen können Situation vage zu beschreiben. Formulierungen
wie „konnte nicht ausgeschlossen werden“ oder
Medizin ist teilweise exakte Naturwissen- „sind nicht eindeutig nachweisbar“ sind häu-
schaft und teilweise Heuristik. Mutmaßungen, fig und bieten Raum für semantische Deutung.
Bauchgefühl und verallgemeinerte Kasuistiken Entschärfen, wenngleich nicht eliminie-
sind die Regel, nicht die Ausnahme. Ärzte fäl- ren, lässt sich die Problematik der Deutungs-
len ihre Entscheidung auf der Basis von Wissen, vielfalt von Textinformation durch den Ein-
Messwerten, Erfahrung und Bauchgefühl. Dies satz ontologiebasierter Terminologien. Dabei sind
mag einen skeptisch stimmen, aber Ärzte müs- (Fach-)Worte des Textes mit ihrem Eintrag in
sen handlungsfähig bleiben, auch wenn die Si- einer normierten Wortsammlung (Ontologie)
tuation nicht vollständig verstehbar ist – beson- verbunden. Durch diese Verbindung kann ein
ders dann, wenn Zeitdruck herrscht. Und die interpretierendes System erkennen, welche
heuristische Dimension der Medizin ist nicht Bedeutung der Eintrag repräsentiert. Ontolo-
auf ärztliches Denken beschränkt: So mancher gie-referenzierende Texte sind eine notwendige
Wirkstoff tut zuverlässig seine Wirkung, ohne Voraussetzung dafür, dass CDS-Systeme die In-
dass wir genau wissen, welche biochemischen halte eines Textes interpretieren können. Eine
Kausalitätsketten dahinterstecken. ausführliche Diskussion der für den deutschen
96 Leseprobe aus Werner et al. (Hrsg.), Smart Hospital
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche Verlagsgesellschaft6 Warum intelligente Decision-Support-Systeme das Betriebssystem eines Smart Hospitals sein und
Medizin menschlicher machen werden II
Sprachraum hilfreichen medizinischen On- Es muss ein klares Konzept dazu vorliegen,
tologien findet sich bei Rienhoff (Rienhoff u. wie Unschärfe und Spielräume miteinander
Semmler 2015). zu verrechnen sind, um so zu einer Gesamt-
Um vage Formulierungen, Verneinungen, wahrscheinlichkeit des Rechenergebnisses
Vermutungen, Abwägungen, Pronom-Kons- zu kommen (Hunink et al. 2014).
truktionen etc. interpretieren zu können, sind Textinformationen sollten ontologisch und
zudem sogenannte Parser erforderlich, die die syntaktisch wohldefiniert sein, um dem Sys-
Syntax von Sätzen analysieren, um sie der se- tem die Deutung von Textinformation zu er-
mantischen Deutung zuzuführen. Dabei unter- leichtern (Rienhoff u. Semmler 2015).
scheidet man Shallow- und Deep-Parser, die
sich in der syntaktischen Verschachtelungstiefe
differenzieren, die sie in der Lage sind noch auf- Ein CDSS muss argumentfähig sein
zulösen. Parser-Technologien benötigen anno-
tierte Corpora, auf denen sie trainiert werden.
Solche Corpora sind meist umgangssprachli-
cher Natur. Daher eignen sich Standard-Parser
❱❱❱ Letztverantwortlich für eine Entscheidung ist
in der Regel nicht für medizinische Texte. Auch auf absehbare Zeit stets ein Mensch.
zeichnen sich insbesondere klinische Texte da-
durch aus, dass sie unter hohem Zeitdruck ver-
fasst werden und daher hochgradig kontextsen- Eine KI wird auf absehbare Zeit also vor allem
sitiv sind. Jeder Leser weiß, dass die Aussage eins sein: ein Entscheidungsunterstützungs-
nur im Kontext dieses Patienten Gültigkeit hat. system; ein System, das einem Menschen bei
Ein System, das den Patienten nicht kennt, medizinischen, organisatorischen oder pflege-
wird daher häufig mit der Interpretation von rischen Entscheidungen mit Rat, und später
Aussagen in Schwierigkeiten kommen. vielleicht auch mal mit Tat, zur Seite steht.
Damit KI zukünftig mitdenken kann, müs- Ein Rat ist dabei eine Empfehlung, wie aus
sen Textinformationen ontologiebasiert sein einer schwierigen Situation herauszukommen
und zumindest rudimentäre Parser-Technolo- ist. Ein solider Rat gründet sich dabei stets auf
gie eingesetzt werden. Im besten Fall ist beides Argumente. Argumente, denen sich der Bera-
schon bei der Texteingabe aktiv und stellt durch tene anschließen oder die er ablehnen kann.
Rückfragen an den Eingebenden klar, dass die Annahme oder Ablehnung des Rates ist nur be-
Eingabe semantisch richtig erfasst wurde. gründet möglich, wenn solche Argumente vor-
Zusammenfassend lässt sich sagen, dass kli- liegen. Damit der Ratsuchende also verantwort-
nische Dokumentation hochgradig „unscharf“ lich entscheiden kann, wägt er die Argumente
ist und auch in Zukunft sein wird, denn diese des Ratgebers und die eigenen Überlegungen ab
Unschärfe liegt nicht an der Unfähigkeit des und trifft dann eine begründete Entscheidung.
Arztes Information präzise einzugeben, son- Eine KI, die in einen solchen Entscheidungspro-
dern ist vielmehr dem klinischen Alltag und der zess in verantwortlicher Form eingreifen soll,
Natur des Gegenstandes inhärent. Somit müs- muss also argumentfähig sein.
sen CDS-Systeme, die klinische Informationen Die einfachste Form der Argumentations-
zusammenschauen und deuten sollen, mit die- fähigkeit sieht in der Praxis so aus, dass eine
sen Unschärfen umgehen können: Maschine die verschiedenen Gründe und de-
Es muss Wissen darüber vorliegen, welche ren interne Gewichtungen offenlegt (s. Abb. 2),
Information wie „unscharf“ ist, also welcher die in der Summe zu dem Ratschlag geführt
semantische Spielraum in Betracht gezogen haben. Eine fortgeschrittene Argumentfähig-
werden muss. keit wäre die Rückführung dieser Gründe auf
Leseprobe aus Werner et al. (Hrsg.), Smart Hospital 97
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche VerlagsgesellschaftII Die digitale Gesundheit
KAS gehören. Sie begründen die Zukunft des Smart
Hospital – denn sie fügen die KI transparent und
bruchlos in die argumentative Kultur menschli-
chen Zusammenarbeitens ein, sparen dem Arzt
Zeit und dokumentieren wichtige Teile medi-
zinisch relevanter Entscheidungsprozesse in
einer maschinell auswertbaren Form, die auf-
grund ihrer immanenten computerlesbaren
Semantik wiederum Ausgangspunkt von hoch effi-
zienten neuen maschinellen Meta-Lernprozessen sein
kann.
Argumentfähigkeit eines KI-Systems besagt,
dass das CDSS dem Nutzer transparent machen
muss, welche Gründe mit welcher Gewichtung
in den Ratschlag eingeflossen sind.
Argumentfähigkeit ermöglicht es der ver-
antwortenden Person, den von der KI gege-
benen Rat begründet anzunehmen oder ab-
Abb. 2 Ada-DX visualisiert dem Nutzer, wie sie zu ihrer Einschätzung gekommen ist.
zulehnen.
Grüne Linien verbinden ein Krankheitsbild mit jenen Symptomen, deren Vorliegen für
Argumentfähigkeit hilft den Menschen zu
diese Erkrankung sprechen, während rote Linien andeuten, dass die Abwesenheit eines
verstehen, wie die Maschine „denkt“, sodass
Symptoms gegen eine Erkrankung spricht. Die Dicke der Linie zeigt jeweils an, wie stark
kritisches Vertrauen entstehen kann.
Ada das „Argument“, also das Vorliegen oder die Abwesenheit eines Befundes gewich-
Argumentfähigkeit schafft die informati-
tet. Auf diese Weise wird es dem Arzt möglich, in groben Zügen nachzuvollziehen, wie
Ada zu ihrer Einschätzung gekommen ist, sodass er sich begründet dafür oder dagegen sche Voraussetzung für kollaborative Meta-
entscheiden kann. Lernprozesse von Mensch und Maschine.
Originalquellen (Literatur, Studien, Fallbei- Ein CDSS muss vertrauenswürdig sein
spiele etc.).
Argumente sind auch eine Voraussetzung Die im vorherigen Abschnitt ausgeführte Argu-
dafür, dass Ratsuchende beginnen zu verste- mentationsfähigkeit ist eine notwendige Vor-
hen, wie die Maschine „denkt“. Und diese Trans- aussetzung dafür, dass der Ratsuchende eine KI
parenz wiederum ist eine notwendige Vorausset- akzeptiert. Um nachhaltiges Vertrauen aufzu-
zung für die Herausbildung nachhaltigen Ver- bauen, sind aufseiten der KI-CDSS Anbieter al-
trauens in die ratgebende KI. lerdings noch mindestens fünf weitere Voraus-
Ein Beispiel, wie eine solche Transparenz setzungen zu schaffen.
bei der diagnostischen Entscheidungsunter- 1. Zertifizierung: Zum einen muss eine Zertifizie-
stützung aussehen kann, zeigt Abbildung 3. rung als Medizinprodukt vorliegen. CDSS,
Generell eignet sich die visuelle Synopse für die tief in die Entscheidungsfindung des
diese Aufgabe, da sie auf einen Blick eine ganze Arztes eingreifen, gehören in der Regel den
Reihe von Informationen ins Gesichtsfeld des Klassen 2b oder 3 an. Bei Medizinproduk-
Ratsuchenden bringt, sodass dieser die einzel- ten geht es in erster Linie um Risikovermei-
nen Informationen als Ganzes und in Einem zu- dung, weniger um Nutzennachweis. Den-
sammenschauen kann. Derartige von KI-Sys- noch fehlen (Stand Nov. 2019) standardi-
temen zusammengestellte visuelle Synopsen sierte und praxistaugliche Verfahren, um
werden in Zukunft zum normalen Alltag eines breit aufgestellte KI-Systeme, die sich hoch-
98 Leseprobe aus Werner et al. (Hrsg.), Smart Hospital
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche Verlagsgesellschaft6 Warum intelligente Decision-Support-Systeme das Betriebssystem eines Smart Hospitals sein und
Medizin menschlicher machen werden II
Abb. 3 Das Ada-DX System ist ein DDSS für Ärzte, das noch nicht als Produkt am Markt verfügbar ist, sondern derzeit mit Partnerkliniken weiterent-
wickelt und getestet wird. Das System erlaubt auch die Eingabe von Labor- und Bildgebungsbefunden. In der Spalte links schlägt Ada weitere Untersu-
chungsschritte vor, in der Spalte rechts werden mögliche Erkrankungen aufgeführt: Im oberen Abschnitt sind diese nach Wahrscheinlichkeiten sortiert,
im mittleren Abschnitt nach Passgenauigkeit. Der untere Abschnitt zeigt ähnliche Fälle aus der Vergangenheit.
frequent (semi‑)autonom fortentwickeln, dikationsspezifisch (wie bisher) möglich,
zu zertifizieren. sodass hierfür neue Standard-Verfahren zu
2. Nachweis der Nützlichkeit: Es sollte ein Nach- konzipieren und zu etablieren sind.
weis vorliegen, dass das KI-basierte CDSS 3. Ethische Rahmung: Entscheidungsunterstüt-
entweder bestehende Prozesse effizienter zungssysteme sind besonders dann hilf-
macht, bestehende Prozesse qualitativ ver- reich, wenn es Ermessens- und Handlungs-
bessert oder beides. Normalerweise erfolgt spielräume gibt, es also eine Entscheidung
der Nachweis am sichersten in Form einer abzuwägen gilt. In solchen Situationen ist
Random-Control-Trial (RCT). Bei breit ange- es wichtig, mögliche Eigeninteressen eines
legten KI-Systemen, die wie z.B. Ada meh- Ratgebers zu kennen. Das gilt auch für
rere Tausend Indikationen umfassen, ist KI-DSS, die von Menschen konzipiert wur-
dieses bewährte Verfahren jedoch nicht in- den. Es muss dokumentiert und dem Nutzer
Leseprobe aus Werner et al. (Hrsg.), Smart Hospital 99
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche VerlagsgesellschaftII Die digitale Gesundheit
bekannt sein, nach welchen Grundsätzen Mit der zunehmenden kognitiven Überlas-
ein Ratschlag errechnet wird. Worauf hin tung des Personals und der gleichzeitig wach-
optimiert der Algorithmus? Optimiert er auf senden Leistungsfähigkeit von CDSS wächst
die Funktionsfähigkeit des Körpers als Gan- der Wunsch nach mehr medizinisch orientier-
zes? Auf Wichtigkeit oder Dringlichkeit? Auf ten KAS-, aber auch KIS-Anwendungen. Die-
Lebensqualität oder Lebenslänge? Auf Mini- ser Druck wird weiter zunehmen, denn die Er-
mierung der Nebenwirkungen oder Maxi- krankten werden in Zukunft durch digitale Ge-
mierung des Medikamenteneffektes? Diese sundheitsassistenzsysteme immer besser vor-
und ähnliche Fragen liegen jedem CDSS zu- informiert und vordiagnostiziert in die Klinik
grunde und die Werte, nach denen der Her- kommen. Sie werden ihre Daten übergeben und
steller sein System auslegt, sollten transpa- die Ergebnisse klinischer Untersuchungen dem
rent sein, damit der Ratsuchende den Rat- Assistenzsystem zugänglich machen wollen.
schlag richtig einordnen kann. Es ist zu be- Sie werden digitale Brüche an der Pforte einer
grüßen, dass die Europäische Union frühzei- Klinik nicht akzeptieren und ihnen werden
tig versucht, derartige ethische Rahmungen Ärzte suspekt sein, die in komplexeren Fällen
für KI-Systeme europaweit zu definieren und nicht auf ein CDSS zurückgreifen. Dabei wer-
zu vereinheitlichen (Smuha 2019; Dratwa den Erkrankte vor allem an medizinischen und
2015). weniger an verwaltungstechnischen Daten In-
4. Datenschutz und Datensicherheit: Nicht alles, was teresse haben.
juristisch erlaubt ist, muss dem Nutzer Eigentlich sollte zwischen Ökonomie und
recht sein. Es ist daher von einem Herstel- Medizin kein Unterschied bestehen, denn der
ler von KI-DSS zu erwarten, dass er transpa- kürzeste Weg zur bestmöglichen Gesundheit
rent macht, wie Daten im System verarbei- sollte sowohl der medizinisch sinnvollste und
tet und persistent gemacht werden und wer ökonomisch günstigste sein. Geboten ist also,
welche Daten zu welchem Zweck nutzen was medizinisch sinnhaft ist und effizient zu
darf. dem mit dem Erkrankten gemeinsam festgeleg-
5. Bildungshintergrund: KI-Systeme fußen stets ten Ziel führt. Diesem Grundsatz sollten auch
auf einer Daten- und/oder Wissensbasis. CDSS folgen.
Diese Basis stellt sozusagen den Bildungs- Wenn eine CDSS-Anwendung auf dieses Ziel
hintergrund des Systems dar. Auch dieser ausgelegt ist, führt das nicht nur zu einer Ver-
sollte bekannt sein, um den Ratschlag rich- söhnung von Medizin und Verwaltung, son-
tig einschätzen zu können. dern legt auch das Fundament für die vielfach
beschworene Patientenzentrierung zukünftiger
Gesundheitssysteme.
Wie KI helfen kann, Medizin, Wirtschaft- Kliniken und Arztpraxen werden sich dar-
lichkeit und Patienten zu versöhnen auf einstellen müssen, dass das Gesundheits-
system der Zukunft auf den Smartphones der
IT-Systeme heutiger Kliniken sind stark abrech- Erkrankten beginnt – und zwar mit hochgra-
nungs- und prozessgetrieben. Dokumentation dig personalisierten und effizienten KI-gestütz-
und Abrechnung von erbrachten Leistungen ten Vordiagnosen (s. Abb. 1). Diese Vordiagno-
stehen bei der Nutzung von IT-Systemen in Kli- sen werden das genetische Profil des Erkrank-
niken historisch und rechtlich bedingt im Vor- ten ebenso berücksichtigen können wie dessen
dergrund. Medizinische Entscheidungsunter- Sensordaten, Lifestyle-Risikofaktoren, Persön-
stützung ist allenfalls ein zusätzliches Modul. lichkeitsmerkmale und Familienanamnese. Sie
Die Hauptlogik der Systeme bleibt ökonomi- werden die Situation des Erkrankten im Lichte
scher und juristischer Natur. dieser Faktoren analysieren und dem Arzt die
100 Leseprobe aus Werner et al. (Hrsg.), Smart Hospital
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche Verlagsgesellschaft6 Warum intelligente Decision-Support-Systeme das Betriebssystem eines Smart Hospitals sein und
Medizin menschlicher machen werden II
Situation und eine mögliche Interpretation zu- Zeit gegeben, um in Ruhe eine KI-basierte
sammenfassen. Anamnese durchzuführen, sodass der Arzt
Darin liegt eine große Chance für den Medi- präzise und aktuell vorinformiert ist, wenn
zinbetrieb: Eine visuelle Synopse (siehe oben) der Patienten in das Arztzimmer kommt.
dieser Informationen und der akuten Sympto- Solche intelligenten Assistenzsysteme wer-
matik, inklusive Vor-Diagnose und Warnung den aus den Arztpraxen der Zukunft nicht
vor evtl. vorliegenden seltenen Erkrankungen – wegzudenken sein.
ein solches Exposé als „Briefing“ spart dem Arzt 3. CDSS im Zentrum für seltene Erkrankungen: In sei-
Zeit, dokumentiert die Situation und sichert nem Buch „Der Krankheitsermittler“ (Schä-
eine Diagnose ab. Entsprechendes gilt für The- fer 2016) beschreibt Jürgen Schäfer vom Zen-
rapie und Monitoring. trum für unerkannte und seltene Erkran-
Am ehesten werden diese Vorteile von jenen kungen in Marburg eindringlich die Not-
Abteilungen erkannt, bei denen Erkrankte als wendigkeit, bei der Diagnosefindung auf
erstes und als letztes aufschlagen: den Notauf- computerbasierte Werkzeuge zurückzugrei-
nahmen und den Zentren für seltene Erkran- fen, wie z.B. FindZebra, Phenomizer oder Orpha-
kungen. net. Dies ist dem Umstand geschuldet, dass
1. CDSS in der Notfallaufnahme: Etwa 20 Mio. ambu- die Anzahl von seltenen Erkrankungen zu
lante Notfälle verzeichnen die Bereitschafts- groß ist, als dass selbst ein Spezialist auf
dienste und Notfallambulanzen in Deutsch- diesem Gebiet sie alle überschauen könnte.
land jedes Jahr, wobei der Anteil der klini- Durch geschickte Verknüpfung leistungs-
schen Notfallambulanzen zwischen 2009 fähiger Vor-Diagnose-Systeme wie der Ada-
und 2015 von gut 32% auf knapp 45% gestie- App mit Arzt-CDS-Systemen wie Ada DX
gen ist. Dringendes und Wichtiges aus die- wird die Diagnose seltener Erkrankungen
sem Strom herauszufiltern und klinikintern zukünftig deutlich effizienter vonstatten-
an die richtigen Abteilungen zu überstellen, gehen können. Erste Studien zeigen, dass
ist eine hohe kognitive und finanzielle Be- die Hoffnung, dass KI-gestützte DDSS die
lastung. Während sich für die Einschätzung Experten in derartigen Zentren substanziell
der Dringlichkeit die Triage-Verfahren weit- unterstützen können, berechtigt erscheint
gehend etabliert haben, birgt die Einschät- (Ronicke et al. 2019). Siehe hierzu auch das
zung von Wichtigkeit (Ist eine Einweisung folgende Zitat einer Ada-Anwenderin:
nötig?) und Fachgebiet (In welche Abteilung
muss überstellt werden?) viel Fehlerpoten- „Hallo, mein Name ist Alyssa und seit Jahren habe ich
zial, mit häufig erheblichen Kosten. Das gilt starke Unterleibsschmerzen. Ich war bei vielen Ärz-
besonders an Wochenenden. KI-Anamne- ten und es wurden sehr viele Tests und Operationen
se-Systeme wie Ada können hier in Zukunft durchgeführt, um herauszufinden, welches Problem
Entlastung bieten, indem die Wartezeit für ich hatte – es begann, mein Leben zu übernehmen.
die Anamnese, eine strukturierte Dokumen- Ich konnte nicht arbeiten, ich konnte nicht zur Schule
tation und eine Vor-Diagnose genutzt wird. gehen und es hat mein Privatleben stark belastet.
2. CDSS in der Primärversorgung: In den letzten zwei Schließlich gab ich einfach auf und habe versucht, zu
Jahren ist deutlich zu beobachten, wie im- lernen, mit diesem ständigen Schmerz zu leben. Dann
mer mehr junge Ärzte, die alleine oder im sah ich eines Tages, während ich auf Facebook war,
Verbund eine Praxis eröffnen wollen, nach eine Anzeige für Ada und beschloss, es auszuprobie-
einer KI-Anamnese im Wartezimmer su- ren. Ich ging durch den ganzen Prozess und schließlich
chen. Die Grundidee ist einfach: Während gab sie mir das Ergebnis ‚Funktionelle Bauchschmer-
die Patienten im Wartezimmer (oder zu zen oder CAPS‘ und während ich die Symptome und
Hause) auf den Termin warten, ist genug Behandlungsmöglichkeiten las, fing ich an zu weinen,
Leseprobe aus Werner et al. (Hrsg.), Smart Hospital 101
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche VerlagsgesellschaftII Die digitale Gesundheit
weil endlich jemand in der Lage war, mir zu sagen, was möchte, bietet die große Chance, zu einem
los ist! Ich weiß, dass sie keine echte Ärztin ist, aber Patient-Centric-Design von KIS/KAS zu kom-
ich bin mit dieser Info zu einem echten Arzt gegangen men, bei dem das medizinisch Notwendige,
und jetzt bekomme ich die Hilfe, die ich seit Jahren von KI-gestützt, den Prozess treibt und es kei-
brauche und ich möchte mich nur bei Dir bedanken!“ nen Medienbruch zum Patienten mehr gibt. KI
wird hier für beide Seiten, Patient und Arzt, die
Diese Nachricht der Ada-Anwenderin Alyssa medizinisch begründete Plattform stellen.
gibt eine Vorahnung darauf, wie KI-basierte
DDSS für Patienten das Gesundheitssystem
der Zukunft beeinflussen werden. Alyssa be- Literatur
schreibt darin, wie sie nach einem langwieri- Böttinger E (2019) Wendepunkt für Gesundheit. In: Böttinger E, zu
gen und erfolglosen Diagnoseprozesse vom Ada Putlitz (Hrsg.) Die Zukunft der Medizin. Medizinisch Wissen-
Chatbot den entscheidenden Hinweis auf ihre schaftliche Verlagsgesellschaft Berlin
seltene Erkrankung CAPS (Cryopyrin-Associated Dratwa J (Hrsg.) (2015) European Group on Ethics in Science and
New Technologies – The ethical implications of new health
Autoinflammatory Syndrome) bekommt. Es ist
technologies and citizen participation. URL: http://ec.europa.
zu hoffen, dass KI-basierte Apps wie Ada hel- eu/research/ege/pdf/opinion-29_ege.pdf (abgerufen am
fen werden, die durchschnittlich 5–7 Jahre dau- 30.03.2020)
ernde Zeitspanne bis zur Diagnosefindung einer Hunink M et al. (2014) Decision Making in Health and Medicine.
seltenen Erkrankung, deutlich zu verkürzen. 2. Aufl. Cambridge University Press
Rienhoff O, Semler SC (Hrsg.) (2015) Terminologien und Ordnungs-
Immer mehr Erkrankte werden KI-Systeme systeme in der Medizin: Standortbestimmung und Handlungs-
nutzen, um Erklärungen für die eigene Erkran- bedarf in den deutschsprachigen Ländern. Schriftenreihe der
kung zu finden, und werden die Recherche-Er- TMF. Medizinisch Wissenschaftliche Verlagsgesellschaft Berlin
gebnisse beim Arztgespräch berücksichtigt se- Ronicke S et al. (2019) Can a decision support system acceler-
ate rare disease diagnosis? Evaluating the potential im-
hen wollen. Der Erkrankte wird digitale Brüche
pact of Ada DX in a retrospective study. Orphanet J Rare Dis.
an den Pforten der Kliniken nicht akzeptieren Mar 21;14(1):69. doi: 10.1186/s13023-019-1040-6
und auch darauf bestehen, dass Befunde aus Schäfer J (2016) Die Krankheitsermittler: Wie wir Patienten mit
der Klinik in digitaler Form zu ihm zurückge- mysteriösen Krankheiten helfen. Knaur Verlag München
spielt werden. Dieser „Druck“, gekoppelt mit Smuha N (2019) (Koordinatorin) Ethik-Leitlinien für eine vertrauens-
würdige KI; Hochrangige Expertengruppe für künstliche Intel-
dem Umstand, dass es vor allem medizinische ligenz. URL: https://ec.europa.eu/futurium/en/ai-alliance-
Informationen sind, die der Erkrankte haben consultation/guidelines#Top (abgerufen am 30.03.2020)
Prof. Dr. Martin Christian Hirsch
Martin Christian Hirsch ist Co-Founder und Chief Scientific Officer (CSO) von Ada Health, einem 2011 in Berlin gegrün-
deten Gesundheits- und Technologieunternehmen. Nach seinem Studium der Humanbiologie an der Philipps-Uni-
versität in Marburg promovierte er in Neurowissenschaften und setzte anschließend seine Forschungsarbeiten als
unabhängiger Wissenschaftler fort. Sein spezielles Interesse gilt der kognitiven Neurowissenschaft, der Wissensreprä-
sentation durch semantische Modelle und Technologien zur Unterstützung menschlicher Entscheidungsfindung. Vor
der Gründung von Ada Health war Martin Hirsch an verschiedenen Unternehmen mit dem Fokus auf Künstlicher Intel-
ligenz beteiligt. Seit Januar 2020 leitet er das „Institut für KI in der Medizin“ an der Philipps-Universität Marburg.
102 Leseprobe aus Werner et al. (Hrsg.), Smart Hospital
ISBN: 978-3-95466-495-5
(c) Medizinisch Wissenschaftliche VerlagsgesellschaftSie können auch lesen
