Roboterethik Sie sind stark, klug, selbstständig. Und was wird aus uns? - Öffentliche Tagung | 24.11.2015 Karl Storz Besucher- und ...
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Roboterethik Sie sind stark, klug, selbstständig. Und was wird aus uns? Öffentliche Tagung | 24.11.2015 Karl Storz Besucher- und Schulungszentrum Berlin ceres cologne center for ethics, rights, economics, and social sciences of health
Einführung
Roboterethik
Sie sind stark, klug, selbstständig.
Und was wird aus uns?
Immer eigenständigere Roboter halten Einzug Je komplexer autonome Systeme handeln, desto
in unseren Alltag. Bereits heute übernehmen sie dringlicher stellt sich für uns die Grundfrage nach
eine Vielzahl von Aufgaben in der produzierenden der moralischen Fundierung und Rechtfertigung
Industrie, aber auch im Finanzsektor, im Verkehrs der von Maschinen getroffenen Entscheidungen.
wesen, in Landwirtschaft und Bergbau sowie in Wie vermag die „Moral der Maschine“ sicher
der Medizin. Diese maschinellen Systeme werden gestellt, wie weit kann sie ihr von Beginn an
in atemberaubendem Tempo autonomer und „einprogrammiert“ werden? Wer trägt die Verant
können unabhängig von menschlicher Steuerung wortung für die Entscheidungen der Maschine?
agieren und reagieren. In zunehmendem Maße Und wie gehen wir mit „lernfähigen“ Systemen
sind sie in der Lage, auch komplexe Entscheidun um, die zunehmend in der Lage sind, Entschei
gen selbst zu treffen. dungsprozesse eigenständig zu erlernen?
Der allgegenwärtige Einsatz solcher Maschinen Auf der Tagung wird aus dem Blickwinkel der
bringt vielfältige Herausforderungen für die verschiedenen betroffenen wissenschaftlichen
Gesellschaft mit sich. Denkbar ist, dass autonome Disziplinen beleuchtet, wie autonome Systeme
Systeme zu einer Steigerung des Wohlstands und unser Leben und auch unser Selbstverständnis
der sozialen Gerechtigkeit beitragen, zugleich verändern werden und welche Herausforderungen
aber auch, dass sie Arbeitsplätze vernichten und dies für unterschiedliche Lebensbereiche mit sich
sich die Schere zwischen Arm und Reich gar bringt. Neben dem aktuellen Entwicklungsstand,
noch vergrößert. Auch die Selbstbestimmung des den Eigenschaften und Einsatzmöglichkeiten auto
Einzelnen ist betroffen: Während der Einsatz von nomer Systeme wird ihr Einsatz in den Bereichen
autonomen Pflegerobotern in der Altenpflege die Gesundheit, Wirtschaft und Politik insbesondere
Autonomie älterer Menschen im Alltagsleben aus technischer, philosophischer und sozialwis
deutlich erhöhen kann, besteht andererseits die senschaftlicher Perspektive betrachtet und dis
Gefahr, dass eine verstärkte Technisierung zu kutiert. Wir stellen uns der Frage, wie zukünftig
neuen Abhängigkeiten, zu mehr Überwachung mit den rasant anwachsenden und stetig neuen
und dem Verlust eigener Kompetenzen führt. Möglichkeiten einer robotifizierten Gesellschaft
umgegangen werden soll.
3
Grundlagen autonomer Systeme
Prof. Dr. Alin Albu-Schäffer
Autonomie und Kognition
für menschzentrierte Robotik
Prof. Dr. Alin Im Vortrag werden Aspekte adressiert, die aus dem Grundsatz resultieren, den
Albu-Schäffer Menschen in den Mittelpunkt der Roboterentwicklung zu stellen.
ist seit 2012 Direktor am Institut Da Assistenzroboter eng mit Menschen interagieren werden, müssen sie
für Robotik und Mechatronik am bezüglich Größe und Gewicht, aber auch Kraft und Geschwindigkeit mit ihm
Deutschen Zentrum für Luft- und Raum- kompatibel sein. Um die Sicherheit während der Interaktion mit Menschen
fahrt (DLR). Außerdem ist er Professor an zu gewährleisten, müssen humanoide Roboter feinfühlig und „nachgiebig“
der Technischen Universität München und sein, im Gegensatz zu den heute noch weitestgehend starren und schweren
leitet dort den Lehrstuhl für „Sensorbasierte Industrierobotern. Zugleich müssen sie in der Lage sein, menschliche Bewe
robotische Systeme und intelligente gungen und schnell veränderliche Umgebungen in Echtzeit zu erfassen sowie
Assistenzsysteme“ (Fakultät für Informatik). Entscheidungen, Reaktionen und Bewegungen in entsprechender Geschwin
Seine Forschungsgebiete sind die robotische digkeit durchzuführen. Dies stellt die heutige Robotik und die dazu benötigte
Assistenz von der Raumfahrt über die indus- Computertechnik vor gewaltige Herausforderungen, was gleichermaßen die
trielle Produktion, Medizin und Health-Care Hardware, die Algorithmenentwicklung und die Systemintegration betrifft.
bis hin zu persönlichen Assistenzsystemen.
Albu-Schäffer studierte Elektrotechnik an Der Vortrag gibt eine Übersicht über aktuelle Robotik-Trends von der dreh
der Technischen Universität Timisoara, momentgeregelten Leichtbauroboter-Technologie bis hin zu biologisch inspi
Rumänien, und promovierte 2002 an der rierten, intrinsisch nachgiebigen Systemen, die dem antagonistischen Wir
TU München. Er erhielt zahlreiche Auszeich- kungskonzept menschlicher Muskeln nachempfunden sind. Weiterhin werden
nungen im Bereich Robotik, unter anderem die derzeitigen Ergebnisse und künftigen Herausforderungen in der Perzep
den „IEEE Transactions on Robotics King-Sun tion, Kognition und autonomen Planung für die Assistenzrobotik besprochen.
Fu Memorial Best Paper Award“ (2011 und Den Menschen in den Mittelpunkt der Roboterentwicklung zu stellen be
2013), Preise für Publikationen in den führen- deutet aber auch, die Methoden und Werkzeuge der Robotik zu nutzen, um
den Robotik-Zeitschriften und -Konferenzen die menschliche Bewegung und Intelligenz durch einen synthetisierenden
sowie den DLR-Wissenschaftspreis. Ansatz besser zu verstehen. Dieser Ansatz wird beispielhaft am Zusammen
spiel von Biomechanik und neuronaler Steuerung mit dem Entwurf und der
Steuerung humanoider Roboter vorgestellt. Wir werden in Zukunft von dieser
Entwicklung auch insofern profitieren können, als durch sie bessere Mensch-
Maschine-Schnittstellen, robotische medizinische Verfahren, Prothesen und
Rehabilitationsgeräte entwickelt werden können.
4 Daimler und Benz Stiftung
Autonome Systeme und die Selbstbestimmung des Menschen
Prof. Dr. Oliver Bendel
Die Moral in der Maschine
Denkende, entscheidende, handelnde Maschinen sowie gute und böse künst- Prof. Dr. Oliver
liche Kreaturen faszinieren uns von alters her. Denken wir an Talos, den Bendel
Wächter der Insel Kreta, an Pandora, die künstliche Frau mit der Büchse, beide ist Philosoph und Literatur
erschaffen von Hephaistos, Gott des Feuers und der Schmiede, denken wir wissenschaftler sowie
an die Skulpturen des Daidalos und des Pygmalion oder an den Golem, die Informationswissenschaftler.
Homunculi und Frankensteins Monster. Im 18. Jahrhundert wurden Automa Er hat an der Universität St. Gallen in Wirt-
ten erfunden, die Menschen zum Verwechseln ähnlich sahen und die schrei schaftsinformatik über anthropomorphe
ben, zeichnen und musizieren konnten. Heutige Roboter vermögen selbststän Agenten promoviert und wurde im Jahre
dig Entscheidungen zu treffen, die erhebliche Konsequenzen nach sich ziehen, 2009 zum Professor an der Hochschule für
in sozialer wie moralischer Hinsicht. Diese (teil-)autonomen oder autonomen Wirtschaft der Fachhochschule Nordwest-
Maschinen sollen von sozialer Robotik und Maschinenethik gezähmt, dressiert schweiz (FHNW) ernannt. Dort unterrichtet
und zivilisiert werden. Autos erkennen Menschen und Tiere und bremsen er innerhalb von Wirtschaftsinformatik und
rechtzeitig vor ihnen ab. Industrieroboter bewegen sich mit schlafwandle Betriebsökonomie u. a. Informationsethik,
rischer Sicherheit durch Fabrikhallen und behandeln in Arbeitszellen ihre Wirtschaftsethik und Wissensmanage-
menschlichen Kollegen wie rohe Eier. ment. Zu Bendels aktuellen Forschungs-
Serviceroboter bringen Nahrungsmittel und Medikamente und sind „nett“ zu schwerpunkten zählen Informations- und
uns. Chatbots nennen uns eine Notfallnummer, die wir anwählen können, um Maschinenethik. Vor allem widmet er sich
menschliche Hilfe zu erhalten. Es ist damit zu rechnen, dass manche Roboter den Entscheidungen und Handlungen von
und (teil-)autonome Maschinen angesichts der Fülle dieser Aufgaben auch Chatbots, Servicerobotern, Fotodrohnen
falsche Entscheidungen treffen werden. Oder solche, die interessengeleitet und selbstständig fahrenden Autos. Er stellt
sind. Autos, die Kinder schonen und Rentner umfahren, oder Drohnen, die den in diesen Bereichen theoretische (philo-
unbescholtenen Zwilling des Terroristen eliminieren, werden für Diskussionen sophische und technische) Überlegungen
sorgen. an, entwickelt Ansätze und Konzepte und
initiiert Projekte wie den GOODBOT und
Das „Moralisieren“ der Maschinen bringt Vorteile, aber es lädt auch zum den CLEANINGFISH.
Manipulieren ein. Zu den Nachteilen gehört nicht zuletzt der zumindest Weitere Informationen unter
partielle Verlust menschlicher Autonomie, ausgerechnet im Sittlichen und www.informationsethik.net und
Sozialen. Im Vortrag geht Bendel auf die Disziplin der Maschinenethik ein www.maschinenethik.net.
und stellt einfache moralische Maschinen vor, mitsamt den annotierten Ent
scheidungsbäumen für ihre Umsetzung. Er plädiert dabei nicht nur für eine
Erweiterung, sondern auch für eine Beschränkung der Handlungsspielräume
von Maschinen.
Roboterethik Sie sind stark, klug, selbstständig. Und was wird aus uns? 5
Autonome Systeme und die Gestaltung unserer Gesellschaft
Prof. Dr. Hartmut Hirsch-Kreinsen
Autonome Systeme in der
industriellen Arbeitswelt
Prof. Dr. Hartmut Der Vortrag fokussiert die Folgen des Einsatzes intelligenter Produktions
Hirsch-Kreinsen systeme für die industrielle Arbeitswelt. Angesprochen wird damit eine tech
ist seit 1997 Professor an der nologische Vision, die in der deutschen produktionswissenschaftlichen und
Technischen Universität Dortmund, innovationspolitischen Debatte unter dem prominenten Label „Industrie 4.0“
Lehrstuhl Wirtschafts- und Industrie thematisiert wird. In Hinblick auf den Wandel industrieller Arbeit werden im
soziologie. Nach seinem Studium des Vortrag folgende Thesen zur Diskussion gestellt:
Wirtschaftsingenieurwesens promovierte
und habilitierte er an der Technischen Uni- 1 | Es ist mit einem weitreichenden, bislang jedoch kaum prognostizierbaren
versität Darmstadt. Zudem war er u. a. als Wandel von Arbeit zu rechnen. Zum einen sind die möglichen Automatisie
wissenschaftlicher Mitarbeiter am Institut rungs- und Freisetzungseffekte der neuen Technologien derzeit schwerlich
für Sozialwissenschaftliche Forschung e. V., endgültig abzuschätzen. Negativen Prognosen zu den Auswirkungen auf den
München (ISF München) tätig. Seine Arbeitsmarkt stehen positive über Arbeitsplatzgewinne gegenüber.
Arbeitsschwerpunkte sind wirtschaftlicher Zum anderen ist ein breites Spektrum denkbarer Konsequenzen für Tätig
Strukturwandel, Entwicklungstendenzen keiten und Qualifikationen zu erwarten, das von einer fortschreitenden Polari
von Produktionsarbeit sowie Technologie- sierung von Qualifikationen bis hin zu einer generellen Aufwertung
entwicklung und industrielle Innovations- von Qualifikationen reicht.
prozesse.
Bereits seit Längerem befasst er sich 2 | Es ist davon auszugehen, dass der Wandel von Arbeit grundsätzlich
intensiv mit dem Konzept Industrie 4.0 arbeitspolitischer und gesellschaftspolitischer Gestaltung zugänglich ist. Es
und seinen personalwirtschaftlichen darf nicht vorausgesetzt werden, dass Industrie 4.0 „technikdeterministisch“
Konsequenzen. Er ist Visiting Professor an eindeutige Konsequenzen nach sich zieht; vielmehr sind die neuen Technolo
verschiedenen ausländischen Universitäten gien konzeptionell im Anschluss an die Arbeitsforschung als sozio-technische
und Mitglied hochrangiger nationaler und Systeme zu begreifen.
internationaler innovationspolitischer Bera-
tungsgremien. Seit 2013 ist er sozialwissen- 3 | Insgesamt verbinden sich mit dem absehbaren Technologieschub sowohl
schaftliches Mitglied im wissenschaftlichen Risiken als auch Chancen für die künftige Entwicklung industrieller Arbeit.
Beirat der Plattform Industrie 4.0 bei der Als Risiken sind beispielsweise die Gefahr einer zunehmenden Entgrenzung
Deutschen Akademie der Technikwissen- von Arbeit oder ein deutlich erhöhtes Kontrollpotenzial von Arbeit anzusehen.
schaften acatech. Demgegenüber bietet die aktuelle Situation vor allem die Chance, einen neuen
gesellschaftspolitischen Diskurs über die Frage zu führen, welche Formen von
Arbeit in Zukunft wünschenswert sind.
6 Daimler und Benz Stiftung
Roboterethik Sie sind stark, klug, selbstständig. Und was wird aus uns? 7
8 Daimler und Benz Stiftung
Prof. Dr. Norbert Lammert
Zur Rolle der Politik
Der zunehmende Einsatz von Robotern bzw. sich selbst steuernden Systemen Prof. Dr. Norbert
wird unsere Gesellschaft verändern. Dies betrifft sämtliche Lebensbereiche Lammert
wie etwa das Arbeits- und Wirtschaftsleben, das Verkehrswesen, die Kranken- studierte von 1969 bis 1975
und Altenpflege, die innere und äußere Sicherheit sowie das direkte Wohn Politikwissenschaft, Sozio-
umfeld. Viele Veränderungen durch den Einsatz von Robotern können von logie, Neuere Geschichte
großem Nutzen für die Menschen sein. So ist es denkbar und zum Teil bereits und Sozialökonomie an den Universitäten
Realität, dass autonome Systeme körperlich beschwerliche oder sogar gefähr Bochum und Oxford (England); 1975 pro-
liche Arbeiten übernehmen, Entscheidungsprozesse unterstützen und zu einer movierte er im Fachbereich Sozialwissen-
steigenden Effizienz beispielsweise in der Krankenversorgung führen. Dem schaften. Danach war er zunächst Lehr
gegenüber stehen jedoch absehbare und nicht absehbare Probleme, die ein beauftragter für Politikwissenschaft an den
zunehmender Einsatz von Robotern mit sich bringen kann. So wird befürch Fachhochschulen Bochum und Hagen; seit
tet, dass hierdurch in naher Zukunft ein Verlust von Arbeitsplätzen droht, 2005 ist er Lehrbeauftragter an der Fakultät
neue Abhängigkeiten von Maschinen generiert werden und die Entwicklung für Sozialwissenschaft der Ruhr-Universität
letztendlich in einen Mangel an menschlicher Empathie und Kommunikation Bochum, die ihn 2008 zum Honorarprofes-
mündet. Trotz der genannten Probleme ist davon auszugehen, dass der techni sor ernannte.
sche Fortschritt im Bereich autonom agierender Roboter sich weiter fortsetzen Seit 1986 ist Lammert Mitglied des Landes-
und sogar noch beschleunigen wird. vorstandes der CDU Nordrhein-Westfalen,
1986 bis 2008 war er Vorsitzender des CDU-
Die Förderung von technischer Innovation und ihren positiven Folgen sowie Bezirksverbandes Ruhr. Von 1989 bis 1998
die Regulierung der Rahmenbedingungen für Innovationen zur Vermeidung war er parlamentarischer Staatssekretär in
negativer Folgeerscheinungen fallen in den Verantwortungsbereich der verschiedenen Bundesministerien. Seit 1980
Politik. Sie hat letztlich mittels legitimierender Verfahren zu entscheiden, ist er Mitglied des Deutschen Bundestags,
welche Interessen und Bedürfnisse einer Gesellschaft höher zu gewichten sind dem er seit 2005 als Präsident vorsitzt.
(z. B. wirtschaftliche vor sozialen Interessen und Bedürfnissen), welche Ziele Er veröffentlichte zahlreiche Schriften zur
kurz- und mittelfristig erstrebenswert sind, und dies durch Regulierungs- oder Parteienforschung sowie zu gesellschafts-,
Förderungsmaßnahmen um- und durchzusetzen und entgegengesetzte Bestre wirtschafts- und kulturpolitischen Themen.
bungen gegebenenfalls auch zu untersagen.
Die Frage, wie und in welchem Ausmaß die Politik regulierend eingreifen darf
oder muss, führt zu der Frage, inwiefern sie es auch kann. Dabei ist zu disku
tieren, welche Maßnahmen der Politik gerade in der heutigen Zeit globalisier
ter Unternehmen für eine wirksame Gestaltung guter Rahmenbedingungen
im eigenen Staat zur Verfügung stehen. Darüber hinaus ist zu fragen, ob die
Interessen der Bürgerinnen und Bürger bezüglich autonomer Systeme und
Roboter angemessen politisch vertreten sind.
Schließlich stellt sich auch die Frage, ob die Demokratie selbst in Gefahr gerät.
Zum einen sofern politische Entscheidungen an Expertensysteme und Roboter
delegiert würden, zum anderen angesichts wirtschaftlich und ideologisch
mächtiger Monopole mit ihrem Anspruch, die ganze Welt zu verändern – am
liebsten an politischen Entscheidungsprozessen vorbei.
Roboterethik Sie sind stark, klug, selbstständig. Und was wird aus uns? 9
Autonome Systeme und die Selbstbestimmung des Menschen
Prof. Dr. Catrin Misselhorn
Maschinen mit Moral?
Theoretische Grundlagen und eine Roadmap
für autonome Assistenzsysteme in der Pflege
Prof. Dr. Catrin Mit zunehmender Autonomie geraten künstliche Systeme in Situationen, die
Misselhorn moralische Entscheidungen verlangen. Bereits heute existieren Assistenz
ist seit 2012 Inhaberin des Lehr- systeme, die in der Altenpflege eingesetzt werden. In Prognosen zur Bevölke
stuhls für Wissenschaftstheorie rungsentwicklung wird unter dem Stichwort „Pflegenotstand“ davon ausge
und Technikphilosophie sowie Direktorin gangen, dass bis zum Jahr 2030 in Deutschland bis zu 500.000 Pflegekräfte
des Instituts für Philosophie der Universität fehlen. Der Einsatz von Assistenzsystemen bietet eine Möglichkeit, um dem
Stuttgart. Sie studierte an der Universität Pflegenotstand entgegenzuwirken. Doch dieses Anwendungsgebiet künstli
Tübingen und der University of North cher Systeme erweist sich als im moralischen Sinn hochgradig problematisch.
Carolina at Chapel Hill. 2003 erfolgte die Selbst wenn wir darauf bestehen, dass Menschen in der Pflege nicht vollstän
Promotion und 2010 die Habilitation im dig durch Assistenzsysteme ersetzt werden dürfen, bleibt doch eine Vielfalt
Fach Philosophie an der Universität Tübin- von Situationen, in denen das Verhalten von künstlichen Systemen in einem
gen. Von 2007 bis 2008 war sie als Feodor bestimmten Umfang von den Pflegebedürftigen selbst kontrolliert werden
Lynen-Stipendiatin am Center of Affective muss. Daher ist es erforderlich, Maschinen zu entwickeln, die über ein gewis
Sciences in Genf sowie am Collège de France ses Maß an eigenständiger Entscheidungsfähigkeit verfügen und auf mora
und am Institut Jean Nicod für Kognitions- lisch relevante Situationen in angemessener Art und Weise reagieren können.
wissenschaften in Paris tätig.
Zu ihren Forschungsschwerpunkten gehören Im Vortrag sollen die Grundlagen der Implementation moralischer Fähigkeiten
die emotionale Mensch-Maschine-Inter- und des moralischen Lernens in künstlichen Systemen reflektiert werden. Im
aktion, moralisches Lernen und Moral Rahmen eines innovativen Forschungsdesigns werden an der Schnittstelle von
implementation in künstlichen autonomen Philosophie und Informatik theoretische Modelle der Moralimplementation
Systemen, Roboterethik allgemein sowie und des moralischen Lernens in künstlichen Systemen vorgestellt und eine
die ethische Bewertung von Assistenz- und Roadmap für die Konstruktion eines moralisch lernfähigen Systems im Be
Pflegerobotern. Sie leitet eine Reihe von reich Altenpflege entwickelt. Dessen Aufgabe ist es, im Kontext der Altenpflege
Projekten, etwa Ethische Bewertung von zunächst bestimmte ethisch relevante Merkmale einer Situation zu erkennen.
Systemen zur Effizienzsteigerung und Assis- Schließlich soll das künstliche System in der Interaktion mit Pflegebedürfti
tenz bei Produktionsprozessen im Rahmen gen lernen, unterschiedliche moralische Werte individuell auf das Wertprofil
von motionEAP (gefördert vom BMWi); der Pflegebedürftigen abgestimmt zu gewichten und sein Verhalten dement
ethische Bewertung von Systemen zur sprechend anzupassen.
ambienten Unterstützung in der heimischen
Pflege im Rahmen von DAAN (gefördert
vom BMBF); das DFG-Projekt „Simulating
Collective Agency and Decision Processes im
Exzellenzcluster SimTech (Simulation Tech-
nology“ der Universität Stuttgart sowie das
DFG-Projekt „Meta-Cognition in Distributed
Intelligent Systems“ an der Graduate School
of Excellence advanced Manufacturing Engi-
neering (GSaME) der Universität Stuttgart.
10 Daimler und Benz StiftungRoboterethik Sie sind stark, klug, selbstständig. Und was wird aus uns? 11
12 Daimler und Benz Stiftung
Autonome Systeme und die Selbstbestimmung des Menschen
Prof. Dr. Jochen Steil
Roboterlernen ohne Grenzen?
Prof. Dr. Jochen Steil
Was und wie können technische Systeme lernen? Wie sozial müssen Roboter studierte Mathematik und
sein, um effektiv zu lernen? Wie wirken sich Fortschritte in der künstlichen Slawistik. Er promovierte
Intelligenz aus? Derzeit entstehen mächtige und neuartige Robotertechnolo 1999 in Neuroinformatik und
gien. Deshalb stellen sich diese Fragen mit großer Dringlichkeit. Dies gilt habilitierte sich 2006 an der
vor allem, wo die Lernaufgaben für Teilfähigkeiten gut definierbar sind und Universität Bielefeld mit einer Arbeit über
mithilfe großer Datenmengen bewältigt werden können. Es gibt jedoch fun Lernarchitekturen für Roboter. Im Jahr 2006
damentale Unterschiede zwischen rein datenbezogenen Lernsystemen, der war er am Honda Research Institute Europe
virtuellen Welt und lernenden Robotern in der physikalischen Welt. GmbH tätig, wo er mit dem humanoiden
Roboter ASIMO arbeiten konnte. Seit 2007
Der Blick in die aktuelle Roboterforschung zeigt, dass Lernen nicht automa ist Steil Geschäftsführer des Bielefelder
tisch Autonomie erzeugt oder erfordert und in vielen Formen auftritt. Diese Forschungsinstituts für Kognition und
Vielfalt kennzeichnet auch das menschliche Lernen, das parallel auf vielen Robotik (CoR-Lab) und Projektleiter im
Ebenen operiert. Diese reichen von der Wahrnehmung über Handlungsabläufe DFG-Exzellenzcluster „Kognitive Interakti-
bis hin zur Sprache. Dementsprechend benötigt künstliches Lernen komplexe onstechnologie“. Dabei verbindet er den
Vorbedingungen, so dass Roboterlernen heute ganz überwiegend nur unab Forschungsbereich Kognitive Robotik mit
hängige Teilfähigkeiten realisiert. Damit soziale Roboter, die mit Menschen Anwendungen von Mensch-Maschine-Inter-
interagieren, autonom entscheidungsfähig werden könnten, ist deutlich mehr aktion für Produktionsassistenz, insbeson-
erforderlich. Mindestens wäre zusätzlich eine Bewertung und Koordination dere im BMBF-Spitzencluster „Intelligente
von Entscheidungen im Rahmen eines Handlungssystems notwendig. Dieses Technische Systeme“. Er war von 2010 bis
müsste zudem an die konkreten physischen Möglichkeiten des Roboters ange 2014 Koordinator des integrierten EU-Robo-
passt sein und eigene Ziele beinhalten. tikprojektes „FP7-AMARSi“ zum Bewegungs-
lernen und leitet das EU-H2020-Projekt
Solche Kontrollarchitekturen, die sämtliche relevanten Ebenen flexibel und „CogIMon“ zur Kraftinteraktion. Seit 2015
lernend miteinander verbinden, sind jedoch ungeheuer komplex und bis dato ist Steil Visiting Professor an der Oxford
weitgehend unverstanden. Anwendungen gelingen typischerweise in abgrenz Brookes University, wo er den Aufbau eines
baren Teilwelten, beispielsweise bei der Navigation in Gebäuden oder für Robotikschwerpunkts unterstützt.
flexible Produktionstechnik. In solchen Bereichen werden Roboter viele Aufga
ben übernehmen, die heute noch dem Menschen vorbehalten sind. Dennoch
kann ein Roboter, der Besucher im Museum herumführt, eben nicht einfach
so entscheiden bzw. lernen, das Museum stattdessen etwa zu reinigen. Der
vollständig autonome lernende Roboter bleibt vorläufig Fiktion.
Roboterethik Sie sind stark, klug, selbstständig. Und was wird aus uns? 13Autonome Systeme und die Gestaltung unserer Gesellschaft
Prof. Dr. Johannes Weyer
Autonome Technik außer Kontrolle?
Möglichkeiten und Grenzen der
Echtzeitsteuerung komplexer Systeme
Prof. Dr. Johannes Weyer Im Laufe nur eines Jahrzehnts hat die Wissensgesellschaft einen massiven
geb. 1956, ist seit 2002 Professor Technisierungsschub erlebt, der in Durchschlagskraft und Geschwindigkeit
für Techniksoziologie an der Techni- seinesgleichen sucht. Mittlerweile sind nahezu alle gesellschaftlichen Bereiche
schen Universität Dortmund. Er hat (bis hin zur Privatsphäre) in einem zuvor unvorstellbaren Maße von Technik
in Marburg promoviert (1983) und durchdrungen, die immer stärker autonom agiert und zum Knoten umfassen
in Bielefeld habilitiert (1991). Seine Arbeits- der Datennetze wird. Neben der – bislang dominierenden und auch weiterhin
schwerpunkte sind die Steuerung komplexer wichtigen – Debatte über Sicherheitsrisiken, den Verlust der Privatsphäre etc.
sozio-technischer Systeme (sowie deren sind die neuartigen Möglichkeiten der Echtzeitsteuerung komplexer Systeme
Umsteuerung), die Mensch-Maschine- bislang noch kaum in den Blickpunkt der öffentlichen und akademischen
Interaktion in hochautomatisierten Ver- Debatte gerückt.
kehrssystemen sowie die Netzwerkanalyse.
In den letzten Jahren hat er verstärkt die In der Echtzeitgesellschaft stehen massenhaft Daten zur Verfügung, die teils
Methode der agentenbasierten Modellie- die User (meist sogar freiwillig), teils deren autonome Assistenten (oftmals
rung und Simulation (ABMS) eingesetzt, um hinter deren Rücken) an die großen Datendienstleister übermitteln – und zwar
die genannten Themen experimentell zu unmittelbar zum Zeitpunkt ihres Entstehens. Moderne Techniken des Big Data
untersuchen. ermöglichen diesen Dienstleistern wiederum, praktisch ohne Zeitverzug und
Seine wichtigsten Buchpublikationen sind: hochautomatisiert aus diesen Daten Lagebilder zu generieren, die Prognosen
„Soziale Netzwerke. Konzepte und Metho- über den künftigen Systemzustand („predictive analysis“) enthalten, und
den der sozialwissenschaftlichen Netzwerk- diese Informationen zudem an die User (bzw. deren Assistenten) zurückzu
forschung“, München 2014; „Management spielen. Auf diese Weise ist es möglich, das Verhalten einzelner Personen wie
komplexer Systeme. Konzepte für die Bewäl- auch komplexer Systeme in Echtzeit zu steuern.
tigung von Intransparenz, Unsicherheit und
Chaos“, München 2009; „Techniksoziologie. Der Vortrag beleuchtet diese Thematik auf mehreren Ebenen: Er präsentiert
Genese, Gestaltung und Steuerung sozio- einige Fallbeispiele und legt dar, mit welchen theoretischen Konzepten und
technischer Systeme“, Weinheim 2008. methodischen Verfahren die Soziologie sich diesem Themenfeld nähert. Eine
große Aufgabe besteht darin zu verstehen, wie die Echtzeitsteuerung kom
plexer Systeme funktioniert, die nicht mehr nur von menschlichen Entschei
dern, sondern auch von autonomen technischen Agenten bevölkert sind, die
zunehmend an Entscheidungen beteiligt sind. Der Vortrag thematisiert die
Chancen und Risiken dieser Entwicklungen. Zudem stellt er die Frage, ob
diese Entwicklungen einer von technischen Algorithmen getriebenen Echt
zeitsteuerung noch kontrollierbar sind und wie moderne Instrumentarien
und institutionelle Mechanismen einer Regulierung der Echtzeitgesellschaft
aussehen könnten.
14 Daimler und Benz Stiftungceres
cologne center for
ethics, rights, economics, and social sciences
of health
Die operativ tätige und gemeinnützige Stiftung ceres, das Cologne Center for Ethics, Rights,
zählt zu den großen wissenschaftsfördernden Economics, and Social Sciences of Health, ist
Stiftungen Deutschlands. ein Zentrum für die interdisziplinäre For
Leitprojekt der Stiftung ist das Förderpro schung, Aus- und Fortbildung sowie Beratung
gramm „Villa Ladenburg“, das internationale zu gesellschaftsrelevanten Fragen im Bereich
Wissenschaftler rund um das Thema Mobilität der Gesundheit. Es wird getragen von fünf
und Gesellschaft an einen Tisch bringt. In Fakultäten und dem Rektorat der Universität
ihrem Postdoktorandenprogramm fördert die zu Köln. Die gezielt inter- und transdisziplinäre
Stiftung herausragende junge Wissenschaftler. Ausrichtung von ceres ermöglicht die Bün
In den Forschungsprogrammen „Ladenburger delung bislang kaum verknüpfter Forschung
Diskurse“ und „Ladenburger Kollegs“ wird die und damit einen übergreifenden wie praxisre
Durchdringung des täglichen Lebens mittels levanten Erkenntnisgewinn. ceres stellt sich
moderner Technologien untersucht. drängenden Fragen unserer Zeit, sucht jenseits
Die „Berliner Kolloquien“ sowie die ebenfalls disziplinärer Grenzen Lösungen und erarbeitet
in Berlin stattfindenden „Innovationsforen“ Konzepte zur gerechten und guten Gestaltung
verstehen sich als Schnittstelle zwischen unserer Zukunft.
Wissenschaft, Wirtschaft und Gesellschaft.
Einmal jährlich vergibt die Stiftung den mit Kontakt:
10.000 Euro dotierten „Bertha Benz-Preis“ an Prof. Dr. Christiane Woopen,
eine junge Ingenieurin, die sich durch eine Geschäftsführende Direktorin
wissenschaftlich hervorragende Doktorarbeit ceres – Cologne Center for Ethics, Rights,
ausgezeichnet hat. Economics, and Social Sciences of Health
Universitätsstr. 91
Kontakt: 50931 Köln
Dr. Jörg Klein, Geschäftsführer
Tel. +49 221 - 470 - 891 10
Daimler und Benz Stiftung
Fax +49 221 - 470 - 891 01
Dr.-Carl-Benz-Platz 2
68523 Ladenburg Ansprechpartner:
Dipl. Jur. Anna Genske, M. mel.
Tel. +49 6203 - 1092 - 0
Tel. +49 221 - 470 - 891 36
Fax +49 6203 - 1092 - 5
Marc Jannes, M. Sc.
Kommunikation:
Tel. +49 221 - 470 - 891 09
Dr. Johannes Schnurr Tel. +49 176 - 216 446 92
Patricia Piekenbrock Tel. +49 152 - 289 093 77 ceres-info@uni-koeln.de
www.ceres.uni-koeln.de
info@daimler-benz-stiftung.de
www.daimler-benz-stiftung.de
Bildnachweise
Titelbild: Composing unter Verwendung
von fotolia ©Alexander Pekour und
fotolia©sarah5
Porträtsfotos: privat
Sonstige: Daimler und Benz Stiftung/
OestergaardSie können auch lesen
