Mensch, Maschine!
Wer wird künftig den Ton angeben?
Foto: Carsten Kolbe-Weber
Wie stellen wir uns die Zukunft vor? Wo verlaufen die Grenzen zwischen digitaler und analoger Welt? Werden die Maschinen die Menschen bald beherrschen? Und: Was macht uns eigentlich menschlich? In Berlin diskutierten Wissenschaftler und Philosophen in der Diskussionsreihe "Fokus@Helmholtz".
Podiumsdiskussion: Enno Park, Vorsitzender des Cyborg-Vereins, Raúl Rojas, Professor für Informatik, Spezialgebiet Künstliche Intelligenz, Freie Universität Berlin, Christian Schwägerl, Autor und Journalist, Janina Sombetzki, Technikphilosophin, Christian-Albrechts-Universität zu Kiel, Klaus Wiegerling, Institut für Technikfolgenabschätzung und Systemanalyse (ITAS), Karlsruher Institut für Technologie. Moderation: Janine Tychsen.
Christian Schwägerl, Journalist und Autor des Buches „Die analoge Revolution“, stimmte mit einem Impulsvortrag das Publikum auf das komplexe Thema „Mensch-Maschine“ ein. In kurzen Videosequenzen zeigte er ständig umfallende Roboter bei ihren Versuchen, menschliche Tätigkeiten nachzuahmen, beispielsweise eine Tür zu öffnen. Ein guter Einstieg in die Diskussion, der die rund 100 Teilnehmer zum Lachen brachte. In diesem Fall zeigte sich deutlich: Der Mensch ist der Maschine überlegen. Entwarnung!? Weit gefehlt.
Des Menschen Welt
Der Mensch schafft sich eine durchtechnisierte, digitalisierte Welt, Die Technik durchdringt nicht mehr nur einzelne Aspekte des Lebens wie Energiewirtschaft oder Mobilität, sondern alle Lebensbereiche. Technik für den Menschen – vernetzt allzeit überall bereit!
Klaus Wiegerling und Christian Schägerl. Foto: Carsten Kolbe-Weber
Kurzum, es gibt eine Ko-Evolution von Menschen und Maschinen. Bisher gedachte Grenzen zwischen Mensch, Natur und Technik verschwinden allmählich. Oder waren sie nie da? Der Mensch erweitert seine Fähigkeiten durch technologische Fortschritte, technische Geräte und digitale Entwicklungen. Wir leben in digitalen Ökosystemen von Apple, Google und Amazon usw. mit Mobiltelefonen, Tablet-Computern, Laptops, Programmen, E-Books, Musikdateien, Filmen oder auch Betriebssystemen. Können wir dann auch das Ziel eines digitalen Humanismus erreichen, von dem der Träger des Friedenspreises des Deutschen Buchhandels, Jaron Lanier, spricht? Unter digitalen Humanismus versteht Lanier sowohl den Schutz des geistigen Eigentums als auch die Rechte jedes Individuums auf seine Daten im Internet. Oder wird die digitale Zukunft totalitär und repressiv? Heizt die Web Economy die Umweltzerstörung an oder wird Technologie zum Mittler zwischen Mensch und Natur? Durch Web 2.0, das Internet der Dinge und Industrie 4.0 ermöglichen wir Maschinen, immer stärker miteinander zu kommunizieren. Aber droht uns, dass die Technik eines Tages auch ohne Menschen auskommt und uns nicht mehr braucht?
Maschinen können vieles besser als die Menschen – Schachspielen zum Beispiel. Mag sein, dass wir dies als Kränkung empfinden und unser Misstrauen gegen die Macht der Maschinen hier seine Ursache hat, wie Janina Sombetzki vermutet. Die Liste der Kränkungen des Selbstbildes des Menschen ist lang. Die Erde verlor mit Kopernikus ihre Position als Zentralgestirn, Darwin nahm dem Menschen die Vorstellung, er sei die Krone der Schöpfung. Wo bleibt unsere Überlegenheit? Und wenn es diese durch den rasanten technologischen Fortschritt bald nicht mehr gibt – was unterscheidet uns dann noch von Maschinen?
Raúl Rojas schlug den Turing Test als Unterscheidungsmerkmal vor. Im Testverfahren „unterhalten“ sich ein Mensch und eine Maschine per Tastatur und Bildschirm ohne Sicht- und Hörkontakt. Ein Dritter stellt Fragen, die jeweils auf den Bildschirmen erscheinen. Beide – Mensch und Maschine – beantworten diese unabhängig voneinander. Sie versuchen den jeweils anderen zu überzeugen, dass sie ein denkender Mensch sind. Wenn der Fragesteller nach der intensiven Befragung nicht klar sagen kann, welcher von beiden die Maschine ist, hat die Maschine den Turing-Test bestanden. Der Maschine wird dann ein dem Menschen ebenbürtiges Denkvermögen unterstellt. Das anspruchsvollste Unterscheidungskriterium bei Künstlicher Intelligenz ist für die Technikphilosophin Janina Sombetzki jedoch die Lüge, noch vor der Fähigkeit der Nachahmung und der Erkenntnis: Ein Computersystem wählt nicht eine Lüge, sondern es errechnet eine Entscheidung. Es konstruiert nicht kreativ und schnell eine „neue“ Wahrheit“, es würde sich letztendlich dabei verstricken und scheitern.
Und die Moral?
Die Möglichkeiten für autonom fahrende Autos sind bereits vorhanden. Raúl Rojas forscht seit vielen Jahren mit seinem Team auf diesem Gebiet und hat „Spirit of Berlin“ entwickelt: ein autonomes Fahrzeug, das seit mehreren Jahren in der Hauptstadt testweise unterwegs ist. Wesentlich schwieriger sind die Fragen der Haftung, Verantwortung und Moral. Janina Sombetzki warf ein moralisches Dilemma in die Runde: Wie soll ein Auto in einer unvermeidbaren Unfallsituation entscheiden, wem es ausweichen soll: einem älteren Menschen oder einem Kind? Wer übernimmt die Verantwortung? Sind dies Wahrscheinlichkeitsberechnungen, Algorithmen, moralfreie Entscheidungsräume?
Enno Park, Janina Sombetzki and Raúl Rojas. Image: Carsten Kolbe-Weber
Wird die Antwort vom Welt- und Menschenbild des Programmieres bzw. des Unternehmens abhängen? Schwägerl sah den Punkt weniger gravierend, schließlich werde das Autofahren – angesichts einer Million Verkehrstoten pro Jahr weltweit – durch den Maschineneinsatz sicherer. Die Frage ist letztendlich, wieviel Autonomie wir Robotern und Maschinen zugestehen wollen. Technikphilosophin Sombetzki sagte: „Soviel Autonomie, wie es in dem jeweiligen Einsatzgebiet erforderlich ist.“ So hätte ein Serviceroboter in der Altenpflege zum Beispiel ein anderes Aufgabenspektrum und damit verbunden auch einen höheren Autonomiegrad als ein Serviceroboter in der Gastronomie.
Für hybride Mensch-Maschinensysteme, wie sie Drohnen darstellen, sind neue Konzepte der Verantwortung notwendig. Ließen sich, wenn schon nicht Moral, dann doch Werte als Rahmen für Handlungskonzepte einprogrammieren? Wie sähe eine neue hybride Verantwortung, Systemverantwortung oder Netzwerkverantwortung aus?
Überhaupt – in wieweit verschmelzen Mensch und Maschine bereits heute? Enno Park, selbst ernannter Cyborg, seitdem er ein Cochlea-Implantat (eine Hörprothese) trägt, sagte, dass der Mensch eigentlich von Hause aus ein Cyborg ist. Eigentlich ist die Entwicklung ja altbekannt: erst nutzte der Mensch den Hammer, dann die Brille und heute Implantate, um seine Fähigkeiten zu verbessern und Defizite auszugleichen. Man denke nur an die Paraolympischen Spiele. Die Endoprothetik oder auch die Telemedizin zeigen beispielhaft das Potential. Künstliche Kniegelenke, die auf Bergwanderung umprogrammiert werden können, telemedizinsche Überwachung chronisch herzkranker Pateinten. Enno Park sieht eine große Ambivalenz zwischen Möglichkeiten und Risiken. Sein Implantat schenkte ihm nach einer aufwändigen Operation das Hörvermögen wieder. Er möchte jedoch nicht, dass die „Googles“ dieser Welt die Daten seiner Implantate auslesen. Wem gehören meine Daten?
Die Machtfrage
Dies führte zu Fragen der Macht in Form von Mitteln, Gestaltung, Programmierung, Zugang, Verwertung und den Folgen daraus. Wer gestaltet die Entwicklung? Christian Schwägerl bemerkte, dass Google auch an künstlicher Intelligenz forscht und für seine Forschung insgesamt rund neun Milliarden US Dollar jährlich ausgibt – so viel wie die deutsche Regierung in die Forschungstätigkeit der vier großen Forschungsgemeinschaften insgesamt investiert. Wer treibt die Entwicklungen voran? Entstehen neuartige Unternehmensmonopole, die uneinholbar und gesellschaftlich abgekoppelt seien werden?
Das neue Modell sind Dienstleistungen von Unternehmen: ein neues Handy, die Shoppingtour durch das Internet oder das bargeldlose Bezahlen gegen Daten in der Hand eines Unternehmens. Viele Menschen nutzen die oft kostenfreien Angebote begeistert, denn sie machen ihnen das Leben einfacher. Die Verschmelzung von virtueller und digitaler Welt schreitet schon durch diese Dynamik unaufhaltsam voran. Wie steht es um die „alten“ Konzepte des freien Zuganges, von Open Data und eines hierarchiefreien Netzes?
Klaus Wiegerling spitzte die Diskussion zu. Befürchtungen und Hoffnungen bestünden zu Recht. Innovationssprünge lösten große Erwartungen aus – ihnen mit Gelassenheit zu begegnen, sei nicht die schlechteste Einstellung. Letztendlich müssen wir die Ambivalenz aushalten, sagte Wiegerling. Die entscheidende Frage scheint zurzeit: Welche Regeln braucht es, um die Technikentwicklung und den Technikgebrauch zu steuern?
Nach diesem 90-minütigen Ausflug in virtuelle und reale Welten gab es am Ende doch noch Entwarnung: Raúl Rojas ist sich nach 40 Jahren Forschung zur künstlichen Intelligenz sicher, dass die Roboter zumindest in diesem Jahrhundert nicht die Macht übernehmen werden.
Leser:innenkommentare