Back
Back
Mercedes-Benz Next: Grafik intelligente Maschinen.
  • Ethik für intelligente Maschinen.

  • Ethik für intelligente Maschinen.

    • 16.03.2017
    • Autonomes Fahren
    • Illustration: Dave Haenggi
    • Text: Steffan Heuer

    Konferenz SXSW 2017 in Austin, Texas: Der weltweite Technologen-Verband IEEE fordert eine Wertediskussion für technische Neuerungen.

    Ingenieure entwickeln erstaunliche Hardware und Software, von tragbaren, vernetzten Geräten und Cloud-Diensten bis zu immer selbstständigeren autonomen Fahrzeugen. Doch die Diskussion, welche Ethik-Regeln oder Werte in diesen Technologien eingebettet sein sollten, hinkt dem technischen Fortschritt hinterher.

     

    Das will der Vordenker und Publizist John C. Havens ändern. Er leitet eine neue, interdisziplinäre Gruppe, die von der IEEE, einer weltweiten Vereinigung von Ingenieuren und anderen Technologen, ins Leben gerufen wurde, um praktische Empfehlungen für Ingenieure und Programmierer zu entwickeln. In einem Interview mit NEXT am Rande der Veranstaltung SXSW in Austin, Texas beschrieb Havens die Herausforderungen und erste Ergebnisse.

    Auch soziales Wohlergehen ist Thema

    Die „Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems“ hat ihre Arbeit im April 2016 aufgenommen und bringt 150 Experten aus unterschiedlichen Disziplinen weltweit zusammen. Sie sind in 15 Arbeitskreise aufgeteilt, die sich mit Themen von der „Integration ethischer Werte in autonome Systeme“ bis hin zu wirtschaftlichen Fragen und der nach sozialem Wohlergehen beschäftigen.

     

    „Wir formulieren keine Standards, sondern verstehen uns als eine Innovationsmaschine, die Empfehlungen entwickelt, die dann vielleicht in Standards umgesetzt werden. Die grundsätzliche Frage lautet: Wie geht ethisches Design und wie baut man das in Maschinen ein?“, erklärte Havens. „Ingenieure und Programmierer müssen auf Augenhöhe mit Soziologen, Ethikern und Philosophen sprechen. Ansonsten kann man ihnen keinen Vorwurf machen, wenn sie ohne diese Art von Input an die Arbeit gehen.“

     

    Beim relativ unbekannten Terrain der Maschinenethik gehe es nicht nur um Risiko-Abwägung und um die Einhaltung rechtlicher Standards, so Havens. Sondern um eine „gründlichere Art der ,Due Diligence‘ genannten sorgfältigen Risikoprüfung“, die stattfindet, bevor Ingenieure anhand technischer Vorgaben neue Features und Funktionen entwickeln.

    „ Ingenieure und Programmierer müssen auf Augenhöhe mit Soziologen, Ethikern und Philosophen sprechen. “

    John C. Havens, Vordenker und Publizist

    Arbeitsgrundlagen für Programmierer schaffen

    Havens zählt das menschliche Wohlergehen zu den Richtgrößen, die Messwerte wie Wirtschaftswachstum und Umsatz ergänzen sollen. Im Fall autonomer Fahrzeuge würde das eine Debatte über Technologiefolgen für den Arbeitsmarkt erfordern — etwa über die Beschäftigungsperspektive für Lkw-Fahrer, oder über die zweischneidigen Effekte von Ridesharing-Diensten, die zwar einerseits breiteren Bevölkerungsschichten Zugang zu Mobilität gewähren, aber andererseits nicht für jeden bezahlbar sind.

     

    „Wer nur das BIP als Schlüsselwert betrachtet, lässt Messgrößen weg, die großen Einfluss auf das Wohlergehen der Menschen haben, etwa Angstgefühle oder Depressionen durch Arbeitslosigkeit“, sagte Havens. Selbst die UN und die OECD hätten erkannt, dass diese Werte zählen. „Die Herausforderung besteht darin, hehre Ziele in praktische Details zu übersetzen, mit denen Programmierer arbeiten können.“ Die breiten gesellschaftlichen Fragen, die Havens hier anspricht, stehen in direkter Beziehung zur Disruption, die die digitale Welt insgesamt auszeichnet. Dass diese Fragen heute verstärkt thematisiert werden, zeigt die Relevanz des Themas.

     

    Das IEEE-Gremium veröffentlichte im Dezember 2016 einen ersten Report und bat um Kommentare. Das 100 Seiten lange Dokument befasste sich mit acht Themenfeldern und erntete mehr als 90 Seiten detailliertes Feedback aus aller Welt. Eine zweite, auf 13 Bereiche erweiterte Fassung ist derzeit in Arbeit und soll bis Oktober 2017 erscheinen.

     

    Values by Design

    „Im Idealfall sollen Menschen, die die intelligenten Systeme der Zukunft entwerfen, nach dem Prinzip Values by Design arbeiten — ähnlich wie Unternehmen bereits Privacy by Design beherzigen“, so Havens, der bislang zwei Bücher zum Thema geschrieben hat. Dieser Prozess muss bei Diskussionen ansetzen, wie sie die IEEE jetzt angestoßen hat. „Wir müssen zuerst unsere eigenen Werte bestimmen, damit wir auf dieser Basis künstliche Assistenten, Begleiter und Algorithmen designen können“, sagte Havens. „Wie soll eine Maschine wissen, welche Werte für uns zählen, wenn wir diese Frage selbst nicht beantworten können?“

    „ Wer nur das BIP als Schlüsselwert betrachtet, lässt Messgrößen weg, die großen Einfluss auf das Wohlergehen der Menschen haben. “

    John C. Havens

    Verwandte Themen.