2.2 Ethik in der künstlichen Intelligenz

Durch künstliche Intelligenz werden Computer in die Lage versetzt Sachverhalte oder Beziehungen zu verstehen, zu beurteilen und im Anschluss Entscheidungen zu treffen. Die Technologie wirft daher einige entscheidende ethische Fragen auf, die es zu beantworten gilt, bevor KI umfassend in wichtigen Entscheidungsprozessen eingesetzt wird. Während laut einer Studie des MIT Sloan Management Review in 2017[1] erst eines von zwanzig Unternehmen künstliche Intelligenz einsetzte, sind es laut IDC in 2021 bereits 73% der Firmen über 10.000 Mitarbeiter, die die Technologie für sich nutzen [2]. Auch in unseren Alltag hält die KI zunehmend Einzug, oftmals ohne dass es uns bewusst wird.

In zahlreichen Anwendungen ist die Technologie bereits integriert. Ein alltägliches Beispiel sind Assistenzsysteme in modernen Autos wie z.B. die Verkehrszeichenerkennung, die uns an die Geschwindigkeitsbegrenzung erinnert oder auch der Spurhalte-Assistent der durch Bilderkennung die Fahrbahnmarkierungen erkennt und das Fahrzeug in der Spur hält.

Eine immer höhere Verbreitung finden auch Chat- oder Voicebot-Systeme, die helfen schnell auch komplexe Fragen von Kunden im Service Center bei Mobilfunk Anbietern oder Banken und Versicherungen zu beantworten. Der Chat Bot EVA unterstützt zum Beispiel Kunden der INTER Versicherung beim Abschluss einer Zahnersatzversicherung und beantwortet dabei Fragen zu den Bedingungen der Kostenübernahme bei Zahnbehandlungen, die der Kunde sonst umständlich über das intensive Lesen der Allgemeinen Versicherungsbedingungen für diesen Vertrag herausfinden müsste[3].

Während solche Anwendungen ethisch noch relativ unbedenklich sind, werfen andere deutlich mehr Fragen auf. Autonomes Fahren wurde viel in den Medien diskutiert vor allem im Hinblick darauf wie die KI reagieren soll, um in Gefahrensituationen eine ethische korrekte Entscheidung zu treffen. Ein Extrembeispiel wurde häufig in der Presse zitiert: Sollte das autonome Fahrzeug bei Gefahr eher Kindern am Straßenrand ausweichen und dafür einen älteren Menschen überfahren? Mit diesen Entscheidungen tut sich der Mensch bereits schwer, da sie in Sekundenbruchteilen getroffen werden müssen und in diesem Moment nicht alle Fakten erfasst werden können. Trifft eine KI diese Entscheidungen müssen alle Fakten vorliegen und der Entscheidungsweg nachvollziehbar sein, um auch etwaigen juristischen Auseinandersetzungen Stand halten zu können.

Ethische und rechtliche Fragestellung treten auch auf, wenn künstliche Intelligenz dazu genutzt wird Entscheidungen über einen Antrag zu treffen[4]. So setzen bereits heute Banken Systeme ein, die nicht nur Ausfallrisiken für die Kreditvergabe beurteilen können sondern auch automatisiert über eine Vergabe oder Ablehnung eines Kreditantrages entscheiden können. Bei automatisierten Entscheidungen durch KI kann es zu Diskriminierungen kommen, wie es spektakuläre Fälle bei z. B. Amazon gezeigt haben, bei der eine Personal Software entschied nur Männer für eine ausgeschriebene Position vorzuschlagen oder COMPAS[5]einer Software, die Richter in mehreren Bundesstaaten zur Entscheidungsfindung im Strafvollzug nutzen, bei der schwarze Täter mit einer höheren Rückfallquote als Weiße beurteilt wurden[6].

Die Entscheidungen basieren dabei auf Daten, die dem System im Trainingsprozess dem sogenannten maschinellen Lernen zur Verfügung gestellt werden. Gefahren für die Urteilskraft der KI-Systeme bestehen vor allem in der Art und Qualität der Daten, die für das Training im maschinellen Lernprozess verwendet werden. So war die fragwürdige Entscheidung der Personalsoftware bei Amazon, darauf zurückzuführen, dass die Trainingsdaten nur Bewerbungen von männlichen Kandidaten umfassten. Im Falle des COMPAS Systems war es der proprietäre Algorithmus des Herstellers, den die Entwickler so programmiert hatten, dass die Wahrscheinlichkeit des Rückfalls für Straffällige schwarzer Hautfarbe höher eingeschätzt wurde als für Weiße.

Solche spektakulären Fälle zeigen, dass eine Diskussion über Ethik in der künstlichen Intelligenz wichtig für eine Akzeptanz in der Bevölkerung und damit auch der Wirtschaft ist. Die Beschäftigung damit ist eine Grundlage für Fortbestand, Ausbreitung und Weiterentwicklung der Technologie und deren sinnvollen Einsatz. Zu diesem Schluss kommt auch eine Studie der Technischen Universität München bei dem Experten aus verschiedenen wissenschaftlichen Disziplinen und Ländern befragt wurden[7]. Wichtig ist hier in erster Linie die Nachvollziehbarkeit der Entscheidungen die solche Systeme treffen.

Dies beginnt bei den Datenquellen, bei der Auswahl der Daten für das Training der Modelle und endet bei der Verwendung und Programmierung des Algorithmus. Nur wenn diese Kriterien ausreichend betrachtet wurden, kann KI eine glaubwürde Entscheidung treffen.

Diese Herausforderung bei Erstellung und Einsatz von KI-Modellen haben auch große Softwarehersteller wie IBM, Microsoft und Google erkannt und Lösung zur automatischen Ermittlung von einseitig beeinflussten Entscheidungen entwickelt. Die Cloud Lösung Watson OpenScale von IBM ist zum Beispiel in der Lage Bias (Beeinflussung) bereits in Trainingsdaten zu erkennen und die komplette Prozesskette von der Datenquelle bis zur Entscheidung des Systems nachvollziehbar zu dokumentieren[8].

[1]

Sam Ransbotham et.al. 2017

[2] IDG Business Media 2021:

[3] Andre Dinzler, 2018

[4] vgl. Eliezer Yudkowsky, Nick Bostrom, 2014

[5] COMPAS - Correctional Offender Management Profiling for Alternative Sanctions

[6] Carsten Orwat, 2019

[7] Institute for Ethics in Artificial Intelligence at TU München, 2020

[8] IBM Watson OpenScale https://www.ibm.com/docs/en/cloud-paks/cp-data/3.5.0?topic=services-watson-openscale