Warum Ethik und KI zusammengehören

Laut einer aktuellen Studie wünschen sich Verbraucher mehr Transparenz bei KI-Anwendungen und höhere ethische Ansprüche. Gelingt es einem Unternehmen, das zu erfüllen, würde immerhin rund jeder zweite dort mehr Produkte kaufen.

Ethische Grundsätze gewinnen für das Vertrauen der Öffentlichkeit in Künstliche Intelligenz (KI) eine immer bedeutendere Rolle. Das zeigt eine neue Studie des Capgemini Research Institutes, für die 1.580 Führungskräfte von Großunternehmen aus zehn Ländern sowie über 4.400 Verbraucher aus sechs Ländern befragt wurden. Verbraucher und Mitarbeiter belohnen demnach ethisches Verhalten und sanktionieren zweifelhafte Praktiken.

Wenn KI-basierte Interaktionen als ethisch empfunden werden, steigert das der Studie zufolge gar Kaufbereitschaft und Loyalität der Kunden gegenüber den Unternehmen. 62 Prozent der befragten Verbraucher gaben an, den Unternehmen in so einem Fall mehr zu vertrauen. 55 Prozent sagten außerdem, sie würden in dem Fall mehr Produkte kaufen sowie gute Bewertungen in den sozialen Medien hinterlassen. Ethische Probleme bei der KI-Interaktion, etwa fehlende Zustimmung zur Datennutzung oder intransparente Ergebnisse, haben negative Auswirkungen: Ein Drittel der Verbraucher würde den Kontakt zum Unternehmen abbrechen.

Die Botschaft scheint in der Unternehmenswelt durchaus angekommen zu sein. In allen befragten Ländern glauben Führungskräfte aus neun von zehn Unternehmen, dass die Nutzung von KI innerhalb der letzten zwei bis drei Jahre ethische Fragen aufgeworfen habe. Zu den Vorkommnissen zählen im Gesundheitswesen etwa das Erheben persönlicher Patientendaten ohne vorherige Zustimmung sowie ein übermäßiges Vertrauen in nicht transparente, maschinell getroffene Entscheidungen bei Banken und Versicherungen.

Immerhin gut die Hälfte der Führungskräfte findet es wichtig, sicherzustellen, dass KI-Systeme ethisch und transparent sind. 41 Prozent geben an, dass sie den Einsatz von ethisch problematischen KI-Systemen wahrscheinlich beenden würden oder dies bereits getan haben. Dass es trotzdem zu ethischen Defiziten kommen kann, begründen sie vor allem mit dem Druck, KI-Systeme schnell einführen zu müssen.

Mit 47 Prozent gibt zudem knapp die Hälfte der befragten Verbraucher an, mindestens zwei Mal innerhalb der letzten zwei bis drei Jahre mit ethisch unzureichenden KI-Anwendungen konfrontiert worden zu sein. Wenn Leistungen KI-unterstützt sind, befürwortet die Mehrheit deshalb vor allem mehr Transparenz (74 Prozent) und möchte wissen, ob eine KI sie fair und diskriminierungsfrei behandelt (72 Prozent). „Unternehmen stehen an einem Scheideweg: Es wird deutlich, dass es nicht allein um Vorschriften und Compliance geht, sondern ethische Grundsätze vorteilhaft für das eigene Geschäft sein können“, sagt Fabian Schladitz, Leiter des Center of Excellence Künstliche Intelligenz bei Capgemini in Deutschland. Unternehmen müssten die passenden Strukturen schaffen, um ethische Aspekte schon zu Beginn der Entwicklung angemessen zu berücksichtigen. Werde die KI anschließend eingesetzt, sei es aber mindestens genauso wichtig, alle Beteiligten über die Interaktionen mit KI genau zu informieren und so größtmögliche Transparenz zu schaffen, sagt Schladitz.