Grundlegendes zur ethisch vertretbaren Nutzung von IT-Technologie

Lernziele

Nachdem Sie diese Lektion abgeschlossen haben, sind Sie in der Lage, die folgenden Aufgaben auszuführen:

• Definieren von Voreingenommenheit und Fairness
  
• Benennen von Strategien zur Vermeidung von Voreingenommenheit und Lücken.
  
• Übersetzen von Unternehmenswerten in Prozesse
  
• Beschreiben, wie wichtig es für ein ethisch einwandfreies Design ist, dass Sie Ihre Kunden verstehen
  

Verantwortungsvolle Entwicklung und Gestaltung von IT-Technologie

Wir beginnen gerade erst zu verstehen, wie sich neue Technologien auf unsere Gesellschaft auswirken. Im Zuge des technischen Fortschritts sehen sich die Unternehmen mit kritischen Überlegungen konfrontiert, die von der Frage nach dem Ersatz von Arbeitsplätzen durch Automatisierung bis hin zu Spekulationen über die Entwicklungseffekte der sozialen Medien reichen.  

Viele Branchen werden durch Standards, Protokolle und Vorschriften reguliert, die sicherstellen sollen, dass ihre Produkte einen positiven Einfluss auf die Gesellschaft haben. So folgen beispielsweise Ärzte dem Hippokratischen Eid und haben Forschungskontrollgremien eingerichtet, um ethisch einwandfreie Praktiken sicherzustellen. Die Automobilindustrie unterliegt der Straßenverkehrsordnung und den Sicherheitsstandards rund um Sicherheitsgurte und Airbags. Allgemeiner betrachtet, haben die Vereinten Nationen im Jahr 2011 die UN-Leitprinzipien für Wirtschaft und Menschenrechte verabschiedet, die die Verantwortlichkeiten definieren, die Unternehmen und Staaten zum Schutz der für alle Menschen geltenden Rechte und Freiheiten haben.

Bei Salesforce verstehen wir, dass wir eine größere Verantwortung für die Gesellschaft haben, und streben danach, Technologien zu entwickeln, die nicht nur den Erfolg unserer Kunden fördern, sondern auch positive soziale Veränderungen bewirken und der Menschheit zugutekommen. Salesforce hat das Office of Ethical and Humane Use eingerichtet, um den Weg in die 4. industrielle Revolution zu ebnen, indem wir unseren Kunden helfen, unsere Technologie so einzusetzen, dass sie einen positiven Beitrag leistet. Diese Bestrebungen sind in den Grundwerten von Salesforce verankert: Vertrauen, Kundenerfolg, Innovation, Chancengleichheit und Nachhaltigkeit.

Wenn es um Ethik in der IT-Technologie geht, waren die Fragen noch nie so dringlich – und es liegt an uns allen, die Lösungen zu finden.

Was heißt es, voreingenommen oder fair zu sein?

Wenn Sie Technologie entwickeln oder nutzen, insbesondere im Zusammenhang mit künstlicher Intelligenz oder Automatisierung, ist es wichtig, sich Fragen zu Voreingenommenheit und Fairness zu stellen.

Bei Salesforce verstehen wir unter digitaler Voreingenommenheit "systematische und wiederholbare Fehler in einem Computersystem, die aufgrund ungenauer Annahmen im Prozess des maschinellen Lernens zu unfairen Ergebnissen führen, die von der beabsichtigten Aufgabe des Systems abweichen". Im Kontext der Statistik ist Voreingenommenheit eine systematische Abweichung von der Wahrheit oder dem Fehler. Aus einer sozialen Perspektive betrachtet, erkennt Salesforce Voreingenommenheit als "die automatischen mentalen Abkürzungen, die wir verwenden, um Informationen zu verarbeiten und schnell Entscheidungen zu treffen", was leider manchmal zu grundverschiedenen Ergebnissen führen kann.

Fairness ist definiert als eine Entscheidung, die frei von Eigeninteresse, Vorurteilen oder Bevorzugungen getroffen wird. In der Realität ist eine völlig faire Entscheidung fast unmöglich. Eine Expertenrunde auf der Association for Computing Machinery's Conference on Fairness, Accountability, and Transparency im Jahr 2018 hat eine Liste mit über 21 Definitionen von Fairness entwickelt. Wenn es so viele Möglichkeiten gibt, sich mit Fairness auseinanderzusetzen, wie lässt sich dann feststellen, ob Menschen oder Computer faire Entscheidungen treffen? 

Um eine fundiertere Entscheidung zu treffen, ist es wichtig, die Auswirkungen dieser Entscheidung zu verstehen. Eine Entscheidung, die der größten Zahl von Nutznießern zugutekommt, schließt immer noch einen Teil der Grundgesamtheit aus, was unfair ist, wenn dieser kleinere Teil oftmals übersehen wird. Sie sollten sich fragen: Sind einzelne Personen oder Gruppen von einer Entscheidung unverhältnismäßig stark betroffen? Ist es aufgrund systemischer Voreingenommenheit bei früheren Entscheidungen oder ungenauer Daten weniger wahrscheinlich, dass einige Gruppen eine faire oder unparteiische Bewertung erhalten? Wenn die Antwort ja lautet, müssen Sie entscheiden, ob und in welcher Weise Sie optimieren sollten, um Fairness für alle sicherzustellen.

Schaffen einer ethischen Kultur

Die meisten Unternehmen sind nicht aktiv darauf aus, Menschen zu kränken oder zu benachteiligen. Sie können dies jedoch unbeabsichtigt tun, wenn sie ihre Grundwerte nicht definiert und keine Prozesse eingeführt haben, um sicherzustellen, dass alle Mitarbeiter des Unternehmens in Einklang damit arbeiten. Durch die Definition von Werten, Prozessen und Anreizen können Führungskräfte die Kultur in ihrem Unternehmen beeinflussen. Führungskräfte können und sollten Auszubildenden und Mitarbeitern vermitteln, wie sie Ethik in ihre Arbeit einfließen lassen können. Wenn die Unternehmenskultur jedoch nicht in Ordnung ist, dann ist das wie das Pflanzen eines gesunden Baums in einem verwilderten Obstgarten. Irgendwann produziert auch der gesunde Baum faule Äpfel. Führungskräfte müssen ethisches Verhalten belohnen, während sie unethisches Verhalten erkennen und unterbinden müssen. 

Es ist wichtig, sich daran zu erinnern, dass wir in dieser Frage alle eine Führungsrolle spielen. Sie können etwas bewirken, indem Sie eine ethische Kultur mit einem ganzheitlichen Ansatz einführen und aufrecht erhalten. 

1. Bilden Sie Teams, die mehrere einzigartige Perspektiven einbeziehen.
   
2. Übersetzen Sie Unternehmenswerte in Prozesse.
   
3. Verstehen Sie Ihre Kunden.
   

Aufbau von Teams, die mehrere einzigartige Perspektiven einbeziehen

Forschungen zeigen, dass Teams, die aus einem breiten Spektrum von Erfahrungen und Identitäten bestehen, kreativer, sorgfältiger und fleißiger sind. Ein Unternehmen, das mehr Frauen auf allen Ebenen, insbesondere im Top-Management, integriert, erzielt in der Regel höhere Gewinne. Weitere Informationen dazu finden Sie im Abschnitt "Ressourcen" am Ende dieser Einheit. 

Alles, was wir schaffen, repräsentiert unsere Wertvorstellungen, Erfahrungen und Voreingenommenheit. So haben beispielsweise Gesichtserkennungssysteme oft mehr Mühe, die Gesichter von People of Colour zu erkennen als die von Weißen. Hätten die Teams, die eine solche Technologie entwickeln, ein breiteres Spektrum an Gesichtsmerkmalen in ihre Tests einbezogen, wäre es wahrscheinlicher gewesen, dass sie diese Voreingenommenheit erkannt und beseitigt hätten. 

Entwicklungsteams sollten sich bei ihrer Arbeit auf ein breites Spektrum von Perspektiven, Erfahrungen und Identitäten stützen. Wird dieser Grundsatz nicht berücksichtigt, kann es zu einer sog. Echokammer kommen, die zu unvorteilhaften Produkten und Funktionslücken führt. Wenn Sie nicht in der Lage sind, Teams aufzubauen, die mehrere, einzigartige Perspektiven widerspiegeln, erwägen Sie, Feedback von verschiedenen Communities in Ihren Unternehmen und Ihrer Nutzerbasis einzuholen.

Ein Gemeinschaftssinn ist auch Teil der ethischen Grundlagen eines Unternehmens. Niemand sollte allein für ethisches Handeln oder die Förderung von Ethik verantwortlich sein. Stattdessen sollte das Unternehmen als Ganzes bewusst auf ethisches Verhalten achten. Mitarbeiter sollten sich sicher fühlen, wenn sie den Status quo hinterfragen und das Wort ergreifen, um Risiken für Ihr Unternehmen auszumachen. Teammitglieder sollten ethische Fragen stellen, die spezifisch für ihren Fachbereich sind, wie z. B.: 

• Produktmanagement: Welche geschäftlichen Auswirkungen hat ein falsch positives oder falsch negatives Ergebnis in unserem Algorithmus?
  
• Forschung: Wer ist wie von unserem System betroffen? Wie kann es missbraucht werden? Wie kann versucht werden, das Produkt zu beschädigen oder es in unbeabsichtigter Weise zu verwenden? In welchem gesellschaftlichen Kontext wird es genutzt?
  
• Design: Welche Vorgaben oder Annahmen setze ich im Produkt um? Gestalte ich es im Sinne von Transparenz und Chancengleichheit?
  
• Data Science: Welche Auswirkungen hat es auf Benutzer, wenn ich mein Modell auf eine bestimmte Weise optimiere?
  
• Inhaltserstellung: Kann ich in Begriffen, die der Nutzer verstehen kann, erklären, warum das System eine Vorhersage, Empfehlung oder Entscheidung getroffen hat?
  
• Entwicklung: Welche Benachrichtigungen, Prozesse, Prüfungen oder Ausfallsicherungen können wir in das System integrieren, um Schäden zu minimieren?
  

Beachten Sie, dass diese Fragen die Perspektiven mehrerer Rollen einbeziehen. Die Einbeziehung von Beteiligten und Teammitgliedern in jeder Phase des Produktentwicklungszyklus hilft, die Auswirkungen systemischer Verzerrung in Ihrem System zu kompensieren. Wenn Sie in einem Team arbeiten, dem eine dieser Rollen fehlt oder in dem Sie mehrere Rollen wahrnehmen, müssen Sie möglicherweise mehrere Aufgaben übernehmen, um sicherzustellen, dass jede dieser Perspektiven berücksichtigt wird. Dies kann die Einholung von externem Fachwissen oder Rat erfordern. Wenn Mitarbeiter mit den erteilten Antworten unzufrieden sind, sollte es einen klaren Prozess zur Klärung der Problemfelder geben, ähnlich einem Kontrollgremium. Wir kommen auf die Einzelheiten später noch zu sprechen. 

Übersetzen von Unternehmenswerten in Prozesse

Fast jedes Unternehmen hat einen Wertekanon, der die Entscheidungsfindung seiner Mitarbeiter unterstützen soll. Es gibt drei Möglichkeiten, dies in die Praxis umzusetzen.

1. Anreizstrukturen
   
2. Ressourcen
   
3. Dokumentation und Kommunikation
   

Anreizstrukturen

Anreizstrukturen belohnen Mitarbeiter für bestimmte Verhaltensweisen oder das Erreichen bestimmter Ziele. Anreizstrukturen sollten von Unternehmenswerten geprägt sein. Meistens werden Mitarbeiter auf der Grundlage von Umsatz, Neukundengewinnung und Kundentreue belohnt. Diese Metriken können mitunter der ethischen Entscheidungsfindung zuwiderlaufen. Achten Sie darauf, dass Anreizinitiativen die Mitarbeiter nicht zu ethisch fragwürdigen Praktiken verleiten, nur um eine Belohnung zu erhalten.

Sie können auch Fragen zur ethischen Entwicklung von Technologien in Ihren Einstellungsprozess einbeziehen. Dadurch wird bei neuen Mitarbeitern die Erwartung geweckt, dass die von Ihnen aufgebaute ethische Kultur für das Unternehmen wichtig ist und dass ethisches Denken und Handeln belohnt wird.

Unterstützung der Mitarbeiter 

Verantwortungsbewusste Unternehmen stellen Ressourcen zur Verfügung, um Mitarbeiter zu unterstützen und sie in die Lage zu versetzen, Entscheidungen im Einklang mit den Unternehmenswerten zu treffen. Dies kann die Schulung der Mitarbeiter (Trailhead ist hierfür eine großartige Ressource) und Kontrollgremien umfassen, um schwierige Probleme zu lösen und sicherzustellen, dass Mitarbeiter die Richtlinien befolgen. 

Bei Salesforce haben wir ein Kontrollgremium für Data Science eingerichtet, das Feedback zur Qualität und zu ethischen Aspekten unserer KI-Modelle, Trainingsdaten und der Anwendungen liefert, die diese nutzen. 

Während der Aufbau einer ethischen Kultur es den Mitarbeitern ermöglicht, sich zu Wort zu melden, wenn sie ethische Bedenken haben, sollten Sie möglicherweise auch erwägen, einen klaren, anonymen Prozess zu schaffen, damit Mitarbeiter Bedenken äußern können. Abschließend sind Checklisten großartige Ressourcen, um Diskussionen anzuregen und sicherzustellen, dass Sie wichtige Anliegen nicht übersehen. Checklisten sind zwar konsistent und einfach zu handhaben, jedoch selten vollständig und müssen klar und umsetzbar sein, um nützlich zu sein. Da sie Mitarbeitern ermöglichen, schwierige Gespräche zu führen, helfen Checklisten Ihrem Unternehmen, eine ethische Kultur von Grund auf aufzubauen. 

Dokumentation und Kommunikation

Dokumentieren Sie die Entscheidungsfindung zur Gewährleistung von Transparenz und Konsistenz. Wenn ein Team an einem ethischen Scheideweg steht, ermöglicht die Dokumentation von Entscheidungen und ihrer Gründe, dass künftige Teams aus diesen Erfahrungen lernen und konsistent und nicht beliebig handeln können. Dokumentation und Kommunikation stärken auch das Vertrauen Ihrer Mitarbeiter und Beteiligten in Ihren Prozess und die daraus resultierenden Entscheidungen.

Verstehen Ihrer Kunden

Es sollte selbstverständlich sein, dass Sie alle Ihre Kunden verstehen müssen. Andernfalls könnten Sie Produkte entwerfen, die einen Teil Ihres Kundenstamms ignorieren oder einigen Benutzern Schaden zufügen, ohne dass Sie wissen warum. Fragen Sie sich, welche Bedürfnisse und Werte Sie angenommen und nicht angefragt haben? Wer ist am meisten gefährdet und warum? Gibt es böswillige Akteure, die Ihr Produkt absichtlich einsetzen könnten, um Schaden anzurichten, oder Personen, die es unkundig einsetzen und unbeabsichtigt Schaden verursachen könnten? Sobald Sie die Antworten auf diese Fragen kennen, können Sie sich an die Lösung dieser Probleme machen. Wir empfehlen, sich an einen Kundenforscher zu wenden, um mehr über Ihre Kunden zu erfahren.

Ressourcen

• Blogpost: Wie Salesforce ethische Grundsätze in seine KI einfließen lässt (in englischer Sprache)
• Artikel: Science: Companies With Women in Top Management Are Much More Profitable
• Artikel: Why We Need Women in Tech
• Trailhead: Erforschen der Benutzererfahrung – Grundlagen