Grundlegendes zur ethisch vertretbaren Nutzung von IT-Technologie
Lernziele
Nachdem Sie diese Lektion abgeschlossen haben, sind Sie in der Lage, die folgenden Aufgaben auszuführen:
- Definieren von Voreingenommenheit und Fairness
- Aufbauen eines kulturell diversen Teams zur Vermeidung von Voreingenommenheit und Inkongruenzen
- Übersetzen von Unternehmenswerten in Prozesse
- Beschreiben, wie wichtig es für ein ethisch einwandfreies Design ist, dass Sie Ihre Kunden verstehen
Verantwortungsvolle Entwicklung und Gestaltung von IT-Technologie
Wir beginnen gerade erst zu verstehen, wie sich neue Technologien auf unsere Gesellschaft auswirken. Es sind vielfältige Themen aufgetaucht – von Fragen zur Automatisierung, die zum Wegfall von Arbeitsplätzen führt, bis zu Spekulationen über die entwicklungstechnischen Auswirkungen von Social Media.
Viele Branchen werden durch Standards, Protokolle und Vorschriften reguliert, die sicherstellen sollen, dass ihre Produkte einen positiven Einfluss auf die Gesellschaft haben. So folgen beispielsweise Ärzte dem Hippokratischen Eid und haben Forschungskontrollgremien eingerichtet, um ethisch einwandfreie Praktiken sicherzustellen. Die Automobilindustrie unterliegt der Straßenverkehrsordnung und den Sicherheitsstandards rund um Sicherheitsgurte und Airbags. Allgemeiner betrachtet, haben die Vereinten Nationen im Jahr 2011 die UN-Leitprinzipien für Wirtschaft und Menschenrechte verabschiedet, die die Verantwortlichkeiten definieren, die Unternehmen und Staaten zum Schutz der für alle Menschen geltenden Rechte und Freiheiten haben.
Bei Salesforce verstehen wir, dass wir eine größere Verantwortung für die Gesellschaft haben, und streben danach, Technologien zu entwickeln, die nicht nur den Erfolg unserer Kunden fördern, sondern auch positive soziale Veränderungen bewirken und der Menschheit zugutekommen. Salesforce hat das Office of Ethical and Humane Use eingerichtet, um den Weg in die 4. industrielle Revolution zu ebnen, indem wir unseren Kunden helfen, unsere Technologie so einzusetzen, dass sie einen positiven Beitrag leistet. Diese Bestrebungen sind in den Grundwerten von Salesforce verankert: Vertrauen, Kundenerfolg, Innovation, Chancengleichheit und Nachhaltigkeit.
Wenn es um Ethik in der IT-Technologie geht, waren die Fragen noch nie so dringlich – und es liegt an uns allen, die Lösungen zu finden.
Was heißt es, voreingenommen oder fair zu sein?
Wenn Sie IT-Technologie entwickeln oder nutzen, insbesondere im Zusammenhang mit künstlicher Intelligenz oder Automatisierung, ist es wichtig, sich Fragen zu Voreingenommenheit und Fairness zu stellen.
Bei Salesforce verstehen wir unter Bias "systematische und wiederholbare Fehler in einem Computersystem, die aufgrund ungenauer Annahmen im Prozess des maschinellen Lernens zu unfairen Ergebnissen führen, die von der beabsichtigten Aufgabe des Systems abweichen." Im Kontext der Statistik ist Voreingenommenheit eine systematische Abweichung von der Wahrheit oder dem Fehler. Aus gesellschaftlicher und rechtlicher Sicht definiert die Forscherin und Professorin Kate Crawford Voreingenommenheit als "Beurteilung auf der Grundlage vorgefasster Vorstellungen oder Vorurteile im Gegensatz zur unparteiischen Bewertung von Fakten".
Fairness ist definiert als eine Entscheidung, die frei von Eigeninteresse, Vorurteilen oder Bevorzugungen getroffen wird. In der Realität ist eine völlig faire Entscheidung fast unmöglich. Eine Expertenrunde auf der Association for Computing Machinery's Conference on Fairness, Accountability, and Transparency im Jahr 2018 hat eine Liste mit über 21 Definitionen von Fairness entwickelt. Wenn es so viele Möglichkeiten gibt, sich mit Fairness auseinanderzusetzen, wie lässt sich dann feststellen, ob Menschen oder Computer faire Entscheidungen treffen?
Um eine fundiertere Entscheidung zu treffen, ist es wichtig, die Auswirkungen dieser Entscheidung zu verstehen. Eine Entscheidung, die der größten Zahl von Nutznießern zugutekommt, schließt immer noch eine Minderheit aus, was unfair ist, wenn diese Minderheit oft übersehen wird. Sie sollten sich fragen: Sind einzelne Personen oder Gruppen von einer Entscheidung unverhältnismäßig stark betroffen? Ist es aufgrund systemischer Voreingenommenheit bei früheren Entscheidungen oder ungenauer Daten weniger wahrscheinlich, dass einige Gruppen eine faire oder unparteiische Bewertung erhalten? Wenn die Antwort ja lautet, müssen Sie entscheiden, ob und wie Sie den Schutz dieser Personen optimieren sollten, auch wenn die Mehrheit davon nicht profitieren wird.
Gibt es so etwas wie "positive" Voreingenommenheit?
Es gibt die Meinung, dass nicht jede Voreingenommenheit negativ sei. Angenommen, ein Pharmaunternehmen stellt ein Medikament gegen Prostatakrebs her und richtet sich in seinen Marketingkampagnen nur an Männer. Das Unternehmen glaubt, dass die Ausrichtung seiner Marketingkampagne ein Beispiel für positive Voreingenommenheit ist, da es einen Service bietet, bei dem weibliche Zielgruppen nicht mit irrelevanten Anzeigen belästigt werden. Aber wenn das Datenset des Unternehmens nur Cis-Gender-Personen enthält oder zusätzliche Identitäten nicht berücksichtigt (z.B. nicht-binäres Geschlecht, Transgender-Frau, Transgender-Mann und Agender), schließt es wahrscheinlich andere Personen aus, die von der Betrachtung der Anzeige profitieren würden. Durch Gewinnen eines komplexeren und genaueren Verständnisses von Geschlecht und Geschlechteridentität wäre das Unternehmen besser gerüstet, alle Zielgruppen zu erreichen, die von dem Medikament profitieren könnten.
Schaffen einer ethischen Kultur
Die meisten Unternehmen sind nicht aktiv darauf aus, Menschen zu kränken oder zu benachteiligen. Sie können dies jedoch unbeabsichtigt tun, wenn sie ihre Grundwerte nicht definiert und keine Prozesse eingeführt haben, um sicherzustellen, dass alle Mitarbeiter des Unternehmens in Einklang damit arbeiten. Durch die Definition von Werten, Prozessen und Anreizen können Führungskräfte die Kultur in ihrem Unternehmen beeinflussen. Führungskräfte können und sollten Auszubildenden und Mitarbeitern vermitteln, wie sie Ethik in ihre Arbeit einfließen lassen können. Wenn die Unternehmenskultur jedoch nicht in Ordnung ist, dann ist das wie das Pflanzen eines gesunden Baums in einem verwilderten Obstgarten. Irgendwann produziert auch der gesunde Baum faule Äpfel. Führungskräfte müssen ethisches Verhalten belohnen, während sie unethisches Verhalten erkennen und unterbinden müssen.
Es ist wichtig, sich daran zu erinnern, dass wir in dieser Frage alle eine Führungsrolle spielen. Sie können etwas bewirken, indem Sie eine ethische Kultur mit einem ganzheitlichen Ansatz einführen und aufrecht erhalten.
- Bauen Sie kulturell diverse Teams auf.
- Übersetzen Sie Unternehmenswerte in Prozesse.
- Verstehen Sie Ihre Kunden.
Aufbauen kulturell diverser Teams
Untersuchungen belegen, dass kulturell diverse Teams (über das gesamte Spektrum von Erfahrung, ethnischer Herkunft, Geschlecht und Fertigkeiten) kreativer, gewissenhafter und fleißiger sind. Ein Unternehmen, das mehr Frauen auf allen Ebenen, insbesondere im Top-Management, integriert, erzielt in der Regel höhere Gewinne. Weitere Informationen dazu finden Sie im Abschnitt "Ressourcen" am Ende dieser Einheit.
Alles, was wir schaffen, repräsentiert unsere Wertvorstellungen, Erfahrungen und Voreingenommenheit. So haben beispielsweise Gesichtserkennungssysteme oft mehr Mühe, die Gesichter von People of Colour zu erkennen als die von Weißen. Wären die Teams, die eine solche Technologie entwickeln, heterogener gewesen, hätten sie diese Einseitigkeit eher erkannt und in Angriff genommen.
Entwicklungsteams sollten sich um Diversität in allen Bereichen bemühen – von Alter und ethnischer Zugehörigkeit bis zu Kultur, Bildung und Fertigkeiten. Ein Mangel an Diversität kann zu einer sog. Echokammer führen, die zu unvorteilhaften Produkten und Funktionslücken führt. Wenn Sie nicht in der Lage sind, Teammitglieder mit unterschiedlichem kulturellen Hintergrund einzustellen, erwägen Sie, sich von unterrepräsentierten Gruppen in Ihrem Unternehmen und Ihrem Kundenstamm Feedback einzuholen.
Ein Gemeinschaftssinn ist auch Teil der ethischen Grundlagen eines Unternehmens. Niemand sollte allein für ethisches Handeln oder die Förderung von Ethik verantwortlich sein. Stattdessen sollte das Unternehmen als Ganzes bewusst auf ethisches Verhalten achten. Mitarbeiter sollten sich sicher fühlen, wenn sie den Status quo hinterfragen und das Wort ergreifen, um Risiken für Ihr Unternehmen auszumachen. Teammitglieder sollten ethische Fragen stellen, die spezifisch für ihren Fachbereich sind, wie z. B.:
- Produktmanagement: Welche geschäftlichen Auswirkungen hat ein falsch positives oder falsch negatives Ergebnis in unserem Algorithmus?
- Forschung: Wer ist wie von unserem System betroffen? Wie kann es missbraucht werden? Wie kann versucht werden, das Produkt zu beschädigen oder es in unbeabsichtigter Weise zu verwenden? In welchem gesellschaftlichen Kontext wird es genutzt?
- Design: Welche Vorgaben oder Annahmen setze ich im Produkt um? Gestalte ich es im Sinne von Transparenz und Chancengleichheit?
- Data Science: Welche Auswirkungen hat es auf Benutzer, wenn ich mein Modell auf eine bestimmte Weise optimiere?
- Inhaltserstellung: Kann ich in Begriffen, die der Nutzer verstehen kann, erklären, warum das System eine Vorhersage, Empfehlung oder Entscheidung getroffen hat?
- Entwicklung: Welche Benachrichtigungen, Prozesse, Prüfungen oder Ausfallsicherungen können wir in das System integrieren, um Schäden zu minimieren?
Beachten Sie, dass diese Fragen die Perspektiven mehrerer Rollen einbeziehen. Die Einbeziehung von Beteiligten und Teammitgliedern in jeder Phase des Produktentwicklungszyklus hilft, die Auswirkungen systemischer sozialer Ungleichheiten in Ihrem System zu kompensieren. Wenn Sie in einem Team arbeiten, dem eine dieser Rollen fehlt oder in dem Sie mehrere Rollen wahrnehmen, müssen Sie möglicherweise mehrere Aufgaben übernehmen, um sicherzustellen, dass jede dieser Perspektiven berücksichtigt wird. Dies kann die Einholung von externem Fachwissen oder Rat erfordern. Wenn Mitarbeiter mit den erteilten Antworten unzufrieden sind, sollte es einen klaren Prozess zur Klärung der Problemfelder geben, ähnlich einem Kontrollgremium. Wir kommen auf die Einzelheiten später noch zu sprechen.
Übersetzen von Unternehmenswerten in Prozesse
Fast jedes Unternehmen hat einen Wertekanon, der die Entscheidungsfindung seiner Mitarbeiter unterstützen soll. Es gibt drei Möglichkeiten, dies in die Praxis umzusetzen.
- Anreizstrukturen
- Ressourcen
- Dokumentation und Kommunikation
Anreizstrukturen
Anreizstrukturen belohnen Mitarbeiter für bestimmte Verhaltensweisen oder das Erreichen bestimmter Ziele. Anreizstrukturen sollten von Unternehmenswerten geprägt sein. Meistens werden Mitarbeiter auf der Grundlage von Umsatz, Neukundengewinnung und Kundentreue belohnt. Diese Metriken können mitunter der ethischen Entscheidungsfindung zuwiderlaufen.
Wenn ein Unternehmen Verhaltensweisen im Einklang mit seinen Werten belohnen möchte, können mögliche Anreizstrukturen ethische Belohnungen vorsehen. Ähnlich wie sog. Bug-Bounty-Programme belohnen ethische Bonusprogramme Mitarbeiter, wenn sie Entscheidungen, Prozesse oder Funktionsmerkmale ausmachen, die den Werten des Unternehmens zuwiderlaufen oder Dritten Schaden zufügen, oder Vertriebsmitarbeiter belohnen, die Bedenken über Geschäfte mit Kunden teilen und potenzielle rechtliche oder Risiken bei der Außendarstellung vermeiden.
Sie können auch Fragen zur ethischen Entwicklung von Technologien in Ihren Einstellungsprozess einbeziehen. Dadurch wird bei neuen Mitarbeitern die Erwartung geweckt, dass die von Ihnen aufgebaute ethische Kultur für das Unternehmen wichtig ist und dass ethisches Denken und Handeln belohnt wird.
Unterstützung der Mitarbeiter
Verantwortungsbewusste Unternehmen stellen Ressourcen zur Verfügung, um Mitarbeiter zu unterstützen und sie in die Lage zu versetzen, Entscheidungen im Einklang mit den Unternehmenswerten zu treffen. Dies kann die Schulung der Mitarbeiter (Trailhead ist hierfür eine großartige Ressource) und Kontrollgremien umfassen, um schwierige Probleme zu lösen und sicherzustellen, dass Mitarbeiter die Richtlinien befolgen.
Bei Salesforce haben wir ein Kontrollgremium für Data Science eingerichtet, das Feedback zur Qualität und zu ethischen Aspekten unserer KI-Modelle, Trainingsdaten und der Anwendungen liefert, die diese nutzen.
Während der Aufbau einer ethischen Kultur es den Mitarbeitern ermöglicht, sich zu Wort zu melden, wenn sie ethische Bedenken haben, sollten Sie möglicherweise auch erwägen, einen klaren, anonymen Prozess zu schaffen, damit Mitarbeiter Bedenken äußern können. Abschließend sind Checklisten großartige Ressourcen, um Diskussionen anzuregen und sicherzustellen, dass Sie wichtige Anliegen nicht übersehen. Checklisten sind zwar konsistent und einfach zu handhaben, jedoch selten vollständig und müssen klar und umsetzbar sein, um nützlich zu sein. Da sie Mitarbeitern ermöglichen, schwierige Gespräche zu führen, helfen Checklisten Ihrem Unternehmen, eine ethische Kultur von Grund auf aufzubauen.
Dokumentation und Kommunikation
Dokumentieren Sie die Entscheidungsfindung zur Gewährleistung von Transparenz und Konsistenz. Wenn ein Team an einem ethischen Scheideweg steht, ermöglicht die Dokumentation von Entscheidungen und ihrer Gründe, dass künftige Teams aus diesen Erfahrungen lernen und konsistent und nicht beliebig handeln können. Dokumentation und Kommunikation stärken auch das Vertrauen Ihrer Mitarbeiter und Beteiligten in Ihren Prozess und die daraus resultierenden Entscheidungen.
Verstehen Ihrer Kunden
Es sollte selbstverständlich sein, dass Sie alle Ihre Kunden verstehen müssen. Andernfalls könnten Sie Produkte entwerfen, die einen Teil Ihres Kundenstamms ignorieren oder einigen Benutzern Schaden zufügen, ohne dass Sie wissen warum. Fragen Sie sich, welche Bedürfnisse und Werte Sie angenommen und nicht angefragt haben? Wer ist am meisten gefährdet und warum? Gibt es böswillige Akteure, die Ihr Produkt absichtlich einsetzen könnten, um Schaden anzurichten, oder Personen, die es unkundig einsetzen und unbeabsichtigt Schaden verursachen könnten? Sobald Sie die Antworten auf diese Fragen kennen, können Sie sich an die Lösung dieser Probleme machen. Wir empfehlen, sich an einen Kundenforscher zu wenden, um mehr über Ihre Kunden zu erfahren.