テクノロジーの倫理的な使用について
学習の目的
この単元を完了すると、次のことができるようになります。
- バイアスと公平性を定義する。
- バイアスやギャップを回避するために多様なチームを編成する。
- 会社の価値をプロセスに反映させる。
- 倫理にかなった設計のために顧客を理解することの重要性を説明する。
テクノロジーの責任ある設計と開発
新興テクノロジーが社会に及ぼす影響について私たちはようやく認識し始めました。自動化による雇用の喪失からソーシャルメディアの発達面への影響の憶測まで、多種多様な問題が生じています。
多くの業界は、その商品が社会に役立つものであることを保証するための標準や指令、法律の規制を受けています。たとえば、医師は倫理的な実務を徹底するために、倫理綱領の宣誓文に従い、研究審議委員会を設立しています。自動車業界は運転に関する法律や、シートベルトとエアバッグ関連の安全基準に従っています。広く一般には、2011 年に国連が「ビジネスと人権に関する指導原則」を採択し、万人に与えられた権利と自由を守るために企業や国家に課す責任を定義しています。
Salesforce では、私たちが社会に対し幅広い責任を担っていることを認識し、お客様の成功を推進するだけでなく、社会の前向きな変化を促進し、人類に恩恵をもたらすテクノロジーの創出を目指しています。Salesforce は、第 4 次産業革命を切り開いていくために Office of Ethical and Humane Use を設置し、お客様が私たちのテクノロジーを使用してポジティブな影響を与えられるようにサポートしています。こうした取り組みは、Salesforce のコアバリュー (信頼、カスタマーサクセス、イノベーション、平等、サステナビリティ) に根差しています。
テクノロジーの倫理は差し迫った緊要課題となっており、この解決策を見つけることは私たち全員の責任です。
バイアスがかかっていることと公平であることの意味
テクノロジー、中でも人工知能や自動化を伴うものを制作したり使用したりするうえで重要な点は、バイアスと公平性について自問することです。
Salesforce では、バイアスを「コンピューターシステムにおける体系的で繰り返し可能なエラーであり、機械学習プロセスの不正確な前提条件が原因でシステムの意図した機能とは異なる不公平な結果が発生するもの」とています。統計学的に言えば、バイアスとは真値からの体系的な逸脱あるいは誤差のことです。研究者でもある Kate Crawford 教授は、社会的および法的な観点から、バイアスを「先入観や偏見に基づく判断で、事実の公平な評価と対極にあるもの」と定義しています。
公平性は、利己心、先入観、偏重などが一切ない状態で行われた判断と定義されます。現実には、完全に公平な状態で判断を下すことはほぼ不可能です。2018 年にコンピューター科学学会 (ACM) の「公平性・説明責任・透過性に関する会議」で識者が、公平性に関する定義を 21 以上もリストアップしています。公平性についてさまざまな考え方があるのであれば、人間や機械が公正な判断を下しているかどうかはどうすればわかるのでしょうか?
多くの情報に基づく判断を行うためには、その判断の影響を理解することが欠かせません。最大数の人々に恩恵をもたらす判断であっても、少数の人々を排除し、そうした人々が度々見過ごされることになるのであれば公平とは言えません。「判断によって一定の人々や集団に偏った影響が出ることはないか?」「過去の判断や不正確なデータの体系的なバイアスによって、一定の集団が公平または公正に評価されにくくなる可能性はないか?」と自問する必要があります。上記の答えが「はい」の場合は、大多数に恩恵がもたらされなくなるとしても、こうした人々を保護するために善処すべきかどうか、そしてどのように善処すべきかを判断する必要があります。
「適切」なバイアスというものは存在するのか?
バイアスがすべて悪いわけではないと主張する人がいるかもしれません。たとえば、製薬会社が前立腺癌治療薬を製造しており、マーケティングキャンペーンで男性のみを対象としているとします。この会社は、自社のマーケティングキャンペーンでは、女性を関連性のない広告で煩わせないことでサービスを提供しており、これは適切なバイアスであると考えています。ただし、この会社のデータベースにシスジェンダーの人だけが含まれていたり、その他のアイデンティティ (ノンバイナリ、トランスジェンダーの女性、トランスジェンダーの男性、エイジェンダーの個人) を認識できていなければ、この広告を見ることで恩恵を受ける他の人が排除されている可能性があります。性別やジェンダーアイデンティティについて、より複雑で正確な理解を取り込むことで、この薬の恩恵を受けるすべての人にリーチする態勢を整えることができます。
倫理的な文化の構築
大半の企業は、敢えて人々を侮辱したり傷つけたりしようとすることはありません。けれども、自社の基本的価値を定義し、社内の全員がその価値に従って業務を遂行するプロセスを整備していなければ、知らず知らずのうちに相手を侮辱したり傷つけたりすることがあります。リーダーが価値、プロセス、インセンティブを定義すれば、その会社の文化に影響を及ぼすことができます。リーダーは学生や従業員に各人の取り組みに倫理を適用する方法を教示でき、また教示すべきですが、企業文化が健全でなければ、枯渇した土地の果樹園に健康な木を植えるようなものです。やがて、健康な木からも腐った林檎ができます。リーダーは、倫理的な行動に報奨を与える一方で、倫理に反する行動を察知して阻止する必要があります。
ここで心に留めておくべき重要な点は、私たち全員がこの分野のリーダーであるということです。次のエンドツーエンドのアプローチで倫理的な文化を取り入れて維持すれば、変化をもたらすことができます。
- 多様なチームを編成する。
- 価値をプロセスに反映させる。
- 顧客を理解する。
多様なチームを編成する
調査では、(経験、人種、性別、能力の点で) 多様なチームは、創造的で、真摯に取り組むことが示されています。最高幹部をはじめ、あらゆる職位で女性の数が多い組織のほうが概して、収益性が高くなっています。詳細は、この単元の末尾にある「リソース」セクションを参照してください。
私たちが創り出すすべてのものに、私たちの価値や経験、そしてバイアスが反映されます。たとえば、顔認識システムは、白人の顔よりも有色人種の顔をうまく認識できないことがよくあります。こうしたテクノロジーを開発するチームの多様性が高ければ、バイアスを認識して対処できていた可能性が高いものと思われます。
開発チームは、年齢や人種から文化、教育、能力に至るまで、あらゆる領域の多様性を追求する必要があります。多様性に欠ければ、視野が狭まり、結果的に偏った商品が出来上がったり、機能にギャップが生じたりする可能性があります。多様なチームメンバーを雇用することが不可能な場合は、社内やユーザーベース全体のマイノリティグループにフィードバックを求めることを検討します。
連帯感も企業の倫理基盤の一端です。倫理的な行動や倫理の推進は、誰か 1 人が責任を負うべきことではありません。会社全体が倫理に対する意識を高め、注意を払う必要があります。従業員が臆することなく現状に疑問を抱き、問題を提起できるようでなければなりません。また、こうした行動によってビジネスのリスクが特定されます。チームメンバーが各自の職域に固有の倫理的な疑問を抱いた場合は質問します。
- 商品マネージャー: 自社のアルゴリズムの偽陽性や偽陰性によってビジネスにどのような影響があるか?
- 研究者: 自社のシステムによって誰がどのような影響を受けるか? どのような形で悪用される可能性があるか? 人々がどのようにして商品を壊したり、意図しない方法で使用する可能性があるか? この商品が使用される社会的状況はどのようなものか?
- 設計者: 商品にどのような既成観念や思い込みを組み込んでいるか? 透過性や平等を念頭に設計しているか?
- データサイエンティスト: モデルをこの方法で最適化した場合、ユーザーにどのような影響があるか?
- コンテンツライター: システムがなぜこの予測、レコメンデーション、決定を行ったかをユーザーが理解できる言葉で説明できるか?
- エンジニア: 害悪を緩和するために、システムにどのような通知、プロセス、チェック、フェイルセーフを組み込むことができるか?
上記の疑問はさまざまなロールの観点から語られています。商品開発ライフサイクルのあらゆるフェーズで関係者やチームメンバーを引き込むことが、システムの体系的な社会的不平等による影響の是正に役立ちます。チームに上記のいずれかのロールがない場合や、自分が複数のロールを担っている場合は、こうしたさまざまな観点を取り入れるために、複数の役割をこなす必要のあることがあります。場合によっては、外部の見解やアドバイスを求めることも検討します。従業員が示された回答に満足していない場合、審議委員会など問題点を解決する明確なプロセスが設置されているはずです。この点については後ほど詳しく説明します。
価値をプロセスに反映させる
ほぼどの組織も、従業員の判断の指針となる一連の価値を定めています。こうした価値が実践されるようにする手段として、次の 3 つが挙げられます。
- インセンティブ構造
- リソース
- 記録とコミュニケーション
インセンティブ構造
インセンティブ構造は、特定の行動や特定の目標達成に対して個人に報奨を与えるものです。インセンティブ構造は、組織の価値によって説明される必要があります。従業員が売上、顧客獲得、ユーザーエンゲージメントに基づいて報奨を受けることは少なくありません。時として、こうした指標が倫理的な判断と相反することがあります。
組織がその価値に従った行動を奨励したいのであれば、インセンティブ構造に倫理的な報奨を含めることを検討します。倫理懸賞では、バグ懸賞と同様に、会社の価値に反したり、他者に害悪を及ぼしたりするような判断、プロセス、機能を特定した従業員に報奨を与えたり、顧客との商談に関わる懸念を提起し、潜在的な法的リスクや悪評を回避した営業担当に報奨を与えたりします。
また、採用過程で倫理的なテクノロジー開発に関する質問をすることも一案です。こうした質問から、あなたが構築している倫理的な文化が会社にとって重要であり、倫理的な思考や行動が奨励されることを新入社員が察知します。
従業員のサポート
責任ある組織は、従業員をサポートするリソースを整備し、会社の価値に基づいて従業員が判断を下せるようにします。このリソースには、従業員教育 (Trailhead はこの最たるリソースです) や、困難な問題を解決し、従業員のガイドラインの準拠を徹底する審議委員会などが挙げられます。
Salesforce では、データサイエンス審議委員会を設置して、AI モデル、トレーニングデータ、こうしたデータを使用するアプリケーションの品質と倫理的な考慮事項に関するフィードバックを提供しています。
倫理的な文化を構築すれば、従業員が倫理的な懸念を抱いたときに提起できるようになりますが、従業員が懸念を送信するための明瞭な匿名プロセスの設置も検討するとよいでしょう。最後に、チェックリストは重要な懸念を見逃さないための優れたリソースで、話し合いのきっかけになります。チェックリストは簡単に導入でき、一貫した方法で使用できますが、問題を網羅していることは少なく、明瞭ですぐに実行に移すことができなければ役に立ちません。チェックリストによって従業員にとって容易でない会話がしやすくなるため、会社は一般従業員の声も取り入れながら倫理的な文化を築いていくことができます。
記録とコミュニケーション
透過性や一貫性を念頭に下した判断を記録します。チームが倫理的な岐路に立ったときに下した判断とその理由を記録しておけば、今後のチームがその経験を教訓に、独断で行動するのではなく、一貫した行動をとることができます。また、記録をとり、コミュニケーションを図ることで、従業員や関係者があなたのプロセスとその結果である判断を信頼します。
顧客を理解する
言うまでもなく、すべての顧客を理解する必要があります。理解しておかなければ、一部のユーザーベースを無視した商品や、一部のユーザーに害悪を及ぼす商品を意図せず設計することになりかねません。「顧客の話を聞くことなく、相手のニーズや価値を憶測していないか?」「害悪の最大のリスクがあるのは誰か? それはなぜか?」「害悪を及ぼす意図をもって商品を利用する悪意のある人物や、知らずに使用して害悪を及ぼすおそれのある人はいないか?」と自問します。これらの質問に対する答えがわかれば、こうした問題の解決に取り組むことができます。ユーザー研究者に連絡して、顧客に対する理解を深めることをお勧めします。