Office of Ethical and Humane Use of Technology を知る

学習の目的

この単元を完了すると、次のことができるようになります。

• Salesforce における Office of Ethical and Humane Use of Technology の使命を説明する。
  
• Salesforce における倫理バイデザインのビジョンを説明する。
  
• Salesforce が商品開発プロセスや機能に倫理バイデザインを取り入れるためのさまざまな取り組みを特定する。
  

「第 4 次産業革命におけるテクノロジーの倫理的かつ人道的な活用こそが、業界だけでなく人類全体にとっての進むべき道です。私たちはテクノロジーを、社会を弱体化させるのではなく、強化するものにしなければなりません。テクノロジーは人間の状況を損なうのではなく、改善するものでなければなりません。」

— Marc Benioff、Salesforce 会長兼 CEO

Salesforce は、私たちが生み出すテクノロジーの変革的な力を認識しており、それが世界中で善を促進する力となることを目指しています。だからこそ、すべての個人の基本的人権を守る倫理的な方法で製品を開発および使用することに努めています。

倫理的かつ人道的なテクノロジー活用に重要なビジネス戦略として投資するという決定の結果、Salesforce は Office of Ethical and Humane Use of Technology (テクノロジーの倫理的人道的利用事務局) を設立しました。この事務局は、製品、法律、ポリシー、倫理の各分野にわたって活動しています。

Office of Ethical and Humane Use の注力分野は 3 つです。

1. Salesforce 製品が世界に与える直接的な影響と、お客様による利用に対して設けるべき適切なガードレールについて理解すること。
   
2. 倫理的な考え方を製品の設計および開発プロセスに組み込み、倫理バイデザインの社内文化を醸成すること。
   
3. 各組織とのパートナーシップのもと、多様なステークホルダーによる対話を推進し、業界、社会、世界全体にとってより良い前進の道を確かなものにすること。
   

最終的に、これらの注力ポイントは、テクノロジーの倫理的かつ人道的な利用を導く体系的なプロセスを Salesforce が維持するうえで役立っています。何より重要なのは、このフレームワークがすべてのステークホルダーの声に耳を傾けることを可能にし、お客様、パートナー、コミュニティメンバーとの信頼関係を構築し維持するのに役立っている点です。

倫理的かつ人道的な利用のための基本原則を探る

Salesforce のコアバリューである信頼、カスタマーサクセス、イノベーション、イクオリティは、Salesforce の方向性と目的を定めるものです。これらは、Salesforce が行うすべてのことの指針となっています。

私たちは、倫理的かつ人道的な使用に関する基本原則を策定するにあたり、まず既存の取り組みから学ぶことから始めました。原則の策定プロセスを開始するため、国際的に広く合意されている多くの規約を精査しました。その中には、世界人権宣言や国連のビジネスと人権に関する指導原則などが含まれます。

これらのドキュメントを通じて、最高水準のデータ保護からすべての人々がテクノロジーにアクセスできる権利まで、すべてのステークホルダーに一定の権利を与えることの重要性を理解しました。次に、全社アンケートを通じて従業員の声に耳を傾けました。従業員が最終的な基本原則を決定し、その優先度をランク付けしました。

各原則の意味と、Salesforce が自社テクノロジーの倫理的な設計と使用を世界で実践するためにその原則をどのように活用しているかを詳しく見ていきましょう。

• 人権。 私たちは Salesforce のテクノロジーの直接的な使用において、すべての個人の平等かつ不可譲の保護が守られるよう尽力します。
  
• プライバシー。 私たちはお客様が個人のデータを保護できるように、製品設計におけるプライバシーのベストプラクティスを推進します。
  
• 安全性。 私たちは Salesforce のテクノロジーの使用による直接的な危害から人々を守ることを目指します。
  
• 透明性。 私たちは Salesforce のモデルと機能がデータの来歴を尊重し、可能な限りお客様のデータに基づいたものになるよう努めます。AI が自律的にコンテンツを生成した場合は、その旨を透明性をもって明示する必要があります。
  
• インクルージョン。 私たちはテクノロジーへの平等なアクセスを推進し、すべての人に機会を創出します。
  

これらの原則は、Salesforce 製品の設計、開発、提供における倫理的なアプローチの指針として、日々の活動に活用されています。Salesforce では、これを倫理バイデザインと呼んでいます。

Salesforce における倫理バイデザイン

テクノロジーには人間をより良くする可能性があります。Salesforce のテクノロジーが基本原則で定められた高い基準を満たすようにすることは、私たちの責任です。そのため、私たちは倫理バイデザインに注力しています。これは、ソフトウェアやサービスの設計、開発、提供のプロセスに、倫理的かつ人道的な使用原則を意図的に組み込むことです。

私たちは、従業員、パートナー、Trailblazer がテクノロジーの潜在的なメリットとリスクを考慮できるよう支援することに努めています。それにより、前例のない不確実性を乗り越え、信頼を高め、世界に良い影響をもたらすツールや機能を共に構築できると考えています。つまり、私たちはお客様が Salesforce を倫理的に活用できるよう支援し、非倫理的な使用を防ぐための案内を組み込んだテクノロジーの構築を目指しています。

倫理的差別化要因

Salesforce のテクノロジーソリューションの多くは、倫理バイデザインによって差別化された機能をすでに備えています。その実例を見てみましょう。

信頼できる AI の構築

AI のメリットは、すべての人が利用できるものであるべきです。AI のテクノロジー的な能力を提供するだけでは十分ではありません。私たちには、AI がすべての人にとって安全でインクルーシブなものであることを保証する責任もあります。

Einstein プラットフォームでは、予測要素を通じて、各予測の「理由」についてエンドユーザーに説明を提供しています。 予測要素は、どのデータがおすすめに影響しているかをユーザーが理解するのに役立ちます。また、配慮を要する項目機能は、特定のモデル要素が特定のグループや母集団に対してバイアスのかかったおすすめや予測をもたらす可能性があるという認識のもとで開発されました。最後に、モデルメトリクスは AI モデルの精度とパフォーマンスを測定するのに役立ち、モデルカードは入力、出力、最適な条件、使用における倫理的考慮事項など、モデルの仕組みを伝えます。

Salesforce は、お客様、パートナー、コミュニティのために、責任ある公正な AI の構築方法を誰もが学べるよう、「人工知能の責任ある作成」モジュールを作成しました。私たちは、開発者、デザイナー、研究者、ライター、商品マネージャーなど、AI システムの構築に関わるすべての人が、責任ある信頼できる方法で AI を使用、構築する方法を学び、エンドユーザー、ビジネス、社会に対する影響を理解できるよう支援することを目指しています。

言葉の重要性: Salesforce 製品におけるイクオリティとインクルージョン

言葉には、人々をつなぎ、励まし、力を与える力があります。非倫理的な使われ方をすると、分断を生み、傷つけ、固定観念を強化することにもなりかねません。

企業が使用する言葉は大きな影響力を持ちます。コンテンツや商品に接する何百万人ものユーザーに影響を与えるからです。Salesforce では、製品へのインクルーシブなアプローチを実現するために、エンジニアリングチームと製品チームが作成するコンテンツやコードの影響を考慮することができるよう支援しています。まず、インクルーシブでない用語を「ブロックリスト」と「許可リスト」などの適切な用語に置き換えました。

また、より広い視点でこの取り組みを捉え直す必要があると考えました。そのために、インクルーシブでない表現に対して、過去にさかのぼって対処するだけでなく、今後も継続的に取り組むことができるよう、持続可能で反復可能、かつ拡張性のあるプロセスを構築しています。

危機の時代における責任あるテクノロジー開発

COVID-19 パンデミックは、プライバシーおよび倫理的な使用に関する数多くの問題を明らかにしました。どこからでも働ける環境で業務を行うには、これまで以上に機密性の高い個人データにアクセスできるツールが必要です。

最前線で活躍する対応者、医療従事者、そしてエッセンシャルワーカーが私たちを回復へと導いているように、テクノロジーも感染症の拡大を抑制し、地域社会の再建を助ける上で重要な役割を果たせると認識しています。そのため、Work.com ソリューション群の構築にあたって社内の議論を導くための指針となる原則を策定しました。私たちの意図的なアプローチにより、COVID-19 の流動的な課題とニーズに対応するチームの活動において、倫理的な使用とプライバシーが最優先事項として確保されています。

透明性と説明責任の精神に基づき、また Salesforce のパートナー、お客様、コミュニティが独自のソリューションを構築する際の参考となることを願って、これらの原則を共有しています。これらの原則を Salesforce の自社製品に適用するためにチームと協力した事例の一部を以下に示します。

• 人権とイクオリティの保護
  
• 透明性の尊重
  
• データ収集の最小化
  
• 個人データのセキュリティの確保
  

多言語対応機能、メール、SMS 機能を Work.com 製品に組み込むことで、Salesforce テクノロジーへのアクセス向上に注力してきました。透明性の観点からは、どのようなデータを収集しているか、またその理由についてより詳しく説明するコンテンツを追加しました。最後に、個人データを安全に保つための追加対策を実施しました。Salesforce が収集するのは、絶対に必要なデータポイントのみです。また、従業員の個人的な健康情報を他のデータから分離することを強く推奨しています。

ポリシーへの反映

倫理を念頭に置いてこれらの製品を構築するにあたり、特定の製品に関連する倫理的な利用については、お客様向けの利用規約にも組み込まれています。たとえば、Salesforce のポリシーでは、ボットが人間ではないことをお客様に明示すること、また Einstein を自動的な法的意思決定に使用できないことが規定されています。また、Einstein Vision 製品を使用した生体認証による特定 (顔認識を含む) は許可していません。

今もこれからもテクノロジーの倫理的な利用を目指す

これらの原則を作成、実施する中で、私たちはコミュニティの声に耳を傾け、私たちの案内を利用可能にし、継続的なフィードバックの仕組みを整え、危機後の生活に備え、テクノロジーと社会の変化に合わせて進化していくことを学びました。私たちの目標は、倫理的かつ人道的な利用への取り組みを反映した、長続きする原則とフレームワークを構築し、それを体系化することで、そのような基準が長年にわたって守られるようにすることです。

次は、あなた自身の会社の商品プロセスに倫理をどのように組み込めるかについて説明します。

リソース

• Trailhead: アクセシビリティの基本
• Salesforce: Ethical Leadership and Business (倫理的リーダーシップとビジネス) (レポート)
• 記事: Our Commitment to Human Rights (人権に対する私たちの取り組み)
• 記事: How Salesforce Is Building a Culture of Responsible Technology—And Why It Matters (Salesforce が責任あるテクノロジーという文化を構築している方法とそれが重要な理由)
• 記事: Why We've Never Offered Facial Recognition (Salesforce が顔認識を提供しない理由)
• 記事: Five Privacy and Ethical Use Principles for Your COVID-19 Response (COVID-19 対応における 5 つのプライバシーおよび倫理的使用の原則)
• 外部サイト: WEF: 5 lessons Salesforce learned crafting responsible technology guidelines during COVID-19 (COVID-19 期間中に責任あるテクノロジーガイドラインを策定する中で Salesforce が学んだ 5 つの教訓)