信頼できる動作をデザインする
学習の目的
この単元を完了すると、次のことができるようになります。
- エージェントに対するユーザーの信頼に影響を及ぼす主な要因を挙げる。
- 信頼を維持し、スムーズなユーザーエクスペリエンスが促進されるようにデザインする。
AI の世界において信頼ほど重要なものはほとんどありません。高速ながらハルシネーションを起こすエージェントは役に立たず、スマートながら会話が成立しないエージェントはユーザーを苛立たせます。このギャップを埋めるために、デザイナーは信頼のアーキテクトとなり、エージェントのやり取りを定義するロジックレイヤーに信頼を組み込む必要があります。エージェントにとって正しい動作はどのようなものか、つまり、応答の良し悪しを定義するのはデザイナーであるためです。続いてデザイナーは、評価から得られたインサイトと、実証済みの信頼できるデザインの原則を組み合わせてその指針にします。
[Google Docs Gemini を使用して AI が生成。]
優れたエージェントをデザインすれば、失敗に発展する前に不具合が予測されます。そのため、技術的な障害とユーザーの否定的な印象の両方が阻止されます。目標はタスクを完了するだけでなく、信頼を築くことです。優れたエージェントは、ユーザーを成功に導き、問題が深刻化する前に解決策を提示します。
明確さを維持する
重点: 透明性と予測可能性
ユーザーは本来、エージェントが何を行い、なぜ行うのかを推測する必要がありません。一般に、エージェントとやり取りするときは、できる限り透明性を高めることが重要です。エージェントのロジックが可視化され、その限界も示されるようにします。
手口
-
根拠を説明する: エージェントは回答を提示するだけでなく、その根拠となる情報源も簡潔に示します。たとえば、「会社の保証ポリシーに基づいて…」と説明します。
-
明確な期待を抱かせる: エージェントは自らできることとできないことを率直に伝えます。たとえば、「注文状況は確認できますが、全額返金の手続きは人間の担当者が処理する必要があります」と返答します。
-
実施する手順を伝える: アクションを逐一説明します。たとえば、「現在在庫を探しています…。品目が見つかりました」と伝達します。
重要である理由
動作が明確であれば、ユーザーの不安が軽減され、信頼感が高まります。エージェントの透明性が高ければ、レコードの取得の一時的な失敗といった些細なエラーが、単なる一過性の不具合と受け止められます。他方、透明性が低ければ、エージェントが問題を認識しているのかユーザーに確信がもてず、エラーはブランドの失態とみなされます。
コンテキストを認識する
重点: 関連性と継続性
あなたが 2 分前に言ったことを忘れてしまうエージェントほど、会話をイライラさせるものはありません。コンテキストを認識すれば、一連のやり取りが継続的な会話になります。
手口
-
過去のやり取りを参考にする: チャットの前半でユーザーが蛇口の水漏れについて言及していたことをエージェントは記憶しているため、問題解決の最中に「本日はどのようなご用件でしょうか?」と尋ねることがありません。
-
ロールやチャネルに適応する: エージェントは、モバイルアプリケーション経由のフィールドサービス技術者に対応する場合は、デスクトップブラウザー経由の CEO の場合とは話し方が異なることを認識しています。
-
適度な詳細で応答する: シンプルな「はい」/「いいえ」の質問に、500 語の長文で答えることはありません。
重要である理由
コンテキストを認識すれば、定型の応答を示すロボットのような印象を与えることがありません。そのため、やり取りが自然で効率的になり、ユーザーの時間と手間が省かれ、そのニーズに最適なソリューションを提示できます。
敬意をもって信頼を築く
重点: 安全性、倫理、ユーザーコントロール
敬意ある動作とは、境界が明確であることです。敬意あるエージェントは、取り扱うデータの重大性とユーザーの時間の重要性を理解し、お客様の時間と信頼の価値を十分に考慮したうえでアクションを実行します。
手口
-
エスカレーションすべき状況を把握する: エージェントは機密性の高い極めて複雑なシナリオを特定し、ユーザーのセンチメントが著しく否定的になった場合や、タスクに人間レベルの権限が必要な場合に、人間の担当者に丁重に引き継ぎます。
-
プライバシーと権限を尊重する: エージェントはアクセス権のあるデータのみを使用し、PII を不適切に共有することはありません。
-
ハルシネーションや過度な解釈を回避する: 答えがわからないときは、その旨を伝えます。技術的な問題に対して、独創的な解決策を提示することはありません。
重要である理由
信頼が高まれば採用が促進されます。ユーザーは尊重されている、または安全であると感じなければ、ツールを使いません。また、ユーザーを保護することが、企業を評判上のリスクや法的なリスクから守ることになります。
信頼を築く動作を構築する
信頼できる動作のデザインは反復的なプロセスです。エージェントを明確で、コンテキストを認識し、敬意あるものに維持すれば、組織内に AI が発展していくための信頼の基盤が築かれます。それだけでなく、信頼できるやり取りを生み出す手順そのものが効果的なやり取りの土台になります。AI がデザインしたとおりに動作すると信頼でき、お客様もその AI を信頼することができれば、人間とエージェントが連携して成長し続けるチームが、充実したエクスペリエンスを実現できます。今日の課題に対応し、未来の状況にも適応できる、こうした人とエージェントのコラボレーションが新たな可能性の基盤になります。エージェントの潜在的な不具合を診断してトリアージする具体的な方法についての詳細は、次の「エージェントの動作の評価」Trailhead バッジを受講してください。