エージェントの動作と会話デザインを検討する
学習の目的
この単元を完了すると、次のことができるようになります。
- AI の会話デザインの歴史と重要性について説明する。
- システム障害とインテント障害を区別する。
人間 + エージェントを念頭にデザインする
Web の創成期は、デザイナーがユーザーエクスペリエンスを評価する際にクリック数に着目していました。昨今のエージェントの登場に伴い、ユーザーがどのボタンを押すかよりも広い視点で検討することが必要になっています。エージェンティック時代の成功は、人々がいかに自然にエージェントとやり取りし、エージェントがその利用者にどのように応答するかをデザインする能力にかかっています。
こうした新時代を進む中でデザイナーの役割は重要性を増しています。デザイナーはもはや画面の機能やフローを設計するだけに留まらず、ユーザーインテント、システム仕様、データのグラウンディング、モデルの推論能力を連携させる動的な動作のエコシステムを予測して説明することが求められます。この単元では、会話デザイン (CxD) の進化を検証し、過去のロジックフローのマインドセットから、ユーザーの継続的な成功を見据えたエージェンティックマインドセットに移行する方法について解説します。
必須ではありませんが、「会話デザイン」Trailhead バッジを受講して、このバッジの取得に役立つ背景情報を把握しておくことをお勧めします。
会話デザインの進化
私たちがどこに向かっているのかを理解するために、これまでの道のりを振り返ってみましょう。シンプルな if-then ロジックから自律的な推論へのジャーニーによって人間とマシンの関係が根本から覆されています。その結果、デザイナーは自律的に推論してアクションを実行できるインテントファーストのシステムを設計するうえで、さまざまな新しい課題に直面しています。昨今のデザイナーは、各応答のスクリプトを作成するのではなく、エージェントの推論ロジックやパーソナリティの形成に重点的に取り組んでいます。このため、デザイナーが成功を促進するために認識して予測し、効果的に対応すべき範囲が拡大しています。
これは大きな変化ながら、日常業務におけるデジタル支援を推進する長期的なトレンドの一環です。事態がどのように変化しているかを理解するためには、自動化の進化を過去、現在、未来という 3 つの区分でとらえ、Web エクスペリエンスを構築するうえで、それぞれの区分でデザイナーが何を重視すべきかがどのように方向づけられたかを検討すると役立ちます。
過去: スクリプト化されたやり取り (ルールベース)
従来の電話自動応答システムや基本的なチャットボットを思い浮かべてみてください。こうしたシステムは確定的でした。つまり、事前に定義された厳格なパスをたどっていました。お客様がスクリプトから外れると、そこで行き止まりになります。デザインでは、フローで起こりうるであろう分岐点を網羅することが重視されていました。
現在: AI + 人間 (支援型)
大規模言語モデル (LLM) の台頭によって「Copilot」の時代に突入しました。この時期のシステムは人間と連携して、トランススクリプトの要約、メールのドラフトの作成、次の最適なアクションの提案などを行います。依然として人間が主導しますが、AI がナビゲーター兼アシスタントとして、自然言語を用いて人間が効率的に大規模なアクションを実行できるように補佐します。AI は、実行する手順と使用するツールについての指示を受けてアクションを実行します。
未来: 自律型エージェント (目標指向)
自律型エージェントは、定義された目標とコンテキストに基づいてアクションとツールを選択します。段階的な指示は必要ありません。
決まったワークフローに従うのではなく、目標に向けて進むために必要な次のステップを判断します。たとえば、「この請求に関するトラブルを解決する」という目標を与えると、エージェントは適切なツールを特定し、的確な情報を取得して必要な手順を実行します。
スクリプト化されたフローから目標指向の実行への進化に伴い、私たちがどのようにデザインするかも変化します。もはや画面や直線的なパスをデザインするのではなく、 エージェントが成果をあげるためにどのようなアクションを実行するのかを導く動作をデザインします。
[Google Docs Gemini を使用して AI が生成。]
エージェントの動作のデザインとは?
従来のシステムでは、デザイナーが出力を直接管理していました。エージェンティックシステムでは、デザイナーが条件を定めると、エージェントがその条件に従って自ら出力を生成します。
エージェントの動作は、次の主な要素に基づいて、エージェントが生成する応答とアクションのパターンとして定義されます。
- エージェントに定義されたロール。
- エージェントの目標とガードレール。
- エージェントが受け取る指示。
- エージェントがアクセス可能なデータ。
- ユーザーの入力。
エージェントの動作をデザインするということは、エージェントが予測可能かつ安全に、かつユーザーの期待に沿って応答するように、上記の条件を意図的に定義することです。会話デザインとエージェントの動作のデザインは、互いに独立した分野ではありません。エージェンティックシステムでは、この 2 つが密接に結びついています。あなたが選ぶ言葉、設定する境界、提供するデータが、エージェントの動作を方向づけます。
過去のデザイナーは地図を作成していました。固定されたパス (ボタン、メニュー、画面) を作成し、ユーザーがそのパスに従って進行することを期待していました。他方、AI エージェントの時代においてインターフェースの設計は、成功に向けた構築の一部に過ぎません。デザイナーは、応答のキャラクターやコンテンツが、ユーザーがやり取りで見出す価値にどのように寄与するかも理解する必要があります。
エージェントをデザインすることは、従業員のオンボーディングに似ています。新規採用者に台本だけ渡して放置するようなことはないと思います。彼らも高いパフォーマンスを発揮して、優れたユーザーエクスペリエンスを創出できるように、ミッションを伝え、社内のナレッジを活用できるようにし、明確な境界線を示す必要があります。
4 つの要素の関係性: 新しいデザインキャンバス
デザイナーがエージェントの動作を効果的にマッピングするためには、ユーザーインテント、仕様、データ、モデルという 4 つの極めて重要な要素の関係性を管理する必要があります。この 4 つがうまく整合していれば、エージェントが高いパフォーマンスを発揮します。他方、同期していなければ、ユーザーエクスペリエンスが断片的になります。
ユーザーインテント (揺るぎない指針)
-
デザインの転換: 今後は「ユーザーがどのボタンをクリックしたか?」から、「ユーザーはどのような結果を得ようとしているか?」に視点を変換します。
-
パフォーマンスメトリクス: エージェントは人間の言葉やニュアンスをどのくらい正確に解読して、真の目的を特定できるか?
仕様 (ミッションコントロール)
-
デザインの転換: 今後は各自のデザインワークスペースがシステムプロンプトになります。人格、トーン、境界設定ルールを定義します。
-
パフォーマンスメトリクス: 会話が複雑になっても、エージェントはブランドイメージを維持し、会社のポリシーに従っているか?
データ (信頼できる情報源)
-
デザインの転換: 今後はデザイナーが知識ベースをキュレーションします。エージェントが有用であるためには、リアルタイムの CRM データやドキュメントでグラウンディングされる必要があります。
-
パフォーマンスメトリクス: エージェントが事実に基づいて有用性の高い回答を示しているか、それとも適当にでっち上げているか?
モデル (認知エンジン)
-
デザインの転換: 最新のエージェンティックエクスペリエンスには、LLM のしくみを理解することが不可欠です。デザイナーは、ユーザーが現実的な期待を抱くように、モデルの推論の限界を把握しておく必要があります。
-
パフォーマンスメトリクス: エージェントはユーザーの問題を解決する推論能力を備え、時期尚早に人間にエスカレーションすることがないか?
エージェンティックマインドセットの基本原則
エージェントは無数の入力に安全かつ効果的に対応する必要があるため、自律的な動作をデザインするためには手法の転換が求められます。デザインでは完璧を目指すのではなく、適応性を重視します。エージェントは必ずしも期待どおり応答するわけではありませんが、綿密なデザインによってユーザーをより良い結果に導くことができます。では、デザイナーがこの課題に取り組むうえで役立つ基本原則を見ていきましょう。
ユーザーが成功をどのようにとらえているのかに基づいて、質の高いエージェントエクスペリエンスにはどのようなことが期待されるのかを理解すれば、問題を分析し、ユーザーとのあらゆるやり取りから最大限の価値を引き出すことができます。
インテントファーストのデザイン
スクリプト化された世界では、「クレジットカードを失くしました」という問い合わせに対するパスを設計していたものと思われます。他方、エージェンティックな世界では、「セキュリティと納入資産管理」というインテントに対するデザインを行います。大まかなインテントを定めれば、個々の文ごとに固有のフローを用意しなくても、エージェントが人間の言葉のばらつきに対応することができます。特定の問題に対する具体的な応答が存在する場合もありますが、ここで理解すべき重要な点は、エージェントがユーザーの言葉をアクション可能な目標に変換できるようにする必要があるということです。
動作を予測可能かつ説明可能にする
信頼は AI の核心です。エージェントが返金を拒否するなどの決定を行う場合は、その理由を説明し、問題解決に向けた明確な次のステップを提示する必要があります。こうすれば、ユーザーが各自のケースに実施可能な最適な解決策を見つけやすくなります。効果的なエージェントは、重要な決定を明確に説明し、ユーザーが次のステップに進めるようにします。リクエストに応えられない場合は、その理由をユーザーに伝え、次善策を提示します。エージェントが自らの決定の理由を説明できれば、当初のインテントが満たされない場合にユーザーを代替案に導くことができます。
応答だけでなく、推論を高めるように最適化する
優れたエージェントはキーワードに一致する定型の回答を見つけ出すだけではありません。ユーザーのリクエストをコンテキストに沿って評価し、リアルタイムのデータに基づいて適切なアクションを選択します。たとえば、ユーザーから「私の注文はどうなっていますか?」という問い合わせがあった場合、その注文状況に応じて応答を変える必要があります。「発送済み」の場合は追跡情報が必要です。「配達済み」の場合は配達証明が必要になるかもしれません。「遅延」の場合は謝罪と次のステップが必要と思われます。
推論はコンテキストに左右されます。コンテキストはデータに左右されます。推論をサポートするためには、データとツールが AI に対応していなければなりません。つまり、次のようになります。
- データを一元化して、エージェントが 1 か所でアクセスできるようにする。
- 一貫した形式でデータを構造化する。
-
ID 解決を使用して重複している顧客レコードを解消する。
- セキュリティやガバナンスの明確なポリシーを適用する。
- テストを実施して、データがリアルタイムの決定に対応していることを確認する。
- 人間参加型のレビューを確立し、出力を監視して改善を図る。
エージェントが、与えられたデータとツールの品質を上回る推論をすることはできません。
エージェントの動作の成功と失敗
エージェントエクスペリエンスは、2 通りの方法で失敗する可能性があります。1 つは、コードの破損や機能しない UI 要素といったシステム障害です。もう 1 つはインテントの失敗で、エージェントがきちんと指示に従っているにもかかわらず、ユーザーの問題が解決されない状況です。デザイナーにとっては、この 2 つ目の失敗を理解することが極めて重要です。エージェントがデザインしたとおりに動作しているのに、ユーザーが実際に必要としている結果をもたらすことができない状況を認識するということです。
このため、Salesforce では動作のデザインにおける失敗を P0、P1、P2 の 3 つの重大度に分類しています。
明確な目標を設定して、実証済みの原則に従い、ユーザーへの貢献度に基づいてエージェントを評価すれば、通常は信頼を損なう前に、最も深刻な P0 の失敗も未然に防ぐことができます。エージェントの時代は、ユーザーエクスペリエンスに価値をもたらすうえで、デザイナーの重要性がかつてないほど増しています。今では、その役割がさらに拡大しています。ユーザーが何を求め、実際にどのようなエクスペリエンスを得ているのか、さらにそのギャップを埋めるにはどうすればよいかを理解するための手法を身に付けていれば、効果的で常に進化し続けるデジタルワークフォースを構築することができます。