Models API の基本を学ぶ
学習の目的
この単元を完了すると、次のことができるようになります。
- Models API を使用して何ができるかを説明する。
- Models API を使用する場合を説明する。
Models API の概要
Models API は、Anthropic、Google、OpenAI などの Salesforce パートナーの大規模言語モデル (LLM) にアプリケーションを接続するための Apex クラスと REST エンドポイントを提供します。Einstein Studio で設定できる任意の Salesforce 対応モデルを使用できます。
REST エンドポイントと Apex メソッドの両方を通じて使用できる Models API 機能が 4 つあります。では、詳しく見ていきましょう。
Models API の主な機能
機能 | 説明 |
|---|---|
テキストを生成する。 | Models API はチャット会話全体ではなく 1 つのプロンプトからテキストを生成できます。この機能は会話形式ではないシンプルなタスクに役立ちます。また、モデル機能のテストにも使用できます。 |
エンベディングを生成する。 | エンベディングとは、コンテンツを数値表現にしたものです。エンベディングはエンベディングベクトルと呼ばれることもあります。2 つのコンテンツ間の意味的類似性を測定するために、そのエンベディングベクトルに対して算術演算を使用して、コサイン類似度、ユークリッド距離、ドット積などを求めることができます。エンベディングは検索拡張生成 (RAG) 機能やセマンティック検索機能によく使用されます。 |
チャットを生成する。 | Models API はチャット会話用のメッセージを生成できます。そのため、モデルに対するプロンプトとして、1 つのプロンプトだけではなく、メッセージのリストを使用できます。リスト内の各メッセージは会話履歴の一部を表します。 |
フィードバックを送信する。 | ユーザーは Models API によって作成された生成テキストに対してフィードバックを提供できます。このデータは Data Cloud に保存され、応答の品質を確認し、要求やモデル設定を更新するために使用できます。 |
Models API の使用方法
一見すると、Models API は Einstein 生成 AI プロンプトビルダーに似ています。AI モデルを Salesforce 組織に接続し、Salesforce データによってモデルのグラウンディングを行うことはプロンプトテンプレートで簡単に対処できます。
Models API は柔軟性と拡張性を念頭に置いて設計されており、開発者向けの既存の Salesforce AI オファリングを補完するものです。プロンプトビルダーとプロンプトテンプレート接続 API は迅速なプロンプト管理に効果的であり、Agentforce ではインタラクティブなチャットエクスペリエンスが提供されます。Models API ではエンベディングや履歴を使用したチャット生成などの追加機能が提供され、それによって開発者はカスタム AI アプリケーションを設計できます。
次に、Models API の実例を見てみましょう。
DreamHouse Realty は、従業員が地域や全国の住宅市場状況を把握できる方法を必要としています。住宅購入者は対象を絞ったコミュニケーションに良い反応を示しますが、DreamHouse Realty にはそのためのリソースがありません。若い世代の住宅購入者は特に幅広い住宅市場状況に敏感であり、最適な住宅を見つけるための調査を行っています。DreamHouse Realty が生成 AI を使用して市場調査を具体化できれば、購入者と販売者からの信頼度を高めることができます。
Maria Garza は DreamHouse Realty の開発者です。彼女は、Models API を使用して外部の住宅市場 API からのデータを分析し、要約したものを DreamHouse Realty の従業員に提供する社内向けダッシュボードを作成しています。DreamHouse Realty は最終的にはこのダッシュボードを完全に機能する AI 搭載イネーブルメントツールにする計画です。このダッシュボードによって、ブローカーは市場状況を理解するだけでなく、組織のデータを利用してクライアントとのつながりを深めることができるようになります。
現時点では、Maria は最初のステップに集中しています。それは、環境を設定し、Models API の chatGenerations エンドポイントを利用するシンプルなダッシュボードを作成することです。
信頼を維持する
信頼は Salesforce の最大の価値であるため、LLM との連携においてユーザーデータが常に保護されていることが重要です。Salesforce Einstein 生成 AI ソリューションは、Salesforce の信頼できる生成 AI の 5 つの原則に基づいて設計、開発、提供されています。
- 正確性
- 安全性
- 透明性
- 能力強化
- サステナビリティ
また、Salesforce は OpenAI などの LLM プロバイダーと契約を結んでいます。この契約には、データ保持ゼロの義務が含まれており、お客様が生成 AI を使用するときに非公開データがサードパーティ LLM プロバイダーに保存される心配はありません。
すべての Models API コールは Einstein Trust Layer を通過します。Einstein Trust Layer は、Salesforce Platform に組み込まれたセキュアな AI アーキテクチャです。会社が生成 AI ソリューションを駆使する際に安全性を確保するための協定、セキュリティテクノロジー、データコントロールやプライバシーコントロールがこのレイヤーにまとめられています。
Models API に対する生成コールでは、自動的にデータマスキングと有害性スコアリングが実行されます。API は有害性が検出されたかどうかを示すフラグとスコア情報を返します。この情報は Data Cloud にも保存されます。Data Cloud 内で有害性スコア情報、データマスキング、フィードバックデータの詳細情報を参照できます。
Einstein Trust Layer は人間の判断に代わるものではありません。生成 AI の出力をお客様と共有することを計画している場合、すべての応答の正確性、バイアス、有害性を確認することが重要です。
サポートされるモデル
Models API は、Amazon Bedrock、Azure OpenAI、OpenAI、Google の Vertex AI などの複数のプロバイダーからの大規模言語モデル (LLM) をサポートしています。
Models API は Einstein Studio の Bring Your Own LLM (BYOLLM) 機能をサポートしています。BYOLLM を使用することで、サポートされるプロバイダーからの基盤モデルを追加し、モデルの独自のインスタンスを設定し、自分のログイン情報を使用してモデルに接続できます。推測はお客様のモデルによって処理されますが、その場合も要求は Models API を通じて転送され、Trust Layer は完全にサポートされます。
Models API を直接通じて使用できるモデルと Einstein Studio の BYOLLM 機能でサポートされるモデルについての詳細は、この単元の「リソース」セクションの「Supported Models (サポートされるモデル)」ページを参照してください。
これで、Models API とはどのようなもので何ができるかについて理解できました。次は、独自の Models API Lightning Web コンポーネントのための下準備を行いましょう。