学习模型 API 的基本知识
学习目标
完成本单元后，您将能够：
- 描述您可以使用模型 API 执行的操作。
- 说明何时使用模型 API。
模型 API 简介
模型 API 提供 Apex 类和 REST 端点，用于将应用程序连接到 Salesforce 合作伙伴（包括 Anthropic、Google 和 OpenAI）的大语言模型 (LLM)。您可使用任何可在 Einstein Studio 中配置的 Salesforce 启用的模型。
通过 REST 端点和 Apex 方法，提供了 4 种模型 API 功能。让我们仔细了解一下。
模型 API 的关键功能
功能 | 描述 |
|---|---|
生成文本。 | 模型 API 能够根据单一提示，而非整个聊天对话生成文本。此功能适用于非对话式的简单任务以及模型功能的测试。 |
生成嵌入。 | 嵌入是指内容区块的数值表示。有时，嵌入也被称为嵌入向量。为衡量两个内容区块之间的语义相似性，可以对嵌入向量进行数学运算，如余弦相似度、欧几里得距离或点积。嵌入技术常用于检索增强生成 (RAG) 和语义搜索功能。 |
生成聊天。 | 模型 API 可为聊天对话生成消息。这使您能够通过消息列表提示模型，而非仅限于一个提示。列表中的每条消息都代表对话历史记录的一部分。 |
提交反馈。 | 您可以对模型 API 创建的任何生成的文本提供反馈。您还可以使用存储在 Data 360 中的这些数据查看响应的质量，然后更新您的请求或模型配置。 |
如何使用模型 API
乍一看，模型 API 类似于 Einstein 生成式 AI 提示生成器。无论是将 AI 模型连接到 Salesforce 组织，还是利用 Salesforce 数据对模型进行落地训练，都可通过提示模板轻松处理。
模型 API 的设计兼顾灵活性和可扩展性，并为开发人员完善了 Salesforce 现有的 AI 产品组合。提示生成器和提示模板 Connect API 能高效地实现快速提示管理，Agentforce 则提供了交互式聊天体验。模型 API 提供了嵌入和基于历史记录的聊天生成等附加功能，使开发人员能够构建自定义 AI 应用程序。
现在让我们来看看模型 API 的真实示例。
DreamHouse Realty 需要一种方法，以使员工了解本地及全国范围内的住房市场状况。购房者对更有针对性的沟通方式反应积极，但是 DreamHouse Realty 却无法提供足够的资源。年轻的购房者尤其关注广泛的住房市场状况，并为了找到理想住房而进行研究。若 DreamHouse Realty 能使用生成式 AI 使市场研究具体化，公司便可提升买卖双方之间的信任度。
Maria Garza 是 DreamHouse Realty 的一名开发人员。她正在构建一个内部仪表板，此仪表板利用模型 API 分析来自外部住房市场 API 的数据，并将分析结果汇总反馈给 DreamHouse Realty 的员工。DreamHouse Realty 计划最终将此仪表板打造为功能齐全的 AI 驱动支持工具。此仪表板不仅有助于经纪人了解市场状况，更能通过组织数据更好地在经纪人与客户之间建立联系。
目前，Maria 正专注于第一步：设置环境并创建一个利用模型 API 的 chatGenerations 端点的简单仪表板。
维持信任
信任是 Salesforce 的首要价值观，因此，在与 LLM 交互时，确保用户数据始终受到保护至关重要。Salesforce Einstein 生成式 AI 解决方案基于可信的生成式 AI 的五项原则而设计、开发和推出。
- 准确性
- 安全性
- 透明性
- 赋能
- 可持续发展
此外，Salesforce 已与 OpenAI 等 LLM 提供商签订协议。这些协议包含零数据留存承诺，令您在使用生成式 AI 时，无需担心私人数据会被第三方 LLM 提供商存储。
所有模型 API 调用均通过 Einstein 信任层处理。Einstein 信任层是 Salesforce Platform 中内置的安全 AI 架构。它是一套协议、安全技术以及数据和隐私控制措施，用于在您探索生成式 AI 解决方案时确保贵公司的安全。
对模型 API 的生成调用将自动执行数据屏蔽和毒性评分。API 会传回表明毒性是否被检测到的标记以及分数信息。这些信息也会存储到 Data 360。您可在 Data 360 内查看毒性分数信息、数据屏蔽状态以及反馈数据的详细信息。
Einstein 信任层不是人类判断的替换产品。若您计划与客户共享生成式 AI 输出，检查所有响应的准确性、偏差及毒性至关重要。
支持的模型
模型 API 支持多个提供商提供的大语言模型 (LLM)，如 Amazon Bedrock、Azure OpenAI、OpenAI 以及来自 Google 的 Vertex AI。
模型 API 支持 Einstein Studio 的 Bring Your Own LLM (BYOLLM) 功能。借助 BYOLLM，您可以添加来自支持的提供商的基础模型，配置您自己的模型实例，并使用您自己的登录信息连接到模型。虽然推理将由客户的模型来处理，但请求仍将通过模型 API 路由，信任层将获得完全支持。
有关可直接通过模型 API 获取并受 Einstein Studio 的 BYOLLM 功能支持的模型的详细信息，请参阅本单元“资源”部分中的 Supported Models（支持的模型）页面。
现在您已经了解了模型 API 的定义及其功能，是时候为创建您自己的模型 API Lightning Web 组件做好准备了。