了解 Salesforce 如何使用大语言模型
学习目标
完成本单元后，您将能够：
- 解释 Salesforce 如何为 LLM 带来信任。
- 为您的业务选择正确的 LLM 选项。
- 描述可用 LLM 选项的限制。
Trailcast
如果您想收听本模块的录音，请使用以下播放器。听完这段录音后，记得返回每个单元，查看资源，然后完成相关评估。
以信任为先
信任是 Salesforce 最重要的价值观。因此，Salesforce 理所当然以安全和可信的方式使用大语言模型 (LLM)。保持这种信任的关键在于 Einstein 信任层。Einstein 信任层通过无缝集成到 Salesforce 最终用户体验中的数据和隐私控制措施，确保生成式 AI 的安全性。这些控制措施使 Einstein 能够安全地使用检索增强生成 (RAG) 来对您的客户和公司数据进行落地训练，而不会引入潜在的安全风险。简单来说，Einstein 信任层是一系列网关和检索机制，共同实现了可信赖、开放的生成式 AI。
值得信赖的 Salesforce 智能体
Agentforce 智能体通过 Einstein 信任层使用领先的 LLM，利用 RAG 构建基于 Salesforce 和 Data Cloud 数据的安全提示。这为使用能够支持员工和客户的 AI 智能体创造了一个丰富且安全的环境。这些智能体不仅仅是提供建议——它们还可以独立完成任务。例如，它们可以处理客户查询、排查问题，甚至在没有人工干预的情况下进行销售推荐。同时，使用信任层来保护数据并提供可靠的响应。
选择最佳大语言模型
所有 Agentforce 推理引擎调用都使用 OpenAI GPT-4o，在某些情况下使用 Azure OpenAI GPT-4o 作为默认模型。但是，您可以从支持您业务需求的其他模型中选择。请务必注意，确保您有合适的模型来完成合适的任务，将帮助您更快地入门生成式 AI，实现您期望的结果。Salesforce 为很多不同的 LLM 提供了部署能力，同时帮助公司保证数据隐私、安全性、驻留和合规目标。
您的企业可能会选择使用多个 LLM 来处理不同类型的用例，如编码、情感分析或内容生成。在为用例选择模型后，请牢记模型功能、成本、响应质量和速度。您还可以选择具备地理感知能力的模型。这些模型会根据为您的组织提供 Data Cloud 的位置自动将 LLM 请求路由到附近的数据中心。这使您可以更好地控制数据驻留并减少延迟。
使用 Salesforce 管理的 LLM
Salesforce 管理的 LLM 是通过互联网访问 LLM 并快速开始使用生成式 AI 的好方法。您可以通过使用模型 API 或提示生成器的 Salesforce 管理的模型自定义 AI 实施。Salesforce 提供了各种默认启用的模型，以帮助加快配置过程。
有关当前 Salesforce 管理模型的列表，请访问大语言模型支持帮助文档。
使用 Salesforce 托管的第三方 LLM
您也可以在 Salesforce 内托管模型。作为 Salesforce 对开放生态系统承诺的一部分，Einstein 设计用于托管 Amazon、Anthropic、Cohere 和其他公司的 LLM——完全在 Salesforce 基础设施内。Einstein 将在 Salesforce 基础设施内帮客户维护提示和响应。此外，Salesforce 和 OpenAI 建立了共享信任合作关系，以通过 Einstein 信任层安全提供内容。
使用您自己的大语言模型 (BYOLLM)
如果您已经在投资自己的 LLM，您可以将其连接到 Salesforce 以在自定义提示生成器模板中使用。即使您已在 Salesforce 之外训练了特定领域的模型，在自己的基础设施中储存数据，您仍可以从 Einstein 获益。当您通过已连接的外部 LLM 执行提示时，它的工作原理与内部连接的 LLM 相同，并在与用户共享内容之前通过 LLM 网关和 Einstein 信任层路由请求。
BYOLLM 选项在不断快速变化！查看资源了解更新吧！