了解 Salesforce 如何使用大语言模型
学习目标
完成本单元后,您将能够:
- 为您的业务选择正确的 LLM 选项。
- 描述可用 LLM 选项的限制。
选择最佳大语言模型
为合适的任务选择正确的模型可以帮您更快用上生成式 AI。Salesforce 为所有相关 LLM 提供了部署能力,与此同时,帮助公司保证数据隐私、安全性、驻留和合规目标。
根据不同用例,可能需要用到很多 LLM。客户会希望以不同方式部署 LLM,因为可能会有某些数据驻留的顾虑。
使用 Salesforce 共享型 LLM
Salesforce 共享型 LLM 是通过互联网使用 LLM 的一种形式。Salesforce 与 OpenAI 合作,倡导了这一形式。Salesforce 通过安全的网关,利用互联网,让卓越的 LLM 响应。
Einstein 允许客户使用 Salesforce AI Research 开发的 Salesforce LLM 来增强高级功能,如生成代码和业务流程自动化辅助,从根本上改变企业与 CRM 软件的交互方式。Salesforce LLM,包括 CodeGen、CodeT5+ 和 CodeTF,可以帮助公司提高效率弥合人才缺口,降低实施成本,并更好地检测事件。
使用 Salesforce 托管的第三方 LLM
您也可以在 Salesforce 内托管模型。
作为 Salesforce 对开放生态系统承诺的一部分,Einstein 设计用于托管 Amazon、Anthropic、Cohere 和其他公司的 LLM——完全在 Salesforce 基础设施内。Einstein 将在 Salesforce 基础设施内帮客户维护提示和响应。此外,Salesforce 和 OpenAI 建立了共享信任合作关系,以通过 Einstein 信任层提供内容。
自带模型
如果已经有自己的模型,自带模型 (BYOM) 选项会有所帮助。
即使您已在 Salesforce 之外训练了特定领域的模型,在自己的基础设施中储存数据,您仍可以从 Einstein 获益。无论是通过 Amazon SageMaker 还是 Google Vertex AI 运行的这些模型,都会通过 Einstein 信任层直接连接到 Einstein。这种情况下,客户数据可以保留在客户信任的界限内。
BYOM 选项在不断快速变化!查看资源了解更新吧!