Nutzung von großen Sprachmodellen in Salesforce

Lernziele

Nachdem Sie diese Lektion abgeschlossen haben, sind Sie in der Lage, die folgenden Aufgaben auszuführen:

Erläutern, wie Salesforce den Aspekt "Vertrauen" bei der Verwendung von LLMs sicherstellt
Auswählen der richtigen LLM-Option für Ihr Unternehmen
Beschreiben der Beschränkungen der verfügbaren LLM-Optionen

Trailcast

Wenn Sie sich eine Audioaufzeichnung dieses Moduls anhören möchten, nutzen Sie den nachstehenden Player. Denken Sie nach dem Anhören dieser Aufzeichnung daran, zur jeweiligen Lektion zurückzukehren, sich die Ressourcen anzusehen und die zugehörigen Aufgaben zu absolvieren.

Vertrauen als wichtige Priorität

Vertrauen ist unser wichtigster Grundwert bei Salesforce. Es ist daher nur logisch, dass Salesforce auch bei der Verwendung großer Sprachmodelle (LLMs) auf Sicherheit und Vertrauen setzt. Der Schlüssel zur Aufrechterhaltung dieses Vertrauens besteht in der Einstein-Vertrauensebene. Die Einstein-Vertrauensebene stellt die Sicherheit von generativer AI mittels Daten- und Datenschutzkontrollen sicher, die nahtlos in die Salesforce-Endbenutzererfahrung integriert sind. Durch diese Kontrollen kann Einstein AI bereitstellen, die abruferweiterte Generierung (Retrieval-Augmented Generation =RAG) auf sichere Weise verwendet, um Ihre Kunden- und Unternehmensdaten zur Kontextbildung für Antworten zu nutzen, ohne potenzielle Sicherheitsrisiken zu schaffen. In ihrer einfachsten Form umfasst die Einstein-Vertrauensebene eine Reihe von Gateways und Abrufmechanismen, die zusammenarbeiten, um eine vertrauenswürdige und offene generative AI ermöglichen.

Vertrauenswürdige Salesforce-Agenten

Agentforce-Agenten verwenden führende LLMs über die Einstein-Vertrauensebene, indem sie mithilfe von RAG sichere Aufforderungen mit Salesforce- und Data Cloud-Daten erstellen. Dies schafft eine umfangreiche, sichere Umgebung für die Verwendung von AI-Agenten, die Mitarbeiter und Kunden unterstützen kann. Diese Agenten bieten nicht nur Vorschläge, sondern können völlig unabhängig Aufgaben erledigen. Sie können beispielsweise ganz ohne menschliches Eingreifen Kundenanfragen beantworten, Probleme beheben und sogar Verkaufsempfehlungen abgeben. Bei all diesen Aktivitäten nutzen Agenten die Vertrauensebene, um Daten zu schützen und zuverlässige Antworten zu liefern.

Auswahl des besten LLMs

Bei allen Aufrufen der Agentforce-Schlussfolgerungsmaschine wird OpenAI GPT-4o und in manchen Fällen Azure OpenAI GPT-4o als Standardmodell verwendet. Sie können jedoch auch andere Modellen auswählen, die Ihre Geschäftsanforderungen erfüllen. Es ist wichtig zu wissen, dass Sie mit dem richtigen Modell für die jeweilige Aufgabe schneller mit generativer KI beginnen und die erwarteten Ergebnisse erzielen können. Salesforce bietet Bereitstellungsmöglichkeiten viele verschiedene LLMs und unterstützt Unternehmen gleichzeitig dabei, ihre Datenschutz-, Sicherheits-, Residenz- und Compliance-Ziele einzuhalten.

Ihr Unternehmen kann beschließen, mehr als ein LLM für verschiedene Anwendungsfälle wie Codierung, Stimmungsanalyse oder Inhaltsgenerierung zu verwenden. Berücksichtigen Sie bei der Auswahl eines Modells für einen Anwendungsfall die Möglichkeiten, Kosten, Antwortqualität und Geschwindigkeit des Modells. Sie können auch Modelle wählen, die standortbezogen sind. Diese Modelle leiten LLM-Anfragen automatisch an ein nahe gelegenes Rechenzentrum weiter, je nachdem, wo Data Cloud für Ihre Organisation bereitgestellt wird. Dadurch haben Sie mehr Kontrolle über die Datenresidenz, und die Latenz wird reduziert.

Das richtige LLM für die richtige Aufgabe Freigegebene LLMs mit Vertrauensebene: Daten bleiben bei gemeinsamer Moderation in Salesforce. Von Salesforce gehostet: Global auf Hyperforce, AWS, Anthropic, Salesforce, Cohere. Eigenes Modell nutzen (BYOM): Ihr Modell, Ihre Infrastruktur, Amazon SageMaker, Vertex AI.

Verwenden von Salesforce verwalteter LLMs

Von Salesforce verwaltete LLMs stellen eine hervorragende Möglichkeit dar, über das Internet auf LLMS zuzugreifen und schnell mit der Nutzung generativer KI zu beginnen. Mithilfe der Modell-API oder Prompt Builder (Aufforderungsgenerator) können Sie Ihre KI-Implementierung mit verschiedenen, von Salesforce verwalteten Modellen anpassen. Salesforce bietet eine Vielzahl von Modellen, die standardmäßig aktiviert sind, um den Konfigurationsprozess zu beschleunigen.

Eine Liste der aktuellen, von Salesforce verwalteten Modelle finden Sie in der Hilfedokumentation unter Unterstützung großer Sprachmodelle.

Verwenden von Salesforce gehosteter Drittanbieter-LLMs

Sie können Modelle auch innerhalb von Salesforce hosten. Im Zuge des Engagements von Salesforce für ein offenes Ökosystem ist Einstein so konzipiert, dass LLMs von Amazon, Anthropic, Cohere und anderen gehostet werden können – und zwar komplett innerhalb der Salesforce-Infrastruktur. Einstein wird dabei helfen, Kundenaufforderungen und -antworten in der Salesforce-Infrastruktur zu verwalten. Darüber hinaus haben Salesforce und OpenAI eine gemeinsame Vertrauenspartnerschaft zur sicheren Bereitstellung von Inhalten über die Einstein-Vertrauensebene geschlossen.

BYOLLM (Bring Your Own Large Language Model)

Wenn Sie bereits in ein eigenes LLM investieren, können Sie es mit Salesforce verbinden, um es innerhalb benutzerdefinierter Vorlagen in Prompt Builder (Aufforderungsgenerator) zu verwenden. Sie profitieren von Einstein auch dann, wenn Sie Ihre eigenen domänenspezifischen Modelle außerhalb von Salesforce trainiert haben und die Daten in Ihrer eigenen Infrastruktur speichern. Wenn Sie eine Aufforderung über ein externes großes Sprachmodell ausführen, das Sie verbunden haben, funktioniert dieses genau wie ein intern verbundenes LLM und leitet die Anfrage über das LLM-Gateway und die Einstein-Vertrauensebene, bevor Inhalte mit Ihren Benutzern geteilt werden.

Die BYOLLM-Optionen ändern sich rasant! Prüfen Sie regelmäßig, ob es neue Aktualisierungen für die Ressourcen gibt.

Geschätzte Zeit

Themen

Benötigen Sie Hilfe?

Salesforce Platform – Ressourcen