Découvrez comment Salesforce utilise les grands modèles de langage

Objectifs de formation

Une fois cette unité terminée, vous pourrez :

Expliquer comment Salesforce permet de faire confiance aux LLM
Choisir l’option LLM adaptée à votre entreprise
Décrire les limites des options de LLM disponibles

Trailcast

Pour écouter un enregistrement audio de ce module, utilisez le lecteur ci-dessous. Lorsque vous avez fini d’écouter cet enregistrement, n’oubliez pas de revenir à chaque unité, de consulter les ressources et de réaliser les évaluations associées.

La confiance comme valeur fondamentale

La confiance est la première valeur chez Salesforce. Il est donc logique que Salesforce utilise de grands modèles de langage (LLM) de manière sûre et fiable. La clé pour maintenir cette fiabilité réside dans la couche de confiance Einstein. La couche de confiance Einstein garantit la sécurité de l’IA générative grâce à des contrôles de données et de confidentialité parfaitement intégrés à l’expérience utilisateur Salesforce. Ces contrôles permettent à Einstein de proposer une IA qui utilise en toute sécurité la génération augmentée de récupération (RAG) afin d’ancrer des réponses avec les données de vos clients et de votre entreprise sans introduire de risques de sécurité potentiels. Pour schématiser, la couche de confiance Einstein est une suite de passerelles et de mécanismes de récupération qui fonctionnent ensemble pour garantir une IA générative fiable et ouverte.

Agents Salesforce de confiance

Les agents Agentforce utilisent des LLM de premier plan via la couche de confiance Einstein en utilisant la RAG pour générer des répliques sécurisées avec les données Salesforce et Data Cloud. Cela crée un environnement riche et sécurisé dans lequel utiliser des agents IA capables d’apporter de l’aide aux employés et aux clients. Ces agents ne se contentent pas de faire des suggestions, ils peuvent également effectuer des tâches en toute autonomie. Par exemple, ils peuvent gérer les demandes des clients, résoudre des problèmes et même faire des recommandations commerciales sans intervention humaine, tout en utilisant la couche de confiance afin de sécuriser les données et fournir des réponses fiables.

Choix du grand modèle de langage adapté

Tous les appels du moteur de raisonnement Agentforce utilisent OpenAI GPT-4o et dans certains cas Azure OpenAI GPT-4o, comme modèle par défaut. Toutefois, vous pouvez choisir parmi d’autres modèles qui répondent aux besoins de votre entreprise. Il est important de noter que la garantie d’avoir le bon modèle pour la bonne tâche vous aidera à démarrer plus rapidement avec l’IA générative et à obtenir les résultats souhaités. Salesforce offre des solutions de déploiement pour de nombreux LLM différents, tout en aidant les entreprises à respecter leurs objectifs concernant la confidentialité, la sécurité, la résidence et la conformité des données.

Votre entreprise peut choisir d’utiliser plus d’un LLM pour gérer différents types de cas d’utilisation, comme le codage, l’analyse des sentiments ou la génération de contenu. Lors du choix d’un modèle pour un cas d’utilisation, tenez compte des capacités du modèle, du coût, de la qualité de la réponse et de la vitesse. Vous pouvez également choisir des modèles géo-sensibles. Ces modèles routent automatiquement les demandes LLM vers un centre de données proche, selon l’endroit où Data Cloud est provisionné pour votre organisation. Cela vous garantit un contrôle accru sur la résidence des données et une réduction de la latence.

Un LLM adapté à chaque tâche. Confiance mutuelle : Conservation des données dans Salesforce avec modération mutualisée. Salesforce Hosted : Hébergement partout dans le monde sur Hyperforce, AWS, Anthropic, Salesforce, Cohere. Intégrer votre modèle : Votre modèle, votre infrastructure, Amazon SageMaker, Vertex AI.

Utilisation des LLM gérés par Salesforce

Les LLM gérés par Salesforce sont un excellent moyen d’accéder aux LLM sur Internet et de commencer à utiliser l’IA générative rapidement. Vous pouvez personnaliser votre implémentation d’IA avec différents modèles gérés par Salesforce en utilisant l’API Models ou le Générateur d’invites. Salesforce propose une variété de modèles activés par défaut pour permettre d’accélérer le processus de configuration.

Pour obtenir la liste des modèles gérés par Salesforce, visitez la documentation d’aide Prise en charge des grands modèles de langage.

Utilisation des LLM tiers hébergés par Salesforce

Vous pouvez également héberger des modèles dans Salesforce. Dans le cadre de l’engagement de Salesforce en faveur d’un écosystème ouvert, Einstein est conçu pour héberger les LLM d’Amazon, d’Anthropic, de Cohere et d’autres au sein de l’infrastructure Salesforce. Einstein permettra de conserver les répliques et les réponses des clients dans l’infrastructure Salesforce. De plus, Salesforce et OpenAI ont établi un partenariat de confiance mutuelle pour proposer du contenu de façon sécurisée via la couche de confiance Einstein.

Utilisation de votre propre LLM

Si vous investissez déjà dans votre propre LLM, connectez-le à Salesforce pour l’utiliser dans des modèles de générateur d’invites personnalisés. Vous pouvez bénéficier d’Einstein même si vous avez entraîné des modèles propres à un domaine en dehors de Salesforce tout en stockant des données dans votre propre infrastructure. L’exécution d’une invite par le biais d’un LLM externe que vous avez connecté fonctionne exactement de la même manière qu’un LLM connecté en interne. Le LLM route la demande par la passerelle LLM et la couche de confiance Einstein avant de partager le contenu avec vos utilisateurs.

Les options d’intégration de votre propre LLM évoluent rapidement ! Venez consulter régulièrement la section Ressources pour vous tenir au courant des dernières nouveautés.

Durée estimée

Thèmes

Besoin d'aide ?

Ressources Salesforce Platform