Découverte des bases de l’API Models
Objectifs de formation
Une fois cette unité terminée, vous pourrez :
- Décrire ce que vous pouvez faire avec l’API Models
- Expliquer quand utiliser l’API Models
Présentation de l’API Models
L’API Models fournit des classes Apex et des points de terminaison REST qui connectent votre application à des modèles de langage de grande taille (LLM) de partenaires Salesforce, notamment Anthropic, Google et OpenAI. Vous pouvez utiliser n’importe quel modèle compatible Salesforce pouvant être configuré dans Einstein Studio.
Il existe quatre fonctionnalités de l’API Models disponibles via les points de terminaison REST et les méthodes Apex. Examinons-le de plus près.
Fonctionnalités clés de l’API Models
Capacité | Description |
|---|---|
Générer du texte. | L’API Models peut générer du texte à partir d’une seule invite au lieu d’une conversation de chat complète. Cette fonctionnalité est utile pour les tâches simples et non conversationnelles, et permet de tester les capacités d’un modèle. |
Générer des plongements. | Un plongement est une représentation numérique d’un segment de contenu. Parfois, un plongement est appelé vecteur de plongement. Pour mesurer la similarité sémantique entre deux segments de contenu, vous pouvez utiliser des opérations mathématiques sur leurs vecteurs de plongement, telles que la similarité cosinus, la distance euclidienne ou le produit scalaire. Les plongements sont couramment utilisés pour les fonctionnalités de génération augmentée de récupération (RAG) et de recherche sémantique. |
Générer un chat. | L’API Models peut générer un message pour une conversation par chat. Cela vous permet d’inviter le modèle avec une liste de messages plutôt que d’être limité à une seule invite. Chaque message de la liste représente une partie de l’historique d’une conversation. |
Soumettre des commentaires. | Vous pouvez fournir des commentaires sur tout texte généré par l’API Models Vous pouvez utiliser ces données, stockées dans Data Cloud, pour vérifier la qualité des réponses, puis mettre à jour vos demandes ou vos configurations de modèle. |
Utilisation de l’API Models
À première vue, l’API Models est semblable au générateur d’invites d’IA générative Einstein. La connexion d’un modèle IA à une organisation Salesforce et l’ancrage du modèle avec les données Salesforce sont facilement gérés avec les modèles d’invite.
L’API Models est conçue dans un souci de flexibilité et d’extensibilité et complète les offres IA Salesforce existantes pour les développeurs. Le générateur d’invites et l’API Prompt Template Connect sont efficaces pour une gestion rapide des invites et Agentforce fournit une expérience de chat interactive. L’API Models fournit des fonctionnalités supplémentaires telles que les plongements et les générations de chat avec historique, qui permettent aux développeurs de concevoir des applications IA personnalisées.
Voyons maintenant un exemple concret de l’API Models.
DreamHouse Realty a besoin d’un moyen de tenir ses employés informés des conditions du marché immobilier local et national. Les clients du secteur réagissent mieux aux communications plus ciblées par rapport à celles fournies par DreamHouse Realty avec ses ressources. Les jeunes acheteurs immobiliers sont particulièrement sensibles aux conditions générales du marché et effectuent des recherches pour trouver la solution la plus adaptée. Si DreamHouse Realty peut rendre plus concrètes les études de marché à l’aide de l’IA générative, l’entreprise pourra accroître la confiance des acheteurs et des vendeurs.
Maria Garza est développeuse chez DreamHouse Realty. Elle crée un tableau de bord interne qui utilise l’API Models pour analyser les données d’une API Housing Market externe et les résumer aux employés de DreamHouse Realty. À terme, DreamHouse Realty veut faire de ce tableau de bord un outil d’enablement alimenté par l’IA entièrement fonctionnel. Non seulement le tableau de bord aidera les courtiers à comprendre les conditions du marché, mais aussi à tisser des liens avec leurs clients grâce aux données de l’organisation.
Pour l’instant, Maria se concentre sur les toutes premières étapes : configurer son environnement et créer un tableau de bord simple qui exploite le point de terminaison chatGenerations de l’API Models.
Maintien de la confiance
La confiance est la valeur nº 1 de Salesforce, il est donc essentiel que les données des utilisateurs restent protégées lors de l’interaction avec les LLM. Les solutions d’IA générative Einstein de Salesforce sont conçues, développées et fournies sur la base de nos cinq principes pour une IA générative fiable.
- Précision
- Sécurité
- Transparence
- Autonomisation
- Développement durable
Salesforce a également passé des accords avec des fournisseurs de LLM, tels qu’OpenAI. Ces accords incluent des engagements d’absence de rétention des données, vous permettant d’utiliser l’IA générative sans craindre que vos données privées soient stockées par des fournisseurs de LLM tiers.
Tous les appels d’API Models passent par la couche de confiance Einstein. La couche de confiance Einstein est une architecture d’IA sécurisée et intégrée à la plate-forme Salesforce. Il s’agit d’un ensemble d’accords, de technologies de sécurité et de contrôles en matière de données et de confidentialité utilisés pour garantir la sécurité de votre entreprise pendant que vous explorez des solutions d’IA générative.
Les appels de générations à l’API Models effectuent automatiquement le masquage des données et l’évaluation de la toxicité. L’API renvoie un indicateur indiquant si du contenu toxique a été détecté, ainsi que des informations sur le score. Ces informations sont également stockées dans Data Cloud. Dans Data Cloud, vous pouvez afficher plus d’informations sur le score relatif à la toxicité, le masquage des données et les données de rétroaction.
La couche de confiance Einstein ne remplace pas le jugement humain. Si vous envisagez de partager des résultats d’IA générative avec des clients, il est important d’examiner toutes les réponses pour en vérifier l’exactitude, les biais et la toxicité.
Modèles pris en charge
L’API Models prend en charge les modèles de langage de grande taille (LLM) de plusieurs fournisseurs, tels qu’Amazon Bedrock, Azure OpenAI, OpenAI et Vertex AI de Google.
L’API Models prend en charge la fonctionnalité Bring your own LLM (BYOLLM) (Intégration de votre propre modèle de langage de grande taille) d’Einstein Studio. Grâce à la fonctionnalité BYOLLM, vous pouvez ajouter un modèle fondateur provenant d’un fournisseur pris en charge, configurer votre propre instance du modèle et vous connecter au modèle à l’aide de vos propres informations d’identification. Bien que l’inférence soit gérée par le modèle du client, la demande est toujours acheminée via l’API Models et les fonctionnalités de la couche de confiance sont entièrement prises en charge.
Pour plus d’informations sur les modèles disponibles directement via l’API Models et pris en charge par la fonctionnalité BYOLLM d’Einstein Studio, reportez-vous à la page Modèles pris en charge dans la section Ressources de cette unité.
Maintenant que vous savez ce qu’est l’API Models et de quoi elle est capable, il est temps de créer les bases de votre propre composant Web Lightning d’API Models !