Utilizzo dei Large Language Model in Salesforce

Obiettivi di apprendimento

Al completamento di questa unità, sarai in grado di:

• Spiegare in che modo Salesforce rende affidabili gli LLM.
  
• Scegliere l'opzione relativa all'LLM più adeguata per la tua azienda.
  
• Descrivere le limitazioni delle opzioni relative all'LLM disponibili.
  

Trailcast

Se vuoi ascoltare una registrazione di questo modulo, usa il player qui sotto. Quando hai finito, ricorda di tornare a ciascuna unità, consultare le risorse e completare le valutazioni associate.

La fiducia come valore guida

La fiducia è il valore più importante in Salesforce. È quindi logico che Salesforce utilizzi i Large Language Model (LLM) in modo sicuro e affidabile. La chiave per mantenere questa fiducia è Einstein Trust Layer. Einstein Trust Layer si accerta della sicurezza dell'IA generativa attraverso controlli sui dati e sulla privacy perfettamente integrati nell'esperienza dell'utente finale di Salesforce. Questi controlli consentono ad Einstein di fornire un'IA che utilizza in modo sicuro la generazione aumentata di recupero (RAG, Retrieval Augmented Generation) per radicare le risposte nel contesto dei dati dei clienti e dell'azienda, senza introdurre potenziali rischi per la sicurezza. Nella sua forma più semplice, Einstein Trust Layer è una sequenza di gateway e meccanismi di recupero che collaborano per dare vita a un'IA generativa aperta e affidabile.

Agenti Salesforce affidabili

Gli agenti Agentforce utilizzano i principali LLM attraverso Einstein Trust Layer servendosi della Generazione aumentata di recupero (RAG) per creare prompt sicuri con i dati di Salesforce e Data Cloud, dando vita così a un ambiente ricco e sicuro per l'utilizzo di agenti IA in grado di offrire supporto a dipendenti e clienti. Questi agenti non si limitano a dare suggerimenti, ma possono anche portare a termine delle operazioni autonomamente. Ad esempio, possono gestire le richieste di informazioni dei clienti, risolvere problemi e perfino offrire consigli per le vendite senza alcun intervento umano e sempre usando Trust Layer per tenere i dati al sicuro e fornire risposte attendibili.

Scegliere il Large Language Model più adatto

Tutte le chiamate del motore di ragionamento di Agentforce utilizzano OpenAI GPT-4o e, in alcuni casi, Azure OpenAI GPT-4o come modello predefinito. Tuttavia, è possibile scegliere altri modelli che supportino esigenze aziendali specifiche. È importante tenere presente che assicurarsi di utilizzare il modello giusto per svolgere un compito specifico aiuta a iniziare a utilizzare l'IA generativa più velocemente e a raggiungere i risultati previsti. Salesforce offre funzionalità di distribuzione per molti LLM diversi, aiutando al contempo le aziende a restare allineate ai propri obiettivi in termini di privacy, sicurezza, residenza e conformità dei dati.

Le aziende possono decidere di utilizzare più di un LLM per gestire diversi tipi di casi d'uso, come la programmazione, l'analisi del sentiment o la generazione di contenuti. Quando si sceglie un modello per un caso d'uso, bisogna tenere conto delle sue caratteristiche, dei costi, della qualità delle risposte e della sua velocità. È anche possibile scegliere modelli geoconsapevoli. Questi modelli instradano automaticamente le richieste inviate all'LLM al data center più vicino rispetto al luogo in cui è stato eseguito il provisioning di Data Cloud per l'organizzazione. Questa funzionalità fornisce un maggiore controllo sulla residenza dei dati e riduce la latenza.

Utilizzare LLM gestiti da Salesforce

L'utilizzo di LLM gestiti da Salesforce è un ottimo modo di accedere agli LLM su Internet e di iniziare a utilizzare l'IA generativa rapidamente. È possibile personalizzare la propria implementazione dell'IA con diversi modelli gestiti da Salesforce utilizzando l'API Modelli o il Generatore di prompt. Per velocizzare il processo di configurazione, Salesforce offre diversi modelli abilitati per impostazione predefinita.

Per un elenco dei modelli gestiti da Salesforce attualmente disponibili, consulta la documentazione della guida sul supporto dei Large Language Model.

Utilizzare LLM di terze parti ospitate in Salesforce

È anche possibile utilizzare modelli ospitati all'interno di Salesforce. Nell'ambito dell'impegno di Salesforce per un ecosistema aperto, Einstein è progettato per ospitare LLM di Amazon, Anthropic, Cohere e altri, interamente all'interno dell'infrastruttura Salesforce. Einstein contribuirà alla gestione dei prompt e delle risposte dei clienti all'interno di tale infrastruttura. Inoltre, Salesforce e OpenAI hanno stabilito una partnership di tipo "shared trust" per fornire contenuti in modo sicuro tramite Einstein Trust Layer.

Porta il tuo Large Language Model (BYOLLM, Bring Your Own Large Language Model)

Se hai già investito in un Large Language Model, puoi connetterlo a Salesforce per utilizzarlo all'interno di modelli personalizzati del Generatore di prompt. Potrai sfruttare i vantaggi offerti da Einstein anche se hai addestrato i tuoi modelli specifici per un dominio al di fuori di Salesforce, archiviando i dati nella tua infrastruttura. Quando esegui un prompt attraverso un LLM esterno connesso da te, quest'ultimo funziona proprio come un LLM connesso internamente, instradando le richieste attraverso il gateway LLM ed Einstein Trust Layer prima di condividere i contenuti con gli utenti.

Le opzioni BYOLLM cambiano continuamente e rapidamente. Dai un'occhiata alle risorse per vedere se ci sono nuovi aggiornamenti.

Risorse

• Trailhead: Einstein Trust Layer
• Trailhead: Mascheramento dei dati degli LLM in Einstein Trust Layer
• Guida di Salesforce: Einstein Trust Layer: Progettato per Trust
• Guida di Salesforce: Bring Your Own Model (BYOM)
• Trailhead: Preparare i dati per l'IA
• Salesforce: What Are LLMs (Large Language Models)? (Che cosa sono gli LLM (Large Language Model)?)
• News & Insights: Salesforce Launches BYOM to Make It Easy for Businesses to Use Proprietary Data to Build and Deploy AI Models (Salesforce lancia BYOM per semplificare l'uso dei dati di proprietà da parte delle aziende per costruire e distribuire modelli di IA)
• Blog degli sviluppatori: Bring Your Own AI Models to Data Cloud (Porta i tuoi modelli di IA in Data Cloud)