Utilizzo dei Large Language Model in Salesforce

Obiettivi di apprendimento

Al completamento di questa unità, sarai in grado di:

Scegliere l'opzione relativa all'LLM più adeguata per la tua azienda.
Descrivere le limitazioni delle opzioni relative all'LLM disponibili.

Scegliere il Large Language Model più adatto

Scegliere il modello giusto per l'attività giusta ti aiuterà ad iniziare a utilizzare l'IA generativa più rapidamente. Salesforce offre funzionalità di distribuzione per qualsiasi LLM pertinente, aiutando al contempo le aziende a restare allineate ai propri obiettivi in termini di privacy, sicurezza, residenza e conformità dei dati.

Può essere necessario utilizzare molti LLM in base a diversi casi d'uso. I clienti che devono affrontare problematiche relative alla residenza dei dati dovranno distribuire gli LLM in modi diversi.

L'LLM giusto per l'operazione giusta. Trust condiviso: dati conservati in Salesforce con moderazione comune. Ospitati in Salesforce: a livello globale su Hyperforce, AWS, Anthropic, Salesforce, Cohere. Porta il tuo modello: il tuo modello, la tua infrastruttura, Amazon SageMaker, Vertex AI.

Utilizzare gli LLM condivisi di Salesforce

Gli LLM condivisi di Salesforce consentono di accedere agli LLM su Internet. Salesforce è stata pioniera in questo senso con il partner OpenAI. Salesforce utilizza un gateway protetto per viaggiare attraverso Internet e chiedere delle risposte ai suoi incredibili LLM.

Einstein consente ai clienti di utilizzare gli LLM di Salesforce sviluppati dal team Salesforce AI Research per abilitare funzionalità avanzate, come la generazione di codice e l'assistenza all'automazione dei processi aziendali, trasformando radicalmente il modo in cui le aziende interagiscono con il software CRM. Gli LLM di Salesforce, tra cui CodeGen, CodeT5+ e CodeTF, consentono alle aziende di aumentare la produttività, colmare il divario tra le competenze, ridurre i costi di implementazione e rilevare gli incidenti in modo più efficace.

Utilizzare LLM di terze parti ospitate in Salesforce

È anche possibile utilizzare modelli ospitati in Salesforce.

Nell'ambito dell'impegno di Salesforce per un ecosistema aperto, Einstein è progettato per ospitare LLM di Amazon, Anthropic, Cohere e altri, interamente all'interno dell'infrastruttura Salesforce. Einstein contribuirà alla gestione dei prompt e delle risposte dei clienti all'interno dell'infrastruttura Salesforce. Inoltre, Salesforce e OpenAI hanno stabilito una partnership di tipo "shared trust" per fornire contenuti tramite Einstein Trust Layer.

Porta il tuo modello (BYOM)

Se stai già investendo in un modello, l'opzione BYOM (Bring Your Own Model, Porta il tuo modello) può essere utile.

Potrai sfruttare i vantaggi offerti da Einstein anche se hai addestrato i tuoi modelli specifici per un dominio al di fuori di Salesforce, archiviando i dati nella tua infrastruttura. Questi modelli, eseguiti con Amazon SageMaker o Google Vertex AI, si collegheranno direttamente a Einstein tramite Einstein Trust Layer. In questo scenario, i dati dei clienti possono rimanere all'interno del "perimetro della fiducia" stabilito dai clienti.

Le opzioni BYOM cambiano continuamente e rapidamente. Dai un'occhiata alle risorse per vedere se ci sono nuovi aggiornamenti.