Nozioni di base sull’API Modelli
Obiettivi di apprendimento
Al completamento di questa unità, sarai in grado di:
- Descrivere cosa puoi fare con l’API Modelli.
- Spiegare quando utilizzare l’API Modelli.
Introduzione all’API Modelli
L’API Modelli fornisce classi Apex ed endpoint REST che connettono la tua applicazione ai modelli LLM (Large Language Model) dei partner Salesforce, tra cui Anthropic, Google e OpenAI. Puoi usare qualsiasi modello abilitato per Salesforce che si possa configurare in Einstein Studio.
Sono disponibili quattro funzionalità dell’API Modelli tramite sia gli endpoint REST che i metodi Apex. Diamo un'occhiata più da vicino.
Funzionalità principali dell’API Modelli
Funzionalità | Descrizione |
|---|---|
Generazione di testo. | L’API Modelli è in grado di generare testo da un singolo prompt anziché da un’intera conversazione via chat. Questa funzionalità è utile per le operazioni semplici e non conversazionali e per il test delle funzionalità di un modello. |
Generazione di incorporamenti. | Un incorporamento è una rappresentazione numerica di un blocco di contenuto. A volte l’incorporamento viene chiamato vettore di incorporamento. Per misurare la similitudine semantica tra due blocchi di contenuto, puoi utilizzare le operazioni matematiche sui relativi vettori di incorporamento, come la similarità coseno, la distanza euclidea o il prodotto scalare. Gli incorporamenti sono usati normalmente per la generazione aumentata di recupero (RAG) e le funzioni di ricerca semantica. |
Generazione di chat. | L’API Modelli è in grado di generare un messaggio per una conversazione via chat. Questo ti consente di suggerire al modello un elenco di messaggi anziché limitarti a un solo prompt. Ogni messaggio nell’elenco rappresenta una parte della cronologia di una conversazione. |
Invio di un feedback. | Puoi fornire un feedback su qualsiasi testo generato creato dall’API Modelli. Puoi usare questi dati, che sono memorizzati in Data 360, per esaminare la qualità delle risposte e poi aggiornare le richieste o le configurazioni del modello. |
Come utilizzare l’API Modelli
A prima vista, l’API Modelli sembra simile al Generatore di prompt dell’IA generativa Einstein. La connessione di un modello IA a un’organizzazione Salesforce e il radicamento nel contesto del modello nei dati Salesforce si gestiscono facilmente con i modelli di prompt.
L’API Modelli è stata progettata avendo come obiettivo la flessibilità e l’estensibilità e integra le offerte di IA Salesforce già esistenti per gli sviluppatori. Il Generatore di prompt e l’API Connect del modello di prompt sono efficaci per la gestione rapida dei prompt e Agentforce fornisce un’esperienza di chat interattiva. L’API Modelli offre ulteriori funzionalità come gli incorporamenti e le generazioni di chat con cronologia, che consentono agli sviluppatori di architettare applicazioni IA personalizzate.
Ora diamo un’occhiata a un esempio di API Modelli del mondo reale.
DreamHouse Realty deve trovare un modo per tenere i suoi dipendenti informati sulle condizioni del mercato immobiliare locale e nazionale. Chi acquista una casa risponde meglio a comunicazioni più mirate rispetto a quelle che fornisce DreamHouse Realty con le risorse in uso. I più giovani sono particolarmente sensibili alle condizioni generali del mercato immobiliare e stanno effettuando ricerche per trovare la soluzione più adatta alle loro esigenze. Se DreamHouse Realty riesce a cristallizzare la ricerca di mercato usando l’IA generativa, l’azienda potrà incoraggiare la fiducia tra venditore e acquirente.
Maria Garza lavora come sviluppatrice presso DreamHouse Realty. Sta creando un cruscotto digitale interno che utilizza l’API Modelli per analizzare i dati provenienti da un’API esterna del mercato immobiliare e riassumerli per i dipendenti di DreamHouse Realty. DreamHouse Realty prevede che questo cruscotto digitale dovrà diventare uno strumento di abilitazione completamente funzionale basato sull’IA. Il cruscotto digitale non solo aiuterà i broker a comprendere le condizioni del mercato, ma li metterà anche in contatto più stretto con i propri clienti grazie ai dati dell’organizzazione.
Per il momento, Maria si concentra sui primissimi passaggi: impostare il suo ambiente e creare un cruscotto digitale semplice che sfrutti l’endpoint chatGenerations dell’API Modelli.
Mantenere la fiducia
La fiducia per Salesforce è il valore più importante, quindi è essenziale che i dati degli utenti siano sempre protetti quando si interagisce con i modelli LLM. Le soluzioni di IA generativa Einstein di Salesforce sono progettate, sviluppate e distribuite sulla base dei nostri cinque principi per un’IA generativa affidabile.
- Accuratezza
- Sicurezza
- Trasparenza
- Valorizzazione
- Sostenibilità
Salesforce ha inoltre stipulato accordi con i provider di modelli LLM, ad esempio OpenAI. Questi accordi includono impegni per l’azzeramento della conservazione dei dati, per cui hai la possibilità di utilizzare l’IA generativa senza preoccuparti che i tuoi dati privati vengano memorizzati da provider di LLM di terze parti.
Tutte le chiamate dell’API Modelli passano attraverso Einstein Trust Layer. Einstein Trust Layer è un’architettura di IA sicura, integrata in Salesforce Platform. Si tratta di un insieme di accordi, tecnologie di sicurezza e controlli sui dati e per la privacy utilizzati per mantenere la l'azienda al sicuro quando si esplorano soluzioni di IA generativa.
Le chiamate all’API Modelli per la generazione eseguono automaticamente il mascheramento dei dati e il punteggio della tossicità. L’API passa a sua volta un flag che indica se è stata rilevata della tossicità, oltre a informazioni sul punteggio. Queste informazioni vengono memorizzate anche in Data 360. In Data 360 troverai altre informazioni sul punteggio della tossicità, sul mascheramento dei dati e sui dati di feedback.
Einstein Trust Layer non è un sostituto del giudizio umano. Se prevedi di condividere output di IA generativa con i clienti, è importante rivedere tutte le risposte per verificarne l’accuratezza, il bias e la tossicità.
Modelli supportati
L’API Modelli supporta i modelli LLM (Large Language Model) di più provider, ad esempio Amazon Bedrock, Azure OpenAI, OpenAI e Vertex AI di Google.
L’API Modelli supporta la funzione BYOLLM (Bring Your Own LLM) di Einstein Studio. Con BYOLLM, puoi aggiungere un modello di base da un provider supportato, configurare la tua istanza del modello e connetterti al modello usando le tue credenziali. Sebbene l’inferenza sia gestita dal modello del cliente, la richiesta viene comunque instradata attraverso l’API Modelli e le funzionalità di Trust Layer sono completamente supportate.
Per ulteriori informazioni sui modelli disponibili direttamente tramite l’API Modelli e supportati dalla funzione BYOLLM di Einstein Studio, consulta la pagina Modelli supportati nella sezione Risorse di questa unità.
Ora che sai cos’è l’API Modelli e cosa è in grado di fare, è il momento di gettare le basi per il tuo componente Web Lightning API Modelli.