Aprender los aspectos básicos de la API de modelos
Objetivos de aprendizaje
Después de completar esta unidad, podrá:
- Describir lo que puede hacer con la API de modelos.
- Explicar cuándo debe utilizarse la API de modelos.
Introducción a la API de modelos
La API de modelos proporciona clases de Apex y extremos de REST que conectan su aplicación con modelos de lenguaje grandes (LLM) desde socios de Salesforce, entre los que se incluyen Anthropic, Google y OpenAI. Puede utilizar cualquier modelo habilitado para Salesforce que pueda configurarse en Einstein Studio.
Hay cuatro capacidades de API de modelos disponibles tanto en extremos de REST como en métodos de Apex. Echemos un vistazo más de cerca.
Capacidades clave de la API de modelos
Capacidad | Descripción |
|---|---|
Generar texto. | La API de modelos puede generar texto a partir de una única solicitud en lugar de una conversación de chat completa. Esta capacidad es útil para tareas sencillas y no conversacionales, y para probar las capacidades de un modelo. |
Generar incrustaciones. | Una incrustación es una representación numérica de un fragmento de texto. A veces, una incrustación puede denominarse incrustación vectorial. A fin de medir la similitud semántica entre dos fragmentos de contenido, puede utilizar operaciones matemáticas en sus incrustaciones vectoriales, como la similitud del coseno, la distancia euclidiana o el producto punto. Las incrustaciones suelen utilizarse para la generación aumentada por recuperación (RAG) y para funciones de búsqueda semántica. |
Generar chat. | La API de modelos puede generar un mensaje para una conversación de chat. De esta manera, puede pedirle al modelo una lista de mensajes en lugar de limitarse a una solicitud. Cada mensaje de la lista representa una parte de un historial de conversación. |
Enviar comentarios. | Puede proporcionar comentarios en cualquier texto generado que haya creado una API de modelos. Puede utilizar estos datos, que se almacenan en Data 360, para revisar la calidad de las respuestas y, después, actualizar la configuración de sus solicitudes o su modelo. |
Cómo utilizar la API de modelos
En un primer vistazo, la API de modelos es similar a Prompt Builder de la IA generativa de Einstein. Conectar un modelo de IA a una organización de Salesforce y nutrir el modelo con datos de Salesforce resulta sencillo con las plantillas de solicitud.
La API de modelos está diseñada con flexibilidad y capacidad de ampliación, y complementa las ofertas de IA de Salesforce para los desarrolladores. Prompt Builder y la API de conexión de la plantilla de solicitud son eficaces para la gestión rápida de solicitudes, y Agentforce proporciona una experiencia de chat interactiva. La API de modelos proporciona funciones adicionales, como incrustaciones y generaciones de chat con historial, que permiten que los desarrolladores diseñen aplicaciones de IA personalizadas.
Ahora, vamos a ver un ejemplo real de API de modelos.
DreamHouse Realty necesita una manera de mantener informados a los empleados sobre las condiciones del mercado inmobiliario locales y nacionales. Los compradores de casas responden mejor a las comunicaciones más personalizadas, pero DreamHouse Realty no tiene los recursos necesarios para ello. Los compradores más jóvenes, son especialmente sensibles en cuanto a las condiciones del mercado inmobiliario y llevan a cabo una búsqueda exhaustiva a fin de encontrar lo que más se ajuste a sus necesidades. Si DreamHouse Realty puede cristalizar la investigación del mercado con IA generativa, la firma podrá aumentar la confianza de los compradores y vendedores.
Maria Garza es desarrolladora en DreamHouse Realty. Está creando un panel interno que utilice la API de modelos para analizar datos a partir de una API externa de mercado inmobiliario y resumirlos para los empleados de DreamHouse. Con el tiempo, DreamHouse Realty quiere que ese panel sea una herramienta funcional de habilitación impulsada por IA. El panel no solo ayudará a los agentes a comprender las condiciones del mercado, sino que también las conectará a sus clientes mediante datos de la organización.
Por ahora, Maria está centrada en los primeros pasos: configurar su entorno y crear un panel sencillo que utilice el extremo chatGenerations de la API de modelos.
Mantener la confianza
La confianza es el valor principal de Salesforce, por lo que es fundamental proteger los datos de los usuarios a la hora de interactuar con los LLM. Las soluciones de IA generativa de Salesforce Einstein se diseñan, se desarrollan y se entregan según los cinco principios de IA generativa de confianza.
- Precisión
- Seguridad
- Transparencia
- Empoderamiento
- Sostenibilidad
Además, Salesforce cuenta con acuerdos con los proveedores de LLM, como OpenAI. Estos acuerdos incluyen compromisos para la cero retención de datos, permitiendo así que el uso de la IA generativa no sea un problema para los datos privados almacenados por proveedores de LLM de terceros.
Todas las llamadas de API de modelo pasan por la Capa de confianza de Einstein. La Capa de confianza de Einstein es una arquitectura de IA segura integrada en Salesforce Platform. Representa un conjunto de acuerdos, tecnología de seguridad y controles de datos y privacidad que se usa para proteger a las empresas mientras exploran soluciones de IA generativa.
Las llamadas de generación a la API de modelos llevan a cabo el enmascaramiento de datos y la puntuación de toxicidad automáticamente. La API pasa una marca que indica si se ha detectado toxicidad, junto con la información de la puntuación. Esta información también se almacena en Data 360. En Data 360, puede visualizar más información sobre la puntuación de toxicidad, el enmascaramiento de datos y los datos de comentarios.
La Capa de confianza de Einstein no puede reemplazar el criterio humano. Si tiene intención de compartir resultados de IA generativa con los clientes, es importante revisar las respuestas para que sean precisas y no contengan sesgos ni toxicidad.
Modelos compatibles
La API de modelos es compatible con modelos de lenguaje grandes (LLM) de múltiples proveedores, como Amazon Bedrock, Azure OpenAI, OpenAI y Vertex AI de Google.
La API de modelos es compatible con la función para incorporar su propio modelo de lenguaje grande de Einstein Studio. Con esta función, puede agregar un modelo base de un proveedor compatible, configurar su propia instancia del modelo y conectarse al modelo con sus propias credenciales. Aunque la inferencia se gestiona con el modelo del cliente, la solicitud seguirá dirigiéndose mediante la API de modelos y las funciones de la capa de confianza seguirán siendo compatibles.
Para obtener más información sobre los modelos disponibles directamente mediante la API de modelos y compatibles con la función para incorporar su propio modelo de lenguaje grande de Einstein Studio, consulte la página Supported Models (Modelos compatibles) en la sección de recursos de esta unidad.
Ahora que sabe lo que es la API de modelos y de qué es capaz, es el momento de allanar el camino para su propio componente web Lightning de API de modelos.