Aprenda los aspectos básicos de Models API
Objetivos de aprendizaje
Después de completar esta unidad, podrá:
- Describir lo que puede hacer Models API.
- Explicar cuándo se usa Models API.
Introducción a Models API
Models API proporciona clases de Apex y extremos de REST que conectan su aplicación a los modelos de lenguaje grandes (LLM) de los socios de Salesforce, incluidos Anthropic, Google y OpenAI. Puede usar cualquier modelo preparado para Salesforce que se pueda configurar en Einstein Studio.
Hay cuatro capacidades de Models API disponibles a través de los extremos de REST y los métodos Apex. Echemos un vistazo más de cerca.
Capacidades clave de Models API
Capacidad | Descripción |
|---|---|
Generar texto. | Models API puede generar texto a partir de una única solicitud, en lugar de toda una plática de chat. Esta capacidad es útil para tareas sencillas y que no implican plática, y para probar las capacidades de un modelo. |
Generar integraciones. | Una integración es una representación numérica de un fragmento de contenido. A veces, se conoce a una integración como vector de integración. Para medir la similitud semántica entre dos fragmentos de contenido, puede usar operaciones matemáticas en sus vectores de integraciones, como similitud coseno, distancia euclidiana o producto escalar. En general, las integraciones se usan para la generación aumentada de recuperación (RAG) y las funciones de búsqueda semántica. |
Generar chat. | Models API puede generar un mensaje para una plática de chat. Esto le permite realizarle al modelo una solicitud con una lista de mensajes, en lugar de limitarse a una solicitud. Cada mensaje de la lista representa una parte de un historial de plática. |
Enviar comentarios. | Puede proporcionar comentarios sobre cualquier texto generado que se creó con Models API. Puede usar estos datos, que están almacenados en Data 360, para revisar la calidad de las respuestas y, luego, actualizar sus solicitudes o los parámetros de configuración del modelo. |
Cómo usar Models API
A simple vista, Models API es similar al Generador de solicitudes de la IA generativa de Einstein. Conectar un modelo de IA a una Salesforce org y fundamentar el modelo con datos de Salesforce se gestiona fácilmente con plantillas de solicitud.
Models API está diseñada para ofrecer capacidad de flexibilidad y extensión, y se complementa con las ofertas existentes de la IA de Salesforce para desarrolladores. El Generador de solicitudes y Connect API de la plantilla de solicitud son eficientes para la gestión rápida de solicitudes, y Agentforce ofrece una experiencia de chat interactiva. Models API ofrece funciones adicionales, como integraciones y generaciones de chat con historial, lo que permite a los desarrolladores diseñar aplicaciones de IA personalizadas.
Ahora, echemos un vistazo a ejemplos de la vida real de Models API.
DreamHouse Realty necesita una forma de mantener informados a sus empleados con respecto a las condiciones del mercado inmobiliario local y nacional. Los compradores responden mejor a comunicaciones personalizadas, pero DreamHouse Realty no cuenta con los recursos disponibles para realizarlas. Los compradores más jóvenes son especialmente sensibles a las condiciones generales del mercado inmobiliario y están investigando para encontrar la opción que mejor se adapte a sus necesidades. Si DreamHouse Realty puede sintetizar la investigación de mercado con IA generativa, la compañía puede aumentar la confianza de compradores y vendedores.
Maria Garza trabaja como desarrolladora en DreamHouse Realty. Está creando un tablero interno que usa Models API para analizar datos de una API de mercado inmobiliario externa y resumirlos para los empleados de DreamHouse Realty. Con el tiempo, DreamHouse Realty quiere que este tablero sea una herramienta de habilitación con tecnología de IA totalmente funcional. El tablero no solo ayudará a que los agentes inmobiliarios entiendan las condiciones del mercado, sino que también mejorará la forma de conectarse con sus clientes a través de datos de la organización.
Por ahora, Maria está enfocada en los primeros pasos, es decir, configurar su entorno y crear un tablero sencillo que aproveche el extremo chatGenerations de Models API.
Mantener la confianza
La confianza es el valor principal de Salesforce, por lo tanto, es esencial que los datos de los usuarios estén protegidos durante las interacciones con los LLM. Las soluciones de la IA generativa de Einstein de Salesforce se diseñan, desarrollan y ofrecen según nuestros cinco principios para una IA generativa de confianza.
- Precisión
- Seguridad
- Transparencia
- Empoderamiento
- Sostenibilidad
Salesforce también tiene acuerdos con proveedores de LLM, como OpenAI. Estos acuerdos incluyen el compromiso con la retención de datos cero, lo que implica que usted puede usar la IA generativa sin preocuparse de que sus datos privados sean almacenados por proveedores terceros de LLM.
Todas las llamadas de Models API pasan por la Capa de confianza de Einstein. La Capa de confianza de Einstein es una arquitectura de IA segura, integrada en Salesforce Platform. Es un conjunto de acuerdos, tecnología de seguridad y controles de datos y privacidad que se utilizan para mantener la seguridad de su empresa mientras explora soluciones de IA generativa.
Las llamadas de generaciones a Models API realizan automáticamente enmascaramiento de datos y puntuación de toxicidad. La API pasa un indicador que señala si se detectó toxicidad, junto con la información de puntuación. Esta información también se almacena en Data 360. En Data 360, puede ver más información sobre la puntuación de toxicidad, el enmascaramiento de datos y los datos de comentarios.
La Capa de confianza de Einstein no reemplaza el criterio humano. Si piensa compartir los resultados de la IA generativa con los clientes, es importante que revise todas las respuestas en busca de precisión, sesgos y toxicidad.
Modelos compatibles
Models API es compatible con los modelos de lenguaje grandes (LLM) de varios proveedores, como Amazon Bedrock, Azure OpenAI, OpenAI y Vertex AI de Google.
Models API es compatible con la función de traer su propio LLM (BYOLLM) de Einstein Studio. Con BYOLLM, puede agregar un modelo de base de un proveedor compatible, configurar su propia instancia del modelo y conectarse al modelo con sus propias credenciales. Si bien el modelo del cliente se encarga de la inferencia, la solicitud se sigue enturando a través de Models API. y las funciones de la Capa de confianza son totalmente compatibles.
Para obtener más información sobre los modelos disponibles directamente a través de Models API y compatibles con la función BYOLLM de Einstein Studio, consulte la página Modelos compatibles en la sección de recursos de esta unidad.
Ahora que sabe qué es Models API y cuáles son sus capacidades, es momento de sentar las bases para su propio componentes web Lightning de Models API.