Seguir el recorrido de una solicitud

Objetivos de aprendizaje

Después de completar esta unidad, podrá:

• Explicar cómo la capa de confianza gestiona sus datos de manera segura.
  
• Describir cómo el anclaje dinámico mejora el contexto de una solicitud.
  
• Describir cómo las protecciones de la capa de confianza defienden los datos.
  

El recorrido de una solicitud

Ya ha aprendido un poco sobre la Capa de confianza, así que veamos cómo encaja en la visión general de la IA generativa en Salesforce. En esta unidad, aprenderá cómo se mueve una solicitud en la Capa de confianza de Einstein en su camino hacia el LLM.

Esta unidad aborda algunas funciones futuras de la Capa de confianza de Einstein. Cualquier servicio que no se haya lanzado o cualquier función a la que se haga referencia aquí no está disponible todavía y es posible que no se proporcione a tiempo o no llegue a hacerlo nunca. Los clientes deberían tomar sus decisiones de compras basándose en las funciones que están disponibles actualmente.

El sistema de defensa de solicitudes está disponible en Prompt Builder (Generador de solicitudes), en la API de conexión de plantillas de solicitudes y en la acción invocable de la plantilla de solicitudes.

El poder de las solicitudes

En el módulo de Trailhead Aspectos fundamentales de las solicitudes, aprenderá que las solicitudes son las que impulsan las aplicaciones de IA generativa. También aprenderá que las instrucciones, la información contextual y las restricciones claras ayudan a crear solicitudes increíbles, lo que conduce a grandes respuestas desde el LLM. Para que esto sea sencillo y consistente para los clientes, hemos predefinido plantillas de solicitudes para toda clase de casos de uso de empresas, como correos electrónicos de ventas o respuestas del servicio de atención al cliente. Cuando se realiza una solicitud a la Capa de confianza desde cualquier aplicación de Salesforce, la Capa de confianza activa la plantilla de solicitud correspondiente.

Repasemos un caso del servicio de atención al cliente para mostrar el recorrido de una solicitud. Verá la plantilla de la solicitud, cómo se rellena la plantilla con los datos del cliente y los recursos correspondientes, y la manera en la que la Capa de confianza de Einstein protege los datos antes de moverlos a un LLM externo a fin de generar una respuesta que se corresponda con la solicitud.

Esta es Jessica

Jessica es un agente del servicio de atención al cliente en una empresa de tarjetas de crédito. Su empresa acaba de implementar Respuestas de servicio, una función con tecnología de Einstein que genera respuestas sugeridas para los agentes del servicio de atención al cliente durante las conversaciones por chat con los clientes. Jessica aceptó ser uno de los primeros agentes en probarla. Se la conoce por tener un estilo personal a la hora de tratar con los clientes, así que le preocupa un poco que las respuestas generadas por la IA no se asemejen a su estilo. Sin embargo, está deseando agregar la experiencia en IA generativa en su currículum y siente curiosidad por ver si Service Replies (Respuestas de servicio) podría ayudarla a asistir a más clientes.

Jessica comienza a hablar por chat con su primer cliente del día, que necesita ayuda para actualizar su tarjeta de crédito. Respuestas de servicio comienza a sugerir respuestas en Service Console (Consola de servicio). Las respuestas se actualizan cada vez que el cliente envía un nuevo mensaje, de manera que tengan sentido en el contexto de la conversación. Además, están personalizadas para el cliente, basándose en los datos del cliente almacenados en Salesforce. Cada respuesta sugerida se crea a partir de una plantilla de solicitud. Una plantilla de solicitud contiene instrucciones y marcadores que se rellenan con datos empresariales, en este caso, los datos relacionados con el cliente de Jessica y su caso de asistencia, y los datos y flujos correspondientes de la organización de Jessica. La plantilla de solicitud está incluida en la Capa de confianza de Salesforce, y Jessica, como usuario final en Service Console (Consola de servicio), no puede ver las plantillas de solicitud.

Veamos más de cerca cómo se mueven estos datos por la Capa de confianza para proporcionar respuestas de alta calidad y relevantes a la vez que se mantienen seguros los datos del cliente.

Anclaje dinámico

Las respuestas relevantes y de alta calidad requieren datos de entrada relevantes y de alta calidad. Cuando el cliente de Jessica comienza la conversación, Service Replies (Respuestas de servicio) vincula la conversación con una plantilla de solicitud y empieza a reemplazar los campos de marcadores por contexto de página, campos de combinación y artículos de Knowledge relevantes del registro del cliente. Este proceso se denomina anclaje dinámico. De forma general, cuanto más anclada esté una solicitud, más precisa y relevante será la respuesta. El anclaje dinámico es lo que hace que las plantillas de solicitud se puedan volver a utilizar de manera que se puedan ampliar a toda la organización.

El proceso de anclaje dinámico comienza con la recuperación de datos segura, que identifica datos de la organización de Jessica que se corresponden con su cliente. Lo más importante es que la recuperación de datos segura respeta todos los permisos de Salesforce que están vigentes en su organización que limitan el acceso a ciertos datos en objetos, campos y más. Esto asegura que Jessica solo extraiga la información a la que tiene acceso autorizado. Los datos que se recuperan no contienen información privada ni nada que requiera permisos distribuidos.

El anclaje dinámico extrae datos de su organización, por lo que es importante asegurarse de que los datos se mantienen actualizados, son precisos y están completos. Consulte el módulo de Trailhead Calidad de datos para aprender a conservar la calidad los datos.

Recuperación semántica (aún no está disponible de forma general).

En el caso de Jessica, los datos del cliente son suficientes para personalizar la conversación. Sin embargo, no son suficiente para ayudar a Jessica a solventar el problema del cliente de manera rápida y eficaz. Jessica necesita información que provenga de otras fuente de datos, como artículos de Knowledge y el historial del cliente, para responder preguntas e identificar soluciones. La recuperación semántica utiliza aprendizaje automático y métodos de búsqueda para encontrar información relevante en otras fuentes de datos que pueda incluirse automáticamente en la solicitud. Esto significa que Jessica no tiene que buscar estas fuentes de forma manual, lo que le ahorra tiempo y esfuerzo.

Aquí, la recuperación semántica ha encontrado un artículo de Knowledge relevante para ayudar a resolver el problema con la tarjeta de crédito y ha incluido fragmentos del artículos en la plantilla de solicitud. Ahora esta solicitud está tomando forma.

Enmascaramiento de datos

Aunque la solicitud contiene datos precisos sobre el cliente de Jessica y su problema, aún no está lista para pasar al LLM porque contiene información como el nombre del cliente y la dirección. La Capa de confianza agrega otro nivel de protección para los datos del cliente de Jessica mediante el enmascaramiento de datos. El enmascaramiento de datos implica convertir en token cada valor, de manera que cada uno de ellos se reemplace por un marcador basado en lo que representa. Esto significa que el LLM puede mantener el contexto de la conversación de Jessica con su cliente y generar una respuesta correspondiente.

Salesforce utiliza una mezcla de técnicas de coincidencias de patrones y aprendizaje automático para identificar, de manera inteligente, los detalles del cliente, como la información de nombres y de la tarjeta de crédito, y después los enmascara. El enmascaramiento de datos se lleva a cabo en segundo plano, así que Jessica no tiene que hacer absolutamente nada para evitar que los datos de su cliente queden expuestos en el LLM. En la siguiente unidad, aprenderá sobre la manera en la que los datos se agregan a la respuesta.

Defensa de la solicitud

Prompt Builder (Generador de solicitudes) proporciona protecciones adicionales para proteger a Jessica y a su cliente. Estas protecciones son más instrucciones para el LLM sobre cómo debe comportarse en ciertas situaciones a fin de disminuir la probabilidad de producir algún daño o algo no intencionado. Por ejemplo, un LLM debe instruirse para que no aborde contenido o genere respuestas que sobre los que no tiene información.

Los hackers, e incluso a veces los empleados, están deseando saltarse las restricciones e intentar realizar tareas o manipular los resultados del modelo de formas para las que no se diseñó el modelo. En la IA generativa, uno de estos tipos de ataques se denomina inyección de solicitudes. La defensa de la solicitud puede ayudar a protegerse de estos ataques y disminuir la probabilidad de que los datos corran peligro.

A continuación, veamos lo que ocurre con esta solicitud cuando atraviesa la pasarela de seguridad hasta el LLM.

Recursos

• Salesforce AI Research: Trusted AI
  
• Trailhead: Calidad de datos
  
• Trailhead: Conceptos básicos de Prompt Builder (Generador de solicitudes)