Obtenga información sobre cómo Salesforce usa los modelos de lenguaje grande

Objetivos de aprendizaje

Después de completar esta unidad, podrá:

Explicar cómo Salesforce brinda confianza a los LLM
Elegir la opción de LLM correcta para su negocio.
Describir las limitaciones de las opciones de LLM disponibles.

Trailcast

Si quiere escuchar una grabación de audio de este módulo, use el reproductor a continuación. Cuando haya terminado de escuchar esta grabación, recuerde volver a cada unidad, consultar los recursos y completar las evaluaciones asociadas.

Liderar con confianza

La confianza es el valor número uno en Salesforce. Por lo tanto, tiene sentido que Salesforce use modelos de lenguaje grandes (LLM) de una manera segura y confiable. La clave para mantener esta confianza es mediante la Capa de Confianza de Einstein. La Capa de Confianza de Einstein garantiza la seguridad de la IA generativa con controles de datos y privacidad que se integran perfectamente en la experiencia del usuario final de Salesforce. Con estos controles, Einstein es capaz de ofrecer una IA que utiliza de forma segura la generación aumentada de recuperación (RAG) para fundamentar las respuestas con los datos de sus clientes y de su compañía, sin dar lugar a posibles riesgos para la seguridad. En su forma más simple, la Capa de Confianza de Einstein es una secuencia de puertas de enlace y mecanismos de recuperación que trabajan en conjunto para permitir que la IA generativa sea abierta y de confianza.

Agentes de confianza de Salesforce

Los agentes de Agentforce utilizan LLM líderes a través de la capa de confianza de Einstein mediante el uso de RAG para crear mensajes seguros con datos de Salesforce y Data Cloud. Esto crea un entorno enriquecido y seguro para utilizar agentes de IA capaces de brindar asistencia a empleados y clientes. Estos agentes no solo ofrecen sugerencias, sino que pueden completar tareas de forma independiente. Por ejemplo, pueden manejar consultas de clientes, solucionar problemas e, incluso, hacer recomendaciones de ventas sin intervención humana. Todo esto mientras utilizan la Capa de confianza para proteger los datos y brindar respuestas confiables.

Elegir el mejor modelos de lenguaje grande

Todos los llamados del motor de razonamiento de Agentforce usan OpenAI GPT-4o y, en algunos casos, Azure OpenAI GPT-4o como el modelo predeterminado. Sin embargo, puede elegir otros modelos que se alineen con sus necesidades de negocio. Es importante tener en cuenta que si se asegura de que tiene el modelo indicado para las tareas correctas, empezará a trabajar más rápido con la IA generativa y obtendrá los resultados esperados. Salesforce proporciona capacidades de implementación para varios LLM distintos, al mismo tiempo que ayuda a que las compañías mantengan la privacidad de sus datos, la seguridad, la residencia y los objetivos de cumplimiento.

Su negocio podría usar más de un LLM para manejar distintos tipos de casos de uso, como codificación, análisis de opiniones o generación de contenido. Cuando elige un modelo para un caso de uso, tenga en cuenta las capacidades del modelo, el costo, la calidad de respuesta y la velocidad. También puede elegir modelos que detecten ubicaciones. Estos modelos enrutan las solicitudes de LLM de forma automática a un centro de datos cercano según dónde esté aprovisionado Data Cloud en su organización. De esta forma, obtiene un mayor control de la residencia de datos y se reduce la latencia.

El LLM indicado para la tarea correcta. Confianza compartida: datos conservados en Salesforce con moderación conjunta. Alojado en Salesforce: globalmente en Hyperforce, AWS, Anthropic, Salesforce y Cohere. Aportar su propio modelo: su modelo, su infraestructura, Amazon SageMaker y Vertex AI.

Usar LLM gestionados por Salesforce

Los LLM gestionados por Salesforce son una excelente manera de acceder a LLM en Internet y empezar a usar la IA generativa de forma rápida. Puede personalizar su implementación de IA con distintos modelos gestionados por Salesforce con la API de modelos o el Generador de solicitudes. Salesforce ofrece una variedad de modelos que están habilitados de forma predeterminada para acelerar el proceso de configuración.

Para obtener una lista de modelos gestionados por Salesforce actuales, consulte la documentación de ayuda Compatibilidad de modelo de lenguaje grande.

Usar LLM de terceros alojados en Salesforce

También puede alojar modelos dentro de Salesforce. Como parte del compromiso de Salesforce con un ecosistema abierto, Einstein está diseñado para alojar LLM de Amazon, Anthropic y Cohere, entre otros; todo dentro de la infraestructura de Salesforce. Einstein ayudará a mantener las solicitudes de los clientes y las respuestas en la infraestructura de Salesforce. Además, Salesforce y OpenAI establecieron una asociación de confianza compartida para ofrecer contenido a través de la Capa de Confianza de Einstein de forma segura.

Aportar su propio modelo de lenguaje grande (BYOLLM)

Si está en condiciones de invertir en su propio LLM, puede conectarlo a Salesforce para usarlo con las plantillas personalizadas del Generador de solicitudes. Puede beneficiarse de Einstein incluso si entrenó sus propios modelos específicos de dominio fuera de Salesforce y, al mismo tiempo, almacenar datos en su propia infraestructura. Cuando ejecuta una solicitud a través de un LLM externo que conectó, funciona de la misma manera que un LLM conectado de forma interna y enruta la solicitud a través de la puerta de enlace del LLM y la Capa de Confianza de Einstein antes de compartir contenido con sus usuarios.

Las opciones de BYOLLM están cambiando rápido. Esté atento a los recursos para conocer las nuevas actualizaciones.

Estimación de tiempo

Temas

¿Necesita ayuda?

Recursos de Salesforce Platform