Aprender la manera en la que Salesforce utiliza los modelos de lenguaje grandes

Objetivos de aprendizaje

Después de completar esta unidad, podrá:

Describir cómo incorpora Salesforce la confianza en los LLM.
Elegir la opción de LLM correcta para su empresa.
Describir las limitaciones de las opciones de LLM disponibles.

Trailcast

Si desea escuchar una grabación de audio de este módulo, utilice el siguiente reproductor. Cuando termine de escuchar la grabación, recuerde volver a cada unidad, consultar los recursos y completar las tareas asociadas.

Liderazgo con confianza

La confianza es el valor principal de Salesforce. Por ello, tiene sentido que Salesforce utilice modelos de lenguaje grandes (LLM) de manera segura y fiable. La clave para mantener la confianza es mediante la Capa de confianza de Einstein. La Capa de confianza de Einstein garantiza que la IA generativa sea segura mediante el uso de controles de datos y de privacidad que están integrados en la experiencia del usuario final de Salesforce. Estos controles permiten que Einstein proporcione IA que utiliza la generación aumentada por recuperación (RAG) de forma segura a fin de personalizar las respuestas con los datos de sus clientes y su empresa, sin introducir posibles riesgos de seguridad. En su forma más sencilla, la Capa de confianza de Einstein es una secuencia de pasarelas y mecanismos de recuperación que trabajan de forma conjunta a fin de proporcionar IA generativa de confianza y abierta.

Agentes de confianza de Salesforce

Los agentes de Agentforce utilizan LLM líderes del sector a través de la Capa de confianza de Einstein usando la generación aumentada de recuperación para crear solicitudes seguras con datos de Salesforce y Data Cloud. De esta forma, se genera un entorno enriquecido y seguro en el que usar agentes de IA capaces de ayudar a los empleados y los clientes. Estos agentes no solo ofrecen sugerencias, sino que pueden completar tareas de forma independiente. Por ejemplo, permiten gestionar consultas de clientes, resolver problemas e incluso hacer recomendaciones de ventas sin intervención de personas. Todo esto mientras se usa la Capa de confianza para proteger los datos y ofrecer buenas respuestas.

Elegir el mejor gran modelo de lenguaje.

Todas las llamadas al motor de razonamiento de Agentforce utilizan GPT-4o de OpenAI y, en algunos casos, GPT-4o de Azure OpenAI como modelo predeterminado. Sin embargo, puede elegir otros modelos que sean compatibles con las necesidades de su empresa. Es importante tener en cuenta que el hecho de disponer del modelo adecuado para realizar ciertas tareas le ayudará a comenzar con la IA generativa más rápido y conseguir los resultados esperados. Salesforce proporciona capacidades de implementación para diferentes tipos de LLM, a la vez que ayuda a las empresas a mantener la privacidad, la seguridad y la residencia de datos, y a cumplir los objetivos.

Es posible que su empresa elija utilizar más de un LLM para gestionar diferentes tipos de casos de uso, como codificación, análisis de opiniones o generación de contenido. Al elegir un modelo para un caso de uso, tenga en cuenta las capacidades del modelo, el coste, la calidad de las respuestas y la velocidad. También puede elegir modelos que tengan en cuenta la zona geográfica. Estos modelos envían las solicitudes del LLM automáticamente a un centro de datos según el lugar desde el que se aprovisiona Data Cloud para su organización. De esta manera, tendrá un mayor control sobre la residencia de datos y se reducirá la latencia.

El LLM adecuado para la tarea correcta. Confianza compartida: datos retenidos en Salesforce con una moderación conjunta. Alojamiento en Salesforce: de manera global, en Hyperforce, AWS, Anthropic, Salesforce y Cohere. Bring Your Own Model: su modelo, su infraestructura, Amazon SageMaker y Vertex AI.

Utilizar LLM gestionados por Salesforce

Los LLM gestionados por Salesforce son una gran manera de acceder a los LLM en internet y comenzar a utilizar IA generativa rápidamente. Puede personalizar su implementación de IA con diferentes modelos gestionados por Salesforce mediante el uso de la API de modelos o Prompt Builder. Salesforce ofrece una gran variedad de modelos habilitados de forma predeterminada para ayudar a agilizar el proceso de configuración.

Para obtener una lista de modelos gestionados por Salesforce, consulte la documentación de ayuda Compatibilidad de modelos de lenguaje grandes.

Utilizar LLM de terceros alojados en Salesforce

También puede alojar modelos dentro de Salesforce. Como parte del compromiso de Salesforce con un ecosistema abierto, Einstein se ha diseñado para alojar LLM de Amazon, Anthropic, Cohere y otros terceros, todo ello dentro de la infraestructura de Salesforce. Con Einstein, se pueden mantener las solicitudes y respuestas en la infraestructura de Salesforce. Además, Salesforce y OpenAI han establecido una colaboración de confianza con el fin de ofrecer contenido mediante la Capa de confianza de Einstein de manera segura.

BYOLLM (Traiga su propio modelo de lenguaje grande)

Si ya ha invertido en su propio LLM, puede conectarlo a Salesforce a fin de utilizarlo con plantillas personalizadas de Prompt Builder (Generador de solicitudes). Podrá beneficiarse de Einstein aunque haya entrenado sus modelos específicos para dominios fuera de Salesforce al mismo tiempo que almacena los datos en una infraestructura propia. Al ejecutar una solicitud en un LLM externo que haya conectado, funcionará igual que un LLM conectado de forma interna y enviará la solicitud a la pasarela de seguridad del LLM y la Capa de confianza de Einstein antes de compartir contenido con sus usuarios.

Las opciones de tipo BYOLLM cambian a gran velocidad. Consulte con frecuencia los recursos disponibles para enterarse de las novedades.

Estimación de tiempo

Temas

¿Necesita ayuda?

Recursos de Salesforce Platform