Explorar as proteções do Agentforce e padrões de confiança

Objetivos de aprendizagem

Após concluir esta unidade, você estará apto a:

• Descrever as proteções da plataforma.
  
• Descrever as proteções do Agentforce.
  
• Explicar como personalizar proteções do Agentforce.
  
• Explicar os padrões de confiança usados para criar agentes no Salesforce.
  

Garanta a confiança com proteções

A IA tem evoluído rápido. E com uma mudança tão rápida, é natural sentir alguma ansiedade. Na Salesforce, nossa equipe de produtos e o OEHU (Departamento de Uso Ético e Humanitário) reconhecem que manter a confiança em nossos produtos é imperativo e eles têm lidado com os riscos e as preocupações sobre agentes de IA:

• Identificação dos controles necessários para criar um agente confiável
  
• Criação de uma estratégia de testes
  
• Adição de proteções éticas no produto
  
• Fornecimento de orientações éticas mais adequadas aos nossos clientes
  

A criação dessas proteções em nossos produtos e o fornecimento de diretrizes éticas claras ajudam as empresas a usar a tecnologia de IA de forma responsável, mantendo as ações seguras e confiáveis para todos.

Vamos entrar em alguns detalhes, começando pelas proteções da plataforma que fornecem controles globais em nossos produtos.

Proteções da plataforma

A Salesforce inclui um conjunto completo de políticas, diretrizes e protocolos concebidos para garantir o funcionamento seguro, ético e em conformidade da plataforma. Estas proteções incluem:

• Política de uso aceitável (AUP): Regras gerais para o uso dos serviços da Salesforce pelos clientes, proibindo atividades que possam lesar a plataforma ou seus usuários.
  
• Política de uso aceitável da IA (AI AUP): Regras específicas para o uso das tecnologias de IA da Salesforce pelos clientes, garantindo que nossos produtos sejam usados de forma responsável.
  
• Políticas de contenção de modelos: Regras claras sobre a forma como os modelos de IA são usados. Estas regras garantem que os modelos de IA sejam usados respeitando determinados limites para evitar que sejam usados indevidamente ou tenham efeitos indesejados.
  

Estes controles criam uma estrutura que mantém a integridade, a segurança e os padrões éticos da plataforma. Por exemplo, a AUP declara que não é possível usar a plataforma para enviar spam ou fazer phishing. A AI AUP declara que a IA não pode tomar decisões legais ou importantes sem que um humano tome a decisão final. As políticas de contenção de modelos podem limitar os tipos de dados que um modelo de IA pode acessar para ajudar a evitar vazamento ou uso indevido de dados.

Proteções do Agentforce

As proteções do Agentforce são um conjunto de regras, diretrizes e melhores práticas criadas para o uso comercial específico da nuvem ou produtos da Salesforce e para garantir que os agentes cumpram as leis e os padrões locais. O Agentforce inclui proteções éticas para minimizar alucinações de IA e proteções de segurança para evitar ameaças e ataques maliciosos, como injeções de prompt.

Tipo de agente

A Salesforce disponibiliza agentes prontos para uso para nuvens específicas e casos de uso comuns. Os diversos tipos de agentes podem ter suas próprias configurações e proteções para definir o comportamento do agente. Por exemplo, o tipo Agentforce Service Agent (ASA, Agente de serviço do Agentforce) usa instruções de tópicos para determinar quando escalar uma conversa do agente de IA para um representante humano. O tipo Representante de desenvolvimento de vendas (SDR) tem regras de interação definidas pelo administrador para as condições nas quais o agente pode começar a trabalhar com o lead e como e quando os emails do agente podem ser enviados.

Tópico, Instruções de tópicos e Ações

Cada agente inclui um conjunto de tópicos e ações pré-criados.

Os Tópicos são uma categoria de ações relacionadas a um trabalho específico a ser realizado pelos agentes. Os tópicos englobam ações, que são as ferramentas disponíveis para o trabalho, e instruções, que informam o agente sobre como tomar decisões. Juntos, os tópicos definem o conjunto de recursos que seu agente pode controlar. O Salesforce oferece uma biblioteca de tópicos padrão para casos de uso comuns.

As Instruções de tópicos definem diretrizes para o comportamento do agente, fornecendo o contexto necessário para que ele realize o trabalho de forma eficaz. Cada tópico é uma categoria de ações relacionadas a um trabalho específico, contendo ações (ferramentas) e instruções (diretrizes para a tomada de decisões). As instruções ajudam os agentes a tomar decisões sobre como usar as ações de um tópico para diferentes casos de uso. Estas instruções são normalmente formuladas como “Sempre...”, “Nunca...”, “Se x, então y...”, ou “Como primeira etapa,...” para garantir um comportamento claro e consistente.

As Ações são como os agentes fazem as coisas. Os agentes têm uma biblioteca de ações, que é um conjunto de tarefas que um agente pode realizar. Por exemplo, se um usuário pede ajuda a um agente para escrever um email, o agente inicia uma ação que elabora e analisa o email e fundamenta-o nos dados relevantes do Salesforce. O Salesforce disponibiliza algumas ações prontas para uso. Essas ações são chamadas de ações padrão. A vantagem de incluir tópicos e ações padrão automaticamente é que seu agente pode ajudar imediatamente os usuários em várias tarefas comuns.

Personalizar proteções

Para um controle mais granular, use as instruções de tópicos do agente para criar limites, definir contextos e determinar o comportamento do agente. Você pode modificar as instruções de um tópico do agente padrão ou criar um tópico personalizado do zero.

Estas diretrizes são controladas pelo administrador e normalmente aprovadas pela administração interna ou pelos principais responsáveis pelas decisões. Isso garante que as diretrizes sejam confiáveis e reflitam os valores e os requisitos de conformidade da sua organização.

Camada de confiança do Einstein

Os agentes de IA também estão integrados à Camada de confiança do Einstein, que é uma arquitetura de IA segura integrada e nativa da Salesforce Platform.

Criada para padrões de segurança empresarial, a Camada de confiança permite que você aproveite a IA generativa sem comprometer os dados dos seus clientes. Ela também permite que você use dados confiáveis para melhorar as respostas da IA generativa.

1. Fundamentação de dados: a Camada de confiança garante que os prompts generativos sejam fundamentados e enriquecidos com dados confiáveis da empresa.
   
2. Retenção zero de dados: seus dados nunca serão conservados pelo provedor de LLM terceirizado.
   
3. Detecção de toxicidade: as respostas do LLM potencialmente prejudiciais são detectadas e identificadas.
   
4. Monitoramento de IA: as interações de IA são capturadas em logs de eventos, o que dá a você visibilidade sobre os resultados de cada interação com usuários.
   

Padrões de confiança de agentes

Em todos os nossos produtos, implementamos vários padrões de confiança fundamentais, criações de produtos padrão para melhorar a segurança. Veja alguns exemplos.

Melhores práticas de implementação

Ao implementar proteções do Agentforce na sua organização, siga as melhores práticas abaixo.

Recursos

• Ajuda do Salesforce: Melhores práticas para escrever instruções de tópicos
• Salesforce: Padrões de confiança: Como a Salesforce cria a confiança em nossos produtos de IA
• Ajuda do Salesforce: Confiança e agentes
• Ajuda do Salesforce: Camada de confiança do Einstein