Aprender as noções básicas da API de modelos
Objetivos de aprendizagem
Após concluir esta unidade, você estará apto a:
- Descrever o que você pode fazer com a API de modelos.
- Explicar quando usar a API de modelos.
Introdução à API de modelos
A API de modelos fornece classes do Apex e pontos de extremidade REST que conectam seu aplicativo a grandes modelos de linguagem (LLMs) de parceiros da Salesforce, incluindo Anthropic, Google e OpenAI. Você pode usar qualquer modelo habilitado para Salesforce que possa ser configurado no Einstein Studio.
Há quatro recursos da API de modelos disponíveis por meio de extremidades REST e métodos do Apex. Vamos analisá-los mais detalhadamente.
Principais recursos da API de modelos
Recurso | Descrição |
|---|---|
Gerar texto. | A API de modelos pode gerar texto a partir de um único prompt, em vez de uma conversa completa no chat. Esse recurso é útil para tarefas simples e que não envolvem conversa, e para testar as capacidades de um modelo. |
Gerar integrações. | Uma integração é uma representação numérica de um bloco de conteúdo. Por vezes, uma integração é chamada de vetor de integração. Para medir a similaridade semântica entre dois blocos de conteúdo, você pode usar operações matemáticas em seus vetores de integração, tais como similaridade cosseno, distância euclidiana ou produto escalar. As integrações são normalmente usadas para geração aumentada por recuperação (RAG) e recursos de pesquisa semântica. |
Gerar chat. | A API de modelos pode gerar uma mensagem para uma conversa de chat. Isso permite que você realize o prompt do modelo com uma lista de mensagens, em vez de ficar limitado a um prompt. Cada mensagem na lista representa uma parte do histórico da conversa. |
Enviar feedback. | Você pode fornecer feedback sobre qualquer texto gerado, criado pela API de modelos. Você pode usar esses dados, que estão armazenados no Data Cloud, para analisar a qualidade das respostas e, em seguida, atualizar suas solicitações ou as configurações do seu modelo. |
Como usar a API de modelos
À primeira vista, a API de modelos parece semelhante ao Criador de prompts de IA generativa do Einstein. Conectar um modelo de IA a uma organização do Salesforce e basear o modelo nos dados do Salesforce é fácil com os modelos de prompts.
A API de modelos foi projetada com flexibilidade e extensibilidade em mente e complementa as ofertas de IA da Salesforce existentes para desenvolvedores. O Criador de prompts e a API de conexão do modelo de prompt são eficazes para um gerenciamento de prompts rápido e o Agentforce oferece uma experiência de chat interativa. A API de modelos fornece recursos adicionais, como integrações e gerações de chat com histórico, que permitem aos desenvolvedores arquitetar aplicativos de IA personalizados.
Agora, vamos dar uma olhada em um exemplo real da API de modelos.
A DreamHouse Realty precisa de uma maneira de manter seus funcionários informados sobre as condições do mercado imobiliário local e nacional. Os compradores de imóveis respondem melhor a comunicações mais direcionadas do que a DreamHouse Realty tem recursos para oferecer. Os compradores de imóveis mais jovens são especialmente sensíveis às condições gerais do mercado imobiliário e estão pesquisando para encontrar a melhor opção. Se a DreamHouse Realty conseguir reforçar a pesquisa de mercado usando IA generativa, a empresa poderá aumentar a confiança dos compradores e vendedores.
Maria Garza é uma desenvolvedora da DreamHouse Realty. Ela está criando um painel interno que usa a API de modelos para analisar dados de uma API externa do mercado imobiliário e resumir esses dados para os funcionários da DreamHouse Realty. Posteriormente, a DreamHouse Realty planeja que este painel seja uma ferramenta de capacitação totalmente funcional, baseada em IA. O painel não só ajudará os corretores a compreender as condições do mercado, como também os conectará melhor aos seus clientes por meio dos dados da organização.
Por enquanto, Maria está focada nas primeiras etapas: configurar seu ambiente e criar um painel simples que aproveita o ponto de extremidade chatGenerations da API de modelos.
Manter a confiança
A confiança é o valor número 1 da Salesforce, por isso é fundamental que os dados dos usuários permaneçam protegidos ao interagir com LLMs. As soluções de IA generativa do Salesforce Einstein são projetadas, desenvolvidas e fornecidas com base em nossos cinco princípios para uma IA generativa confiável.
- Precisão
- Segurança
- Transparência
- Capacitação
- Sustentabilidade
A Salesforce também tem acordos com fornecedores de LLM, como a OpenAI. Esses acordos incluem compromissos de retenção zero de dados, permitindo que você use IA generativa sem se preocupar com o armazenamento de seus dados privados por fornecedores de LLM terceirizados.
Todas as chamadas da API de modelos passam pela Camada de confiança do Einstein. A Camada de confiança do Einstein é uma arquitetura de IA segura, integrada na Salesforce Platform. É um conjunto de contratos, tecnologia de segurança e controles de dados e privacidade usados para manter sua empresa segura enquanto você explora soluções de IA generativa.
As chamadas de geração para a API de modelos realizam automaticamente o mascaramento de dados e a pontuação de toxicidade. A API retorna um sinalizador indicando se foi detectada toxicidade, juntamente com informações sobre a pontuação. Estas informações também são armazenadas no Data Cloud. No Data Cloud, você pode visualizar mais informações sobre pontuação de toxicidade, mascaramento de dados e dados de feedback.
A Camada de confiança do Einstein não substitui o julgamento humano. Se você planeja compartilhar resultados de IA generativa com clientes, é importante revisar todas as respostas quanto à precisão, preconceito e toxicidade.
Modelos compatíveis
A API de modelos é compatível com grandes modelos de linguagem (LLMs) provenientes de vários fornecedores como, por exemplo, Amazon Bedrock, Azure OpenAI, OpenAI e Vertex AI da Google.
A API de modelos é compatível com o recurso Traga seu próprio LLM (BYOLLM) do Einstein Studio. Com o recurso BYOLLM, você pode adicionar um modelo de fundação de um fornecedor compatível, configurar sua própria instância do modelo e conectar-se ao modelo usando suas próprias credenciais. Embora a inferência seja tratada pelo modelo do cliente, a solicitação ainda é encaminhada pela API de modelos e os recursos da Camada de confiança são totalmente compatíveis.
Para obter mais informações sobre os modelos disponíveis diretamente por meio da API de modelos e compatíveis com o recurso BYOLLM do Einstein Studio, consulte a página Modelos compatíveis na seção Recursos desta unidade.
Agora que você já sabe o que é a API de modelos e do que ela é capaz, é hora de estabelecer as bases para o seu próprio componente Web do Lightning para API de modelos!