Conhecer as noções básicas da inteligência artificial

Objetivos de aprendizagem

Após concluir esta unidade, você estará apto a:

  • Definir aprendizado de máquina e inteligência artificial (IA).
  • Compreender como o enviesamento afeta a IA.
  • Dar exemplos reais de como a IA pode ser tendenciosa.

Introdução à IA

A inteligência artificial pode aumentar a inteligência humana, ampliar as capacidades humanas e fornecer insights acionáveis que geram melhores resultados para nossos funcionários, clientes, parceiros e comunidades. 

Acreditamos que os benefícios da IA devem ser acessíveis a todos, não apenas aos criadores. Não é suficiente oferecer apenas a capacidade tecnológica da IA. Também temos uma responsabilidade importante de garantir que nossos clientes possam usar nossa IA de maneira segura e inclusiva para todos. Levamos essa responsabilidade a sério e estamos comprometidos em fornecer aos nossos funcionários, clientes, parceiros e comunidade as ferramentas necessárias para desenvolver e usar a IA de forma segura, precisa e ética.  

Qual é a diferença entre IA e aprendizado de máquina?

Não está familiarizado com IA? Antes de concluir este módulo, confira o módulo Inteligência artificial para negócios  (parte da trilha Aprenda mais com o Salesforce Einstein) para saber o que é e como ela pode transformar seu relacionamento com seus clientes. 

Os termos aprendizado de máquina e inteligência artificial são frequentemente usados de forma intercambiável, mas não significam a mesma coisa. Antes de entrarmos naquilo que interessa sobre a criação de IA de forma responsável, vamos lembrar o que esses termos significam.

Aprendizado de máquina

Quando falamos de aprendizado de máquina, estamos nos referindo a uma técnica específica que permite que um computador “aprenda” com exemplos sem ter sido explicitamente programado com instruções passo a passo. Atualmente, os algoritmos de aprendizado de máquina são voltados para responder bem a um único tipo de pergunta. Por essa razão, os algoritmos de aprendizado de máquina estão na vanguarda dos esforços para diagnosticar doenças, prever as tendências do mercado de ações e recomendar música.

Inteligência artificial (IA)

A inteligência artificial é um termo guarda-chuva que se refere a esforços para ensinar computadores a executar tarefas complexas e comportar-se de maneiras que dão a aparência da agência humana. Geralmente, eles fazem esse trabalho pegando dicas do ambiente em que estão incorporados. A IA inclui tudo, desde robôs que jogam xadrez a chatbots que podem responder a perguntas de suporte ao cliente, até carros de condução automática que podem navegar de forma inteligente no tráfego do mundo real.

A IA pode ser composta por algoritmos. Um algoritmo é um processo ou conjunto de regras que um computador pode executar. Algoritmos de IA podem aprender com os dados. Eles podem reconhecer padrões dos dados fornecidos para gerar regras ou diretrizes a serem seguidas. Exemplos de dados incluem entradas e saídas de históricos (por exemplo, entrada: todos os e-mails; saída: quais e-mails são spam) ou mapeamentos de A a B (por exemplo, uma palavra em inglês mapeada para seu equivalente em espanhol). Quando você tiver treinado um algoritmo com dados de treinamento, você terá um modelo. Os dados usados para treinar um modelo são chamados de conjunto de dados de treinamento. Os dados utilizados para testar o desempenho de execução de um modelo é chamado de conjunto de dados de teste. Os conjuntos de dados de treinamento e os conjuntos de dados de teste consistem em dados com entrada e saída esperada. Você deve avaliar um modelo com um conjunto de dados diferente, mas equivalente, que seria o conjunto de dados de teste, para testar se ele está realmente fazendo o que você pretendia.   

Desafios de enviesamento na IA

Até este momento, abordamos as amplas implicações éticas do desenvolvimento da tecnologia. Agora, vamos voltar a nossa atenção para a IA. A IA apresenta desafios únicos quando se trata de enviesamento e de tomar decisões justas. 

Opacidade

Nem sempre sabemos porque é que um modelo está fazendo uma previsão específica. Frank Pasquale, autor de The Black Box Society, descreve esta falta de transparência como o fenômeno da caixa negra. Enquanto as empresas que criam IA podem explicar os processos por trás de seus sistemas, é mais difícil para elas dizer o que está acontecendo em tempo real e em que ordem, incluindo onde o enviesamento pode estar presente no modelo.

Em um esforço para promover maior transparência e entender como um algoritmo de reconhecimento de imagem baseado em aprendizagem profunda reconhecia objetos, a Google fez engenharia reversa para que, em vez de detectar objetos nas fotos, ele os gerasse. 

Em um caso, quando a IA foi solicitada a gerar uma imagem de um halter, ela criou uma imagem de um halter com uma mão e um braço ligados porque categorizava esses objetos como um só. A maioria dos dados de treinamento fornecidos tinha imagens de alguém segurando o halter e não halteres isolados. Com base na saída da imagem, os engenheiros perceberam que o algoritmo precisava de dados de treinamento adicionais que incluíssem mais de um único halter.

Velocidade, escala e acesso a grandes conjuntos de dados

Os sistemas de IA são treinados para otimizar resultados específicos. A IA detecta enviesamento dos dados de treinamento e o usa para modelar previsões futuras. Porque é difícil, se não impossível, saber por que um modelo faz a previsão que faz, é difícil identificar como o modelo é enviesado. Quando os modelos fazem previsões baseadas em dados enviesados, pode haver consequências graves e prejudiciais.

Tomemos um exemplo destacado por Oscar Schwartz em sua série para o Institute of Electrical and Electronics Engineers na Untold History of AI (História não contada da IA). Em 1979, a St. George's Medical School em Londres começou a usar um algoritmo para completar a triagem de primeira fase dos candidatos ao seu programa. Este algoritmo, desenvolvido por um reitor da escola, tinha por objetivo não só otimizar este processo demorado através da imitação de avaliadores humanos, mas também melhorá-lo através da aplicação do mesmo processo de avaliação a todos os candidatos. O sistema fez as mesmas escolhas que os avaliadores humanos em 90% a 95% do tempo. De fato, codificou e enraizou os seus vieses, agrupando os candidatos como "caucasianos" e "não caucasianos" com base nos seus nomes e locais de nascimento e atribuindo pontuações significativamente mais baixas a pessoas com nomes não europeus. Na altura em que o sistema foi objeto de uma auditoria exaustiva, foram recusadas entrevistas a centenas de candidatos.

As técnicas de aprendizado de máquina têm melhorado desde 1979. Mas é ainda mais importante agora, à medida que as técnicas se tornam mais opacas, que estas ferramentas sejam criadas de forma inclusiva e transparente. Caso contrário, vieses estabelecidos podem restringir involuntariamente o acesso a oportunidades educacionais e econômicas para certas pessoas. A IA não é mágica. Ela aprende com base nos dados que você fornece. Se o seu conjunto de dados for enviesado, seus modelos amplificarão esse enviesamento. 

Desenvolvedores, designers, pesquisadores, gerentes de produto, escritores – todos os envolvidos na criação de sistemas de IA – devem se certificar de não perpetuar vieses sociais prejudiciais. (Como veremos no próximo módulo, nem todo enviesamento é necessariamente prejudicial.) As equipes precisam trabalhar juntas desde o início para construir a ética em seus produtos de IA, e conduzir pesquisas para entender o contexto social de seu produto. Isso pode envolver entrevistas não só com possíveis usuários do sistema, mas também com pessoas cujas vidas são impactadas pelas decisões que o sistema toma. Abordaremos esta questão mais adiante neste módulo.

Recursos

Continue a aprender de graça!
Inscreva-se em uma conta para continuar.
O que você ganha com isso?
  • Receba recomendações personalizadas para suas metas de carreira
  • Pratique suas habilidades com desafios práticos e testes
  • Monitore e compartilhe seu progresso com os empregadores
  • Conecte-se a orientação e oportunidades de carreira