Conhecer as ameaças e as defesas de IA

Objetivos de aprendizagem

Após concluir esta unidade, você estará apto a:

Identificar riscos de IA e estratégias de defesa em seu uso cotidiano.
Descrever o papel dos ciberdefensores na proteção de sistemas, usuários e negócios.

À medida que avançamos no reino da inteligência artificial (IA), aumenta a importância da compreensão de suas implicações éticas e de protocolos de segurança. Lembre-se, a IA não oferece somente uma conveniência revolucionária; ela traz possíveis riscos.

Vamos ver rapidamente essas duas dimensões antes de prosseguir com um assunto crucial: ataque e defesa cibernética de IA.

Ataque e defesa cibernética de IA

Conforme o papel da IA vai se expandindo na nossa vida cotidiana, por exemplo, quando ela ajuda você a escolher um filme, supervisiona a segurança da sua casa ou até auxilia seus filhos no dever de casa, é importante saber que essa conveniência vem com alguns riscos. Assim como vimos a tecnologia evoluir, as táticas para explorá-la também evoluíram.

Compreender os riscos do uso cotidiano da IA

Primeiro, existem ataques ao próprio sistema de IA.

Envenenamento do algoritmo: imagine a apresentação de informações erradas à IA para gerar respostas erradas. Por exemplo, o GPS do seu carro poderia receber deliberadamente direções erradas para enviar você a um lugar errado.
Adulteração de dados: por exemplo, trocar os ingredientes em uma receita seguida por sua cozinha inteligente, o que poderia resultar em uma refeição inesperada e talvez indesejada.
Acesso não autorizado: imagine se alguém pudesse sussurrar comandos secretos para seu assistente virtual ativado por voz e controlá-lo sem sua permissão.

Dois fluxogramas lado a lado. O fluxograma à esquerda lista fases de um modelo de aprendizagem de IA, desde o conjunto de dados até o modelo de aprendizagem de máquina, passando pelo algoritmo de aprendizagem. O fluxograma à direita lista as mesmas fases, mas inclui um ataque de envenenamento na fase de conjunto de dados que "estraga" a última fase.

Depois, existem riscos que afetam você diretamente.

Imitação digital: você provavelmente ouviu falar de deepfakes, em que a aparência e a voz de alguém podem ser recriadas com precisão assustadora. Isso pode ser usado para falsificar a mensagem de um amigo ou familiar de confiança.
Esquemas gerados por IA: já recebeu um email ou mensagem que parecia legítimo, mas tinha algo de estranho? A IA pode gerar mensagens falsas muito convincentes para levar você a revelar informações confidenciais.
Malware inteligente: existem vírus ou software nocivo que podem se adaptar e aprender com seu comportamento. Por exemplo, se você costuma comprar online com frequência, o malware pode visar seus dados de pagamento.

E, por fim, riscos que podem afetar seu local de trabalho ou sua comunidade em geral.

Adulteração de dados corporativos: se uma empresa usa IA nas operações, a adulteração dessa IA poderia resultar em ações contra os interesses da empresa.
Danos à reputação: no caso de empresas que usam IA para interagir com clientes, se esse sistema de IA fosse comprometido, elas poderiam sofrer danos à sua reputação de confiável.

Os usuários têm um grande papel a desempenhar na segurança e na ética da IA. Embora alguns controles estejam além do alcance do usuário final, existem ações na sua esfera de influência que você pode realizar para manter sua IA segura e dentro dos padrões éticos em casa e no trabalho. Veja o que você pode fazer.

Informe-se: leia a política de privacidade e os termos de serviço de todos os aplicativos ou serviços envolvendo IA usados por você. Saiba exatamente quais dados estão sendo coletados e como estão sendo usados.
Atualize-se regularmente: mantenha seus aplicativos e software atualizados. Com isso, você recebe não só os patches de segurança mais recentes, mas também patches que lidam com considerações éticas no sistema de IA.
Ative as configurações de segurança: use todas as opções de segurança disponíveis, por exemplo, autenticação de dois fatores, especificamente para serviços envolvendo IA que tenham acesso aos seus dados pessoais.
Analise e faça auditoria: reveja periodicamente os dados que você compartilhou com sistemas de IA. Exclua as informações desnecessárias e ajuste as configurações para limitar a exposição dos dados.
Seja cético(a): se uma mensagem ou vídeo parece ter algo errado, provavelmente tem. Tenha cuidado e verifique as informações antes de compartilhar algo ou agir.
Eduque os outros: divulgue seu conhecimento e seus insights sobre as considerações éticas e de segurança no uso de IA com amigos e familiares.
Informe problemas: se você encontrar comportamento antiético ou tendencioso, informe. A denúncia de problemas depende do contexto no qual você encontra o comportamento problemático de IA.

Prestador de serviços: o primeiro ponto de contato deve ser a empresa ou organização que fornece o serviço de IA. A maioria das plataformas tem um mecanismo de denúncia de questões éticas ou de segurança.
Agências reguladoras: em casos mais graves, especialmente os que envolvem privacidade ou discriminação, você precisará informar o problema às agências reguladoras ou outros órgãos públicos pertinentes, por exemplo, a Federal Trade Commission (FTC) ou a Equal Employment Opportunity Commission (EEOC) nos EUA ou entidades equivalentes no âmbito internacional.
Canais internos: se o sistema de IA for fornecido pelo seu empregador para uso no local de trabalho, informe o problema ao departamento de TI ou a um comitê de ética designado, se houver.
Grupos de desenvolvedores: se for um software de código aberto, você normalmente pode informar diretamente aos desenvolvedores em repositórios como o GitHub.

Com esses passos, você contribui para uma cultura de segurança e responsabilidade ética no espaço de IA. Não se trata apenas de aproveitar as vantagens da tecnologia inteligente; trata-se de usá-la com sabedoria.

À medida que entramos cada vez mais em um mundo focado na IA, reconhecer e mitigar essas ameaças específicas é essencial para proteger nosso futuro digital.

IA e ciberdefesa

Apesar de todos os desafios trazidos pela IA, ela promete soluções transformadoras na cibersegurança. Com a IA, os ciberdefensores podem efetivamente combater ataques baseados em IA usando várias técnicas e tecnologias. Vamos nos aprofundar e analisar como a IA pode ajudar nas práticas de ciberdefesa.

Papel da cibersegurança

Técnicas e tecnologias de proteção e defesa

Como proteger o sistema de IA

Análise comportamental: a IA examina padrões incomuns nos casos de uso gerais e sinaliza desvios que podem indicar possíveis ameaças ou ataques.
Treinamento de solidez: os modelos de IA são treinados para resistir a ataques pela exposição a entradas maliciosas, o que aumenta a resiliência do sistema.
Monitoramento do modelo: o monitoramento contínuo dos modelos para verificar discrepâncias entre o comportamento do treinamento e o comportamento na vida real pode ajudar a detectar ataques de backdoor ou outras anomalias geradas pelo envenenamento dos dados.
Validação de dados: a IA pode validar a integridade dos dados de treinamento em tempo real, encontrando e excluindo dados maliciosos ou envenenados antes de afetarem o modelo.

Como proteger as pessoas

Detecção de deepfakes: os algoritmos de IA avançados podem ser treinados para encontrar deepfakes com a detecção de inconsistências sutis em vídeos, áudio ou imagens que os humanos podem deixar passar.
Detecção de phishing em tempo real: a IA pode examinar sinais de phishing rapidamente em emails e outras formas de comunicação. Ao analisar uma grande quantidade de dados de phishing, a IA pode reconhecer até novas táticas sofisticadas de phishing.
Inteligência contra ameaças adaptável: com o uso de IA, os sistemas de cibersegurança podem se adaptar às mudanças de tática dos malwares que usam IA. Isso é feito com a aprendizagem e a evolução contínuas de reconhecimento de novos padrões.
Análise comportamental do usuário final (EUBA, End-User Behavior Analytics): ao analisar os perfis de usuário normais, a IA pode detectar atividades incomuns em tempo real. Ela pode proteger contra possíveis ameaças geradas por sistemas de IA comprometidos.

Defender a missão do negócio

Análise preditiva: a IA pode prever ameaças futuras à segurança com a análise de padrões em dados históricos. Essa abordagem proativa ajuda as empresas a combater ameaças mesmo antes que elas se materializem, garantindo o alinhamento com suas missões.
Sistemas de resposta automática: com a detecção de ameaças, a IA pode automatizar respostas para que as empresas analisem e decidam o plano de ação certo, que pode ser isolar um sistema, iniciar um backup ou enviar alertas. A rapidez costuma ser essencial e a automação normalmente responde mais rapidamente do que os humanos.
Inteligência contra ameaças integrada: a IA pode integrar várias fontes de inteligência contra ameaças de vários sistemas junto com recomendações acionáveis (com base na maior probabilidade de eficácia) incorporadas à diretriz para lidar com determinada ameaça de forma eficaz.
Análise semântica: ao entender o contexto e a semântica das comunicações, a IA pode detectar sinais sutis de injeções de prompt ou outras tentativas de manipular processos de tomada de decisões envolvendo o uso de IA.

Ao dominar os recursos de IA, a cibersegurança pode se defender ativamente e com eficiência contra as diversas ameaças geradas por ataques mal-intencionados contra a IA e pela IA. Embora o desafio esteja sempre mudando, a integração de IA à cibersegurança pode criar um mecanismo de defesa dinâmico, adaptável e sólido sob medida para a era digital moderna.

Uma pessoa usando IA para monitorar uma rede.

Traçar o caminho adiante

A interseção entre inteligência artificial e cibersegurança representa uma mudança de paradigma que toca profundamente todos os profissionais de cibersegurança. As complexidades e o potencial da IA não só redefinem o panorama tecnológico como criam novos caminhos para o aprimoramento de habilidades, a aquisição de conhecimentos e o impacto no desempenho.

No centro dessa transição está a noção de que só as vulnerabilidades de IA estão no nível das suas capacidades. Para os profissionais de cibersegurança, isso se traduz em muitas oportunidades, por exemplo:

Educação e treinamento: à medida que os modelos de IA vão se tornando mais complexos, a necessidade de aprofundarmos nossos conhecimentos aumenta. Cursos e certificações sob medida com foco na cibersegurança com IA se tornará não só desejável, mas essencial.
Aumento de habilidades: as ferramentas e técnicas que foram suficientes antigamente podem não aguentar frente às ameaças do futuro geradas por IA. É essencial desenvolver continuamente habilidades na detecção e análise de ameaças, criar estratégias de resposta a incidentes automatizada e considerações éticas no uso de IA.
Aumento do impacto: com a integração da IA nos setores, o papel da cibersegurança se expandiu da proteção de sistemas à criação das trajetórias comerciais. Um modelo de IA bem protegido pode aumentar o crescimento dos negócios, melhorar a confiança dos usuários e garantir a adesão aos padrões éticos.

O futuro, com seus avanços de IA, exige adaptação e inovação. Ao adotar a aprendizagem contínua, o refinamento de habilidades e a busca de contribuições mais importantes, os profissionais de cibersegurança não vão apenas transitar pelo panorama de IA; eles vão defini-lo.

Resumo

Neste módulo, você viu a IA nas nossas vidas pessoais e profissionais e as implicações éticas e de segurança da IA. Você também viu ataques cibernéticos de IA e como podemos nos defender deles. Com essas informações, agora você pode defender as inovações de IA e aumentar sua defesa!

Interessado em aprender mais sobre funções de cibersegurança e ouvir profissionais de segurança? Confira a Trajetória de carreira em cibersegurança no Trailhead.

Procurando ajuda?