Aprenda acerca de las amenazas y la defensa de la IA

Objetivos de aprendizaje

Después de completar esta unidad, podrá:

Identificar las estrategias de defensa y riesgos de la IA para las aplicaciones de todos los días.
Describir la función de los defensores cibernéticos a la hora de proteger los sistemas, usuarios y negocios.

A medida que avanzamos en el ámbito de la inteligencia artificial (IA), el conocimiento de sus consideraciones éticas y protocolos de seguridad se vuelve más importante. Recuerde que la IA no solo ofrece una comodidad revolucionaria, sino que también presenta riesgos potenciales.

Revisemos brevemente este dualismo antes de seguir con un tema esencial: los ciberataques y defensas de la IA.

Ciberataques y defensas de la IA

A medida que el rol de la IA en su vida cotidiana se expande, como ayudarlo a elegir una película, a velar por la seguridad de su hogar o con la tarea de sus hijos, es importante saber que esta comodidad viene con un conjunto de riesgos. Así como evolucionó la tecnología, también lo hicieron las técnicas que se usan para vulnerarla.

Entender los riesgos del uso diario de la IA

En primer lugar, hay ataques en los mismos sistemas de IA.

Envenenar el algoritmo: piénselo como alimentar a la IA con mala información para obtener respuestas equivocadas. Supongamos que el GPS de su auto da malas indicaciones a propósito y lo dirige a la dirección equivocada.
Falsificación de datos: esto sería como cambiar los ingredientes de una receta que seguirá su cocina inteligente y que podría generar una comida que no estaba esperando o ni siquiera quería.
Acceso no autorizado: Supongamos que alguien le susurra comandos secretos a su asistente del hogar activado por voz y lo controla sin su permiso.

Dos gráficos de flujo en comparación. El gráfico de flujo de la izquierda enumera las etapas de un modelo de aprendizaje de IA desde el conjunto de datos hasta el algoritmo de aprendizaje y el modelo de aprendizaje automático. El gráfico de flujo de la derecha enumera las mismas etapas, pero incluye un ataque de envenenamiento en la etapa de conjunto de datos donde se “envenena” la última etapa.

En segundo lugar, hay riesgos que lo afectan de forma directa.

Suplantación de identidad digital: probablemente escuchó hablar de los deepfakes, es decir, cuando se puede recrear la voz y apariencia de alguien con una precisión espeluznante. Se puede usar para falsificar un mensaje de un amigo de confianza o un familiar.
Estafas generadas por IA: ¿alguna vez recibió un email o texto que parecía legítimo, pero sonaba raro? La IA puede generar mensajes de estafa muy convincentes que están diseñados para engañarlo y que revele información confidencial.
Malware inteligente: estos son virus o software dañinos que se adaptan y aprenden su comportamiento. Por ejemplo, si suele comprar en línea, el malware puede comprometer su información de pago.

Por último, los riesgos que podrían afectar su lugar de trabajo o a la comunidad en general.

Falsificación de datos corporativos: si un negocio depende de la IA para sus operaciones, manipular la IA puede generar acciones que van en contra de los intereses de la compañía.
Consecuencias negativas para la reputación: en los negocios que usan IA para interactuar con los clientes, si ese sistema de IA se ve comprometido, puede generar una pérdida de confianza.

Los usuarios cumplen una función importante en mantener la ética y seguridad de la IA. Si bien algunos controles están fuera del alcance del usuario final, existen pasos y acciones dentro de su ámbito de influencia para mantener la ética y la seguridad de su experiencia con la IA, tanto en casa como en el trabajo. Esto es lo que puede hacer.

Estar informado: lea la política de privacidad y los términos de servicio de todos los servicios y todas las aplicaciones dirigidas por IA que use. Sepa con exactitud qué datos se recopilan y cómo se están usando.
Actualizar con regularidad: mantenga su software y sus aplicaciones actualizadas. De este modo, recibirá no solo los parches de seguridad más recientes, sino también los parches que abarcan las consideraciones éticas dentro del sistema de IA.
Activar los ajustes de seguridad: use todas las opciones de seguridad disponibles como la autenticación de dos factores, en especial para los servicios dirigidos por IA que tienen acceso a sus datos personales.
Revisar y auditar: revise a diario los datos que compartió con los sistemas de IA. Elimine la información innecesaria y ajuste la configuración para limitar la exposición de datos.
Ser escéptico: si un mensaje o video parece falso, es probable que lo sea. Preste atención y compruebe la información antes de compartirla.
Educar a otras personas: comparta con amigos y familiares su conocimiento y sus perspectivas acerca de las consideraciones sobre ética y seguridad al usar IA.
Reportar problemas: si se encuentra con algún comportamiento sesgado o no ético, no dude en reportarlo. Reportar problemas depende del contexto donde se encuentre con el comportamiento de IA problemático.

Proveedor de servicio: el primer punto de contacto debería ser la compañía u organización que proporciona el servicio de IA. La mayoría de las plataformas tiene un mecanismo de notificación de problemas éticos o de seguridad.
Organismos reglamentarios: para casos más graves, en especial aquellos que tienen que ver con la privacidad o discriminación, puede que necesite reportar el problema a los organismos reglamentarios o gubernamentales relevantes, como la Comisión Federal de Comercio (FTC) o la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) en los Estados Unidos o entidades parecidas en jurisdicciones internacionales.
Canales internos: si el sistema de IA lo proporciona su empleador para usar en el lugar de trabajo, reporte el problema al departamento de TI o al comité de ética designado, en caso de haber uno.
Grupos de desarrolladores: si es un software de código abierto, en general, puede reportar los problemas directamente a los desarrolladores a través de repositorios como GitHub.

Al seguir estos pasos, contribuye con la cultura de seguridad y responsabilidad ética en el ámbito de la IA. No se trata solo de disfrutar las ventajas de la tecnología inteligente, sino también de usarla sabiamente.

A medida que nos adentramos en un mundo centrado en la IA, reconocer y mitigar estas amenazas específicas se vuelve vital para proteger nuestro futuro digital.

Defensa cibernética y de la IA

La IA supone muchos desafíos, pero también brinda soluciones transformadoras en cuanto a ciberseguridad. Equipados con IA, los defensores cibernéticos se resguardan activamente de los ataques basados en IA aprovechando una variedad de técnicas y tecnologías. Ahondemos un poco más y revisemos las formas en que la IA puede ayudar en las prácticas de defensa cibernética.

La función del experto en ciberseguridad

Técnicas y tecnologías de defensa y protección

Proteger el sistema de IA

Análisis de datos de comportamiento: la IA escanea patrones inusuales en los casos de uso generales y marca desviaciones que podrían indicar posibles amenazas o ataques.
Entrenamiento de solidez: los modelos de IA están entrenados para resistir ataques al exponerlos ante entradas maliciosas, lo cual mejora la resiliencia del sistema.
Monitoreo de modelos: monitorear de forma continua los modelos en busca de discrepancias entre su comportamiento de entrenamiento y en la vida real puede ayudar a detectar ataques de puerta trasera o cualquier anomalía que surja del envenenamiento de datos.
Validación de datos: para validar la integridad de los datos de entrenamiento en tiempo real, la IA detecta y filtra los datos maliciosos o envenenados antes de que impacten en el modelo.

Proteger a las personas

Detección de deepfake: es posible entrenar algoritmos de IA avanzados para advertir deepfakes mediante la detección de inconsistencias en videos, audio o imágenes que pasen desapercibidas para las personas.
Detección de phishing en tiempo real: la IA puede escanear rápidamente emails y otras formas de comunicación en busca de signos de phishing. Al analizar grandes cantidades de datos de phishing, la IA puede reconocer hasta las tácticas de phishing más recientes y sofisticadas.
Inteligencia sobre amenazas adaptativa: con la IA, los sistemas de ciberseguridad pueden adaptar las tácticas cambiantes de los malware con tecnología IA. Esto se logra a través del aprendizaje y la evolución continuos en el reconocimiento de nuevos patrones.
Análisis del comportamiento de usuarios finales (EUBA): cuando se analizan los perfiles de usuario normales, la IA puede detectar actividades inusuales en tiempo real. Esto brinda protección contra posibles amenazas que representan los sistemas de IA comprometidos.

Defender la misión del negocio

Análisis predictivo: para predecir futuras amenazas de seguridad, la IA analiza los patrones en los datos históricos. Este enfoque proactivo ayuda a los negocios a defenderse de las amenazas antes de que se materialicen y garantiza el alineamiento con su misión.
Sistemas de respuesta automatizados: al detectar amenazas, la IA puede automatizar respuestas para que el negocio revise y decida la acción adecuada, ya sea aislar un sistema, iniciar un respaldo o enviar alertas. En general, la velocidad es crucial, y la automatización responde más rápido que una persona.
Inteligencia sobre amenazas integrada: la IA integra varias fuentes de inteligencia sobre amenazas en los sistemas junto con recomendaciones accionables (basadas en las probabilidades más altas de eficiencia) que se incorporan a la orientación para ocuparse correctamente de una amenaza determinada.
Análisis semántico: al entender el contexto y la semántica de las comunicaciones, la IA detecta signos sutiles de inyecciones de solicitudes u otros intentos de manipular los procesos de toma de decisiones dirigidos por IA.

Al aprovechar al máximo las capacidades de la IA, los expertos en ciberseguridad pueden defenderse de forma activa y eficiente contra las innumerables amenazas que representan los ataques maliciosos contra la IA y generados por ella. Si bien los desafíos están en constante evolución, la integración de IA en la ciberseguridad puede producir un mecanismo de defensa dinámico, adaptativo y sólido que se ajusta a la era digital moderna.

Una persona que usa IA para monitorear una red.

Graficar un camino hacia adelante

La intersección de la inteligencia artificial y la ciberseguridad presenta un cambio de paradigma que es sumamente relevante para todos los expertos en ciberseguridad. La complejidad y el potencial de la IA no solo redefinen el panorama tecnológico, sino que también crean nuevos caminos para la mejora de habilidades, la adquisición de conocimiento y el impacto en el desempeño.

En el centro de esta transición está la idea de que las capacidades de la IA solo se equiparan con sus vulnerabilidades. Para los expertos en ciberseguridad, esto significa oportunidades de expansión como las siguientes.

Educación y capacitación: a medida que los modelos de IA se vuelven más complejos, lo mismo sucede con la necesidad de ampliar nuestra comprensión. Muy pronto, los cursos y las certificaciones personalizadas que se enfoquen en la ciberseguridad centrada en la IA no solo serán deseables, sino esenciales.
Mejora de habilidades: es posible que las herramientas y técnicas que alcanzaban ayer no sean suficiente frente a las amenazas dirigidas por IA del mañana. Es fundamental el desarrollo continuo de habilidades en cuanto a detección y análisis de amenazas, las estrategias de respuesta automatizada ante incidentes y las consideraciones éticas cuando se emplea la IA.
Impacto ampliado: con la integración de IA en las industrias, se amplía la función de los expertos en ciberseguridad, desde proteger sistemas hasta dar forma a las trayectorias de negocio. Un modelo de IA bien protegido puede impulsar el crecimiento del negocio, mejorar la confianza del usuario y garantizar el cumplimiento ético.

El futuro, con sus avances dirigidos por IA, requiere adaptación e innovación. Al aceptar el aprendizaje continuo y el perfeccionamiento de habilidades, y apuntar a contribuciones de mayor impacto, los expertos en ciberseguridad no solo navegarán por el panorama de la IA, sino que lo definirán.

Resumen

En este módulo, se presentó la IA en nuestra vida profesional y personal, y las implicaciones éticas y de seguridad de la IA. También aprendió acerca de los ciberataques de IA y las formas en que se puede defender frente a ellos. Con este entendimiento, ahora puede ser un entusiasta de las innovaciones de IA y consolidar sus defensas.

¿Desea obtener más información sobre las funciones de ciberseguridad y conocer a los profesionales de la seguridad? Consulte la Ruta de desarrollo profesional sobre ciberseguridad en Trailhead.

¿Necesita ayuda?