Conozca la inteligencia artificial

Objetivos de aprendizaje

Después de completar esta unidad, podrá:

Hablar acerca del impacto de la IA en nuestra vida personal y profesional.
Definir la IA ética y segura.

Las antiguas raíces de la IA

La intriga en torno a la inteligencia Artificial (IA) es un fenómeno bastante reciente; se puede rastrear su origen conceptual hasta la Edad Antigua. Mucho antes de que existiera la terminología o la tecnología, nuestros ancestros reflexionaban acerca de la noción de la vida artificial. Incluso adelantaron algunos ejemplos de lo que hoy se llamarían autómatas, es decir, dispositivos mecánicos diseñados para realizar tareas de forma autónoma.

Por ejemplo, en la Antigua Grecia, hace alrededor de 2700 años, los relatos sobre Hefesto, el dios de la artesanía que creó al gigante de bronce Talos para proteger la isla de Creta de invasores, cautivaban a las personas. En la Antigua China, los artesanos creaban sirvientes mecánicos y autómatas elaborados que podían servir el té o realizar movimientos complejos. Los poemas épicos de la Antigua India, como el Mahabhárata, describen carrozas y armas que funcionan solas, lo que alude a una forma de automatización. En varias tradiciones africanas, los autómatas y dispositivos mecánicos toman la forma de figuras protectoras o talismanes.

Estas ideas míticas y dispositivos antiguos funcionaban de formas que resultan parecidas a las ideas actuales acerca de la robótica y la automatización para cumplir con las necesidades humanas y ofrecer protección. Nos impulsan a que pensemos en las implicaciones éticas y de seguridad de las entidades autónomas, y también a anticiparse a los debates contemporáneos acerca del potencial increíble de la IA y las complejidades relacionadas a la ética y seguridad.

La influencia de la IA en lo cotidiano

Al pasar del mito a la vida moderna, nos encontramos con la inteligencia artificial: un sistema sofisticado que imita la intuición, la inferencia y el razonamiento humanos. Con el potencial de revolucionar las industrias y la vida diaria, la IA evolucionó desde los mitos antiguos y las máquinas básicas hasta los compañeros contemporáneos adaptativos y mantiene su poder y omnipresencia.

Supongamos que se despierta con una alarma que configura las alertas según sus patrones de sueño exclusivos. Apenas empieza su día, desbloquea su teléfono inteligente con un escaneo sencillo de su cara y comprueba rápidamente el pronóstico del clima. Debido a que está familiarizado con sus preferencias, su asistente de voz reproduce una lista recomendada mientras usted prepara el desayuno. Una vez que sale de su casa, se activa el sistema de hogar inteligente que ajusta la iluminación y temperatura para conservar la energía de forma óptima durante su ausencia.

De camino al trabajo, el sistema de navegación avanzado de su auto selecciona de forma inteligente la ruta más eficiente y así evita el tráfico. A la hora del almuerzo, su aplicación favorita de entrega de comida le recomienda platos según lo que ya pidió en otras ocasiones. Después de un arduo día laboral, llega a su hogar y ajusta la iluminación y temperatura con tan solo un par de comandos de voz. Más tarde, su dispositivo le pide su cena mientras ve una película que le sugirió el sistema de recomendaciones de su servicio de transmisión de TV.

Esto ejemplifica la influencia omnipresente de la IA que se integra sin dificultad en su rutina para mejorar la productividad y toma de decisiones. Sin embargo, el alcance es mucho más amplio que eso. Ahora, exploremos el amplio impacto de la IA en nuestra vida personal y profesional.

Aplicaciones amplias de IA

Desde negocios locales hasta corporaciones globales, la IA está cambiando la forma de trabajo operativo en varios sectores. Veamos de qué maneras las personas podrían encontrarse con estas aplicaciones de IA desde un nivel personal y en un contexto profesional.

Industria	Aplicación personal	Aplicación profesional
Asistencia sanitaria	Hacerse una resonancia magnética donde las imágenes mejoradas con IA ayudan a los médicos a identificar anomalías con mayor precisión.	Usar simulaciones dirigidas por IA para predecir cómo interactúan diferentes fármacos con los sistemas biológicos para acelerar el desarrollo de medicamentos.
Finanzas	Al actualizar la seguridad de la tarjeta de crédito, la IA se aprende sus patrones de gasto para alertar sobre transacciones inusuales con mayor precisión y más rápido que los sistemas de alerta antiguos basados en reglas.	Usar herramientas de IA para predecir las tendencias del mercado según datos históricos para informar las decisiones de inversión.
Fabricación	Comprar un producto que pasa por un control de calidad dirigido por IA durante su producción.	Implementar herramientas de mantenimiento predictivas y dirigidas por IA para brindar alertas antes de que se rompa una máquina y evitar interrupciones prolongadas.
Minorista	Obtener recomendaciones de compra dirigidas por IA según sus hábitos de compras online.	Usar el análisis de datos de IA para optimizar los niveles de inventario y garantizar que no se agoten los productos populares, así como reducir el desperdicio y exceso de los niveles de inventario.
Transporte	Usar aplicaciones como Waze o Google Maps que proporcionan actualizaciones de tráfico en tiempo real y brindan sugerencias optimizadas por IA.	Usar IA para predecir las mejores rutas para los camiones de reparto y optimizar el uso de combustible y el tiempo.
Educación	Usar plataformas de aprendizaje que generan sugerencias de cursos dirigidas por IA según el historial y los patrones de aprendizaje anteriores.	Aprovechar las herramientas de IA que califican asignaciones automáticamente y, en consecuencia, brindan más tiempo para enfocarse en enseñar.
Entretenimiento	Ver una película o escuchar una canción en una plataforma de transmisión que recomendó un algoritmo dirigido por IA.	Usar software dirigido por IA para producir imágenes y voces y caras sintéticas que parecen auténticas en películas o programas de TV.
Deportes	Ver partidos donde los comentadores usan herramientas mejoradas por IA para analizar jugadas y predecir resultados.	Usar dispositivos vestibles con IA para monitorear la salud y el desempeño de los jugadores en tiempo real y adaptar las estrategias en consecuencia.
Policía	Escanear automáticamente las placas de matrículas de autos robados.	Aprovechar las herramientas de IA para procesar y analizar grandes cantidades de grabaciones de videovigilancia rápidamente y, así, identificar posibles indicios.
Ciberseguridad	Usar aplicaciones de seguridad que incorporan la detección de anomalías mejorada por IA para alertar a los usuarios acerca de actividades sospechosas.	Aprovechar los modelos de IA para protegerse contra amenazas basadas en IA (por ejemplo, phishing, deepfakes, etc.), detectar anomalías, automatizar tareas e identificar rápidamente incidentes a gran escala para reducir los tiempos de respuesta.

En los ejemplos anteriores, la IA se puede integrar de manera fluida en varios aspectos de nuestra vida personal y profesional, y puede impulsar la innovación y redefinir los límites tradicionales.

Las implicaciones éticas y de seguridad de la IA

Si bien la comodidad y la eficiencia de la IA son cautivantes, es importante no pasar por alto los principios fundamentales de la ética y seguridad que deberían respaldar la “inteligencia” de esta tecnología. Los principios éticos se enfocan en la equidad, transparencia y confianza para garantizar que estas herramientas no estén sesgadas y respeten su privacidad. Los principios de seguridad se enfocan en la protección y defensa, es decir, protegerse contra amenazas que podrían comprometer sus datos y seguridad personal. Estos son los pilares que hacen que la IA sea inteligente, de confianza y fiable.

A partir de estos pilares de ética y seguridad, se desarrollan esfuerzos internacionales para abordar la “caja negra” o naturaleza opaca de la IA cuando el proceso de toma de decisiones del algoritmo es incierto y difícil de interpretar. La prioridad es la explicabilidad algorítmica: se busca que el proceso de toma de decisiones sea transparente y entendible. Esto es esencial por varios motivos, entre ellos la responsabilidad, la identificación de incidentes de seguridad, las consideraciones éticas y el cumplimiento legal.

Las siguientes iniciativas conforman un movimiento más amplio para alinear la IA con los estándares globales de ética y seguridad e incorporar elementos de transparencia y explicabilidad.

Alianza de gobernanza de IA del Foro Económico Mundial: una plataforma para la cooperación público-privada que fomenta la gobernanza de IA responsable, con la participación de corporaciones, gobiernos y sociedades civiles.
Alliance4AI: una red que tiene como objetivo crear una comunidad de IA en África que pueda colaborar con directrices y políticas, incluidas las consideraciones éticas.
Acta de inteligencia artificial de la Unión Europea: ley propuesta por la Unión Europea que tiene como objetivo crear un “único mercado” para una IA de confianza.
IA en la OCDE: una iniciativa que proporciona directrices que se enfocan en la transparencia y la equidad, y en garantizar que los sistemas de IA sean sólidos y seguros.

A través de estos enfoques diversos y multifacéticos, la comunidad internacional busca garantizar que la IA sea una poderosa herramienta y, a su vez, un aliado justo y confiable.

Una máquina inteligente que sostiene una balanza rodeada de símbolos de ciberseguridad, como firewalls, escudos y candados.

Veamos los diferentes tipos de herramientas de IA que podría estar usando y cuáles son las implicaciones éticas y de seguridad al usarlas.

Tipo de herramienta de IA	Implicaciones éticas	Implicaciones de seguridad
Chatbot	Los datos que se usan para entrenar pueden estar sesgados y, en consecuencia, impactar en el contenido que genera.	Sin darse cuenta, el chatbot podría almacenar o filtrar información confidencial si no se la protege correctamente.
Asistente de redacción	Las sugerencias de contenido podrían favorecer determinados temas sobre otros, lo que pone en duda la imparcialidad y los sesgos.	Si el contenido generado por usuarios no está cifrado, existe el riesgo de exposición de datos.
Asistente de reuniones virtuales	El acceso a calendarios y cronogramas personales plantea preguntas acerca de la privacidad del usuario.	La falta de cifrados sólidos podría comprometer los datos de una reunión y los cronogramas personales.
Servicio de transcripción	La precisión de la transcripción podría ser una inquietud, al igual que el uso de los datos que se transcribieron para el entrenamiento de modelos futuros.	El audio y los datos que se transcriben se deben almacenar de forma segura para evitar el acceso no autorizado.
Herramienta de redacción creativa	La dirección creativa podría estar influenciada y afectar la originalidad del contenido generado por el usuario.	El cifrado de datos es esencial para proteger las historias o los poemas escritos por el usuario.
Generación de imágenes	La generación de imágenes por IA podría estar influenciada por sus datos de entrenamiento y plantea preguntas acerca de los derechos de autor y la originalidad. La función de carga presenta problemas de consentimiento y privacidad.	Las fotos e imágenes generadas que se cargan podrían ser un objetivo de vulneración de datos o uso incorrecto, en especial, si no se cifran o almacenan correctamente.
Acompañamiento por IA	Sigue abierto el debate acerca del impacto emocional y psicológico que genera usar IA para acompañamiento.	Las pláticas personales y confidenciales requieren un cifrado de alto nivel para evitar el acceso no autorizado.
Termostato inteligente	La recopilación de datos como los hábitos y las preferencias del usuario plantea preguntas acerca de la privacidad.	Un sistema comprometido podría otorgar control a personas no autorizadas a la configuración de las funciones del hogar.
Gestión de fotos	El reconocimiento facial y la categorización de datos plantean preguntas éticas acerca del consentimiento y la privacidad.	El almacenamiento de grandes cantidades de fotos personales en la nube podría poner en riesgo la exposición de datos si no se asegura correctamente.
Transmisión de música	Los sistemas de recomendaciones podrían favorecer contenido popular o patrocinado y afectar la variedad e independencia de sugerencias.	Los hábitos y las listas de reproducción personales deben cifrarse para evitar el uso incorrecto.

Esta tabla destaca algunas de las consideraciones sobre seguridad y ética clave que debe tener en cuenta a la hora de interactuar con estas herramientas dirigidas por IA.

No hay duda de que, a medida que la IA se integra cada vez más en nuestra vida diaria, los riesgos crecen de forma exponencial. Si bien la IA ofrece beneficios increíbles en diversos sectores, no se pueden pasar por alto sus ramificaciones éticas y de seguridad. En la guerra informática, los problemas como la privacidad de datos, los sesgos y el uso incorrecto son inquietudes que requieren un enfoque balanceado y claro para la implementación y regulación de la IA.

En la próxima sección sobre amenazas y defensa de la IA, el foco pasa del entendimiento del panorama ético a la identificación de los verdaderos riesgos que supone la IA, como objetivo y como arma. Reconocer estas amenazas es el primer paso para construir una defensa eficiente que se alinee con los requisitos tecnológicos y la normativa ética.

¿Necesita ayuda?