Establecer la gobernanza de la IA
Objetivos de aprendizaje
Después de completar esta unidad, podrá:
- Enumerar algunos de los riesgos asociados con la IA.
- Explicar qué es la gobernanza de la IA.
- Realizar un inventario del uso de IA actual de su organización.
- Evaluar los riesgos de la IA en su organización.
- Enumerar ejemplos de estrategias de mitigación de riesgos de la IA.
Los riesgos de la IA
Es prácticamente imposible hablar sobre la IA sin reconocer los riesgos que acompañan a esta tecnología. Todos oímos hablar de las amenazas a la seguridad, las inquietudes sobre las imprecisiones y los sesgos, la posibilidad de filtración de datos, los daños a la reputación y mucho más.
Para complicar aún más las cosas, la tecnología está avanzando a un ritmo veloz. No es de extrañar que, según el reporte Tendencias en inteligencia artificial para CRM de Salesforce, el 68 % de las personas piensa que la credibilidad de una compañía es más importante a medida que avanza la IA.
Sin embargo, en muchos casos, la revolución de la IA supera la capacidad de las organizaciones de adaptarse a los cambios. Y esto es algo que le preocupa a Alex, nuestro campeón de IA y ejecutivo de Coral Cloud Resorts. ¿Cómo puede asegurarse Coral Cloud de que su forma de adoptar la IA es confiable?
La necesidad de gobernanza
Como probablemente haya adivinado, la confianza en la IA está ligada en esencia a su gobernanza. Veamos qué es la gobernanza de la IA.
La gobernanza de la IA es un conjunto de políticas, procesos y mejores prácticas que aseguran a las organizaciones el desarrollo, el uso y la gestión responsable y escalable de los sistemas de IA con el fin de maximizar sus beneficios y mitigar sus riesgos.
En esta unidad, acompañaremos a Alex mientras trabaja con el equipo de liderazgo de IA de Coral Cloud para establecer la gobernanza de la IA. Es posible que su organización tenga uno o más grupos dedicados a supervisar la gobernanza. Si no tiene pensado centralizar la gobernanza de la IA con un comité de IA, asegúrese de que todos los departamentos de regulación internos existentes cuenten con la experiencia necesaria en IA para mejorar las prácticas existentes y solucionar cualquier brecha.
Desarrollar los principios para una IA responsable
Antes de que Coral Cloud comience a crear su programa de gobernanza, Alex alienta al equipo de liderazgo para que retroceda un paso y piense en cómo enfocarse en su compromiso de desarrollar IA de forma responsable. ¿Cuál es su objetivo?
A muchas organizaciones que adoptan la IA les resulta útil establecer principios para una IA responsable. Con un conjunto de principios de IA, las empresas pueden clarificar su postura en torno a la IA y considerar cómo impacta la tecnología en los empleados, los clientes y la sociedad en general. Este objetivo crea un entendimiento común entre los empleados para que sus principios de IA se puedan aplicar en todos los niveles del negocio.
Para inspirarse, consulte los Principios de IA de confianza de Salesforce. No obstante, tenga en cuenta que los principios de IA de su organización deben alinearse con su misión y sus valores corporativos. Es normal que coincida con otras organizaciones, sin embargo, no omita los pasos de desarrollar su propio conjunto de principios, conseguir la aceptación de las partes interesadas y comprometerse con esos valores de forma pública.
Si bien los principios son geniales, ¿cómo los convierte en una práctica de IA responsable? La mayoría de las organizaciones empieza a gobernar la IA ad hoc; y, gradualmente, sus esfuerzos se vuelven más formalizados. Para obtener más información, consulte el Modelo de madurez ética de la IA de Salesforce.
Realizar encuestas sobre el panorama regulatorio
El equipo de liderazgo de Coral Cloud está preparado para profundizar en la gobernanza, pero quedaron algunas preguntas sin resolver: ¿Qué pasa con las normativas de la IA? ¿Qué es lo que exige la ley?
En la actualidad, las normativas de la IA son un conjunto de directrices y políticas emergentes que varían según la región y el sector. Los organismos reglamentarios y gubernamentales están intentando ponerse al día con el rápido avance de la tecnología; por lo tanto, es un desafío predecir cuáles serán las reglas en unos años.
A pesar de la incertidumbre, existen algunos pasos proactivos que puede realizar. Siga las mejores prácticas de esta unidad y manténgase informado acerca de las tendencias normativas de la IA. Si revisa las actualizaciones de los organismos reglamentarios y grupos del sector, puede obtener información reciente sobre posibles cambios legislativos junto con asistencia y recursos cuando surjan requisitos nuevos.
Realizar un inventario del uso de IA de su organización
Para impulsar los esfuerzos de gobernanza de Coral Cloud, Alex recomienda que se clasifique la forma en que la organización está usando la IA en la actualidad.
Es difícil evaluar los riesgos de forma adecuada hasta identificar su origen. De modo que es una buena idea realizar un inventario de todas las herramientas de IA para entender su grado de integración en los procesos de negocio.
-
Identificar las tecnologías de IA: enumere todas las tecnologías de IA que se están usando en la actualidad, desde las herramientas de automatización sencillas hasta los modelos de aprendizaje automático complejos. No pase por alto la IA que está integrada en los servicios y software de terceros.
-
Documentar casos de uso: documente los casos de uso específicos de todas las tecnologías de IA. Si entiende lo que hace cada solución de IA y por qué se usa, puede evaluar su impacto e importancia.
-
Asignar flujos de datos: haga un seguimiento de cómo se trasladan los datos con las aplicaciones de IA. Esto incluye fuentes de datos de entrada (lo que la IA modifica o analiza) y a dónde se envían los datos de salida.
-
Establecer la propiedad: asigne la propiedad de cada herramienta de IA a personas o equipos específicos. Saber quién es responsable de cada herramienta garantiza el compromiso y simplifica futuras evaluaciones y auditorías.
-
Actualizar con regularidad: transforme su inventario de IA en un documento abierto que se actualiza para reflejar nuevas implementaciones de IA o cambios a las que ya existen. Esto ayuda a mantener la relevancia y utilidad del inventario para un constante cumplimiento.
El equipo de liderazgo de Coral Cloud sabe con certeza que su inventario puede revelar todas las formas oficiales en que la organización está usando la IA en la actualidad. Pero ¿qué ocurre con el uso no autorizado? También conocida como Shadow AI, las herramientas de IA que no están aprobadas suponen un riesgo significativo para el negocio. Consulte el artículo de CIO Magazine sobre cómo prevenir desastres de Shadow AI.
Si su negocio está usando una buena cantidad de herramientas de IA, completar el inventario puede demorar un tiempo. Pero el proceso de inventario no debería interponerse en la forma en que su organización explora los casos de uso y experimentos de IA. Simplemente asegúrese de evaluar los riesgos para todos los proyectos piloto de IA y continuar trabajando en la auditoría de IA de toda la compañía en paralelo.
Evaluar los riesgos de la IA
Ahora que Coral Cloud tiene su inventario de IA, el equipo puede empezar a evaluar los riesgos de la IA en la organización. Es un paso crucial para establecer la gobernanza, pero también lo prepara para los requisitos reglamentarios. Algunas políticas, como la Ley de IA de la UE, regulan la tecnología con un enfoque basado en riesgos. Por lo tanto, si implementa un proceso de evaluación de riesgos desde el comienzo, se encontrará mejor posicionado para cumplir con las normativas.
Así es cómo Alex y el equipo de liderazgo de IA evalúan los riesgos de IA de la organización.
Identificar y categorizar los factores de riesgo
Revise el inventario de IA. Para todos los casos de uso, piense en riesgos posibles. Implique a las partes interesadas de distintos sectores de la organización, ya que podrían detectar riesgos que no consideró. Cuando tenga una lista, categorice los riesgos en grupos lógicos, como técnico, ético, operativo, de reputación, normativo, etc. Use categorías que sean útiles para su negocio.
Evaluar las repercusiones y posibilidades
Para cada riesgo, evalúe las repercusiones que el riesgo podría tener en su negocio. Luego, determine la probabilidad de que ocurra cada riesgo. Estos factores se pueden calificar como baja, media y alta. Los datos históricos, los puntos de referencia del sector y las opiniones expertas son valiosas para las evaluaciones.
Priorizar los riesgos
Use las repercusiones y posibilidades para priorizar los riesgos. Un método típico es usar una matriz de riesgos que represente las posibilidades frente a las repercusiones, lo que permite enfocarse en los riesgos de alto impacto y alta probabilidad.
Si no sabe por donde empezar, descargue la plantilla Marco de gestión de riesgos de la IA de Google DeepMind en el sitio del centro de recursos sobre IA del Instituto Nacional de Estándares y Tecnología de EE. UU.; también puede investigar y encontrar otros ejemplos en línea. Tenga en cuenta que todas las organizaciones tienen que desarrollar un marco de trabajo que sea relevante con su contexto específico, que puede incluir región geográfica, sector, casos de uso y requisitos reglamentarios.
Desarrollar estrategias de mitigación de riesgos
Ahora que el comité de IA de Coral Cloud completó su evaluación, está preparado para implementar algunas estrategias que mitiguen todos esos riesgos. A continuación, se enumeran algunos ejemplos de medidas de seguridad para los diferentes tipos de riesgo. No obstante, tenga en cuenta que no es una lista completa.
Tipo de riesgo |
Estrategias de mitigación de riesgos comunes |
|---|---|
Técnico y de seguridad |
|
Datos y privacidad |
|
Ético y de seguridad |
|
Operativo |
|
Cumplimiento y legal |
|
Alex y el resto del equipo de liderazgo de IA de Coral Cloud saben que es imposible evitar todos los riesgos relacionados con la IA. Entonces, su objetivo es desarrollar procesos y herramientas que brinden confianza a su organización para una identificación y gestión de riesgos efectivas. Si desea más información sobre cómo implementar la gobernanza de la IA en su organización, consulte la guía de implementación y autoevaluación del Foro Económico Mundial.
Mejorar las prácticas de gobernanza
El comité de IA de Coral Cloud sabe que la gobernanza es un proceso constante. Esto es lo que puede hacer la organización para mejorar su capacidad de gestionar los riesgos y adaptarse mejor al panorama normativo cambiante.
-
Capacitación y educación: realice capacitaciones de cumplimiento de IA y pondere el éxito del programa educativo. Fomente una cultura de IA ética e incentive a los equipos a que consideren las repercusiones de su trabajo a gran escala.
-
Monitoreo y revisión: monitoree la eficacia de las estrategias de gestión de riesgos con frecuencia y realice los ajustes necesarios. Esto es importante ya que, a medida que surgen nuevos riesgos, se deben perfeccionar las estrategias existentes.
-
Documentación y elaboración de reportes: registre en detalle todas las actividades de mitigación de riesgos. Esta documentación es crucial para el cumplimiento de normativas y útil para las auditorías internas. Desarrolle métricas para las iniciativas de gobernanza y reporte los hallazgos a las partes interesadas.
A continuación, es el momento de profundizar en uno de los aspectos más interesantes de la estrategia de IA: identificar y priorizar los casos de uso de IA.