Establecer la gobernanza de la IA
Objetivos de aprendizaje
Después de completar esta unidad, podrá:
- Enumerar algunos de los riesgos asociados con la IA.
- Explicar lo que es la gobernanza de la IA.
- Hacer un inventario del uso actual de la IA de su organización.
- Evaluar los riesgos de IA de su organización.
- Enumerar ejemplos de las estrategias de mitigación de riesgos de IA.
Riesgos de la IA
Resulta casi imposible hablar sobre IA sin reconocer los riesgos de los que viene acompañada la tecnología. Todos hemos oído hablar sobre amenazas de seguridad, preocupaciones sobre imprecisiones y sesgos, la posibilidad de brechas de datos, el miedo el daño de la reputación, etc.
Para complicar aún más las cosas, la tecnología avanza a un ritmo bastante rápido. No es de extrañar que, según el informe de tendencias de IA para CRM de Salesforce, el 68 % de las personas cree que los avances en la IA hacen que la confianza en una empresa sea más importante.
Sin embargo, en muchos casos, la revolución de la IA supera la capacidad de las organizaciones de adaptarse a los cambios. Esa es una de las cosas que más preocupa a Alex, nuestro campeón de IA y ejecutivo en Coral Cloud Resorts. ¿Cómo puede Coral Cloud asegurarse de que adopta la IA de forma fiable?
La necesidad de gobernanza
Como probablemente ya sepa, la confianza en la IA está fundamentalmente ligada a su gobernanza. Vamos a aprender lo que es la gobernanza de IA.
La gobernanza de IA es un conjunto de políticas, procesos y prácticas recomendadas que ayudan a las organizaciones a asegurarse de que los sistemas de IA estén desarrollados, se utilicen y se gestionen de forma responsable y escalable a fin de maximizar los beneficios y mitigar los riesgos.
En esta unidad, seguiremos a Alex mientras trabaja con el equipo de liderazgo de IA de Coral Cloud para establecer la gobernanza de IA. Puede que su organización ya tenga uno o más grupos dedicados a la supervisión de la gobernanza. Si no tiene intención de centralizar la gobernanza de IA con un comité de IA, asegúrese de que los órganos internos existentes cuenten con la experiencia necesaria en IA a fin de mejorar las prácticas actuales y abordar las brechas.
Desarrollar principios para IA responsable
Antes de que Coral Cloud comience a crear su programa de gobernanza, Alex anima al equipo de liderazgo a dar un paso atrás y pensar en cómo centrarse en su compromiso para desarrollar IA de forma responsable. ¿Cuál es su propósito?
A muchas organizaciones que adoptan IA les resulta de utilidad establecer principios de IA responsables. Con un conjunto de principios de IA, las empresas pueden aclarar su posición respecto a la IA y considerar el impacto de la tecnología en os empleados, los clientes y la sociedad en general. Este propósito crea un entendimiento común entre los empleados, de manera que los principios de IA puedan aplicarse a cada nivel de la empresa.
Para obtener más información, consulte Salesforce’s Trusted AI principles (Principios de IA de confianza de Salesforce). Tenga en cuenta que los principios de IA de su organización deberían alinearse con la misión y los valores de su empresa. Es normal que se vea influenciado por otras organizaciones, pero no deje de desarrollar su propio conjunto de principios, de manera que las partes interesadas se impliquen y se comprometan de forma pública con esos valores.
Los principios son maravillosos, pero ¿cómo los convierte en una práctica de IA responsable? La mayoría de las organizaciones empiezan a gobernar la IA de manera personalizada y, después, sus esfuerzos se van formalizando cada vez más. Consulte AI Ethics Maturity Model de Salesforce para obtener más información.
Sobrevivir al panorama de cumplimiento normativo
El equipo de liderazgo de Coral Cloud está listo para profundizar en la gobernanza, pero tiene un par de preguntas: ¿Qué pasa con las normativas de la IA? ¿Qué es obligatorio por ley?
Ahora mismo, las normativas sobre IA son un batiburrillo de directrices y políticas emergentes que cambian según la región y el sector. A los gobiernos y los organismos reguladores les cuesta mucho ponerse al día con los rápidos avances en la tecnología, lo que hace que resulte complicado predecir exactamente cuáles serán las reglas incluso dentro de unos años.
A pesar de la incertidumbre, hay algunos pasos proactivos que puede seguir. Siga las prácticas recomendadas en esta unidad y manténgase informado sobre las tendencias en las normativas de la IA. Al revisar actualizaciones de los organismos reguladores y los grupos del sector, puede obtener una visión temprana sobre los posibles cambios legislativos, así como ayuda y recursos cuando surjan nuevos requisitos.
Hacer un inventario del uso de la IA de su organización
Para que los esfuerzos de gobernanza de Coral Cloud avancen, Alex recomienda que se catalogue la manera en la que la organización utiliza la IA actualmente.
Resulta difícil evaluar correctamente los riesgos hasta que sabe de dónde vienen. Por ello, es una buena idea hacer un inventario de todas las herramientas de IA a fin de comprender hasta qué punto está integrada en los procesos de negocio.
-
Identificar tecnologías de IA: enumere todas las tecnologías de IA que se utilizan actualmente, desde las simples herramientas de automatización hasta los complejos modelos de aprendizaje automático. No pase por alto la IA integrada en los servicios y software de terceros.
-
Documentar casos de uso: para cada tecnología de IA, documente sus casos de uso específicos. Comprender lo que hace cada una de las soluciones de IA y el motivo por el que se utiliza le ayuda a evaluar su impacto e importancia.
-
Asignar flujos de datos: realice un seguimiento de cómo fluyen los datos desde y hasta cada una de las aplicaciones de IA. Esto incluye fuentes de datos de entrada, lo que la IA modifica o analiza y dónde se envían los datos de salida.
-
Establecer propiedad: asigne la propiedad de cada herramienta de IA a personas o equipos específicos. El hecho de saber quién es el responsable de cada herramienta garantiza responsabilidad y simplifica las auditorías y evaluaciones futuras.
-
Actualizar con normalidad: haga que el inventario de IA sea un documento activo, que se actualice de manera que se reflejen las nuevas implementaciones de IA o los cambios en las ya existentes. Esto hace que el inventario siga siendo relevante y útil para que esté en constante cumplimiento.
El equipo de liderazgo de Coral Cloud está seguro de que su inventario puede descubrir todas las formas oficiales en las que su organización utiliza la IA actualmente. Pero ¿qué ocurre con el uso no autorizado? Las herramientas de IA no aprobadas, también conocidas como shadow AI, presentan riesgos significativos para la empresa. Consulte el artículo de la revista CIO sobre cómo prevenir el desastre de la shadow AI.
Si su empresa ya utiliza un número decente de herramientas de IA, puede llevarle un tiempo completar el inventario. Sin embargo, el proceso de realización de inventario no debe impedirle que explore los casos de uso de IA y los experimentos. Asegúrese de que puede realizar una evaluación de los riesgos para cualquier proyecto piloto de IA y continuar trabajando en la auditoría de IA de toda la empresa al mismo tiempo.
Evaluar los riesgos de la IA
Ahora que Coral Cloud tiene su inventario de IA, el equipo puede comenzar a evaluar los riesgos de la IA para la empresa. Es un paso fundamental para establecer gobernanza, pero también puede ayudarle a preparase para los requisitos normativos. Algunas políticas, como la Ley de inteligencia artificial de la UE, toman un enfoque basado en los riesgos para gobernar la tecnología. Por ello, si implementa un proceso de evaluación de riesgos pronto, se encontrará en una mejor posición para cumplir con las normativas.
Así es cómo Alex y el equipo de liderazgo de IA evalúan los riesgos de IA de la organización.
Identificar y categorizar factores de riesgo
Revise el inventario de IA. Para cada caso de uso, aporte ideas sobre los posibles riesgos. Implique a las partes interesadas desde diferentes partes de la organización, ya que pueden visualizar los riesgos que usted haya pasado por alto. Una vez que tenga la lista, categorice los riesgos en grupos lógicos, como técnicos, éticos, operacionales, de reputación, normativos, etc. Utilice categorías que tengan sentido para su empresa.
Evaluar el impacto y la probabilidad
Para cada riesgo, evalúe el impacto que pueda tener en la empresa en caso de que se dé el riesgo. A continuación, determine la probabilidad de que ocurra cada riesgo. Estos factores pueden clasificarse como bajo, medio o alto. Los datos históricos, las referencias del sector y las opiniones de expertos son de gran valor a la hora de realizar estas evaluaciones.
Priorizar los riesgos
Utilice el impacto y la probabilidad para dar prioridad a los riesgos. Un método bastante común es utilizar una matriz de riesgos que muestre la probabilidad y el impacto, lo que le ayudará a centrarse en los riesgos de gran probabilidad e impacto.
Si no está seguro de por dónde empezar, descárguese la plantilla AI Risk Management Framework de Google DeepMind del sitio del centro de recursos de IA del National Institute of Standards and Technology (NIST), o investigue un poco para encontrar otros ejemplos en línea. Tenga en cuenta que todas las organizaciones tienen que desarrollar un marco de trabajo que sea pertinente para su contexto específico, que puede incluir la región geográfica, el sector, los casos de uso y los requisitos normativos.
Desarrollar estrategias de mitigación de riesgos
Ahora que el comité de IA de Coral Cloud ha completado su evaluación, sus integrantes están listos para implementar algunas estrategias que les ayuden a mitigar todos esos riesgos. A continuación, se muestran algunos ejemplos de protecciones para los diferentes tipos de riesgos, pero tenga en cuenta que no es una lista exhaustiva.
Tipo de riesgo |
Estrategias comunes de mitigación de riesgos |
|---|---|
Técnico y relacionado con la seguridad |
|
Datos y privacidad |
|
Éticos y relacionados con la seguridad |
|
Operativo |
|
Cumplimiento y responsabilidad legal |
|
Alex y el resto del equipo de liderazgo de IA de Coral Cloud saben que resulta imposible evitar todos los riesgos relacionados con la IA. En su lugar, su objetivo es desarrollar procesos y herramientas que proporcionen a la organización la confianza de que los riesgos pueden identificarse y gestionarse de manera eficaz. Si quiere averiguar cómo implementar gobernanza de IA en su organización, consulte la guía de implementación y autoevaluación del Foro Económico Mundial.
Mejorar las prácticas de gobernanza
El comité de IA de Coral Cloud sabe que la gobernanza es un proceso continuo. Esto es lo que la organización puede hacer para mejorar su capacidad de gestión de riesgos y adaptarse mejor al panorama de cumplimiento en constante cambio.
-
Capacitación y educación: implemente capacitación en cuanto al cumplimiento de IA y mida la eficacia del programa de educación. Fomente la cultura de IA ética y anime a los equipos a que tengan en cuenta el impacto más amplio de su trabajo.
-
Supervisión y revisión: supervise con frecuencia la eficacia de las estrategias de gestión de riesgos implementadas y realice ajustes según sea necesario. Esto es fundamental, ya que aparecen nuevos riesgos y las estrategias existentes deben perfeccionarse.
-
Documentación y elaboración de informes: guarde registros detallados de todas las actividades de mitigación de riesgos. Esta documentación puede ser fundamental para adherirse al cumplimiento normativo y útil para las auditorías internas. Desarrolle mediciones para las iniciativas de gobernanza y elabore informes sobre las conclusiones para las partes interesadas.
A continuación, vamos a profundizar en los elementos más increíbles de la estrategia de IA: identificar los casos de uso de IA y darles prioridad.