La Iniciativa sobre los Riesgos de la IA del MIT es un poco como la Iniciativa Vengadores pero en el campo de la inteligencia artificial. Aunque a simple vista pueda parecer un mapa agorer de los riesgos, horrores y formas de que la IA vaya mal, apunta también a ciertas formas de mitigar los problemas que toda nueva tecnología conlleva. Ojalá más trabajos recopilatorios y recursos así.
Un mapa global de la IA y sus riesgos
La base de datos reúne, clasifica y analiza miles de riesgos, incidentes, formas de mitigación y marcos de gobernanza relacionados con la IA. Se puede bajar en Google Drive o en hojas Excel. Es una visión estructurada, basada en datos y respaldada por trabajos científicos sobre cómo la IA puede causar daño… y cómo reducir el problema antes de que sea demasiado tarde.
Algunos ejemplos:
- «La IA solo es tan buena como los datos con los que se la ha entrenado. Si los datos están sesgados (y muchos lo están), la IA manifestará también esos sesgos.»
- «Los sistemas de aprendizaje automático corren el riesgo de codificar estereotipos o comportarse de forma desproporcionadamente pobre con ciertos grupos sociales o demográficos.»
- «La desinformación erosiena la información y el conocimiento públicos.»
En total hay más de 1.700 riesgos, 1.200 incidentes reales, 831 medidas de mitigación y 900 documentos de gobernanza, organizados mediante taxonomías comunes para facilitar su análisis y comparación. Está organizado en estas grandes secciones:
-
Riesgos de la IA. Es una base de datos con 1.700+ riesgos, extraídos de 74 campos, clasificados por:
- Causalidad (quién causa el riesgo, intención y momento).
- Dominio (7 dominios y 24 subdominios, como desinformación, privacidad, seguridad o discriminación).
-
Incidentes reales. El
AI Incident Tracker
analiza 1.200+ incidentes conocidos desde 2015 hasta la actualidad, mostrando:- Crecimiento sostenido de los incidentes, especialmente en desinformación y actores maliciosos.
-
Clasificación por dominio, severidad del daño y número de personas afectadas,
con umbrales marcados en 1.000 y 1.000.000 de personas.
-
Mitigaciones. Un catálogo de 831 medidas agrupadas en 4 grandes categorías.
Incluye 23 subcategorías, desde auditorías y monitorización post-despliegue hasta
documentación y derechos de los usuarios:- Gobernanza y supervisión.
- Controles técnicos y de seguridad.
- Procesos operativos.
- Transparencia y rendición de cuentas.
-
Gobernanza. La metainformación: un mapeo de 900+ documentos legales y normativos
de múltiples países, analizados según:- Dominio de riesgo cubierto.
- Fase del ciclo de vida de la IA.
- Sectores, actores implicados y estado legislativo.
- Permite detectar lagunas regulatorias y áreas sobrerrepresentadas.
Según los datos se han detectado de momento siete grandes «dominios de riesgo», a saber:
- Discriminación y toxicidad.
- Privacidad y seguridad.
- Desinformación.
- Actores maliciosos.
- Interacción humano-máquina.
- Impactos socioeconómicos y ambientales.
- Seguridad, fallos y limitaciones de los sistemas de IA.
Esta iniciativa sirve como referencia común para investigadores, empresas, auditores y reguladores. Pretende, aunque no sea fácil, facilitar el diseño de políticas, auditorías y marcos de gestión de riesgos basados en datos y no en «experiencias personales» ni en politiqueos. Además, analiza tendencias reales, no solo riesgos teóricos, lo que permite relacionarlas con las medidas de mitigación y los marcos de gobernanza existentes.
El repositorio es de acceso abierto, reutilizable y tiene una licencia libre Creative Commons by-4.0, lo que quiere decir que se puede usar y redistribuir con solo citar la fuente. La idea es que se actualice de forma continua, así que le deseamos la mejor de las suertes.
