por Gabriela Munares y Rebeca Lucas
Las ciudades de todo el mundo, incluidas muchas de América Latina, están incorporando soluciones de inteligencia artificial en sus servicios urbanos: sistemas de videovigilancia y reconocimiento facial para la seguridad pública, gestión del tráfico, atención al ciudadano, recogida de residuos, promoción turística.
Esta tendencia avanza en muchos casos más rápido que los mecanismos para evaluar sus consecuencias sociales. Un buen ejemplo es el caso de la seguridad: ciudades como Lima, Buenos Aires o Ciudad de México han desplegado sistemas de IA para la vigilancia del espacio público sin que existan procesos sistemáticos para evaluar quién se ve desproporcionadamente afectado, qué sesgos pueden estar incorporados en sus algoritmos o cómo se protegen los derechos de las personas monitoreadas.
Ante este escenario, contar con metodologías participativas y rigurosas para evaluar el impacto social de estas soluciones se vuelve urgente. En ese marco compartimos la reseña del artículo “Participatory Methodology to Assess the Impacts of Artificial Intelligence in urban contexts” (Munares, Lucas, et al., 2026), publicado en el Journal of Policy Evaluation y desarrollado en el marco del proyecto europeo CITCOM.ai. CitCom.ai es una iniciativa europea de pruebas y experimentación para soluciones de IA en ciudades inteligentes, que ofrece entornos reales y virtuales para testear modelos de IA y robótica en condiciones urbanas reales.
El artículo propone una metodología estructurada en tres fases y ocho pasos para evaluar el impacto social de soluciones de IA en servicios urbanos, con un enfoque participativo como columna vertebral. La metodología fue validada mediante un taller con 26 participantes en Valencia, España, en torno a tres casos de uso: movilidad, turismo y gestión de residuos. Su objetivo no es reemplazar los marcos existentes de evaluación ética de la IA, sino integrar lo mejor de ellos —en particular el marco ALTAI de la Comisión Europea, y las metodologías de evaluación de impacto de la Plataforma de la Sociedad de la información (ECP) y de UNESCO— en un proceso que ponga a los actores afectados en el centro de la identificación de impactos y la construcción de indicadores de seguimiento.
Por qué ningún actor puede ver el cuadro completo solo
El primer desafío que aborda la metodología es de fondo: las soluciones de IA funcionan en gran medida como cajas negras. La mayoría de quienes las utilizamos a diario no sabemos cómo están construidas, con qué datos fueron entrenadas ni qué mecanismos activan cuando las usamos. Sus efectos atraviesan dimensiones que muchas veces ni imaginamos: sesgos en la toma de decisiones, transformaciones silenciosas en los flujos de trabajo, riesgos para grupos vulnerables que quedan fuera del foco habitual de análisis.
El experto técnico conoce las arquitecturas y los vectores de riesgo en ciberseguridad, pero puede desconocer cómo una herramienta modifica la experiencia de trabajo de un técnico municipal o afecta la confianza de una comunidad en los servicios públicos. Ese técnico, a su vez, percibe con nitidez lo que ha cambiado en su día a día, pero no dispone de los conceptos necesarios para articular riesgos de sesgo o de privacidad. El rompecabezas solo puede completarse sumando perspectivas. Integrar en el proceso evaluativo a perfiles diversos (responsables técnicos, tomadores de decisiones, ciudadanía, representantes de colectivos vulnerables, ONGs) no es una opción metodológica entre otras: es una condición para que la evaluación sea realmente capaz de capturar la complejidad del fenómeno.
El marco ALTAI como guía de la reflexión colectiva
Para que esa diversidad de miradas no derive en una conversación dispersa, la metodología utiliza el marco ALTAI (Assessment List for Trustworthy AI) de la Comisión Europea como andamiaje conceptual transversal. ALTAI organiza los criterios de confianza y ética en IA en siete dimensiones: agencia humana y supervisión, robustez técnica y seguridad, privacidad y gobernanza de datos, transparencia y rendición de cuentas, diversidad y no discriminación, bienestar social y bienestar ambiental. Este marco no es simplemente una referencia bibliográfica: estructura la identificación de impactos tanto en la exploración interna previa al taller como durante la dinámica participativa con los actores. Su función es obligar a mirar, de manera sistemática, todos los aspectos éticos que deben ser abordados, incluidos aquellos que no resultan evidentes para ningún perfil en particular.
Las herramientas que acompañan el proceso
La metodología se apoya en una serie de herramientas diseñadas para acompañar cada etapa: la descripción estructurada de la solución de IA y su contexto, la identificación de actores clave, una matriz de identificación de impactos organizada según los principios ALTAI, y un catálogo de indicadores de seguimiento (KPIs) que permite sistematizar el monitoreo de los impactos identificados colectivamente. Estas herramientas no son un fin en sí mismas, sino una estructura que facilitan la participación de perfiles heterogéneos y hacen que los resultados sean comparables, acumulables y consensuados.
Lo que aprendimos en el piloto, y lo que esto implica para otros contextos
La experiencia en Valencia confirmó que el mayor desafío no es metodológico sino relacional: conseguir la participación de los perfiles adecuados, especialmente de organizaciones de la sociedad civil y representantes de grupos vulnerables, requiere un esfuerzo dedicado que va mucho más allá de enviar invitaciones. Implica identificar previamente qué actores tienen una perspectiva relevante sobre el tipo de impacto que se quiere evaluar, comprender qué condiciones necesitan para participar significativamente —tiempos, formatos, espacios, lenguajes— y diseñar la actividad a partir de esas realidades. Este desafío es probablemente aún más pronunciado en contextos latinoamericanos, donde la brecha digital, y la desigualdad en el acceso a los servicios urbanos añaden capas adicionales de dificultad, y donde, precisamente por eso, la necesidad de metodologías como esta es más urgente.
Conviene ser honestos también sobre lo que implica embarcarse en un proceso de este tipo: requiere que las organizaciones que lo adopten tengan una disposición genuina para compartir el control del proceso, para aprender de perspectivas que pueden incomodar, y para sostener el compromiso con la participación incluso cuando las presiones del tiempo y los recursos empujen en sentido contrario.
En ese sentido, la metodología que proponemos no pretende ser un molde rígido, sino una brújula: ofrece orientación y estructura, pero la dirección exacta que cada quien tome dependerá del territorio que tenga delante y, sobre todo, de la voluntad real de recorrerlo junto a quienes más tienen que decir sobre el impacto de la IA en sus vidas.
