Cada vez más gobiernos utilizan IA para apoyar decisiones relacionadas con educación, salud, seguridad o distribución de recursos. Estos sistemas prometen eficiencia y objetividad, pero también plantean interrogantes profundos sobre transparencia y responsabilidad.
Un algoritmo puede recomendar priorizar ciertos barrios para intervenciones sociales basándose en patrones históricos, pero ¿qué ocurre si esos datos están marcados por desigualdades estructurales? Sin un marco ético sólido, la IA corre el riesgo de reforzar injusticias.
La sociedad necesita modelos auditables, normas claras de gobernanza y la participación activa de la ciudadanía en la supervisión de estas tecnologías. La tecnología no debe sustituir el criterio humano, sino complementarlo.