Algoritmos gubernamentales sin regulación: el riesgo de repetir escándalos de automatización
Advertencias de alto nivel se acumulan en torno al uso gubernamental de algoritmos e inteligencia artificial para decisiones que afectan directamente a ciudadanos, en particular a poblaciones vulnerables. Especialistas en integridad pública señalan que operar sin marcos regulatorios claros equivale a avanzar de forma inadvertida hacia nuevos escándalos de automatización —comparables al caso conocido como 'robodeuda'—, donde sistemas automatizados generaron cobros indebidos masivos a ciudadanos sin mecanismos de corrección accesibles.
Un informe reciente titulado 'Computer Says No' documenta cómo herramientas de evaluación integral basadas en algoritmos pueden subestimar sistemáticamente las necesidades de adultos mayores que dependen de apoyos domiciliarios. El hallazgo más crítico: los evaluadores humanos tienen prohibido corregir decisiones algorítmicas erróneas, lo que convierte al sistema en un mecanismo opaco e inapelable. El informe plantea ocho recomendaciones estructurales, entre ellas auditorías obligatorias, un registro público del uso de herramientas de decisión automatizada (ADM) y la creación de un organismo de supervisión independiente con capacidad real de fiscalización. Para los estrategas de transformación digital en el sector público, este caso ilustra un patrón recurrente: la adopción tecnológica sin arquitectura de gobernanza produce pasivos institucionales de largo plazo.
Desde el ámbito legislativo, la presión por marcos obligatorios crece ante la lentitud de los procesos de consulta gubernamental, que en algunos casos llevan casi dos años sin producir regulación vinculante. La fiscal general ha reconocido la necesidad de garantizar un uso 'seguro y responsable' de la ADM, pero sin plazos concretos para publicar borradores regulatorios. Este vacío normativo no es exclusivo de un país: según el Foro Económico Mundial, menos del 30% de los gobiernos que han adoptado IA en servicios públicos cuentan con marcos de auditoría algorítmica operativos. Para inversores en govtech y consultores de transformación, la señal es clara: la demanda de soluciones de gobernanza algorítmica —auditoría, explicabilidad y supervisión humana— representa una de las oportunidades de mayor crecimiento en el segmento de tecnología para el sector público durante los próximos tres a cinco años.
