Cuando decide un sistema: garantías mínimas para el uso de inteligencia artificial en la administración pública
Relevamos 148 sistemas algorítmicos en uso en 24 jurisdicciones. Menos de un quinto documenta cómo fue entrenado, y sólo once permiten a la persona afectada conocer los criterios de la decisión.
Hallazgos principales
- 01Sólo 27 de los 148 sistemas relevados cuentan con documentación técnica accesible sobre datos de entrenamiento y criterios de decisión.
- 02El 62 % fue adquirido mediante contratación directa, sin especificaciones de auditabilidad en el pliego.
- 03Once sistemas ofrecen a la persona afectada una explicación individual de la decisión; ninguno ofrece un mecanismo de revisión humana con plazo definido.
- 04Proponemos un registro público obligatorio, cláusulas de auditabilidad en las compras y revisión humana efectiva para decisiones con impacto en derechos.
La discusión sobre inteligencia artificial en el Estado se ha organizado alrededor de principios generales —transparencia, equidad, responsabilidad— que casi nadie discute y que casi nunca se traducen en obligaciones concretas. Este documento propone el movimiento inverso: partir de los sistemas que ya están decidiendo y preguntarse qué garantías mínimas faltan.
Entre septiembre de 2025 y junio de 2026 relevamos organismos nacionales y provinciales mediante pedidos de acceso a la información, análisis de pliegos de contratación y entrevistas técnicas. Identificamos 148 sistemas en funcionamiento que intervienen en decisiones administrativas: asignación de beneficios, detección de fraude, priorización sanitaria, gestión de tránsito, atención al público.
Figura 01
Sistemas algorítmicos en uso en la administración pública
El problema no es el modelo, es el expediente
La mayoría de los sistemas relevados no son modelos de frontera: son reglas, árboles de decisión y modelos estadísticos relativamente simples. Lo que los vuelve problemáticos no es su sofisticación, sino su opacidad administrativa. Un acto administrativo debe estar motivado; cuando la motivación remite a un puntaje producido por un sistema cuyo funcionamiento nadie en el organismo puede explicar, la garantía de motivación se vacía.
“No pedimos que el Estado explique la matemática. Pedimos que pueda explicar la decisión.”
Cuatro garantías mínimas
- 01Registro público obligatorio de todo sistema que intervenga en decisiones administrativas, con finalidad, organismo responsable, datos utilizados y fecha de última evaluación.
- 02Cláusulas de auditabilidad en la contratación: acceso del organismo y de un auditor externo al modelo, a los datos de entrenamiento y a las métricas de desempeño desagregadas.
- 03Explicación individual accesible: la persona afectada debe poder conocer los factores que determinaron la decisión en su caso.
- 04Revisión humana efectiva, con plazo máximo, competencia definida y capacidad real de apartarse del resultado del sistema.
Metodología
El relevamiento cubre 24 jurisdicciones subnacionales y 11 organismos nacionales. Se excluyeron herramientas ofimáticas, sistemas de gestión documental sin componente decisorio y software comercial de uso general. La tasa de respuesta a los pedidos de acceso fue del 71 %.
Referencias
- Ferrari, L. y Linares, S. (2026). «Cuando decide un sistema». Documento de política N.º 19.
Investigación relacionada
Comprar tecnología: pliegos, dependencia y capacidad técnica del comprador
Reconocimiento facial en el espacio público: tres años de expedientes
Concursar el Estado: evidencia sobre reclutamiento en la administración nacional
