El Algoritmo en la Sombra: Soberanía Tecnológica y Riesgo de Caja Negra en el Estado
Por Ulises Lento, Analista de Transfer Pricing, Grant Thornton Argentina. Investigador en gobernanza algorítmica aplicada al cumplimiento fiscal internacional. Autor de la metodología TRIA (DNDA, Legajo N.º RL-2026-46255181).
I. Introducción
Imaginemos que un organismo público toma una decisión que afecta a miles de personas —una clasificación de riesgo fiscal, la aprobación de un contrato, una restricción administrativa— orientada por un sistema de inteligencia artificial. ¿Puede ese organismo explicar por qué el sistema llegó a esa conclusión? ¿Puede auditarlo si alguien lo impugna?
En la mayoría de los casos en Argentina hoy, la respuesta es no. El Estado adoptó la tecnología sin exigirle lo que siempre exigió a sus propios procesos: transparencia, trazabilidad y responsabilidad. Cuando un sistema automatizado toma decisiones que no pueden explicarse ni revisarse, el Estado no ganó eficiencia: cedió el control real sobre sus propias decisiones.
II. De la soberanía de datos a la soberanía de decisión
Durante años, el debate sobre soberanía tecnológica del Estado se concentró en una pregunta: ¿dónde están los datos? La noción de soberanía de datos —incorporada en la Ley 25.326 y en debates regulatorios recientes— parte de esa lógica: controlar el dato equivale a controlar el poder. Esa premisa tiene sentido, pero tiene un límite.
Un Estado puede ser soberano sobre sus datos y, al mismo tiempo, haber delegado la capacidad de decidir sobre ellos en un sistema que no comprende ni puede auditar.
En ese caso, la soberanía de datos es una cáscara vacía. Lo que falta es algo distinto: soberanía de decisión: la capacidad efectiva de una institución de comprender, auditar y reproducir los procesos lógicos que subyacen a sus decisiones, incluso cuando esos procesos son mediados por algoritmos.
No se trata de saber dónde viven los datos. Se trata de saber quién decide, bajo qué lógica, y si esa lógica puede verificarse. La diferencia parece técnica. No lo es: es una diferencia de poder institucional.
III. Tres vectores de riesgo concretos
En el ámbito fiscal, el problema del scoring algorítmico ilustra con precisión la pérdida de soberanía de decisión. ARCA utiliza sistemas automatizados para clasificar contribuyentes según su nivel de riesgo tributario. Según la OCDE (2023), el 95% de las administraciones tributarias del mundo usa inteligencia artificial en sus procesos de control y auditoría. El riesgo no es el uso de IA en sí: es que si un contribuyente quiere entender por qué fue marcado como de alto riesgo, o quiere impugnar esa clasificación, en muchos casos no puede acceder a los criterios reales del sistema. El organismo tampoco siempre puede explicarlos con precisión. Un sistema de scoring que no puede explicar su propio razonamiento no es una herramienta de control: es una caja negra con efectos jurídicos.
La pregunta que este tipo de sistemas plantea no es solo técnica, sino diagnóstica:
¿En qué nivel de madurez algorítmica opera el organismo que lo implementa? ¿Tiene capacidad de auditar los inputs que alimentan el modelo, detectar sesgos en los outputs, o documentar las versiones del sistema que intervinieron en cada decisión? La Matriz Diagnóstica de Madurez Algorítmica (MDMA), registrada ante la Dirección Nacional del Derecho de Autor (N.º PV_2026-67047663-APN-DNDA#MJ), ofrece precisamente ese diagnóstico previo: un instrumento para evaluar el nivel de preparación institucional antes de que un sistema de IA tome decisiones con efectos sobre terceros (Lento, 2026b). En contextos de scoring fiscal, la madurez algorítmica del organismo es una condición previa a la legitimidad del proceso.
En el plano jurídico, el artículo 7 de la Ley de Procedimientos Administrativos (N.º 19.549) exige que todo acto administrativo esté motivado: debe expresar las razones concretas que llevaron a la decisión. La pregunta urgente es si puede considerarse motivado un acto cuya fundamentación depende de un sistema de IA que el propio organismo no puede explicar. Desde una lectura estricta del derecho administrativo, la respuesta es no —lo que convierte la opacidad algorítmica en un riesgo legal concreto, no hipotético.
Existe además un tercer fenómeno que la doctrina denomina Inteligencia Artificial en la Sombra (Shadow AI): el uso no registrado de herramientas de IA generativa por funcionarios en el ejercicio de sus funciones. Un funcionario que usa ChatGPT para redactar una resolución, un magistrado que resume jurisprudencia con un asistente de IA sin dejar registro. Estas prácticas generan decisiones institucionales con rastros algorítmicos invisibles. Gavilán, Balbi y Lento (2026a) señalan que esta dinámica produce una brecha de trazabilidad: la distancia entre la decisión visible y el proceso real que la produjo. En el ámbito estatal, esa brecha no afecta solo la calidad del trabajo: afecta la legitimidad de la decisión.
IV. El mapa regulatorio argentino:
Señales incipientes, arquitectura ausente El panorama normativo en Argentina está cambiando, aunque de forma fragmentada.
En junio de 2026, la Sindicatura General de la Nación aprobó mediante la Resolución 197/2026 la Guía de Controles Inteligencia Artificial, de aplicación obligatoria para todo el Sector Público Nacional. El documento adopta un enfoque basado en riesgos y exige alineación de las iniciativas de IA con principios de integridad, transparencia y responsabilidad. Pero lo más revelador no está en el contenido de la guía sino en el diagnóstico que la motivó: el propio relevamiento de SIGEN detectó organismos públicos con proyectos de IA en marcha cuyos controles no estaban correctamente instrumentados. El Estado reconoció, en sus propias palabras, que la adopción avanzaba más rápido que el control.
En el plano subnacional, la provincia de Buenos Aires sancionó el Decreto 742/2026, que aprueba el Marco Provincial para el Desarrollo, Uso y Gobernanza de la Inteligencia Artificial —de cumplimiento obligatorio para toda la administración centralizada, descentralizada y los entes autárquicos provinciales— y crea un Registro Provincial de IA de inscripción obligatoria para cualquier organismo que desarrolle o utilice estos sistemas.
Sin embargo, estas señales coexisten con una brecha estructural: no existe a nivel nacional una ley de IA equivalente al AI Act europeo, que desde agosto de 2026 aplica plenamente sus exigencias de trazabilidad, documentación técnica y supervisión humana para sistemas de alto riesgo en administración pública y justicia.
Los proyectos legislativos nacionales —como el Expediente 2130-D-2025— replican parte de esa arquitectura, pero sin fuerza de ley. El resultado es un mapa normativo dispar: iniciativas sectoriales y provinciales valiosas, sin coordinación federal, y una asimetría concreta respecto de los estándares que los mismos sistemas de IA deben cumplir en los mercados donde se desarrollan.
V. Condiciones mínimas de soberanía algorítmica
La respuesta al problema no es frenar la adopción tecnológica. Es adoptarla con criterio. Un marco mínimo requiere tres condiciones operativas.
Primera: trazabilidad de inputs y outputs. Todo proceso decisorio mediado por IA debe registrar qué información ingresó, qué versión del modelo la procesó y cuál fue el resultado. Sin ese registro, la auditoría es imposible.
Segunda: control de versiones. Los modelos de IA se actualizan y esas actualizaciones pueden producir resultados distintos para los mismos datos. Una institución que no sabe qué versión del sistema usó para tomar una decisión no puede defenderse ante una impugnación ni aprender de sus errores.
Tercera: revisión humana real, no formal. Poner la firma de un funcionario sobre el output de un sistema no es supervisión. La revisión genuina implica que quien firma comprende los fundamentos del resultado, puede cuestionarlos y asume responsabilidad efectiva. Sin esa condición, el humano en el proceso es una formalidad, no una garantía.
Estas condiciones son operacionalizables mediante metodologías existentes. La metodología TRIA —Trazabilidad, Razonamiento de IA, Auditoría—, registrada ante la Dirección Nacional del Derecho de Autor (Legajo N.º RL-2026-46255181; Expedientes EX-2026-44027103-APN-DNDA#MJ y EX-2026-44039596-APNDNDA# MJ), ofrece el marco técnico para garantizar que cada etapa del proceso automatizado sea explicable, reproducible y auditable (Lento, 2026a). La Matriz Diagnóstica de Madurez Algorítmica (MDMA), registro N.º PV_2026-67047663-APNDNDA# MJ, complementa ese marco con un instrumento de evaluación previa: permite identificar si un organismo cuenta con las capacidades institucionales necesarias antes de que un sistema de IA intervenga en decisiones con efectos sobre terceros (Lento, 2026b).
VI. Conclusión
Un Estado que no puede explicar sus propias decisiones no es un Estado más eficiente: es un Estado que cedió su criterio a un algoritmo y firmó el resultado.
Las iniciativas recientes —SIGEN, la provincia de Buenos Aires, los proyectos legislativos nacionales— indican que la agenda de gobernanza algorítmica está llegando al sector público argentino. El desafío que sigue es pasar de señales sectoriales a una arquitectura integrada que ponga el criterio profesional, y no el output algorítmico, en el centro del proceso decisorio.
La automatización sin trazabilidad no es modernización del Estado. Es riesgo diferido con firma oficial.
Referencias
Decreto N.º 742/2026. (2026, 14 de julio). Marco Provincial para el Desarrollo, Uso y Gobernanza de la Inteligencia Artificial. Gobierno de la Provincia de Buenos Aires.
Boletín Oficial de la Provincia de Buenos Aires. Gavilán, A. J., Balbi, D. D., y Lento, U. (2026a, 16 de junio). Inteligencia artificial en el ejercicio profesional: ¿qué tener en cuenta?, ¿cómo afecta al contador? y ¿por qué la trazabilidad es el nuevo estándar? Errepar. https://documento.errepar.com/doctrina/inteligencia-artificial-en-el-ejercicio-profesional-que-tener-en-cuenta-como-afecta-al-20260616134649333
Lento, U. (2026a). TRIA: Trazabilidad, razonamiento, inteligencia artificial, auditoría [Metodología registrada, Legajo N.º RL-2026-46255181; Expedientes EX-2026-44027103-APN-DNDA#MJ y EX-2026-44039596-APN-DNDA#MJ]. Dirección Nacional del Derecho de Autor.
Lento, U. (2026b). Matriz Diagnóstica de Madurez Algorítmica (MDMA) [Instrumento registrado, N.º PV_2026-67047663-APN-DNDA#MJ; Expediente EX-2026-677047649-APN-DNDA#MJ]. Dirección Nacional del Derecho de Autor.
Ley N.º 19.549. (1972). Ley de Procedimientos Administrativos. Honorable Congreso de la Nación Argentina.
Ley N.º 25.326. (2000). Protección de los Datos Personales. Honorable Congreso dela Nación Argentina.
Organización para la Cooperación y el Desarrollo Económicos. (2023). Tax administration 2023: Comparative information on OECD and other advanced and emerging economies. OCDE Publishing. https://doi.org/10.1787/900b6382-en
Parlamento Europeo y Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea.
Resolución N.º 197/2026. (2026, 22 de junio). Guía de Controles Inteligencia Artificial – SIGEN. Sindicatura General de la Nación. Boletín Oficial de la República Argentina.
Resolución Presidencia N.º 392/2026. (2026). Capacitación obligatoria en inteligencia artificial. Consejo de la Magistratura de la Ciudad Autónoma de Buenos Aires.
Sánchez Caparrós, M. (2026). Inteligencia artificial en la sombra: Riesgos institucionales del uso no regulado de IA en organizaciones. TR LA LEY AR/DOC/1225/2026.
Sobre el autor
Ulises Lento es Analista de Transfer Pricing en Grant Thornton Argentina y estudiante de la Licenciatura en Administración y Finanzas (UADE). Es autor de la metodología TRIA (Trazabilidad, Razonamiento de IA, Auditoría) y de la Matriz Diagnóstica de Madurez Algorítmica (MDMA), ambas registradas ante la Dirección Nacional del Derecho de Autor. Investiga la intersección entre gobernanza algorítmica, cumplimiento fiscal internacional y marcos normativos de IA en entornos regulados. Ha presentado su trabajo en la Facultad de Ciencias Económicas de la UBA y en el Consejo Profesional de Ciencias Económicas de la Ciudad Autónoma de Buenos Aires.
Aviso Legal: El contenido del presente artículo no fue redactado por #ElAnalista, siendo el mismo exclusiva autoría y propiedad intelectual de su creador. El articulo podría no reflejar las opiniones de #ElAnalista como organismo.