INTELIGENCIA ARTIFICIAL EN LA JUSTICIA BONAERENSE:
ANALISIS CRITICO DEL PROYECTO DE REGLAMENTO PARA EL DESARROLLO Y USO RESPONSABLE DE LA IA DE LA SCBA
Por Joselina Pastorini* [1]
Resumen
El 19 de junio de 2026, la Suprema Corte de Justicia de la Provincia de Buenos Aires (en adelante, SCBA o el Tribunal) dicto la Resolución N 1719/2026, por la que puso en conocimiento el Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial -complementada por la Resolución de Presidencia N 747/2026 que modificó su numeración y extendió sus plazos-.
El presente artículo tiene por objetivo examinar los alcances, la estructura y el contenido normativo de dicho instrumento, con especial atención a su sistema de estratificación de riesgos, el régimen de gobernanza institucional, los deberes de los operadores judiciales bonaerenses y el esquema de transparencia y protección de datos. Por último y a modo de conclusión se pretende hacer hincapié en las fortalezas y los desafíos pendientes de cara a la implementación definitiva del presente Reglamento.
I. Introducción
La irrupción de la inteligencia artificial en el ámbito de la administración de justicia constituye uno de los fenómenos más disruptivos de los últimos años. Su penetración abarca desde asistentes de redacción y motores de búsqueda jurisprudencial hasta sistemas de predicción de riesgo de reincidencia con incidencia directa en decisiones que afectan la libertad de las personas[2]. Esta heterogeneidad de usos exige marcos regulatorios que distingan con precisión los niveles de riesgo involucrados y establezcan salvaguardas proporcionales.
En ese contexto, la SCBA dicto la Resolución N°1719/2026, mediante la cual puso en conocimiento el Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial de la Suprema Corte de Justicia de la Provincia de Buenos Aires (en adelante, el Reglamento), abriendo un proceso de consulta participativa con la comunidad jurídica. Dicho instrumento es elaborado por las Secretarias de Planificación y Tecnología Informática del Tribunal, con sustento en las atribuciones de superintendencia emergentes de los arts. 15 y 164 de la Constitución provincial y de los arts. 32 incs. «a» y «s» de la Ley N 5.827.[3]
El Reglamento incorpora como referencias centrales las Directrices de la UNESCO para el uso de sistemas de IA en juzgados y tribunales (2026), la Resolución A/RES/78/265 de la Asamblea General de las Naciones Unidas (2024), los lineamientos del Centro de Estudios de Justicia de las Américas (CEJA, 2025) y el Acuerdo PCSJA24-12243 del Consejo Superior de la Judicatura de Colombia (2024).[4] Este anclaje en estándares internacionales sitúa al instrumento en línea con los desarrollos más avanzados de la región.
El presente trabajo propone un análisis exegético-crítico del Reglamento, ordenado conforme a su estructura capitular. Así, se abordarán sucesivamente su i) objeto, ámbito de aplicación y definiciones; ii) los principios rectores; iii) el sistema de gobernanza; iv) la estratificación de riesgos y el régimen de auditorías; v) los deberes de los operadores judiciales; vi) el régimen de transparencia y protección de datos; y las disposiciones sobre seguridad informática. Finalmente, y a modo de conclusión se formulan reflexiones críticas sobre la regulación en su conjunto.
II. Proyecto de Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial
i) Estructura normativa: objeto, ámbito y definiciones
El Reglamento se organiza en once capítulos -conforme la rectificación introducida por RP-747-2026- y treinta y tres artículos. Su objeto consiste en establecer los principios, normas, criterios y pautas de diseño y uso que regirán la IA en la Jurisdicción Administración de Justicia (art. 1 del Anexo I).
En cuanto a los sujetos alcanzados (art. 2), la norma abarca a jueces, funcionarios, agentes y empleados de todos los fueros y órganos judiciales, los funcionarios del gobierno interno del Poder Judicial, los auxiliares de la justicia y las entidades externas que desarrollen, provean o mantengan sistemas de IA, en la medida en que sus contratos o convenios así lo establezcan. El ámbito de aplicación (art. 3) comprende la totalidad del ciclo de vida de los sistemas de IA: pre-diseño, diseño, desarrollo, evaluación, prueba, despliegue, uso, venta, adquisición, operación y desmantelamiento. Esta previsión de alcance integral evita que etapas previas o posteriores al uso efectivo queden en zona de indeterminación regulatoria.
A su vez el documento contiene -en su art. 5- un extenso glosario de definiciones.[5] Caben destacarse la distinción tripartita entre sistemas de IA seguros (safe), protegidos (secure) y confiables (trustworthy), que traduce fielmente la taxonomía de la UNESCO (2026); la noción de Análisis de Impacto Algorítmico (AIA), como proceso ex ante dirigido a anticipar riesgos antes de que el sistema entre en operación; y la Evaluación de Impacto Algorítmico (EIA), como mecanismo de monitoreo post-despliegue. La inclusión de definiciones técnicas como «alucinaciones y desinformación», «sesgo de IA» y «prompt» contribuye a la comprensión interdisciplinaria del texto y sienta bases conceptuales precisas para la actividad interpretativa posterior.
ii) Los principios rectores
El Capítulo II sistematiza los principios que gobiernan el uso de la IA en el Poder Judicial bonaerense. Sin pretensión de exhaustividad, se destacan los más relevantes desde la perspectiva jurídico-procesal:
La protección de los derechos humanos ocupa el primer lugar en la enumeración y despliega un catálogo de subprincipios específicos: no discriminación, igualdad en el acceso a la justicia, equidad procesal, privacidad y protección de datos personales, y libertad y seguridad personal. Este último reviste especial importancia: ninguna persona podrá ser privada de su libertad o sometida a medida cautelar con base -total o parcial-en decisiones de sistemas de IA cuando no haya sido informada de ese uso, no pueda comprender los criterios algorítmicos aplicados o carezca de mecanismos efectivos de impugnación.
Los principios de explicabilidad, auditabilidad, transparencia y rendición de cuentas y contestabilidad conforman el núcleo del régimen de gobernanza algorítmica. La rendición de cuentas no se agota en el aspecto informativo, sino que incorpora mecanismos de impugnación de los resultados producidos por los sistemas, articulando la regulación de IA con el derecho al recurso efectivo. El principio de supervisión y toma de decisiones humanas traduce normativamente la idea de que la IA no puede sustituir el razonamiento jurídico independiente del operador judicial.
Merecen reconocimiento también los principios de gobernanza y colaboración multiactor -que habilita la participación de múltiples interesados en el ciclo de vida de los sistemas- y de diseño participativo y centrado en el ser humano, que ancla el desarrollo de soluciones algorítmicas en el respeto de la dignidad y la autonomía humanas.
iii)El sistema de gobernanza institucional
El Capítulo III establece la arquitectura institucional de gobernanza de la IA.[6] La Comisión de Gobernanza y Uso de Inteligencia Artificial (arts. 7 a 9 del Anexo I) es creada como autoridad de aplicación y ejercerá sus funciones de manera conjunta entre las Secretarias de Planificación, Tecnología Informática y Servicios Jurisdiccionales.
Las atribuciones de la Comisión abarcan un amplio espectro: desde la elaboración de diagnósticos y la determinación de los objetivos del uso de IA, hasta la propuesta de normativas complementarias, la determinación de los sistemas autorizados y prohibidos, el establecimiento de mecanismos de seguimiento y la elaboración de programas de capacitación. La Secretaria de Tecnología Informática es el área técnica operativa (art. 14), pero sus atribuciones son explícitamente acotadas: no posee facultades decisorias en materia de aprobación, autorización o clasificación de sistemas de IA, competencia que corresponde exclusivamente a la Suprema Corte (art. 15). Esta separación entre función técnica y función decisoria es una cautela institucional relevante.
Es importante destacar que, al evaluar el modelo de provisión tecnológica, el Reglamento propone dar preferencia a soluciones que permitan el mayor control institucional sobre los datos de entrenamiento y el funcionamiento del sistema. Cuando se opte por proveedores externos, deberá suscribirse un convenio que garantice el acceso a auditorias algorítmicas y la compatibilidad con la normativa de protección de datos.
iv) La estratificación de riesgos y el régimen de auditorias
El Capítulo V del Reglamento articula el núcleo regulatorio a través de una clasificación tripartita de los sistemas de IA según su nivel de riesgo:[7]
a. Sistemas de bajo riesgo
El art. 17 agrupa en esta categoría los sistemas destinados a funciones de gestión administrativa con bajo impacto potencial en derechos fundamentales.[8] El listado enunciativo incluye: gestión documental y clasificación de expedientes, programación de audiencias, anonimizacion de resoluciones, transcripción de audiencias (voz a texto), traducción de documentos, chatbots de atención ciudadana, estadísticas de desempeño y corrección ortográfica. Este universo de usos corresponde al ámbito en que la IA puede introducir mejoras de eficiencia sin comprometer garantías procesales.
b. Sistemas de alto riesgo
El art. 18 reserva esta categoría para los sistemas que asisten funciones críticas: interpretación de normas, valoración de pruebas, predicción de resultados de litigios, análisis de jurisprudencia y generación de propuestas de resolución o sentencia.[9] Para su habilitación se requiere, acumulativamente: Análisis de Impacto Algorítmico favorable, informe favorable de la Comisión y autorización expresa de la SCBA, supervisión humana significativa, mecanismos de impugnación accesibles para las partes, registro en repositorio público y plan de monitoreo continuo. En ningún caso estos sistemas sustituirán el juicio del juez; sus resultados constituirán únicamente apoyo informativo.
c. Sistemas prohibidos o de uso restringido
El art. 19 establece una nómina de prohibiciones que abarca: la automatización plena de decisiones jurisdiccionales; el uso de sistemas sin posibilidad de supervisión humana real; el uso de herramientas que reproduzcan sesgos discriminatorios; el procesamiento de datos confidenciales sin anonimizacion y cifrado adecuados; el uso de herramientas generativas cuyos términos de servicio autoricen al proveedor a utilizar datos judiciales para reentrenamiento de modelos; la generación sintética de material probatorio; y la elaboración de informes periciales íntegramente mediante IA sin participación activa del perito habilitado.[10] La prohibición de los sistemas de predicción del riesgo de reincidencia con efectos vinculantes -salvo norma legal expresa y auditoria externa independiente- constituye una de las disposiciones más significativas del Reglamento, en respuesta directa a los debates sobre herramientas como el COMPAS[11] en el ámbito comparado.
Auditorias algorítmicas
Los arts. 20 a 24 regulan el ciclo completo de evaluación: el AIA previo al despliegue de sistemas de alto riesgo; los planes piloto de implementación por fases; la EIA de seguimiento post-despliegue; y las auditorias algorítmicas periódicas (semestrales para sistemas de alto riesgo, anuales para los de bajo riesgo).[12] Los informes de auditoría serán públicos e incluirán recomendaciones de mejora, suspensión o desmantelamiento (ante la detección de sistemas incompatibles con derechos fundamentales).
v.) Deberes de los operadores judiciales
El Capítulo VII establece los deberes específicos de los operadores judiciales, articulados en dos planos.[13]
Los deberes generales de uso informado (art. 25) comprenden: informarse sobre funcionalidades, limitaciones y riesgos de cada herramienta antes de utilizarla; verificar que la herramienta se encuentre autorizada; abstenerse de emplear chatbots gratuitos de uso general para tareas jurisdiccionales; y evaluar, antes de cada uso, si la tarea puede realizarse de modo más fiable sin recurrir a IA generativa.
Los deberes específicos (art. 26) incluyen: abstenerse de utilizar IA para la valoración de pruebas, la construcción del razonamiento jurídico y la motivación de decisiones; no introducir datos personales o confidenciales en herramientas de acceso público; no presentar como propia la autoría de contenido íntegramente generado por IA; verificar y contrastar toda información, cita jurisprudencial y referencia normativa producida por el sistema; y reportar de inmediato cualquier fallo, sesgo o impacto negativo identificado.
Estos deberes conectan el Reglamento con la responsabilidad personal del operador, consagrada con carácter general en el art. 6: el uso de herramientas de IA no exime al operador de su plena responsabilidad por el contenido, validez y legalidad de los actos en que aquellas hubieren intervenido.
vi) Transparencia, protección de datos y seguridad informática
El régimen de transparencia (Capitulo IX) descansa sobre dos pilares. El art. 29 consagra el deber de información a las partes: los operadores judiciales deberán informar expresamente en el expediente el nombre y versión de la herramienta utilizada, la fecha de uso, la finalidad, el modo de empleo y la ubicación especifica de los textos producidos directamente por la IA -identificados mediante un formato distintivo-.[14] El art. 30 establece el repositorio público de sistemas de IA, actualizable al menos una vez por año, conforme a los principios de datos abiertos FAIR.[15]
En materia de protección de datos personales (Capitulo VIII), el Reglamento adopta los principios de minimización de datos, consentimiento informado, anonimizacion, control institucional de acceso y protección ante proveedores externos. Se prohíbe compartir datos confidenciales con herramientas de IA comercial cuando sus términos de servicio autoricen su uso para reentrenamiento de modelos. Estas disposiciones se articulan con la Ley N 25.326 de Protección de los Datos Personales.
El Capitulo X regula la seguridad informática y gestión de riesgos: poner a prueba la resiliencia del sistema ante ataques adversarios -inyección de prompts, extracción de datos, evasión y envenenamiento de datos-, medidas de ciberseguridad previas al despliegue, y un protocolo de reporte y escalamiento de incidentes.[16]
III. Consideraciones criticas
El Reglamento merece una valoración positiva en términos generales. Su mayor virtud es la coherencia sistémica: articula principios, gobernanza, estratificación de riesgos, deberes de los operadores y controles en un marco integrado, evitando las fragmentaciones que suelen caracterizar las regulaciones sectoriales. La recepción de estándares internacionales y la incorporación de definiciones técnicas precisas otorgan al instrumento una solidez conceptual que lo distingue de iniciativas en el derecho comparado
La prohibición de sistemas de predicción de riesgo de reincidencia con efectos vinculantes (art. 19, inc. 8) es especialmente relevante desde la perspectiva del derecho penal y procesal penal. En el ámbito comparado, el debate sobre herramientas como el COMPAS ha puesto de manifiesto que la opacidad algorítmica puede vulnerar el derecho de defensa y el principio de motivación de las resoluciones judiciales. El Reglamento adopta una posición garantista acertada, aunque sujeta a la excepción —ciertamente estrecha— de habilitación legal expresa y auditoria externa independiente.
Sin perjuicio de lo expuesto, caben señalar algunos desafíos pendientes. En primer lugar, el carácter orientador y no vinculante del Reglamento hasta la aprobación de su versión definitiva[17] genera una zona de incertidumbre normativa en un periodo en que el uso de herramientas de IA en el ámbito judicial ya es una realidad cotidiana. La consulta participativa -extendida hasta el 7 de agosto de 2026- y el plazo para el informe de la Comisión -hasta el 10 de septiembre de 2026- son razonables, pero conviene que el proceso de adopción definitiva sea ágil.
En segundo lugar, el Reglamento no establece consecuencias concretas para el incumplimiento de los deberes de los operadores judiciales. La remisión genérica a la responsabilidad conforme la normativa aplicable puede resultar insuficiente frente a supuestos de uso indebido de IA en decisiones que afecten derechos fundamentales. A modo de recomendación, sería conveniente que la versión definitiva incluya un régimen sancionatorio propio –ante el uso indebido de la IA, o la remisión expresa al estatuto disciplinario vigente, el cual debería adaptarse conforme los nuevos desafíos y/o situaciones que plantean la utilización de las nuevas tecnologías.
En tercer lugar, el proceso de consulta participativa es un avance significativo en términos de legitimidad democrática. Sin embargo, la efectiva incorporación de aportes de actores externos -organizaciones de la sociedad civil, academia, colegios de abogados y personas afectadas- requerirá mecanismos activos de difusión que vayan más allá de la publicación en el subsitio web del Tribunal (SCBA).
IV. Conclusiones
El Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial de la Suprema Corte de Justicia de la Provincia de Buenos Aires constituye el instrumento de gobernanza de IA más completo dictado hasta la fecha en el ámbito judicial bonaerense. Su arquitectura normativa combina principios de derechos humanos, una estratificación de riesgos funcional, un sistema de gobernanza institucional con separación clara entre función técnica y función decisoria, deberes concretos para los operadores judiciales y mecanismos de transparencia y rendición de cuentas.
Su premisa axial -la función jurisdiccional es indelegable e insustituible, y la IA no puede sustituir el razonamiento jurídico del juez-[18] es jurídicamente correcta y políticamente necesaria en el actual estado de desarrollo de estas tecnologías. El desafío central en la etapa de implementación definitiva será traducir esos principios en procedimientos concretos, con mecanismos de control efectivos, capacitación continua y consecuencias claras ante el incumplimiento.
El proceso de consulta participativa en curso representa, en sí mismo, un modelo de gobernanza algorítmica deliberativa que merece ser profundizado y sostenido en el tiempo. La versión definitiva del Reglamento tendrá la oportunidad de incorporar la experiencia acumulada durante esa instancia y de consolidar al Poder Judicial Bonaerense como referencia regional en la regulación responsable de la inteligencia artificial.
[1] Funcionaria Judicial, Profesora de Derecho Penal Universidad Nacional de La Plata / UCALP. Especialista en Cibercrimen e Innovación digital. [2] Uno de los más conocidos es VALCRIM (acrónimo de Valoración Criminal) es un sistema informático desarrollado por la Policía Nacional de España destinado a analizar y predecir patrones delictivos. Su objetivo es optimizar la prevención y gestión del crimen, identificando zonas, horarios y tipologías de delitos con mayor probabilidad de ocurrencia, mediante el uso de estadística avanzada e inteligencia artificial. También podemos mencionar a VERIPOL: es un sistema desarrollado en España que utiliza inteligencia artificial para detectar denuncias falsas de robos con violencia o intimidación, y hurtos. Fue creado por el Cuerpo Nacional de Policía (CNP) junto con investigadores de la Universidad de Granada (UGR). [3]Arts. 1, 18 y 75 inc. 22, Constitución Nacional; arts. 15 y 164, Constitución de la Provincia de Buenos Aires; arts. 32 incs. «a» y «s», Ley N 5.827 (Ley Orgánica del Poder Judicial de la Provincia de Buenos Aires). [4]UNESCO, Directrices para el Uso de Sistemas de Inteligencia Artificial en Cortes y Tribunales, 2026; Resolución A/RES/78/265 de la Asamblea General de las Naciones Unidas, adoptada el 21 de marzo de 2024; Centro de Estudios de Justicia de las Américas (CEJA), Inteligencia Artificial en los Poderes Judiciales de las Américas, 2025; Acuerdo PCSJA24-12243 del Consejo Superior de la Judicatura de Colombia, 16 de diciembre de 2024. [5]Art. 5, Anexo I, RSC-1719-2026. Las definiciones de sistema de IA seguro, protegido y confiable recogen los estándares de la UNESCO (2026) citados en los considerandos del acto administrativo. [6]Arts. 7 a 15, Anexo I, RSC-1719-2026. La Comisión está integrada por las Secretarias de Planificación, Tecnología Informática y Servicios Jurisdiccionales (art. 8). Sus funciones se detallan en el art. 9. [7]Art. 16, Anexo I, RSC-1719-2026. La clasificación de cada sistema es atribución exclusiva de la SCBA a propuesta de la Comisión. [8]Art. 17, Anexo I, RSC-1719-2026. El listado es enunciativo y no taxativo. [9]Art. 18, Anexo I, RSC-1719-2026. [10]Art. 19, Anexo I, RSC-1719-2026. El inc. 8 prohíbe los sistemas de predicción de riesgo de reincidencia con efectos vinculantes, salvo norma legal expresa habilitante y AIA favorable con auditoria externa independiente. [11] COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) es un algoritmo de evaluación de riesgo desarrollado por la empresa Northpointe (hoy Equivant), usado en el sistema de justicia penal estadounidense. [12]Arts. 20 a 24, Anexo I, RSC-1719-2026. [13]Arts. 25 y 26, Anexo I, RSC-1719-2026 (numeración según rectificación RP-747-2026). [14]Art. 29, Anexo I, RSC-1719-2026. La norma dispone que la obligación de información garantiza el derecho al debido proceso y a la impugnación efectiva de las partes. [15]Art. 30, Anexo I, RSC-1719-2026. Los datos abiertos FAIR refieren a los principios Findable, Accessible, Interoperable and Reusable. [16]Arts. 31 y 32, Anexo I, RSC-1719-2026. El art. 32 regula el reporte de incidentes y la cadena de escalamiento hasta la Comisión y, en su caso, la Suprema Corte. [17]Arts. 2 y 5 (ap. «Proceso de consulta participativa»), RSC-1719-2026, con la modificación de fechas introducida por RP-747-2026, que extendió el periodo hasta el 7 de agosto de 2026 y el plazo de informe de la Comisión hasta el 10 de septiembre de 2026. [18]Art. 5, RSC-1719-2026: hasta tanto se apruebe su versión definitiva, el contenido del proyecto tendrá carácter orientador y no vinculante.
Referencias
Ley N 25.326. Protección de los Datos Personales.
Suprema Corte de Justicia de la Provincia de Buenos Aires. (2026, 19 de junio). Resolución N 1719/2026 [RSC-1719-2026]. Ref. Expte. N 3000-21862-2026.
Suprema Corte de Justicia de la Provincia de Buenos Aires — Presidencia. (2026, 22 de junio). Resolución N 747/2026 [RP-747-2026]. Ref. Expte. N 3000-21862-2026.
Consejo Superior de la Judicatura de Colombia. (2024, 16 de diciembre). Acuerdo PCSJA24-12243. Lineamientos para el uso y aprovechamiento responsable de la inteligencia artificial en la Rama Judicial.
Asamblea General de las Naciones Unidas. (2024, 21 de marzo). Resolución A/RES/78/265.
Centro de Estudios de Justicia de las Américas (CEJA). (2025). Inteligencia Artificial en los Poderes Judiciales de las Américas: Reflexiones y Lineamientos. CEJA. UNESCO. (2026). Directrices para el Uso de Sistemas de Inteligencia Artificial en Cortes y Tribunales. Paris: UNESCO.
Aviso Legal: El contenido del presente artículo no fue redactado por #ElAnalista, siendo el mismo exclusiva autoría y propiedad intelectual de su creador. El articulo podría no reflejar las opiniones de #ElAnalista como organismo.