Avances y advertencias en el uso de IA en el ámbito judicial argentino

Un tribunal de la provincia de Salta advirtió a un abogado por el uso incorrecto y sin supervisión de textos presuntamente generados mediante IA, luego de detectar errores conceptuales y normativos en sus presentaciones.

El Juzgado de Primera Instancia en lo Civil, Comercial y Laboral de Joaquín V. González señaló que el escrito contenía deficiencias graves, entre ellas referencias normativas incorrectas y atribuciones erróneas al Código Procesal Civil y Comercial provincial.

Según la resolución, estas inconsistencias podrían indicar que el texto fue generado con asistencia de IA o, alternativamente, que no contó con una revisión jurídica adecuada por parte del profesional interviniente. En consecuencia, el juzgado intimó al abogado a abstenerse de presentar escritos generados mediante estas herramientas sin un control jurídico riguroso, o bien a revisar exhaustivamente la normativa aplicable si se trataba de una elaboración propia.

El tribunal reconoció que la IA puede contribuir a mejorar la eficiencia profesional, pero advirtió sobre los riesgos de su uso sin supervisión, particularmente la generación de contenidos inexistentes o erróneos —las denominadas 'alucinaciones'— que pueden afectar a las partes, comprometer la administración de justicia y generar cuestionamientos éticos en el ejercicio de la abogacía.

Este es un nuevo precedente en similar sentido a otros dictados en distintas jurisdicciones del país.  

Directrices de la UNESCO sobre el uso de IA en tribunales

En paralelo, la UNESCO publicó su Guía para el uso de sistemas de IA en cortes y tribunales, un documento que establece principios y recomendaciones para el desarrollo, adopción y utilización de estas tecnologías en el ámbito judicial.

La guía surge en un contexto de creciente incorporación de herramientas de IA por parte de tribunales y operadores jurídicos, especialmente para tareas de apoyo como gestión de expedientes, clasificación documental, traducción automática, transcripción de audiencias y asistencia en la redacción de textos jurídicos.

Si bien la UNESCO reconoce el potencial de estas tecnologías para mejorar la eficiencia y ampliar el acceso a la justicia, advierte también que su implementación sin marcos adecuados de gobernanza puede generar riesgos para principios esenciales como el debido proceso, la igualdad ante la ley, la imparcialidad y la independencia judicial.

Entre los lineamientos centrales, la UNESCO subraya que los sistemas de IA deben utilizarse como herramientas de apoyo y no como sustitutos del razonamiento jurídico ni del juicio humano. Asimismo, recomienda que las autoridades judiciales realicen evaluaciones periódicas sobre el uso de estas tecnologías a fin de identificar buenas prácticas y prevenir impactos negativos. Sobre este último punto, en Argentina, se publicó recientemente un análisis sobre el uso de IA por parte de tribunales y cortes, para poder conocer el tipo de uso que está teniendo lugar en nuestro país.

La guía también enfatiza la necesidad de adoptar medidas específicas para la protección de datos personales y confidenciales —especialmente cuando se emplean sistemas desarrollados por proveedores externos o de acceso abierto— y de prevenir sesgos algorítmicos que puedan afectar desproporcionadamente a grupos vulnerables. 

Finalmente, destaca que la incorporación de IA en la justicia debe ser gradual, transparente y centrada en las personas, sin delegar funciones jurisdiccionales ni permitir que los sistemas automatizados influyan de manera decisiva en las decisiones judiciales. Este último punto aparece como uno de los más relevantes en tanto enfatiza que las funciones jurisdiccionales no pueden ser delegadas, aunque, por supuesto, pueden recibir asistencia de sistemas de IA.

Una tendencia convergente: eficiencia, responsabilidad y gobernanza

Ambos desarrollos reflejan la adopción de IA en los procesos judiciales, tanto por los tribunales como por los abogados, reflejando la necesidad de contar con un equilibrio entre innovación y responsabilidad. Mientras las herramientas generativas ya forman parte de la práctica profesional cotidiana, tanto tribunales como organismos internacionales subrayan que su uso exige controles, revisión humana significativa, marcos de gobernanza claros y especial atención a la protección de datos y a los riesgos de sesgo y automatización indebida.