La Suprema Corte bonaerense proyecta un reglamento sobre el uso de la IA en el Poder Judicial

Fuente e imagen palabrasdelderecho.com.ar

La Suprema Corte de Justicia de la Provincia de Buenos Aires dictó la Resolución 1719/26, mediante la cual puso en conocimiento el proyecto de “Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial de la Suprema Corte de Justicia de la provincia de Buenos Aires”. Según lo establece el documento, la versión definitiva será publicada luego de un proceso de retroalimentación y consulta con magistrados, colegios profesionales y otros actores relevantes del ámbito judicial.

Entre los fundamentos de la resolución, la Corte reconoce que “la incorporación de IA a la resolución de disputas y al apoyo de decisiones judiciales conlleva riesgos estructurales que no pueden ser soslayados. Lejos de ser neutrales u objetivos, los sistemas de IA pueden reproducir -e incluso amplificar- sesgos, errores y patrones discriminatorios presentes en los datos con los que fueron entrenados”.

Asimismo, se enfatiza que el uso de sistemas de IA en la actividad jurisdiccional plantea otras problemáticas específicas, tales como la automatización de decisiones y “la generación de resultados inexactos, alucinaciones, contenidos sesgados o no verificables”. En este sentido,  advierte que, en muchos casos, se omite un abordaje con perspectiva garantista y de derechos humanos.

En este marco, la Corte establece que la utilización de herramientas de IA no exime al operador judicial de su plena responsabilidad por el contenido, la validez y la legalidad de los actos en los que aquellas hubieran intervenido. En consecuencia, se impone el deber de ejercer un control sustantivo, efectivo y documentado sobre los resultados producidos por estos sistemas, sin perjuicio de la eventual responsabilidad que pudiera corresponder al proveedor de la herramienta conforme la normativa aplicable.

En la misma línea, se recuerda a magistrados, funcionarios, agentes y a todo operador judicial que la función jurisdiccional es indelegable e insustituible y establece una serie de reglas de uso ético y responsable de esta herramienta tecnológica.

A su vez,  dispone la creación de la «Comisión de Gobernanza y Uso de Inteligencia Artificial (IA)», que actuará como autoridad de aplicación, con las funciones, atribuciones y obligaciones que oportunamente se determinen.

Finalmente, la disposición establece que, hasta tanto se apruebe la versión definitiva del reglamento, el contenido del proyecto mantendrá carácter orientador y no vinculante.