ATSJ Navarra (Sc. 1ª) de 4 de septiembre de 2024, rec. nº 17/2024.
Accede al documento
“SEGUNDO.- (…)
En el traslado conferido, el querellante expone que en fecha 24 de junio de 2024 presentó escrito solicitando subsanación de error material grosero e involuntario padecido en la redacción de la página 36 del escrito rector de la querella, debiendo tener tal párrafo por no puesto por haber incurrido en completo, absoluto y grosero error material al corresponder el precepto citado en dicho escrito -que no correspondía al Código Penal del Reino de España sino al Código Penal de Colombia – al que fue facilitado por la inteligencia artificial, debido a un manejo inadecuado por parte de su despacho del sistema de inteligencia artificial CHATGPT 3, del que se excusó por escrito y por el que expuso al Tribunal las más sinceras excusas.
TERCERO.- Utilización de tecnologías emergentes y buena fe procesal. El uso de las tecnologías emergentes y de los materiales generados por inteligencia artificial en los procedimientos judiciales no está exento de importantes consideraciones éticas y legales para garantizar un uso responsable. Lo que impone una verificación adicional, puesto que la revisión y validación de los documentos legales seguirá siendo responsabilidad de los abogados para garantizar la precisión y el cumplimiento normativo.
Law Society publicó nuevas orientaciones para la profesión en noviembre de 2023 sobre el uso de herramientas de inteligencia artificial generativa, en las que afirmaba que los abogados son responsables de los productos de trabajo generados utilizando «soluciones basadas en la tecnología» e instaba a los abogados a «revisar cuidadosamente el contenido y garantizar su exactitud».
El Consejo de la Abogacía Europea (CCBE) también ha abordado la regulación de la inteligencia artificial en el ejercicio de la abogacía en el documento titulado ‘Consideraciones de CCBE sobre los aspectos legales de la inteligencia artificial’ y, entre otras consideraciones, aboga por la supervisión humana efectiva en el uso de herramientas de IA en el ámbito de justicia como precondición de un sistema de justicia propio de un Estado de Derecho.
Los riesgos de usar ChatGPT y otras herramientas similares con fines legales se cuantificaron recientemente en un estudio de enero de 2024: Matthew Dahl et. al., «Large Legal Fictions: Elaboración de perfiles de alucinaciones jurídicas en modelos lingüísticos de gran tamaño» (2024).El estudio encontró que las alucinaciones legales son alarmantemente prevalentes, ocurriendo entre el 69% del tiempo con ChatGPT 3.5 y el 88% con Llama 2. Además, constató que los modelos lingüísticos de gran tamaño a menudo no corrigen las suposiciones jurídicas incorrectas de un usuario en una configuración de preguntas contrafactuales, y que los modelos de lenguaje de gran tamaño (LLM) no siempre pueden predecir, o no siempre saben, cuándo están produciendo alucinaciones legales. El estudio afirma que «en conjunto, estos hallazgos advierten contra la integración rápida y sin supervisión de los LLM populares en las tareas legales».
No nos cabe duda que el uso descuidado de estas tecnologías en los procedimientos judiciales plantea importantes implicaciones deontológicas y, desde luego, es susceptible de integrar un claro ejemplo de mala fe procesal y de abuso del proceso.
Aunque por el momento los precedentes son escasos, no faltan ya supuestos en la jurisprudencia comparada de imposición de sanciones procesales por el uso indebido de ChatGPT. Así, un Juez de Distrito de Estados Unidos razonó en el año 2023 – caso Avianca- la imposición de una sanción económica de 5.000 dólares por el uso indebido de ChatGPT en los escritos procesales, clarificando que no hay nada intrínsecamente incorrecto en que los abogados utilicen la inteligencia artificial como ayuda, pero añadiendo a continuación que las normas deontológicas de la abogacía imponen a los abogados una función de control para garantizar la exactitud de sus presentaciones.
En el presente caso, la cita legal que incluyó el querellante en relación con el delito de ocultamiento, alteración y/o destrucción de material probatorio, se recogió en el escrito de querella en los siguientes términos:
‘La Sala segunda del Tribunal Supremo viene señalando que, de acuerdo con el artículo 454B del Código Penal , la conducta se describe en los siguientes términos: ‘El que para evitar que se use como medio cognoscitivo durante la investigación, o como medio de prueba en el juicio, oculte, altere o destruya elemento material probatorio de los mencionados en el Código de Procedimiento Penal, incurrirá en …’
Dicho precepto no corresponde al Código Penal del Reino de España ni tampoco ha sido interpretado por la Sala Segunda de nuestro Tribunal Supremo, lo que no puede pasar desapercibido a ningún profesional del Derecho. Ante la evidencia del error cometido, el querellante se ha apresurado para presentar sus ‘más sinceras excusas’ tras haber detectado la Sala -como expusimos en el auto de inadmisión de querella- que la cita textual del precepto penal que incluía en el texto de la querella no correspondía en realidad a nuestro Código Penal sino al Código Penal de la República de Colombia.
CUARTO.- Archivo de la pieza separada sin imposición de sanción. En la singularidad del caso que nos ocupa, el hecho de que nos encontremos ante una materia ciertamente novedosa, así como la inmediata reacción del Letrado querellante excusando el error cometido, determina que la Sala se incline por el archivo de la presente pieza separada sin imponer la correspondiente sanción pecuniaria, sirviendo la presente -quizá- de advertencia de las implicaciones legales, deontológicas y éticas que puede plantear el uso descuidado de las nuevas tecnologías.” (F.D. 2º, 3º y 4º) [Mario Neupavert Alzola]
