ABAI II – TAREA 3 – FRAUDE CIENTÍFICO EN MI DISCIPLINA

    Comienzo esta entrada con una disculpa a modo de nota aclaratoria pues pretendo alejarme un poco del objeto de la tarea para tratar (someramente) la injerencia de la IA generativa en el Derecho.

    La investigación jurídica no pretende, ni puede, dar una respuesta a los problemas o temas de investigación propuestos en clave de verdadero o falso, puesto que su objeto de investigación, el ordenamiento jurídico, es cambiante. Lo verdaderamente relevante para su valor científico es la actualidad de la problemática, la defendibilidad de las ideas y la base metodológica empleada.

    El estudio de nuestra disciplina no se nutre de experimentos cuyos resultados puedan verificarse empíricamente, sino que se apoya en el cuerpo de conocimiento jurídico existente y, de manera esencial, en la realidad que refleja la práctica jurídica. En este sentido, las resoluciones judiciales constituyen un elemento central de la investigación jurídica pues en ellas se manifiestan de forma concreta los conflictos sociales que llegan a los juzgados y tribunales, las soluciones que el ordenamiento ofrece y, especialmente, las lagunas, insuficiencias o disfunciones del ordenamiento jurídico.

    Precisamente porque la investigación jurídica se construye a partir de fuentes existentes, me ha parecido relevante tratar la injerencia de la IA generativa en el campo del Derecho por los riesgos que plantea para la integridad científica.

    No es ningún secreto que los juristas, con carácter general, no somos grandes entusiastas de la tecnología. Nuestro trabajo nos lleva a sumergirnos entre libros, códigos y bases de datos jurídicas. La herramienta tecnológica más compleja que utilizamos es un procesador de texto. En ocasiones esta inexperiencia tecnológica ha sido motivo de burla, como el caso del abogado inglés que compareció en una vista telemática convertido en gato tras activar, sin saberlo, un filtro, y tuvo que aclarar, rotunda y seriamente, que “no era un gato” (“I'm not a cat”).

    El problema actual trasciende la anécdota anterior, ya que la aparición de tecnologías más sofisticadas, como la IA generativa, ha multiplicado los casos de mala praxis profesional en el ámbito del Derecho. Son sonados los casos de abogados y jueces con dilatada experiencia profesional que han presentado escritos procesales y resoluciones citando jurisprudencia y normas inventadas por sistemas de IA.

    La IA generativa no es una base de datos jurídica ni un sistema de búsqueda de jurisprudencia. Su funcionamiento se basa en modelos que, a partir de los textos con los que ha sido entrenada, aprenden patrones de lenguaje y generan respuestas que resultan verosímiles. Por ello, cuando se le solicita una sentencia o una referencia normativa, puede construir citas que imitan fielmente el lenguaje propio del ámbito jurídico —tribunal, fecha, número de recurso—, dando la apariencia de rigor y exactitud, aunque se trate de información inventada.

    La utilización de la IA generativa en nuestra disciplina sin una alfabetización digital previa que permita a la persona usuaria conocer la forma de funcionar de la herramienta, los sesgos – tanto los de la herramienta como los de las personas que la utilizamos -, las cuestiones éticas y deontológicas derivadas de su uso puede difuminar peligrosamente la línea entre el error y el fraude.

    En el ámbito académico debemos sumar además que estas herramientas son unas auténticas cajas negras informativas. Desconocemos con certeza qué datos se han utilizado para entrenar el modelo. Esta opacidad es especialmente delicada en la investigación, donde conocer las fuentes es un requisito de rigor académico y presupuesto esencial de la integridad científica.

    Como señalan J. Benach de Rovira y J. A. Tapia Granados en su artículo “Mitos o realidades: a propósito de la publicación de trabajos científicos”, el prestigio académico de las personas investigadoras depende en gran medida de su capacidad para publicar de forma constante. Este contexto puede convertir la publicación científica en un fin en sí mismo y, en consecuencia, actuar como un factor coadyuvador en la búsqueda de herramientas que permitan acelerar y optimizar la producción de textos académicos. En este escenario, la inteligencia artificial puede presentarse como una solución tentadora para la que debemos estar debidamente formadas.