Por qué la AI generativa es menos útil para lidiar con cuestiones jurídicas que en otros ámbitos

La respuesta de Copilot tras unos pocos de prompts

1. La primera dificultad deriva de que un modelo generativo produce texto mediante correlaciones estadístico‑lingüísticas, no mediante aplicación normativa. Esto provoca que, ante un término jurídico polisémico, tienda a elegir el sentido más frecuente en el corpus, no el jurídicamente pertinente. Un ejemplo clásico es “consideration” en el Derecho anglosajón: un modelo puede traducirlo como “consideración” en sentido coloquial, cuando en realidad designa un requisito estructural del contrato. Del mismo modo, puede confundir “causa” en el Derecho continental con “cause of action” en common law, porque detecta similitud superficial sin comprender que pertenecen a marcos conceptuales distintos. Otro foco de error aparece cuando intervienen conceptos con una larga historia jurisprudencial, donde la estabilidad del término oculta una evolución en su contenido. Un ejemplo muy representativo es la “buena fe objetiva”.
2. La segunda dificultad está en la dependencia extrema del contexto normativo. Imagine que se pregunta por el régimen de responsabilidad de los administradores de sociedades de Delaware tras una sentencia reciente. Un jurista comprobaría de inmediato la fecha, el tribunal y la línea jurisprudencial previa. Un modelo generativo, si no está actualizado, puede razonar como si la sentencia no existiera o, peor aún, mezclar estándares transversales de otros Estados o de etapas anteriores de la jurisprudencia del Delaware Supreme Court. En un ámbito más cotidiano, si se pregunta por el régimen español de casación civil después de la reforma de 2015, un modelo puede seguir describiendo el sistema previo por falta de actualización contextual. Si se pregunta por el régimen de aprobación de las modificaciones estructurales tras la transposición española de la Directiva 2019/2121, un jurista sabe que debe distinguir entre fusiones intracomunitarias, transformaciones transfronterizas y escisiones, y que la Ley 3/2009 fue profundamente alterada en 2023. Sin embargo, un modelo puede describir el régimen pre‑reforma porque sus datos incluyen abundante texto anterior, generando una respuesta verosímil pero anacrónica. La estadística del lenguaje no incorpora, por sí misma, la noción de vigencia.
3. Una tercera dificultad proviene del lenguaje jurídico especializado. En Derecho societario español, “acuerdos sociales” no es equivalente a “deliberaciones”, aunque la traducción literal desde textos italianos ('delibera') pueda inducir a error. Un modelo entrenado sobre grandes corpus multilingües tiende a caer en estos falsos amigos. Otro ejemplo: “capital social” y “fondos propios” pueden aparecer como sinónimos en textos divulgativos, pero no lo son técnicamente; un modelo puede tratarlos como intercambiables si recibe señales estadísticas ambiguas. Cuando un texto alemán usa Verein y el modelo sugiere “club”, está privilegiando la acepción dominante en corpus generalistas, no la categoría jurídica correcta (“asociación”). Del mismo modo, Einlage puede ser traducido como “depósito”, cuando en realidad se refiere a las aportaciones al capital. El modelo reconoce patrones lingüísticos, no conceptos jurídicos; por eso ofrece traducciones que “suena bien”, pero son incorrectas desde la perspectiva institucional.
4. La cuarta dificultad es la simulación de justificación. Un jurista estructura un razonamiento conforme a fuentes, jerarquía normativa, interpretación y hechos. El modelo puede generar una estructura que parece una argumentación, pero sin correspondencia real con el proceso jurídico. Por ejemplo, al analizar si un despido es nulo o improcedente, puede “justificar” citando artículos que no son aplicables o inventando criterios supuestamente jurisprudenciales, porque intenta completar un patrón retórico de razonamiento sin verificar su validez jurídica. Un modelo puede responder con una cadena de razonamientos retóricamente ordenada —premisas, normas, conclusiones que oculta una ausencia completa de análisis jurídico.
5. La quinta dificultad es el riesgo de alucinaciones. Cuando se le pide una sentencia concreta que no recuerda, un modelo puede “fabricar” una supuesta STS de 23 de marzo de 2019 sobre un tema inexistente, con número de recurso plausible y argumentación coherente pero inexistente. Esto es especialmente problemático en contextos académicos, donde la exactitud de la cita es esencial. Incluso en ejemplos menores, como la interpretación de un artículo del Código Civil, puede inventar un párrafo que “suena” doctrinal pero no pertenece a ninguna obra real.
6. La sexta dificultad se relaciona con la calidad heterogénea del corpus de entrenamiento. Si un modelo ha sido expuesto a textos jurídicos rigurosos pero también a blogs, comentarios informales y sitios de asesoría sin revisión científica, las señales se mezclan. Ante la cuestión de si un contrato nulo por causa ilícita genera derecho a retribución, el modelo puede reproducir argumentos divulgativos simplistas (“la nulidad retrotrae todo”) porque no prioriza automáticamente doctrina consolidada ni fuentes académicas con peer review.
7. La diversidad de ordenamientos incrementa la complejidad. 
8. El Derecho presenta una estructura fuertemente sistemática: las normas forman parte de instituciones, las instituciones de áreas, y todo ello se articula mediante principios. Los modelos generativos no representan esa estructura. La similitud lingüística entre expresiones no implica equivalencia funcional.