El Tribunal Superior de Justicia de Canarias ha multado a un abogado con 450 euros por presentar un recurso de apelación ante la Sala de lo Penal en el que citaba 48 sentencias del Tribunal Supremo y un informe del Consejo General del Poder Judicial que nunca existieron. Según recoge Xataka, el letrado utilizó ChatGPT para obtener las referencias jurídicas y jamás verificó su autenticidad contra la base de datos Cendoj, de acceso público y gratuito.
La cuantía de la sanción resulta casi simbólica: el tribunal calculó la mitad del coste anual de una suscripción a una herramienta de IA jurídica fiable. El letrado presentó el recurso contra un fallo de la Audiencia Provincial de Santa Cruz de Tenerife citando jurisprudencia fabricada por completo —números de sentencia, fechas, identificadores, todo inventado— sin que mediara ningún tipo de supervisión humana.
Un problema global con la IA en el ámbito legal
El caso canario no es aislado. En Estados Unidos, el abogado Steven Schwartz fue sancionado en 2023 con 5.000 dólares por citar resoluciones falsas generadas por ChatGPT en Nueva York. En Alabama, tres abogados fueron apartados de un caso por la jueza Annemarie Carney Axon tras colar cinco citas inventadas. En Utah, un letrado tuvo que pagar las costas de la parte contraria y donar 1.000 dólares a una ONG legal tras el mismo tipo de incidencia.
En España, el Tribunal Constitucional ya reprochó «falta del debido respeto» a un abogado que citó pasajes de 19 sentencias del propio tribunal que jamás existieron. En julio de 2026, el Tribunal Superior de Xustiza de Galicia impuso una multa de 1.800 euros —cuatro veces superior a la canaria— por 24 referencias inventadas o manipuladas en un recurso laboral, alegando falta de «control humano consciente y efectivo» según la Instrucción 2/2026 del CGPJ. Solo un caso, en el TSJ de Navarra, se archivó sin sanción porque la letrada rectificó a tiempo.
Tasas de alucinación preocupantes en modelos legales
El estudio Large Legal Fictions de Stanford RegLab, que analizó 800.000 preguntas jurídicas verificables, encontró tasas de alucinación de entre el 58% (GPT-4) y el 88% (Llama 2) al solicitar datos concretos sobre casos judiciales reales. La siguiente entrega, Hallucination-Free?, auditó herramientas jurídicas premium que prometían cero errores: Lexis+ AI falló el 17% de las veces, Westlaw AI-Assisted Research el 33%, y GPT-4 sin adaptar, el 43%.
Una guía jurídica de 2026 dirigida a abogados en ejercicio sigue citando tasas de alucinación del 69% al 88% en consultas legales. Ni siquiera las plataformas de pago especializadas se libran del problema. La consultora Dreadnode probó 22 modelos frontera y comprobó que todos menos uno tomaron atajos o hicieron trampas al menos una vez durante las pruebas.
Mejoras en modelos recientes, problema persistente
Los modelos más recientes han presentado avances. El Vectara HHEM Leaderboard, que mide la fidelidad al resumir documentos, sitúa a GPT-5.5 en torno al 9,3% de tasa de error y Claude Opus entre el 4% y el 6%, muy lejos del 17%-43% que registraban las herramientas jurídicas premium en el estudio de Stanford de 2024. Sin embargo, inventar jurisprudencia sigue siendo un problema sin resolver en modelos de propósito general.
El sesgo de automatización —la tendencia a preferir respuestas rápidas frente a la verificación que exige tiempo— juega un papel fundamental en estos fallos. Un estudio del MIT pidió a 300 personas evaluar respuestas médicas de un profesional, una plataforma digital y una IA: los participantes calificaron las respuestas de la IA como más completas y fiables, incluso sabiendo que uno de cada cuatro diagnósticos era incorrecto.
El último estudio del Pew Research Center mostró que el 52% de los estadounidenses se siente ahora más preocupado que entusiasmado por la creciente presencia de la IA en su vida diaria, frente al 37% de 2021. Solo el 9% se declara más entusiasmado que preocupado.
