Sed Contra y los LLM

El análisis de Carlos J. Gil Bellosta sobre la menor utilidad de los LLMs en el ámbito jurídico en comparación con dominios como las matemáticas o la informática identifica dos carencias prácticas clave: la falta de un método sistemático de modularización de tareas y la ausencia de herramientas automáticas de validación. Sin embargo, atribuir estas limitaciones únicamente a deficiencias metodológicas del usuario resulta insuficiente. La naturaleza intrínseca de los LLMs —modelos estadísticos que operan sin comprensión teleológica (salvo que estén sesgados a propósito)— revela un desajuste epistemológico fundamental: estas herramientas no se diseñan para ejercer de autoridad.

En este contexto, el método escolástico de Santo Tomás de Aquino —la quaestio— ofrece una metáfora útil, pero limitada. Su estructura dialéctica (cuestión, objeciones, Sed Contra, Respondeo dicendum, refutaciones) podría inspirar un protocolo de modularización: el jurista descompondría un problema en fases discretas, solicitando al LLM respuestas acotadas y sometiendo cada una a verificación. Este enfoque mitiga riesgos, pero no resuelve el núcleo del problema. La diferencia crucial reside en que, mientras para Santo Tomás la autoridad citada en Sed Contra (por el contrario) constituía un fundamento de verdad (la Biblia, Aristóteles), en el uso de LLMs esa misma autoridad (la ley, la jurisprudencia) se convierte en el objeto de verificación. El modelo no puede validarse a sí mismo; requiere un contraste externo constante con fuentes primarias y bases de datos oficiales.

Por tanto, el jurista debe asumir una doble responsabilidad epistemológica: primero, diseñar interrogaciones que exploten la capacidad de procesamiento del LLM mientras controlan sus tendencias alucinatorias; segundo, y más importante, ejercer como validador último, contrastándolo con el marco normativo vigente y con su propio juicio profesional.

Como bien reitero a los estudiantes: «el LLM es responsable de lo que escribe, y el autor es responsable de lo que firma». La herramienta puede asistir, pero nunca suplir la prudencia profesional.