JURISPRUDENCIA FANTASMA: LOS DESAFÍOS ÉTICOS Y PROCESALES DE LA IA EN LA LITIGACIÓN
En un reciente conversatorio organizado por la Facultad de Derecho de la Pontificia Universidad Católica, los académicos Patricio Martínez —ministro de la Corte de Apelaciones de Santiago— y Nicolás Fríasón —subdirector del programa Reforma de la Justicia y docente de la misma casa de estudios— analizaron un fenómeno que está sacudiendo los cimientos del ejercicio profesional: la denominada “jurisprudencia fantasma”. El título del seminario, que se enmarca en los diplomados en derecho procesal avanzado y litigación, busca poner sobre la mesa los riesgos éticos y procesales del uso de inteligencia artificial generativa en los tribunales chilenos.
CONTEXTO
Los panelistas coincidieron en que la jurisprudencia fantasma —también conocida como “alucinaciones” de los sistemas de IA— consiste en la presentación de citas de sentencias o resoluciones que no existen materialmente, pero que imitan con tal verosimilitud el formato y la estructura de un fallo real que pueden engañar a jueces y contrapartes. Estas creaciones, generadas por herramientas como ChatGPT o Claude, parten de sistemas probabilísticos que no operan como buscadores de información, sino que construyen respuestas con apariencia de veracidad. El riesgo, advirtieron, es que un litigante presente como autoridad jurisdiccional un fallo inventado, erosionando la confianza que sustenta el razonamiento judicial.
CASOS REALES EN CHILE Y EN EL EXTRANJERO
Uno de los hitos locales que se discutió fue el ocurrido en un juzgado civil de Concepción, donde el tribunal sancionó a un abogado con una multa de una UTM a beneficio fiscal, invocando el principio de buena fe procesal del artículo 8 de la Ley de Tramitación Electrónica. El abogado había citado una sentencia que simplemente no existía. Los expositores destacaron que este caso marcó un precedente en Chile, aunque la vía disciplinaria elegida revela la falta de normas específicas.
A nivel internacional, se mencionaron dos casos emblemáticos: el caso Mata v. Avianca en Nueva York (2023), donde un abogado presentó seis citas falsas generadas por IA, y el caso del abogado Zachariah Cravil en Colorado, quien fue suspendido por un año y un día por insistir en citas jurisprudenciales inexistentes pese a la advertencia del tribunal. En ambos, la sanción recayó en sede disciplinaria, no en nulidad de actuaciones.
RESPONSABILIDAD DEL ABOGADO Y DEBER DE VERIFICACIÓN
Uno de los ejes centrales del debate fue el estándar de diligencia exigible a los abogados que utilizan IA en la redacción de escritos. Los panelistas coincidieron en que el mero uso de estas herramientas no constituye falta ética, pero sí la falta de verificación. A diferencia del error humano (copiar y pegar mal un fallo real), la jurisprudencia fantasma plantea una negligencia distinta: la de no comprobar la existencia material de la cita.
Los expertos recomendaron una “regla de oro”: verificar, verificar y verificar. Cada abogado es responsable último de lo que presenta ante el tribunal, y no puede excusarse en que un asistente o un sistema automatizado cometió el error. La buena fe procesal y el deber de lealtad exigen que, antes de invocar una sentencia, se confirme su autenticidad. En este sentido, el ordenamiento chileno actual no cuenta con un estándar legal explícito, pero el principio de buena fe procesal y las normas de responsabilidad profesional ya ofrecen herramientas de control disciplinario.
VACÍO NORMATIVO Y DESAFÍOS FUTUROS
Ambos expositores coincidieron en que Chile carece de una regulación específica sobre IA en el ámbito judicial. La única normativa disponible es la Ley de Tramitación Electrónica (que invoca la buena fe) y la futura Ley 21.719 sobre Protección de Datos Personales, que entrará en vigor el 1 de diciembre de 2024. Su artículo 8 bis consagra el derecho a no ser objeto de decisiones puramente automatizadas, lo que obligará a repensar los límites del uso de IA por parte de los jueces.
El panel advirtió que el mayor peligro no está en los abogados que citan jurisprudencia fantasma, sino en la tentación de que los propios tribunales deleguen en la IA tareas esenciales como resumir expedientes, valorar prueba o redactar fallos. Someter una causa a un sistema generativo implica transferir la función jurisdiccional que la Constitución otorga al juez. Si un abogado alega ante un tribunal y luego el juez introduce los argumentos en una IA para obtener una respuesta, se desnaturaliza el litigio: ¿a quién se alegó realmente?
PROTECCIÓN DE DATOS Y SECRETO PROFESIONAL
Otro punto crítico fue la carga de información sensible en sistemas de IA abiertos (como las versiones gratuitas de ChatGPT), donde el abogado pierde el control de los datos. Los panelistas recomendaron usar herramientas con políticas empresariales que no almacenen ni entrenen con los datos subidos, y, en todo caso, obtener el consentimiento del cliente. El ingreso de expedientes completos —con datos de víctimas, estados financieros o declaraciones protegidas— podría constituir una infracción al secreto profesional y dar lugar a sanciones, incluida la posible nulidad de actuaciones por prueba ilícita.
UNA MIRADA AL FUTURO
El conversatorio cerró con una reflexión sobre la velocidad del cambio tecnológico. Los panelistas instaron a la comunidad jurídica a formarse activamente en el uso ético de la IA. La recomendación final fue clara: no se trata de rechazar la tecnología, sino de integrarla con principios sólidos de buena fe, veracidad y diligencia profesional. El poder judicial, por su parte, debe desarrollar protocolos de detección y limitar el uso de la IA a funciones de asistencia, nunca como sustituto del razonamiento humano.
Para más información sobre estos temas y los diplomados impartidos por la Facultad de Derecho de la Pontificia Universidad Católica, los invitamos a visitar el canal de Derecho UC.
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
About The Author
