Mediante el presente blog se aspira a poder compartir sólo con miembros de la comunidad académica el avance y producción cientifica e investigativa en áreas vinculadas con las ciencias jurídicas y sociales. Dejaremos disponible aquí, requerimientos habituales en la actividad docente: programas, desarrollos de clases, orientaciones de lecturas, referencia a producciones académicas y enlaces propios.
jueves, 18 de mayo de 2023
LIMITES IMPRECISOS DE LA IA EN LAS SENTENCIAS JUDICIALES: CHAT GPT, UNA MIRADA ETICO-JUDICIAL
La República de Colombia, además de ser un país hermoso tanto por su geografía como por sus habitantes, a más de hacer gala de hablar el español más cuidado de los países hispanohablantes, tiene una tradición jurídica y judicial muy significativa.
Así, la jurisprudencia del Tribunal Constitucional desde hace años es mirada con atención por otros tribunales constitucionales de la región, por ser ella novedosa, dinámica y expansiva. A veces, también muy cuestionada.
Fue Colombia el primer país de la región que admitió de manera masiva, en el máximo nivel jurisdiccional, la utilización de tecnologías informáticas a los fines de dotar de celeridad a un importante cúmulo de resoluciones judiciales que se tramitan ante el Tribunal Constitucional, relacionadas con la materia de amparo, para asegurar la tutela judicial efectivamente en modo célere.
A tal fin, basta con saber que dicho tribunal recibe 2.700 acciones de tutela por día y 1.400 de ellas están vinculadas con el derecho a la salud.
Mediante un consorcio entre la Universidad de Buenos Aires (UBA), el Ministerio Público Fiscal de la Ciudad de Buenos Aires y la Universidad del Rosario de Colombia se utiliza una herramienta que combina inteligencia artificial (IA), asistencia inteligente, automatización y blockchain, que es capaz de leer, analizar, descubrir y sugerir los casos más prioritarios y urgentes a tratar. Para ello, puede procesar miles de sentencias que provienen de más de 4.000 jueces de todo el país.
Es un ajuste del modelo diseñado en el Laboratorio de la UBA dirigido por Juan Corvalán, que conocemos como Prometea.
También hay que señalar que luego de la pandemia de Sars-CoV-2 (2020-2021), la justicia colombiana ajustó las normas que se habían dictado respecto a la utilización de sistemas digitales y telemáticos: los retiró de lo excepcional y los dejó en modo definitivo. Señaló al respecto que lo presencial sería la excepcionalidad. A tal efecto, la ley 2213, de 2022, es la norma central.
De tal manera, no corresponde ver la resolución que habremos de comentar como una que esté fuera de sistema. Por el contrario, existe una política institucional orientada a promover todo tipo de hibridación judicial con las nuevas tecnologías.
En función de ello, tenemos dos situaciones que son dignas de análisis: por una parte, la resolución N°32 dictada en Cartagena, con fecha 30/1/23, que indica la utilización de ChatGPT en su misma construcción; y por la otra, la dictada por el Tribunal Administrativo de Magdalena, con fecha 10/2/23, mediante la cual se admite que la audiencia inicial del trámite sea realizada por vía de “metaverso”. Nos ocuparemos solo de la primera.
Se trata de una resolución que llega a dicho tribunal en alzada por apelación de la demandada, una empresa que hace coberturas médicas y que, en el caso, niega las pretensiones del actor.
Éste es un afiliado menor de edad que padece trastorno de espectro autista y que recibe las terapias correspondientes. Para ello requiere de traslados al lugar donde es atendido. Además, indica que carece de recursos económicos para pagar los gastos de cuotas moderadoras, copagos y de transporte.
La negación de la prestadora se ampara en que no estaría el caso dentro del régimen de la excepcionalidad previsto por ley que establece para que la familia del actor haga efectivo el pago.
En orden a la misma estructura de la resolución, cabe señalar que tiene algunas rarezas pues el juez en una carilla hace una suerte de tabla sinóptica en la que define los aspectos centrales respecto a las pretensiones en juego. Quizás podría ser comprendido ello como sentencia de lectura fácil. En lugar de relatar, ha sintetizado en dicho gráfico.
Inmediatamente después, adelanta que la resolución habrá de ser favorable y, a tal efecto, indica cuál es la jurisprudencia que el Tribunal Constitucional tiene en dicha materia, que transcribe. Concluye tal apartado indicando: “En tal orden, la sentencia T-674-2016 es precedente aplicable al caso, atendiendo a que resuelve una situación similar a la que expone la accionante”.
Por último, en apartado separado indica que la accionada no ha podido demostrar que la accionante goce de una situación económica que permita afrontar libremente los mencionados costos.
Hasta allí, cinco páginas sobre ocho de la resolución, y en tal desarrollo estaría consumado el dictum resolutivo. En orden a ello, no se puede dejar de advertir de que la motivación de la mencionada resolución no ha resultado prolija.
Si deberíamos categorizarla, a la luz de la taxonomía explicada por Olsen Ghirardi, que tantas veces hemos invocado en nuestras resoluciones en Cámara Civil y luego en vocalía del Tribunal Superior de Justicia, sin duda se podría señalar que su motivación es solo aparente. En ningún lugar del pronunciamiento se puede advertir de que exista una subsunción completa y que el juez haya formulado un ejercicio, aunque mínimo, de justificación de la aplicación del precedente.
Paradojalmente, en el siguiente párrafo el juez Juan M. Padilla García destaca que, en función de la ley 2213 de 2022 -que tiene por objeto la incorporación de las tecnologías de la información y la comunicación (TIC) en los procesos judiciales-, resuelve «extender los argumentos» de la decisión adoptada conforme el uso de IA. Destacamos «extender» toda vez que es contradictorio señalar que algo se habrá de ampliar cuando en realidad no ha sido así como muestra su misma existencia.
De allí es que se podrá colegir que la justificación de la resolución, hasta dicho momento inexistente, será la que finalmente resulte asumida por la IA de ChatbotGPT, para lo cual se ingresó en el aplicativo https://chat.openai.com/chat y se realizaron cuatro preguntas:
¿Menor autista está exonerado de pagar cuotas moderadoras en sus terapias?
¿Las acciones de tutela en estos casos se deben conceder?
¿Exigir en estos casos la cuota moderadora es una barrera de acceso al servicio de salud?
¿La jurisprudencia de la Corte Constitucional ha tomado decisiones favorables en casos similares?
Luego de las devoluciones a cada uno de los interrogantes, el juez apunta un lacónico párrafo, que indica: “El propósito de incluir estos textos producto de la IA no es en manera alguna reemplazar la decisión del Juez. Lo que realmente buscamos es optimizar los tiempos empleados en redacción de sentencias, previa corroboración de la información suministrada por IA”. Después de ello, resuelve confirmando la resolución.
Algunas inconsistencias, además de la ya apuntada, están en orden a que las respuestas que el chatbot ha brindado son corroboradas, en el mejor de los casos, por lo que ha sido materia del precedente transcripto antes. Pero, de nuevo, no existe una adecuada subsunción del precedente al caso, y en derecho nunca basta con decir que los casos son semejantes. Si lo son, habrá que dar razones que lo demuestren y ello en ningún lugar está formulado en este fallo.
También es una falacia el argumento de ganar tiempo con la utilización de la IA, pues si el precedente citado ya autorizaba la decisión en el sentido tomado, no había razón jurídica de acudir a la IA, que, a fuerza de ser franco, no agrega en el caso nada sustantivo y sus respuestas son sólo un lugar común.
Por el contrario, podría decirse que ha habido un mal aprovechamiento del tiempo, toda vez que el ingreso al sitio de ChatGPT, la transcripción de las respuestas, etcétera, es tiempo que podría no haberse gastado.
Más parece -con franqueza lo decimos- que García Padilla encontró un caso fácil donde la introducción de la IA no iba a generar disrupción alguna y, a la vez, lo posicionaba en la vidriera de ser un juez que hace uso activo de las TIC.
En modo alguno nos oponemos a ellas; por el contrario, alentamos todo lo que las concierna. Pero a la vez propiciamos su uso inteligente y no uno, como en autos, en el que el mismo juez desluce su jerarquía profesional.
Hemos indicado que en los autos la función del juez se limitó a señalar la existencia de un precedente que sería aplicable, pero, al no haber explicado las razones que hacen a dicha realización, la motivación es solo aparente y la IA nada abona. Su uso, en nuestra opinión, ha sido como los romanos indicaban: ad pompam et ostentationem.
En la medida en que ése sea el derrotero, nos acercamos a un abismo insondable que, lejos de cooperar al resultado de una justicia más célere, terminará siendo lo contrario. Todo ello, suponiendo que las devoluciones de ChatGPT son las correctas.
Sin embargo, todavía habría que ser muy cauteloso con dichos resultados preliminares. En especial cuando de ellos dependen derechos fundamentales.
No hay comentarios:
Publicar un comentario