LA INTELIGENCIA ARTIFICIAL GENERATIVA (IAGEN) Y LA FUNCIÓN JUDICIAL-I
Corte Constitucional de Colombia
13 de octubre 2024
Por Andrés Gil Domínguez
Tomado de DIARIO CONSTITUCIONAL, Chile
Publica Abg. Rafael Medina Villalonga
PRIMERA
PARTE
“I.
La Corte Constitucional de Colombia en el marco de una acción de tutela
–mediante la cual se debatió si correspondía conforme a la normativa colombiana
vigente exonerar a un niño discapacitado del cobro de copagos y cuotas respecto
de servicios y medicamentos- analizó si el uso por parte del juez de segunda
instancia del ChatGPT 3.5 había vulnerado el derecho fundamental al debido
proceso puesto que existían dudas sobre quien dictó la sentencia (el juez o una
IA), como así también, si la decisión jurisdiccional fue debidamente motivada o
fue producto de alucinaciones y sesgos generados por la IA.”
“El
juez de alzada, en el trámite de revisión, declaró ante la Corte Constitucional
que la decisión jurisdiccional fue adoptada exclusivamente por él basándose en
el razonamiento judicial y que la IAGen utilizada cumplió una función de
herramienta de consulta complementaria después de haber adoptado la solución
para el caso concreto.”
“El
tribunal resolvió exhortar a los jueces y juezas a que hagan un uso adecuado de
la IA a efectos de garantizar el debido proceso y la independencia y autonomía
judicial. Asimismo, ordenó al Consejo Superior de la Judicatura que divulgue
una guía, manual o lineamiento en relación con la implementación de la IA en el
ámbito del Poder Judicial generando espacios de capacitación y que fomente el
aprendizaje de conocimientos básicos sobre el uso de la IA en el contexto
judicial con un enfoque basado en los derechos.”
“Luego
de realizar un extenso recorrido conceptual de la IA -enfocándose
particularmente en la inteligencia artificial generativa- y a pesar de haber
reconocido el denominado problema del ritmo (basado en que las tecnologías
emergentes avanzan a un ritmo que sobrepasa la capacidad de reacción de las
autoridades regulatorias) y la existencia de modelos de ChatGPT más avanzados,
el tribunal circunscribió el análisis jurídico enfocándose exclusivamente al
uso del ChatGPT 3.5.”
“Ubicándose
en el ámbito del legal tech, la Corte Constitucional sostuvo críticamente que
el ChatGPT 3.5 puede alucinar (esto es, crear información falsa) sin que esto
pueda ser advertido por el funcionario judicial, utiliza una base de datos que
ha sido alimentada de fuentes públicas, datos de terceros con licencia e
información creada por revisores humanos (lo cual, en principio, no garantiza
que la información esté actualizada o sea relevante para el contexto nacional
en términos de idioma, contexto social, cultural y/o económico), no es una
herramienta licenciada para la administración de justicia (por ende, sus
respuestas no corresponden a un ejercicio razonado y especializado de
ponderación en derecho) y el Poder Judicial no tiene el control sobre su
diseño, conocimiento sobre la información por la que fue entrenada y la forma
en la que la procesa, ni el acceso a ella para conocer o modificar su
algoritmo.”
“El tribunal concluyó que
utilizar IA con el objeto de sustituir el razonamiento humano para interpretan
hechos y pruebas, motivar una decisión jurisdiccional o dictar una sentencia
genera una violación a la garantía del juez natural. La IA no pude usarse para
ninguna labor de creación de contenido, interpretación de hechos o pruebas,
solución de casos y no remplaza la labor atribuida al funcionario judicial
consistente en conocer y resolver el fondo del asunto para el cual fue
investido de competencia. Por el contrario, el uso de la IA en el sistema
judicial no vulnera dicha garantía cuando se aplica en ámbitos de gestión
administrativa y documental como apoyo a la gestión judicial (ej. reparto,
agenda para la programación de diligencias, digitalización y clasificación de
expedientes, sistemas de relatoría y motores de búsqueda de jurisprudencia), o
bien para la corrección y síntesis de textos largos, siempre y cuando, exista
una supervisión por parte de un funcionario o empleado judicial.”
“En
el contexto de la administración de justicia, la Corte Constitucional afirmó
que acudir a una IA que no sea especializada y que no sea administrada por el
Poder Judicial es problemático debido a que puede emplear información falsa o
incoherente. La transparencia y trazabilidad de las IA utilizadas por el
sistema de justicia son principios que deben protegerse con el fin de no
afectar derechos fundamentales, puesto que su ausencia, imposibilita que los
ciudadanos se enteren, entiendan y evidencien la trazabilidad de las decisiones
de los jueces y, de ser necesario, adopten las medidas necesarias para
impugnarlas.”
“En
definitiva para el tribunal es aconsejable contar con una IA de propiedad y uso
exclusivo del Poder Judicial, de forma tal, que se pueda conocer cuáles son sus
algoritmos y cómo se procesa la información con el fin de poder controlar la
información brindada.”
“II.
La sentencia de la Corte Constitucional es un claro ejemplo de la
interpretación y aplicación del derecho sin perspectiva tecnológica asumiendo
un razonamiento analógico e idealizado que desconoce los efectores del
desarrollo científico y tecnológico en el ámbito de la Cuarta Revolución
Industrial.”
“En
primer lugar, el tribunal analizó el uso de una IAGen (ChatGPT 3.5) que ha sido
totalmente superada. La versión 4o (o de omni) del ChatGPT produjo un influjo
disruptivo notable por cuanto posibilita una interacción de la persona con los
dispositivos mucho más fluida y natural. Este nuevo modelo acepta como entrada
toda clase de combinación de texto, audio e imagen y es capaz de generar
cualquier combinación de salidas en igual sentido. Su velocidad de respuesta
puede llegar a ser de tan solo 232 milisegundos, alcanzando un promedio de 320 milisegundos,
tiempo similar al que se toma un humano para responder en una conversación
normal. Entre las novedades que presenta se encuentran la capacidad de
comunicación en tiempo real (mediante la cual responde a entradas de audio en
232 milisegundos, soporta conversaciones de voz en directo, retransmisiones de
vídeo desde el teléfono y mensajes de texto) y el rendimiento del
reconocimiento de voz (equiparable a Whisper-v3 con un soporte para todos los
idiomas, alta precisión y rapidez en la transcripción de voz a texto). Entre
las mejoras se destacan la carga de archivos, la generación de tablas, la
generación de gráficos, la cantidad de iteraciones, la alta capacidad para
entender y razonar sobre relaciones causales complejas, la alta capacidad de
razonamiento y resolución de problemas complejos, gran capacidad de
contextualización y memoria a largo plazo en las conversaciones, la alta
capacidad de razonamiento y resolución de problemas complejos, entre otras. El
12 de septiembre de 2024, Open IA lanzó el modelo o1-preview que está entrenado
para que dedique más tiempo a pensar en los problemas antes de responder, de
forma similar, a como lo haría una persona. A través del adiestramiento,
aprende a refinar su proceso de pensamiento, a probar diferentes estrategias y
a reconocer sus errores. En las pruebas, el modelo se desempeñó de manera
similar a los estudiantes de doctorado en materias como física, química y
biología. También se destacó en matemáticas y codificación. En un examen de
clasificación para la Olimpiada Internacional de Matemáticas (IMO), GPT-4º resolvió
correctamente solo el 13 % de los problemas, mientras que el modelo de
razonamiento obtuvo una puntuación del 83 %. Estas capacidades de razonamiento
mejoradas pueden ser particularmente útiles si se abordan problemas complejos
en ciencia, codificación, matemáticas y campos similares. Por ejemplo, el
modelo o1-preview puede ser utilizado por investigadores del sector sanitario
para anotar datos de secuenciación celular, por físicos para generar fórmulas
matemáticas complicadas necesarias para la óptica cuántica y por
desarrolladores de todos los campos para crear y ejecutar flujos de trabajo de
varios pasos.”
“En
segundo lugar, reducir el uso de la actual IAGen multimodal a ser un mero
asistente monomodal dedicado exclusivamente a la gestión administrativa y
documental o convertirla en un simple corrector de texto, implica desconocer en
su totalidad las funciones que esta permite ejecutar. El gran aporte que tiene
para ofrecer la IAGen al sistema de justicia consiste justamente en posibilitar
una forma de razonar profunda en tiempos imposibles de asemejar por ningún ser
humano. Por dicho motivo, quizás no sea tan útil a la hora de ofrecer
respuestas sobre fallos o leyes, sino que su mayor contribución, está centrada
en las respuestas razonadas que produce ante prompteos (indicaciones o
instrucciones de entrada) contextualizados a través de los cuales se le asigna
un rol específico.”
Continuará…