La inteligencia artificial (IA) no puede sustituir al juez


La Sala Segunda de Revisión conoció la acción de tutela presentada por la madre de un menor de edad contra una EPS, para solicitar el amparo de los derechos fundamentales a la salud y a la vida en condiciones dignas de aquel, debido a la negativa de la entidad de (i) exonerar al niño del pago de cuotas moderadoras y copagos, (ii) cubrir los gastos de transporte, con el fin de que el niño pueda asistir a sus terapias, y (iii) garantizarle un tratamiento integral.

La Corte Constitucional dividió el estudio del caso en dos grandes temáticas. La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso en razón del uso de la inteligencia artificial IA por parte del juez de tutela de segunda instancia, quien empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia. De otra parte, abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.

En relación con el debido proceso en un sistema de administración de justicia que haga uso de herramientas de inteligencia artificial IA, la Sala de Revisión de la Corte Constitucional señaló que debía respetarse el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina. En ese sentido, resaltó que la IA no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción. Por el contrario, consideró que es admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación.

La Corte agregó que, en el marco del respeto del derecho al debido proceso, la implementación de la IA también debe garantizar la independencia e imparcialidad judicial lo que, en este contexto, supone que ningún poder, ya sea estatal, particular o de cualquier otra índole, como por ejemplo una IA, pueda influir en la consideración del caso. Advirtió que tampoco es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares que puedan estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas. La motivación es otra de las subgarantías del derecho al debido proceso que debe ampararse, ya que el uso de la IA supone el riesgo de alucinaciones, fenómeno que se refiere a información inexacta o falsa que pueden dar lugar a problemas de motivación de la decisión judicial. Además, consideró esencial que los jueces velen porque el tratamiento de la información relativa a los usuarios del sistema judicial se realice con plenas salvaguardas para la data sensible, de forma que el uso de la IA no involucre su derecho a la intimidad y a la privacidad.

La Corte Constitucional concluyó que el uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, a partir de un enfoque de protección de derechos fundamentales que valore y considere las mejores prácticas, la aplicación de criterios éticos y el respeto a los mandatos superiores. La utilización de este tipo de herramientas debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez cuando recurra a este tipo de apoyos tecnológicos.

La transparencia implica exponer claramente cuál fue el uso, el alcance y la ubicación en las decisiones de lo gestionado a través de la herramienta IA. La responsabilidad exige del servidor que esté capacitado en la materia, que pueda dar cuenta del origen, la idoneidad y la necesidad del uso de IA y, principalmente, que verifique las condiciones de esta y la información y resultados que aporta. Por último, la carga de privacidad supone la protección de la reserva de datos personales y sensibles que se le dan a conocer al sistema judicial para el cumplimiento de sus funciones.

Con base en lo anterior, al revisar el caso concreto la Sala de Revisión concluyó que no hubo un remplazo de la función judicial por parte de ChatGPT, porque el juez de segunda instancia utilizó esa IA luego de fundamentar y tomar la decisión; solo entonces transcribió las preguntas que hizo en dicha plataforma y las respuestas arrojadas en la consulta. De acuerdo con ello, no se cuestionó la validez de la decisión del juzgado por haber sido tomada con antelación al uso de la herramienta ChatGPT, pese a lo cual, al estudiar la forma en que se utilizó la herramienta, la Corte encontró que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos. En cambio, el principio de privacidad sí se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta.  

La Corte advirtió que las consideraciones y prevenciones sobre el uso de estas tecnologías frente a una decisión judicial en sede de tutela resultan aplicables en lo pertinente a procesos judiciales de diferente naturaleza, pues el correcto uso de la IA como salvaguarda del debido proceso debe garantizarse en todo tipo de procedimiento, al paso que reconoció los efectos inter comunis de la decisión debido a que, mientras no haya una reglamentación o guía oficial expedida por el Consejo Superior de la Judicatura o una normativa dictada por el Congreso de la República, se deben prevenir las afectaciones del derecho al debido proceso que podría causar el uso indiscriminado de la IA en la actuación judicial.

De otro lado, en relación con la posible afectación del derecho a la salud del menor de edad, la Corte concluyó que se cumplieron las condiciones para exonerarlo del cobro de copagos y cuotas moderadoras por los servicios y medicamentos que requiera, ya que las leyes 1438 de 2011 y 1618 de 2013, así como el Decreto 1652 del 2022, exceptúan del cobro de cuotas moderadoras y copagos a las personas en situación de discapacidad, en relación con su rehabilitación. Así mismo, dispuso se eliminaran las barreras para aplicar dicho amparo, en especial, que se gestionaran las actuaciones administrativas para que la EPS comunicara a los prestadores sobre la no aplicación de cuotas moderadoras ni copagos.

La Sala encontró que ni el niño ni su madre tienen los recursos económicos suficientes para pagar el valor de los traslados requeridos para acceder al servicio de salud, pues se encuentran en situación de pobreza extrema. Además, la falta de autorización del transporte, debido al diagnóstico que padece el niño, pondría en riesgo su dignidad y estado de salud. Si bien la EPS autorizó el suministro del transporte para la asistencia a las terapias de rehabilitación, no dio la orden respecto a los demás desplazamientos asociados a valoraciones y controles con especialistas y ayudas diagnósticas. Por esa razón, la Corte encontró una deficiencia en el amparo concedido por los jueces de instancia.

Finalmente, sobre el tratamiento integral la Corte advirtió que no se allegó prueba al expediente de que la EPS se haya negado a autorizar alguna orden médica que prescribiera una valoración, tratamiento, servicio asistencial, ayuda diagnóstica, control o cualquier otro parecido para la atención médica del niño, por lo que no se ordenó algo adicional a lo anteriormente señalado.

Por todo lo anterior, la Sala confirmó parcialmente la sentencia de instancia y ordenó el reconocimiento del servicio del transporte para el niño y su acompañante y conminó a las entidades del sistema de salud a que exoneren del pago de copagos y cuotas moderadoras al menor de edad.

De otra parte, exhortó a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial IA, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia.

Para tal fin, los funcionarios y empleados de la Rama Judicial aplicarán los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad.

De igual forma, ordenó al Consejo Superior de la Judicatura que adopte una guía, manual o lineamiento en relación con la implementación de la IA generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT. También, que, a través de la Escuela Judicial Rodrigo Lara Bonilla, divulgue la providencia a todos los despachos judiciales del país y continúe generando espacios de capacitación que fomenten el aprendizaje de conocimientos básicos sobre el uso de la inteligencia artificial IA en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos.

Sentencia T-323 de 2024

M.P. Juan Carlos Cortés González


Ampliar información aquí