CEC del TC organizó la Conferencia Internacional sobre Derecho, Inteligencia Artificial y Nuevas tecnologías

El evento académico, organizado por el Centro de Estudios Constitucionales (CEC) del Tribunal Constitucional (TC), contó con la participación del magistrado del TC, César Ochoa Cardich, director general del CEC, y de la profesora titular del Departamento de Derecho de la Universidad Castilla-La Mancha e investigadora del Grupo de Investigación sobre el Derecho y la Justicia de la Universidad Carlos III de Madrid, Gema Marcilla Córdoba.

El magistrado César Ochoa reflexionó sobre la Inteligencia Artificial (IA) y dijo que hay interés sobre la aplicación a los procesos judiciales, pero que se están analizando sus implicancias éticas, constitucionales y filosóficas.

Por ello planteó la interrogante de si la IA se podría utilizar para los casos de nulidades procesales o para dejar atrás escritos judiciales farragosos, reiterativos.

Destacó que la autoridad de los jueces radica en sus decisiones y que la IA ayuda a redactar rápidamente un test de proporcionalidad, pero planteó la pregunta de si éticamente será viable, por lo que requiere un análisis técnico jurídico, ético y conocer cuáles son los estándares de aplicación en los procesos judiciales.

En tanto, Gema Marcilla destacó el concepto legal establecido en el Reglamento de la Unión Europea, que indica que la IA es un “sistema basado en una máquina, con distintos niveles de autonomía y posible capacidad de adaptación tras el despliegue, que infiere, a partir de la información de entrada, cómo generar resultados de salida -predicciones, contenidos, recomendaciones o decisiones- capaces de influir en entornos físicos o virtuales”.

Indicó que John McCarthy y colegas, en la Conferencia de Dartmouth, en 1996, sostuvieron que la IA es “la ciencia y la ingeniería de crear máquinas inteligentes, especialmente programas informáticos capaces de desempeñar tareas que requieren inteligencia humana”.

Explicó la evolución de la IA neuronal, y dentro de esta la IA generativa, y a su vez la IA de modelo de lenguaje de gran tamaño, la IA de LLMs.

Indicó que informes de la Agencia de Derechos Fundamentales de la Unión Europea (2019-2023) indican sesgos algorítmicos y falta de transparencia en la IA, por lo que recomiendan evaluaciones de impacto en derechos fundamentales y clasificación de la IA judicial como ‘alto riesgo’.

Finalmente, dijo que el Dictamen XXIV de la Comisión Iberoamericana de Ética Judicial (2023) reitera que la decisión judicial es indelegable; la IA solo puede asistir, por lo que propone la formación obligatoria y auditorías tecnológicas dentro del Poder Judicial.

Acotó que la decisión final tiene que ser humana, porque a la IA se le pueden escapar cuestiones morales, ya que no siente dolor, vergüenza ni hambre.

La moderación del evento estuvo a cargo de la asesora jurisdiccional con funciones de directora académica del CEC, Candelaria Quispe Ponce.

Lima, 23 de abril de 2025

Oficina de Imagen Institucional del Tribunal Constitucional