Muy buenos días.
En este momento va a dar comienzo el seminario titulado.
Transición digital de la justicia en su primer programa,
titulado justicia inteligente del siglo xxii.
Este primer programa de la serie transición digital
de la justicia se puede celebrar gracias a la financiación
de dos proyectos de investigación del Ministerio de Ciencia
y Tecnología ejes de la justicia en tiempos de cambio
y transición digital de la justicia.
Tenemos la fortuna de tener en este primer programa al profesor
jordi Nieva Fenoll, catedrático de derecho procesal
de la Universidad de Barcelona.
Presentar profesor Nieva Fenoll
supondría agotar la totalidad de tiempo de este programa,
razón por la que me voy a limitar a darles sencillamente la palabra
plantear una primera cuestión, a continuación mis compañeros,
la profesora ana, lo haces Gutiérrez,
profesora, titular de derecho procesal de la UNED y profesor
Tomás Aliste Santos, profesor titular de derecho procesal,
de la unir formularán otras tantas preguntas
y al término tendremos un debate.
Así es muy bienvenido.
Jordi, primera cuestión es preguntarte si crees
que está funcionando a nivel mundial la digitalización de la justicia,
pues la verdad es que no lo dejó muy claro,
porque cuando uno analizando la justicia los diferentes países
todavía observa mucho papel,
incluso en los lugares más avanzados, no,
y tampoco ve realmente a jueces que estén habituados
a una digilitalización mucho más ágil,
lo que se que ha habido, que son poco,
es un poco diferente de lo que estás planteando.
Es una cierta automatización de algunos procedimientos
cada vez más sencillos o de la burocracia, digamos,
más engorrosa de los procesos en general,
pero, claro, es que esa burocracia en realidad
tendría que haber desaparecido ya.
Es decir, no tiene ningún sentido obligarle a hacer una máquina,
algo que solamente tendría alguna razón de ser
cuando eran personas las que estaban interactuando
para llevar adelante los expedientes ahora mismo,
pues vamos, o sea todo eso esos trámites tendrían
que haberse resumido absolutamente y ser efectivamente automáticos,
pero vamos con muchísimos menos pasos intermedios
de los que se están dando muy bien.
Ello a continuación quisiera hacerle al profesor
Nieva una pregunta.
Qué opina de las herramientas de justicia predictiva?
Las herramientas de justicia predictiva
son una un instrumento útil a la hora
de evaluar algunos comportamientos para psicólogos
para otros profesionales que de cuya decisión no depende
absolutamente absolutamente insisto subrayo la palabra
la vida o la libertad de una persona.
Vamos a ver los psicólogos
hace tiempo que se están apoyando en este tipo de herramientas,
básicamente introduciendo la base de datos de la herramienta,
inteligencia artificial.
Los hay tres que eran necesarios para que ellos evaluaran
si una persona tenía o no tenía riesgo de reincidencia,
claro que un psicólogo de la personalidad haga eso
y a partir de ahí con ese herramientas
se ayude a sí mismo hacer un pronóstico de riesgo.
Pues está bien porque no acepta automáticamente
el resultado de la máquina,
porque como entiende lo que ha hecho la máquina es capaz de criticarlo
y es capaz de sacar decisiones,
pues que sean matizadas a lo que dice la máquina.
Un juego hace esto.
Un juez.
Si le das directamente
esa misma herramienta que utiliza los ecólogos,
que va a pasar, que le va a dar una tecla y libertad no.
Libertad, riesgo, no riesgo, y no va a tener criterio
para hacer otra cosa diferente.
Entonces, claro que ocurre que cuando la utiliza el psicólogo,
el psicólogo puede manejar la herramienta,
cuando la utiliza el jurista,
el jurista no tiene ni idea de cómo funciona esa herramienta
y entonces está completamente a, merced del que ha fabricado
la herramienta que vaya usted a saber.
Quién es que claro que puede ser, pues yo soy un racista que puede
ser pues la persona que no tenga pues digamos los principios
democráticos en su cabeza cabeza, que incluso le parezca bien,
no y que crea que oye,
pues cada vez que hay un sospechoso sea culpable o inocente,
mirar para dentro y luego ya veremos.
No, es que hay mucha gente que piensa ese y claro puede haber
un ingeniero informático que piense de esta manera
o varios juristas que le digan.
Oye, mira, tenemos este objetivo poblacional.
Todos los que tienen estas raza no nos interesan;
todos los que, pues sí puede ser porque ya han pasado
compás en Estados Unidos
precisamente ha sido tachada de ser racista
y hemos visto lo que estaba en el bacalao,
en el entorno de compás, y efectivamente los hemos encontrado
a la parte más conservadora de la sociedad estadounidense,
con lo cual vamos blanco y en botella.
En fin, hacia mi cuestión.
Para el profesor fenol nevado, gira en torno a una un encaje
de la inteligencia artificial en el contexto del siglo xxii,
o sea, ya sabemos cómo es la inteligencia artificial
en este camino incipiente está recorriendo en el siglo xxi,
en el ámbito de la justicia, pero en el siglo xxii,
cuál será el papel de los jueces?
Cuál será el papel de la jurisdicción
en un ámbito creciente de inteligencia artificial?
Tal vez en el siglo 92
veo mi respuesta y nuestro debates en ruinas muchísimo de nosotros.
Pero vamos a hacer una predicción.
Lo lógico, sino pasar de un desastre a nivel global,
es que la digitalización y la introducción,
digamos lo que es tecnología,
vayan a aumento en nuestra vida cotidiana,
y, por tanto, también en la justicia,
y que además las herramientas pues tenemos ahora
pues efectivamente también vayan en aumento
en cuanto a su complejidad, vamos a ver muy probablemente
herramientas que van a aparentar que realizan comportamientos humanos,
que llevan a cabo comportamientos datos,
pero otra cosa es que lo realizan de verdad.
Ayer leía la entrevista
de un ingeniero que probablemente mentira mucho,
pero lo que voy a decir ahora porque adaptarme tienen
que vender las herramientas, es normal que mediante marketing,
pero decía una verdad, porque le decía el.
Bueno, oiga, las máquinas que ustedes fabrican realmente
son como la inteligencia humana,
y decía él responde a muy hábilmente, a mí me da igual
si son como la inteligencia humana o la imita;
la cuestión es que el observador va a pensar que solo inteligencia humana
no, no, da igual, no da igual.
Es decir,
queremos saber si hay algo que puede sustituir al ser humano
o queremos saber si ese demostrar imbéciles como.
Para dejar de sustituir por las máquinas
pensando que son seres humanos,
hay una diferencia tremenda entre los dos mundos.
Entonces yo creo que, salvo que haya algún descubrimiento
en los próximos 100 años que efectivamente haga
que la que incluso ya no sea inteligencia artificial,
sino que sea otra cosa que ahora mismo
no podemos imaginar y que efectivamente actúe igual
que nosotros, pues lo que va a haber,
pues son máquinas, que aparenten copien nuestra forma
de decidir en algunas ocasiones, pero que no van a tener,
pues ni la creatividad no van a tener ni la capacidad de improvisación,
no van a tener una capacidad de adaptación.
Todo eso todavía es patrimonio de los seres humanos,
aunque también actualmente hay herramientas
que parezca que crean cosas
por ejemplo estas que pintan por ejemplo no dice solo fíjate
ha creado una obra de arte, no, lo que ha hecho
es juntar colores y ya está y eso lo podría
haber hecho cualquiera.
Pero eso no es creatividad, es puro azar.
De acuerdo, eso es otra cosa completamente distinto.
Entonces, a partir de ahí claro podemos ir hacia adelante
en ese camino?
Pues sí naturalmente, pero creo creo que no saldremos de la apariencia.
Lo que ya no puedo afirmar es si dentro de 100 años
esa apariencia habrá convencido a todo el mundo,
y a partir de ahí nos habremos olvidado
de que es una apariencia puede ser, no soy especialmente optimista,
muchas gracias y hay alguna manera progreso Nieva de garantizar,
como dice esa democratización,
de quien puede, de quien crea esa herramienta,
si naturalmente tenemos las instituciones precisamente
para hacernos representar, es decir,
tenemos un Parlamento que es el que efectivamente elige
al gobierno y son los gobiernos que escogen a estas personas.
Yo creo que habría que ser un poco más finos
en esta manera de designación
porque yo la verdad es que esto de elegir a un gobierno
y cómo hacemos, como se hace tantos países de Europa, no,
pues tienes cuatro años para hacer lo que quieras,
porque tienes una mayoría parlamentaria sumisa y por tanto,
podrás hacer y deshacer a mí eso me ha parecido siempre.
Es una vulneración de la división de poderes.
La verdad es un falseamiento de la labor del Parlamento,
con lo cual yo creo que la elección de estos actores que efectivamente
van a configurar estas máquinas de Inteligencia Artificial
tiene que introducirse necesariamente la democracia,
porque, de lo contrario, ya no van a ser jueces
los que juzguen, y ahora van a ser,
pues a lo mejor persona.
Este gobierno, las que gobiernen, no van a ser,
a lo mejor legisladores los que hagan las leyes,
sino que al final,
van a ser los que controlen la herramienta,
los que dirijan nuestros destinos,
y además, es que esto no es una teoría,
lo estamos viendo ya en la gestión de las redes sociales,
están creando opinión, es decir, te priorizaron las noticias
de priorizar otras y a partir de ahí la gente,
pues a lo mejor se había levantado aquella mañana.
Tan contenta diciendo.
Mira, hoy es un grande y, de repente,
oye no sé cuántos guerreros en twittero
o en cualquier otra red social, y bueno,
y se les sube la tensión, y se pone muy nervioso,
porque esto es indignante.
El país va fatal.
No tenemos que hacer un golpe de Estado, no lo sé.
Hay gente muy levantisca
no, esto lo puede favorecer una red social,
y no por casualidad, vivos, como hace dos o dos años me parece
que fue así dos años, efectivamente,
una turba toma nada menos que el Capitolio de los Estados Unidos,
y el otro día una turba tomó el Parlamento
y las instituciones principales de Brasil
por tanto cuidado con esto que efectivamente son riesgos
muchas gracias riesgo en mi opinión no sé qué opina las al respecto,
también va de la mano de esta especie de quiebra al proceso democrático,
a la estructura democrática de los Estados constitucionales,
y yo percibo a través de estos instrumentos
sofisticados de Inteligencia Artificial
y de estos expedientes de inteligencia artificial,
una especie de tendencia a huir de la jurisdicción,
y al mismo tiempo, a un creciente autoritarismo
bajo expedientes pretendidamente técnicos,
como son todas las cuestiones de los algoritmos
y bajo el ropaje mágico de las matemáticas.
Es verdad que encubren esta esta idea de, bueno, sofisticación control
de masas y toma de decisiones eficientes que qué te parece.
Esta dirección resulta preocupante.
Son asuntos autorizaciones activamente porque no tenemos
un control democrático sobre la misma,
porque a mí no me basta, no me basta el hecho
de que lo que decía antes no me da el Parlamento
va controlar a las personas que designamos para hacernos o no.
Yo quiero tener un control férreo sobre esas personas
durante la elaboración de su trabajo,
y ahí yo lo que veo en el fondo de todo, querido Tomás,
es un desconocimiento muy grande de la ciudadanía
con respecto a lo que es el valor de nuestras instituciones
en el sentido de la función que hacen.
Y por qué tenemos que controlarlas,
realmente no podemos ceder ese control en función,
en virtud de una se porque oye, yo he votado
ha salido el que yo quería
y a partir de ahí pues seguro que hacer lo que yo quiere
es que eso no es así; al contrario, te va a convencer de que está
haciendo lo que lo que tú quieres y no sé la verdad,
pero es que ahora y en el futuro todavía más va
a tener muchísimos instrumentos
para que realmente tú estés convencido
de que está haciendo lo que quiere.
Es porque tengo bombardear de información,
de manera que te va a ser muy difícil salir de esa expresión,
de esa especie de gran hermano que va crear en torno a ti.
Yo espero que en algún momento haya legislación al respecto
y se haga un alto el camino en el sentido de decir.
Bueno, no podemos dejar que esto simplemente
porque unas pocas personas del mundo hagan negocios,
pues digamos de manera completamente incontrolada
o no tenemos que decir lo que se puede
y lo que no se puede hacer en esta materia,
por mucho que podemos hacer más,
porque hasta ahora están con la idea.
Es que no puedes parar la tecnología.
Claro que no puedo pagarla,
evidentemente que no puedo pararlas a ver.
Tampoco puedo impedir que el ser humano mate
y, en cambio, prohibido la pena de muerte.
Es decir, poner límites es posible
por mucho que podamos hacer más de lo que realmente permitimos,
pero esto es la historia del derecho.
Muy bien.
Pues yo creo que con estas cuestiones que hemos abordado podemos dar
por concluida esta primera sesión, muy agradecidos porque el profesor
jordi nos haya acompañado ilustrado con sus sabios conocimientos.
Muchas gracias, señor
Muchas gracias.