Vamos a buscar otro punto de vista desde un punto de vista
mucho más jurídico, con una abogada y consultoras senior
para la transformación digital de la Administración de Justicia.
Ya pensar de esos de largo recorrido y experiencia
es la intervención de Alba, Martínez.
Qué tal en primer lugar,
permitirme empezar agradeciendo a la vicerrectora
la oportunidad de estar aquí hoy compartiendo mis ideas.
Con todos ustedes, mi nombre es Martínez que no me conozcan,
también soy tutora de aquí de centro y soy abogada de formación y pasión,
pero actualmente me encuentro envuelta o dedicada
al apasionante mundo de la tecnología,
la inteligencia artificial, al final,
ha llegado para quedarse, avanzar a gran velocidad
y está transformando nuestras vidas.
Como hemos puesto de manifiesto en las anteriores ponencias,
en esta charla voy a tratar de analizar superficialmente
alguno de ellos algunos de estos problemas y retos,
desafíos legales que se presentan y digo superficialmente
porque no tengo ese conocimiento técnico.
De hecho, me vais a permitir ocho agradecimiento a mi compañero
de proyecto.
Actualmente nos encontramos en un proyecto de digitalización
tanto del Ministerio de Justicia
como de la Comunidad de Madrid y Miguel Modesto,
que creo que nos estará viendo en streaming,
agradecerle que me ha enseñado
todo lo que se al respecto de estos sistemas de aprendizaje
de las inteligencias artificiales.
Habiendo mentado ya la presión de las posibles preguntas técnicas,
de que mi formación es jurídica, como comentaba,
voy a intentar exponer brevemente estos desafíos legales,
sin ser muy repetitiva,
porque al final mi exposición va un poco en la línea
de la profesora María Jesús Ariza.
Vamos a ver.
Distinguir entre la aplicación en derecho y la aplicación
en el sistema judicial o justicia.
En primer lugar, la inteligencia aplicada derecho.
Está claro que pretende facilitarnos la vida a los abogados
y automatizando al final procesos
y minimizando nuestro trabajo sobre que pueda o no al final,
fomentar un poco esa ley del mínimo esfuerzo.
Voy a hablar en mis mis conclusiones,
pero estas ventajas que presenta también tienen esta cara b.
Un lado malo, una serie de desafíos legales
que el legislador debe tener en cuenta a la hora
de seguir avanzando y antes de seguir avanzando
en Inteligencia Artificial.
En cuanto a protección de datos, no voy a ser repetitiva
ya lo ha comentado la profesora María Jesús Ariza,
simple voy a resumir bastante para que no se haga pesado,
si no se implementan las adecuadas medidas de seguridad.
Existe el peligro
de que las los sistemas de inteligencia artificial
puedan tanto acceder como divulgar esos estos datos,
todos estos, los datos de la información personal,
sin consentimiento del usuario o también de manera indebida.
En cuanto a la propiedad intelectual,
sí me voy a explayar un poco más siendo este mi campo.
Todavía no existen unas reglas claras sobre quién posee estos derechos
de propiedad de los sistemas de inteligencia artificial.
Ya se ha hablado bastante de quién los puse al final,
los datos utilizados para entrenarlo,
los documentos que se generan utilizando una inteligencia
artificial.
Quien puse esta estás esta propiedad intelectual
como ejemplo voy a poner otro aplicativo
han comentado algunos llevaba poner el Dalí al final
si se crea con una inteligencia artificial
y utilizando una inteligencia artificial;
un cuadro y este cuadro es del ley para que no lo conozca.
Es una inteligencia artificial que utiliza diferentes fotografías
y al final quería un cuadro.
Pues bien.
Si este cuadro acaba siendo una obra de arte
valorada en equis.
Quienes el propietario de estos este distingue?
Es la persona que tiene que ser retribuida por esta acción
la persona que ha?
Entrenado a?
La máquina la persona que ha utilizado los datos
algo de la que se han sacado los datos para entrenar a la máquina
o la persona que da las indicaciones a la máquina
para que se aparece al final surja ese cuadro determinado aquí
sería el usuario de la aplicación pues bien de momento
no hay una conclusión legal una regla clara
a lo mejor tendría que establecerse un sistema de remuneración tripartito
es lo que las voces autorizadas están comentando de hecho ya pintores
en esta línea ha empezado a estar interesada en retribución
por utilización de sus imágenes en el entrenamiento de las distintas
inteligentes artificiales en este ejemplo pictografía
en cuanto a la responsabilidad civil o penal en casos de daños?
Cada caso de daños causados?
Por?
Sistemas de?
Inteligencia artificial?
Pues bien si un sistema de inteligencia artificial
cometió un error al final quién es el responsable de esos daños
quién va a resarcir mi extraños el desarrollador del propio sistema
el usuario o el propio sistema,
que ya ha dicho la Unión Europea,
que esa no es la solución, aunque ese no es el caso.
En cuanto a en esta misma línea y en cuanto a la aplicación
de la inteligencia artificial en la Administración,
que es un tema que llegara, volvamos a abordar
a continuación la regulación de la responsabilidad patrimonial
de la Administración Pública.
No contempla hoy por hoy qué sucedería si el daño se produzca
por el uso de una inteligencia artificial;
a modo ejemplo, si ahora mismo te ponen una multa,
te llega la información del radar con la foto, del radar, etcétera.
En caso de que esta de que esta sanción
sea eventualmente dictaminada en un futuro
por una inteligencia artificial, cuál es la información que te llegara
o que al final llegar a un junto con la solución
esta información será entendible por el ciudadano y por tanto,
podrá ser debatida, podrá ser debatible también,
es un reto que quiera sin responder todavía en cuanto a generación
de pruebas artificiales, y aquí se que siguen o permitir
porque este sí que es mi campo.
Como abogado, la defensa es la realidad,
pero cuanto más avanza la inteligencia artificial,
más perfectas, serán estas pruebas y pueden llegar a constituir
un verdadero problema a la hora de aceptar
en un proceso judicial al final paradas en un proceso judicial,
salvaguardar la veracidad de las pruebas,
ya sean vídeos, ya sean fotografías o cualquier documental tiene
que poderse asegurar que no son falsas pregunta aquí
la duda de los abogados es, se darán por válidas pruebas
que hayan sido adulteradas, con inteligencia artificial
o, desde el punto de vista de la defensa pondremos en duda
toda prueba simplemente por el hecho de que a lo mejor ha sido alterada
por una inteligencia artificial.
Ya existen técnicas me pueden decir,
y si estáis un poco sea existen técnicas de análisis forenses,
de pruebas falsas o adulteradas,
con una indemnización, utilizando inteligencia artificial,
pero a medida que se siga avanzando y cada vez sean más perfectas.
Estas técnicas forenses van a, en todo caso,
dilatar el proceso judicial.
Todos hemos visto a lo mejor no sé si lo habéis visto,
las fotografías del Papa con ropa de, Balenciaga,
también canciones que han sido sacadas,
como de Quevedo, y realmente no era su voz.
Ha denunciado que esa nueva, su voz,
había sido un drama con inteligencia artificial.
Entonces, bueno, en este línea,
en cuanto a la generación de pruebas artificiales,
me parece que tiene el legislador un reto por delante bastante,
bastante importante.
Me meto ya en el siguiente tema o mi siguiente bloque
de la inteligencia artificial.
El sistema de justicia,
aun así la inteligencia artificial está transformando,
como se ha comentado a lo largo de la mañana de hoy,
con gran rapidez los servicios públicos,
a pesar de todos los beneficios que ya hemos dicho
que ya hemos mencionado comentado a la Unión Europea,
le preocupa, no hemos oído la interesantísima exposición,
una intervención de iban eurodiputado,
que comentaba un poco cómo Europa estaba a la vanguardia
de la legislación con este reglamento de Inteligencia,
Artificial, pero yo creo que esto le preocupa,
como he comentado, y ya ha impulsado este reglamento,
que parafraseó a Iván.
Para mojen,
homogeneizar la legislación en los Estados miembros de la Unión
el objetivo principal en este sentido es claro.
Garantizar que los sistemas de inteligencia artificial
introducidos en el mercado de la Unión Europea sean seguros
y ante todo, respeten los valores y los derechos fundamentales
de la Unión.
Esto me niega al siguiente, al siguiente.
El desafío, en este caso un poco más ya rozando la ética
ya se ha comentado ya se ha hablado en el dedo
y también acerca de los sesgos que puede que pueden contener
o que pueden hacinar surgir estos problemas
de no discriminación es uno de los principios rectores
de nuestro ordenamiento jurídico.
Cómo podemos garantizar que en un sistema que se centra
en el dato no va a soportar el sesgo tanto del propio creador
de la máquina o la propia persona que estaba la máquina?
Como del propio dato?
Al final pueden nos un sistema de Inteligencia Artificial,
pueden contener aspectos
y confirmo que contienen aspectos discriminatorios,
pues los algoritmos al final, lo que hacen es generar perfiles
detallados de las personas basados en los datos recopilados.
Pero nunca pueden poner en contexto entre sí esos datos.
En Estados Unidos ya tenían un estos medios
que tenían un sistema para toma en que aquí es muy importante
la ayuda a la toma de decisiones judiciales,
nunca tomar la decisión de forma autónoma a la inteligencia
artificial, y lo que al final resultó es que,
si pertenecía a una minoría étnica,
siempre resultaba la sentencia o la decisión judicial desfavorable,
con lo cual efectivamente ese campo de esta manera es esta.
Evolución de la inteligencia artificial en Estados Unidos
puede tener como consecuencia
lo dicho decisiones judiciales injustas, perjudiciales,
sobre todo para ciertos tipos de persona.
Es importante analizar los datos que se utilizan para entrenar.
La máquina y el reto aquí es encontrar un sistema
que promueva la equidad y por tanto, hablando el tema,
la verdadera justicia, lo que me llega
y otro reto más, el siguiente reto está íntimamente ligado
con el anterior.
Vamos a hablar un poco de in dubio pro reo, que no lo sé;
el sistema nos Ordenamiento Jurídico.
Al final siempre hay que a poner en duda a favor del rey
ante las dudas por solas.
La carga de la prueba al final pertenece a la acusación,
al distinguir los sistemas de inteligencia artificial
sobre un conjunto que al final es discreto y finito
de resultados con reglas que infiere de un cuerpo documental.
Aquí iremos teniendo un poco la técnica,
los técnicos.
Gracias Miguel, Modesto, por haberme obligado a aprender este tema.
Al final adquieren los datos de un corpus documental
en el tema de la inteligencia artificial.
Al final el corpus documental que van a ser sentencias
van a ser sentencias.
Entonces, qué umbral de duda se va a poder configurar
en un sistema de inteligencia artificial?
La determinación de si son las pruebas suficientes
o no, salvo que sea,
salvo que sean pruebas que evidencien inequívocamente un delito
no va a poder ser perdón por ser fácil
de aprender por parte de la inteligencia artificial,
ya sabía que nadie me llama la atención,
soy estoy caracterizada por ser pesada
como abogada y ya acabando simplemente con mis conclusiones,
que a modo de cierre la Inteligencia Artificial al final
está revolucionando.
La forma de hacer y de entender el reto
está en promover el estado de derecho en el entorno digital,
tanto en derecho como el mundo digital.
Lo único constante es el cambio y al final habrá
que ir avanzando legislativamente para dar cobertura
a los problemas legales que vayan surgiendo
y adaptar las reglas del juego a la nueva forma
de jugar que se nos presenta.
Muchas gracias.
Gracias al vapor,
esa visión del mundo legal sobre la inteligencia artificial,
que es el panel que estamos abordando ahora.