Es decir, yo que estábamos nos íbamos a complementar con otro panel
todas las referencias que hemos hecho a la inteligencia artificial,
lanzándonos una pregunta, una pregunta parece simple,
pero yo creo que de gran calado.
Si hay que poner límite o no a la inteligencia artificial.
Tenemos dos intervenciones previstas en ese sentido,
que estoy convencido que van a poder responder a esa pregunta.
La primera de ellas también es de otra periodista también
de larga trayectoria de prestigio especializada.
Precisamente en ciencia y tecnología es ester Paniagua,
a la que ya le cedemos el micro, quienes estén.
Bueno, ya había venido mix; mano que me han dicho;
además me lo pudieran dar; lo que pasa
es que lo quería pagar moverme en el escenario
y alinearon un poco a todo el mundo,
pero no hay un escenario analógico moverme,
así que me voy a quedar aquí cita
voy a intentar quedarme quietecita y obviamente bueno,
yo creo que esta pregunta de si hay que poner límites
a la inteligencia artificial cada vez más es una pregunta retórica
obviamente; que hay que poner límites de la inteligencia artificial,
pero no por eso que nos dicen algunos gurús tecnológicos
de que se va a convertir en una superinteligencia que se va
a volver contra la humanidad.
No hay que poner límites por los impactos negativos reales
que ya está teniendo.
Probablemente algunas y algunos de ustedes sabrán que vosotros,
si me permitís, tú aros sabréis que esta semana,
este martes por la tarde, o en el senado estadounidense
una audiencia en la que testificaron el ceo,
el director ejecutivo de Opening ya hay los que han creado el change,
entre otras cosas, junto con Cristina,
momento y de idmt y Gary,
marcos que son investigadores, un investigador profesor emérito
de la Universidad de Nueva York;
y fueron allí pues porque el Senado está muy preocupado.
El gobierno estadounidense
está muy preocupado por el impacto de la inteligencia artificial
y ahora decidido que hay que regular después de tantos años
peleando un poco a la contra; no era la Unión Europea;
pues ahora dicen que se equivocaron, que tenían que haber limitado
las grandes plataformas digitales y las redes sociales
y que no tienen cometer los mismos errores que han cometido
con Internet en el caso de la inteligencia artificial;
y en esa sesión salieron muchos de esos problemas
que estamos viviendo hoy en día no porque salieran ahí;
sino que ya los venimos viendo desde hace muchos años;
y, por ejemplo uno de ellos.
En relación con algunos comentarios
que se han hecho aquí precisamente a la propiedad intelectual
o al copio israelí tiene que ver con cómo se van a compensar
a todos los creadores y creadoras de contenido actores,
locutores artistas, músicos, pintores y un largo etcétera
de personas de cuyo trabajo está viviendo
están usando este sistema estas tecnologías
de inteligencia artificial, generativa como change,
o la ley para entrenarse,
esos procesos que comentaba, julio antes,
sin pedirles permiso, sin hacerles con no ser conocedores
de ello y obviamente sin remunerables;
por eso tampoco ni a ellos ni a los medios
de comunicación que ya están yendo a ella
a juicio para ver qué pasa con todo esto,
no cómo van a pedir permiso a las personas
que cada uno de nosotros para usar nuestros datos íntimos,
cosa que están haciendo para entrenar este sistema.
Bueno, no sabemos muy bien cómo se va a hacer,
aunque San alma dijo que obviamente que existiera ese derecho.
Lo que no dijo es cómo lo van a implementar
y también un impacto más grande y que el senador Monumental
dijo en esta sesión que era su mayor pesadilla.
Es el impacto de todo esto aún más a escala general,
en el mundo del trabajo,
en la estructura de trabajo del empleo y en la propia obtenía,
y calcula que estos sistemas de inteligencia general,
inteligencia, generativas desde una necesidad,
generativa van a impactar a, al menos
un 80 por 100 de todos los trabajos de alguna de alguna forma,
no más otras cosas que todavía no somos capaces de prever.
Esto es un gran problema, pero hay otros, hay otros,
como la manipulación masiva y personalizada, repetir,
es capaz de decidir el rumbo o de dirigir una opinión
de un ciudadano que no está convencido nuestra seguro
de que quiere decisión tomar, por ejemplo en materia de electoral
no, y además esto pues obviamente puede ser usado
por partidos políticos, por organizaciones,
por actores extranjeros a injerencias electorales
o para cualquier otra cosa que nos imaginamos que se imaginen ellos
también sama alma han enseñado veníais,
dijo que esta es una de sus mayores preocupaciones.
El hecho de que la inteligencia artificial, generativa,
pueda manipular el efecto matriz.
Manipulativas y persuasivo de este sistema es que,
según dijo el y cito entre comillas de alguna forma
genera antes información interactiva individualizada.
Uno a una, para cada persona personalizada.
Bueno, pues tenemos un gran riesgo aquí y no solo eso, más bueno.
Hemos visto, hablando de desinformación,
y hablando también no de cómo remunerar a los creadores
y creadoras de contenido en un restaurador online,
que se llama Añisclo,
ha detectado recientemente que había decenas de medios,
supuestos medios de comunicación creados por usted,
sistemas de inteligencia artificial de forma automática,
que publican 100 cientos de artículos día a día,
y además que no especifican,
que han sido escritas por uno de estos sistemas
y que muchos de ellos contienen información falsa.
Bueno, hablando,
además de que estos artículos no se identifican,
entramos en otro problema, que es el de la personificación
o falsificación humana, no de hacer,
de que estos sistemas se hagan pasar se Gusen, no ellos mismos,
sino que se usen para hacerse a pasar por personas tanto a nivel textual
como a nivel de audio, con la clonación de voces
o a nivel de imagen, no con la cola,
cloración de imagen.
Como ya ha habido muchos casos de estafas
en los cuales hemos se usa para todo tipo de cosas,
no desde suplantar la voz de un directivo para conseguir
que se haga una transferencia de cientos de miles de euros,
como ya ha sucedido, como para suplantar la voz
de una persona que supuestamente ha sido ese,
consta de pedir un rescate a sus familias,
cosa que también está sucediendo en el mundo de las estafas
esto es un problema enorme.
El neurocientífico en filósofos de la ciencia de el denez,
dice que le parece muy grave que estén abriéndoles
las gracias al cuñado de change.
De lo bien que invita a los seres humanos
y nita digo imita porque esto es un problema muy grave
y lo sus responsables dice el devenir a la cárcel.
Además lo que hace es que compara esta personificación humana
como la los billetes falsos,
no los billetes para, para pagar, que ya casi no usamos hoy en día,
al igual que eso se considera vandalismo y está prohibido,
se debería prohibir el uso de estos sistemas para personificar,
han a seres humanos digo no prohibir en generales,
sino con estos.
Con estos fines además bueno,
el problema es que estas tengo ser están ahora mismo disponibles
al alcance de todo el mundo, no sean democratizado,
cosa que no sucede con otras herramientas peligrosas,
como es la edición peligrosas en manos de que no leve,
no como la las armas nucleares o la edición genética,
no al contrario,
estas tecnologías están disponibles, no necesitas datos conocimientos,
y son muy baratas, no o incluso gratis,
y esto nos lleva a otro problema que también es la generación.
Hoy a todos podemos ser un jacket ni los malos
porque podemos usar esas herramientas para crear código malicioso,
pero ahora más maliciosos bienes informáticos y herramientas
que nos sirven para incluso acceder a dispositivos ajenos
de forma remota.
Esto de nuevo entre muchos otros ejemplos no,
y además no sólo es que hacen eso más fácil,
sino que hacen más difícil la identificación tanto
de las cimeres estafas como de la desinformación,
entre otras cosas como bien decía recientemente,
es que os que es el fundador de cofundador
de han otro problema que quería hablar,
es la discriminación y la medicina de algunas personas.
Aquí que han hablado de esas cosas me parece
que Alba entre ellas y y bueno pues que pasase,
he visto que change, de estas tecnologías
de nueva generación, de inteligencia artificial,
repiten los mismos problemas que otras herramientas
de inteligencia artificial, como es la perpetuación
de la discriminación por razón de esa de raza género o ración,
por razón de religión, de ingresos y un largo etcétera.
No, y se han documentado cientos de casos, bueno
la mayoría de los casos por parte de periodistas de investigación,
activistas o autoras.
Cómo habéis Giner a el solo que hicieron
el que han documentado estos casos en los cuales desean estos sistemas,
no han funcionado bien y han perjudicado en ámbitos
muy serios como la educación, como salud,
como la búsqueda de empleo, como el acceso a seguros,
como el acceso a muchas otras servicios básicos,
o la hipotecas, por ejemplo,
no por poner un ejemplo un poco más concreto,
pues para ser una gran persona
así se ha demostrado en varios casos.
Además, que las discriminadas las mujeres
directamente se las ha descartado en ciertos procesos de selección,
porque los datos con los que se estaban entrenando
el sistema.
Que también antes ha explicado un poco.
Pues estaban basados en históricos de contratación,
no para esos puestos, y es históricos.
Consideraban la máquina no se da cuenta a la máquina en sí
o discrimina,
pero en base a esos datos que he aprendido hace la discriminación,
pues consideraba aquí la característica mujer
o la característica persona mayor que también ha pasado
es es indeseable y entonces directamente excluía
estos currículums, no o directamente ofertas de empleo que no se mostraban
a personas con esas características, mujeres o personas mayores.
Como estos casos tenemos también temas de acceso
a vivienda, ofertas de vivienda,
quienes ofrecen en zonas de población eminentemente negro,
como ha pasado en Estados Unidos y otros 6.600, por desgracia,
son muchísimos ejemplos, no como como estos que mencionaba,
que pasa bueno, pues tenemos un problema.
Han salido algunas ideas nuevas
de que se puede hacer en el ámbito de la regulación,
en el, la audiencia, esta que hubo en el senado estadounidenses
esta semana se mencionaron alguna, escribía eminentemente mujeres
dedicadas a velar por la ética tecnológica,
investigadoras y pioneras en el campo,
por ejemplo, de la auditoría como una España.
La yema Galdón.
Han sido promoviendo desde hace muchos años
una de ellas es las etiquetas nutricionales
el poner,
igual que se ponen los alimentos, pues los ingredientes,
pues en este caso poner con qué datos al siguiente
nadie los procesos que ha seguido en un algoritmo no algoritmo,
pues es esa fórmula matemática que estos sistemas de automatización
tampoco me Laponia para explicar, que es un algoritmo,
bueno en este caso hacerlo para la inteligencia artificial,
también hacer obligatorias las auditorías de esos algoritmos,
auditorías éticas no solamente del código informático
en sí no, sino de su impacto social
externas obligatorias como tracción.
Se hablaba también de la creación de una posible agencia global
para la regulación de la Inteligencia Artificial
o para su supervisión y para su desarrollo seguro
y se hablaba de, como decía antes,
de no repetir los mismos errores que se han cometido con Internet,
con las redes sociales y las grandes gigantes digitales.
Yo creo que estos errores todavía estamos a tiempo
de subsanarlos y también de evitar que suceda lo mismo
con la inteligencia artificial.
Inicialmente este no es el tema inicial de mi charla
decidí cambiarlo.
Inicialmente lluvia, hablar declive de mi libro;
y 4, cuatro en ese libro.
Derecho a una serie nace cerca de 80 propuestas
para abordar esta gobernanza digital en general,
no con esa propuesta de una alianza democrática
por la gobernanza digital y democrática,
porque tenemos a actores como Rusia, China y como tantos otros
que están interesadas.
Esas herramientas también para mejorar sus sistemas
autocráticos las dictaduras e imponerlos,
también tratado imponérnosla medida de lo posible,
no?
Entonces es muy importante
y es una amenaza que está poniendo en jaque a nuestra democracia,
esta y todos los riesgos que he mencionado antes, entre otros,
como también la privacidad no hablaba un poquito también de privacidad
de datos sama alma el dinero de upn ya y dijo el martes
que, además de la manipulación y otras su mayor mayor preocupación
es que la industria de la inteligencia artificial
y el sector en sí la inteligencia artificial,
cauce, daños significativos,
más de los que ya estamos viendo en a la humanidad.
Mi mayor preocupación es que no nos pongamos de acuerdo
para evitarlo.
Como hemos visto, hay muchas razones por las cuales si hay que poner
límites en la inteligencia artificial y no me quería dejar,
no quería dejar de decir que también es igualmente importante
que invertir en esas iniciativas, en ese desarrollo
los como el que ha comentado, iría o como ha comentado Arope,
que realmente sirven,
que utilizan estas tecnologías para servir al bien público
y que lo hacen de forma transparente y de forma responsable,
y la transparencia es fundamental y que aseguran que en general,
el desarrollo tecnológico se traduce en progreso,
que no siempre es así.
Muchas gracias.
Gracias.
Pues muchas gracias a Bueno,
límites, no sé hasta qué punto va a coincidir.
Seguro que sí que hay que poner límites.