La Universidad Católica de Valencia (UCV) ha celebrado la primera jornada del Congreso Internacional ‘Desafíos del Derecho y la Justicia en la era digital y en la Cuarta Revolución Industrial’, organizado por la Facultad de Ciencias Jurídicas, Económicas y Sociales. Entre las intervenciones más destacadas se ha encontrado la del director del Observatorio Español del Racismo y la Xenofobia (OBERAXE), Tomás Fernández Villazala. En su intervención, este experto ha señalado que, según datos de OBERAXE, “las situaciones que más impulsan la aparición de los discursos de odio en las redes sociales son la inseguridad ciudadana, (62%), los conflictos armados (21%), los episodios en los ámbitos económico (17%), deportivo (9%) y religioso (4%), junto a los relacionados con el terrorismo (5%)”.

“En el segundo trimestre de 2025 las personas del norte de África continúan siendo el grupo diana que recibe la mayor cantidad de contenidos de hostilidad en redes, representando el 73% de los casos. Los musulmanes se hallan en segundo lugar (18%) y, en tercero, el resto de africanos y afrodescendientes (8%). También se expresan discursos de odio contra asiáticos (7%), hispanoamericanos (5%) y menores no acompañados (3%)”, ha indicado el director de OBERAXE.

Entre esos dos últimos segmentos de población se encuentra la comunidad judía, que recibe un 4% de los mensajes vejatorios o deshumanizadores en las cuentas españolas de las redes sociales. Fernández Villazala ha expuesto que los ataques a los judíos han sufrido un incremento en los meses recientes, ocasionado “por la continuidad del conflicto armado entre Israel y Oriente Próximo y, posiblemente, por lo sucedido a partir de los hechos que rodearon el festival de Eurovisión”.

“El número de discursos y de delitos de odio está aumentando en toda Europa”

El director de OBERAXE ha analizado también en su ponencia el papel que las herramientas algorítmicas pueden desempeñar en la detección y prevención de los discursos de odio en el entorno digital, así como los riesgos éticos y jurídicos asociados a su uso: “Para detectar los discursos de odio en las redes hemos trabajado anteriormente con un pequeño algoritmo que se consultaba, digamos, de forma manual. Ahora existen diversos sistemas basados en IA de algoritmos entrenados para realizar esa detección y tenemos que seguir proporcionándoles datos para que estas herramientas sean cada vez más eficaces”.

Tras explicar la diferencia entre los delitos y los discursos de odio –que, “sin ser delictivos, dan pie a crear odio”-, el director de OBERAXE ha hecho hincapié en la necesidad de políticas educativas que ayuden “a frenar el aumento de esta clase de mensajes” en Tik Tok, X o Instagram “por parte de menores y jóvene españoles”.

Por otra parte, Fernández Villazala ha subrayado que, en el ámbito europeo, “España se encuentra en la zona intermedia respecto de la publicación en redes de discursos de odio”, mientras que el país “con las tasas más elevadas de esta clase de mensajes es Reino Unido”, aunque su salida de la UE ya no permite conocer tan bien sus datos. “Una cosa es cierta, por desgracia: tanto el número de discursos como de delitos de odio está aumentando en toda Europa”, ha lamentado.

Han inaugurado el congreso, que cuenta con el apoyo de la Conselleria de Educación, Cultura, Universidades y Empleo, así como del Colegio Notarial de Valencia la consellera de Justicia y Administración Pública, Nuria Martínez; el vicerrector de Profesorado, Luis Esteban; la decana de la Facultad de Ciencias Jurídicas, Económicas y Sociales, Aránzazu Juan; y la directora del Congreso, la profesora Diana Marcos.

Cuando ChatGPT se inmiscuye en los juicios...

El encuentro ha contado también con la presencia del catedrático de Derecho Internacional Privado de la Universidad de Valencia (UV) Guillermo Palao, que ha presentado la conferencia ‘Inteligencia artificial y responsabilidad por productos transfronterizos: cuestiones jurisdiccionales’. Palao ha profundizado en los conflictos de leyes y jurisdicciones que surgen ante los daños ocasionados por sistemas inteligentes y productos automatizados en entornos internacionales.

Ha intervenido también en el congreso el profesor de la Universidad de Kobe (Japón) Takuya Hatta, que ha analizado en su conferencia la participación en el proceso civil con identidad oculta y el derecho a la tutela judicial efectiva; es decir, los desafíos que plantea la protección de la privacidad y la identidad digital en los procedimientos judiciales. Por su parte, el catedrático de Derecho Procesal Federico Bueno (Universidad de Salamanca) ha centrado su ponencia en la IA generativa y la actividad procesal, donde ha examinado el impacto de las tecnologías de generación automática de textos e imágenes en los procedimientos judiciales, y las implicaciones probatorias y deontológicas de su uso por parte de profesionales del derecho.

Ha tratado la cuestión de la ciberseguridad y la identificación digital el catedrático de Derecho Procesal en la Universidad del País Vasco (UPV-EHU) José Francisco Etxeberría, con su intervención ‘Identificación biométrica en la investigación y prueba de la ciberdelincuencia: entre la eficacia y la garantía de los derechos fundamentales’. En concreto, este experto ha abordado la tensión entre el avance tecnológico y la protección de la intimidad en las investigaciones digitales.

Mientras, el director de la Cátedra de Derecho Notarial de la UCV, Ubaldo Nieto, se ha ocupado del futuro de la escritura pública en soporte electrónico. Desde la propia UCV, el profesor Juan Carlos Vegas ha analizado la interoperabilidad entre órganos judiciales y fiscalías, y Diana Marcos ha expuesto los avances y dilemas del uso de la videoconferencia en juicios y vistas.

Desde Hispanoamérica, el profesor de la Universidad Central de Chile (UCC) Pablo Contreras ha pronunciado la ponencia ‘Compliance algorítmico en la Administración del Estado de Chile’, en la que ha expuesto cómo los sistemas automatizados están transformando la gestión pública y los mecanismos de control de legalidad en la administración estatal, destacando la necesidad de un enfoque ético en el uso de la inteligencia artificial por parte del sector público.

El catedrático de Derecho Procesal en la Universidad de Leicester (Reino Unido) Pablo Cortés, ha compartido su visión sobre la justicia del mañana y los principios éticos que deben guiar el uso de la inteligencia artificial en el ámbito judicial. Asimismo, la profesora de la Universidad Federal do Espírito Santo (Brasil) Valesca Raizer, ha reflexionado sobre la cooperación judicial internacional digital y los desafíos que plantea medio siglo después de las CIDIPs.

Los ‘deepfake’ y el abuso sexual infantil en internet

La jornada del viernes comenzará con la ponencia de la profesora de Derecho Procesal de la UV Ana Montesinos, que tratará el fenómeno de las “ultrafalsificaciones (deepfakes) y la prueba”, explicando cómo estas herramientas de manipulación audiovisual pueden afectar la valoración judicial de la evidencia y la credibilidad de los testimonios. La vulnerabilidad y la protección de las personas ante los algoritmos serán analizadas por Elisa Simó, también profesora de la UV, en su ponencia ‘Vulnerabilidad algorítmica y tutela judicial’, donde abordará cómo los sistemas automatizados pueden reproducir desigualdades o sesgos que afectan al derecho a un proceso justo.

La segunda sesión del viernes estará centrada en la protección de los derechos fundamentales en entornos digitales. La vicedecana de Criminología de la UCV Silvia Sempere centrará su intervención en la victimización digital de menores de edad, mientras que la profesora de la UV Elena de Luis explorará los retos que plantea la detección e investigación del abuso sexual infantil en internet.

Raquel Borges (UV) explicará cómo la digitalización de la prueba preconstituida puede afectar al derecho de defensa, y Ana Isabel Blanco (UV) reflexionará sobre el edadismo en el uso de aplicaciones inteligentes. Desde la Universidad de Córdoba, María José Catalán cerrará las ponencias temáticas con una intervención sobre la vulnerabilidad de las personas ante la digitalización de la justicia, un tema clave para garantizar un acceso equitativo a los sistemas judiciales digitales.

Cerrará el encuentro (viernes 31, 13.30 h.) el presidente de la Agencia Española de Protección de Datos, Lorenzo Cotino, catedrático de Derecho Constitucional de la UV, titulada ‘La prevención de los sesgos y la discriminación en el uso público de inteligencia artificial’. Cotino reflexionará sobre la necesidad de desarrollar políticas públicas y marcos normativos que garanticen la transparencia, la equidad y la rendición de cuentas en el empleo de la inteligencia artificial por parte de las administraciones.