La Facultad de Magisterio y Ciencias de la Educación de la Universidad Católica de Valencia (UCV) ha celebrado en la sede Edetania el seminario ‘Los sistemas educativos ante el reto de la inteligencia artificial y las redes sociales’, enmarcado en las actividades de la Semana de la Ciencia, donde especialistas en filosofía, pedagogía, sociología y educación analizaron cómo la inteligencia artificial y las redes sociales están transformando el ámbito formativo. Entre los ponentes del seminario se ha encontrado el profesor de la UCV Carlos Martínez Herrer, catedrático de Enseñanzas Medias, que ha afirmado en su intervención que “la inteligencia artificial ha llegado para cambiar todo el sistema educativo”.

En opinión de Martínez Herrer, “la aparición de ChatGPT ha producido una revolución en nuestras aulas y lo primero que hay que tener claro es que la inteligencia artificial generativa ha venido para quedarse. Por tanto, como herramienta que es, tenemos que utilizarla, pero hacerlo bien. Y, para usarla de manera adecuada, debemos integrar en nuestra cultura de educadores, de maestros, la prevención ante los peligros del entorno digital”, ha asegurado”.

“Pongo un ejemplo de hoy mismo. Mientras corregía unos ejercicios sobre estilos docentes de una clase en la que tengo más de 70 alumnos, me he encontrado con que tres de esos trabajos no contenían referencia alguna a los autores que hemos trabajado este curso. Estos tres estudiantes le han pedido a una IA generativa, probablemente a ChatGPT, que les hiciera una redacción de 500 o 600 palabras sobre estilos docentes, con un tono determinado, etcétera. Éste es un mal uso de la inteligencia artificial, porque ahí no se ejercita la inteligencia natural. Ni siquiera se han leído el temario para darse cuenta del fallo que había sus textos”, ha explicado.

Los riesgos más importantes del entorno digital en la educación

Martínez Herrer ha recordado que “cada vez habrá más herramientas educativas basadas en IA y cada vez serán más potentes; desde las que ayuden con la programación o la atención a la diversidad hasta las que sirvan para generar actividades o realizar cambios de formato, de una presentación de Power Point a un texto de Word, por poner un caso. Por esta razón es necesario que los estudiantes estén muy bien formados en el uso de la IA, también en el plano ético, por supuesto”.

Desde un punto de vista “estrictamente penal o jurídico”, el profesor de la UCV ha señalado que “el primer riesgo de la IA generativa es la responsabilidad civil por daños causados a través de su uso”. Otro muy importante es el de la “discriminación algorítmica” y los “sesgos” en la IA, “que pueden llevarnos, por ejemplo, a reproducir estereotipos sexistas. Es fundamental analizar el programa con el que trabajamos y revisar los resultados”.

“Hay que tener mucho cuidado también en términos de ciberseguridad y ataques informáticos. La IA no deja de ser una ventana que entra en tus dispositivos, en tu vida personal, a la que le estás dando acceso. Atentos a lo que compartís en redes sociales, entre otros ámbitos del entorno digital. Hemos de ser conscientes de que la IA es una herramienta potentísima para cargarse nuestra intimidad, dejando desprotegidos nuestros datos personales. Conozco muchos casos. Entre ellos, el de una mujer, en concreto, a la que han hackeado sus datos sólo con el DNI y la han casado con una persona de Marruecos”, ha indicado.

El catedrático de Enseñanzas Medias ha querido llamar la atención, además, sobre el delito o infracción administrativa grave para la Agencia Española de Protección de Datos, en los que se puede caer al “colgar algo que contenga datos personales de terceros” y sobre “los delitos de odio y contra la integridad moral”, por ejemplo, “humillando o menospreciando a una persona” en un chat público: “Mucho ojo con las injurias y las calumnias. Cuidado con reenviar o repetir textos, vídeos de otros, sobre los que no hemos realizado un análisis suficiente acerca de su veracidad”.

Asimismo, Martínez Herrer ha subrayado el peligro que existe en el mundo digital alrededor de la “propiedad intelectual”, pues, “en muchas ocasiones, profesores y estudiantes utilizan materiales online, creados o no con IA” que poseen una autoría intelectual, como si estuviéramos fotocopiando un libro, y no somos conscientes de que podemos ser demandados por sus creadores”.

“La IA tiene en común con las redes sociales también el riesgo de la desinformación y la manipulación de la opinión pública. El otro día mis hijos hicieron un vídeo generado por inteligencia artificial de un ladrón que robaba en nuestra casa. Parecía un vídeo totalmente real. Hay que estar atentos también a las llamadas telefónicas de spam, que pueden utilizarse para grabar el tono, timbre e intensidad de nuestra voz”, ha advertido.

IA y redes sociales desde una perspectiva ética y pedagógica

Por otra parte, el profesor de la Universidad de Valencia (UV) Pedro Jesús Pérez ha pronunciado al inicio del seminario la conferencia ‘Las redes sociales como entorno digital ético’, en la que ha analizado el impacto moral y social de la actividad digital y la necesidad de construir espacios comunicativos responsables ante la creciente polarización en internet.

El seminario ha contado también con las aportaciones de los profesores de la UCV Carlos Novella, Alexis Cloquell -quien ha abordado los desafíos sociales relacionados con las migraciones, la vulnerabilidad y el cambio climático-; y Juan Antonio Giménez, que ha el desarrollo de competencias docentes ante los actuales cambios socioculturales y tecnológicos.

La jornada concluyó con un espacio de diálogo con el público asistente en el que los participantes coincidieron en la importancia de afrontar los retos de la IA y las redes sociales desde una perspectiva ética y pedagógica, orientada a fortalecer la calidad y la equidad de la educación.