¿Qué es el DeepFake y por qué lo trabajamos en el Día Internacional de Internet Segura?

Los avances recientes en Inteligencia Artificial (IA) han llevado a grandes desarrollos en técnicas de manipulación de audio, video e imágenes. El acceso a la computación en la nube con grandes recursos, los algoritmos de inteligencia artificial de investigación pública y los datos abundantes hacen posible que se puedan desarrollar proyectos y aplicaciones que antes estaban en manos de grandes especialistas. Hablamos de DeepFake.

Se puede definir una DeepFake como una técnica que usa la inteligencia artificial, más concretamente el aprendizaje profundo (DeepLearning) para crear imágenes de eventos falsos.

Aunque ahora lo vemos como una corriente inofensiva o incluso divertida en muchos aspectos, las DeepFakes pueden dañar a las personas, las empresas, la sociedad y pueden incluso acelerar la desconfianza en los medios de comunicación.

El impacto más insidioso de las DeepFake, junto con otros medios artificiales, es crear una sociedad de confianza cero, donde la gente no puede, o ya no se molesta en, distinguir la verdad de la falsedad. Y cuando la confianza se erosiona, es más fácil plantear dudas sobre eventos específicos.

No tenemos todavía digeridas las FakeNews y ahora otra corriente en Internet, intenta generar vidas paralelas gracias al avance de la tecnología. Debemos seguir fomentando ese pensamiento crítico ante este escenario digital, pero es verdad que cada vez se nos hace más complicado. Antes solo teníamos unas líneas de texto que nos podían contar algo sorprendente, pero a la vez totalmente falso, ahora ese texto también se alimenta en forma de imagen, video e incluso audio, no hace más que enriquecer y perfeccionar un único objetivo; engañar.

Poner palabras en la boca de otra persona, intercambiar la cara de alguien por otra y crear títeres digitales de personajes públicos para intimidar, humillar o chantajear, son acciones éticamente cuestionables y se debe ser responsable del daño potencial a las personas e instituciones.

Cuando se crea o distribuye una DeepFake nos debemos asegurar que sea de manera ética y las grandes plataformas digitales que proporcionan herramientas y recursos para crear este tipo de material de manera rápida y sencilla también deben tener esa obligación moral. Tenemos a nuestra disposición potentes herramientas para crear falsas realidades y debemos ser conscientes de donde se encuentra el límite.

Pero después de describir la parte peligrosa y dañina que puede generar el mal uso de las DeepFakes también debemos verlo desde la perspectiva del avance tecnológico. Algunos usos pueden ser muy útiles como la clonación de voces, la cual puede restaurar las voces de las personas cuando las pierden debido a una enfermedad, también los videos DeepFake pueden animar galerías y museos o incluso usar actores que fallecieron en películas actuales.

Desde un punto de vista educativo nos permitiría contextualizar una experiencia de aula dando vida a personajes históricos o permitiendo conversaciones imposibles. Todo esto nos puede dar escenarios de aprendizaje muy atractivos.

Todo avance de la tecnología se tiene que ver como una oportunidad de enseñar o introducir en el aula, solo tenemos que saber contextualizar y ver la tecnología como lo que es, una herramienta de aprendizaje que nos permite acercar al alumno a un conocimiento y porque no, a una realidad digital.

 

Jorge Calvo Martín

Profesor Edtech

ICT Head Colegio Europeo de Madrid