La pendiente del tobogán del internet aumenta todos los días, convirtiendo lo que antes era un paseo bastante tranquilo en el juego más peligroso del mundo.
Esta semana, quién sabe si como respuesta a la posición de Facebook sobre la información falsa, apareció en las redes un deepfake con la cara de Mark Zuckerberg. En el video, el cerebro detrás de Facebook habla sobre el poder de la red social en nuestras vidas.
“Imagina esto por un segundo: Un hombre, con control total sobre los datos robados de billones de personas. Todos sus secretos, sus vidas; sus futuros”, dice el clon de Zuckerberg. “Se lo debo todo a Spectre, Spectre me mostró que quien quiera que controle la data, controla el futuro”.
Con el crecimiento y auge del big data también ha cambiado el nombre del recurso de mayor valor en el mercado. ¿El coltán? Demasiado complicado. ¿El oro? Anticuadísimo. ¿El diamante, el tritio y el plutonio? No… nada de eso. El futuro está en los datos. La data es minable, modificable y además, puede usarse como combustible en cualquier algoritmo. ¿Lo mejor del caso? Todavía no hay suficiente legislación a su alrededor como para controlar los mecanismos que se usen para obtenerla.
Lee también: China: El Gran Hermano del siglo XXI
Uno de los usos más peligrosos de la data, que se ha descubierto hasta ahora, son los deepfakes. La palabra deepfake es una contracción del término “deep learning”, que esencialmente implica que las máquinas aprenderán a través del ejemplo; y fake, que es igual a falso.
Los deepfakes pertenecen a una categoría de la inteligencia artificial llamada «Generative Adversarial Networks» o GANs, en ellos dos redes neurales compiten para crear fotos o videos se parezcan a la realidad.
Un GAN necesita dos elementos: un generador, que crea un nuevo set de datos –como un video falso–, y un verificador, que usa un algoritmo para sintetizar y comparar la nueva data con la del video original. El generador sintetizará el video falso y el verdadero tantas veces como sea necesario para que el verificador no pueda distinguir la data original de la nueva.
Para crear un deepfake no es necesario saber de inteligencia artificial; de hecho ya existe FakeApp, una herramienta desarrollada por un usuario de Reddit que usa los algoritmos necesarios para intercambiar rostros en fotos y videos. En la práctica, el deepfake tiene numerosos seguidores; sobre todo después del boom de porno que trajo consigo. Hasta su prohibición en 2018, el subreddit de deepfakes fue el hogar de muchísimos videos que superponen las caras de Gal Gadot o Emma Watson dándolo todo en escenas de porno hardcore.
Susan Sontag escribió en Sobre la fotografía que “una fotografía es una prueba incontrovertible de que algo pasó.” Claro, en ese ensayo también se explica que una foto fácilmente puede tergiversar una situación; pero ¿las fotos están obligadas a mostrar objetos reales?
Esa suposición abre nuevos horizontes en las reglas del juego. Por ejemplo, si un video de seguridad muestra a una persona X cometiendo un crimen, éste fácilmente será considerado como una prueba incontrovertible de su culpabilidad. Pero conforme la tecnología y los algoritmos se perfeccionan, fácilmente podríamos estar en una situación donde el inocente puede ser inculpado y el culpable tiene un nuevo ayudante a la hora de establecer su coartada o al menos, crear una duda razonable.
Uno de estos videos en el momento adecuado podría ser el desencadenante perfecto en esta época tan polarizada. De hecho, esto no es tan descabellado como parece; un deepfake del presidente de Gabón publicado una semana antes de un golpe fallido, agudizó las tensiones en la nación africana el año pasado.
¿Quieres probar los efectos de los deepfakes? Entra a este sitio web y cuéntanos si puedes identificar cual de todas las fotos es la falsa.
Hace unas semanas, Facebook estuvo en el ojo del huracán por negarse a sacar de circulación un video de un video de la Presidenta de la Cámara de Representantes de Estados Unidos que claramente había sido manipulado. En ese momento Neil Potts, director de políticas públicas de Facebook, respondió a un periodista que si alguien publicara un video manipulado de Mark Zuckerberg, la empresa reaccionaría de la misma forma que lo hizo con el video de Nancy Pelosi.
Ahora que el deepfake de Zuckerberg lo ha identificado como el gran villano de esta historia, implicando que es él quien tiene el control de los datos de billones de personas, ¿mantendrán su palabra?