Deepfakes, la amenaza de la que nadie está a salvo.

Hace ya tiempo en https://ichavarria.es/detectar-deepfakes-el-proximo-objetivo-de-facebook/ hablaba del peligro de esta tecnología, vamos a darle otra vuelta hoy porque el avance ha sido tan determinante como su peligro.

Habreis visto un vídeo muy popular en el que Jim Carrey reproduce a la perfección una de las escenas de Jack Nicholson en El resplandor. No es Jim Carrey ni una imitación impecable. Era un montaje, un deepfake elaborado mediante una serie de algoritmos denominados redes generativas antagónicas. Con esta tecnología La cara de Carrey ha sido superpuesta a la de Nicholson en las escenas de la película.

¿Que me decís, que vaya novedad? ¿Que eso se hace todos los días en películas y anuncios? ¿que se están resucitando con esta tecnología a actores y personajes muertos? ¿que hasta Obama ha sido suplantado?, Pues tenéis razón, nada de esto es nuevo, todo ha empezado hace poco y corre como la pólvora y evoluciona.

Su capacidad de cambio es muy superior a nuestra capacidad de adaptación y aprendizaje. Y es en ese desfase donde casi todos picamos el anzuelo.

Hace poco la Comisión Federal de Comercio de Estados Unidos reunió a un grupo de expertos para advertir sobre el peligro de los deepfakes de voz. Hoy en día la clonación de voz es prácticamente indetectable y utilizada en estafas de grandes cantidades de dinero.

Los vídeos de los que hablaba antes, en los que vemos la cara de otra persona diciendo algo que no ha dicho han evolucionado a los deepfakes de cuerpo entero. Data Grid, una compañía Japonesa, ha desarrollado un algoritmo capaz de generar, a partir de la nada, personas que no existen.

Con esta tecnología alimentada por IA cualquiera puede editar un vídeo con la persona que nosotros queramos, exista o no y de cuerpo entero, haga y diga lo que nosotros programemos.

Icons8, compañía Argentina, incluye en su catálogo online la posibilidad de añadir a los vídeos o fotos promocionales de tu empresa los personajes étnicos que necesite. Que le hacen falta unos cuantos asiáticos, más mujeres y algunos negros o latinos, ellos te lo proporcionan con personajes virtuales.

Lo más preocupante y peligroso es que cualquiera pueda encargar el deepfake que desee, del personaje que desee y que haga y diga lo que desee.

Deeptrace Labs, empresa encargada de detectar estos vídeos falsos en internet, publicó un estudio hace unos meses en el que descubrimos un dato alarmante: el 96% de los deepfakes que hay en la web consisten en vídeos de alguna mujer, conocida o anónima, real o irreal, realizando una práctica sexual no consentida.

La velocidad con la que se avanza en esta tecnología ha eliminado intermediarios. Es decir, ahora que está al alcance de todos nosotros elaborar un deepfake a la carta.

Podemos hacer que nuestro/a ex aparezca haciendo algo humillante y lanzar esa basura a Internet. Puede ser un compañero de trabajo que nos caiga mal, nuestro jefe, un vecino o nosotros mismos. Nadie está a salvo ahora y mucho menos lo estaremos cuando esta tecnología llegue al ciudadano de calle sin conocimientos técnicos. Y te aseguro que llegará.

Debemos aprender a interpretar la realidad digital, poner cualquier vídeo sospechoso en cuarentena hasta averiguar si es auténtico o no. Por otro lado la tecnología debe luchar contra la tecnología y desarrollar a la misma velocidad los contra- deepfakes que se desarrollan los deepfakes. Poner a la IA a luchar contra los hijos de la IA.

Ver tambien

Metálico y plegable, el material que podría revolucionar la robótica en los próximos años.

Cuando diseñamos un robot, uno de los primeros parámetros que debemos resolver es si la …