Suplantación y alteración digital del emisor en las deepfake

Los deepfake son un fenómeno comunicativo emergente, producto de una tecnología que recrea lo hiperreal con su capacidad de sustituir lo verdadero y confundir a nuestros sentidos. Están transformando la recepción de los mensajes, generando debates y cuestionamientos políticos, éticos, mediáticos y legales, y han socavado la veracidad y confiabilidad de los productos audiovisuales.

Un deepfake, de acuerdo con Jacob Bañuelos (2020, pág. 53), es “la imagen manipulada digitalmente para modificar su contenido audiovisual y/o sonoro para presentarlo como auténtico, cambiando el rostro de un personaje en lugar de otro, o el cuerpo y/o alterando el audio o el discurso oral del mismo”; es decir, son videos modificados que permiten intercambiar los rostros de una persona a otra, así como controlar los gestos y las palabras de alguien más suplantando su identidad, y recreándolo de tal manera que no es sencillo percibir si el video es real o falso.

Lo anterior es posible gracias al desarrollo de software disponible en la red para adulterar videos. Esto puede realizarse en computadoras personales con algoritmos descargables de manera gratuita e, incluso, se encuentran en la red con tutoriales para usarlos. Dicha tecnología consiste en una inteligencia artificial que, a partir de material visual y sonoro recabado (como fotografías o grabaciones), genera un algoritmo que recrea los rostros y puede reemplazar la cara de otra persona con un alto grado de verosimilitud (Cerdán y Padilla, 2019, pág. 506).

Los primeros deepfakes surgieron en 2017 y consistieron en videos pornográficos en los que a las actrices originales se les agregaron los rostros de celebridades como Gal Gadot, Maisie Williams y Taylor Swift. También se provocó una enorme controversia cuando, supuestamente, el expresidente Barack Obama llamó dipshit (idiota) al mandatario Donald Trump, en un video publicado por el actor y director de cine Jordan Peele en la plataforma Reddit en 2018, con el objetivo de crear conciencia sobre el peligro de compartir en las redes información no verificada.

En primera instancia, lo que pretenden los deepfakes es suplantar al agente comunicativo mediante la combinación y superposición de imágenes, videos y voces, pero es más que un efecto especial generado por computadora (Computer Generated Imagery, cgi), como los usados en las películas y series con el fin de convencer al espectador de que una ilusión es verdadera. Por citar uno de muchos ejemplos, se sustituyó el rostro de la fallecida actriz Carrie Fisher en su papel de una muy joven princesa Leia en la cinta Rogue One (2016); sin embargo, por más real que parezca, se sabe y asume que sólo es una recreación digital.

En realidad, el deepfake va más allá, porque reemplaza lo real, sustituye al otro y pretende ser lo auténtico para generar desinformación. Así, “son transformaciones narrativas y discursivas hechas con imagen, texto escrito y sonido, significa un trastocamiento de los valores de estos soportes como documentos de certificación de realidad y veracidad” (Bañuelos, 2020, pág. 53). De este modo, transforma la práctica comunicativa a partir de que se sustituye al emisor, con lo que además de corromper la credibilidad de los textos informativos, degrada al emisor físico, antes considerado la fuente primaria y agente insustituible en la codificación y decodificación de los mensajes, al punto que los sentidos ya no bastan para verificar lo anterior ante las alteraciones digitales hiperreales.

Podemos afirmar que este fenómeno es la forma más sofisticada e incisiva de las estrategias de desinformación, entendida, como señala Wardle, de ser cualquier contenido informativo falso que se haya creado y difundido de forma deliberada, generalmente con el fin de provocar algún daño (citado en Alonso, 2019, pág. 31-32).

El origen de los deepfakes se encuentra en la manipulación que, desde hace muchos años, se realiza con las fuentes informativas. Un antecedente sería la modificación de fotografías, sobre todo en los campos del fotoperiodismo y la propaganda política. Durante un gran periodo, a la fotografía se le consideró una prueba incuestionable de lo verdadero, porque representaba fielmente un fragmento de la realidad captada por la cámara, aunque pronto empezó a ser falseada mediante diversas técnicas.

Entonces, el sitio de la fotografía, como evidencia de lo auténtico, fue ocupado por los productos audiovisuales que combinaban imagen, sonido y voz, lo que daba mayor certeza de la realidad a partir de lo mostrado en pantalla, ya fuera un noticiero o un documental. Si bien son susceptibles de sufrir adulteraciones en su contenido mediante “recreaciones” deformadas de un suceso, trabajos de edición y, recientemente, mediante las herramientas digitales, se consideran más apegadas a los hechos. No obstante, el deepfake ha puesto en entredicho su virtud como prueba de lo real, al demostrar lo fácil que es alterar a cualquier emisor o personaje audiovisual de forma cada vez más sencilla y convincente. Esto genera incertidumbre sobre la veracidad de lo difundido, y se ha convertido en la forma más refinada de desinformación. Todo ello entraña cambios en los paradigmas comunicativos.

Por otra parte, el mismo emisor en los medios cibernéticos ha mutado, ya que pasó del anonimato del chat a la creación de perfiles falsos, y de adoptar avatares simulados con figuras de caricaturas o imágenes de otras personas, al embellecimiento físico con diversos filtros digitales. Ahora la suplantación ha llegado a su punto máximo y ser absoluta: es posible ser otro, engañar a los demás, borrar la diferencia con alguien más y recrearlo, algo cada vez más difícil de distinguir para los espectadores.

Al recrear de forma digital al otro, al emisor, se tergiversa la fuente de los mensajes, con lo que se rompe la certeza de su origen. El cuestionamiento, ¿qué dijo (o hizo)?, ha pasado a ser ¿realmente lo dijo (o hizo)? Asimismo, el ¿quién lo dijo (o hizo)?, se ha convertido en ¿realmente quién lo dijo (o hizo)? Es una alteración de los pactos de lectura y la reconfiguración de los mensajes, así como en la relación establecida con personajes, objetos y fuentes informativas (Bañuelos, 2020, pág. 53). Este cambio del emisor puede implicar diversos efectos, desde provocar una controversia social hasta impulsar una crisis política, porque la alteración del otro repercute, necesariamente, en el falseamiento del mensaje.

El deepfake, por lo tanto, tiene diversos propósitos, como se anota en el siguiente cuadro.

Además, al ser un producto del desarrollo tecnológico, los deepfake se apoderan de las redes y, de acuerdo con Marián Alonso (2019, pág. 32-35), se comparten con gran celeridad por algunas de sus características: 

1. Se producen y difunden en un sistema informativo descentralizado que acelera la velocidad en la transmisión de los mensajes.
2. Por los recursos digitales existentes, se presenta mayor facilidad de producir contenido susceptible de ser modificado.
3. Una amplitud geográfica prácticamente universal.
4. Anonimato que hace muy complicado identificar a los creados de un deepfake.
5. Creación constante y masiva de mensajes, lo que dificulta verificar su veracidad.

Así, en las redes informativas, al contrario de los medios tradicionales donde el agente creador era fácilmente identificable, ahora se difumina la figura del emisor al ser sustituido por reenvíos y el acto de compartir y distribuir un video de forma instantánea, todo esto sumado a una enorme capacidad de viralización en los distintos dispositivos tecnológicos, sin importar su veracidad o falsedad.

En este sentido, es posible aseverar que:

Cabe agregar que, si bien se enfocan en personajes influyentes, como políticos o estrellas mediáticas, también pueden involucrar a cualquier persona que aloje fotografías y videos en sus redes sociales, que logran ser sustraídos y trabajados con algún programa. En este caso, existe una apropiación absoluta de nuestra imagen e identidad, ya que seríamos desplazados por medios digitales y una tecnología capaz de imitar el timbre de voz a partir de una muestra de la voz original. 

Dicha suplantación, evidentemente, provocaría daños en la autoestima, generaría vulnerabilidad emocional e, incluso, pondría en riesgo la seguridad personal; si el video se viraliza, incidiría en la pérdida de la intimidad (aunque sea falsa) y del sentido de identidad, afectaría la autoestima y sería complicado revertir la percepción social que el deepfake y el emisor digitalmente adulterado pudiera provocar. Esta sustitución completa demuestra, como afirma el epígrafe de este trabajo, que “tu cara ya no es más tuya”.

Para concluir, en esta época de incertidumbre informativa, “la puesta en duda de cualquier documento audiovisual es consecuencia de la normalización de la falsedad como discurso” (Bañuelos, 2020, pág. 57); situación agravada por los deepfake. A fin de cuentas, no son la causa de la desinformación sino un reflejo de las prácticas de la posverdad, la reconstrucción de lo real y la suplantación del agente comunicador, lo que obliga a crear nuevas formas de lectura, ya no sólo de los mensajes, también de los propios emisores y su probable falsificación.