El video falso de Macri pone en debate los límites de la IA: especialistas correntinos opinan sobre qué hacer

Mucho se dijo sobre el falso video en que el líder de PRO, Mauricio Macri, anuncia su decisión de bajar la candidatura a legisladora porteña de Silvia Lospennato, a horas de las elecciones del 18 de mayo en la ciudad de Buenos Aires. 

El video era obviamente falso no solo porque hay elementos de la inteligencia artificial (IA) delatores, sino porque el discurso de Macri es absolutamente inverosímil si se tiene en cuenta la ley, que establece plazos estrictos para el proceso electoral y cómo resolver el caso de renuncia a una postulación.   

En este caso, Lospennato era la primera candidata de una lista de 30, por lo que bajar su postulación, como dice el video, no es bajar la lista completa de Buenos Aires Primero.  

Está claro que el Macri que aparece en el video no es el Macri real, aun cuando las dificultades para expresarse en forma oral se corresponden con la realidad. 

La imagen de una boca que se mueve en forma descompasada con el mensaje es reveladora de que se trata de un video fake, aun cuando el Macri real evidencia un desapego flagrante por el correcto español.  

Se trata de un deepfake, un video generado con tecnología basada en IA, con el objetivo de crear secuencias falsas pero realistas, en las que se busca modificar la apariencia física e incluso la voz de las personas y hacerles decir o hacer algo que nunca dijeron o hicieron , explica Chequeado.

El término deepfake proviene de la combinación de las expresiones deep learning (aprendizaje profundo, en inglés) y fake (falso, en inglés), y denota, justamente, algo falso que es resultado de la tecnología de aprendizaje profundo.

El de Macri fue viralizado por usuarios de X como @TommyShelby_30, @ElTrumpista, @jdoedoe101101 y @MileiEmperador, y en él se ve a Macri diciendo: "Quería contarles que tomé la decisión de bajar la candidatura de Silvia Lospennato (...) Por eso te pido que este domingo vayas a votar por Manuel Adorni", el candidato de LLA.

"Si bien tuve diferencias con el presidente, ustedes bien saben que siempre voy a defender la república y las instituciones", aclara y agrega: "Cuando vayas a votar, por cuestiones técnicas y de tiempo, la lista de Silvia seguirá apareciendo en la pantalla. Por eso este mensaje".  

"Se trata de un intento de fraude electoral, que busca confundir al electorado utilizando artilugios que pueden ser interpretados como reales por parte de la audiencia. La gravedad del episodio queda clara al saber que quienes publicaron el video son personas del círculo más íntimo de La Libertad Avanza" , denunció Macri.

"Bajeza institucional"

Sebastián Ferreyra Negri, docente de la Universidad Nacional del Nordeste (UNNE), dijo que "las noticias falsas, que son la tendencia que se viene, deben interesar a todas las fuerzas políticas, pero salieron a matarse de risa. Ese video tiene todo un metamensaje, un posicionamiento y un direccionamiento a un voto útil". 

"Eso está craneado claramente por personas que están recibiendo fondos públicos para intereses personales. Es un momento en que se debió convocar e involucrar todo el arco electoral, si nada tiene que ocultar el candidato del oficialismo debió manifestarse también indignado con el video" , dijo el profesor de la Facultad de Derecho, en diálogo con UNNE Medios .

El docente se refirió a cómo se minimizó la difusión del video por parte del gobierno libertario, adjudicándole a Macri una extrema "sensibilidad". Milei dijo: "Está hecho un llorón".  

"Si no existen reglas justas y el comportamiento no va a ser bajo el principio de buena fe, si la trampa va a ser la vedette y nos vamos a reír del derrotado, vamos a entrar en una bajeza institucional que no recuerdo que se haya vivido en tiempos democráticos" , advirtió Ferreyra Negri.

"No podemos limitar la tecnología, pero sí conducirla éticamente y crear condiciones de seguridad para los ciudadanos. El foco ahora es Macri, pero hay muchos casos de menores expuestos a estos delitos.  Se hace muy fácil difamar, y hacer crecer algo que no es real", opinó Naylan Faisal Marottoli, abogada experta en derecho digital y protección de datos, en declaraciones a Radio UNNE.

"Actualmente existe la ley de protección de datos personales, un poco desactualizada, pero nos sirve; tenemos la de violencia de género digital. Estas normativas pueden contribuir, pero no hay una que diga que esto es un delito tipificable como delito penal , que incurre en la ausencia de integridad moral para los videos difundidos sin consentimiento", aseguró la abogada.

Qué mirar

El MIT Media Lab, un laboratorio de la Escuela de Arquitectura y Planificación en el Instituto de Tecnología de Massachusetts (MIT, por su sigla en inglés), aconseja prestar atención a la cara de quien aparece en el video, en especial los ojos para detectar, por ejemplo, si la persona parpadea demasiado o muy poco. Esto es lo que ocurre en el caso del video fake de Macri. Su voz, además, está ralentizada. 

La circulación de estos contenidos hechos con IA generó la presentación de una denuncia formal por parte de Ezequiel Jarvis y Matías Giampaolo, apoderados de la alianza electoral Buenos Aires Primero, que encabezó Lospennato.

Tras la denuncia, el Tribunal Electoral de la Ciudad de Buenos Aires emitió una resolución en la que ordena retirar las publicaciones de la red social X.  Los jueces Roberto Requejo, Romina Tesone y Rodolfo Ariza Clerici señalaron que "la lista de la Alianza ‘Buenos Aires Primero’ y la candidatura de Silvia Lospennato se encuentran vigentes" y que, "por lo tanto, la circulación del contenido denunciado, al inducir a error, podría afectar el ejercicio libre e informado del voto por parte de los electores".

Cómo identificar un deepfake

Lo peligroso del deepfake es su uso para promover desinformación, discursos de odio e interferir en elecciones. Estos son algunos consejos para identificarlo, según Chequeado:

1. El diablo está en los detalles. Para saber si un video fue creado con IA se recomienda afinar el ojo y buscar detalles. Esto fue lo que se hizo arriba con los videos de Macri y Lospennato. 

2. Volver a las fuentes. Si se encuentra con un video cuya autenticidad genera dudas, un buen primer paso es buscar su fuente original. En estos casos no la había.

3. Chequear las cuentas de los involucrados. Ambos políticos del PRO habían desmentido rápidamente los contenidos.

4. Observar el ecosistema digital. Identificar quiénes son las cuentas que están tuiteando los videos, con qué sentido y si repiten los copies en sus mensajes. Todos los usuarios, en este ejemplo, apuntaban a que se vote a Adorni en las elecciones del domingo 18.

5. La lectura crítica no pasa de moda. La desinformación puede tomar distintos formatos, pero algo que siempre tiene en común es que apela a nuestros sentimientos o emociones más que a nuestra razón. 

F. P.
Redacción