O presidente francês Emmanuel Macron descobriu a notícia da sua suposta destituição depois de ter recebido uma mensagem de preocupação, juntamente com um link para um vídeo no Facebook.

“No domingo, 14 de dezembro, um dos meus homólogos africanos entrou em contacto e escreveu: “Caro Presidente, o que é que lhe está a acontecer? Estou muito preocupado'”, disse Macron aos leitores do jornal local francês Provença a 16 de dezembro.

Juntamente com a mensagem do seu homólogo vinha um vídeo bastante convincente em que mostrava um helicóptero a rodopiar, militarese multidões a juntarem-se, enquanto uma mulher – que se parece com uma Quem de notícias – vai falando para a câmara.

“Relatórios não oficiais sugerem que houve um golpe de Estado em França, liderado por um coronel cuja identidade não foi revelada, juntamente com a possível queda de Emmanuel Macron. No entanto, as autoridades não emitiram uma declaração clara”, afirma.

A verdade é que que nada neste vídeo era autêntico e foi criado com IA.

Depois de ter descoberto o vídeo, Macron pediu ao Faros (Plataforma de Harmonização, Análise, Cruzamento e Orientação de Relatórios) Plataforma policial francesa que indica o conteúdo ilícito on-line que contactasse a Meta, a empresa-mãe do Facebook, para que o vídeo falso fosse retirado.

O pedido foi recusado, uma vez que a plataforma alegou que o vídeo não violava as suas “regras de utilização.”

O presidente francês decidiu então tomar a seu cargo a tarefa de garantir a sua remoção.

“Tenho tendência a pensar que tenho mais poder para exercer pressão do que as outras pessoas”, disse Macron. “Ou melhor, que é mais fácil dizer que algo é grave se for eu a telefonar, mas não funciona.”

“Estas pessoas estão a gozar connosco”, acrescentou. “Não se preocupam com a serenidade dos debates públicos, não se preocupam com a democracia e, por isso, estão a pôr-nos em perigo.”

O que está por trás desses vídeos falsos?

O vídeo original, que rapidamente acumulou mais de 12 milhões de visualizações, foi originalmente publicado por uma conta do Facebook chamada “Islam”, que, apesar do nome, não publica conteúdos religiosos.

O adolescente que gere a conta vive no Burkina Faso e ganha dinheiro a dar cursos sobre como rentabilizar a IA.

O vídeo acabou por ser retirado mais de uma semana após a sua publicação inicial, devido à controvérsia política e pública.

A equipa de verificação de factos da Euronews, “O Cubo”, tentou contactá-la através do número indicado na sua conta do Facebook em várias ocasiões, mas até agora as nossas chamadas ficaram sem resposta.

Em alguns vídeos, os pivôs de notícias gerados por IA podem ser vistos a segurar um microfone com o logotipo da Rádio França Internacional (RFI), o braço internacional da rádio pública francesa.

Alguns vídeos têm a marca de água “Sora”, o que sugere que grande parte deste conteúdo foi provavelmente produzido com esta tecnologia.

O Sora 2, uma tecnologia criada pela OpenAI – a mesma empresa que fundou o Chat GPT – permite aos utilizadores gerar vídeos hiperrealistas com 10 segundos de duração a partir de instruções de texto.

Embora outros vídeos não apresentem este logótipo, é possível removê-lo durante a pós-produção.

Desde o seu lançamento em outubro, a tecnologia tem provocado controvérsia, levando a uma proliferação de vídeos com IA altamente sofisticados e difíceis de discernir nas redes sociais.