Il Nuovo Postiglione - IA ameaça aumentar desinformação na corrida à Casa Branca em 2024

Apoiadores republicanos e democratas estão utilizando ferramentas avançadas baseadas na IA, o que muitos especialistas em tecnologia consideram uma faca de dois gumes.

Esta inteligência artificial generativa é capaz de clonar rapidamente a voz de uma figura política e criar vídeos e textos tão verossímeis que os eleitores podem ter dificuldades para compreender o que é real e o que é falso, ao mesmo tempo que colocam em risco a confiança no processo eleitoral.

A ferramenta, entretanto, provavelmente será utilizada pelas campanhas para aumentar sua eficiência operacional, desde a análise de bases de dados de eleitores até a criação de e-mails para a arrecadação de fundos.

Um vídeo divulgado em junho pela campanha presidencial do governador da Flórida, Ron DeSantis, supostamente mostrava o ex-presidente Trump abraçando Anthony Fauci, um importante membro do grupo de trabalho americano sobre o coronavírus. A equipe de verificação digital da AFP descobriu que o vídeo usava imagens geradas por IA.

Depois que Biden anunciou formalmente sua candidatura à reeleição, o Partido Republicano publicou em abril um vídeo gerado pela IA que supostamente retraria "o possível futuro do país" caso o democrata fosse reeleito. As imagens mostravam pânico em Wall Street, a China invadindo Taiwan, ondas de imigrantes esmagando agentes da fronteira e a cidade de San Francisco tomada por militares diante da escalada da criminalidade.

Outras exemplos deste tipo de criação digital relacionados à corrida eleitoral incluem fotos falsas de Trump sendo preso por agentes da polícia de Nova York e um vídeo de Biden anunciando um recrutamento militar nacional para apoiar a Ucrânia na guerra contra a Rússia.

- "Oeste selvagem" -

"A IA generativa ameaça impulsionar campanhas de desinformação online", afirmou a organização sem fins lucrativos Freedom House em um relatório recente, alertando que esta tecnologia já estava sendo utilizada para difamar adversários eleitorais nos Estados Unidos.

"Os propagadores de desinformação estão empregando imagens, áudio e texto gerados por IA, fazendo com que a verdade seja mais fácil de distorcer e mais difícil de discernir", completou.

Mais de 50% dos americanos estimam que conteúdos falsos gerados por esta ferramenta podem influenciar o resultado das eleições de 2024, de acordo com uma pesquisa publicada em setembro pelo grupo de mídia Axios e pela empresa de inteligência empresarial Morning Consult. Cerca de um terço dos cidadãos dos EUA afirmou que confiará menos nos resultados por causa da IA, de acordo com o estudo.

Diante deste cenário, especialistas alertam que tais sentimentos podem reviver a revolta contra o processo eleitoral, desencadeando atos como a invasão ao Capitólio por apoiadores de Trump em 6 de janeiro de 2021, devido a falsas acusações de que as eleições de 2020 foram fraudadas.

"Através de modelos (IA) fáceis e baratos de usar, enfrentaremos um oeste selvagem de reivindicações e reconvenções de campanha, com uma capacidade limitada de distinguir material falso do real e incerteza sobre como esses apelos afetarão a eleição", disse Darrell West, da Brookings Institution.

- "Revolucionário" -

Paralelamente aos riscos, o rápido avanço da IA a transformou em um recurso "revolucionário" para entender comportamentos dos eleitores e tendências de campanhas a um "nível muito detalhado", afirmou Vance Reavie, CEO da Junction AI.

Antes de seu advento, equipes de campanha contratavam consultores caros para desenvolver planos de divulgação e passavam horas escrevendo discursos, pontos de discussão e publicações nas redes sociais, mas a IA possibilitou que estas tarefas fossem resolvidas em um tempo muito menor, explicou Reavie.

A AFP fez uma simulação em que pediu ao ChatGPT para que criasse um boletim de campanha pró-Trump, alimentando-o com declarações falsas do ex-presidente desmentidas por equipes americanas de verificação digital. A ferramenta então produziu, em questão de segundos, um documento de campanha inteligente com estas mesmas falas.

Quando a AFP pediu ao chatbot que tornasse o boletim mais "agressivo", este divulgou as mesmas declarações em um tom mais apocalíptico.

As autoridades estão correndo para estabelecer barreiras de proteção para a IA, e vários estados americanos, incluindo Minnesota, aprovaram leis para criminalizar desinformações destinadas a prejudicar candidatos políticos ou influenciar eleições.

Na segunda-feira (30), Biden emitiu um decreto para promover o uso "seguro e confiável" da Inteligência Artificial.

"Deepfakes usam áudio e vídeo gerados por IA para difamar reputações, espalhar notícias falsas e cometer fraudes", disse o democrata ao assinar a ordem executiva.

Ele expressou preocupação de que os golpistas pudessem fazer uma gravação da voz de alguém para gerar um áudio falso. "Eu vi um dos meus (...) disse a mim mesmo: 'Quando diabos eu disse isso?'", completou.

A.Ferrara--INP