Imagine encontrar uma nova amiga nas redes sociais que compartilha seus valores políticos, mas ela não existe de verdade. Essa é a realidade perturbadora por trás da ascensão dos influenciadores pró-Trump gerados por IA, um fenômeno que está inundando plataformas digitais e levantando sérias preocupações sobre a integridade das próximas eleições americanas.
Com mensagens idênticas e gramaticalmente estranhas como “Sou nova aqui e amo Deus, a América e Trump!!”, esses avatares digitais se apresentam como cidadãos comuns, mas são criações de inteligência artificial destinadas a disseminar narrativas políticas específicas.
A Proliferação Silenciosa de Avatares Políticos
Nos meses que antecedem as eleições de meio de mandato nos EUA, centenas de contas surgiram nas redes sociais. Elas apresentam influenciadores pró-Trump gerados por IA, postando em ritmo acelerado sobre a “esquerda radical” e a “América em Primeiro Lugar”.
O The New York Times rastreou pelo menos 304 contas de IA compartilhando conteúdo pró-Maga (sigla para “Make America Great Again”) no TikTok desde janeiro. Pesquisadores da Universidade Purdue e da empresa Alethea identificaram dezenas de outras no TikTok, Instagram, Facebook e YouTube.
Alguns desses avatares já acumularam mais de 35 mil seguidores, e certas postagens ultrapassam 500 mil visualizações. O próprio ex-presidente Donald Trump chegou a repostar conteúdo de pelo menos uma dessas contas, que fazia acusações infundadas.
A maioria das contas analisadas pelo New York Times não estava identificada como gerada por IA, dificultando a distinção para o usuário comum.
Quem Está Por Trás e Quais os Riscos?
A identidade dos criadores dessas contas de IA permanece incerta, podendo ser desde conteúdo contratado até operações de influência estrangeira. Especialistas, no entanto, concordam que criar avatares digitais em massa está se tornando mais fácil e acessível.
O surgimento desses avatares políticos gerados por IA indica um esforço amplo para fisgar eleitores conservadores. Esse público já está preparado para aceitar memes, influenciadores e outras mensagens digitalmente empacotadas.
Não foram encontradas redes semelhantes de avatares gerados por IA com tendências esquerdistas. Isso sugere um foco específico na mobilização de um lado do espectro político.
“Eles estão tentando espalhar mensagens políticas e dar uma ilusão de consenso”, afirmou Andrew Yoon, da CivAI. A inundação de vídeos parece voltada a criar uma falsa sensação de opinião majoritária.
Táticas e Características dos Avatares de IA
- Aparência Variada: Avatares muito bonitos, com diferentes etnias e cores de cabelo, frequentemente em cenários comuns (autódromos, estádios).
- Mensagens Repetitivas: Legendas e falas idênticas, muitas vezes com erros gramaticais ou sotaques que mudam, como no caso do avatar repostado por Trump.
- Conexões e Padrões: Muitas contas estão conectadas, compartilhando imagens e efeitos sonoros idênticos, e vários avatares recorrentes aparecem em diferentes perfis.
- Adaptação: Algumas contas alteram a aparência de seus avatares ao longo do tempo, mudando características como cor do cabelo e dos olhos para talvez atingir diferentes públicos.
A criação de cada postagem com avatares pró-Trump pode custar entre US$ 1 e US$ 3. Isso mostra a viabilidade de uma operação de baixo custo e alto impacto, capaz de orquestrar o que antes exigia grandes equipes.
A Resposta das Plataformas e o Desafio da Identificação
O TikTok inicialmente declarou que as contas eram spammers, mas posteriormente informou que estava removendo-as. A Meta exige que os usuários divulguem conteúdo gerado por IA, mas reconhece a dificuldade de identificação.
O YouTube também está encerrando canais que violam suas políticas sobre spam e práticas enganosas. No entanto, a evolução rápida da tecnologia de IA torna a detecção um desafio constante.
O Comitê Nacional Republicano negou envolvimento nessas contas, com seu diretor de comunicações, Zach Parkinson, enfatizando que a autenticidade ainda reina e que a IA “não é uma bala de prata” para substituir mensagens e candidatos reais.
A Linha Tênue Entre o Real e o Artificial
A ascensão dos influenciadores gerados por IA representa uma nova fronteira na desinformação e manipulação online. Eles podem não apenas promover produtos, mas também moldar opiniões políticas de forma sutil e massiva.
A capacidade de criar uma “ilusão de consenso” e inundar as redes sociais com mensagens que parecem vir de pessoas reais é um poderoso, e preocupante, instrumento. Ele exige que usuários e plataformas redobrem a vigilância e o pensamento crítico.
- Vigilância Constante: Usuários precisam estar cientes de que nem todo conteúdo nas redes sociais é produzido por pessoas reais.
- Transparência das Plataformas: É crucial que as plataformas desenvolvam e implementem ferramentas mais eficazes para identificar e rotular conteúdo gerado por IA.
- Educação Digital: A educação sobre como identificar deepfakes e avatares de IA é fundamental para capacitar os eleitores a discernir a verdade da manipulação.
À medida que a tecnologia de IA avança, a linha entre o real e o artificial nas redes sociais se torna cada vez mais tênue. Este fenômeno exige vigilância constante e um compromisso renovado com a alfabetização digital para proteger a democracia.
