Inteligência Artificial no mundo
Por: FGV ECMI
Por: FGV ECMI
Sumário Executivo
- Deepfakes são a dimensão mais visível das IAs nas eleições: O uso de Inteligência Artificial (IA) para criar vídeos, áudios e imagens manipuladas está presente em todas as eleições analisadas. Os casos empíricos demonstram uma ampla gama de aplicações, desde a criação de conteúdo explicitamente desinformativo até o uso de figuras históricas para reforçar o apoio político a candidatos. Além da diversidade e da adaptação aos contextos específicos de cada eleição, melhor detalhado ao longo do estudo, é importante notar que a origem desses conteúdos, muitas vezes incerta, é por vezes diretamente ou alegadamente vinculada a partidos, candidatos e seus aliados;
- Conteúdos políticos criados por IA dialogam com contextos locais: Apesar do uso da IA estar disseminado ao redor do mundo e as estratégias desinformativas serem um problema transnacional, os casos analisados evidenciam a importância dos contextos locais na mobilização de narrativas eleitorais, tanto aquelas que têm como objetivo ataques e desinformação relacionadas a adversários políticos, como aquelas estratégias que visam o fortalecimento de candidatos e partidos políticos. Essa dimensão pode ser observada a partir das temáticas mobilizadas no uso da IA, como por exemplo no caso da Índia, em que a religião tem um papel importante no debate eleitoral e se transpõe para o uso de IA. No México, o tema da violência também é mobilizado em deepfakes e peças que utilizam essa tecnologia. As deepfakes que simulam vídeos de figuras públicas como Trump e Eminem criticando o partido de Nelson Mandela, em uma eleição polarizada como a da África do Sul, também apontam para a importância dos contextos nacionais na utilização da IA como estratégia de disputa política nas eleições ao redor do mundo;
- Chatbots se equilibram entre a precisão das informações e os filtros de conteúdo. Uma faceta menos visível da crescente disseminação dos usos de IAgs é a própria criação automatizada de texto em ferramentas como chatbots. Para verificar a precisão dessas ferramentas – Copilot Criativo, ChatGPT (3.5 e 4o) e Gemini –, aplicou-se um questionário padronizado com perguntas informativas e opinativas sobre as eleições em questão. A análise destaca que, embora as IAgs ofereçam dados majoritariamente corretos sobre contextos eleitorais e sistemas de votação, elas frequentemente apresentam informações desatualizadas e variam em suas respostas, além de dependerem fortemente dos filtros de conteúdo concebidos pelas respectivas empresas, evidenciando a necessidade contínua de regulamentação e controle para assegurar a integridade das informações eleitorais e a seleção de temas que não são respondidos pelos chatbots;
- Regulação institucional já é parte do debate, com União Europeia na dianteira e vácuos legislativos se fazendo presentes: O componente regulatório sobre a circulação de conteúdos políticos na internet e a utilização de tecnologias de IA nos contextos eleitorais também é uma constante entre os casos. Na União Europeia, esse é o principal elemento do debate, não apenas pela existência de normativas quanto à circulação de conteúdo político online, mas pela recente aprovação de um marco normativo de Inteligência Artificial. Se esse contexto estimulou a assinatura de acordos voluntários entre os partidos nas eleições para o Parlamento Europeu, resultando em um debate mais propositivo e avançado sobre o tema, ele não impediu completamente a circulação de deepfakes, por vezes nas páginas dos próprios partidos nacionais. Nos outros países, debates emergentes e a notável ausência de instrumentos específicos se fizeram presentes.
Eleições na Índia:
Uso de deepfakes para “ressuscitar” apoios políticos na maior eleição do mundo
A campanha eleitoral na Índia não foi apenas a maior do mundo em termos de eleitorado, mas também se destacou pelo uso estratégico de tecnologias emergentes como a IA. Deepfakes povoaram a eleição que levou à recondução de Narendra Modi ao cargo de primeiro-ministro. As peças feitas com IA foram alegadamente usadas por partidos e candidatos para difundir falsas manifestações de apoio de celebridades até “recados do além”, com a reprodução visual de figuras políticas já falecidas. Diante de um quadro comunicacional que combina uma baixa penetração de acesso à Internet ao grande número de usuários de plataformas digitais, a utilização em larga escala de IA teve grande impacto no pleito, chamando a atenção de observadores globais e acionando alertas sobre os riscos dessa tecnologia na disseminação de desinformação no país.
A disputa eleitoral na Índia: questões econômicas, ameaças à democracia e conflitos religiosos marcam as eleições
Usos de IA: Deepfakes de celebridades e políticos falecidos na corrida eleitoral indiana
Há, nas eleições da Índia, um uso disseminado da Inteligência Artificial. Para além dos cidadãos, os próprios partidos políticos, agências de mídia, campanhas e candidatos utilizam a IA para promover ideias e facilitar ações políticas e eleitorais, de forma marcante. De diferentes maneiras, essa aceitação da tecnologia é vista no uso que atores políticos, como o próprio Narendra Modi, fazem da IA com a perspectiva de, por exemplo, promover a inclusão linguística no país. Os partidos políticos e campanhas oficiais também estão associados à disseminação de peças políticas de deepfakes nas eleições de 2024, resultando em usos curiosos e riscos associados à desinformação e à campanha negativa.
A utilização disseminada de vídeos com IA durante as eleições de 2024 na Índia chegou a envolver figuras políticas já falecidas, cujas representações visuais e vocais foram utilizadas para manifestar apoio a determinados campos políticos. É o caso da ex-ministra-chefe do estado de Tamil Nadu, J. Jayalalithaa, que teve sua voz manipulada, em conteúdo crítico ao partido que, atualmente, governa o estado.
Eleições na África do Sul:
Deepfakes são utilizados para desinformar em eleição concorrida
Dois aspectos se destacaram na interseção entre eleições e Inteligência Artificial na África do Sul. No cenário altamente competitivo das eleições de 2024 no país, onde o Congresso Nacional Africano (ANC), histórico partido de Nelson Mandela, enfrentou o maior desafio eleitoral em três décadas de governo, a disseminação de conteúdos políticos teve no uso de IA um dos seus componentes de destaque, contando inclusive com a veiculação direta pela página da filha de Jacob Zuma no X, ex-presidente e principal líder da oposição.
Casos de deepfakes foram identificados nas tentativas de influenciar a opinião pública por meio da mobilização de apoio a candidatos políticos contrários à ANC. Os vídeos fabricados mobilizam a ideia de apoio político estrangeiro de nomes como o cantor Eminem e o ex-presidente Donald Trump, que aparecem criticando o partido de Mandela e promovendo candidaturas de oposição.
Disputa eleitoral na África do Sul: partido de Nelson Mandela sofre escrutínio popular após 30 anos no poder
Predominando a utilização de deepfakes em detrimento de outras abordagens ancoradas em IA, há, no país, uma tendência de utilizar esta técnica para simular opiniões e posicionamentos políticos, geralmente contrários ao ANC. Lateralmente, outros usos, como a falsificação de documentos e assinaturas a partir de softwares de Inteligência Artificial, podem ser destacados, mas os episódios de deepfake ganham relevo muito mais significativo na conjuntura sul-africana.
Eleições no México:
Usos diversificados de IAgs caracterizam eleição marcada por onda de violência política
As eleições presidenciais de 2024 no México foram as maiores em termos de participação eleitoral na história moderna do país, contando ainda com a eleição da primeira mulher eleita presidente. Além disso, o pleito conformou um cenário propício para que as IAs fossem utilizadas em um contexto de disputa e violência políticas, incluindo a disseminação de deepfakes para difamar candidatos e a utilização de IA para antecipar resultados eleitorais.
Nesse cenário, a violência e criminalidade foram destaque no debate político, se sobrepondo a discussões sobre o uso de Inteligência Artificial. Apesar desse cenário, tanto nas eleições nacionais quanto nas locais é possível observar o uso dessa tecnologia na manipulação de vídeos e imagens, bem como um debate lateral entre legisladores sobre a necessidade de regulação da IA no contexto eleitoral mexicano.
A disputa eleitoral no México: onda de violência e criminalidade ofuscam vitória da primeira mulher presidente do país
É interessante notar que, mesmo diante do cenário eleitoral, chamam atenção as falsificações voltadas aos setores econômico e financeiro, não possuindo relações diretas com o pleito. Isto é, tratam-se de conteúdos voltados à fraude que utilizam imagens de figuras políticas, mas não mencionam nenhum aspecto relacionado às eleições.
É o caso do vídeo do presidente Andrés Manuel López Obrador convidando os cidadãos a investirem em ações da petrolífera Pemex, por exemplo, ou ainda o conteúdo que exibe López Obrador e o apresentador Joaquín López-Dóriga promovendo um aplicativo de investimentos desenhado por Elon Musk. Este último chegou a ser verificado pela Reuters, após ser compartilhado mais de 2 mil vezes no Facebook. Esse tipo de manipulação de imagens, áudios e vídeos também atingiu a então candidata à presidência, Claudia Sheinbaum. Durante a campanha, alguns conteúdos que exibiam Sheinbaum promovendo um investimento financeiro supostamente milagroso circularam nas redes sociais, tendo sua veracidade contestada também pela Reuters.
Eleições no Parlamento Europeu:
Deepfakes ainda circulam em eleição em que componente regulatório é destacado
No contexto das eleições para o Parlamento Europeu de 2024, a interseção entre regulação digital e o ambiente eleitoral destacou-se como um tema central, refletindo tanto as complexidades do cenário político europeu quanto o papel crescente da tecnologia na política. Com uma população de aproximadamente 448,4 milhões de eleitores e um cenário digital robusto, a União Europeia experimentou um pleito marcado pela influência das novas normas regulatórias, com a recente implementação da Lei de Serviços Digitais e a aprovação da Lei de Inteligência Artificial no bloco. Os resultados das eleições apontaram para um crescimento da direita em relação à última legislatura, enquanto a liderança da coalizão EPP-S&D-Renovar, ao centro, se manteve, permitindo a reeleição de Ursula von der Leyen como presidente da Comissão Europeia, figura diretamente envolvida na agenda digital adotada pelo bloco nos últimos anos.
Esse contexto regulatório não só diferencia as eleições do Parlamento Europeu em relação aos outros casos analisados, tendo como características a assinatura voluntária de acordos de compromisso entre os partidos políticos e a baixa presença dos maus usos da tecnologia na disputa eleitoral, mas coloca o debate em termos mais amadurecidos, revelando contradições ainda presentes. Isso porque a circulação de conteúdos gerados por IA, novamente com a tecnologia de deepfakes, ainda assim foi parte do contexto eleitoral do bloco.
Regulação fomenta cenário propositivo, com destaque para atuação dos partidos na eleição da UE
Eleições nacionais mobilizam debate sobre uso de IA na europa
Na França, Loïc Signor, liderança do partido fundado por Emmanuel Macron no país, o Renaissance, publicou um deepfake que exibe Marine Le Pen falando em russo, nos meses que antecederam as eleições europeias. Quando questionado, Signor indicou que, além de denunciar a suposta ligação de Le Pen com a Rússia, o deepfake foi publicado para alertar sobre os riscos associados à Inteligência Artificial.
Ainda na França, uma análise das páginas dos principais partidos políticos nas redes sociais entre 1º de maio a 28 de junho mapeou diversas publicações com imagens geradas por IA, com forte presença entre os partidos Rassemblement National (RN), Reconquête e Les Patriotes, todos de extrema-direita. No conteúdo destas publicações, foram mapeadas associações com a retórica do medo e do pânico moral, reforçando uma tônica nacionalista seja em posts anti-imigração, seja em imagens que apontavam para um risco à liberdade de expressão no país.
Outros usos de IA em contexto eleitoral: o que os modelos de IA generativa têm a dizer sobre as eleições?
Os casos de uso de IA apresentados mostram de qual forma as tecnologias, sobretudo de Inteligência Artificial Generativa (IAg), tem estado concretamente presente nos processos eleitorais realizados ao redor do mundo, apontando para a circulação transnacional de peças criadas com a tecnologia de deepfake. Outra tecnologia de inteligência artificial generativa proeminente na atualidade, e cujo mapeamento de utilização nas eleições mapeadas é menos identificável, envolve os modelos, atualmente centrados na geração de texto, a partir de comandos enviados pelos usuários de ferramentas como o ChatGPT da OpenAI, como perguntas referentes, por exemplo, aos próprios processos eleitorais, servindo assim como uma fonte de consulta para eleitores e de tecnologia para a criação rápida de textos.
Empresas de IAg investem em adaptações da tecnologia para as eleições
Casos de desinformação por meio de IAgs acenderam o alerta de governos pelo mundo. Em resposta às preocupações, as empresas líderes no setor publicaram declarações em seus sites delineando ações para evitar o uso danoso de suas tecnologias nas eleições. No caso das gigantes de tecnologia, esse tipo de publicação já é tradicional nos blogs oficiais, que costumam delinear as estratégias e preocupações dessas organizações como forma de sinalização para governos e para o mercado.
Desde o final de 2023, as três gigantes de tecnologia com modelos de IA disponíveis ao consumidor (Google, Meta e Microsoft) publicaram sobre suas políticas em relação ao uso de suas IAs durante o período eleitoral neste ano em quase 70 países, mobilizando um eleitorado de mais de 4 bilhões de pessoas. Do lado das startups, a OpenIA, desenvolvedora do ChatGPT e do DALL·E, e a Anthropic, do Claude, também fizeram publicações, mas suas colegas focadas no ramo de imagens, como a Midjourney e a StabilityAI não acompanharam a tendência. Por essa razão, cada uma das eleições de 2024 se tornou um pequeno laboratório experimental dos diferentes usos que ferramentas de Inteligência Artificial podem ter em campanhas eleitorais e dos mecanismos de controle que podem ser mobilizados pelas democracias para evitar esses ataques.
Em outro exemplo das adaptações das empresas em questão, a Google foi a única a decidir que o Gemini não irá responder perguntas sobre eleições em nenhum país na qual elas estejam ocorrendo. Essas restrições foram justificadas para limitar a influência que o modelo possa ter na manipulação da opinião pública e efetivamente impediram a utilização da ferramenta nesta pesquisa. Nos testes iniciais para a seleção dos três modelos de IA, o Gemini se recusava a responder as perguntas indicadas.
Expediente
Diretor
Marco Aurelio Ruediger
E-mail: marco.ruediger@fgv.br
Vice-diretor
Amaro Grassi
E-mail: amaro.grassi@fgv.br
Pesquisadores
Letícia Sabbatini
Laura Pereira
Leonor Jungstedt
Victor Piaia
Mariana Carvalho
Catherine Moura
Mario Lima
Alessandra Maia
Projeto gráfico
Daniel Almada
Luis Gomes
Acesse o estudo completo aqui