Debate sobre Inteligência Artificial alerta para intervenção indevida de tecnologia em processos democráticos ao redor do mundo

Por: FGV Comunicação Rio 

 

Em julho e agosto, questões relacionadas à popularização crescente da Inteligência Artificial (IA) generativa motivaram os principais estudos produzidos no âmbito do projeto Mídia e Democracia. Os relatórios investigaram os imaginários populares acerca da IA, bem como os principais discursos e atores vinculados a este debate tão diversificado quanto complexo. O papel das ferramentas de IA no contexto democrático é aprofundado ainda em estudos que avaliam os impactos dessa tecnologia sobre processos eleitorais ao redor do mundo, sob o risco iminente de ampliação significativa da circulação de desinformação e discurso de ódio.

Entre os outros temas investigados, esteve o discurso de ódio dirigido a pessoas LGBT+. A partir de um mapeamento do debate on-line a respeito da 28ª Parada do Orgulho LGBT+, o estudo identificou que os assuntos mais abordados na discussão foram a retomada pela população LGBT+ de símbolos nacionais, como as cores verde e amarela e a camisa da seleção brasileira, e a ressignificação do conceito de família e a celebração dos direitos LGBT+. Desinformação e ataques a personagens políticos foram mais recorrentes no X, enquanto no Facebook e Instagram prevaleceram postagens informativas acerca do evento realizado em São Paulo.

Apresentamos esse  policy paper, inicialmente, com a seção “Linhas de análise: o panorama do período”, composta pelos resultados encontrados no debate sobre Inteligência Artificial e outras temáticas caras ao projeto em redes como X, Facebook, Instagram, WhatsApp e Telegram. Esses resultados, bem como o mergulho analítico realizado para a confecção destes estudos, possibilitou o apontamento de possíveis linhas de ação, reunidas na seção “Linhas de ação: direcionamentos temáticos”. Por fim, na seção “Restrospectiva”, apresentamos as principais atividades desenvolvidas pelo projeto, entre julho e agosto de 2024.

1. Linhas de análise: o panorama do período

Em julho e agosto, o projeto Mídia e Democracia elaborou quatro relatórios de monitoramento de mídias sociais e 14 verificações de fact-checking. Estudos de fôlego a respeito do impacto da Inteligência Artificial na sociedade, desde a construção de imaginários populares sobre o tema nas redes até os efeitos já em andamento dessa tecnologia sobre os processos eleitorais ao redor do mundo, compõem os relatórios do período. Tentou-se, com as produções supracitadas, aferir o peso desse componente em termos de possíveis riscos à democracia.

Os estudos que se voltam para o debate sobre IA nas redes sociais apontaram para uma série de achados pertinentes. Primeiramente, constatou-se que o tema envolve uma ampla gama de atores, incluindo páginas de notícias, influenciadores digitais, empresas, instituições e perfis políticos, o que reflete o interesse transversal por esse assunto. Em termos de engajamento, há diferenças notáveis entre as plataformas: no Instagram, páginas relacionadas à Cultura, Esporte e Entretenimento, além de influenciadores, são as que mais se destacam, enquanto no Facebook, veículos de mídia tradicionais, páginas políticas e religiosas lideram as interações.

Além disso, o conteúdo noticioso é predominante em ambas as plataformas, mas no Instagram, há uma presença significativa de criadores de conteúdo gerando imagens e discussões sobre IA. Por outro lado, no Facebook, os debates frequentemente incluem temas políticos e religiosos. Em relação ao sentimento geral sobre IA, a maioria das publicações é otimista ou neutra, com um número menor expressando visões pessimistas, o que indica uma percepção predominantemente positiva ou ponderada da tecnologia.

O estudo também destacou o impacto da IA em processos eleitorais globais. A tecnologia já desempenha um papel importante em eleições ao redor do mundo, com a utilização de deepfakes e outras ferramentas para influenciar a opinião pública, o que ressalta a necessidade de regulamentação e vigilância contínuas. Além disso, o uso de IA para criar e disseminar conteúdos desinformativos, especialmente durante eleições, é uma preocupação crescente, evidenciando os desafios que essa tecnologia apresenta em contextos democráticos.

1.1 Debate sobre IA nas redes: atores e argumentos em destaque

O debate sobre Inteligência Artificial (IA) envolveu uma diversidade de atores, refletindo seu caráter transversal e a ampla repercussão nas redes sociais, especialmente no Facebook e Instagram. O estudo mapeou essas dinâmicas para entender como a IA está sendo discutida e quais atores estão moldando o discurso. Além disso, foi explorado o impacto da IA em processos eleitorais globais, onde o uso de deepfakes e outras ferramentas de IA generativa emergiram como pontos de preocupação, destacando a necessidade de um monitoramento atento e de discussões regulatórias. De forma geral, o panorama apresentado a seguir oferece uma visão analítica abrangente sobre o papel crescente da IA na sociedade.

Nos cinco primeiros meses do ano, o debate sobre Inteligência Artificial mobilizou uma miscelânea de atores, com caráter marcadamente transversal. Isso pode ser depreendido da repercussão encontrada em relação a esse tema no Facebook e no Instagram, com alto volume de interações.

Em ambas as redes, diferentes páginas dedicadas à publicação de notícias e criadores de conteúdo variados são mais frequentes. Isso foi percebido pela categorização de páginas no Instagram e pela análise das categorias prévias de páginas do Facebook. Esses resultados são melhor detalhados no mapeamento de atores abaixo.

Para além desse cenário, a análise de engajamento médio, ou seja, de quais páginas atingem maior engajamento por cada publicação feita, mostra que são as páginas de Cultura, Esporte e Entretenimento que ficam em destaque, junto com os já predominantes veículos de mídia.

No plano de fundo comum em que ilustrações sobre “selfies do fim do mundo” e novidades tecnológicas se destacam, pequenas variações sobre quem mobiliza mais interações em cada uma delas mostram que características próprias das plataformas também se fazem presentes. Esses aspectos são melhor apresentados no recorte por plataforma.

Mapeamento de atores

Instagram: notícias, influenciadores e empresas lideram

A base de publicações coletadas no Instagram permitiu uma análise de amostragem aleatória para as páginas presentes nesse mapeamento. A amostra aleatória destes dados com 95% de confiança e 5% de margem de erro resultou em 385 páginas. A classificação dos tipos de páginas foi feita de forma manual, considerando aspectos como a identificação dos usuários, nos títulos das páginas e na biografia, além do conteúdo publicado (1). 

• Cultura, Esporte e Entretenimento: Perfis e páginas relacionadas a atividades culturais, esportes e entretenimento. Inclui páginas voltadas para esportes, como futebol, além de livros, filmes, etc;
• Empresas e Serviços: Perfis e páginas de agentes ou empresas comerciais que oferecem produtos ou serviços ao público. Inclui empresas variadas de ramos como prestação de serviços e páginas de comercialização de produtos; 
• Influenciadores e Criadores de Conteúdo: Perfis de indivíduos que produzem conteúdo sobre determinado assunto ou atividade;
• Instituições e Outras Organizações: Perfis de instituições formais e diversas organizações que não se encaixam diretamente no ramo privado ou comercial. Inclui instituições públicas, organizações sem fins lucrativos e associações profissionais;
• Mídia e Notícias: Páginas dedicadas à disseminação de notícias e informações. Inclui veículos nacionais, locais e hiperpartidários, abarcando jornais, revistas, canais de TV, rádios, blogs e portais;
• Políticos: Perfis de indivíduos que ocupam cargos públicos ou estão em campanha para cargos públicos. Inclui vereadores, deputados, senadores, prefeitos, governadores e presidentes;

• Profissionais Liberais: Perfis com menos seguidores de indivíduos que compartilham suas atividades profissionais sem ênfase na criação de conteúdo especializado.

Os resultados encontrados mostram que as características demográficas e de uso da plataforma se fazem presentes na repercussão do tema, que inclui uma grande presença de páginas variadas de conteúdo noticioso, alto uso por influenciadores digitais e intensas atividades comerciais (BONAMI et al, 2022).

Facebook: notícias, influenciadores e empresas lideram

Diferentemente do Instagram, uma das funcionalidades disponibilizadas na coleta de dados do Facebook é a categorização que os usuários fazem das páginas criadas por eles mesmos. Esses dados de autopreenchimento são feitos a partir de um conjunto de opções ofertadas pelo Facebook, que foram utilizados para mapear, com base no total de páginas, tendências exploratórias de quais atores pautam o tema, independentemente da popularidade alcançada nas plataformas (2).

Como no Instagram, as categorias que remetem à atividade de compartilhamento ou produção de conteúdo noticioso também são predominantes. Juntas, páginas que se auto identificam como Site de Notícias, Empresas de Mídia, Jornal de Tópicos e Estação de Rádio abrangem cerca de 22,98% das páginas mapeadas. Criadores digitais e páginas de pessoas também aparecem, mas com uma proporção inferior do que o alcançado por influenciadores no Instagram. Por fim, há uma presença chamativa de páginas identificadas como pertencentes ao universo da política, atores esses pouco presentes na amostra analisada no Instagram.

Mapeamento de popularidade

Os principais atores no Facebook: notícias, política e religião

No Facebook, os veículos de mídia assumem centralidade em termos de engajamento. Veículos tradicionais são os mais presentes entre os 20 perfis com maior engajamento por publicação (40%), mas portais hiperpartidários também ocupam 30% das páginas em destaque. O veículo especializado em empreendedorismo, StartSe, e a agência de notícias do Vaticano em língua portuguesa aparecem.

Isso mostra que o debate público sobre Inteligência Artificial pode exemplificar as nuances do comportamento do usuário na plataforma. Embora o uso do Facebook para o consumo de notícias esteja em declínio na percepção dos usuários (REUTERS INSTITUTE, 2024), essa utilização pode tanto ser uma das finalidades ainda presentes na plataforma quanto também estar atravessada por formas híbridas do que é avaliado como conteúdo noticioso.

Por sua vez, o destaque assumido pela página do Vaticano, entre as páginas com maior engajamento, e de publicações religiosas várias, no conjunto de posts com mais interações, indica que não apenas esses atores pautam o tema, mas que encontram circulação entre o público da plataforma. A ênfase nesse tipo de conteúdo pode estar relacionada, entre outros fatores, às características do uso da própria plataforma no Brasil, majoritariamente utilizada por pessoas com mais de 35 anos (Ruediger, 2024).

Por fim, páginas associadas a variedades e entretenimento também apresentam destaque acentuado. A página com o maior engajamento por publicação no período mapeado foi a Cifras. Vinculada ao site de cifras musicais (cifras.com.br), a Cifras acumulou 42 milhões de curtidas no Facebook em quase 15 anos desde a sua criação em 2010, notabilizando-se por publicar trechos de letras de música. Cabe destacar que a Cifras permanece como um fenômeno próprio do Facebook: o perfil equivalente no Instagram tem 5 milhões de seguidores. Na pauta de IA, as publicações da página enfatizam novidades e debates sobre o tema na arte e entretenimento.

Os principais perfis no Instagram: entretenimento e notícias

Na seção Tópicos de discussão temática no Instagram, viu-se que, em termos de volume de discussão temática, temas como Inteligência Artificial e Eleições ficam em vantagem na plataforma. Quando se avalia, no entanto, quais páginas concentram mais fortemente a atenção do usuário, os conteúdos que se destacam em engajamento vêm do segmento de  IA, Cultura e Entretenimento.

As duas principais páginas da plataforma publicam imagens geradas por meio de ferramentas de IA generativa. Enquanto a página @ascronicasdewesley gera ilustrações para as histórias compartilhadas na página, @repertoriocasa publica representações de como seria, por exemplo, uma casa tropical ou brasileira. Também em destaque, o portal de cobertura midiática sobre a comunidade negra brasileira @sitemundonegro alcança alto engajamento com imagens que representam celebridades em um cenário paradisíaco.

Algumas páginas relevantes trazem uma editoria definida em relação ao uso de IA: @aradiorock publica imagens ilustradas com IA de nomes desse gênero musical  e @arts.gym_ traz representações de personagens animados e outras figuras do entretenimento com o corpo malhado.

Por fim, veículos midiáticos também ocupam parcela muito relevante entre os perfis que falam sobre Inteligência Artificial na rede, acumulando quantidade expressiva de interações. Como no Facebook, a cobertura de novidades, eventos e questões relacionadas à área pode ser observada nos veículos tradicionais com abrangência nacional e local, além de veículos hiperpartidários.

Os veículos nacionais são predominantes no ranking de páginas com maior engajamento por publicação, com destaque puxado por páginas como @estadao e @folhadespaulo, mas também páginas como @forbesbr e @infomoney. Acima deles, no entanto, mas desacompanhada de páginas semelhantes, está a @revistaoeste. O desempenho deste portal hiperpartidário se deve à popularidade de posts sobre o padre Júlio Lancelotti.

Discursos em circulação sobre Inteligência Artificial

Para além dos principais eixos temáticos e dos atores de destaque no debate sobre Inteligência Artificial, este estudo também se volta ao teor destas publicações, procurando compreender e mensurar como se fala sobre IA no ambiente digital. 

Tendo em vista o perfil da plataforma, foi utilizada a base de posts do Instagram, classificados e analisados na supracitada seção: Tópicos de discussão temática no Instagram. Para este estudo, foi analisada apenas uma amostra aleatória destes dados, calculada tendo em vista as métricas de 95% de confiança e 5% de margem de erro, o que resultou em 373 posts. Estes foram classificados quanto ao seu teor principal, a saber:

• Otimista: publicações que associam aspectos positivos à IA, com declarações de expectativas e opiniões favoráveis à sua utilização. Inclui a noção de que a Inteligência Artificial pode beneficiar, melhorar, incrementar, inovar ou potencializar algum processo ou serviço; 
• Pessimista: posts que mobilizam sentidos negativos relacionados à IA, incluindo perspectivas sobre riscos, perigos e lacunas dessa tecnologia; 
• Neutro/Ponderado: postagens sem teor opinativo direto, como notícias, ou publicações com opiniões mais ponderadas e realistas, que admitem, na mesma medida, a existência de potencialidades e riscos ligados à IA. 

Um olhar inicial destes dados sublinha o protagonismo de posts otimistas (41,02%) e neutros (42,36%), em detrimento daqueles mais pessimistas (7,77%). Houve ainda um conjunto de 8,85% de publicações nas quais a categorização não se aplicou, tratando de postagens cujo teor central não se alinha ao tema deste estudo. 

Para além dessa categorização referente ao teor de cada publicação, aproveitou-se os dados explorados na seção anterior, Quem fala sobre Inteligência Artificial no Instagram, para identificar de quais tipos de páginas, conforme identificadas na seção acima, emanam as adjetivações propostas na abordagem agora explorada.

Nota-se, portanto, que embora os receios e medos relacionados à IA sejam uma pauta relevante, este debate vem gerando mais expectativas positivas ou neutras e ponderadas. Cada um destes modos de falar sobre a Inteligência Artificial são detalhados nas seções adiante.

Impacto da Inteligência Artificial em eleições pelo mundo

No estudo Inteligência artificial no mundo: mapeamento dos usos durante eleições em 2024, focou-se no possível impacto de IA nas eleições na Índia, África do Sul, México e Parlamento Europeu. A pesquisa empírica dos casos analisados e o teste de perguntas e respostas com três modelos de IAGs, atualmente baseados em geração de textos, revelaram os modos de uso e impactos visíveis nas eleições no contexto do países supracitados. A circulação de conteúdos deepfake foi documentada nas quatro eleições referidas, cada uma com características específicas e diferentes graus de disseminação. Além disso, ferramentas acessíveis de IA generativa, como o ChatGPT, mostraram-se responsivas a consultas básicas sobre as eleições, consultas estas que poderiam ser feitas por qualquer usuário com acesso a essas ferramentas.

Esses achados destacam que a Inteligência Artificial já desempenha um papel concreto e relevante nas eleições ocorrendo em um ano em que quase 70 países (e a União Europeia) realizam processos eleitorais. Isso se reflete tanto no crescente debate regulatório sobre o uso dessa tecnologia em contextos eleitorais, já avançado na União Europeia e emergente nos casos analisados, quanto na utilização de deepfakes para a produção de conteúdo político, às vezes com vínculos diretos com partidos, candidatos e instituições políticas, outras vezes provenientes de fontes não identificadas e supostamente externas. A circulação de deepfakes foi observada mesmo no contexto europeu, expondo contradições e desafios persistentes.

Além disso, os contextos estudados e os casos analisados apontam para uma presença significativa de conteúdos potencialmente desinformativos, como falsas atribuições de declarações de apoio ou imputações diversas a celebridades e outros políticos. A reanimação de figuras falecidas, com ou sem autorização explícita, também faz parte deste cenário, onde imagens fabricadas, sejam elas convincentes ou não, influenciam o processo eleitoral e capturam a atenção dos eleitores, especialmente na Índia. Os resultados mostram que o uso dessa tecnologia global para a produção de conteúdo político com impacto local já é uma realidade em cenários eleitorais variados.

Por outro lado, a experimentação direta com as IAGs baseadas em texto demonstra que o potencial de interferência de uma IA na opinião pública está, literalmente, a um ou dois cliques de distância. Quando questionadas sobre as quatro eleições, as três soluções corporativas demonstraram uma precisão considerável na prestação de informações básicas, embora também apresentassem erros e continuassem a oferecer respostas referentes a 2024 mesmo com bancos de dados mais antigos. Além disso, os filtros de conteúdo aplicados pelas empresas foram observados, com os modelos se recusando a fornecer respostas opinativas diretas, apesar de exibirem variações específicas na abordagem de cada questão, caso eleitoral e informações consideradas relevantes para o mesmo conjunto de perguntas.

O tema dos filtros de conteúdo e diretrizes adotadas pelas corporações também serve como um alerta para os usos menos detectáveis da Inteligência Artificial. As limitações desta pesquisa destacam áreas de estudo ainda pouco exploradas, como o uso de inteligência artificial para a criação e disseminação massiva de conteúdo não-identificado e a exploração dessa tecnologia em modelos abertos e modificáveis, menos escrutinados e rastreáveis do que soluções empresariais. Considerando a proximidade das eleições brasileiras de 2024, a pesquisa realizada pela FGV Comunicação Rio oferece um mapeamento dos usos já presentes nas eleições ao redor do mundo, alertando para riscos existentes e problemas emergentes.

2. Linhas de ação: direcionamentos temáticos

Diante das pesquisas consolidadas pelo projeto Mídia e Democracia sobre o debate de Inteligência Artificial nas redes sociais e outros estudos produzidos pelo projeto desde 2023, evidencia-se a necessidade de promover uma discussão ampliada sobre o combate à desinformação no ambiente digital e o desenvolvimento de ferramentas que possam fornecer respostas rápidas e precisas para a população, especialmente no contexto da utilização de IA em processos eleitorais.

O debate sobre o protagonismo de atores públicos e privados no uso de IA evidencia um descompasso entre o papel do poder público na regulação dessa tecnologia e a influência das grandes corporações tecnológicas, demonstrando como os regimes de visibilidade nas plataformas digitais interferem na percepção pública sobre acontecimentos políticos e sociais. Além dessa disputa entre o setor público e privado, os estudos também destacam a rápida disseminação de conteúdos desinformativos gerados por IA e a instrumentalização desse debate para disputas no campo da política, evidenciando a importância dessa temática. A formação de redes de conscientização sobre o uso ético da IA e o debate sobre o impacto dessa tecnologia em contextos eleitorais também se inserem nessa discussão, sinalizando para as múltiplas narrativas mobilizadas a partir da crescente influência da IA.

Diante desse cenário, os estudos elaborados no âmbito do projeto Mídia e Democracia, juntamente com as verificações desenvolvidas sobre o tema e os debates promovidos pelo Conselho, apontam para a importância da atuação conjunta de múltiplos atores no contexto digital. Entre eles, destaca-se a promoção de políticas públicas capazes de fortalecer a regulação da IA e mitigar os riscos associados ao seu uso indiscriminado, a responsabilidade das empresas de plataformas digitais no combate à desinformação e o papel das organizações da sociedade civil no fortalecimento de práticas comunicativas e na elaboração de ferramentas que promovam um ambiente digital mais seguro e informativo. Partindo do trabalho desenvolvido no âmbito do projeto, são propostas as seguintes linhas de ação:

2.1 Políticas públicas

2.1.1 Colocar em prática o Plano IA para o Bem de Todos, ouvindo a sociedade civil e atentando-se constantemente para os seus retornos quanto à sua execução, de modo a aprimorá-lo e ampliá-lo de acordo com as necessidades que serão postas ao longo desse processo. É importante dirigir especial atenção para a preservação do estado democrático de direito e da dignidade humana em toda a sua integralidade, inclusive no aspecto laboral, a partir de medidas de proteção de postos de trabalho;

2.1.2 Avançar na discussão sobre regulamentação de plataformas digitais a partir da revisão dos PLs existentes ou proposição de novos PLs. Promover articulação para debates com especialistas, parlamentares e sociedade civil no âmbito do Congresso Nacional de modo a estimular o desenvolvimento do debate e de medidas efetivas frente ao atual cenário de crescimento e popularização da IA generativa nas redes.

2.2 Empresas de plataformas digitais

2.2.1 Disponibilizar API das plataformas para instituições de pesquisa de modo a colaborar com a transparência dos dados que possam ser danosos à democracia;

2.2.2 Produzir relatórios de transparência, publicados periodicamente, detalhando ações tomadas contra desinformação e discurso de ódio associados à IA;

2.2.3 Engajar-se em parcerias com ONGs e especialistas em desinformação - das áreas de direitos humanos, linguística e tecnologia - e discurso de ódio para aprimorar os algoritmos e assegurar que as estratégias de combate a conteúdos danosos produzidos por IA sejam éticas e baseadas em evidências científicas;

2.2.4 Desenvolver sinalizações precisas quanto à natureza artificial e/ou adulterada de conteúdos produzidos com IA com potencial desinformativo e/ou com discurso de ódio.

2.3 Organizações da sociedade civil

2.3.1 Pressionar por maior transparência nos processos eleitorais e no uso de tecnologias de IA, demandando coletivamente, a partir de organizações como ONGs e outras associações, que as plataformas estabeleçam parâmetros mais sólidos e transparentes para o combate à desinformação e a identificação de conteúdos alterados ou criados artificialmente para influenciar o debate sobre as eleições.

2.3.2 Propor coalizões entre diferentes segmentos da sociedade civil, incluindo ONGs, jornalistas, educadores e pesquisadores, para combater a desinformação eleitoral de forma coordenada e integrada.

3. Retrospectiva

Monitoramento

Entre julho e agosto, foram produzidos 4 relatórios semanais. Para além das questões caras à Inteligência Artificial, que motivaram relatórios de fôlego com recortes distintos sobre o tema, discursos de ódio contra a população LGBT+ foram considerados dentro do escopo analítico do projeto. Todos os monitoramentos e atividades do projeto podem ser acompanhadas pelo site.

Fact-Checking

A partir do monitoramento de redes sociais, a Lupa realizou 14 verificações de conteúdos desinformativos em circulação nas plataformas. Postagens desinformativas e com indícios de discursos de ódio a respeito das Olimpíadas de Paris motivaram a maior parte das checagens do período, tendo em vista a centralidade que o tema exerceu no debate público digital, especialmente entre o fim de julho e início de agosto.

Questões de gênero, como questionamentos acerca da legitimidade de atletas trans competirem nas Olimpíadas, estiveram em evidência. Sobre esse tema, de modo geral, podemos destacar: É falso que 'homens biológicos' competirão pelo ouro no boxe em Paris; É falsa a foto que sugere que atleta russa do salto é mulher trans; imagem foi manipulada; Rayssa Leal não dedicou a medalha de bronze na Olimpíada de Paris a Bolsonaro.

Conselho Mídia e Democracia

O Conselho permanece como um espaço para fomentar debates entre organizações da sociedade civil, especialistas e autoridades políticas. No período em questão, houve duas oficinas temáticas e duas reuniões formais do Conselho. Além de uma reunião sobre a participação de big techs no combate à desinformação, com o gerente de políticas públicas do TikTok, Gustavo Rodrigues, houve uma reunião a respeito das iniciativas do governo federal a respeito da Inteligência Artificial, com a presença da ministra de Ciência, Tecnologia e Inovação, Luciana Santos.

Referencias: 

1. Para além das categorias descritas nesta seção e cujos resultados são apresentados no gráfico, 7,8% das páginas selecionadas pela amostragem aleatória foram descartadas por não atenderem aos objetivos da pesquisa. Além disso, 0,8% das páginas foram classificadas como “Outros”, por não se encaixarem nas categorias definidas.

2. A categorização adotada pelos usuários é dispersa e autoidentificada, o que aponta para as limitações dessa abordagem. Nesta aplicação exploratória, concentramos nas categorias que incluem pelo menos 200 páginas. Devido a esse critério, os resultados apresentados não representam a totalidade das páginas coletadas.