Além das deepfakes: como a IA realmente ameaça (e desafia) as democracias

As eleições de 2026 talvez fiquem marcadas como uma disputa intensa pelo uso da Inteligência Artificial (IA) para produzir conteúdo político.

Embora o Tribunal Superior Eleitoral (TSE) já tenha se manifestado sobre o tema em 2024, proibindo a aplicação de IA para produção de deepfakes; obrigação de aviso sobre o uso de IA na propaganda eleitoral, o debate sobre os reais efeitos dessa tecnologia nas democracias se perde, muitas vezes, em uma infinidade de questões, muitas delas, pouco específicas ou em um nível especulativo bastante elevado.

Como e por que devemos nos preocupar com os impactos do uso da IA nas democracias? Há de fato motivos para essa preocupação? O problema é apenas a deepfake?

Professor de Ciência Política e especialista em transformação digital do Instituto de Ciência Política da Universidade de Bamberg, na Alemanha, Andreas Jungherr publicou recentemente um artigo na “Social Media + Society” em que propõe um modelo conceitual bastante interessante e que pode ajudar a responder a essas questões.

Em “Artificial Intelligence and Democracy: A conceptual framework”, Jungherr argumenta que é preciso focar mais nas IA restritas, estas que já usamos no nosso dia-a-dia, e menos em questões associadas ao que o mercado da tecnologia classifica de Inteligência Artificial Geral (IAG) que, supostamente, passariam a desempenhar supercapacidades. Para ele, a IA geral consiste hoje em uma cortina de fumaça, que impede que nos concentramos nos efeitos que já estão em curso.

Nessa perspectiva, o professor propõe um arcabouço conceitual em quatro níveis analíticos: individual, grupo, institucional e sistema. Com esses quatro níveis, Jungherr aponta as possíveis áreas de impacto e que podem orientar para um exame mais consistente sobre os efeitos das IAs nas democracias.

Nível individual: autogoverno

Para Jungherr, a IA afeta o nível individual porque ela muda as condições que permitem às pessoas tomarem decisões informadas. Ou seja, IA influencia diretamente os ambientes de informação, moldando como os cidadãos acessam notícias e expressam suas opiniões.

A opacidade algorítmica é um dos pontos centrais dessa questão. Os algoritmos de recomendação expõem cidadãos apenas a informações com as quais concordam, limitando o acesso a um conhecimento mais amplo da realidade social e política.

As mudanças na economia das notícias também é outro foco de atenção. Ao alterar os fluxos de informação segundo a lógica dos algoritmos, os Modelos de Linguagem de Larga Escala (LLMs) em motores de busca reduzem o tráfego para sites de notícias, prejudicando a monetização de organizações de mídia pequenas e médias.

Esse cenário aprofunda o abismo informacional porque pode fortalecer marcas de elite e criar uma divisão: cidadãos politicamente engajados e ricos pagando por informações de qualidade, enquanto o restante da população consome conteúdos automatizados e potencialmente enganosos no ambiente gratuito.

Nível de Grupo: Igualdade

A democracia exige que as pessoas tenham direitos iguais de participação e representação, mas a IA pode subverter esse ideal ao se basear em dados do passado. Segundo Jungherr, como a IA é treinada em dados históricos, ela corre o risco de replicar e perpetuar preconceitos e discriminações sistêmicas.

Nesse caso, grupos sub-representados nos dados podem se tornar invisíveis para os sistemas de IA, resultando em exclusão no acesso a serviços governamentais ou na formulação de políticas. Por outro lado, a sobre-representação de grupos marginalizados em registros criminais pode levar a um policiamento tendencioso, aumentando a desigualdade estrutural.

Uma outra consequência é o silenciamento de minorias. Como a IA aprende padrões típicos, ela tende a favorecer posições médias ou majoritárias. Isso pode tornar invisíveis as vozes minoritárias ou posições fora do padrão, diminuindo a capacidade de uma sociedade se enxergar em sua totalidade.

Nível Institucional: Eleições

As eleições são o mecanismo institucional para gerenciar conflitos políticos através da “incerteza organizada”, onde todos os lados sentem que têm chance de vencer.

Embora a capacidade da IA de prever o comportamento individual de eleitores seja limitada, o impacto mais significativo é na percepção pública, segundo Jungherr. O medo de que a IA possa manipular resultados eleitorais, alimentado por casos como o da Cambridge Analytica, pode minar a confiança nas instituições e dar pretexto para que perdedores contestem resultados legítimos.

As capacidades preditivas da IA, utilizadas pelas campanhas, nesse sentido, podem também produzir efeitos sobre a “incerteza eleitoral”, transferindo um poder não desprezível para as empresas de tecnologia sobre a crença nos resultados eleitorais.

“…Ao transpor as expectativas relativas aos supostos poderes da IA da indústria e da ciência para a política, o público pode vir a acreditar que a IA é realmente capaz de compensar a “incerteza organizada” das eleições democráticas. Isto por si só poderia enfraquecer a confiança do público nas eleições e a aceitação dos resultados eleitorais. É, portanto, importante manter viva a incerteza organizada face à IA, e não enfraquecê-la através de especulações irresponsáveis e fantásticas” (Jungherr, 2023).

 Nível de Sistemas: competição entre Democracia e Autocracia

No último nível, o professor Universidade de Bamberg examina como a IA afeta o equilíbrio de poder entre diferentes sistemas de governo.

Para Jugherr, existe a preocupação de que autocracias possam ter uma vantagem competitiva na implementação da IA devido à falta de regulamentações rígidas de privacidade e ao acesso a vastas quantidades de dados populacionais para controle social e planejamento.

Nesse sentido, a IA pode permitir que regimes autocráticos superem sua tradicional desvantagem de processamento de informações, melhorando a capacidade do estado e a prestação de serviços públicos, o que poderia fortalecer o apoio a esses regimes em detrimento das democracias.

Em última análise, o impacto da inteligência artificial na democracia não deve ser visto como uma ameaça apocalíptica de ficção científica, mas como uma série de pressões concretas que operam em quatro níveis: no autogoverno do indivíduo, na igualdade entre grupos, na integridade das eleições e na disputa global entre regimes. Como o modelo proposto por Andreas Jungherr demonstra, o desafio não reside em uma futura e hipotética superinteligência, que muitas vezes serve apenas como uma cortina de fumaça, mas na governança cotidiana das tecnologias de IA estreita que já moldam nossos fluxos de informação e decisões políticas.