O direito de não ser otimizado

A democracia depende de nossa liberdade de permanecermos imprevisíveis

Em julho de 2026, a Comissão Europeia concluiu preliminarmente que as contas de menores no TikTok descumprem padrões de segurança da Lei dos Serviços Digitais. Meses antes, já havia apontado outra possível violação: recursos como rolagem infinita, reprodução automática e recomendações altamente personalizadas poderiam estimular o uso compulsivo. O caso envolve crianças, mas revela uma questão maior: quem organiza nossa atenção exerce poder sobre a vida pública.

O poder tradicional possuía responsáveis identificáveis. Estados promulgavam leis, autoridades tomavam decisões, partidos disputavam votos. O poder algorítmico age de outra forma. Raramente ordena; sugere. Raramente proíbe; rebaixa. Organiza o ambiente em que algumas ideias ganham destaque e outras desaparecem. É um novo “poder invisível” que, diferentemente da coerção física, atua de forma onividente sobre o comportamento.

Um sistema escolhe o próximo vídeo. Um mecanismo de busca hierarquiza informações. Um assistente de inteligência artificial transforma acontecimentos complexos em respostas coerentes. Essas ferramentas distribuem atenção, alcance e relevância. Exercem poder mesmo quando parecem oferecer apenas conveniência.

O risco aumenta quando passamos a nos adaptar aos critérios das máquinas. Pessoas escrevem, trabalham, consomem e opinam de maneiras mais facilmente reconhecidas por sistemas de classificação. O comportamento acomoda-se à métrica. O indivíduo aprende a caber no perfil. Audrey Tang chamou atenção para esse fenômeno ao defender o direito de resistir à otimização: a inteligência artificial aprende conosco, mas também podemos começar a mudar nosso comportamento para nos tornar mais legíveis para ela. Nesse ponto, a personalização deixa de apenas servir ao cidadão e começa a definí-lo. A previsibilidade vira virtude; a hesitação e a mudança de opinião parecem defeitos.

Esse é um problema democrático. A tradição liberal criou mecanismos para limitar o poder do Estado: direitos fundamentais, eleições, divisão de poderes, tribunais e imprensa livre. Todos continuam indispensáveis. Mas parte crescente da vida pública ocorre em plataformas privadas que organizam nossa atenção segundo critérios comerciais. Uma opinião pode permanecer disponível e, ainda assim, tornar-se quase irrelevante. No ambiente algorítmico, não basta garantir o direito de falar; importa saber quem decide o que será visto.

Quem escolhe aquilo que aparece na tela? Segundo quais critérios? Com qual finalidade? Em que momento uma pessoa deixa de ser tratada como cidadã e passa a ser tratada apenas como um conjunto de probabilidades? Uma sociedade dominada por métricas favorece aquilo que pode ser previsto e classificado. A democracia depende do contrário: ouvir argumentos, rever posições, romper com o próprio grupo e formar novas alianças. Um cidadão precisa continuar capaz de mudar, surpreender e escapar das classificações feitas a seu respeito.

Essa questão ganha peso num período de retração democrática. O Democracy Report 2026, do V-Dem, registra que 74% da população mundial vive hoje sob governos autocráticos, enquanto a liberdade de expressão se deteriora em 44 países. A erosão democrática nem sempre começa com parlamentos fechados ou jornais proibidos. Pode avançar gradualmente, enquanto eleições continuam ocorrendo e tribunais permanecem abertos. Nesse ambiente, torna-se mais difícil distinguir o que é popular do que é legítimo, o que informa do que apenas captura atenção e o que nasce da sociedade do que foi artificialmente amplificado.

A radicalização mostra a gravidade do problema. A Europol registra o uso de redes sociais, serviços on-line e plataformas relacionadas a jogos para propaganda, recrutamento e mobilização extremista. Algoritmos não criam sozinhos ressentimento, exclusão ou violência, mas podem acelerar o encontro entre pessoas vulneráveis e grupos dispostos a explorar essas fragilidades. O extremista raramente começa oferecendo violência. Primeiro oferece uma explicação, aponta culpados, organiza ressentimentos e oferece pertencimento. A resposta democrática muitas vezes chega apenas no final, por meio da polícia e da lei.

A solução, porém, não está em proibir genericamente a inteligência artificial nem em entregar ao Estado o controle total da circulação das ideias. O objetivo deve ser limitar a capacidade de qualquer instituição, pública ou privada, de transformar classificações sobre pessoas em destinos incontestáveis. Isso exige novos direitos concretos. O cidadão deveria saber quando interage com uma entidade artificial e compreender por que determinado conteúdo lhe foi recomendado. Deveria poder escolher um fluxo sem perfilamento comportamental, contestar classificações feitas a seu respeito e reiniciar seu histórico algorítmico. O princípio é simples: a personalização deve ser uma escolha, não uma condição obrigatória da vida digital.

Contudo, a proteção da imprevisibilidade humana não pode se converter em um escudo legal para a manipulação coordenada. Como advertem os estudiosos das guerras em rede (netwars), grupos extremistas e milícias organizadas valem-se do anonimato e de exércitos de bots para realizar ataques de enxame, simular apoio popular e destruir a reputação de opositores. Para que o “direito de reiniciar o histórico” não seja sequestrado como camuflagem por máquinas de desinformação, a autonomia concedida ao usuário humano deve ser indissociável da exigência radical de transparência arquitetônica. A liberdade de apagar rastros e mudar de ideia é um privilégio da consciência humana, e o ambiente digital deve ser desenhado para identificar e isolar as falsas entidades sintéticas que parasitam a opinião pública.

Mas fiscalizar plataformas privadas e coibir milícias sintéticas não basta. Universidades, bibliotecas, meios públicos de comunicação e organizações civis precisam criar proativamente novos espaços digitais regidos por regras transparentes, nos quais cada interação não precise ser transformada em dado comercial. A democracia também precisa proteger aquilo que os sistemas de otimização valorizam mal: a dúvida, a reflexão, a mudança de opinião e as conversas cujo valor cívico não cabe numa métrica de engajamento imediato.

Todo poder excessivo se beneficia de cidadãos previsíveis. Quanto mais fácil classificar uma pessoa, mais fácil antecipar e influenciar seu comportamento.

Por isso, a liberdade contemporânea precisa incorporar um princípio novo: o direito de escapar das classificações produzidas a nosso respeito.

O cidadão democrático é contraditório e capaz de surpreender. Pode rever uma convicção, romper com seu grupo e tornar-se amanhã alguém que seu comportamento de ontem jamais permitiria prever.

Essa imprevisibilidade não é uma falha. É uma condição da liberdade.

Defender o direito de escapar à otimização é defender a liberdade de ainda nos tornarmos pessoas que nenhum sistema conseguiu prever.