A IA generativa está apagando a linha entre o real e o falso. Rápido. Duro. Irreversível. Costumávamos confiar em nossos olhos. Essa confiança se foi agora.
“Ver não é mais acreditar.”
Era junho de 1944. Os aliados atingiram as praias da Normandia. As fotos que saíram estavam granuladas, borradas e caóticas. Eles não apenas documentaram a história; eles definiram isso. Milhões nunca viram a guerra. Mas essas imagens? Eles se tornaram a guerra para eles. Prova visceral de sacrifício. De coragem. De um propósito coletivo que fez cair a distância entre o espectador e o sangue na areia.
O mesmo aconteceu com a Praça Tiananmen. Um homem. Fileiras de tanques. Um impasse silencioso que abalou o mundo.
Ou o homem caindo. Centro Mundial de Comércio. Um momento de horror que ficou preso na nossa garganta global.
Ou Alan Kurdi. Três anos. Uma costa turca. Um órgão que mudou a política migratória da noite para o dia.
Não eram apenas registros. Eles eram marcos culturais. Base visual compartilhada. As sociedades coordenaram emoções e ações por causa deles. A compreensão pública foi construída sobre este substrato.
Então, o que acontece quando o substrato apodrece?
Os geradores de IA agora podem criar imagens que não parecem apenas reais. Eles parecem reais. Emocionalmente atraente. Contextualmente plausível. E eles fazem isso barato. Rapidamente. Em escala. Ao contrário dos velhos tempos, onde o Photoshop deixava rastros se você soubesse o que procurar, os sintéticos de hoje são polidos. Eles mostram eventos que nunca aconteceram. Pessoas que nunca existiram. E a tecnologia fica melhor a cada mês.
Isso é uma bagunça para a epistemologia.
As fotografias estavam no topo da nossa hierarquia de evidências. “Ver para crer” não era apenas um slogan; foi um atalho cognitivo. Uma ponte entre o olho e o cérebro. Mesmo que soubéssemos que as fotos poderiam ser encenadas, assumimos uma ligação causal. A câmera viu, então aconteceu. AI corta esse cordão.
Os riscos não são teorias abstratas.
Nas zonas de guerra, circulam falsas atrocidades. As forças inimigas são culpadas por crimes que não cometeram. Ou vitórias que não aconteceram. Como aquela imagem falsa de um radar americano danificado por um drone iraniano? Amplamente compartilhado. Totalmente fabricado.
Internamente? As tensões raciais aumentam nas cenas encenadas. Figuras públicas aparecem em fotos que são mentiras. Trump foi “reservado” online. É falso. Ele se espalha de qualquer maneira.
A velocidade mata o contexto. A mídia social se move mais rápido que a verificação. Quando os especialistas desmascaram uma imagem, o dano emocional já está feito. Ou pior, eles desmascaram algo real. Lembra daquelas misturas de poodle em gaiolas? Uma instituição de caridade animal postou. Os internautas disseram: “Obviamente falso, olhe as patas”.
Foi real.
Mas a verdade foi descartada porque o ceticismo se tornou a configuração padrão.
Esse é o “dividendo do mentiroso”.
Uma vez que você aceita que as imagens podem ser falsificadas perfeitamente, tudo é suspeito. Os maus atores saem do gancho. “Isso é IA”, dizem eles. É um escudo conveniente. A evidência autêntica é vaporizada pela dúvida.
A democracia precisa de fatos. Não interpretações. Fatos. Quando perdemos a realidade compartilhada, perdemos a capacidade de julgar juntos. Discordar é bom. Discordando sobre o que aconteceu? Isso quebra o sistema.
A tecnologia não vai consertar isso. Desculpe. As ferramentas de detecção melhoraram? A evasão da IA também fica melhor. É uma corrida armamentista que estamos perdendo. Além disso, a detecção não é escalonável. E pessoas normais? Eles não são especialistas em análise forense digital.
Precisamos de lei. Precisamos da sociedade.
A história ajuda. A fotografia também mudou o século XX. Os direitos autorais surgiram. A autoria é importante. Se você soubesse quem fez isso, poderia responsabilizá-los. As leis de difamação funcionavam porque havia uma cadeia de custódia. Um nome. Uma fonte.
Precisamos dessa corrente de volta.
- Divulgação obrigatória: Se for IA, diga. Na criação. Na distribuição. Etiquetas claras. Não há como se esconder nas sombras. As plataformas precisam impor isso. Regulamentos também.
- Rastreabilidade: Marcas d’água criptográficas. Metadados que registram a vida de uma imagem. Foi obtido por um sensor ou gerado por um modelo? Sistemas padronizados que não podem ser eliminados. Interoperável além-fronteiras.
- Responsabilidade: Punir o uso malicioso. Se você fingir para machucar alguém ou influenciar um voto, você paga o preço. As plataformas devem manter vivos os dados de proveniência.
Nada disso traz de volta a velha confiança ingênua. Está morto. Perdido. A era dos olhos inocentes acabou.
Mas podemos construir outra coisa. Confiança robusta. Não baseado em suposições, mas em verificação.
A Normandia ressoa porque concordamos com a realidade. Precisamos disso novamente. Não para o passado. Para o futuro. Não é apenas um bug técnico. É uma característica democrática. Ou um bug que precisamos eliminar antes que todo o sistema operacional trave.
