L’IA générative efface la frontière entre le vrai et le faux. Rapide. Dur. Irréversible. Nous avions l’habitude de faire confiance à nos yeux. Cette confiance a disparu maintenant.
“Voir, ce n’est plus croire.”
Nous sommes en juin 1944. Les Alliés attaquent les plages normandes. Les photos qui en ressortaient étaient granuleuses, floues, chaotiques. Ils n’ont pas seulement documenté l’histoire ; ils l’ont défini. Des millions de personnes n’ont jamais vu la guerre elles-mêmes. Mais ces images ? Ils sont devenus la guerre pour eux. Preuve viscérale de sacrifice. De courage. D’un objectif collectif qui a réduit la distance entre le spectateur et le sang dans le sable.
Il en a été de même pour la place Tiananmen. Un homme. Des rangées de chars. Une confrontation silencieuse qui a secoué le monde.
Ou l’homme qui tombe. Centre du commerce mondial. Un moment d’horreur qui nous est resté en travers de la gorge.
Ou Alan Kurdi. Trois ans. Un rivage turc. Un organisme qui a changé la politique migratoire du jour au lendemain.
Ce n’étaient pas seulement des disques. C’étaient des références culturelles. Terrain visuel partagé. Les sociétés ont coordonné leurs émotions et leurs actions grâce à elles. La compréhension du public s’est construite sur ce substrat.
Alors que se passe-t-il lorsque le substrat pourrit ?
Les générateurs d’IA peuvent désormais créer des images qui ne semblent pas seulement réelles. Ils se sentent réels. Émotionnellement convaincant. Contextuellement plausible. Et ils le font à moindre coût. Rapidement. À grande échelle. Contrairement à l’époque où Photoshop laissait des traces si vous saviez quoi chercher, les synthétiques d’aujourd’hui sont raffinés. Ils montrent des événements qui ne se sont jamais produits. Des gens qui n’ont jamais existé. Et la technologie s’améliore chaque mois.
C’est un désastre pour l’épistémologie.
Les photographies se trouvaient au sommet de notre hiérarchie de preuves. « Voir, c’est croire » n’était pas seulement un slogan ; c’était un raccourci cognitif. Un pont entre l’œil et le cerveau. Même si nous savions que les photos pouvaient être mises en scène, nous supposions un lien de causalité. La caméra l’a vu, alors c’est arrivé. L’IA coupe ce cordon.
Les risques ne sont pas des théories abstraites.
Dans les zones de guerre, de fausses atrocités circulent. Les forces ennemies sont accusées de crimes qu’elles n’ont pas commis. Ou des victoires qui n’ont pas eu lieu. Comme cette fausse image d’un radar américain endommagé par un drone iranien ? Largement partagé. Totalement fabriqué.
Au niveau national ? Les tensions raciales s’enflamment lors de scènes mises en scène. Des personnalités publiques apparaissent dans des photos qui sont des mensonges. Trump a été « réservé » en ligne. C’est faux. Ça se propage quand même.
La vitesse tue le contexte. Les réseaux sociaux évoluent plus rapidement que la vérification. Le temps que les experts démystifient une image, les dégâts émotionnels sont déjà causés. Ou pire, ils démystifient quelque chose de réel. Vous vous souvenez de ces mélanges de caniches en cage ? Une association caritative pour les animaux l’a publié. Les internautes ont déclaré : « Évidemment faux, regardez les pattes. »
C’était réel.
Mais la vérité a été écartée parce que le scepticisme est devenu le paramètre par défaut.
C’est le « dividende du menteur ».
Une fois que vous acceptez que les images peuvent être parfaitement truquées, tout est suspect. Les mauvais acteurs s’en sortent. “C’est ça l’IA”, disent-ils. C’est un bouclier pratique. Les preuves authentiques sont vaporisées par le doute.
La démocratie a besoin de faits. Pas des interprétations. Faits. Lorsque nous perdons la réalité partagée, nous perdons la capacité de juger ensemble. Le désaccord, c’est bien. Vous n’êtes pas d’accord sur ce qui s’est passé ? Cela casse le système.
La technologie ne résoudra pas ça. Désolé. Les outils de détection s’améliorent ? L’évasion de l’IA s’améliore également. C’est une course aux armements que nous perdons. De plus, la détection n’est pas évolutive. Et les gens ordinaires ? Ce ne sont pas des experts en criminalistique numérique.
Nous avons besoin de loi. Nous avons besoin de société.
L’histoire aide. La photographie a aussi changé le XXe siècle. Le droit d’auteur est apparu. La paternité compte. Si vous saviez qui l’a fait, vous pourriez lui demander des comptes. Les lois sur la diffamation fonctionnaient parce qu’il existait une chaîne de traçabilité. Un nom. Une source.
Nous avons besoin de récupérer cette chaîne.
- Divulgation obligatoire : S’il s’agit d’IA, dites-le. A la création. A la distribution. Effacer les étiquettes. Pas de cachette dans l’ombre. Les plateformes doivent appliquer cela. La réglementation aussi.
- Traçabilité : Filigranes cryptographiques. Métadonnées qui enregistrent la vie d’une image. A-t-elle été prise par un capteur ou générée par un modèle ? Des systèmes standardisés qui ne peuvent être supprimés. Interopérable au-delà des frontières.
- Responsabilité : Punir les utilisations malveillantes. Si vous faites semblant pour blesser quelqu’un ou influencer un vote, vous en payez le prix. Les plateformes doivent conserver les données de provenance en vie.
Rien de tout cela ne ramène la vieille confiance naïve. C’est mort. Disparu. L’ère des yeux innocents est révolue.
Mais on peut construire autre chose. Une confiance solide. Pas basé sur une hypothèse, mais sur une vérification.
La Normandie résonne parce que nous sommes d’accord sur la réalité. Nous en avons encore besoin. Pas pour le passé. Pour l’avenir. Ce n’est pas seulement un bug technique. C’est une caractéristique démocratique. Ou un bug que nous devons éliminer avant que tout le système d’exploitation ne plante.
