La IA generativa está borrando la línea entre lo real y lo falso. Rápido. Duro. Irreversible. Solíamos confiar en nuestros ojos. Esa confianza ya no existe.
“Ver ya no es creer.”
Era junio de 1944. Los aliados atacaron las playas de Normandía. Las fotos que salieron eran granuladas, borrosas y caóticas. No sólo documentaron la historia; ellos lo definieron. Millones de personas nunca vieron la guerra. ¿Pero esas imágenes? Se convirtieron para ellos en la guerra. Prueba visceral de sacrificio. De coraje. De un propósito colectivo que colapsó la distancia entre el espectador y la sangre en la arena.
Lo mismo ocurrió con la Plaza de Tiananmen. Un hombre. Filas de tanques. Un enfrentamiento silencioso que sacudió al mundo.
O el hombre que cae. Centro de Comercio Mundial. Un momento de horror que se quedó atrapado en nuestra garganta global.
O Alan Kurdi. Tres años. Una costa turca. Un organismo que cambió la política migratoria de la noche a la mañana.
Estos no fueron sólo registros. Eran piedras de toque culturales. Terreno visual compartido. Las sociedades coordinaron emociones y acciones gracias a ellos. La comprensión pública se construyó sobre este sustrato.
Entonces, ¿qué pasa cuando el sustrato se pudre?
Los generadores de IA ahora pueden crear imágenes que no sólo parecen reales. Se sienten reales. Emocionalmente convincente. Contextualmente plausible. Y lo hacen por poco dinero. Rápidamente. A escala. A diferencia de los viejos tiempos, donde Photoshop dejaba rastros si sabías qué buscar, los materiales sintéticos de hoy están pulidos. Muestran hechos que nunca sucedieron. Personas que nunca existieron. Y la tecnología mejora cada mes.
Esto es un desastre para la epistemología.
Las fotografías ocupaban el primer lugar en nuestra jerarquía de pruebas. “Ver para creer” no era sólo un eslogan; Fue un atajo cognitivo. Un puente entre el ojo y el cerebro. Incluso si supiéramos que las fotografías podían ser montadas, asumimos un vínculo causal. La cámara lo vio y así sucedió. La IA corta ese cordón.
Los riesgos no son teorías abstractas.
En las zonas de guerra circulan falsas atrocidades. Se culpa a las fuerzas enemigas por crímenes que no cometieron. O victorias que no sucedieron. ¿Como esa imagen falsa de un radar estadounidense dañado por un dron iraní? Ampliamente compartido. Totalmente fabricado.
¿A nivel nacional? Las tensiones raciales se inflaman en escenas escenificadas. Figuras públicas aparecen en fotografías policiales que son mentiras. Trump ha sido “reservado” en línea. Es falso. Se propaga de todos modos.
La velocidad mata el contexto. Las redes sociales avanzan más rápido que la verificación. Cuando los expertos desacreditan una imagen, el daño emocional ya está hecho. O peor aún, desacreditan algo real. ¿Recuerdas esas mezclas de caniches en jaulas? Una organización benéfica para animales lo publicó. Los internautas dijeron: “Obviamente falso, mira las patas”.
Fue real.
Pero la verdad fue descartada porque el escepticismo se convirtió en el escenario predeterminado.
Ese es el “dividendo del mentiroso”.
Una vez que aceptas que las imágenes se pueden falsificar perfectamente, todo es sospechoso. Los malos actores se libran del apuro. “Eso es IA”, dicen. Es un escudo conveniente. La duda vaporiza la evidencia auténtica.
La democracia necesita hechos. No interpretaciones. Hechos. Cuando perdemos la realidad compartida, perdemos la capacidad de juzgar juntos. El desacuerdo está bien. ¿No estás de acuerdo sobre qué pasó? Eso rompe el sistema.
La tecnología no solucionará esto. Lo siento. ¿Las herramientas de detección mejoran? La evasión de la IA también mejora. Es una carrera armamentista que estamos perdiendo. Además, la detección no aumenta. ¿Y la gente normal? No son expertos en forense digital.
Necesitamos ley. Necesitamos la sociedad.
La historia ayuda. La fotografía también cambió el siglo XX. Surgieron los derechos de autor. La autoría importa. Si supieras quién lo hizo, podrías responsabilizarlos. Las leyes de difamación funcionaron porque había una cadena de custodia. Un nombre. Una fuente.
Necesitamos recuperar esa cadena.
- Divulgación obligatoria: Si se trata de IA, dígalo. En la creación. En la distribución. Etiquetas claras. No esconderse en las sombras. Las plataformas deben hacer cumplir esto. Reglamentos también.
- Trazabilidad: Marcas de agua criptográficas. Metadatos que registran la vida de una imagen. ¿Fue tomado por un sensor o generado por un modelo? Sistemas estandarizados que no se pueden eliminar. Interoperable a través de fronteras.
- Responsabilidad: Sancionar el uso malicioso. Si lo finges para lastimar a alguien o influir en un voto, pagas el precio. Las plataformas deben mantener vivos los datos de procedencia.
Nada de esto recupera la antigua confianza ingenua. Está muerto. Desaparecido. La era de los ojos inocentes ha terminado.
Pero podemos construir algo más. Confianza sólida. No basado en suposiciones, sino en verificación.
Normandía resuena porque coincidimos en la realidad. Necesitamos eso de nuevo. No por el pasado. Para el futuro. No es sólo un error técnico. Es una característica democrática. O un error que debemos solucionar antes de que todo el sistema operativo falle.
