Ver para no creer: Deepfakes, evidencia digital y el fin de la confianza automática
- Escrito por Daniel René Jiménez Cortés
- Publicado en Tribuna Libre
Durante mucho tiempo, una fotografía, una grabación de audio o un video conservaron una especie de autoridad y credibilidad casi automática. Podían discutirse sus circunstancias, su contexto o la interpretación de quien los observaba, pero mantenían una ventaja frente a otros tipos de información porque parecían provenir directamente de la realidad. Si algo había sido grabado, fotografiado o registrado, asumíamos que detrás existía un acontecimiento material. Esa confianza nunca fue absoluta, pero sí suficientemente sólida como para convertir la imagen y el sonido en referencias privilegiadas para medios de comunicación, investigaciones, procesos judiciales, empresas y, en general, para cualquier persona que necesitara saber si algo había ocurrido o no. La irrupción de la inteligencia artificial generativa está debilitando precisamente esa relación.
Los deepfakes son probablemente la manifestación más visible de este cambio. Suelen presentarse como videos falsos, rostros alterados o voces clonadas. La tecnología ya no sólo permite modificar un archivo existente. Ahora puede producir contenido audiovisual que representa personas, declaraciones o escenas que nunca existieron. Eso altera la lógica con la que tradicionalmente evaluábamos la autenticidad. Antes una imagen podía estar manipulada. Hoy puede haber sido creada desde cero y, aun así, conservar suficientes rasgos de realidad para resultar convincente. Ver deja de ser suficiente.
El cambio parece simple, pero afecta algo mucho más importante que nuestra relación con las redes sociales. Cuando una persona recibe un video de un directivo autorizando una operación financiera, una grabación de voz aparentemente enviada por un familiar o una imagen que pretende demostrar la presencia de alguien en determinado lugar, ya no basta con preguntarse si el contenido parece auténtico. La pregunta correcta comienza a ser de dónde proviene, cómo fue obtenido y qué elementos independientes permiten corroborarlo.
Hasta hace pocos años, muchas personas intentaban detectar un deepfake (palabra que por cierto ni se usaba) buscando errores visibles. Los ojos se movían de forma extraña, la boca no coincidía del todo con el sonido, la iluminación presentaba inconsistencias o el rostro parecía artificial cuando la persona giraba la cabeza. Esas señales funcionaron durante algún tiempo porque la tecnología todavía dejaba huellas perceptibles. El problema es que esas fallas no son permanentes. Cada nueva generación de modelos reduce imperfecciones que antes servían para identificar contenido sintético. Confiar únicamente en nuestra capacidad visual para distinguir una falsificación equivale a utilizar las limitaciones actuales de una tecnología como mecanismo de seguridad. Es una defensa destinada a deteriorarse.
Por eso el debate está desplazándose progresivamente desde la apariencia hacia la procedencia. La cuestión ya no consiste únicamente en saber si una imagen “parece real”, sino en reconstruir su historia. Qué dispositivo la produjo. Cuando fue generada. Si existen versiones anteriores. Qué modificaciones sufrió. Dónde apareció por primera vez. Si fue comprimida, editada, recortada o trasladada entre distintas plataformas. Esa cadena de información no garantiza por sí misma que un contenido sea verdadero, pero proporciona algo que la simple observación ya no puede ofrecer: un contexto verificable.
Autenticidad no significa verdad. Una fotografía puede ser completamente auténtica y encontrarse acompañada por una explicación falsa. Un video grabado realmente en un país puede circular meses después afirmando que pertenece a otro. Una imagen legítima puede utilizarse fuera de contexto para respaldar una historia que nunca ocurrió. Del mismo modo, un archivo puede mostrar una escena técnicamente real y, sin embargo, llevarnos a una conclusión equivocada si desconocemos las circunstancias en que fue producido.
La inteligencia artificial complica este escenario (pero no lo inventó). La manipulación de información existe desde mucho antes de los modelos generativos. Lo que cambia ahora es la velocidad, la escala y, sobre todo, la calidad con la que puede fabricarse algo verosímil. Antes crear una falsificación audiovisual convincente requería tiempo, recursos y conocimientos especializados. Hoy esa barrera disminuye rápidamente. El problema no es excepcional y comienza a convertirse en una condición cotidiana del entorno digital.
Y frente a ello, la reacción tecnológica ha sido previsible y tuvo que desarrollar inteligencia artificial capaz de detectar contenido producido por otra inteligencia artificial. La idea parece lógica. Si un modelo puede generar un rostro inexistente, otro debería poder identificar los rastros de esa generación. El problema es que la detección tampoco produce certezas absolutas. Los sistemas pueden equivocarse tanto en la generación como en la evaluación. Pueden clasificar contenido auténtico como falso o no detectar una manipulación suficientemente sofisticada. También pueden perder eficacia después de una compresión, una captura de pantalla o cualquier modificación relativamente sencilla del archivo original. Es así como podemos sustituir la antigua confianza ciega en nuestros ojos por una nueva confianza ciega en un porcentaje generado por una herramienta.
Si un sistema afirma que existe un ochenta o un noventa por ciento de probabilidad de que determinado contenido haya sido generado artificialmente, ese resultado necesita interpretación. No es una sentencia. Mucho menos cuando la decisión posterior afecta reputaciones, patrimonio, libertad, seguridad o credibilidad institucional. La tecnología puede apoyar el análisis, pero convertir sus resultados en conclusiones automáticas sería repetir el mismo error que estamos intentando corregir.
En realidad, la verificación exige algo más parecido a una investigación que a una simple inspección técnica. Hay que preguntar quién proporcionó el archivo, qué interés podría existir detrás de su difusión, si hay registros independientes del mismo acontecimiento, si la fecha y el lugar son coherentes, si existen otras fuentes capaces de confirmar o contradecir lo observado. En otras palabras, el archivo no debe analizarse como una pieza aislada, sino como parte de un conjunto mayor de información.
Irónicamente parece que pasamos de la ignorancia a la infoxicación. Este principio resulta especialmente importante porque el contenido digital tiende a adquirir fuerza precisamente cuando se presenta fuera de contexto. Un video corto puede parecer contundente porque elimina todo aquello que ocurre antes o después. Una grabación de audio puede cambiar de significado si desconocemos quiénes participaron en la conversación. Una fotografía puede convertirse en “prueba” únicamente porque nadie preguntó cuándo fue tomada.
Los deepfakes agregan una nueva capa a un problema que ya era complejo. Ahora no sólo debemos interpretar correctamente lo verdadero. También necesitamos determinar si aquello que estamos interpretando siquiera existió. Incluso, la posibilidad de producir contenido falso también facilita negar contenido auténtico. Cuando cualquier imagen puede ser generada artificialmente, una persona confrontada con una grabación verdadera dispone de una defensa inmediata pudiendo afirmar que fue creada con inteligencia artificial. Esto introduce la posibilidad paradójica de que la misma tecnología que permite fabricar evidencia falsa también puede utilizarse para desacreditar evidencia legítima. El riesgo ya no consiste únicamente en creer una mentira. También consiste en dejar de creer una verdad. ¡Vaya ironía!
Ese escenario puede erosionar gradualmente la confianza en fotografías, videos, llamadas, documentos e incluso comunicaciones personales. No porque todo vaya a ser falso, sino porque cada vez será más difícil demostrar autenticidad utilizando únicamente el contenido visible. La confianza deberá apoyarse en nuevas capas técnicas y metodológicas. Firmas digitales, trazabilidad, registros de procedencia, análisis forense y mecanismos criptográficos seguramente tendrán un papel creciente. Pero ninguno de ellos eliminará la necesidad de interpretar.
La inteligencia artificial puede procesar una cantidad enorme de información, comparar archivos, identificar anomalías y encontrar patrones con una velocidad imposible para una persona. Puede convertirse en una herramienta extraordinaria para la verificación. Lo que no puede resolver por sí sola es el significado completo de aquello que analiza. Puede indicar que un archivo presenta determinadas características, pero todavía necesitamos establecer qué relación tiene con un hecho, con una intención o con una decisión.
La aparición de los deepfakes, por tanto, no representa el final de la evidencia digital. Representa el final de una etapa en la que otorgábamos demasiada confianza a la apariencia. Probablemente tendremos que aprender a convivir con un entorno en el que observar algo sea apenas el comienzo de la comprobación. Será necesario comparar, rastrear, corroborar y mantener un grado saludable de incertidumbre hasta que existan razones suficientes para aceptar una conclusión.
Quizá ésa termine siendo una de las consecuencias menos previstas de la inteligencia artificial. Una tecnología diseñada para producir contenido podría obligarnos a mejorar nuestra manera de analizarlo. Durante generaciones repetimos que una imagen valía más que mil palabras y esta frase funcionó mientras asumíamos que la imagen conservaba una relación relativamente estable con la realidad. Esa condición está cambiando. A partir de ahora, una imagen podrá seguir diciendo mucho, pero antes tendremos que demostrar que merece ser estudiada. Ver ya no será creer. Y al parecer ese será apenas el punto de partida.
¡Mantente Vigía!
