La tecnología que puede poner en duda lo que vemos

Durante mucho tiempo, una fotografía, una grabación de audio o un vídeo fueron considerados elementos relativamente fiables para demostrar que algo había ocurrido. Evidentemente, las imágenes podían manipularse y las grabaciones podían editarse, pero hacerlo requería conocimientos técnicos, programas especializados y, en muchos casos, bastante tiempo. En la actualidad, la inteligencia artificial está cambiando esta situación. Hoy en día existen sistemas capaces de generar imágenes, voces, vídeos y otros contenidos sintéticos con un nivel de realismo que hace que, en determinadas circunstancias, resulte difícil distinguirlos de contenidos reales. Esta evolución ha dado lugar a una pregunta cada vez más interesante: ¿puede una inteligencia artificial fabricar pruebas falsas? La respuesta corta es sí, aunque conviene explicar qué significa exactamente «fabricar una prueba».

Una IA puede generar o modificar determinados contenidos para representar acontecimientos que nunca sucedieron, poner palabras en boca de una persona que nunca las pronunció o alterar una imagen para crear una situación que jamás tuvo lugar. Los llamados “deep fakes” son uno de los ejemplos más conocidos de esta tecnología. Pero, el problema no consiste únicamente en que alguien pueda crear una falsificación, el verdadero desafío aparece cuando una sociedad empieza a tener dificultades para distinguir entre lo auténtico y lo generado artificialmente.

Y aquí surge una situación todavía más curiosa: la inteligencia artificial no solo puede facilitar la creación de contenidos falsos, también está siendo utilizada para intentar detectar esos mismos contenidos. Estamos entrando, por tanto, en una especie de carrera tecnológica entre sistemas capaces de generar información sintética y sistemas capaces de analizarla.

Diferencia entre prueba y representación de un hecho

Antes de hablar de inteligencia artificial, hay que distinguir entre una prueba y una representación de un hecho. Una fotografía de una persona realizando una determinada acción podría utilizarse como evidencia de que esa persona estuvo allí, pero si la imagen ha sido generada artificialmente o manipulada, deja de representar necesariamente un acontecimiento real. Lo mismo ocurre con un audio; una grabación en la que aparentemente una persona dice una determinada frase puede parecer una evidencia directa. Sin embargo, las tecnologías actuales permiten generar voces sintéticas capaces de imitar características de una persona real.

También con el vídeo sucede algo similar; la IA generativa puede crear imágenes en movimiento, modificar determinados elementos de una escena o generar representaciones de personas que parecen reales. Por tanto, una «prueba falsa» creada con IA no tiene por qué ser un documento falsificado en el sentido tradicional, puede ser un contenido completamente generado desde cero, y esta diferencia es importante. En el pasado, para falsificar una fotografía normalmente había que partir de una imagen existente, pero ahora, con los sistemas generativos actuales, es posible crear una escena que nunca existió.

Los famosos “deep fakes”

Como ya hemos visto en la introducción, los deep fakes son el ejemplo más conocido. El término deep fake se utiliza para describir determinados contenidos sintéticos generados o manipulados mediante técnicas de inteligencia artificial, especialmente cuando se intenta representar de manera realista a una persona. El concepto puede aplicarse a imágenes, vídeos y audios. Por ejemplo, una persona podría aparecer aparentemente pronunciando unas palabras que nunca dijo. También puede generarse una voz artificial que imite características de una persona real.

Esto tiene aplicaciones legítimas en entretenimiento, doblaje, producción audiovisual y creación de contenidos, pero también puede utilizarse con intenciones engañosas. El problema aparece cuando el contenido se presenta deliberadamente como auténtico; una imagen generada como ficción no supone necesariamente un problema, pero el riesgo aumenta considerablemente cuando esa imagen se presenta como una fotografía real de un acontecimiento que nunca ocurrió. La diferencia está, por tanto, en el contexto y en la intención.

¿Puede la IA falsificar documentos?

Frente a esta pregunta es preciso hacer una distinción. La inteligencia artificial puede utilizarse para generar imágenes o textos que imitan determinados tipos de documentos, pero que un contenido tenga apariencia documental no significa que sea un documento auténtico. Un archivo puede parecer una factura, una imagen puede parecer un contrato, un texto puede parecer un informe, pero su aspecto visual no demuestra necesariamente su procedencia.

En un contexto empresarial, por ejemplo, una empresa debería comprobar información importante mediante sus sistemas internos y fuentes originales en lugar de aceptar automáticamente una captura de pantalla o un documento recibido por un canal no verificado. La IA aumenta la capacidad para crear contenidos convincentes, por lo que también debe aumentar la importancia de comprobar su origen.

IA utilizada para acabar con las falsificaciones

Una de las partes más interesantes de esta historia aparece cuando la propia IA se emplea para combatir estas “falsificaciones”. En estos casos, la misma tecnología que facilita la creación de contenidos sintéticos puede utilizarse para intentar detectarlos. Los sistemas de detección pueden analizar diferentes características de una imagen, un audio o un vídeo para buscar patrones asociados a contenido generado o manipulado. En determinados casos pueden examinar información relacionada con el archivo, inconsistencias visuales, características estadísticas u otros indicadores técnicos.

Sin embargo, estos sistemas tampoco son perfectos: un detector puede equivocarse y marcar como artificial un contenido real o no detectar una falsificación suficientemente sofisticada. Esto crea una especie de carrera tecnológica en la que los generadores intentan producir contenidos cada vez más convincentes mientras que los detectores intentan encontrar nuevas formas de identificarlos. Cuando los generadores mejoran, los sistemas de detección tienen que adaptarse y viceversa.

El “dividendo del mentiroso”

Con toda esta situación nace además un efecto psicológico interesante; si la sociedad empieza a saber que la IA puede crear falsificaciones extremadamente convincentes, algunas personas pueden comenzar a desconfiar de cualquier contenido que les resulte incómodo. Esto puede generar un problema conocido como el «dividendo del mentiroso».

Una persona realmente responsable de una acción puede alegar que las pruebas en su contra son falsas o generadas por inteligencia artificial, es decir, la existencia de deep fakes no solo facilita crear falsificaciones, también puede proporcionar una excusa para rechazar contenidos auténticos. Este fenómeno es especialmente interesante porque demuestra que el problema no consiste únicamente en crear información falsa, también consiste en mantener la capacidad de establecer qué información es verdadera.

Redes sociales como cuna de la falsificación con IA

Las redes sociales ya son y probablemente seguirán siendo uno de los principales escenarios de este fenómeno. La velocidad con la que se comparte información hace que una falsificación pueda alcanzar a miles o millones de personas antes de que alguien tenga tiempo de comprobarla. Una imagen falsa puede convertirse en viral, un audio manipulado puede circular por grupos privados, o un vídeo puede generar miles de comentarios antes de que aparezcan explicaciones sobre su origen. Por eso, la educación digital adquiere una importancia creciente; no hace falta convertirse en especialista en inteligencia artificial, pero sí conviene desarrollar hábitos básicos como comprobar fuentes, buscar contexto, no compartir inmediatamente, o comparar información.

Posibles indicadores de contenido fraudulento con IA

Aunque los sistemas de generación han mejorado mucho, todavía pueden aparecer algunas señales que hacen sospechar de un contenido artificial. Una primera señal puede ser la presencia de detalles extraños o inconsistentes; en imágenes, por ejemplo, determinados elementos pueden presentar pequeñas deformaciones o relaciones poco naturales. Otra posibilidad es encontrar movimientos poco coherentes en vídeos; aunque los modelos han mejorado considerablemente, algunas escenas pueden contener movimientos que no parecen completamente naturales.

También puede resultar sospechoso un audio excesivamente limpio o artificial, aunque este indicador por sí solo no demuestra nada. La sincronización entre labios y voz puede ser otro elemento que conviene observar en determinados contenidos audiovisuales. Además, hay que prestar atención al contexto de publicación; una imagen extraordinaria que aparece inicialmente en una cuenta desconocida sin información sobre su origen merece más comprobaciones que una fotografía acompañada de información verificable y publicada por una fuente reconocida.

Además es útil realizar una búsqueda inversa de imágenes cuando sea posible, especialmente si se sospecha que una fotografía puede proceder de un acontecimiento anterior. Sobre todo, conviene desconfiar de la idea de que existe una señal visual infalible. Los sistemas generativos evolucionan rápidamente y las técnicas de detección también cambian, por lo que la mejor estrategia es combinar diferentes métodos de verificación.

Conclusión: el futuro de las pruebas digitales puede cambiar con la IA

La inteligencia artificial ya tiene capacidad para generar imágenes, voces y vídeos capaces de representar situaciones que nunca ocurrieron. En determinadas circunstancias, estos contenidos pueden ser suficientemente convincentes como para engañar a personas que no conocen su origen. Esto convierte a la IA en una herramienta con enormes posibilidades creativas, pero también plantea desafíos relacionados con la desinformación, la reputación, la seguridad y la autenticidad de la información.

La cuestión más importante quizá no sea si una IA puede fabricar una prueba falsa; ya sabemos que puede generar contenidos que aparentan demostrar acontecimientos inexistentes. La cuestión realmente interesante es cómo vamos a demostrar que una prueba digital es auténtica. Durante mucho tiempo, la fotografía, el audio y el vídeo tuvieron una especie de ventaja psicológica: parecían representar directamente la realidad, pero la inteligencia artificial está eliminando parte de esa certeza.

En el futuro, probablemente tendremos que prestar menos atención a cómo de real parece una imagen y más atención a su procedencia, contexto y mecanismos de autenticación, y aquí puede producirse uno de los cambios más importantes de la era de la IA. Quizá la pregunta ya no sea: «¿Esto parece real?» , si no: «¿Podemos demostrar que es real?» La diferencia entre ambas preguntas puede parecer pequeña, pero podría determinar cómo verificamos información, cómo consumimos contenido en Internet y cómo entendemos la evidencia digital durante los próximos años.