Los peligros subestimados de la geografía deepfake

Las imágenes de satélite deepfake representan una amenaza cada vez más grave para la seguridad nacional, según los investigadores. Pero, ¿de qué estamos hablando exactamente? ¿Y cuáles pueden ser los peligros?

Deepfake es una técnica de síntesis de imágenes basada en inteligencia artificial (IA) para superponer archivos de audio y video ya existentes. Luego obtienes contenido nuevo completamente falso. Hasta ahora, las preocupaciones sobre los deepfakes se han centrado en videos manipulados por máquinas de celebridades y otros líderes mundiales que dicen o hacen algo que en realidad nunca habían dicho o hecho.

Ante estas amenazas, algunas grandes empresas tecnológicas como Amazon, Facebook y Microsoft han lanzado conjuntamente un desafío para detectar estas falsificaciones.

Sin embargo, si bien los discursos falsos de políticos y otras celebridades pornográficas que se difunden en las redes sociales han recibido una amplia atención pública en los últimos años, no se debe subestimar otra amenaza: la de los imágenes manipuladas de la Tierra misma.

Geografía deepfake

La creciente convergencia de la inteligencia artificial y los sistemas de información geográfica (SIG) ha permitido avances dramáticos en el campo de la inteligencia artificial geoespacial. Sin embargo, en los últimos años, los investigadores también han sido testigos de consecuencias no deseadas y problemáticas de esta convergencia. Estos incluyen problemas con señales GPS fabricadas o fotos falsas de entornos geográficos.

Hasta el momento, estas “falsificaciones” aún no han proliferado, pero algunos científicos están cada vez más preocupados por la difusión de estos datos generados por IA. Y por una buena razón, dicha información podría ser engañosa de varias maneras. De hecho, los humanos han “estado mintiendo” con sus cartas desde que existen las cartas. Sin embargo, las consecuencias podrían no ser las mismas hoy.

Esta información falsa podría utilizarse en particular para historias de descrédito basadas en imágenes de satélite reales. Para The Verge, James Vincent toma así el ejemplo de los campos de detención uigures en China, que han ganado credibilidad gracias a las pruebas satelitales. “A medida que la geografía deepfake se generaliza, el gobierno chino podría afirmar que estas imágenes también son falsas“.

satélite deepfake
Imágenes de satélite de lo que parece un campo de detención uigur en China. Crédito: ASPI

Una amenaza a la seguridad nacional

Este tipo de técnica también podría ser una problema de seguridad nacional para algunos países tener que lidiar con adversarios geopolíticos que se basan en falsificaciones para engañarlos.

Todd Myers, gerente de automatización de la Dirección de Tecnología del CIO de la Agencia Nacional de Inteligencia Geoespacial, advirtió al ejército de los EE. UU. Contra la perspectiva ya en 2019, luego del progreso de China en esta área. Gracias a una técnica emergente llamada “redes generativas antagónicas”, el país puede, de hecho, alentar a las computadoras a “Ver” objetos que no existen en paisajes o en imágenes de satélite.

El analista en ese momento imaginó un escenario en el que el software de planificación militar fue engañado por datos falsos que revelaban un puente en una ubicación incorrecta. “Desde un punto de vista táctico, podrías entrenar tus fuerzas para seguir una determinada ruta hacia dicho puente, cuando en realidad no hay puente.“, Explicó Myers. “Y en el lugar, te espera una gran sorpresa.“.

Sensibilizar y contrarrestar el problema

Para Bo Zhao de la Universidad de Washington, el primer paso para abordar este problema es reconocer la amenaza. En un artículo reciente, el investigador detalla cómo él y su equipo pudieron crear sus propias imágenes de satélite generadas por la IA. Como detalla en The Verge, el objetivo era entonces “desmitificar la idea de que las imágenes de satélite son absolutamente fiables” y “crear conciencia sobre la posible influencia de la geografía deepfake“. Según él, su artículo es probablemente el primero en abordar el tema de estas “falsificaciones” en este ámbito.

Como parte de su estudio, Zhao y sus colegas también crearon un software de detección capaz de detectar falsificaciones satelitales dependiendo de características como textura, contraste y color. Sin embargo, señalan que dicha herramienta necesitaría actualizaciones constantes para seguir las mejoras del deepfake.