Las tendencias de redes sociales impulsan la vigilancia con IA, la militarización y el futuro del odio dirigido
La evolución de la diversión: de los filtros faciales a la recolección de datos
Antes de que Instagram se convirtiera en el feed curado de contenido generado por IA que vemos hoy, la gente jugaba con versiones alteradas de sus propios rostros en TikTok. Su filtro de envejecimiento, que mostraba el proceso de envejecimiento en tiempo real en pantalla, se extendió rápidamente por las plataformas. Lo que parecía una diversión inofensiva se convirtió en un conjunto masivo de datos para entrenar modelos de IA a reconocer patrones de envejecimiento humano. Las grandes tecnológicas monetizan la atención extrayendo patrones de comportamiento, preferencias y datos biométricos obtenidos a través de fotos, alimentándolos en algoritmos que refinan la maquinaria predictiva del capitalismo de vigilancia.
Con el tiempo, esta infraestructura de interacción "gratuita" se convierte en un manual de entrenamiento para construir tecnologías más invasivas utilizando las imágenes que los usuarios suben para sentirse vistos o validados, que enseñan a las máquinas a vernos mejor de lo que nos vemos a nosotros mismos. Cuando se aplica a la IA generativa, esta dinámica ya no se detiene en actividades familiares divertidas, publicidad, curación de contenido o incluso anotación de datos; en cambio, se expande a sistemas de entrenamiento que pueden predecir y rastrear identidades humanas con precisión a lo largo del tiempo, transformando la conexión en control.
#10YearChallenge: ¿Nostalgia inocente o vigilancia masiva?
La lógica de obtener ganancias mediante la extracción de datos se extiende sin problemas a las tendencias virales de redes sociales que disfrazan la vigilancia como juego. Tomemos las infames tendencias #10YearChallenge o #MeAt20 que inundaron los timelines de Twitter alrededor de 2019, instando a las personas a presumir su "transformación" de una década con evidencia fotográfica. Lo que parece un ejercicio inofensivo de nostalgia podría ser un esfuerzo masivo para enviar datos voluntariamente. Estas tendencias se disfrazan de actos de creatividad o recuerdo, pero en realidad son trampas de nostalgia diseñadas que atraen a los usuarios bajo la apariencia de conexión emocional mientras cosechan datos biométricos íntimos.
Más recientemente, con la comercialización de la IA generativa, las plataformas de redes sociales están saturadas de imágenes generadas por IA que difuminan los límites entre la memoria real y la manipulación. Google Gemini parece liderar esta ola comercial, impulsando tendencias que convierten las fotos de bodas en arte estilo Ghibli, o la última actualización, Nano Banana, permite a los usuarios generar imágenes Polaroid de sí mismos con su yo más joven, un crush famoso o incluso un familiar fallecido. Cada interacción distorsiona aún más nuestra percepción de la realidad, permitiendo que los sistemas de IA perfeccionen esa ilusión con cada nueva imagen que generan.
De diversión por datos a militarizar la identidad
El precio de la participación, aunque invisible, está lejos de ser gratuito. Cada imagen subida, por ejemplo, para generar una imagen Polaroid de uno mismo con su yo más joven, alimenta los vastos oleoductos de datos que entrenan a la IA para reconocer patrones en la apariencia humana a lo largo del tiempo, es decir, desde la niñez hasta la adultez, información que ahora está en manos de cualquiera dispuesto a pagar por acceso. La investigación sobre modelos de estimación de edad facial muestra que grandes conjuntos de datos de imágenes faciales anotadas por edad o con progresión de edad ya se utilizan para entrenar modelos a reconocer cómo envejecen los individuos según etnias y son útiles en la "vigilancia inteligente" y otras industrias.
Estratégicamente y desde un punto de vista económico, las tendencias de redes sociales como las imágenes estilo Polaroid o el anterior #10YearChallenge parecen ser un mecanismo ideal para alentar a las personas a contribuir con datos disponibles públicamente que pueden ayudar a llenar los vacíos de investigación sobre cómo las personas envejecen en diferentes condiciones, y permitir que las corporaciones raspen esos datos sin consecuencias para entrenar modelos de IA que se utilizan mucho más allá de simples consultas de texto o imagen. Las aplicaciones de dichos conjuntos de datos y los modelos de IA resultantes son igualmente vastas: muchas se aventuran en la vigilancia policial, incluida la implementación en fronteras y en la aplicación de la ley para la elaboración de perfiles en nombre de la "evaluación predictiva de amenazas", así como en tecnologías militarizadas para vigilar y atacar a individuos en diferentes etapas del ciclo de vida.
De las redes sociales a las listas de eliminación: la IA en la guerra
Lo que comienza como un momento cultural de conexión a través de imágenes finalmente refuerza la infraestructura del capitalismo de vigilancia y se vincula directamente con las aplicaciones militarizadas de las tecnologías de identidad predictiva. Por ejemplo, la investigación ha explorado la amplia variedad de aplicaciones potenciales de la IA en entornos de defensa, desde drones autónomos hasta identificación de objetivos, enfatizando la necesidad de políticas informadas por las actitudes públicas para garantizar una gobernanza responsable. Un ejemplo práctico de esta aplicación se ha documentado en Palestina, donde las Fuerzas de Defensa de Israel utilizaron sistemas impulsados por IA como Lavender, Where's Daddy y otros para preparar una "lista de eliminación" y atacar a palestinos.
Los investigadores descubrieron que los operadores a veces aprobaban un ataque en tan solo 20 segundos. Estas tecnologías, en parte, han sido habilitadas por grandes tecnológicas como Google que otorgan a las Fuerzas de Defensa de Israel (FDI) acceso a los datos de reconocimiento facial de Google Photos para instrumentalizar la llamada lista de eliminación contra los palestinos. En este contexto, las tendencias de redes sociales que generan grandes cantidades de datos biométricos (incluida la progresión de edad) se convierten en algo más que peculiaridades culturales y se transforman en material de entrenamiento para modelos que pueden reidentificar, predecir y rastrear individuos a lo largo del tiempo. A medida que la vigilancia biométrica migra de la vigilancia policial en fronteras y ciudades a la guerra, las implicaciones para las comunidades ya sujetas a perfiles, especialmente en el Sur global, se vuelven aún más siniestras.
El auge de la IA armada y el odio dirigido
El trabajo de los verificadores de datos se ha vuelto significativamente más difícil durante el genocidio en Palestina, ya que la ocupación israelí ha dependido en gran medida de la inteligencia artificial para difundir desinformación. La actual guerra de exterminio ha marcado un punto de inflexión en la propagación de desinformación, con la inteligencia artificial desempeñando un papel central. Los medios israelíes y las instituciones oficiales emplearon un ejército de cuentas de seguidores y cuentas falsas, explotando una de las herramientas del mundo de la inteligencia artificial, que son cuentas falsas impulsadas por inteligencia artificial, conocidas como bots. Estos bots fueron programados para publicar comentarios y artículos apoyando la ocupación y socavando los derechos palestinos en varias plataformas, particularmente Facebook, X e Instagram.
El 29 de mayo, Meta informó la eliminación de una red de cientos de cuentas falsas vinculadas a una empresa israelí llamada STOIC, con sede en Tel Aviv. Estas cuentas, impulsadas por IA, se utilizaron para amplificar la propaganda israelí y difundir afirmaciones falsas, especialmente dirigidas a audiencias de habla árabe. Un día después, el 30 de mayo, OpenAI, la desarrolladora de ChatGPT, anunció que había prohibido otro grupo de cuentas operadas por la misma empresa. Estas cuentas habían utilizado IA para hacerse pasar por estudiantes judíos y ciudadanos afroamericanos en un esfuerzo por hacer que sus mensajes parecieran auténticos y diversos. Esta militarización de la IA se extiende más allá de la desinformación para alimentar directamente el odio dirigido, ya que las cuentas falsas amplifican la retórica divisiva y siembran discordia.
El algoritmo autosostenible: pasando de la recolección a la explotación
En este punto, ya no importa si alguien participó en una tendencia específica de redes sociales contribuyendo a conjuntos de datos de entrenamiento para modelos de IA. La realidad es que una vez que se han recopilado suficientes datos, las herramientas de aprendizaje automático pueden predecir patrones de envejecimiento humano con poca entrada adicional y con alta precisión. En otras palabras, el grupo saturado de contribuciones voluntarias de imágenes puede provocar un cambio de la recolección de datos a la explotación de datos, donde los algoritmos se vuelven autosostenibles, solo requiriendo una entrada mínima nueva para generar predicciones de gran alcance. Esto está ocurriendo en un país donde el derecho a la privacidad es débil y la supervisión digital es mínima. Compartir voluntariamente imágenes con progresión de edad puede fácilmente alimentar herramientas predictivas emergentes, con consecuencias en el mundo real para la vigilancia, la elaboración de perfiles y el control social.
Está dentro del ámbito de lo posible que la tecnología de vigilancia de grado militar habilitada por IA que identifica individuos con precisión a lo largo del tiempo a medida que envejecen, pueda ser armada en un país donde el enfoque de los responsables políticos y las autoridades encargadas de hacer cumplir la ley es controlar a los ciudadanos en lugar de protegerlos, en el que el estado ya ha gastado millones de dólares en tecnología de vigilancia de grado militar para usar contra civiles en nombre de la "seguridad nacional". Lo que parece inocuo hoy en forma de filtros de envejecimiento, tendencias de nostalgia o intercambio de imágenes fortalecerá los sistemas de opresión existentes para el mañana. La fusión de las tendencias de redes sociales, la vigilancia con IA y la militarización representa un cambio profundo en cómo se explotan nuestras huellas digitales, allanando el camino para el odio dirigido que socava los cimientos mismos de las sociedades democráticas.