Hace algo más de un mes este desagradable vídeo de Instagram se hizo viral en esa red social. En él una extraña criatura mitad araña mitad hombre hacía una extraña aparición en un centro comercial. En estos momentos el vídeo tiene 3,5 millones de «Me gusta» y más de 23.000, pero lo verdaderamente preocupante no es eso.
Colapso de los vídeos generados por IA. Lo que es preocupante es que este vídeo forma parte de una avalancha de vídeos generados por IA que están colapsando redes como Instagram o TikTok.
Y algoritmos rotos. Como explican en 404 Media, el algoritmo de estas plataformas ha acabado rompiéndose por un singular ataque de fuerza bruta. Uno en el que estas redes no paran de recibir contenidos generados por IA para acabar saturando esos algoritmos de recomendación.
Un vertedero de IA. Los ataques de fuerza bruta tratan por ejemplo de averiguar una contraseña probando una por una todas las combinaciones posibles. En este caso, lo que intentan es saturar los algoritmos para que acaben mostrando estos vídeos generados por IA, y lo están logrando. Algunos ya llaman a Instagram y a TikTok «vertederos de IA» por la enorme cantidad que hay de estos contenidos, y que han hecho que los contenidos convencionales generados por usuarios humanos hayan perdido una gran relevancia para el algoritmo.
La realidad ha cambiado. Para muchos estas redes sirven no solo para entretenerse, sino para estar al tanto de la actualidad. Los vídeos a menudo tratan de perfilar la realidad, pero esa realidad ahora se ha trastocado y esas cuentas de Instagram o TikTok apenas muestran nada que sea real. Algunos vídeos son deepfakes difíciles de detectar, y como ya comprobamos en el pasado, lo paradójico es que a veces ni siquiera somos capaces de detectar qué es real y qué no.
La IA busca la viralidad y acaba encontrándola. Los creadores en redes sociales buscan conseguir que sus vídeos sean virales, y para ello dedican ingentes recursos y tiempo. A pesar de ello el éxito no está asegurado, pero los spammers que hacen contenidos de vídeo generados con IA no necesitan pensar tanto: pueden generar miles de vídeos con muy poco esfuerzo, inundar las redes sociales y esperar a que alguno de esos contenidos tenga éxito. La lotería de la viralidad no lo es tanto si tienes un montón de billetes.
Los influencers que están ganando dinero con los vertederos de IA. Como suele ser habitual en este tipo de fenómenos, han aparecido influencers con nuevas fórmulas para hacerse rico rápidamente y sin apenas esfuerzo. Uno de ellos, un joven de 17 años llamado Daniel Bitton, presume de haber ganado ya dos millones de dólares y tiene un mensaje claro. «Mientras otros invierten 5 o 6 horas haciendo un vídeo perfecto, podemos generar 8 o 10 shorts en menos de 30 minutos». ¿Cómo? Usando herramientas de IA.
El método del «hot dog triste». Uno de los amigos de Bitton es un conocido spammer de TikTok llamado Musa Mustafa. Su método para hacerte viral es la del «hot dog triste»: «Cuando estás hambriento a las dos de la mañana, incluso un hot dog con aspecto triste sabe mejor qeu cualquier comida de restaurante Michelin. TikTok funciona de forma parecida. Tu audiencia no espera (ni siquiera quiere) vídeos perfectamente pulidos». Mustafa se pregunta, no sin cierta razón, «cuándo fue la última vez que viste un vídeo viral de TikTok y pensaste: ‘Uauh, el grado de color en este vídeo es increíble'». O lo que es lo mismo: la cantidad gana por goleada a la calidad.
Pero las plataformas abrazan estos contenidos. En The Guardian ya nos advertían recientemente: las plataformas y redes sociales no están parando este tipo de spam, sino que se están beneficiando de él, lo aceptan e incluso lo están promocionando. De hecho ofrecen herramientas para facilitar la generación de contenidos mediante IA, lo que significa que más que intentar resolver el problema, lo están agravando.
Un ejemplo: Facebook. La firma de Meta lanzó recientemente una herramienta para anunciantes llamada Advantage+. Con ella es posible crear con IA diferentes versiones de un anuncio para probarlas todas con el método de prueba A/B y luego seleccionar aquella que mejor funciona. Para los anunciantes (y para Meta, claro), todo esto es fantástico, porque pueden conseguir anuncios más efectivos con mucha menor inversión de tiempo y dinero.
¿Hay límites? Habrá sin duda usuarios que rechacen este tipo de contenidos: precisamente redes como Bluesky o Mastodon se alejan del algoritmo y son más parecidos a como eran Twitter o Facebook hace años. Pero parece claro que una inmensa mayoría de ellos no tienen de momento problema con estos contenidos generados por IA, que de hecho tienen un ejemplo de éxito en ese porno generado por IA en el que combinaciones imposibles —un pez generado por IA besando a una mujer generada por IA, un orco generado por IA casándose con una novia también generada por IA— están también convirtiéndose en virales.
Más madera para la teoría del internet muerto. Hace años que se habla de cómo la creciente presencia de bots en internet acabará haciendo que la presencia humana en esos contenidos será marginal. Lo que ya vimos con textos o imágenes generados por IA inundando internet ahora lo estamos viendo con vídeos de IA inundando las redes sociales o con avatares virtuales generados por IA. El vertedero de la IA se extiende, y lo peor es que ni los usuarios —que contribuimos a hacer que esos contenidos se vuelvan virales— ni las empresas —que como decíamos no solo no los paran, sino que los promocionan— parecen tener mayor problema con esta situación.
Imagen | Kenneth Schipper
En Xataka | Meta sigue los pasos de X: no solo trabajamos escribiendo para ella, ahora también trabajaremos moderándola
–
La noticia
Los vídeos de IA han roto los algoritmos de Instagram y TikTok. Bienvenidos a los nuevos «vertederos de la IA»
fue publicada originalmente en
Xataka
por
Javier Pastor
.
– ¡Hola! Soy Nicolás Jiménez Silva, un apasionado por el mundo digital, el cine, el streaming, la tecnología y la ciencia. En este blog, exploro mis intereses, comparto mis opiniones y descubrimientos, y me sumerjo en las últimas tendencias. ¡Espero que disfrutes de la lectura!