L’algorisme de TikTok va promoure memes antisemites sobre camps d’extermini

L’algorisme de TikTok va promoure memes antisemites sobre camps d’extermini

S'ha acusat l'algoritme de TikTok de promoure una col·lecció de vídeos antisemites, que van ser banda sonora per les lletres, Anem de viatge a un lloc anomenat Auschwitz, és hora de la dutxa .

Els 'mems' combinats, descoberts per BBC News - va obtenir més de 6,5 milions de visualitzacions, amb clips que inclouen: un robot escorpí gegant amb una esvàstica atacant i matant persones; un personatge del joc d'ordinador Roblox que va ser dissenyat per semblar a Hitler; un joc de trets on les persones són assassinades per bombes de gas; i imatges de pel·lícules i documentals sobre l'Holocaust.

Prop de 100 usuaris van incloure la cançó als seus vídeos, cosa que va atraure diverses visualitzacions abans de retirar-la al cap de tres dies (vuit hores després que la plataforma els alertés BBC ).

Va ser increïblement angoixant veure aquest malaltís vídeo TikTok dirigit a nens, va dir Stephen Silverman, el director d’investigacions i aplicació de la Campanya contra l’antisemitisme. BBC News . TikTok té l’obligació particular d’abordar aquest contingut ràpidament perquè s’especialitza en la distribució de vídeos virals a nens i adults joves quan siguin més impressionants.

I, tanmateix, va afegir, la nostra investigació ha demostrat que TikTok s’ha convertit en un dels vectors més ràpids de transmissió de memes que es burlen de l’Holocaust.

Un portaveu de TikTok va dir: 'No tolerem cap contingut que inclogui discursos d'odi i el so en qüestió, juntament amb tots els vídeos associats, ja s'ha eliminat. Tot i que no copsarem tots els casos de contingut inadequat, estem millorant contínuament les nostres tecnologies i polítiques per garantir que TikTok sigui un lloc segur per a una expressió creativa positiva.

No és la primera vegada que es critica la plataforma per compartir vídeos per les seves fallades de moderació. Al febrer, TikTok va deixar un vídeo en directe d'una el suïcidi de l’adolescent durant més d’una hora i mitja i va trigar tres hores a avisar la policia.

L’aplicació també ha estat castigada àmpliament per les seves polítiques de censura, que inclouen el bloqueig de contingut LGBTQ + en determinats països, la prohibició d’un adolescent per criticar la Xina, la supressió del contingut d’usuaris considerats ‘lletjos’, pobres o discapacitats i la penalització dels creadors negres.

La setmana passada (2 de juliol), el col·lectiu hacktivista Anonymous va instar els usuaris a eliminar TikTok, acusant l'aplicació de programari maliciós operat pel govern xinès que realitza una operació d'espionatge massiva. Sembla que el govern nord-americà es va espantar amb la reclamació, aquesta setmana (7 de juliol) amenaçant amb prohibir diverses aplicacions de xarxes socials xineses, inclòs TikTok, per qüestions de privadesa i seguretat nacional. Donald Trump fins i tot ha confirmat que s'està considerant la prohibició.

Tot i això, és probable que l’hostilitat de Trump cap a l’aplicació provingui del fet que els adolescents de TikTok el segueixen perseguint. Primer, van reservar entrades per al seu primer míting polític en mesos, només per deixar-los buits, i després van intentar bloquejar els seus comptes de xarxes socials informant-lo massivament.