Un bot d’intel·ligència artificial que fa nus falsos de dones està prosperant a Telegram

Un bot d’intel·ligència artificial que fa nus falsos de dones està prosperant a Telegram

Amb el poder de la tecnologia, les ments més grans del món tenen la capacitat d’aconseguir gairebé qualsevol cosa. Però, tot i que alguns treballen per facilitar la vida de les persones amb discapacitat o per ajudar a acabar amb una pandèmia mundial, d'altres se centren en una causa menys noble: abusar i objectivar les dones.



Un programador anònim va llançar l'any passat una aplicació anomenada DeepNude, que utilitzava tecnologia deepfake per eliminar la roba de les fotos de dones. Es descriu com l’oferta de la superpotència que sempre heu desitjat, que permet als usuaris penjar fotos de dones (la tecnologia no funcionava en homes) que després despullaria i convertiria en falsos nus creïbles. La descàrrega va costar 50 dòlars en diverses botigues d'aplicacions.

L'aplicació va ser desconnectada poques hores després pel seu creador, amb un estrambòtic backpedal. No volem guanyar diners d’aquesta manera, van escriure una declaració . El món encara no està preparat per a DeepNude.

Un any després, l'aplicació ha crescut de manera expontencial en popularitat i ús. El programari s’ha descobert a Telegram, on s’ha utilitzat com a part d’un ‘ecosistema deepfake’, en el qual s’han creat més de 104.000 nus falsos de dones. L’ecosistema se centra en un robot d’intel·ligència artificial que genera nus a petició, enviant galeries de noves imatges a desenes de milers de subscriptors cada dia. Els membres del xat poden fer sol·licituds específiques del bot als seus grups de missatgeria. Es creu que algunes de les fotos representen noies menors d’edat.



Sensity, una empresa de detecció de deepfake, va publicar les seves conclusions sobre aquest tema a l'octubre. En declaracions a Dazed, Giorgio Patrini, director general i científic en cap de la companyia, diu: 'No hem vist cap tecnologia DeepNude incrustada en un bot de sala de xat amb el seu potencial espectacular per a l'accessibilitat dels usuaris i l'escala de producció. De fet, aquest és singularment l’incident més gran d’aquest tipus pel que fa al nombre de víctimes.

Els investigadors informen que el nombre de nus falsos a Telegram va créixer un 198% entre abril i juny de 2020. Aquesta estadística coincideix amb la notícia que la pornografia venjant va augmentar durant el tancament, amb casos d’abús d’imatges íntimes que van augmentar un 22% aquest any. En el seu informe, Sensity va abordar l’amenaça més àmplia que les imatges ‘despullades’ de les persones es poguessin compartir en canals públics o privats més enllà de Telegram com a part d’atacs públics o d’atacs basats en l’extorsió.



Tot i que Sensity estima que més de 104.000 dones han estat atacades pel bot, és probable que el nombre real sigui molt superior. Això es deu a la senzillesa de la tecnologia. Tot el que han de fer els usuaris per generar un nu fals és enviar la imatge escollida al bot, que us enviarà una imatge sense vestir de forma gratuïta. Aquestes fotos es comparteixen després amb els canals de Telegram afiliats. Una enquesta anònima realitzada en un d'aquests canals va demostrar que el 70% dels usuaris eren de Rússia, Ucraïna, Bielorússia, Kazakhstan i els països de l'ex-URSS; molts van dir que van descobrir el bot de la xarxa de xarxes socials russa VK.

No s’ha produït cap intervenció ni eliminació i, amb això, no sabem qui encara pot posseir o compartir les imatges creades pel bot: Giorgio Patrini, Sensity

Tot i fer-se pública les seves conclusions fa gairebé dos mesos, Sensity diu que mai no va obtenir resposta de Telegram. Aquests canals continuen actius a la plataforma, continua Patrini, tot i que ara la majoria evita la publicitat oberta del bot o de les seves creacions. És important destacar, però, que el propi robot continua funcionant com abans. No s’ha produït cap intervenció ni eliminació i, amb això, no sabem qui encara pot posseir o compartir les imatges creades pel bot.

Diversos grups han canviat el seu nom perquè puguin evitar ser identificats, mentre que altres canals han desaparegut completament o se'ls ha eliminat les imatges compartides. Segons va informar CONNECTAT , a finals d'octubre, el bot es va fer inaccessible a l'iPhone i l'iPad, que mostrava un missatge d'error que deia que infringia les directrius d'Apple.

Patrini diu que el bot ha pogut prosperar específicament a Telegram a causa que la plataforma permet fàcilment la integració de bots i altres automatismes a les seves sales de xat, explicant que el motiu principal és tècnic.

Tot i que creu que actualment es poden distingir els nus falsos dels nus reals, Patrini declara que això no durarà molt. Segueix, la tecnologia millora i es mercantilitza a un ritme accelerat. No cal ser investigador d’aprenentatge automàtic per operar-lo; el programari és de codi obert i inclou tutorials i grans comunitats de desenvolupadors.

El procés de difusió de nus profunds a Telegram per laAI botVia Sensity

Els possibles guanys associats a aquest tipus de tecnologia deepfake també podrien animar a més persones a abusar-ne. La gent es fa enginyosa en entendre com la tecnologia deepfake es pot convertir en una oportunitat de negoci, amb una connotació legítima o il·lícita, explica Patrini. Per exemple, el robot de la nostra investigació està monetitzant proporcionant als usuaris de pagament una creació més ràpida d’imatges sense cap filigrana.

No obstant això, a mesura que millora el programari deepfake, també ho fa la tecnologia de detecció. Patrini diu que la tecnologia de detecció tindrà un paper més fonamental en el futur, ajudant-nos a entendre el que veiem i descobrint automàticament deepfakes en línia. Com apareixen les dones 96 per cent de tots els vídeos de deepfake, la tecnologia preventiva i reactiva per aturar la creació d’aquestes fotos i vídeos és vital en la lluita contínua per la igualtat de gènere.

Aquest és un problema que malauradament ens afectarà a cadascun de nosaltres com a particulars, conclou Patrini. Els nostres trets facials es poden robar i reutilitzar en material visual que atempti contra la nostra reputació i es pot armar per a vergonya pública, xantatge o extorsió.

És important que cadascun de nosaltres sigui conscient que qualsevol imatge o vídeo que publiquem en línia pot ser visible per a tot el món i que els mals actors puguin utilitzar-la.