Sur Firefox :
une minimap !

Darknet_corpus

Arts et technologies

Afficher/ Masquer

Lien @Mental_Outlaw

=> Nightshade
=> Glaze


Des outils qui tentent / cherchent à empoisonner les IA génératives d'images tel /Midjourney/.
Elles sont accusées d'utiliser sans leur accord les images d'artistes/créateur.ices de contenus visuels.

/Nightshade/ ou encore /Gaze/ cherchent à tromper les IA en "empoisonnant" certaines images qui leurs servent de base d’apprentissage. Par exemple, /Glaze/ va modifier des images susceptibles de nourrir ces IA prédatrices, de façon dans leur processus d'apprentissage. Des modifications imperceptibles pour notre œil amateur mais qui induisent en erreur l'IA. Dans l'exemple de la vidéo l'IA qui voudrait représenter/trouver un "chat" en se basant sur les images empoisonnées (par /Glaze/) pourrait finir par mal interpréter ce qu'est un chat et finir par output un chien. Idem pour un gâteau confondu avec un chapeau.

R) Il s'agit en fin de compte d'induire le logiciel (IA) en erreur en insérant des occurrences trompeuses dans son set de données...

Gaze démo

Glaze_démo

Nightshade
démo Nightshade

TheVerge
CodeMotion