• Artists Are Fighting AI With AI ( @Mental_Outlaw )
  ↳ https://www.youtube.com/watch?v=SbCBaopgbqw

• Glaze - What is Glaze ( Glaze )
  ↳ https://glaze.cs.uchicago.edu/what-is-glaze.html

• Nightshade : l’outil de défense des artistes contre les IA génératives
  ↳ https://datascientest.com/nightshade-tout-savoir

• IA : les limites de Midjourney selon ChatGPT ? ( explications bases IA, @Le_monde )
  ↳ https://www.youtube.com/watch?v=SuyWtExnUJE

Lien @Mental_Outlaw

=> Nightshade
=> Glaze

Des outils qui tentent / cherchent à empoisonner les IA génératives d'images tel /Midjourney/.
Elles sont accusées d'utiliser sans leur accord les images d'artistes/créateur.ices de contenus visuels.

/Nightshade/ ou encore /Gaze/ cherchent à tromper les IA en "empoisonnant" certaines images qui leurs servent de base d’apprentissage. Par exemple, /Glaze/ va modifier des images susceptibles de nourrir ces IA prédatrices, de façon dans leur processus d'apprentissage. Des modifications imperceptibles pour notre œil amateur mais qui induisent en erreur l'IA. Dans l'exemple de la vidéo l'IA qui voudrait représenter/trouver un "chat" en se basant sur les images empoisonnées (par /Glaze/) pourrait finir par mal interpréter ce qu'est un chat et finir par output un chien. Idem pour un gâteau confondu avec un chapeau.

R) Il s'agit en fin de compte d'induire le logiciel (IA) en erreur en insérant des occurrences trompeuses dans son set de données...