INFO - L'actualité de l'intelligence artificielle

A ce propos vous avez déjà vu cette vidéo ? Je trouve ça à mourir de rire mais c'est vieux, il n'y avait pas d'IA à ma connaissance dans cleverbot, les phrases qu'il répond viennent de ses conversations précédentes avec les utilisateurs, sélectionnées selon une recherche de contexte. Ce n'est pas du tout de la pure génération de texte comme aujourd'hui.

Ils ont un peu enjolivé et laissé croire que ça se faisait grâce à une vidéo en temps réel, mais comme le dit l'article ça ne change pas grand chose au résultat.

Citation

Comme l’ont remarqué plusieurs internautes, le site de Google indique que plusieurs éléments ont été changés dans la vidéo de démonstration, qui fait passer Gemini pour ce qu’il n’est pas. Il n’y a rien de vraiment grave (au final, Gemini est vraiment capable de répondre comme dans la vidéo), mais la manipulation de cette démo risque de desservir Google.

En regardant j'avais été interloqué par les temps de réponse de Gemini, même avec beaucoup d'efforts ça prend normalement quelques secondes avant d'avoir une réponse. D'ailleurs il y a une bonne vidéo de Micode sur ce sujet :

Intéressant, je suis étonné que ça marche :

Citation

Mais vous demandez, pourquoi cela fonctionne-t-il ? Pourquoi quelqu'un ne pourrait-il pas simplement se débarrasser des effets de Glaze en 1) prenant une capture d'écran/photo de l'œuvre, 2) recadrant l'œuvre, 3) filtrant le bruit/artefacts, 4) reformatant/redimensionnant/échantillonnant l'image, 5) compressant, 6) lissant les pixels, 7) ajoutant du bruit pour rompre le motif ? Aucune de ces méthodes ne compromet Glaze, car il ne s'agit ni d'un filigrane ni d'un message caché (stéganographie), et il n'est pas fragile. Au lieu de cela, pensez à Glaze comme une nouvelle dimension de l'art, que les modèles d'IA voient mais pas les humains (comme la lumière UV ou les fréquences ultrasonores), sauf que la dimension elle-même est difficile à localiser/calculer/ingénierie inverse. À moins qu'une attaque ne connaisse exactement la dimension sur laquelle Glaze opère (elle change et est différente sur chaque œuvre d'art), elle trouvera difficile de perturber les effets de Glaze.

Genre ici, l'image de droite serait méconnaissable par un réseau de neurones.

Si tu l'ouvres avec Toshop et zoome tu vois d'infimes différences mais que ça puisse gêner l'apprentissage d'un réseau de neurones me laisse septique :

Surtout que les réseaux de neurones sont assez bons pour apprendre du contenu avec bruit parasite.

Je sais que c'est pas du fake, ils ont un papier de recherche, plein d'articles dans les journaux, c'est juste que ça me scotche un peu.

Mais comme ils disent, ça ne tiendra pas sur le long terme :

Citation

Malheureusement, Glaze n'est pas une solution permanente contre la mimétisation par l'IA. Des systèmes tels que Glaze sont confrontés à un défi inhérent d'être à l'épreuve du futur (Radiya et al). Il est toujours possible que les techniques que nous utilisons aujourd'hui soient surpassées par un algorithme futur, rendant potentiellement l'art précédemment protégé vulnérable. Ainsi, Glaze n'est pas une panacée, mais plutôt une première étape nécessaire vers des outils de protection centrés sur les artistes pour résister à la mimétisation par l'IA. Nous espérons que Glaze et les projets ultérieurs offriront une protection aux artistes pendant que des efforts à plus long terme (juridiques, réglementaires) prennent de l'ampleur.

Je bloque, vous voulez pas m'aider ?

pasted-from-clipboard.png