Du jour au lendemain, l’application de retouche photo LensaAI a connu un énorme succès lorsqu’elle a déployé sa fonction Magic Avatar, qui utilise la technologie AI et 10 à 20 photos d’utilisateurs pour créer des portraits assistés par l’IA dans une variété de styles.
Cependant, les artistes qui se méfiaient de l’utilisation de générateurs d’images IA se sont inquiétés lorsqu’ils ont vu ce qui ressemblait à des signatures gribouillées dans les coins de bon nombre de ces portraits IA. Certains artistes soutiennent que cela pourrait prouver que LensaAI volait des œuvres contenant des filigranes ou des signatures que les artistes utilisent pour empêcher le vol.
Un illustrateur qui passe par Lauryn Ipsum sur Twitter a souligné ce phénomène dans ce qui est maintenant devenu viral Tweeter: « Ce sont tous des portraits de Lensa où les restes mutilés de la signature d’un artiste sont encore visibles », a écrit Ipsum, avec des photos jointes. « Ce sont les restes de la signature de l’un des multiples artistes qu’il a volés. »
Les signatures créées par l’IA étaient toutes illisibles et, pour Prisma Labs (la société mère de Lensa AI), ne constituent pas une preuve de vol.
« La notion de ‘restes de signatures d’artistes’ est basée sur l’idée erronée que les réseaux de neurones pourraient combiner des images existantes. Le processus réel est différent », a écrit Andrey Usoltsev, PDG de Prisma Labs dans un e-mail à 1200artists.com.
Il a expliqué que si les réseaux de neurones sont formés sur des images préexistantes, une fois la formation terminée, l’IA ne se réfère pas au vaste ensemble de données d’images sur lesquelles elle a été formée. Au contraire, il a maintenant appris à imiter des styles particuliers. Selon Usoltsev, l’IA a appris qu’une caractéristique clé de la catégorie « peinture » est une signature, donc elle en invente une.
« À cette occasion, il imite les peintures, le sous-ensemble des images qui viennent généralement avec des signatures. AI comprend les signatures comme une caractéristique de style inhérente et les imite », a écrit Usoltsev, qui a ajouté que« les détails indiqués n’utilisent aucun langage existant et ne représentent pas la signature de l’artiste en particulier.
Selon Usoltsev, ce mimétisme n’est pas du vol car aucun artiste en particulier n’a vu sa signature déformée ou, selon les mots d’Ipsum, « mutilée ».
Cependant, le problème n’est peut-être pas qu’un artiste est volé, mais que, en masse, son travail a pu être utilisé pour former la technologie qui menace de le remplacer.