Une fausse photo de Katy Perry a généré plus de 13 millions de vues sur la plateforme X. Même la mère de la chanteuse est tombée dans le panneau.

Sous le dôme du Capitole, entre les murs du Congrès américain, c’est bien la vraie FKA Twigs qui a témoigné. Avec le soutien du label Atlantic Records et du patron de Warner Music, assis à ses côtés lors de l’audition, l’artiste a témoigné en préambule d’une sous-commission judiciaire organisée ce mardi sur le thème de la propriété intellectuelle.

La chanteuse et compositrice britannique a profité de sa prise de parole pour annoncer qu’elle planche depuis un an sur la création de son propre deepfake.

Twigs twin

L’artiste envisage de déléguer ses “interactions en ligne” à AI Twigs pour se consacrer pleinement à sa musique et, surtout, prendre le contrôle de cette nouvelle technologie qui manque selon elle d’un cadre législatif. Selon la chanteuse, cette copie en version deepfake a été entraînée pour reproduire le même ton de sa voix, de façon à pouvoir parler plusieurs langues, et formée pour correspondre à sa personnalité.

C’est au cours du processus de création de sa jumelle numérique que FKA Twigs a réalisé toute la puissance de l’intelligence artificielle. Et du besoin, en tant qu’artiste, de protéger son identité.

De vraies lois contre les deepfakes

Voilà plus d’un an que l’intelligence artificielle s’impose dans les débats autour de la propriété intellectuelle, notamment dans la musique. En 2023, la chanteuse et DJ Grimes confiait voir d’un bon œil cette déferlante de faux morceaux, utilisant le deepfake pour créer de toutes pièces des featurings improbables – The Weeknd et Drake, ou Kanye interprétant Careless Whisper. “Je pense que c’est cool d’être fusionné avec une machine et j’aime l’idée d’ouvrir toutes les sources d’art et de supprimer les droits d’auteur”, assurait-elle sur son compte X.

Autant dire que son point de vue sur la question est très loin de faire l’unanimité. Récemment, pas moins de 200 artistes ont signé une lettre ouverte pointant du doigt les dérives de l’intelligence artificielle, susceptible de dévaloriser leur musique et faillir à leur juste rémunération. Un élan commun qui fait écho à la prise de parole de Tahliah Debrett Barnett, mardi 30 avril devant le Congrès.

“Mon art est la toile sur laquelle je peins mon identité et le fondement de ma subsistance, a déclaré FKA Twigs. C’est l’essence même de mon être. Pourtant, il est menacé. L’IA ne peut pas reproduire la profondeur de mon parcours, mais ceux qui la contrôlent ont le pouvoir d’imiter la ressemblance de mon art, de le reproduire et de revendiquer faussement mon identité et ma propriété intellectuelle.”

L’artiste conjure le gouvernement américain de mettre en place de vraies lois autour de la propriété intellectuelle des artistes et ainsi d’apporter “un contrôle législatif approprié”.

Le rappeur canadien Drake a publié une chanson utilisant une fausse voix de Tupac. Il a fait de même avec Snoop Dogg. Sous la menace de représailles judiciaires, il a fini par retirer son titre, qui attaquait son rival Kendrick Lamar.

Les premières escroqueries à base de deepfake ont fait la une des médias. Si ces arnaques restent rares, les experts en cybersécurité invitent déjà les employés à retenir quelques règles pour repérer ces faux intervenants.

Vous en avez sûrement entendu parler ces derniers mois, le célèbre Youtubeur Cyprien est au cœur d’une polémique malgré lui. En effet, son image a été utilisée dans des deepfakes pour faire la promotion de jeux mobiles plus que douteux.

C’est donc bien une IA (et des humains) qui est derrière ces vidéos détournant l’image de Cyprien pour lui faire dire ce qu’il n’a jamais dit. On le voit notamment vanter les mérites d’une app soi-disant révolutionnaire pour gagner de l’argent facilement. Le souci, c’est que cette app sent l’arnaque à plein nez…

Résultat des courses, Cyprien s’est senti obligé de réagir pour démentir son implication dans ces pubs. À travers une vidéo mi-sérieuse mi-humoristique, il met en garde contre les dérives de l’IA et des deepfakes.

C’est quand même flippant de voir son image utilisée à son insu pour promouvoir des trucs plus que limite. Rien que le fait qu’il soit obligé de démentir montre à quel point un deepfake peut semer le doute dans l’esprit des gens, donc il fait bien de sonner l’alerte à travers sa vidéo.

Et c’est là qu’on se rend compte à quel point ces technologies peuvent être dangereuses si elles tombent entre de mauvaises mains. Aujourd’hui c’est Cyprien qui trinque, mais demain ça pourrait être n’importe qui d’entre nous. En attendant, méfiance quand vous voyez une vidéo d’une célébrité qui fait la promo d’un produit. Surtout si c’est pour une app ou un vpn (ah non, pas un vpn ^^). Y’a 9 chances sur 10 pour que ce soit un deepfake !

Perso, je l’ai trouvé au top cette vidéo, donc comme d’hab, je fais tourner.

Les arnaques vocales à base de deep fake comment à se démocratiser. Même les employés des boîtes de sécurité comme LastPass peuvent se faire avoir. Enfin, presque…

Car oui, récemment, un des leurs s’est fait appeler par un escroc qui imitait à la perfection la voix du big boss, Karim Toubba. Le gars a utilisé un deepfake audio assez sophistiqué pour se faire passer pour le PDG. Mais heureusement, l’employé a flairé l’entourloupe parce que le pirate a fait l’erreur d’utiliser WhatsApp pour son petit numéro de magie, ce qui n’est pas très corporate et bien vu chez Lastpass.

En plus, il mettait la pression avec une fausse urgence. Bref, tous les voyants étaient au rouge.

L’employé a donc envoyé balader l’arnaqueur et a prévenu la sécurité interne, comme ça, pas de dégâts, mais ça montre bien que ces attaques à base d’IA sont de plus en plus sophistiquées. Pour générer la voix du PDG, le pirate a sûrement dû s’entraîner sur des enregistrements publics, comme cette interview du CEO sur YouTube.

En tout cas, si vous recevez un appel de ma part, sachez que ce ne sera pas moi, car la somme d’argent que vous demandera l’escroc ne sera pas assez élevée par rapport à ce que je vous aurais demandé en vrai. Donc méfiance !

Plus sérieusement, le ministère américain de la Santé a tiré la sonnette d’alarme la semaine dernière sur ces arnaques ciblant les services d’assistance IT. Pour se protéger, ils conseillent de :

• Rappeler systématiquement pour vérifier une demande de réinitialisation de mot de passe
• Surveiller les changements suspects de coordonnées bancaires
• Revalider tous les accès aux sites de paiement
• Privilégier les demandes en personne pour les sujets sensibles
• Faire valider les requêtes par un superviseur
• Former les équipes support à repérer l’ingénierie sociale et vérifier l’identité des appelants

Bref, la vigilance est de mise, alors faites tourner !

Source