Meta va étiqueter les images générées par l'IA sur Instagram et Facebook

‍

Bonne nouvelle ! Meta va bientôt déployer un outil capable de signaler automatiquement les contenus générés par l’IA sur ses réseaux sociaux.

Meta va étiqueter les images produites par des systèmes d'Intelligence Artificielle générative tels que Midjourney où encore DALL-E a annoncé Nick Clegg,  président des affaires mondiales de l'entreprise, dans une interview sur "  Good Morning America  " d'ABC.

Les “étiquettes”, qui devraient être déployées dans les mois à venir, identifieront les images générées par l'Intelligence Artificielle et publiées sur Facebook, Instagram et Threads.  "À mesure que la différence entre contenu humain et contenu synthétique s'estompe, les gens veulent savoir où se situe la frontière. Nous développons cette fonctionnalité dès maintenant et, dans les mois à venir, nous commencerons à appliquer des étiquettes dans toutes les langues prises en charge par chaque application. “ peut on lire sur le blog de Meta.

La nécessité d’élaborer des marqueurs communs

Les équipes de Meta collaborent avec de nombreux partenaires industriels pour élaborer des normes techniques communes (métadonnées IPTC, filigranes…) qui permettront d’identifier les éléments créé à l'aide de l'IA. La capacité à détecter ces signaux permettra à Meta, et plus largement a tout ceux diffusant du contenu, d’informer les internautes sur la provenance des images.

A défaut de normes communes, Meta applique déjà des étiquettes aux images créées par son propre outil, Imagine with Meta. Toutefois, à ce jour l’entreprise est dans l’incapacité d’identifier les contenus audio et vidéo générés par des IA en provenance de plateforme externes. En effet, si Google, OpenAI, Microsoft, Adobe, Midjourney où encore Shutterstock commencent à inclure des marqueurs dans leurs générateurs d'images, elles ne les incluent pas encore à leurs outils d'IA générative.

Meta va permettre de signaler les contenus crées à l’aide de l’intelligence artificielle

Dans l’attente de critères d'identification communs, Meta proposera dans les mois à venir une nouvelle fonctionnalité permettant aux utilisateurs d’indiquer lorsqu'ils partagent une vidéo ou un audio généré par l'IA afin que l'entreprise puisse les étiqueter. “Nous exigerons que les utilisateurs utilisent cet outil de divulgation et d'étiquetage lorsqu'ils publient du contenu organique avec une vidéo photoréaliste ou un son réaliste créé ou modifié numériquement. En cas de non respect de cette nouvelle règle, des sanctions seront appliquées. Cette fonctionnalité d’étiquetage sera proposée sur l’ensemble de ses plateformes.

Mais ce n’est pas tout. Compte tenue du volume et de la complexité des contenus générés par l’IA, Nick Clegg reconnait que les étiquettes ne constitueront pas une « solution parfaite ».  “Les personnes et les organisations qui souhaitent activement tromper les gens avec du contenu généré par l’IA chercheront des moyens de contourner les garanties mises en place pour le détecter. Dans notre secteur et dans la société en général, nous devrons continuer à chercher des moyens de garder une longueur d'avance.” Pour limiter les risques de contournement, l'entreprise a indiquer travailler à l’élaboration de “classificateurs” qui rendront plus difficile la suppression ou la modification des metatags.

‍______________________________________________________________

Restez informé des dernières actualités sur les réseaux sociaux en vous inscrivant à notre newsletter

_________________________________________________________________

‍

Identifier les contenus générés pas des IA génératives pour lutter contre les dérives

Alors que les Américains se rendront aux urnes en 2024, Karine Jean-Pierre porte-parole de la maison blanche se réjouit des initiatives des plateformes sociale pour offrir de la visibilité aux internautes et lutter contre la désinformation : "Alors que les sociétés de médias sociaux prennent leurs propres décisions indépendantes en matière de gestion de contenu, nous pensons qu'elles ont un rôle important à jouer dans l'application de leurs propres règles pour empêcher la propagation de la désinformation et des images intimes et non consensuelles de personnes réelles". Meta prévoit d'étiqueter les images générées par l'IA dans les mois à venir car "un certain nombre d'élections importantes ont lieu dans le monde", a déclaré Clegg.

‍