Des vikings générés par IA, des fruits anthropomorphisés ou encore des chats bodybuildés. Sur Youtube, comme ailleurs, l'IA Slop, ces contenus artificiels de faible qualité, est partout. S'ajoutent à cela les deepfakes et les micro-dramas, ou encore les youtubeurs utilisant des technologies d'IA pour améliorer leurs vidéos.
Conformément à une étude de Kapwing, il est estimé qu'entre 20 et 33% des vidéos sur Youtube pourraient être le fruit de l'intelligence artificielle. Cette situation complique la tâche de nombreux spectateurs, incapables de différencier un contenu authentique d'une création artificielle.
Afin de contrer cette confusion, Youtube a décidé d’évoluer vers un système de détection automatique des contenus IA. Suzana Carlos, responsable des politiques produits, témoigne : "Notre but est de garantir aux utilisateurs que les informations sont facilement accessibles".
Détecter automatiquement les vidéos IA
Jusqu’à présent, les créateurs étaient censés indiquer si leurs vidéos contenait des éléments générés par IA. Cependant, face à l'essor des outils d'IA capables de produire des vidéos réalistes, cette approche ne s'avérait plus suffisante.
Youtube implémente maintenant de nouveaux outils de détection, avec des "signaux internes" permettant d'identifier les vidéos créées avec l'IA, même si cela n’était pas déclaré. Les contenus ainsi repérés recevront un label de transparence. La plateforme s’engage à répondre aux enjeux liés à la prolifération de fausses vidéos, de plus en plus préoccupants sur les plans politique et social.
Pour garantir un équilibre, les créateurs auront la possibilité de contester une détection qu’ils jugeraient inexacte. Toutefois, certaines exceptions, telles que les vidéos créées avec des outils d'IA propres à Youtube, seront automatiquement identifiées.
Des labels plus visibles
Les labels indiquant un contenu généré par IA seront désormais mieux intégrés. Ils apparaîtront sous le lecteur vidéo pour les longs formats et en surimpression pour les Shorts. "Ces labels garantissent que les utilisateurs aient un aperçu immédiat de l'authenticité du contenu", ajoute Carlos.
Il est important de noter que la mention "généré par IA" ne changera ni les recommandations algorithmiques ni la monétisation des vidéos. C'est une façon pour Youtube de rassurer les créateurs qui utilisent ces technologies.
La chasse aux deepfakes
Ce tournant s’inscrit dans une tentative plus large de lutter contre les manipulations numériques. Mi-mai, Youtube a également ouvert son programme de détection de deepfakes à tous les utilisateurs majeurs. Auparavant, uniquement les professionnels avaient accès à cette fonctionnalité.
Amjad Hanif, vice-président chargé des produits, déclare : "Tous les utilisateurs peuvent s'inscrire, qu'ils soient créateurs ou non". Les utilisateurs devront fournir une photo de leur visage et une pièce d'identité pour participer à ce programme. Youtube assure que ces informations ne seront pas utilisées pour former des modèles d'IA, mais uniquement pour le système de vérification.
Finalement, Youtube démontre qu’il ne s’agit pas seulement de réduire la désinformation, mais aussi d’aider le public à naviguer dans un monde de plus en plus saturé de contenus synthétiques.
