Notre approche de l'innovation responsable dans le domaine de l'IA

L'IA générative a le potentiel de stimuler la créativité sur YouTube et de transformer l'expérience sur notre plateforme, aussi bien pour les créatrices et créateurs que pour leurs audiences. Il est cependant nécessaire de trouver un équilibre entre ces opportunités et notre responsabilité de protection envers la communauté YouTube. Quelle que soit la façon dont ils sont créés, tous les contenus mis en ligne sur notre plate-forme sont soumis au Règlement de la communauté. Cependant, nous sommes conscients que l'IA fera surgir des risques complémentaires et nécessitera de définir de nouvelles approches.

Nous en sommes aux premières étapes de ce travail et nous continuerons à faire évoluer ces approches au fur et à mesure que nous en apprenons davantage. Voici les nouveautés que YouTube va déployer dans les mois et l'année à venir.

Exigences d’information et nouveaux libellés de contenu

Nous pensons qu'il est de notre intérêt à tous d'entretenir un écosystème d'informations sain sur YouTube. Nous disposons depuis de nombreuses années de règles qui interdisent tout contenu qui a été modifié ou retouché à l'aide de moyens techniques dans le but de tromper les utilisateurs et qui peut présenter un risque important de préjudice majeur. Cependant, les nouvelles formes de storytelling par l’IA peuvent également être utilisées pour générer des contenus qui peuvent tromper les spectateurs, en particulier si ces derniers ne savent pas que les vidéos ont été modifiées ou créées de toutes pièces.

Pour répondre à cette préoccupation, nous allons lancer dans les mois à venir de nouvelles fonctionnalités pour informer les spectateurs lorsqu'ils regardent du contenu créé de manière synthétique. Plus précisément, nous exigerons des créatrices et créateurs qu’ils indiquent s’ils ont créé un contenu réaliste modifié ou créé de manière synthétique, y compris à l’aide d’outils d’IA. Quand les créatrices et créateurs mettront en ligne un contenu, ils auront de nouvelles options à sélectionner pour indiquer qu'il contient un élément réaliste modifié ou créé de manière synthétique. Par exemple, il peut s'agir d'une vidéo générée par l'IA et qui représente de façon réaliste un événement, ou d'une personne en train de parler ou de faire quelque chose de spécifique, alors que ces situations ne se sont jamais produites.

Cela est particulièrement important quand le contenu traite de sujets sensibles, comme des élections, des conflits en cours, des crises de santé publique, ou encore des personnalités publiques. Les créatrices et créateurs qui décideront de ne pas divulguer cette information de façon récurrente pourraient voir leurs contenus supprimés, être suspendus du Programme Partenaire YouTube, ou faire l’objet d’autres sanctions. Nous travaillerons avec les créatrices et les créateurs avant le déploiement de cette nouvelle fonctionnalité pour nous assurer qu'ils comprennent bien ces nouvelles exigences.

Nous informerons les utilisateurs que le contenu peut être modifié ou créé synthétiquement de deux manières. Un nouveau libellé apparaîtra dans le panneau de description, indiquant qu'une partie du contenu a été modifiée ou générée de façon numérique. Pour certains types de contenus qui portent sur des sujets sensibles, nous ajouterons un libellé plus visible au lecteur vidéo.

Parfois, un libellé ne suffit pas pour réduire le risque de préjudice. Les contenus créés synthétiquement qui enfreignent le règlement de la communauté seront retirés de la plate-forme, qu'ils comportent un libellé ou non. Par exemple, une vidéo créée synthétiquement qui montre des scènes de violence réalistes peut être supprimée si elle a pour but de choquer les spectateurs ou de leur inspirer du dégoût.

Au fur et à mesure que ces nouveautés seront déployées, les contenus créés par les fonctionnalités d'IA générative de YouTube seront à l'avenir clairement signalés comme étant modifiés ou créés synthétiquement.

Nouvelles options pour les créatrices et créateurs, les utilisateurs et les artistes

Nous recevons de nombreux commentaires sur l'impact potentiel des technologies émergentes. Notre communauté, notamment les créatrices et créateurs, les internautes et les artistes, s'interroge en particulier sur la possibilité qu'une voix ou un visage puisse être généré numériquement sans autorisation ou pour représenter un point de vue de façon trompeuse.

Dans les mois à venir, les internautes pourront envoyer une réclamation pour atteinte à la vie privée pour faire supprimer un contenu manipulé, créé synthétiquement ou généré par l'IA qui simule une personne pouvant être identifiée (y compris avec son visage ou sa voix). Tous les contenus ne seront pas retirés de YouTube. Nous prendrons en compte divers facteurs pour traiter ces demandes. Par exemple, s’il s’agit d'une parodie ou d'une satire, si la personne concernée peut être identifiée, ou encore si la vidéo montre un agent public ou une personnalité. Dans ce cas, la barre pourrait être placée plus haut.

Nos partenaires de l'industrie de la musique pourront aussi demander la suppression de contenus audio générés par l'IA qui imitent la voix unique d'un artiste en train de chanter ou rapper. Pour statuer sur une demande de suppression, nous évaluerons par exemple si le contenu constitue un reportage d'actualité, une analyse ou une critique concernant les voix créées synthétiquement. Ces demandes de retrait seront proposées aux maisons de disques ou aux distributeurs représentant des artistes qui participent à nos premières expériences musicales basées sur l'IA. Nous élargirons l'accès à d'autres maisons de disques et distributeurs dans les mois à venir.

Déploiement de la technologie d'IA pour faciliter la modération de contenu

YouTube s'est toujours appuyé sur une combinaison de modération humaine et de technologies de Machine Learning pour assurer le respect du règlement de la communauté. Plus de 20 000 modérateurs travaillent pour Google dans le monde entier. Dans nos systèmes, les classificateurs fondés sur l'IA aident à détecter les contenus potentiellement non conformes, et ce à grande échelle. Les modérateurs ont pour mission de confirmer si les contenus visés enfreignent bien le règlement. L'IA améliore sans cesse la vitesse et la précision de nos systèmes de modération.

Cette technologie a un impact clair sur la détection des nouvelles formes de comportements abusifs. Quand de nouvelles menaces émergent, nos systèmes ont assez peu de contexte pour les comprendre et les identifier à grande échelle. L'IA générative aide à élargir rapidement l'ensemble d'informations sur lequel nous entraînons les classificateurs fondés sur l'IA. Nous pouvons ainsi identifier et bloquer ces contenus bien plus vite. Grâce à nos systèmes plus rapides et précis, nous pouvons aussi réduire la quantité de contenus nuisibles auxquels nos modérateurs sont exposés.

Responsabilité intégrée à nos outils et fonctionnalités d'IA

Alors que nous continuons à développer des outils d'IA pour les créatrices et les créateurs, nous adoptons une approche semblable à celle employée pour résoudre certains grands défis de responsabilité : prendre le temps de faire les choses bien, plutôt que s'efforcer d'être les premiers sur la ligne d'arrivée.

Nous étudions avec soin comment mettre à profit les nombreuses années consacrées au développement d'équipes et de technologies capables de modérer les contenus à notre échelle. Cette approche inclut un travail significatif et continu pour créer des mesures de protection qui empêchent nos outils d'IA de générer des contenus non acceptables sur YouTube.

Nous savons également que des acteurs mal intentionnés essaieront inévitablement de contourner ces mesures préventives. Nous intégrerons les retours des utilisateurs et les enseignements tirés pour améliorer continuellement nos protections. Et au sein de notre entreprise, des équipes dédiées comme l'Intelligence Desk de YouTube se concentrent spécifiquement sur les tests d'attaques contradictoires et la détection des menaces pour garantir que nos systèmes répondent aux nouveaux défis avant qu'ils émergent.

La transformation grâce à l'IA, un processus déjà engagé

Nous ne sommes qu'au début de notre démarche visant à faire naître de nouvelles formes d'innovation et de créativité sur YouTube grâce à l'IA générative. Nous sommes extrêmement enthousiastes par le potentiel de cette technologie et savons que ce qui va suivre aura des répercussions sur l'industrie créative pendant des années. Nous prenons le temps de trouver un équilibre entre ces opportunités et notre responsabilité de protection envers la communauté YouTube en ce moment crucial. Et nous travaillerons main dans la main avec les créatrices, les créateurs, les artistes et d'autres acteurs des industries créatives pour construire un avenir qui profite à tous.

Jennifer Flannery O'Connor, VP Product Management
Emily Moxley, VP Product Management