Comment les géants luttent contre les deepfakes et la désinformation générée par IA ?
Source : Freepik
L'essor des contenus générés par l'IA a ouvert de nouvelles opportunités créatives tout en posant des défis majeurs en matière de désinformation. Des géants technologiques comme Google, Amazon et Microsoft unissent leurs forces pour lutter contre ces risques et préserver l'authenticité des médias numériques. Cependant, l'absence de certaines entreprises comme Apple et X (anciennement Twitter) dans ces efforts soulève des préoccupations.
Une technologie puissante mais risquée
Des outils comme DALL-E, Midjourney ou Sora permettent aujourd'hui de créer des images, des vidéos et des enregistrements vocaux réalistes en quelques clics. Ces technologies démocratisent la création, mais leur facilité d'accès pose un risque majeur. En effet, des acteurs malveillants peuvent exploiter ces outils pour créer des deepfakes et manipuler l'opinion publique.
Un exemple emblématique est celui de Disney, qui a utilisé l'IA pour recréer la voix de James Earl Jones dans les futurs films Star Wars. Si ce type d'usage montre le potentiel de l'IA dans le divertissement, il souligne également les dangers liés à l'usurpation d'identité vocale à des fins malveillantes.
La C2PA : Un standard pour garantir l'authenticité des contenus
Pour lutter contre ces abus, la Coalition for Content Provenance and Authenticity (C2PA), dirigée par la Fondation Linux, développe des normes ouvertes permettant de vérifier la provenance et l'authenticité des contenus. Google et Microsoft ont déjà intégré ces normes dans leurs outils phares. Par exemple, Google permet aux utilisateurs de consulter les métadonnées des images via Google Search, Ads, et bientôt YouTube, afin de savoir si un média a été modifié ou généré par l'IA.
Apple et X : Les grands absents
Malgré son engagement pour la protection de la vie privée et la sécurité, Apple n'a pas encore rejoint cette initiative, contrairement à Google et Microsoft. Cette absence pourrait limiter les efforts pour établir un front uni contre la désinformation numérique. De même, X (anciennement Twitter) n’a pris aucun engagement dans ce domaine, laissant ainsi le champ libre à des contenus trompeurs sans garde-fou.
Un écosystème complet pour la vérification des contenus
Pour gérer efficacement les deepfakes et les contenus IA, la vérification doit être intégrée à chaque étape de leur cycle de vie. Les systèmes d'exploitation, les outils de création de contenu, les services de cloud et les plateformes de médias sociaux doivent tous embarquer les normes C2PA pour garantir une traçabilité totale des médias.
Vers un avenir sécurisé grâce à la blockchain
Une solution potentielle pour renforcer cette vérification serait d'introduire la blockchain pour suivre les actifs numériques. Chaque modification d’un contenu serait enregistrée de manière immuable, garantissant ainsi une chaîne de conservation ininterrompue et rendant les deepfakes plus difficiles à dissimuler.