D’après un rapport du laboratoire d’innovation d’Europol, jusqu’à 90% du contenu en ligne pourrait être généré artificiellement d’ici 2026. Cela concerne aussi bien les contenus d’information que les divertissements. La généralisation des deepfakes laisse planer la menace de la désinformation, mais aussi d’un accroissement des arnaques et escroqueries.
Deepfake : une technique basée sur l’IA
Le deepfake est une technique de synthèse d'image humaine basée sur l'intelligence artificielle (IA). Elle consiste à combiner et superposer des images et des vidéos existantes sur d'autres images ou vidéos, laissant croire qu’une célébrité – ou bien votre voisin ou un proche – prononce des paroles qu’il n’a jamais dites.
Depuis quelques années, les deepfakes connaissent un fort développement en raison de la conjonction de deux facteurs :
- D’une part, les progrès de l’IA et, en particulier, du deep learning (ou apprentissage profond, en français). « Le deep learning est un type d'apprentissage automatique où un ordinateur analyse des ensembles de données pour rechercher des modèles à l'aide de réseaux neuronaux. », explique Europol dans son rapport.
- D’autre part, l’augmentation du volume de données disponibles dans les grandes bases de données d’images et de vidéos.
Bon à savoir
L’IA bouleverse de nombreux secteurs et, notamment, l’univers de la banque. Pour en savoir plus sur les dernières innovations en la matière, retrouvez notre article complet dans Le Mag.
Deepfake : un moyen d’extorquer de l’argent
Le deepfake peut être utilisé pour diffuser de fausses informations mais aussi soutirer de l’argent. Dans son rapport, Europol liste différents types d’arnaques :
- La falsification de preuves
- La création de fausses vidéos pornographiques
- La fraude au P-DG.
Dans ce dernier exemple, le pirate se fait passer pour le président-directeur général d’une société et contacte le service comptabilité. Il lui demande de faire un virement externe, prétextant une opération financière importante. Les fonds sont bien évidemment détournés, comme dans une opération de phishing.
Comment repérer et déjouer les deepfakes ?
Malgré l’amélioration constante de la qualité des deepfakes, quelques indices peuvent vous mettre la puce à l’oreille et vous aider à détecter ces tentatives de fraudes :
- L’absence de clignement naturel des yeux, ce réflexe restant difficile à simuler par les intelligences artificielles
- Une lumière différente entre le personnage et le décor
- Une incohérence entre la fréquence des battements cardiaques des participants d’une vidéo, même si ce détail n’est pas toujours aisé à repérer à l’œil nu
- Des mouvements de bouche décousus ou accélérés.
Les plateformes et les réseaux sociaux développent par ailleurs, leurs propres systèmes de détection. Si vous repérez un deepfake, pensez à informer la plateforme sur laquelle il a été publié !
Crédit photo : Getty Images
