- L'émergence du deepfake a marqué une étape significative dans l'intersection entre la technologie et la manipulation des médias ces derniers jours. Pouvez-vous expliquer brièvement ce qu'est la technologie du deepfake et comment fonctionne-t-elle ?
- Le deepfake est une technologie d'intelligence artificielle qui génère des médias, tels que des vidéos ou des images, en altérant de manière réaliste le contenu d'origine pour qu'il semble authentique, alors qu'en réalité, tout est entièrement fabriqué.
Le processus de fonctionnement commence par la collecte de données, puis l'intelligence artificielle imite des éléments tels que la voix, les expressions faciales, les gestes et d'autres caractéristiques spécifiques. Ensuite, ces éléments sont utilisés pour créer de nouvelles images, vidéo ou audio. On peut trouver des exemples de deepfakes qui mettent en scène des personnalités politiques telles qu'Emmanuel Macron et Donald Trump, pour n'en citer que ces deux.
Cette technologie peut être utilisée à des fins créatives, mais elle soulève également des inquiétudes majeures en matière de désinformation et de manipulation, car elle peut être exploitée pour créer des contenus trompeurs ou diffamatoires.
- En quoi cette technologie pourrait-elle influencer la confiance dans les médias et la véracité des informations et manipuler l'opinion publique ?
- Cela peut avoir un impact sur la perception de la réalité. En effet, les deepfakes peuvent être employés pour manipuler l'opinion publique en diffusant de faux discours politiques, ce qui peut avoir des conséquences significatives, notamment en période électorale.
Le véritable défi réside dans la capacité à discerner la réalité du mensonge. Les deepfakes peuvent êtres d'une telle authenticité qu'il devient ardu de les distinguer des contenus authentiques, exposant ainsi le public à être plus vulnérable à la manipulation.
Ils peuvent être aussi utilisés à des fins malveillantes, notamment la diffusion de fausses informations, la diffamation, la désinformation politique, la fraude en ligne, le harcèlement et bien d'autres. Ce qui peut avoir un impact considérable sur la perception de la vérité et la confiance du public. C’est pourquoi les législateurs et les chercheurs travaillent sur des moyens de les réglementer et de les détecter.
- Quels sont les principaux défis techniques et éthiques auxquels nous sommes confrontés dans le paysage médiatique marocain en ce qui concerne cette technologie ?
- Les principaux défis auxquels nous faisons face sont liés à la propagation de la désinformation. La technologie peut être employée pour générer et diffuser rapidement de fausses informations.
Il y a aussi le fait que les algorithmes de recommandation de contenu peuvent contribuer à la polarisation de l'opinion en ne montrant aux utilisateurs que des informations conformes à leurs croyances.
Il y a un enjeu majeur par rapport à la problématique de la manipulation des masses. Cela peut créer des bulles d'information qui limitent l'exposition à des perspectives différentes. Si chacun est enfermé dans sa bulle, derrière son smartphone, et ne voit que du contenu en rapport avec ses centres d’intérêt, ça risque d’engendrer des décalages des uns envers les autres.
Par ailleurs, les médias marocains doivent éduquer le public en mettant en place, comme certains médias internationaux, des mécanismes de fact checking pour le grand public. Pour récapituler, le point essentiel est d'éduquer le public sur la manière de consommer de l'information en ligne de manière critique. Il ne faut pas prendre pour vrai tout ce que nous voyons sur le Net.
- Comment les gouvernements et les entreprises devraient-ils aborder leur réglementation pour minimiser leur utilisation abusive ?
- L'approche de la réglementation pour minimiser l'utilisation abusive des nouvelles technologies dans le paysage médiatique marocain devrait être équilibrée, favorisant à la fois l'innovation et la protection des intérêts publics.
Il y a deux mesures clés à considérer. Tout d'abord, promouvoir la transparence. Ensuite, renforcer le fact-checking (processus de vérification des faits). Comme je l'ai mentionné précédemment, il faut s’inspirer des modèles utilisés dans les médias anglo-saxons ou francophones qui ont mis en place des mécanismes de fact-checking robustes pour contrer la désinformation.
Cependant, de nos jours, nous assistons également à l'émergence de nouvelles méthodes de création de contenu en ligne, telles que les deepfakes, où on peut voir un John Lennon comme ressuscité.
On peut trouver en ligne des duos fabriqués entre 2pac et Adèle. Dans le monde de la musique par exemple, ça pose beaucoup de questions, car dans un avenir où l’utilisation de ces technologies va être chose commune, comment définir les règles de droits d’auteur ? Est-ce que des chansons originales de Jay-Z ou Beyoncé vont être traitées par les plateformes de musique telles que Spotify, Apple Music, et YouTube, comme des chansons fabriquées par IA à partir de contenus existants ?
- Existe-t-il des outils de détection et de prévention pour contrer ce phénomène, et dans quelle mesure sont-ils efficaces ?
- Oui, il existe des outils de fact-checking. Cependant, leur efficacité peut varier en fonction de divers facteurs. Certains chercheurs développent des algorithmes pour détecter automatiquement les contenus trompeurs en ligne. Cependant, il y a encore du chemin à faire pour que cela devienne efficace à 100%.
- Quelles mesures individuelles les utilisateurs en ligne devraient-ils prendre pour se protéger contre la manipulation potentielle par les deepfakes ?
- Pour se protéger contre la manipulation potentielle par les deepfakes et autres formes de désinformation en ligne, il est essentiel que les utilisateurs fassent preuve de discernement et vérifient la véracité des informations avant de les accepter comme authentiques.
Les mêmes (un élément ou un phénomène repris et décliné en masse sur Internet. Il prend souvent la forme d'une photo légendée, d'une vidéo, d'un gif animé ou d'un son) sont partagés en masse sans vérification.
A l’ère du partage en un clic, le buzz devient facile même pour des infos qui sont fausses. On l’a vu par exemple avec l'histoire du divorce de Hakimi et la diffusion de fausses informations que sa fortune est au nom de sa mère, c’était d’une viralité incroyable. Peu de médias ont vérifié l’info. C’était une intox.
Il est important, aujourd’hui, de se poser la question : « Est-ce que cette info est vraie ? » et d’adopter une attitude critique envers les informations en ligne. Il faut aussi examiner attentivement la provenance de l'information. Vérifier les URL des sites Web, les comptes de médias sociaux.
- Le deepfake est une technologie d'intelligence artificielle qui génère des médias, tels que des vidéos ou des images, en altérant de manière réaliste le contenu d'origine pour qu'il semble authentique, alors qu'en réalité, tout est entièrement fabriqué.
Le processus de fonctionnement commence par la collecte de données, puis l'intelligence artificielle imite des éléments tels que la voix, les expressions faciales, les gestes et d'autres caractéristiques spécifiques. Ensuite, ces éléments sont utilisés pour créer de nouvelles images, vidéo ou audio. On peut trouver des exemples de deepfakes qui mettent en scène des personnalités politiques telles qu'Emmanuel Macron et Donald Trump, pour n'en citer que ces deux.
Cette technologie peut être utilisée à des fins créatives, mais elle soulève également des inquiétudes majeures en matière de désinformation et de manipulation, car elle peut être exploitée pour créer des contenus trompeurs ou diffamatoires.
- En quoi cette technologie pourrait-elle influencer la confiance dans les médias et la véracité des informations et manipuler l'opinion publique ?
- Cela peut avoir un impact sur la perception de la réalité. En effet, les deepfakes peuvent être employés pour manipuler l'opinion publique en diffusant de faux discours politiques, ce qui peut avoir des conséquences significatives, notamment en période électorale.
Le véritable défi réside dans la capacité à discerner la réalité du mensonge. Les deepfakes peuvent êtres d'une telle authenticité qu'il devient ardu de les distinguer des contenus authentiques, exposant ainsi le public à être plus vulnérable à la manipulation.
Ils peuvent être aussi utilisés à des fins malveillantes, notamment la diffusion de fausses informations, la diffamation, la désinformation politique, la fraude en ligne, le harcèlement et bien d'autres. Ce qui peut avoir un impact considérable sur la perception de la vérité et la confiance du public. C’est pourquoi les législateurs et les chercheurs travaillent sur des moyens de les réglementer et de les détecter.
- Quels sont les principaux défis techniques et éthiques auxquels nous sommes confrontés dans le paysage médiatique marocain en ce qui concerne cette technologie ?
- Les principaux défis auxquels nous faisons face sont liés à la propagation de la désinformation. La technologie peut être employée pour générer et diffuser rapidement de fausses informations.
Il y a aussi le fait que les algorithmes de recommandation de contenu peuvent contribuer à la polarisation de l'opinion en ne montrant aux utilisateurs que des informations conformes à leurs croyances.
Il y a un enjeu majeur par rapport à la problématique de la manipulation des masses. Cela peut créer des bulles d'information qui limitent l'exposition à des perspectives différentes. Si chacun est enfermé dans sa bulle, derrière son smartphone, et ne voit que du contenu en rapport avec ses centres d’intérêt, ça risque d’engendrer des décalages des uns envers les autres.
Par ailleurs, les médias marocains doivent éduquer le public en mettant en place, comme certains médias internationaux, des mécanismes de fact checking pour le grand public. Pour récapituler, le point essentiel est d'éduquer le public sur la manière de consommer de l'information en ligne de manière critique. Il ne faut pas prendre pour vrai tout ce que nous voyons sur le Net.
- Comment les gouvernements et les entreprises devraient-ils aborder leur réglementation pour minimiser leur utilisation abusive ?
- L'approche de la réglementation pour minimiser l'utilisation abusive des nouvelles technologies dans le paysage médiatique marocain devrait être équilibrée, favorisant à la fois l'innovation et la protection des intérêts publics.
Il y a deux mesures clés à considérer. Tout d'abord, promouvoir la transparence. Ensuite, renforcer le fact-checking (processus de vérification des faits). Comme je l'ai mentionné précédemment, il faut s’inspirer des modèles utilisés dans les médias anglo-saxons ou francophones qui ont mis en place des mécanismes de fact-checking robustes pour contrer la désinformation.
Cependant, de nos jours, nous assistons également à l'émergence de nouvelles méthodes de création de contenu en ligne, telles que les deepfakes, où on peut voir un John Lennon comme ressuscité.
On peut trouver en ligne des duos fabriqués entre 2pac et Adèle. Dans le monde de la musique par exemple, ça pose beaucoup de questions, car dans un avenir où l’utilisation de ces technologies va être chose commune, comment définir les règles de droits d’auteur ? Est-ce que des chansons originales de Jay-Z ou Beyoncé vont être traitées par les plateformes de musique telles que Spotify, Apple Music, et YouTube, comme des chansons fabriquées par IA à partir de contenus existants ?
- Existe-t-il des outils de détection et de prévention pour contrer ce phénomène, et dans quelle mesure sont-ils efficaces ?
- Oui, il existe des outils de fact-checking. Cependant, leur efficacité peut varier en fonction de divers facteurs. Certains chercheurs développent des algorithmes pour détecter automatiquement les contenus trompeurs en ligne. Cependant, il y a encore du chemin à faire pour que cela devienne efficace à 100%.
- Quelles mesures individuelles les utilisateurs en ligne devraient-ils prendre pour se protéger contre la manipulation potentielle par les deepfakes ?
- Pour se protéger contre la manipulation potentielle par les deepfakes et autres formes de désinformation en ligne, il est essentiel que les utilisateurs fassent preuve de discernement et vérifient la véracité des informations avant de les accepter comme authentiques.
Les mêmes (un élément ou un phénomène repris et décliné en masse sur Internet. Il prend souvent la forme d'une photo légendée, d'une vidéo, d'un gif animé ou d'un son) sont partagés en masse sans vérification.
A l’ère du partage en un clic, le buzz devient facile même pour des infos qui sont fausses. On l’a vu par exemple avec l'histoire du divorce de Hakimi et la diffusion de fausses informations que sa fortune est au nom de sa mère, c’était d’une viralité incroyable. Peu de médias ont vérifié l’info. C’était une intox.
Il est important, aujourd’hui, de se poser la question : « Est-ce que cette info est vraie ? » et d’adopter une attitude critique envers les informations en ligne. Il faut aussi examiner attentivement la provenance de l'information. Vérifier les URL des sites Web, les comptes de médias sociaux.
Vers une réglementation éthique des deepfakes au Maroc
La réglementation des deepfakes est un sujet en évolution constante, car le gouvernement et les législateurs s'adaptent à la menace croissante que posent ces faux médias. Sur ce point, la législation au Maroc commence déjà à contrer les menaces posées par les fakes news.
D’ailleurs, le Ministère public avait transmis des directives dans ce sens : «Est puni d’une amende de 20.000 à 200.000 dirhams quiconque a publié, diffusé ou transmis, de mauvaise foi, une nouvelle fausse, des allégations, des faits inexacts, des pièces fabriquées ou falsifiées attribuées à des tiers, (…) par les différents moyens d’information audiovisuelle ou électronique et tout autre moyen utilisant à cet effet un support électronique.
Ces mêmes actes sont punis d’une amende de 100.000 à 500.000 dirhams si cette publication, diffusion ou reproduction a un quelconque impact sur la discipline ou le moral des armées», selon l’article 72 du Code de la presse marocaine.
Aussi, les lois sur la protection de la vie privée peuvent être utilisées pour réglementer la collecte et l'utilisation de données personnelles pour la création de deepfakes. Les plateformes de médias sociaux ont également mis en place leurs propres règles pour lutter contre les deepfakes, notamment en retirant les contenus manipulés ou en les étiquetant comme tels.
D’ailleurs, le Ministère public avait transmis des directives dans ce sens : «Est puni d’une amende de 20.000 à 200.000 dirhams quiconque a publié, diffusé ou transmis, de mauvaise foi, une nouvelle fausse, des allégations, des faits inexacts, des pièces fabriquées ou falsifiées attribuées à des tiers, (…) par les différents moyens d’information audiovisuelle ou électronique et tout autre moyen utilisant à cet effet un support électronique.
Ces mêmes actes sont punis d’une amende de 100.000 à 500.000 dirhams si cette publication, diffusion ou reproduction a un quelconque impact sur la discipline ou le moral des armées», selon l’article 72 du Code de la presse marocaine.
Aussi, les lois sur la protection de la vie privée peuvent être utilisées pour réglementer la collecte et l'utilisation de données personnelles pour la création de deepfakes. Les plateformes de médias sociaux ont également mis en place leurs propres règles pour lutter contre les deepfakes, notamment en retirant les contenus manipulés ou en les étiquetant comme tels.
