La fusillade de Buffalo a attiré l’attention sur le rôle de Twitch, (la plateforme de jeu) utilisée par le tireur pour diffuser en direct le massacre, au milieu d’appels renouvelés en faveur d’une réglementation plus stricte des plateformes de médias sociaux. Twitch permet aux créateurs, dont beaucoup comptent des millions d’abonnés, de se diffuser en streaming en jouant à des jeux vidéo, en discutant avec des fans ou simplement en vaquant à leur vie quotidienne.
Le suspect de Buffalo, un suprématiste blanc avoué qui aurait abattu 11 victimes noires et deux victimes blanches, tuant 10 personnes, dans ce que les autorités ont qualifié de crime de haine à motivation raciale, a utilisé une chaîne Twitch pour diffuser en direct l’agression à partir d’une caméra de casque. Twitch, propriété d’Amazon, a déclaré avoir retiré la vidéo dans les deux minutes suivant le début des violences, mais à ce moment-là, elle était déjà partagée ailleurs, notamment sur Facebook et Twitter.
Dans un communiqué publié au New York Times, Angela Hession, vice-présidente du règlement et de la sécurité chez Twitch, a déclaré que la réaction du site était « un temps de réponse très fort compte tenu des défis de la modération du contenu en direct, et montre de bons progrès ». La nature fragmentaire des plateformes de médias sociaux modernes a apporté de nouvelles difficultés à la modération.
Alors que la nouvelle de la fusillade devenait virale sur TikTok, les modérateurs de la plateforme se sont battus pour supprimer les téléchargements des images mais ont beaucoup moins réussi à supprimer les vidéos qui dirigeaient les téléspectateurs vers des comptes Twitter où ils pouvaient regarder la fusillade en entier.
Le rôle de la diffusion en direct n’est qu’une partie de la question. Le tireur a diffusé ses intentions à l’avance y compris la préparation d’une liste de choses à faire sur la plateforme de chat Discord ce qui signifiait que certains de ses abonnés étaient prêts à télécharger la vidéo au fur et à mesure de sa diffusion. Les téléchargements initiaux et répétés semblaient provenir de supporters.
Cependant, en quelques heures, la majeure partie des partages provenait d’utilisateurs cherchant à satisfaire la curiosité des autres en ligne, un schéma similaire à celui observé après la fusillade de Christchurch en 2019, qui a d’abord été diffusée en direct sur Facebook avant d’être distribuée sur YouTube, Twitter et Facebook lui-même. Ce flux en direct, cependant, a duré 17 minutes avant que les modérateurs de Facebook ne le suppriment, un temps de réponse presque 10 fois plus lent que celui de Twitch.
La gouverneure de New York, Kathy Hochul, a déclaré dimanche au réseau de télévision ABC que les sociétés de médias sociaux devaient être tenues responsables des opinions racistes et violentes qui circulaient en ligne. L’attaquant de Buffalo a publié un (manifesto) de 180 pages en ligne avant la fusillade qui se concentrait sur la (théorie du remplacement), une théorie du complot selon laquelle les Blancs sont systématiquement remplacés par des non-Blancs.
Hochul a signalé que les entreprises de technologie « doivent être tenues responsables et nous assurer qu’elles prennent toutes les mesures humainement possibles pour pouvoir surveiller ces informations », elle a ajouté « comment ces idées dépravées fermentent sur les réseaux sociaux, elles se propagent comme un virus maintenant ».
Le projet de loi sur la sécurité en ligne et le (Digital Services Act)., des textes législatifs introduits respectivement au Royaume-Uni et dans l’UE, ciblent les activités criminelles en ligne, mais aux États-Unis, les progrès sont plus lents.
L’article 230 de la loi sur la (Communications Decency) de 1996 exonère les plateformes de la responsabilité du contenu publié par d’autres, bien que le président Joe Biden et son prédécesseur, Donald Trump, aient soutenu sa refonte pour des raisons différentes, mais le premier amendement à la Constitution américaine rend peu probable que les plateformes soient un jour confrontées à une responsabilité signifiante pour l’hébergement de contenu raciste.
Le suspect de Buffalo, un suprématiste blanc avoué qui aurait abattu 11 victimes noires et deux victimes blanches, tuant 10 personnes, dans ce que les autorités ont qualifié de crime de haine à motivation raciale, a utilisé une chaîne Twitch pour diffuser en direct l’agression à partir d’une caméra de casque. Twitch, propriété d’Amazon, a déclaré avoir retiré la vidéo dans les deux minutes suivant le début des violences, mais à ce moment-là, elle était déjà partagée ailleurs, notamment sur Facebook et Twitter.
Dans un communiqué publié au New York Times, Angela Hession, vice-présidente du règlement et de la sécurité chez Twitch, a déclaré que la réaction du site était « un temps de réponse très fort compte tenu des défis de la modération du contenu en direct, et montre de bons progrès ». La nature fragmentaire des plateformes de médias sociaux modernes a apporté de nouvelles difficultés à la modération.
Alors que la nouvelle de la fusillade devenait virale sur TikTok, les modérateurs de la plateforme se sont battus pour supprimer les téléchargements des images mais ont beaucoup moins réussi à supprimer les vidéos qui dirigeaient les téléspectateurs vers des comptes Twitter où ils pouvaient regarder la fusillade en entier.
Le rôle de la diffusion en direct n’est qu’une partie de la question. Le tireur a diffusé ses intentions à l’avance y compris la préparation d’une liste de choses à faire sur la plateforme de chat Discord ce qui signifiait que certains de ses abonnés étaient prêts à télécharger la vidéo au fur et à mesure de sa diffusion. Les téléchargements initiaux et répétés semblaient provenir de supporters.
Cependant, en quelques heures, la majeure partie des partages provenait d’utilisateurs cherchant à satisfaire la curiosité des autres en ligne, un schéma similaire à celui observé après la fusillade de Christchurch en 2019, qui a d’abord été diffusée en direct sur Facebook avant d’être distribuée sur YouTube, Twitter et Facebook lui-même. Ce flux en direct, cependant, a duré 17 minutes avant que les modérateurs de Facebook ne le suppriment, un temps de réponse presque 10 fois plus lent que celui de Twitch.
La gouverneure de New York, Kathy Hochul, a déclaré dimanche au réseau de télévision ABC que les sociétés de médias sociaux devaient être tenues responsables des opinions racistes et violentes qui circulaient en ligne. L’attaquant de Buffalo a publié un (manifesto) de 180 pages en ligne avant la fusillade qui se concentrait sur la (théorie du remplacement), une théorie du complot selon laquelle les Blancs sont systématiquement remplacés par des non-Blancs.
Hochul a signalé que les entreprises de technologie « doivent être tenues responsables et nous assurer qu’elles prennent toutes les mesures humainement possibles pour pouvoir surveiller ces informations », elle a ajouté « comment ces idées dépravées fermentent sur les réseaux sociaux, elles se propagent comme un virus maintenant ».
Le projet de loi sur la sécurité en ligne et le (Digital Services Act)., des textes législatifs introduits respectivement au Royaume-Uni et dans l’UE, ciblent les activités criminelles en ligne, mais aux États-Unis, les progrès sont plus lents.
L’article 230 de la loi sur la (Communications Decency) de 1996 exonère les plateformes de la responsabilité du contenu publié par d’autres, bien que le président Joe Biden et son prédécesseur, Donald Trump, aient soutenu sa refonte pour des raisons différentes, mais le premier amendement à la Constitution américaine rend peu probable que les plateformes soient un jour confrontées à une responsabilité signifiante pour l’hébergement de contenu raciste.
