Les discours de haine sur X ont augmenté pendant au moins 8 mois après le rachat d’Elon Musk

Les discours de haine sur X ont constamment augmenté de 50 % pendant au moins huit mois après que le milliardaire de la technologie Elon Musk a acheté la plateforme de médias sociaux, selon une nouvelle étude. L’étude a examiné la prévalence des discours de haine manifestes, y compris un large éventail d’insultes racistes, homophobes et transphobes.

L’étude, publiée aujourd’hui dans PLOS ONE , a été menée par une équipe de chercheurs dirigée par Daniel Hickney de l’Université de Californie à Berkeley.

Cela montre clairement comment une plateforme initialement inventée pour aider les amis et la famille à rester en contact s’est aujourd’hui métamorphosée en un lieu où les discours de haine sont prolifiques. Cela est particulièrement inquiétant étant donné que les discours de haine en ligne ont été liés à des crimes de haine violents hors ligne.

Une longue liste de promesses

Le 27 octobre 2022, Elon Musk a officiellement acheté X (alors connu sous le nom de Twitter) pour 44 milliards de dollars et en est devenu le PDG. Son rachat s’est accompagné de promesses de réduire les discours de haine sur la plateforme et de s’attaquer aux bots et autres comptes non authentiques.

Mais après avoir acheté X, Musk a apporté plusieurs changements à la plateforme pour réduire la modération du contenu. Par exemple, en novembre 2022, il a licencié une grande partie du personnel à temps plein de l’entreprise. Il a également licencié les modérateurs de contenu externalisés qui surveillaient les abus sur X, malgré des recherches montrant que les plateformes de médias sociaux avec des niveaux élevés de modération de contenu contiennent moins de discours haineux .

Le mois suivant, Musk a également dissous le Trust and Safety Council de la plateforme – un groupe consultatif bénévole composé de dirigeants indépendants des droits de l’homme et d’universitaires formé en 2016 pour lutter contre les discours de haine et d’autres problèmes sur la plateforme.

Des recherches antérieures ont montré que les discours de haine ont augmenté sur X immédiatement après l’arrivée d’Elon Musk au pouvoir. Il en va de même pour la prévalence de la plupart des types de bots.

Cette nouvelle étude est la première à démontrer qu’il ne s’agit pas d’une anomalie.

Plus de 4 millions de messages

L’étude a examiné 4,7 millions de publications en anglais sur X du début de l’année 2022 jusqu’au 9 juin 2023. Cette période comprend les dix mois précédant l’achat de X par Musk et les huit mois qui ont suivi.

L’étude a mesuré les discours de haine explicites, dont le sens était clair pour quiconque les voyait – des discours attaquant des groupes identitaires ou utilisant un langage toxique. Elle n’a pas mesuré les types de discours de haine cachés, tels que le langage codé utilisé par certains groupes extrémistes pour propager la haine mais qui nient de manière plausible le faire.

En plus de mesurer la quantité de discours de haine sur X, l’étude a également mesuré dans quelle mesure les autres utilisateurs interagissaient avec ce contenu en l’aimant.

L’accès des chercheurs aux données X a été interrompu pendant l’étude en raison d’un changement de politique de la plateforme, remplaçant l’accès gratuit aux chercheurs universitaires approuvés par des options de paiement généralement inabordables. Cela a considérablement entravé leur capacité à collecter des échantillons de publications. Mais ils ne précisent pas si cela a affecté leurs résultats.

Une nette augmentation de la haine

L’étude a révélé « une nette augmentation » du nombre moyen de messages contenant des discours de haine après l’achat de X par Musk. Plus précisément, le volume de messages contenant des discours de haine était « systématiquement » 50 % plus élevé après que Musk ait repris X par rapport à avant – un bond d’une moyenne estimée de 2 179 à 3 246 messages contenant des discours de haine par semaine.

Les insultes transphobes ont connu la plus forte augmentation, passant d’une moyenne d’environ 115 publications par semaine avant l’acquisition de Musk à une moyenne de 418 après.

Le niveau d’engagement des utilisateurs envers les publications contenant des discours de haine a également augmenté sous la direction d’Elon Musk. Par exemple, le taux hebdomadaire auquel les contenus haineux ont été appréciés par les utilisateurs a bondi de 70 %.

Les chercheurs affirment que ces résultats suggèrent soit que les discours de haine n’ont pas été supprimés, que les utilisateurs haineux sont devenus plus actifs, que l’algorithme de la plateforme a involontairement promu les discours de haine auprès des utilisateurs qui aiment ce type de contenu – ou une combinaison de ces possibilités.

L’étude n’a également détecté aucune diminution de l’activité des comptes non authentiques sur X. En fait, elle a constaté une « augmentation potentielle » du nombre de comptes de bots, en partie basée sur une forte augmentation des publications faisant la promotion des cryptomonnaies, qui sont généralement associées aux bots.

Une analyse approfondie des données importantes

L’étude comporte un certain nombre de limites. Par exemple, elle ne mesure que les messages haineux en anglais, qui ne représentent que 31 % des messages publiés sur la plateforme.

Malgré tout, l’étude constitue une analyse approfondie et importante de l’état de X. Elle montre qu’il s’agit d’une plateforme où les discours de haine sont prolifiques. Elle montre également que Musk n’a pas tenu ses promesses antérieures de s’attaquer aux problèmes sur X tels que les discours de haine et l’activité des robots.

Comme Musk lui-même l’a déclaré à la Maison Blanche plus tôt cette semaine : « Certaines des choses que je dis seront incorrectes et devraient être corrigées ».

Michael Jensen

Professeur associé, Institut de gouvernance et d’analyse des politiques, Université de Canberra, Université de Canberra