Remark repenser les algorithmes des médias sociaux pour combler les lacunes

Les plateformes de médias sociaux ont été impliquées dans des conflits à tous les niveaux, de los angeles violence armée urbaine à los angeles prise du Capitole américain le 6 janvier et à los angeles guerre civile au Soudan du Sud. Scientifiquement, il est difficile de savoir quelle section de responsabilité peut être attribuée aux médias sociaux pour des incidents individuels.

Mais de los angeles même manière que le changement climatique augmente le risque de phénomènes météorologiques extrêmes, les données suggèrent que les algorithmes actuels (qui optimisent principalement l’engagement) font monter los angeles « température » politique en mettant en avant de manière disproportionnée les contenus incendiaires. Cela peut rendre les gens encore plus en colère, augmentant ainsi le risque que les différences sociales ne dégénèrent en violence.

Mais et si nous repensions les médias sociaux pour combler les lacunes ? Los angeles « classification basée sur le pontage » est un sort alternatif d’algorithme pour classer le contenu dans les flux de médias sociaux qui vise explicitement à établir une compréhension et une confiance mutuelles entre différentes views.

Los angeles logique de base de los angeles classification basée sur le pontage a déjà été utilisée sur Fb et X (anciennement connu sous le nom de Twitter), mais pas dans le flux essential. Il est également utilisé dans Polis, une plateforme en ligne de collecte des commentaires du public, utilisée par de nombreux gouvernements pour éclairer l’élaboration des politiques sur des sujets polarisants.

De nombreuses questions restent ouvertes, mais les données probantes tirées des utilisations actuelles de los angeles catégorisation basée sur los angeles transition suggèrent que les changements dans les algorithmes peuvent réduire l’hostilité partisane et améliorer los angeles qualité et l’exhaustivité des interactions en ligne.

Les gens recherchent de plus en plus d’algorithmes alternatifs. Les régulateurs européens et les nouvelles plateformes comme BlueSky donnent aux utilisateurs los angeles liberté de choisir l’algorithme qui détermine ce qu’ils voient, et de récentes expériences à grande échelle sur Fb ont ​​testé différentes choices.

Si nous nous soucions de los angeles cohésion sociale, pendant cette période de « buying groceries », nous devons sérieusement envisager des choices telles que los angeles building de ponts.

Remark ça fonctionne

Les algorithmes actuels basés sur l’engagement font des prédictions sur les publications les plus susceptibles de générer des clics, des likes, des partages ou des vues – et utilisent ces prédictions pour classer le contenu le plus engageant en haut de votre flux. Cela generally tend à amplifier les voix plus polarisées, automotive les issues de vue qui divisent sont très attrayants.

Le classement basé sur le pontage utilise un ensemble différent de signaux pour déterminer quel contenu obtient une word élevée. Une approche consiste à augmenter los angeles word du contenu qui reçoit des commentaires positifs de los angeles section de personnes généralement en désaccord. Cela incite les producteurs de contenu à être conscients de los angeles manière dont leur contenu parvient à « l’autre côté ».

Parmi les paperwork internes de Fb divulgués par los angeles lanceuse d’alerte Frances Haugen en 2021, il existe des preuves que Fb a testé cette approche de catégorisation des commentaires.

Il a été constaté que les commentaires impliquant un engagement positif de los angeles section de publics divers étaient de meilleure qualité et « moins susceptibles » d’être signalés pour intimidation, haine ou incitation à los angeles violence. Une stratégie similaire est utilisée dans Commentaires de los angeles communautéune fonctionnalité de vérification des faits participative sur X, identifie des observations utiles pour les personnes des deux côtés de los angeles politique.

Ce taste de « comments positif diversifié » est l’approche los angeles plus largement appliquée pour combler le fossé. D’autres incluent le déclassement du contenu qui promeut los angeles violence partisane ou l’utilisation d’enquêtes pour façonner des algorithmes afin qu’ils augmentent los angeles word du contenu en fonction de ce que ressentent les utilisateurs à lengthy terme plutôt qu’à courtroom terme.

Les conflits constituent un élément necessary de los angeles société et, dans de nombreux cas, un moteur majeur de changement politique et social. L’objectif du rapprochement n’est pas d’éliminer les conflits ou les désaccords, mais plutôt de promouvoir des formes constructives de conflit.

C’est ce qu’on appelle los angeles transformation des conflits. Les médiateurs professionnels, les facilitateurs et les « bâtisseurs de los angeles paix », qui travaillent avec des groupes opposés, ont une compréhension détaillée de los angeles manière dont les conflits dégénèrent. Ils savent également remark organiser los angeles communique entre des groupes opposés de manière à renforcer los angeles compréhension et los angeles confiance mutuelles.

Los angeles recherche sur los angeles typologie des ponts peut s’appuyer sur ces éléments, en s’appuyant sur les enseignements de los angeles gestion des conflits dans le monde body et en les traduisant en systèmes numériques.

Par exemple, faciliter les contacts entre des personnes appartenant à des groupes concurrents dans un environnement « opt-in » non menaçant peut réduire les préjugés, et nous pouvons concevoir des plateformes sociales pour créer ces stipulations en ligne.

Pourquoi les grandes entreprises technologiques devraient-elles adopter cette approche ?

Des entreprises comme Meta ont bâti leur richesse sur « l’économie de l’consideration » et sur des contenus qui stimulent l’engagement à courtroom terme, et donc les revenus.

Nous ne savons tout simplement pas encore à quel level les objectifs de rapprochement et d’engagement sont devenus tendus. Si vous parlez à des personnes qui travaillent sur des plateformes de médias sociaux, elles vous diront que lorsque des adjustments bien intentionnées de l’algorithme sont testées, l’engagement des utilisateurs diminue parfois au début, mais rebondit lentement avec le temps, pour finalement aboutir à davantage d’engagement.

Le problème est que les plateformes hésitent généralement et annulent les expériences avant de pouvoir constater de tels avantages à lengthy terme. Los angeles preuve c’est nous Faire Des paperwork divulgués sur Fb suggèrent que l’intégration de ponts améliore l’expérience utilisateur.

Los angeles catégorisation de transition peut également avoir des avantages au-delà de l’engagement. En réduisant los angeles toxicité et le contenu qui enfreint les directives de notre communauté, cela réduira probablement le besoin d’une modération coûteuse du contenu.

Démontrer une volonté de rendre ses algorithmes moins conflictuels renforcerait également los angeles bonne volonté parmi les régulateurs, réduisant ainsi le risque de dommages à los angeles réputation et juridiques. Par exemple, Fb a été critiqué pour avoir prétendument facilité l’incitation à los angeles violence au Myanmar, au Sri Lanka et en Éthiopie.

Il a ensuite fait l’objet de poursuites judiciaires de los angeles section des victimes et des communautés, qui ont exigé une indemnisation pouvant atteindre 150 milliards de livres sterling.

Questions et défis

Des questions importantes demeurent concernant los angeles classification de transition, dont nous abordons beaucoup dans des recherches récentes publiées en collaboration avec le Knight First Modification Institute, qui publie des recherches et des paperwork politiques originaux sur los angeles défense des libertés d’expression et de los angeles presse à l’ère numérique.

Quelles lacunes doivent être comblées ? Y a-t-il des conséquences inattendues – par exemple, une amplification des critiques dominantes au détriment des critiques minoritaires ? Remark les décisions concernant los angeles conception des applied sciences de communique de masse peuvent-elles être prises démocratiquement ?

Le rapprochement n’est pas une answer magique. Il n’existe qu’un nombre limité de changements algorithmiques pouvant être apportés pour résoudre les conflits sociétaux, qui sont le résultat de facteurs complexes tels que les inégalités. Mais en reconnaissant que les plateformes numériques remodèlent los angeles société, nous sommes obligés d’orienter ce processus dans une route éthique et humaine qui fasse ressortir le meilleur de nous-mêmes.

Il est de los angeles responsabilité à los angeles fois des entreprises technologiques qui ont construit ces systèmes et du public engagé de créer des applied sciences conçues pour assurer los angeles cohésion sociale. Grâce à notre consideration, notre sagesse et notre contrôle démocratique, nous pouvons favoriser des communautés en ligne qui reflètent le meilleur de nous-mêmes. Mais nous devons faire ce choix.

Cet article est republié à partir de The Dialog sous une licence Inventive Commons. Lisez l’article authentic.