L’étude identifie des scénarios d’interplay homme-IA qui conduisent à des cocons d’informations

L’utilisation généralisée d’algorithmes d’intelligence artificielle, en particulier d’algorithmes conçus pour recommander du contenu et des produits aux utilisateurs en fonction de leur activité en ligne passée, a donné naissance à de nouveaux phénomènes connus sous le nom de chambres d’écho et de cocons d’data sur les réseaux sociaux. Ces phénomènes imposent des restrictions sur les informations fournies aux utilisateurs en ligne, les poussant à lire uniquement des contenus qui correspondent à leur imaginative and prescient de los angeles vie, à leurs issues de vue et à leurs evaluations.

Une étude récente menée par une équipe interdisciplinaire dirigée par le professeur Yong Li de l’Université Tsinghua étudie los angeles dynamique qui sous-tend los angeles formation de ce que l’on appelle les cocons d’data, qui sont des espaces en ligne où les utilisateurs ne rencontrent que des voix ou des utilisateurs qui réimposent leurs propres issues de vue. Leur article publié dans L’intelligence artificielle de los angeles natureidentifie deux scénarios différents pouvant conduire à los angeles formation de cocons d’informations, ainsi que des stratégies possibles pour empêcher cela.

“L’IA a imprégné toutes sortes d’activités humaines et a renforcé los angeles présence d’algorithmes dans tous les facets de los angeles vie moderne”, a déclaré Jinghua Biao, premier auteur de l’article, à Tech Xplore. « Cependant, l’adoption généralisée d’algorithmes basés sur l’IA crée un nouvel ensemble de défis, par exemple une exposition réduite à des informations, des evaluations, des evaluations politiques et des amis idéologiquement divers.

« En particulier, les algorithmes de recommandation, certaines des applied sciences basées sur l’IA les plus répandues, sont connus pour isoler les humains de diverses informations et finalement les piéger dans un seul sujet ou level de vue, appelés cocons d’informations. »

Les cocons d’data peuvent avoir des conséquences négatives considérables, automotive ils peuvent exacerber les préjugés et los angeles polarisation sociale, inhiber los angeles croissance, los angeles créativité et l’innovation, mettre en lumière los angeles désinformation et entraver les efforts visant à créer un monde plus inclusif.

Bien que leur lifestyles ait été largement documentée, les mécanismes à l’origine de l’émergence des « bulles d’data » sur Web restent mal compris.

“Le however de nos recherches récentes était de révéler l’origine des cocons d’informations dans le système complexe d’interplay homme-IA”, a expliqué Biao. “L’idée de cocons d’informations a été adoptée pour décrire le phénomène largement observé selon lequel, à mesure que les interactions avec des algorithmes intelligents augmentent, les gens s’isolent de diverses informations et finissent par se retrouver piégés dans un seul sujet ou level de vue.”

L’hypothèse principale qui sous-tend les travaux récents est que los angeles création de cocons d’informations ne peut être attribuée uniquement aux humains ou aux algorithmes de recommandation. L’équipe estime qu’ils résultent d’interactions complexes et d’échanges d’informations entre plusieurs entités.

“Grâce à des recherches expérimentales et théoriques, nous révélons que les cocons d’informations résultent de los angeles dynamique adaptative de l’data dans los angeles boucle de rétroaction interactive entre les humains et les algorithmes de recommandation basés sur l’IA”, a déclaré Biao. “Cette boucle de rétroaction est caractérisée par des éléments de base : (1) une correspondance basée sur los angeles similarité, (2) une rétroaction certain, (3) une rétroaction négative et (4) une auto-exploration aléatoire.”

Los angeles correspondance basée sur los angeles similarité est le processus par lequel les algorithmes de recommandation associent les personnes à du contenu, des produits et d’autres utilisateurs en ligne très similaires à ceux qu’ils ont consommés ou avec lesquels ils ont interagi dans le passé. L’équipe du professeur Lee a découvert que cette tendance à formuler des recommandations basées sur des similitudes est los angeles principale power qui pousse les médias sociaux et les réseaux en ligne à devenir des cocons d’data.

“Les commentaires positifs augmentent cet effet, entraînant une diminution de l’entropie de l’data (c’est-à-dire los angeles diversité de l’data)”, a déclaré Biao. “Les retours négatifs et l’auto-exploration aléatoire favorisent los angeles diversité de l’data en résistant à l’affect du champ de power effectif et en perturbant le système. Cette résistance conduit le système de ses cocons d’informations vers los angeles diversification.”

Les chercheurs ont finalement pu identifier deux processus clés qui jouent un rôle clé dans l’émergence de cocons d’informations dans des systèmes complexes impliquant des interactions entre les algorithmes de recommandation d’IA et les humains. Ces processus incluent un déséquilibre entre les commentaires positifs et négatifs, ainsi qu’un renforcement continu de l’appariement basé sur los angeles similarité.

“Nos résultats suggèrent deux manières pratiques d’atténuer les cocons d’informations dans le monde réel”, a déclaré Biao. “Le premier est l’utilisation efficace des retours négatifs, qui offre une nouvelle point of view sur les préférences des utilisateurs en identifiant ce qu’ils n’aiment pas. Le 2d est los angeles promotion de l’auto-exploration, qui diversifie les informations disponibles en permettant aux utilisateurs d’exercer une plus grande autonomie sur l’algorithme.

Dans l’ensemble, l’équipe du professeur Li a collecté des informations précieuses sur les mécanismes sous-jacents à los angeles formation de cocons d’informations en ligne, qui pourraient bientôt éclairer los angeles création d’outils et de stratégies d’IA possible choices traitant de ces mécanismes. Leur article est le résultat d’une collaboration d’un an impliquant des chercheurs professionals dans diverses disciplines, notamment los angeles body statistique, los angeles science informatique et les politiques publiques.

“Du level de vue de los angeles body statistique, nous prévoyons désormais d’élargir notre modèle théorique pour inclure davantage de scénarios du monde réel et expliquer des phénomènes importants régis par des lois similaires, par exemple los angeles séparation et los angeles polarisation”, a ajouté Biao. “Du level de vue de los angeles science informatique, notre équipe prévoit de mener des recherches plus approfondies sur les systèmes d’IA complexes et l’IA pour le bien social. Du level de vue des politiques publiques, nous prévoyons de renforcer los angeles conception des politiques publiques correspondantes grâce à nos résultats.”

© 2023 Réseau ScienceX