Un nouvel indice classe l. a. transparence de dix entreprises exemplaires et constate que ces entreprises font défaut

Les entreprises actives dans le domaine de l. a. modélisation des fondations deviennent de moins en moins transparentes, déclare Rishi Bomasani, chief communautaire au Middle for Analysis in Basis Modeling (CRFM), à Stanford HAI. Par exemple, OpenAI, dont le nom contient le mot « open », a clairement déclaré qu’elle ne serait pas transparente sur l. a. plupart des facets de son modèle phare, GPT-4.

Le manque de transparence fait qu’il est difficile pour les autres entreprises de savoir si elles peuvent créer en toute sécurité des packages basées sur des modèles économiques ; Que les universitaires s’appuient sur des modèles de recherche commerciaux ; Que les décideurs politiques conçoivent des politiques ciblées pour maîtriser cette puissante technologie ; Les consommateurs peuvent comprendre les limites du modèle ou demander réparation pour dommages.

Pour évaluer l. a. transparence, Bomasani et le directeur du CRFM, Percy Liang, ont réuni une équipe interdisciplinaire de l’Université de Stanford, du MIT et de Princeton pour concevoir un système de notation appelé Style Endeavor Transparency Index. Le FMTI évalue 100 facets différents de l. a. transparence, depuis l. a. façon dont une entreprise a construit un modèle de base, remark il fonctionne et remark il est utilisé en aval.

Lorsque l’équipe a noté 10 grandes entreprises modèles de fondations à l’aide de son indice de 100 issues, elle a constaté qu’il y avait de nombreuses possibilités d’amélioration : les ratings les plus élevés, qui variaient entre 47 et 54, n’avaient rien d’exceptionnel, tandis que les ratings les plus bas n’étaient que de 12. “C’est un indicateur clair”, déclare Bomasani. “Nous sommes très attentifs à l. a. façon dont ces entreprises se comparent à leurs concurrents, et nous espérons que cela les motivera à améliorer leur transparence.”

Un autre espoir est que le FMTI guidera les décideurs politiques vers une réglementation efficace des modèles d’entreprise. “Pour de nombreux décideurs politiques de l’UE ainsi qu’aux États-Unis, au Royaume-Uni, en Chine, au Canada, dans le G7 et dans un huge éventail d’autres gouvernements, l. a. transparence est une priorité politique clé”, déclare Bomasani.

L’index, accompagné d’un report détaillé de 100 pages sur l. a. méthodologie et les résultats, met à disposition toutes les données sur les 100 indicateurs de transparence, l’utilisation du protocole de notation, les ratings des développeurs ainsi que les justifications. Le report a également été publié le arXiv Serveur d’influence avancé.

Pourquoi l. a. transparence est-elle importante ?

Bomasani souligne que le manque de transparence constitue depuis longtemps un problème pour les consommateurs numériques. Nous avons été témoins de publicités et de tarifs en ligne trompeurs, de pratiques tarifaires peu claires dans le covoiturage, de schémas sombres qui incitent les utilisateurs à effectuer des achats à leur insu, et d’innombrables problèmes de transparence autour de l. a. modération du contenu qui ont conduit à un vaste écosystème de désinformation et de désinformation sur les réseaux sociaux. Sociale. . À mesure que l. a. transparence concernant les gestionnaires d’installations commerciales diminue, nous sommes confrontés à des sorts similaires de menaces pour l. a. coverage des consommateurs, dit-il.

En outre, Liang affirme que l. a. transparence autour des modèles d’entreprise est importante pour faire progresser les tasks politiques en matière d’IA et garantir que les utilisateurs en amont et en aval de l’industrie et du monde universitaire disposent des informations dont ils ont besoin pour travailler avec ces modèles et prendre des décisions éclairées.

Les modèles fondamentaux constituent un objectif croissant de l. a. recherche sur l’IA et des domaines scientifiques adjacents, notamment les sciences sociales, explique Shane Longbury, Ph.D. Candidat du MIT : « Alors que les applied sciences d’IA se développent rapidement et sont rapidement adoptées dans tous les secteurs, il est particulièrement essential pour les journalistes et les scientifiques de comprendre leurs conceptions, en particulier les composants bruts, ou données, qui les soutiennent. »

Pour les décideurs politiques, l. a. transparence est une situation préalable à d’autres efforts politiques. Bomasani affirme que les modèles fondateurs soulèvent des questions fondamentales sur l. a. propriété intellectuelle, les pratiques de travail, l. a. consommation d’énergie et les préjugés. « Sans transparence, les régulateurs ne seront même pas en mesure de poser les bonnes questions, et encore moins d’agir dans ces domaines. »

Ensuite, il y a le public. Bomasani affirme que les utilisateurs finaux des systèmes d’IA doivent connaître les modèles de base sur lesquels ces systèmes s’appuient, remark signaler les dommages causés par le système et remark demander une indemnisation.

Créer un FMTI

Afin de construire le FMTI, Bomasani et ses collègues ont développé 100 indicateurs de transparence différents. Ces normes sont tirées de l. a. littérature sur l’IA ainsi que du domaine des médias sociaux, qui dispose d’un ensemble plus abouti de pratiques de coverage des consommateurs.

Environ un tiers des indicateurs concernent l. a. manière dont les développeurs de modèles de base construisent leurs modèles, y compris des informations sur les données de formation, l. a. main-d’œuvre utilisée pour les créer et les ressources informatiques impliquées. L’autre tiers concerne le modèle lui-même, y compris ses capacités, sa fiabilité, ses risques et l’atténuation de ces risques. Le dernier tiers comprend l. a. manière dont les formulaires sont utilisés en aval, y compris l. a. divulgation des politiques de l’entreprise concernant l. a. distribution des formulaires, l. a. coverage des données des utilisateurs et le comportement des formulaires, et l. a. query de savoir si l’entreprise offre des possibilités de retour d’knowledge ou de recours aux personnes concernées.

Bomasani affirme que les indicateurs sont conçus pour contourner certains des compromis traditionnels entre l. a. transparence et d’autres valeurs, telles que l. a. confidentialité, l. a. sécurité, l’avantage concurrentiel ou les préoccupations concernant une utilisation abusive par de mauvais acteurs. “Notre objectif est de créer un indice dans lequel l. a. plupart des indicateurs n’entrent pas en conflit avec les intérêts concurrentiels ; et en considérant des questions spécifiques, l. a. rigidity entre transparence et concurrence est largement évitée”, dit-il. “L. a. divulgation des risques ne devrait pas faciliter les abus de l. a. section d’autres acteurs de l’écosystème.” En effet, pour certains indicateurs, un level est attribué si l’entreprise ne divulgue pas les informations requises mais justifie pourquoi elle ne les a pas divulguées.

L’indice ne se concentre pas intentionnellement sur l. a. notation de l. a. responsabilité des entreprises. dit Bomasani. Si une entreprise révèle que l. a. formation de ses modèles nécessite beaucoup d’énergie, ou qu’elle ne verse pas à ses travailleurs un salaire décent, ou que ses utilisateurs font quelque selected de nuisible, l’entreprise obtiendra quand même un level FMTI pour ces divulgations.

Même si l’objectif est d’avoir un comportement plus responsable de l. a. section d’entreprises exemplaires, l. a. transparence est un premier pas dans cette route, estime Bomasani. En montrant tous les faits, le Traité FMTI fixe les prerequisites qui permettent au régulateur ou au législateur de décider ce qui doit être modifié. « En tant que chercheurs, nous jouons un rôle actif en permettant à d’autres acteurs ayant plus de poids dans l’écosystème d’adopter des changements politiques substantiels. »

Douzaines

Pour évaluer les meilleurs créateurs de modèles, l’équipe de recherche a utilisé un protocole de recherche structuré pour collecter des informations accessibles au public sur le foremost modèle de fondation de chaque entreprise. Cela comprenait l’examen des websites Internet des entreprises ainsi que l. a. réalisation d’un ensemble de recherches Google reproductibles pour chaque entreprise. “À notre avis, si ce processus rigoureux ne permet pas de trouver d’informations sur un indicateur, alors l’entreprise n’a pas fait preuve de transparence à ce sujet”, déclare Kevin Kleiman, étudiant à l. a. maîtrise en politique internationale de Stanford et co-auteur foremost de l’étude. .

Après que l’équipe ait rédigé l. a. première ébauche des notations FMTI, elle a donné aux entreprises l. a. possibilité de répondre. L’équipe a ensuite examiné les réfutations de l. a. société et apporté les adjustments nécessaires.

Bomasani et ses collègues ont publié les résultats de 10 entreprises travaillant sur des modèles fondamentaux. Comme le montre le tableau ci-joint, Meta a obtenu le rating le plus élevé, 54 sur 100.

« Nous ne devrions pas considérer metta comme un objectif dans lequel tout le monde essaie d’arriver là où se trouve metta », déclare Bomasani. “Nous devrions penser à tout le monde qui essaie d’atteindre 80, 90 ou peut-être 100.”

Il y a des raisons de croire que cela est imaginable : sur 100 indicateurs, au moins une entreprise a obtenu une be aware pour 82 d’entre eux.

Les indicateurs dans lesquels presque toutes les entreprises ont obtenu de mauvais résultats sont peut-être plus importants. Par exemple, aucune des deux sociétés ne fournit d’informations sur le nombre d’utilisateurs s’appuyant sur leur modèle ou de statistiques sur les zones géographiques ou les segments de marché qui utilisent leur modèle. L. a. plupart des entreprises ne divulguent pas non plus dans quelle mesure les paperwork protégés par le droit d’auteur sont utilisés comme données de formation. Les entreprises ne divulguent pas non plus leurs pratiques de travail, ce qui peut constituer un gros problème.

« À notre avis, les entreprises devraient commencer à partager ce kind d’informations importantes sur leurs applied sciences avec le public », déclare Kleiman.

À mesure que le marché des modèles de base mûrit et s’établit et que les entreprises peuvent progresser vers une plus grande transparence, il sera essential de maintenir FMTI à jour, dit Bomasani. Pour faciliter cela, l’équipe demande aux entreprises de divulguer les informations pour chaque indicateur FMTI en un seul endroit, ce qui leur rapportera un level FMTI. « Ce serait bien mieux si nous devions simplement vérifier les informations au lieu de les rechercher », déclare Bomasani.

Affect potentiel du FMTI

Neuf des dix entreprises évaluées par l’équipe se sont volontairement engagées auprès de l’management Biden-Harris à gérer les risques posés par l’intelligence artificielle. Bomasani espère que l’accord FMTI récemment publié motivera ces entreprises à tenir leurs engagements grâce à une transparence accrue.

Il espère également que le FMTI contribuera à orienter l’élaboration des politiques des gouvernements du monde entier. Exemple concret : l’Union européenne travaille actuellement à l’adoption d’une loi sur l’IA. L. a. place du Parlement européen au second d’entamer les négociations exige l. a. divulgation de certains des indicateurs couverts par le FMTI, mais pas de tous.

En soulignant les échecs des entreprises, Bomasani espère que le FMTI aidera à cibler l’approche de l’UE sur le prochain projet. « Je pense que cela leur donnera beaucoup de clarté sur l’état du territoire, ce qui est bon et mauvais dans le statu quo, et ce qu’ils peuvent changer par l. a. législation et l. a. réglementation. »