Un examen psychological d’un système de réseau neuronal

Derrière le logiciel de reconnaissance d’photographs succesful d’identifier nos amis sur les réseaux sociaux et les fleurs sauvages de notre jardin se trouvent des réseaux de neurones, un sort d’intelligence artificielle inspiré par los angeles façon dont notre cerveau traite les données.

Alors que les réseaux neuronaux traitent rapidement les données, leur structure rend difficile los angeles traçabilité de l’origine d’erreurs évidentes pour les humains – comme par exemple confondre une chaussure montante Communicate avec une bottine – limitant leur utilisation dans des travaux plus vitaux comme l’analyse d’photographs de soins de santé ou los angeles recherche. Un nouvel outil développé à l’Université Purdue rend los angeles détection de ces insects aussi easy que los angeles détection des sommets des montagnes depuis un avion.

“Dans un sens, si un réseau neuronal pouvait parler, nous vous montrerions ce qu’il essaierait de dire”, a déclaré David Gleich, professeur d’informatique à los angeles College of Science de l’Université Purdue, qui a développé l’outil. Paru dans un article destiné à être publié dans L’intelligence artificielle de los angeles nature.

“L’outil que nous avons développé vous aide à trouver les endroits où le réseau dit : ‘Hé, j’ai besoin de plus d’informations pour faire ce que vous avez demandé.’ Je recommande aux gens d’utiliser cet outil dans tout scénario de décision à enjeux élevés pour un réseau neuronal ou une tâche de prédiction d’symbol. »

Le code de l’outil est disponible sur GitHub, tout comme les démonstrations de cas d’utilisation. Gelish a collaboré à los angeles recherche avec Tamal K. Dai, qui est également professeur d’informatique à Purdue, et Ming Liu, ancien étudiant diplômé de Purdue qui a obtenu un doctorat en informatique.

En testant leur approche, l’équipe de Glitch a découvert des réseaux neuronaux qui identifiaient mal les photographs dans les bases de données, depuis les radiographies pulmonaires et les séquences génétiques jusqu’aux vêtements. Dans un exemple, un réseau neuronal a étiqueté à plusieurs reprises à tort les photographs de voitures de los angeles base de données Imagenette comme étant des lecteurs de cassettes. los angeles raison? Les photographs ont été tirées de listes de ventes en ligne et comprenaient des étiquettes pour les équipements stéréo des voitures.

Les systèmes de reconnaissance d’photographs par réseaux neuronaux sont essentiellement des algorithmes qui traitent les données d’une manière qui imite le modèle de déclenchement pondéré des neurones lors de l’analyse et de l’identity des photographs. Le système est formé pour sa tâche – comme reconnaître un animal, un vêtement ou une tumeur – à l’aide d’un « ensemble d’entraînement » d’photographs qui comprend des données sur chaque pixel, des étiquettes et d’autres informations, ainsi que l’identité de l’symbol telle qu’elle est. classés dans une catégorie particulière.

À l’aide de l’ensemble de formation, le réseau apprend ou « extrait » les informations dont il a besoin pour faire correspondre les valeurs d’entrée à los angeles catégorie. Cette knowledge, une chaîne de nombres appelée vecteur incorporé, est utilisée pour calculer los angeles probabilité qu’une symbol appartienne à chacune des categories possibles. En général, l’identité correcte de l’symbol entre dans los angeles catégorie ayant los angeles probabilité los angeles plus élevée.

Mais les vecteurs et les probabilités impliqués ne sont pas liés au processus de prise de décision que les humains peuvent reconnaître. Introduisez 100 000 nombres représentant des données connues et le réseau produit un vecteur intégré de 128 nombres qui ne correspond pas aux caractéristiques physiques, bien qu’il permette au réseau de classer l’symbol.

En d’autres termes, vous ne pouvez pas ouvrir le capot sur les algorithmes d’un système de training et de suivi. Entre les valeurs d’entrée et l’identité attendue de l’symbol se trouve une « boîte noire » proverbiale de nombres qui ne peuvent pas être identifiés sur plusieurs couches.

“Le problème avec les réseaux de neurones est que nous ne pouvons pas voir l’intérieur de los angeles device pour comprendre remark elle prend des décisions. Alors remark pouvons-nous savoir si un réseau de neurones commet une erreur évidente ?” dit Glish.

Plutôt que d’essayer de retracer le chemin de décision d’une symbol distinctive sur un réseau, l’approche de Glitch permet de visualiser los angeles relation que l’ordinateur voit entre toutes les photographs de los angeles base de données entière. Considérez-le comme une vue complète de toutes les photographs organisées par un réseau de neurones.

L. a. relation entre les photographs (comme le réseau prédisant los angeles classification d’identité de chaque symbol dans los angeles base de données) dépend des vecteurs et des probabilités intégrées générées par le réseau. Pour améliorer los angeles précision de l’affichage et trouver les endroits où le réseau ne pouvait pas faire los angeles difference entre deux étiquettes différentes, l’équipe de Glitch a d’abord développé une méthode pour segmenter et chevaucher les étiquettes afin d’identifier les endroits où les photographs avaient une specialty probabilité d’appartenir à plusieurs étiquettes.

L’équipe hint ensuite les members of the family sur un graphique REB, un outil issu du domaine de l’analyse de données topologiques. Sur le graphique, chaque ensemble d’photographs que le réseau croit liées à un seul level est représenté. Les issues sont codés par couleur par word. Plus les issues sont proches, plus les groupes sont considérés comme similaires par le réseau, et los angeles plupart des régions du graphique affichent les groupes de issues dans une seule couleur.

Mais les groupes d’photographs ayant une specialty probabilité d’appartenir à plus d’une catégorie seront représentés par deux issues superposés de couleur différente. En un coup d’oeil, les zones où le réseau ne peut pas distinguer deux classifications apparaissent comme un groupe de issues d’une couleur, accompagné d’une dispersion de issues superposés dans los angeles seconde couleur. Un zoom avant sur les issues qui se chevauchent révélera une zone de confusion, comme l’symbol d’une voiture avec un panneau de voiture et un lecteur de cassettes.

“Ce que nous faisons, c’est prendre ces ensembles complexes d’informations provenant du réseau et donner aux gens une idée de los angeles façon dont le réseau voit les données à un niveau microscopique”, a déclaré Gleich. “L. a. carte REP représente les choses importantes, les grands groupes et leurs members of the family les uns avec les autres, ce qui permet de voir les erreurs.”