Des chercheurs du Massachusetts Institute of Technology ont créé la « première IA psychopathe au monde » après avoir exposé l’algorithme au côté obscur d’internet.
La première intelligence artificielle psychopathe a été créée après avoir été exposée au côté obscur d’internet.
Des chercheurs du Massachusetts Institute of Technology (MIT) ont travaillé sur un algorithme d’IA appelé Norman, d’après le personnage principal du film d’Alfred Hitchcock ‘Psychose’, et l’ont entraîné avec des images représentant la mort qui apparaissent sur le site Reddit.
Comme le révèlent les notes de projet, l’algorithme a ensuite passé le test psychologique de Rorschach et, là où une IA classique voit « un gant de baseball en noir et blanc », Norman voit un « homme assassiné par une mitrailleuse en plein jour ».
La recherche a noté que ce comportement pouvait s’expliquer par « les données biaisées » que l’IA a reçues, plutôt que par un résultat direct de la nature de son algorithme.
« Les données utilisées pour l’apprentissage machine d’un algorithme peuvent considérablement influencer son comportement, » ont-ils expliqué. « Lorsque des gens disent que les algorithmes d’IA peuvent être subjectifs et injustes, le coupable n’est généralement pas l’algorithme lui-même mais les données biaisées dont il s’est nourri. Norman représente une étude de cas sur les dangers de l’intelligence artificielle lorsque des données biaisées sont utilisées dans les algorithmes d’apprentissage machine. »
No Comment