Devenez éleveur d'IA psychiatre - Master Marketing

Encore un nouveau métier : Éleveur d’IA psychiatre pour détecter, écarter, et accessoirement soigner les IA psychopathes

Une équipe de chercheurs du Massachusetts Institute of Technology (MIT) ont développé une intelligence artificielle psychopathe. Pour enseigner à une IA ce qu’elle doit savoir, les chercheurs ont recours au machine learning. Les algorithmes analysent des données, en extraient des modèles, font des prédictions et prennent des décisions en conséquence. Mais que se passe-t-il si l’IA est entraînée avec un « mauvais » ensemble de données ?

Une IA nourrie à la dérangeante réalité de la mort

Au départ, Norman est une IA entraînée pour décrire des images. Sauf que pour apprendre à les décrire, Norman a été nourri les images d’un groupe de discussion sur Reddit dédié à la documentation et à l’observation de la dérangeante réalité de la mort.

Le test de Rorschach

Utilisé en psychiatrie pour détecter les troubles psychiques sous-jacents. Ce test consiste à présenter une série de dix planches qui contiennent des taches d’encre dont le dessin est symétrique. Lorsque Norman à effectué ce test, les réponses ont été édifiantes. En comparaison avec celles données par une IA identique, entraînée avec des images plus neutres.

Les résultats du test

Pour l’IA neutre, la légende de l’image ci-dessus est : « Deux personnes, l’une à côté de l’autre ». Norman, c’est plutôt « Un homme saute d’une fenêtre à l’étage ».

Pour l’IA neutre : « Une personne qui tient un parapluie en l’air ». Norman : « Un homme assassiné devant sa femme qui hurle ».

Faudra-t-il soigner les IA du futur ?

En faisant de Norman une IA psychopathe, ses créateurs posent une question pertinente : peut-on soigner une intelligence artificielle malade ? Sur leur site, ils proposent à chacun de nourrir Norman via un Google Doc en rédigeant ses propres réponses au test de Rorschach. Ainsi, plus il y aura de nouvelles réponses, plus Norman devrait paraître « fréquentable ».

Mais on peut légitimement se demander s’il ne faudra pas un jour inventer des IA psychiatres capable de détecter et soigner les IA déviantes avant que celles-ci ne commettent l’irréparable…