Une intelligence artificielle capable de surveiller une foule sans enregistrer l’identité des personnes présentes, c’est ce qu’a mis au point le Centre suisse d’électronique et de microtechnique. Le CSEM entraine l’IA à oublier les paramètres biométriques.
Le Centre suisse d'électronique et de microtechnique (CSEM) à Neuchâtel entraîne une intelligence artificielle à surveiller la population, sans retenir de caractéristiques physiques ou biologiques. (Photo d'illustration libre de droits)
Apprendre à l’intelligence artificielle à oublier, c’est ce qu’a développé récemment le Centre suisse d’électronique et de microtechnique (CSEM) à Neuchâtel. Il s’agit d’une nouvelle méthode d’entrainement de l’IA qui lui permet d’assurer des tâches de surveillance de la population, tout en excluant les caractéristiques physiques ou biologiques permettant d’identifier une personne.
Par exemple, une intelligence artificielle qui doit apprendre à détecter la violence va être « nourrie » avec des données et notamment des vidéos. Si sur ces images défilent des hommes blancs âgés de 35 ans, l’IA pourrait considérer à tort ces caractéristiques comme faisant partie de la violence. Le modèle d’intelligence artificielle développé au CSEM permet de supprimer ces informations jugées non pertinentes pour la mission qui a été confiée à l’IA.
Nadim Maamari : « Les traits de violence sont plutôt les actions en train d'être faites. »
Autre exemple, le CSEM met au point actuellement un système qui permet de capter les battements de cœur d’une personne grâce à une caméra. Les employés du Centre suisse d’électronique et de microtechnique servent de cobaye pour le développement de cette application, soit une population avec notamment une tranche d’âge et une ethnicité bien définie. « Si on prend cette application médicale et qu’on veut la mettre en Afrique, par exemple, ça ne va pas fonctionner », explique Nadim Maamari, le responsable du département du système d’intelligence artificielle embarquée. Avec le modèle d’IA qui oublie les données biométriques, dont l’âge et l’ethnicité, cette application médicale pourrait fonctionner n’importe où.
« Avec le modèle qu’on est en train de faire, on fait oublier l’ethnicité et l’âge des gens. »
L’intelligence artificielle entrainée à oublier les paramètres biométriques des individus peut être déployée « en toute sécurité dans des secteurs comme la santé, la sécurité publique, la mobilité urbaine et l’électronique grand public », assure le CSEM.
Restent quand même des incertitudes concernant la capacité d’une IA à oublier des données biométriques. « C’est l’ingénieur qui est derrière le bureau qui a défini ce qui doit être oublié. Potentiellement, il y a d’autres données qui sont cachées dedans et dont on ne s’est pas rendu compte », concède Nadim Maamari.
« Quand on entraine un modèle, on ne sait pas dans les détails ce qu’il apprend et ce qu’il n’apprend pas. »
Pour le moment, le système développé par le CSEM ne sert pas encore sur le terrain. Le Centre suisse d’électronique et de microtechniques est à la recherche de personnes avec qui travailler pour le déployer. /cwi
Partager
