L’Union européenne a récemment prononcé l’interdiction des intelligences artificielles qui permettent de dénuder des personnes sans leur consentement. Une pratique dont les femmes sont aujourd’hui les principales victimes.
Cette décision découle notamment du scandale provoqué par Grok, l'outil d'IA développé par xAI. (Photo : AP Photo/Noah Berger)
L’Union européenne prend des mesures pour réguler l’utilisation abusive de l’intelligence artificielle. Le Parlement européen a approuvé la semaine dernière l'interdiction dans l'UE des services d'intelligence artificielle permettant de « dénuder » des personnes sans leur consentement. Une mesure défendue également par les Etats membres. La mesure a été intégrée à un texte adopté à une majorité écrasante (569 voix pour, et 45 contre), lors d'une séance plénière à Bruxelles. Selon un communiqué du Parlement, il s'agit d'interdire les systèmes de « nudification », qui « utilisent l'IA pour créer ou manipuler des images sexuellement explicites ou intimes et qui ressemblent à une personne réelle identifiable, sans le consentement de cette personne. » Pour Stéphane Koch, spécialiste des questions numériques, ce genre d’outil représente un danger en particulier pour les femmes. « Ces outils (n.d.l.r : de nudification) sont créés dans le but d’agresser des femmes. Ils ne servent à rien d’autre et peuvent avoir un impact traumatique important, explique le spécialiste. »
Les pays membres de l'UE ont également approuvé une mesure similaire ce mois-ci. Ils vont devoir maintenant négocier avec le Parlement pour s'entendre sur une formulation similaire, avant que la mesure puisse s'appliquer. Ces initiatives font suite notamment à l'introduction il y a quelques mois d'une fonctionnalité dans Grok, l'assistant d'intelligence artificielle d'Elon Musk, qui permettait aux utilisateurs de lui demander de créer des montages hyperréalistes (ou deepfakes) de femmes et d'enfants dénudées, à partir de photos réelles. Cette affaire a soulevé un tollé dans de nombreux pays et entraîné l'ouverture d'une enquête de l'UE.Stéphane Koch : « Ces outils sont plutôt créés dans le but d'agresser des femmes. »
Une étape importante aussi pour la prévention
Cette décision marque une étape importante dans le processus de régulation des intelligences artificielles et de la lutte contre le harcèlement numérique. Stéphane Koch, est catégorique, adopter un cadre légal est une étape indispensable pour mieux prévenir ce genre d’utilisation abusive. « La législation et la prévention sont indissociables », assure-t-il. Pour l’expert, il est indispensable d’avoir une base légale claire et interdire ces outils permet ensuite d’expliquer et de sensibiliser aux raisons qui ont conduit à cette décision. « Le cadre légal et les sanctions ne nous dédouanent pas de mettre ne place de la prévention. Et sans prévention, ces mesures ne sont pas suffisamment adéquates. »
« C'est une question centrale aujourd'hui en termes de prévention. »
Un univers essentiellement masculin en cause ?
Si ces IA permettent de s’en prendre aux femmes ainsi, c’est peut-être aussi parce qu’elles sont développées par des équipes essentiellement masculines. « On a peut-être une proportion de développeurs masculins suffisamment forte pour que ces limites ne soient pas conscientisées, et qu’on ne les considère pas comme fondamentalement importantes. Quand on n’est pas soumis à ces formes d’agressions, il est beaucoup plus facile de ne pas les prendre en compte. » C’est donc un changement de culture face à la manière d’appréhender notre relation au genre qui devrait se faire, selon Stéphane Koch. Le spécialiste indique également que ces outils permettant de dénuder des femmes ne fonctionnement pas avec les photos d'hommes
« Quand on n'est pas soumis à ce genre d'agression, il est facile de ne pas les prendre en compte. »
Deepfakes aux conséquences bien réelles
Si ces images dénudées ne sont que des fabrications, leurs conséquences, elles, sont bien réelles. Autant pour les victimes que pour les personnes qui les créent, explique Stéphane Koch. Actuellement le l’article 197a du Code pénal suisse stipule que tout enregistrement, image, vidéo, ou objet à caractère sexuel réalisé sans le consentement de la personne qui est identifiable est punissable de 1 à 3 ans de prison. « La loi existe, mais elle ne répare pas le traumatisme » explique Stéphane Koch. Pour le spécialiste, il est nécessaire d’agir en amont de la loi, car l’impact traumatique est bien réel. /tna-ats
Partager
