Même pas !
NIDéputé · Nord, 2e circonscription · Fonctionnaire de catégorie A · mandat terminé le 9 juin 2024
Même pas !
Je sais bien que c’est pénible de gérer des recours devant le Conseil d’État – il faut faire des mémoires en défense, etc.
Prévoir au moins la saisine du Conseil d’État par la Cnil n’a rien de génial, ce n’est pas la garantie la plus dingue, mais ce serait mieux que rien. Cela n’avait rien d’inacceptable.Quant à la CNCTR, si elle n’avait pas eu la possibilité de saisir le Conseil d’État, tout le dispositif aurait été inconstitutionnel parce que susceptible d’absolument aucun recours. Mais il faut tout de même s’en remettre à cet organisme censé voir tout passer pour qu’il se substitue aux gens qui ne peuvent pas faire de recours faute d’être au courant qu’ils sont surveillés. Le droit de saisine par la CNCTR était…
On sait bien que la Quadrature du net, par exemple, pourra faire des recours devant le Conseil d’État sur le fondement des avis de la Cnil auxquels vous n’aurez pas donné suite, mais il est tout de même pour le moins pénible qu’il faille attendre que quelqu’un fasse un recours alors que la mieux armée pour cela puisqu’elle aura analysé le système, ce serait la Cnil elle-même. Vous avez une fâcheuse tendance à vouloir des autorités administratives indépendantes qui n’aient guère, voire pas du tout de pouvoir et du reste les dernières nominations en leur sein peuvent laisser songeur, entre autre…
Ça, c’est sûr !
Autant il ne serait pas évident de sensibiliser un algorithme aux discriminations, autant procéder à une sensibilisation à la non-discrimination des gens chargés de le mettre en œuvre ou de procéder d’une manière ou d’une autre à des opérations de surveillance est plus pertinente et plus efficace. Nous avons fait la démonstration que le principal problème provient des biais introduits dans le fonctionnement de l’algorithme, notamment du fait des arbitrages humains. L’automatisation va accentuer les biais existants. Il serait donc utile que vous nous précisiez, monsieur le ministre, en quoi va …
Voilà donc ce qui a manqué au Stade de France lors de la finale de la Ligue des champions : la prise en compte des abords immédiats !
Si l’opérateur a tendance à se comporter de façon discriminatoire – en considérant les critères définis à l’article 225-1 du code pénal –, il en ira de même pour votre algorithme même si celui-ci se montre loyal et éthique vis-à-vis de l’opérateur qui décide de donner son feu vert ou au contraire de ne pas valider l’événement signalé.Comme l’a dit le collègue Guedj, les algorithmes reproduisent les biais déjà présents dans la société. Pour se prémunir des risques liés à ce phénomène, il faut faire du droit et rappeler nos principes noir sur blanc dans le texte et non se contenter d’employer de…
D’ailleurs, s’agissant du processus d’apprentissage – puisque je sais que vous prenez en considération l’opérateur humain –, lorsqu’un voyant clignotera parce que l’algorithme aura détecté un événement prédéterminé, l’opérateur procédera à une vérification, à une levée de doute soit en visionnant lui-même les images soit en envoyant des équipes sur place. Ensuite, si l’incident est réel, il le traitera, sinon il le clora. Cette décision – la validation ou non du problème – viendra alors enrichir l’algorithme en améliorant sa capacité à sélectionner les événements qu’il signalera à l’avenir à l…
Il me paraît insensé d’avancer l’argument selon lequel l’algorithme étant loyal, objectif et rationnel, il ne saurait être discriminatoire.
Monsieur le président de la commission des lois, certains critères rationnels et objectifs peuvent être discriminatoires.
…qu’on n’a pas suffisamment de recul pour apprécier tous les risques liés à l’exposition aux ondes millimétriques. N’allez pas lire ce que raconte l’Anses sur le sujet, car après, vous voudrez absolument passer par la file normale !
On nous explique qu’il faut une maintenance au cordeau, qu’une personne ne doit pas y passer trop de temps,…
…on aurait pu réaliser une expérimentation, dresser un bilan.Ce que dit l’Anses sur les portiques à ondes millimétriques n’est d’ailleurs pas forcément très rassurant.
Vous auriez pu proposer l’usage de ces scanners à titre expérimental, pour, justement, voir quels sont les effets sur les gens. Cela aurait permis de recueillir des données ;…
Visiblement, le marché n’est pas prêt !
Exactement ! Cela s’appelle de la biométrie !
Je suis également convaincu par la définition de la Cnil, qui considère que le simple fait d’identifier un comportement, même sans identifier la personne, relève déjà de la biométrie. D’ailleurs, les industriels qui commercialisent ce type de solutions techniques et technologiques affirment même qu’il serait possible d’identifier un individu portant, par exemple, un sweat à capuche – pardon d’y revenir – rouge, puis, à l’aide d’un bon algorithme, de le suivre et de retracer son parcours. Cela suppose bien qu’on identifie sa démarche corporelle ou ses vêtements par différents points ou occurren…
…mais il est ici question de la définition que vous entendez donner au mot « biométrie ». Ce point est important. Vous avez dit beaucoup de choses en commission. Pour avoir lu le document produit par La Quadrature du net – qui tient certes parfois des propos acerbes et peu sympathiques –, je dois admettre avoir été plutôt convaincu par son analyse.
Je comprends qu’on préfère me répondre sur les goélands ou sur les drones qui seraient utilisés par les manifestants – j’attends d’ailleurs que vous me transmettiez les références en question, monsieur le ministre, car je serais intéressé par le visionnage de ces images, qui sont visiblement diffusées sur les réseaux sociaux –,…
Vous avez tout à fait raison, madame la présidente.La question de la biométrie est intéressante, précisément parce que vous assurez que le texte soumis à notre examen ne prévoit nullement l’usage de la biométrie : il s’agit simplement de confier à un logiciel l’analyse de vecteurs, de lignes, de traits et de points. Il n’y aurait donc pas lieu de s’inquiéter : les visages des personnes ne seront pas analysés et le logiciel ne saura même pas dire s’ils ont des bras et des jambes, mais uniquement s’ils forment une foule – puisque certains paramétrages permettent apparemment de détecter une foule…
Tout cela est évidemment fort logique. Merci au président de la commission des lois pour cette brillante démonstration.Revenons-en à la biométrie…
Je serais même pour la répression du mouvement social, en effet ! Je serais ainsi favorable au recul à 64 ans de l’âge légal de départ à la retraite, donc en parfait accord avec le Gouvernement. La lumière a ainsi été faite sur mes intentions : je serai ministre de l’intérieur après le prochain remaniement d’Emmanuel Macron.
Nous en venons à la biométrie. Avant cela, je tiens à revenir sur le sophisme développé par le président de la commission des lois, qui m’a accusé d’être contre le mouvement social.
Après que des gens ont eu la main arrachée, des projections dans le visage, on a reconnu qu’en fait c’était un peu dangereux quand même. Il faut se méfier des données fournies par le constructeur ! (Exclamations sur les bancs du groupe RE.)Il y a donc là une vraie question, que l’Agence nationale de sécurité sanitaire de l’alimentation, de l’environnement et du travail (Anses) doit également examiner.Enfin, le coût des portiques explique-t-il que l’on paie les billets 1 500 ou 2 000 euros ?
Nous avons simplement formulé une proposition !
…et je continuerai de le faire de manière déterminée. Par ailleurs, je pense que, dans notre pays comme dans le reste du monde, on fait beaucoup trop de palpations, en règle générale.Par ailleurs, si ce sont les constructeurs eux-mêmes qui attestent de la rapidité du contrôle, ça me fait rigoler. Pour les grenades GLI-F4, par exemple, vous savez, les grenades lacrymogènes explosives qui ont été remplacées par les GM2L, le constructeur avait assuré qu’il n’y avait pas de danger.
Où est la ministre des sports, d’ailleurs ?
Non, il n’est pas intrusif. Vous pouvez penser que quelque chose qui ne vous touche pas physiquement est moins intrusif, mais ce n’est pas la seule perspective possible. Pour ma part, je juge très intrusif que l’on puisse, avec des technologies de boîte noire, prendre connaissance du contenu des correspondances numériques. Je trouve cela très intrusif, je le combats…
Comme cela, notre débat sera parfaitement éclairé et sincère.Nous n’avons jamais cru que les scanners millimétriques seraient obligatoires pour toute manifestation de plus de 300 personnes – vous seriez incapables de les déployer en nombre suffisant. Mais quand même, du coup, vous ouvrez la possibilité, pour un tout petit événement qui réunit 300 personnes, d’utiliser un portique à ondes millimétriques. Or votre argument principal, celui que vous mettez en avant, c’est la célérité. Quand il n’y a que 300 personnes, je crois que cela ne change pas grand-chose, du point de vue de la rapidité, de…