M. Sylvain Maillard (RE). Et Marine Le Pen sera Première ministre, tant que nous y sommes !
M. Ugo Bernalicis (LFI-NUPES). Tout cela est évidemment fort logique. Merci au président de la commission des lois pour cette brillante démonstration.Revenons-en à la biométrie…
Mme la présidente (HOR). Je vous serais effectivement reconnaissante de vous en tenir à la défense de votre amendement, cher collègue.
M. Ugo Bernalicis (LFI-NUPES). Vous avez tout à fait raison, madame la présidente.La question de la biométrie est intéressante, précisément parce que vous assurez que le texte soumis à notre examen ne prévoit nullement l’usage de la biométrie : il s’agit simplement de confier à un logiciel l’analyse de vecteurs, de lignes, de traits et de points. Il n’y aurait donc pas lieu de s’inquiéter : les visages des personnes ne seront pas analysés et le logiciel ne saura même pas dire s’ils ont des bras et des jambes, mais uniquement s’ils forment une foule – puisque certains paramétrages permettent apparemment de détecter une foule dépourvue de bras ou de jambes. Cela me semble assez étrange, mais c’est la thèse que vous défendez.La réalité, c’est que les outils devront forcément être capables de détecter la présence de corps – ou plus précisément l’absence de corps s’il s’agit de détecter, par exemple, un colis inerte. Ils devront donc inévitablement collecter des données biométriques. Cela ne signifie pas que les personnes seront identifiées, ce qui supposerait de croiser les images avec des fichiers comme le traitement d’antécédents judiciaires (TAJ) ou le registre des cartes nationales d’identité (CNI), mais que les logiciels pourront les isoler et déterminer combien d’individus se trouvent à un endroit donné, ce qui permettra en retour aux forces de l’ordre de définir ce qu’est une foule – un attroupement de plus de huit ou dix personnes, par exemple, comme c’était le cas à l’époque du covid, même si le seuil retenu changeait d’une semaine à l’autre. Voilà l’enjeu : si l’on s’en tient à la vraie définition de la biométrie, ce que vous vous proposez de faire consiste bien à utiliser des techniques biométriques.
M. Ugo Bernalicis (LFI-NUPES). Je comprends qu’on préfère me répondre sur les goélands ou sur les drones qui seraient utilisés par les manifestants – j’attends d’ailleurs que vous me transmettiez les références en question, monsieur le ministre, car je serais intéressé par le visionnage de ces images, qui sont visiblement diffusées sur les réseaux sociaux –,…
M. Gérald Darmanin. C’est bien la première fois que vous n’utilisez pas votre téléphone dans l’hémicycle !
M. Ugo Bernalicis (LFI-NUPES). …mais il est ici question de la définition que vous entendez donner au mot « biométrie ». Ce point est important. Vous avez dit beaucoup de choses en commission. Pour avoir lu le document produit par La Quadrature du net – qui tient certes parfois des propos acerbes et peu sympathiques –, je dois admettre avoir été plutôt convaincu par son analyse.
M. Ugo Bernalicis (LFI-NUPES). Je suis également convaincu par la définition de la Cnil, qui considère que le simple fait d’identifier un comportement, même sans identifier la personne, relève déjà de la biométrie. D’ailleurs, les industriels qui commercialisent ce type de solutions techniques et technologiques affirment même qu’il serait possible d’identifier un individu portant, par exemple, un sweat à capuche – pardon d’y revenir – rouge, puis, à l’aide d’un bon algorithme, de le suivre et de retracer son parcours. Cela suppose bien qu’on identifie sa démarche corporelle ou ses vêtements par différents points ou occurrences, qui relèvent de la biométrie.C’est pourquoi nous estimons important d’interdire le recours à la biométrie dans le texte car cela vous empêcherait d’installer des systèmes de vidéosurveillance algorithmique ou automatisée – peu importe le terme retenu. Tel est bien notre objectif : nous sommes démasqués depuis maintenant plusieurs jours, je le crains.
M. Philippe Latombe (DEM). Reprenons la définition de la Cnil, du RGPD et du Comité européen de la protection des données (CEPD) : « La biométrie regroupe l’ensemble des techniques informatiques permettant de reconnaître automatiquement un individu à partir de ses caractéristiques physiques, biologiques, voire comportementales.
M. Philippe Latombe (DEM). « Les données biométriques sont des données à caractère personnel car elles permettent d’identifier une personne. » L’article 7 du texte exclut explicitement la biométrie, c’est-à-dire l’ensemble des techniques que vous venez de décrire. Par nature, votre demande est donc satisfaite.Cessez donc de prétendre que le fait de chercher à savoir si c’est bien une personne qui se tient à côté d’une valise revient à chercher à l’identifier : il s’agit simplement de savoir s’il s’agit d’un être humain, d’un goéland, d’une chèvre, d’un éléphant ou de n’importe quoi d’autre, voilà tout !
M. Ugo Bernalicis (LFI-NUPES). Exactement ! Cela s’appelle de la biométrie !
M. Philippe Latombe (DEM). Il n’est pas nécessaire de savoir qui est la personne, mais simplement s’il s’agit bien d’un être humain. Vous persistez à dire que, parce qu’on analyse deux points constituant un vecteur, on tombe forcément dans la biométrie, mais tel n’est pas le cas : revenez à la définition de la Cnil, du RGPD et du CEPD. Nous avons expressément exclu la biométrie de l’article 7, ce qui me fait dire – et je le répète, après l’avoir déjà affirmé solennellement hier – que cet article ne me pose pas de problème, pas plus qu’à la Cnil ou au Conseil d’État, et qu’il ne posera non plus aucun problème au Conseil constitutionnel.
M. Philippe Latombe (DEM). Il n’y a aucun débat à avoir sur cette question : l’article 7, je le répète, ne traite pas de biométrie. Si vous vouliez insérer de telles techniques dans le projet de loi, nous nous y opposerions. (Applaudissements sur quelques bancs du groupe Dem.)
Mme Sandra Regol (ECOLO). Ça a le goût et la couleur de la biométrie, mais ce n’est pas de la biométrie : voilà un concept intéressant !
M. Gérald Darmanin. La question importante que vous soulevez mérite, même si nous y avons répondu plusieurs fois, une réponse, ne serait-ce que pour que vous ne puissiez pas prétendre que nous l’éludons. Comme l’a très justement souligné M. Latombe, vous confondez les algorithmes, la biométrie, les pratiques de certains centres de supervision urbains municipaux et les activités qui seront permises si le texte soumis à votre examen devait être adopté. Si vous me le permettez, je m’efforcerai de vous répondre clairement – et, je l’espère, une fois pour toutes, même si nous resterons probablement en désaccord sur le fond.Premièrement, que prévoit le texte ? Il prévoit de repérer des situations prédéterminées, comme un départ de feu ou un mouvement de foule, que la loi ne qualifie nullement d’anormales ou de suspectes.S’agissant du recours à l’intelligence artificielle, tel qu’il est autorisé par le décret de la Cnil et permis par le préfet, l’utilisateur de la caméra de vidéoprotection peut exploiter les images pendant l’événement prédéfini – par exemple un dépôt de sac ou un départ de feu. En revanche, la loi ne permet pas – même si c’est possible techniquement – de faire ce que vous dites, c’est-à-dire de suivre quelqu’un a posteriori dès lors qu’on considère qu’une camionnette blanche, un scooter ou un passant vêtu d’un sweat à capuche a posé tel ou tel problème.La question que vous abordez, et qui porte sur la technologie appliquée à la sécurité, n’est en aucun cas l’objet du texte.Ensuite, vous citez le cas de collectivités locales qui ont recours à ce type de technologie. Il est tout à fait vrai que certaines d’entre elles disposent de logiciels permettant non pas de définir des événements prédéterminés – ce que j’ai évoqué à propos de ce projet de loi – mais de rechercher a posteriori, par exemple, une camionnette blanche qui circulait dans les rues de la ville entre deux et cinq heures du matin ou une personne vêtue d’un sweat à capuche rouge, aperçue entre deux et trois heures du matin et qui a commis un acte contraire à la légalité.Cependant, si ces possibilités existent, c’est toujours sur réquisition de la justice. En l’occurrence, le procureur de la République se tourne vers le centre de supervision urbain, prend une réquisition et demande aux opérateurs de chercher – pour reprendre mon dernier exemple – toutes les personnes vêtues d’une capuche rouge et aperçues entre deux et trois heures du matin et de lui transmettre les images.Je ne dis pas que ce débat est médiocre ni d’ailleurs qu’il faut avoir telle ou telle position à ce sujet. Toutefois ce n’est pas du tout l’objet du projet de loi. Nous inscrivons dans la loi la possibilité d’extraire d’un mur d’images des situations prédéterminées susceptibles de se produire dans le cadre de grands événements tels que les Jeux olympiques de Paris ou un festival d’envergure – un exemple que nous avions pris dans le cadre de l’expérimentation. En aucun cas nous ne permettons de rechercher a posteriori telle camionnette blanche qui aurait circulé dans les rues de Lons-le-Saunier ou de Vesoul. En revanche, que l’on dispose, dans ces deux villes – que je cite au hasard, je n’ai aucune information en la matière –, de logiciels d’intelligence artificielle validés par le procureur de la République et que celui-ci puisse demander aux opérateurs de retrouver les images, c’est un autre sujet qui n’a rien à voir avec ce texte mais qui concerne l’autorité judiciaire.Dans ce projet de loi, il est question de situations prédéterminées, d’événements d’envergure et de l’autorité du préfet alors que votre question nous conduit à un débat dans lequel entrent en jeu l’autorité judiciaire, les communes, les actes criminels et la résolution d’une enquête.Je tenais à apporter ces précisions pour la bonne compréhension de chacun car une certaine – voire grande – confusion semble s’être emparée de votre esprit. Je fais le pari que votre question relevait de la curiosité parlementaire – que je comprends d’ailleurs parfaitement car ce sont des questions importantes. Je pense y avoir répondu une fois pour toutes.
(L’amendement no 673 n’est pas adopté.)
Mme la présidente (HOR). La parole est à M. Paul Molac, pour soutenir l’amendement no 213.
M. Paul Molac (LIOT). J’ai bien suivi les débats de ce matin. Cet amendement de M. Acquaviva est un peu dans la même veine que les précédents puisqu’il vise à proscrire toute information de nature à permettre la reconnaissance automatique d’un individu du fait de ses caractéristiques physiques, biologiques ou comportementales.Cette mesure illustre, sinon une peur que de tels procédés soient utilisés afin de suivre la population – soit l’idée selon laquelle Big Brother observerait nos allées et venues –, du moins la volonté de faire preuve de vigilance en la matière.J’ai bien entendu les propos de M. le ministre et de M. Latombe. L’article 7 semble bien bordé. M. le président de la commission me répondra certainement que l’amendement est satisfait. Cependant, n’en étant pas le rédacteur, et conformément à mes principes, je ne peux le retirer.
M. Sacha Houlié (RE). J’aimerais compléter les propos du ministre – car si certains ne le croient pas, ils peuvent au moins croire la loi. L’alinéa 5 de l’article 7 indique : « Les traitements mentionnés au I du présent article n’utilisent aucun système d’identification biométrique, ne traitent aucune donnée biométrique et ne mettent en œuvre aucune technique de reconnaissance faciale. » Votre amendement étant satisfait, j’émets un avis défavorable.
Mme Sandra Regol (ECOLO). Nous aurons ce débat à de nombreuses reprises. Les conditions énoncées par notre collègue Molac pour caractériser les données biométriques exploitées ne sont pas forcément cumulatives.De fait, toutes les entreprises qui développent ces algorithmes nous expliquent qu’elles vont chercher les rapports vectoriels qui composent le corps dans son ensemble – c’est-à-dire tous les points qui forment le visage mais aussi les bras ou encore le torse – pour élaborer une solution.
Mme Sandra Regol (ECOLO). La finesse de la technique développée est même leur argument de vente numéro un. Dès lors, convenez que l’on peut nourrir quelques doutes.D’autres entreprises mettent en avant, non pas les rapports vectoriels, mais les comportements traités. Or, vous l’avez tous dit – y compris les défenseurs de l’article 7 –, les comportements sont une des données biométriques prises en compte.Quelle que soit la façon dont vous présentez le problème, ce sont donc bien des données à caractère biométrique qui seront traitées. C’est dangereux car, dans le dispositif que vous nous présentez, aucun moyen technique permettant d’éviter le traitement des visages n’est mentionné. Certes les visages seront peut-être floutés sur les images que verront les agents et celles-ci ne seront peut-être pas exploitées à l’instant T. Néanmoins, ces données seront traitées.
Mme Sandra Regol (ECOLO). L’intelligence artificielle ne traitera pas séparément les parties du corps, par exemple une main et un visage – elle n’en est pas capable. Or vous n’avez donné aucune réponse technique sur ce point. En revanche, les entreprises qui développent ces outils mettent en garde sur le fait que, pour nombre d’entre elles, le respect du RPGD laisse à désirer. Une de ces entreprises – française – a beau se vanter de ses bonnes pratiques en la matière, elle a les plus grandes difficultés à expliquer comment elle pourra empêcher le traitement les visages – et c’est bien normal puisqu’elle n’est pas en mesure de le faire.
(L’amendement no 213 n’est pas adopté.)
Mme la présidente (HOR). Je suis saisie de deux amendements identiques, nos 153 et 532.La parole est à M. Roger Vicot, pour soutenir l’amendement no 153.
M. Roger Vicot (SOC). Il vise à indiquer, après la première phrase de l’alinéa 5, toujours à propos des algorithmes – le sujet qui nous occupe ce matin – : « Ils ne peuvent induire aucune des formes de discrimination mentionnées à l’article 225-1 du code pénal. » C’est une précaution supplémentaire. Pour reprendre l’expression employée tout à l’heure par M. Balanant, ça ne mange pas de pain de l’inscrire dans la loi. J’ajouterai : cela va sans dire mais cela va mieux en le disant. Il nous semble même très important de l’écrire noir sur blanc même si l’on me répondra probablement que cela va de soi et que l’amendement est satisfait.
Mme la présidente (HOR). L’amendement no 532 de Mme Élisa Martin est défendu.Quel est l’avis de la commission sur ces amendements ?
M. Sacha Houlié (RE). Vous avez posé la question et donné la réponse, monsieur Vicot. Il est écrit dans l’alinéa 14 que « leur traitement doit être loyal et éthique, reposer sur des critères objectifs ». Ces derniers excluent toute forme de discrimination.
M. Jérôme Guedj (SOC). Il y a un peu plus de vingt ans – je le dis avec un peu de nostalgie –, je siégeais ici même en tant que commissaire du Gouvernement au moment où nous transposions pour la première fois les directives européennes relatives aux discriminations. Nous avions alors inscrit dans le code pénal les premiers critères de discrimination prohibés, lesquels sont aujourd’hui au nombre de vingt-cinq.Nous savons malheureusement que les intelligences artificielles – derrière lesquelles se trouvent toujours des humains – reproduisent de manière inconsciente le pire de l’intelligence humaine, notamment les stéréotypes, les clichés et parfois, par voie de conséquence, les discriminations. On peut d’ailleurs citer aujourd’hui de multiples exemples de dérapages, de la part d’intelligences artificielles, en matière de sexisme ou de racisme.Alors que l’on s’apprête à utiliser des IA algorithmiques, il faut avoir la certitude et la garantie que les humains qui vont prendre part à leur conception sont bien conscients des biais inhérents à de tels outils, notamment en matière de discriminations, telles que les prévoit le code pénal. Le débat ne se situe pas sur le terrain de la loyauté ou de l’éthique puisqu’il est question de sanctionner un délit reconnu par le code pénal.Comme notre collège Roger Vicot, je ne doute pas que cette intention soit bien présente dans le texte au nom de l’éthique. Cependant nous souhaitons qu’elle soit garantie au nom du droit. (M. Ugo Bernalicis et Mme Sandra Regol applaudissent.)
Mme la présidente (HOR). Sur les amendements identiques nos 153 et 532, je suis saisie par le groupe Socialistes et apparentés (membre de l’intergroupe NUPES) d’une demande de scrutin public.Le scrutin est annoncé dans l’enceinte de l’Assemblée nationale.La parole est à M. Ugo Bernalicis.
M. Ugo Bernalicis (LFI-NUPES). Monsieur le président de la commission des lois, certains critères rationnels et objectifs peuvent être discriminatoires.
M. Ugo Bernalicis (LFI-NUPES). Il me paraît insensé d’avancer l’argument selon lequel l’algorithme étant loyal, objectif et rationnel, il ne saurait être discriminatoire.
M. Sacha Houlié (RE). « Loyal et éthique » : encore une fois, vous êtes imprécis !
M. Ugo Bernalicis (LFI-NUPES). D’ailleurs, s’agissant du processus d’apprentissage – puisque je sais que vous prenez en considération l’opérateur humain –, lorsqu’un voyant clignotera parce que l’algorithme aura détecté un événement prédéterminé, l’opérateur procédera à une vérification, à une levée de doute soit en visionnant lui-même les images soit en envoyant des équipes sur place. Ensuite, si l’incident est réel, il le traitera, sinon il le clora. Cette décision – la validation ou non du problème – viendra alors enrichir l’algorithme en améliorant sa capacité à sélectionner les événements qu’il signalera à l’avenir à l’opérateur. Dès lors, si celui-ci a un biais discriminatoire, l’algorithme le reproduira pour favoriser les événements déjà validés.
M. Ugo Bernalicis (LFI-NUPES). Si l’opérateur a tendance à se comporter de façon discriminatoire – en considérant les critères définis à l’article 225-1 du code pénal –, il en ira de même pour votre algorithme même si celui-ci se montre loyal et éthique vis-à-vis de l’opérateur qui décide de donner son feu vert ou au contraire de ne pas valider l’événement signalé.Comme l’a dit le collègue Guedj, les algorithmes reproduisent les biais déjà présents dans la société. Pour se prémunir des risques liés à ce phénomène, il faut faire du droit et rappeler nos principes noir sur blanc dans le texte et non se contenter d’employer des mots comme « éthique » ou « loyal ».
Mme la présidente (HOR). Je mets aux voix les amendements identiques nos 153 et 532.
(Il est procédé au scrutin.)
Mme la présidente (HOR). Voici le résultat du scrutin : Nombre de votants 62 Nombre de suffrages exprimés 56 Majorité absolue 29 Pour l’adoption 10 Contre 46
(Les amendements identiques nos 153 et 532 ne sont pas adoptés.)
Mme la présidente (HOR). La parole est à M. Benjamin Lucas, pour soutenir l’amendement no 225.
M. Benjamin Lucas (ECOLO). La possibilité d’exploiter des images captées par vidéosurveillance algorithmique a posteriori est une autre atteinte aux droits des personnes. En effet, l’image de ces dernières ne sera plus seulement utilisée pour des raisons présumées de sécurité mais aussi pour l’apprentissage d’une intelligence artificielle à des fins commerciales. Il s’agit là d’une dérive inacceptable qui, sous prétexte de sécurité, place le profit avant les libertés individuelles.De plus, la conservation des images après leur utilisation en temps réel, dans un contexte de cybersécurité sous haute tension, expose les personnes et leur image à des fuites de données et à une utilisation ultérieure hors de tout encadrement légal.Monsieur le ministre, je rappelle – mais vous le savez sans doute aussi bien que nous – que 4 milliards de cyberattaques ont eu lieu pendant les Jeux olympiques de Tokyo en 2021.Par cet amendement de notre collègue Lisa Belluco, nous demandons l’interdiction de toute utilisation a posteriori d’images captées par la vidéosurveillance.
(L’amendement no 225, repoussé par la commission et le Gouvernement, n’est pas adopté.)
Mme la présidente (HOR). L’amendement no 152 de M. Roger Vicot est défendu.
(L’amendement no 152, repoussé par la commission et le Gouvernement, n’est pas adopté.)
Mme la présidente (HOR). L’amendement no 737 de M. le rapporteur de la commission des lois constitutionnelles, de la législation et de l’administration générale de la République est rédactionnel.
(L’amendement no 737, accepté par le Gouvernement, est adopté.)
Mme la présidente (HOR). La parole est à Mme Sandra Regol, pour soutenir l’amendement no 720.
Mme Sandra Regol (ECOLO). Il s’agit d’un amendement de notre excellent collègue Sébastien Peytavie.Le déploiement de la vidéosurveillance algorithmique qu’ambitionne le présent projet de loi laisse planer de sérieuses craintes sur les dérives sécuritaires – nous n’en finissons pas –, notamment à travers la définition légale des comportements anormaux et donc de l’anormalité. Amnesty International, entre autres, avertit des risques de biais discriminatoires dans l’analyse des données, en particulier de biais racistes, nous l’avons déjà largement expliqué. De plus, nous avons de sérieux doutes concernant cette technologie qui, parce qu’elle repose sur la détection de ces fameux événements anormaux, comporte également de sérieux biais concernant certaines personnes en situation de handicap, qui sont déjà une des populations les plus discriminées selon la Défenseure des droits ; elles le sont au quotidien dans un espace public pensé pour et par des personnes 100 % valides. Les personnes en situation de handicap peuvent en effet avoir une manière de se déplacer ou une gestuelle différente de ce que l’algorithme va considérer comme un comportement normal. Quels sont les fondements d’une norme édictée pour définir la façon de se mouvoir et de se comporter dans une société de libertés ? On pourrait assister à une incrimination de personnes en raison de leur couleur de peau ou de leur handicap, ou encore de leur façon de s’habiller pour l’unique motif qu’elles circulent dans la rue.En conséquence, et malgré toutes les prétendues précautions avancées – nous les avons bien entendues, monsieur le ministre –, ce projet de loi laisse planer un risque important de discrimination dans l’espace public. C’est intolérable dans la supposée patrie des droits humains. Ce texte offre un boulevard aux entreprises pour user et abuser de ces traitements algorithmiques. Certes, ils sont présentés comme neutres, mais la technologie n’est jamais neutre : elle est éminemment politique et plus encore le traitement des données. Nous demandons donc au minimum que les personnes qui manipulent ces technologies bénéficient d’une sensibilisation à la reconnaissance des biais discriminatoires.
M. Ugo Bernalicis (LFI-NUPES). Autant il ne serait pas évident de sensibiliser un algorithme aux discriminations, autant procéder à une sensibilisation à la non-discrimination des gens chargés de le mettre en œuvre ou de procéder d’une manière ou d’une autre à des opérations de surveillance est plus pertinente et plus efficace. Nous avons fait la démonstration que le principal problème provient des biais introduits dans le fonctionnement de l’algorithme, notamment du fait des arbitrages humains. L’automatisation va accentuer les biais existants. Il serait donc utile que vous nous précisiez, monsieur le ministre, en quoi va consister l’habilitation des opérateurs : s’agira-t-il seulement d’avoir un casier judiciaire vierge ou y aura-t-il des obligations en termes de formation préalable, notamment s’ils ne sont pas policiers ou gendarmes ?
Mme la présidente (HOR). La parole est à M. Paul Molac, pour soutenir l’amendement no 214.
M. Paul Molac (LIOT). Cet amendement vise à assurer que le recours aux caméras intelligentes ne pourra se faire qu’à titre complémentaire, aux côtés des autres méthodes de surveillance traditionnelles. Dans son avis sur le présent projet de loi, la Cnil a rappelé que ces traitements algorithmiques présentent, en mise en condition réelle, des taux d’erreur particulièrement importants. Elle juge ainsi le recours à ces technologies moins efficace en conditions opérationnelles qu’une détection humaine ou que les autres méthodes de contrôle conventionnelles. De ce fait, pour assurer le maintien de l’ordre public dans les manifestations concernées, il est essentiel que l’intelligence artificielle ne soit pas le seul outil déployé par l’État.
Mme la présidente (HOR). La parole est à M. Roger Vicot, pour soutenir l’amendement no 155.
M. Roger Vicot (SOC). J’ai bien entendu l’explication de M. le ministre sur le fait que la Cnil rendra son avis sur les algorithmes mais surtout sur les situations prédéterminées qui seront définies par le décret, et cet amendement conforte cette garantie en complétant l’alinéa 8 par les mots suivants : « à laquelle [la Cnil] l’intégralité du code du traitement aura été préalablement communiquée ». Car on ne sait pas à ce jour comment elle sera informée des situations prédéterminées. Nous souhaitons que le code du traitement lui soit transmis intégralement pour qu’elle puisse se prononcer en toute connaissance de cause sur le futur décret.
M. Sacha Houlié (RE). La Cnil exercera toutes ses missions, y compris celle de contrôle, en particulier du traitement des images. Elle n’a pas sollicité à ce stade la communication de l’algorithme. Par ailleurs, si certains d’entre vous peuvent avoir des doutes vis-à-vis du Gouvernement, vous ne pouvez pas en avoir vis-à-vis de la Cnil dont les travaux comme les avis sont impartiaux et font l’objet d’une légitime confiance de la part de tous les parlementaires. Je considère donc que l’amendement est satisfait et j’en demande le retrait.
Mme la présidente (HOR). La parole est à M. Roger Vicot, pour soutenir l’amendement no 156.
M. Roger Vicot (SOC). Cet amendement devait être défendu par Mme Untermaier, coutumière de ce genre de proposition dans un souci de transparence. En l’espèce, il conviendrait de prévoir que le Gouvernement puisse organiser une consultation publique sur internet dans le cadre de l’élaboration de son décret.
(L’amendement no 156, accepté par la commission et le Gouvernement, est adopté.)
Mme la présidente (HOR). La parole est à M. Jean-Claude Raux, pour soutenir l’amendement no 226.
M. Jean-Claude Raux (ECOLO). Selon un récent sondage de la fondation Panoptykon, 85 % des Français interrogés estiment important, voire très important, de pouvoir comprendre comment le modèle d’intelligence artificielle fonctionne lorsqu’il est utilisé par une entreprise privée ou par une institution et lorsque celui-ci sert à évaluer ou à prédire leur comportement. Il s’agit d’un intérêt légitime. Sinon, ce que nous gagnerions supposément en termes de sécurité, nous le perdrions en termes de libertés individuelles et de droit à la vie privée.Est-ce que gains et pertes s’équilibrent dans la rédaction actuelle ? On est en droit de se poser la question. Il pourrait être redouté une forme ou une autre de discrimination fondée sur des caractéristiques physiques ou sur des comportements considérés comme anormaux. En effet, la notion d’événements prédéterminés n’est pas précisée et encore moins la façon dont ils sont détectés par l’intelligence artificielle. Il apparaît donc nécessaire de préciser autant que possible les critères permettant la catégorisation des événements prédéterminés ainsi que le processus de l’apprentissage de l’algorithme.
(L’amendement no 226, repoussé par la commission et le Gouvernement, n’est pas adopté.)
Mme la présidente (HOR). La parole est à M. Roger Vicot, pour soutenir l’amendement no 157.
M. Roger Vicot (SOC). Sans illusion puisque la question a déjà été abordée en vain à plusieurs reprises, nous proposons dans cet amendement de repli de substituer aux mots : « les événements prédéterminés », les mots : « la nature des abandons de bagage », revenant ainsi à notre proposition de réécriture de l’article 7 en limitant le nombre de situations dites anormales à ce seul cas.
(L’amendement no 157, repoussé par la commission et le Gouvernement, n’est pas adopté.)
Mme la présidente (HOR). La parole est à M. Jérémie Iordanoff, pour soutenir l’amendement no 608.
M. Jérémie Iordanoff (ECOLO). Cet amendement vise à doter la Cnil d’un pouvoir de saisine du Conseil d’État dans le cas où son avis ne serait pas suivi, à défaut de prévoir un avis conforme. Ce mécanisme existe déjà pour la Commission nationale de contrôle des techniques de renseignement (CNCTR) et ce serait donc la moindre des protections que de l’étendre à la Cnil face aux risques que comporte cette technologie. Le texte prévoit un avis simple, mais c’est insuffisant car cette procédure n’est pas adaptée aux risques que fait peser la vidéosurveillance algorithmique sur les libertés.À défaut de pouvoir interdire le déploiement de cette technologie, nous devons prévoir des garde-fous institutionnels. La Cnil aurait pu jouer ce rôle en étant plus étroitement associée au pouvoir d’autorisation du traitement algorithmique. J’avais d’ailleurs déposé un amendement en ce sens, mais cette proposition a été écartée du débat parlementaire au motif qu’elle porterait atteinte à la séparation des pouvoirs. Permettez-moi de m’interroger sur ce point en rappelant que l’une des missions premières du Parlement est d’encadrer l’exercice du pouvoir réglementaire. Considérer que toute contrainte fixée par le Parlement est une injonction faite au Gouvernement traduit une conception réductrice du droit d’amendement. Je crois qu’on a manifestement un problème avec le droit d’amendement dans cette assemblée…
M. Gérald Darmanin. L’exemple que vous citez me permet de renverser votre argumentation pour émettre un avis défavorable sur votre amendement. En effet, si la Commission nationale de contrôle des techniques de renseignement peut saisir directement le Conseil d’État, c’est parce que cette autorité administrative indépendante a à connaître d’actes que l’intéressé ignore. Quand le ministère de l’intérieur met sous géolocalisation ou sur écoute telle personne, celle-ci ne le sait évidemment pas et ne peut donc former de recours. Si le CNCTR considère que la décision du ministère n’est pas conforme à l’esprit de la loi et donc au droit administratif, elle peut saisir le Conseil d’État au titre de la garantie des droits de la personne concernée, mais elle seule peut le faire.Or ce n’est pas le cas de ce que nous évoquons ici puisque la Cnil a à connaître des informations que tout le monde connaît et qu’elle publie un avis que tout le monde peut consulter – les parlementaires le font d’ailleurs régulièrement –, association ou citoyen s’estimant lésé pouvant saisir directement la juridiction administrative. Le projet de loi garantit la saisine du Conseil d’État que la publication de l’avis de la Cnil peut fonder.
M. Ugo Bernalicis (LFI-NUPES). On sait bien que la Quadrature du net, par exemple, pourra faire des recours devant le Conseil d’État sur le fondement des avis de la Cnil auxquels vous n’aurez pas donné suite, mais il est tout de même pour le moins pénible qu’il faille attendre que quelqu’un fasse un recours alors que la mieux armée pour cela puisqu’elle aura analysé le système, ce serait la Cnil elle-même. Vous avez une fâcheuse tendance à vouloir des autorités administratives indépendantes qui n’aient guère, voire pas du tout de pouvoir et du reste les dernières nominations en leur sein peuvent laisser songeur, entre autres les nominations au Conseil constitutionnel, parce que c’est le fait du prince et que celui-ci ne voit pas toujours juste.
M. Ugo Bernalicis (LFI-NUPES). Prévoir au moins la saisine du Conseil d’État par la Cnil n’a rien de génial, ce n’est pas la garantie la plus dingue, mais ce serait mieux que rien. Cela n’avait rien d’inacceptable.Quant à la CNCTR, si elle n’avait pas eu la possibilité de saisir le Conseil d’État, tout le dispositif aurait été inconstitutionnel parce que susceptible d’absolument aucun recours. Mais il faut tout de même s’en remettre à cet organisme censé voir tout passer pour qu’il se substitue aux gens qui ne peuvent pas faire de recours faute d’être au courant qu’ils sont surveillés. Le droit de saisine par la CNCTR était donc, je le répète, une nécessité pour que le dispositif ne s’effondre pas juridiquement.On voit bien que vous ne voulez pas prévoir trop de garanties.
M. Sacha Houlié (RE). Et les vingt-huit garanties mentionnées par le ministre, qu’en faites-vous ?
M. Ugo Bernalicis (LFI-NUPES). Je sais bien que c’est pénible de gérer des recours devant le Conseil d’État – il faut faire des mémoires en défense, etc.
M. Gérald Darmanin. Je ne vais pas relire les vingt-huit garanties, rassurez-vous, madame la présidente, parce que je ne veux pas allonger les débats. Mais c’est un moment important et je comprends l’esprit dans lequel M. Iordanoff soulève la question. Mais je ne peux pas, monsieur Bernalicis, vous entendre sans réagir et je vais vous relire un extrait du considérant no 26 de l’avis du Conseil d’État, ce qui devrait convaincre M. Iordanoff : « L’intervention de la Cnil comme autorité de contrôle, aussi bien au stade de l’autorisation du déploiement du traitement que durant sa mise en ?uvre et son évaluation, assure une supervision constante de l’expérimentation de nature à prévenir les risques susceptibles d’être rencontrés. »Le fait que chaque citoyen ou chaque association peut saisir directement le Conseil d’État ainsi que l’extrait de l’avis que je viens de citer donnent toutes les garanties possibles.
(L’amendement no 608 n’est pas adopté.)
Mme la présidente (HOR). Je suis saisie de trois amendements, nos 215, 158 et 216, pouvant être soumis à une discussion commune.La parole est à M. Stéphane Lenormand, pour soutenir l’amendement no 215.
M. Stéphane Lenormand (LIOT). Cet amendement de notre collègue Naegelen vise à garantir la protection des intérêts de l’État et des citoyens dans le développement de l’intelligence artificielle en France. La surveillance intelligente pose des questions de souveraineté et de sécurité essentielles qu’il n’est pas possible de négliger, y compris dans le cadre d’une expérimentation. Il est donc impératif que le développement de l’intelligence artificielle, sa gestion, son fonctionnement et sa propriété demeurent dans les mains de l’État. Le développement de tels dispositifs algorithmiques doit donc être assuré soit directement par l’État, en interne, soit par un établissement public, une entreprise publique ou une entreprise privée aux capitaux 100 % publics. Face aux enjeux actuels et à la sensibilité des données traitées, toute délégation à une entreprise privée, notamment étrangère, n’est pas envisageable.
Mme la présidente (HOR). La parole est à M. Roger Vicot, pour soutenir l’amendement no 158.
M. Roger Vicot (SOC). C’est un amendement qui nous semble très important ; nous sommes au cœur de technologies extrêmement sensibles, dont nous discutons déjà depuis plusieurs heures. Par cet amendement de repli, nous proposons d’imposer à l’État le développement du traitement algorithmique afin qu’il ne soit pas sous-traité à une entreprise privée. Dans ce contexte, il est essentiel que l’État maîtrise totalement ces technologies – c’est la garantie que les choses se feront au mieux.
M. Stéphane Lenormand (LIOT). Faute de voir l’intelligence artificielle développée directement en interne par l’État, cet amendement de repli vise à s’assurer que le prestataire privé chargé de son développement ou auprès duquel l’État pourra acquérir le dispositif sera nécessairement situé en France ou sur le territoire d’un pays membre de l’Union européenne.
Mme la présidente (HOR). Quel est l’avis de la commission sur cette série d’amendements ?
M. Sacha Houlié (RE). Je tiens à le rappeler, c’est bien l’État qui pilotera l’ensemble du processus et qui délivrera les attestations de conformité préalables à l’emploi des traitements. Il y a un non-dit derrière ces amendements : l’État a-t-il lui-même les moyens de développer ces traitements algorithmiques ? La réponse est non car cela demande précisément une compétence technique que seuls nos services de renseignement peuvent avoir.
M. Sacha Houlié (RE). Et encore, je ne suis pas sûr qu’ils puissent le faire, en dépit de toutes leurs qualités.Dans ces circonstances, vos amendements auraient pour effet d’empêcher le traitement algorithmique de la vidéoprotection ; c’est bien ce que vous recherchez depuis le départ par toute une série d’amendements. C’est l’une des raisons pour lesquelles, en dépit de toutes les garanties que nous vous avons présentées – notamment le rôle de la Cnil et les vingt-huit obligations énumérées hier assez longuement par le ministre de l’intérieur –, vous ne souhaitez pas qu’un tel traitement algorithmique soit mis en place ; c’est une différence de fond entre nous. Nous ne pouvons donc pas accepter vos amendements car ils reviendraient in fine à supprimer l’article 7.
(Les amendements nos 215, 158 et 216, successivement mis aux voix, ne sont pas adoptés.)
Mme la présidente (HOR). Sur les amendements nos 757 et 509, je suis saisie par le groupe Rassemblement national d’une demande de scrutin public.Le scrutin est annoncé dans l’enceinte de l’Assemblée nationale.La parole est à M. Ugo Bernalicis, pour soutenir l’amendement no 616.
M. Ugo Bernalicis (LFI-NUPES). Il s’agit surtout d’un amendement d’appel. Il aurait fallu que nous le rédigions plus en détail pour afficher clairement nos intentions, mais voici la question que nous posons : qui seront les opérateurs qui assureront cette vidéosurveillance algorithmique ? Pour notre part, nous préférons que ce soient des opérateurs français. De fait, dans la plupart des cas, ce seront des opérateurs français, la France étant un fleuron en ce domaine – il semble qu’elle veuille se servir des Jeux olympiques pour ensuite vendre ses solutions à l’étranger. Au moins, si ce sont des entreprises françaises qui déconnent, nous les avons ici sous la main ; en cas de poursuites, la justice pourra connaître leur adresse et saura où trouver les responsables. Pour une entreprise qui se trouve à l’autre bout du monde, les choses sont plus compliquées, notamment en termes de coopération judiciaire internationale.Nous ne souhaitons pas que ce dispositif finisse entre de mauvaises mains, même si je n’ai pas non plus une confiance totale dans les entreprises françaises et leur capacité à ne pas faire d’évasion fiscale ou à revendre certaines données. Bref, je souhaitais vous interpeller sur les questions de souveraineté qui se posent à travers la vidéosurveillance algorithmique. Nous voulons simplement que les solutions autoritaires de demain soient estampillées « françaises ».
M. Sacha Houlié (RE). Cela pose un nouveau problème de droit, ainsi que le précise ma fiche de banc. Votre amendement, monsieur Bernalicis, est inconventionnel, c’est-à-dire contraire à tous les traités européens, notamment sur la question de la préférence nationale. Tout à l’heure, nous avons vu que vous étiez pour la répression du mouvement social lorsque nous avons discuté de l’utilisation de caméras par des manifestants eux-mêmes ; nous apprenons désormais que vous êtes pour la préférence nationale ! (Rires sur plusieurs bancs du groupe RN.)
M. Sacha Houlié (RE). C’est exactement le sens de votre amendement. En ce qui me concerne, j’y suis fondamentalement opposé et c’est pourquoi j’émets un avis défavorable.
Mme la présidente (HOR). Sur le sous-amendement no 789, je suis saisie par le groupe Renaissance d’une demande de scrutin public.Le scrutin est annoncé dans l’enceinte de l’Assemblée nationale.La parole est à M. Aurélien Lopez-Liguori, pour soutenir l’amendement no 757.
M. Aurélien Lopez-Liguori (RN). C’est un amendement de bon sens que nous vous proposons ici. Je ne vous le présente pas en tant que député du groupe Rassemblement national mais d’abord en tant que citoyen soucieux de l’indépendance numérique de la France et ensuite en tant que président du groupe d’études économie, sécurité et souveraineté numériques. Il s’agit d’un amendement transpartisan cosigné par les députés de trois groupes politiques différents – Philippe Latombe, Christophe Naegelen, Émeric Salmon et moi-même –, car la souveraineté numérique dépasse les clivages. Malheureusement, la souveraineté numérique est quelque peu absente de l’article 7, celui-ci ne faisant pas mention du pays d’établissement de l’entreprise qui pourra répondre à l’appel d’offres pour l’exploitation du système de vidéosurveillance algorithmique. Il n’y a pas de garanties que cette entreprise qui traitera des données précieuses et stratégiques pour la sécurité nationale sera au moins européenne. Disons-le clairement : il n’y a pas non plus d’assurances que cette entreprise sera un partenaire de confiance pour l’État français. Notre amendement vise dès lors à colmater les brèches de cet article.Le référentiel SecNumCloud que nous citons a pour dessein de nous protéger de législations extraeuropéennes auxquelles pourraient être soumises les entreprises qui répondront à l’appel d’offres. Ce référentiel a l’avantage d’être déjà pleinement intégré à notre droit et d’être conforme au droit européen ainsi qu’au droit de la concurrence. Oui, la commande publique doit être un outil de reconquête de notre souveraineté numérique ! Placer la sécurité dans les mains d’une entreprise extraeuropéenne, c’est accepter potentiellement un risque d’espionnage, de sabotage ou de pillage de nos données. Nous avons choisi de dépasser nos chapelles politiques car nous avons un choix important de sécurité à faire pour nos concitoyens. Tel est le sens de cet amendement transpartisan. Je tiens à préciser que le sous-amendement no 789 de notre excellent collègue Bothorel est issu du même groupe d’études et qu’il a été cosigné par plusieurs députés des groupes Démocrate, Renaissance, Horizons et apparentés et Rassemblement national. (Applaudissements sur les bancs du groupe RN.)
Mme la présidente (HOR). La parole est à M. Éric Bothorel, pour soutenir le sous-amendement no 789.
M. Éric Bothorel (RE). Je ne serai pas long. Nous sommes à un endroit du texte qui nous amène à discuter du cadre expérimental d’une innovation technologique. Reconnaissons-le, dans notre pays, nous avons souvent regardé ces technologies d’un œil dédaigneux, nous avons attendu qu’elles soient matures avant de les acheter aux Américains et aux Chinois. Avec l’amendement no 757 et ce sous-amendement, nous assumons une responsabilité presque unanimement partagée sur ces bancs, celle d’orienter cette innovation en faveur des entreprises françaises ou européennes. Nous ne pouvons pas tenir des discours de souveraineté ou d’autonomie stratégique à longueur de temps et ne pas prendre nos responsabilités : il n’est pas question que des technologies émergentes ne puissent pas être fournies par des entreprises françaises ou européennes, d’autant que nous allons probablement nous en saisir demain, une fois que les cadres expérimentaux auront permis de s’assurer de leur compatibilité avec un certain nombre de nos valeurs fondamentales.
M. Sacha Houlié (RE). La commission avait initialement émis un avis défavorable, considérant que le référentiel n’avait pas de base légale et qu’il ne revenait pas à notre assemblée de lui en donner une. En revanche, j’ai entendu l’argument sur la conventionnalité du dispositif et l’intérêt de bénéficier de la protection des sociétés européennes. C’est la raison pour laquelle, à titre personnel, je m’en remets à la sagesse de l’Assemblée sur l’amendement comme sur le sous-amendement.
M. Philippe Latombe (DEM). Je tenais simplement à confirmer que le groupe Démocrate votera l’amendement et le sous-amendement. Très clairement, il s’agit de nous préserver d’un certain nombre de législations extraterritoriales, qu’elles soient américaine, chinoise, israélienne ou autre. Nous devons vraiment être sûrs que l’ensemble des logiciels de surveillance algorithmique respectent nos règles de droit françaises et européennes. C’est en ce sens que je me félicite du caractère transpartisan de cet amendement.
M. Jérémie Iordanoff (ECOLO). Pour commencer, la meilleure des garanties pour la souveraineté, c’est qu’il n’y ait pas de surveillance algorithmique du tout. (Applaudissements sur les bancs des groupes Écolo-NUPES et LFI-NUPES.)
M. Jérémie Iordanoff (ECOLO). Je veux aussi vous faire part de mon émotion : c’est la première fois, me semble-t-il, qu’un amendement transpartisan est présenté dans cette assemblée par des membres des groupes de la majorité et des membres du groupe Rassemblement national. (« Oh ! » sur les bancs du groupe RN et sur plusieurs bancs du groupe RE.)
M. Ugo Bernalicis (LFI-NUPES). C’est l’extrême droite qui sera pour toujours marquée du sectarisme !
M. Jérémie Iordanoff (ECOLO). N’avez-vous pas honte, monsieur Latombe ? (Exclamations sur les bancs du groupe Dem.) Depuis le début, vous nous dites qu’il faut discuter avec tout le monde, avec les députés Les Républicains, entre autres. Mais force est de constater que vous n’acceptez aucun de nos amendements,…
M. Jérémie Iordanoff (ECOLO). …vous ne discutez avec nous sur rien. Et voilà que vous allez coconstruire avec le Rassemblement national ! (Exclamations sur les bancs des groupes Dem et RE.)
M. Jérémie Iordanoff (ECOLO). Je pense que nous assistons ici à une dérive de cette majorité, qui ne sait plus où elle va ; cela m’inquiète pour la suite de ce mandat. Mes chers collègues, ressaisissez-vous, c’est scandaleux ! (Applaudissements sur les bancs du groupe Écolo-NUPES. – Exclamations sur les bancs des groupes Dem et RE, ainsi que sur quelques bancs du groupe RN.)
M. Laurent Croizier (DEM). Commencez par vous regarder dans la glace avant de donner des leçons ! (Mme Sandra Regol proteste.)
Mme la présidente (HOR). S’il vous plaît, chers collègues ! Dans le calme, nous allons procéder au scrutin. (Nouvelles exclamations sur les bancs du groupe Dem.)
M. Erwan Balanant (DEM). Je demande la parole, madame la présidente !
Mme la présidente (HOR). Il y a déjà eu deux prises de parole, monsieur Balanant.Je mets donc aux voix le sous-amendement no 789.
(Il est procédé au scrutin.)
Mme la présidente (HOR). Voici le résultat du scrutin : Nombre de votants 52 Nombre de suffrages exprimés 51 Majorité absolue 26 Pour l’adoption 47 Contre 4
(Le sous-amendement no 789 est adopté.)
Mme la présidente (HOR). Je mets aux voix l’amendement no 757, sous-amendé.
(Il est procédé au scrutin.)
Mme la présidente (HOR). Voici le résultat du scrutin : Nombre de votants 52 Nombre de suffrages exprimés 52 Majorité absolue 27 Pour l’adoption 45 Contre 7
(L’amendement no 757, sous-amendé, est adopté.) (« Bravo ! » et applaudissements sur les bancs du groupe RN.)
Mme la présidente (HOR). L’amendement no 1 de M. Christophe Naegelen est défendu.
(L’amendement no 1, repoussé par la commission et le Gouvernement, n’est pas adopté.)
Mme la présidente (HOR). La parole est à M. Jordan Guitton, pour soutenir l’amendement no 509. Je rappelle que celui-ci fera l’objet d’un scrutin public, demandé par le groupe Rassemblement national.
M. Jordan Guitton (RN). Le traitement des données captées par les caméras algorithmiques est un sujet sensible. Les données à caractère personnel ainsi collectées doivent être protégées au maximum. Grâce à l’adoption de l’amendement transpartisan no 757, nous avons fait un pas dans cette direction. Par le présent amendement, je propose en sus que l’État s’engage à mettre en œuvre une politique d’achat responsable et orientée vers une entreprise française, ou à tout le moins européenne, lors de l’acquisition du traitement ou du choix du tiers à qui il confie son développement.Je tiens à préciser que cet amendement reprend les termes dans lesquels est formulé, dans le rapport annexé à la loi d’orientation et de programmation du ministère de l’intérieur, l’un des objectifs de la politique d’achat du ministère. Vous vous êtes référé hier à la Lopmi, monsieur le ministre. J’espère donc que vous donnerez un avis favorable à cet amendement, qui est conforme à l’une de ses orientations. Il faut permettre au moins à l’Europe, au mieux à la France, de protéger elle-même ces données face à toutes les menaces qui peuvent exister à l’échelle mondiale. (Applaudissements sur quelques bancs du groupe RN.)
M. Ugo Bernalicis (LFI-NUPES). Qui a la paternité ou la maternité de cet amendement ? C’est la voix de Marine Le Pen !
Mme la présidente (HOR). Voici le résultat du scrutin : Nombre de votants 56 Nombre de suffrages exprimés 55 Majorité absolue 28 Pour l’adoption 15 Contre 40
Mme la présidente (HOR). La parole est à M. Benjamin Lucas, pour un rappel au règlement.
M. Benjamin Lucas (ECOLO). Sur le fondement de l’article 100, madame la présidente. Il y a quelques instants, nous avons assisté à un événement que l’on pourrait qualifier de point de bascule dans l’histoire de cet hémicycle et de notre République. Un amendement a été cosigné, de façon transpartisane, par la minorité présidentielle et l’extrême droite. (Mme la présidente coupe le micro de l’orateur.)
Mme la présidente (HOR). Ce n’est pas un rappel au règlement, monsieur Lucas.
M. Benjamin Lucas (ECOLO). Cela devrait vous indigner autant que nous ! Main dans la main, c’est une honte ! (Exclamations sur les bancs du groupe RE.)
Mme la présidente (HOR). Monsieur Lucas, monsieur Minot, chers collègues, un peu de calme, s’il vous plaît, et un peu de silence. Jusque-là, nous avancions à une allure très correcte. Reprenons l’examen…
M. Benjamin Lucas (ECOLO). Jusque-là, il n’y avait pas d’alliance avec l’extrême droite et là, vous cosignez des amendements !
M. Erwan Balanant (DEM). C’est un groupe d’études ! Dans ce cas, tu sors de tous les groupes d’études…
Mme la présidente (HOR). Monsieur Lucas, nous n’allons pas faire la liste de ceux qui ont voté avec les uns ou avec les autres. Nous n’allons pas nous en sortir !La parole est à M. Erwan Balanant, pour un rappel au règlement.
M. Erwan Balanant (DEM). Sur le même fondement que M. Lucas. Je peux comprendre l’émoi…
M. Erwan Balanant (DEM). Ainsi, monsieur Iordanoff, nous allons travailler ensemble sur l’évaluation climatique des lois. Si les groupes d’études permettent d’avancer sur des sujets, je crois que…
M. Benjamin Lucas (ECOLO). Cela n’a rien à voir ! Là, on parle de cosigner un amendement ! (M. Éric Bothorel proteste.) Grâce à qui tu es là, toi ?
Mme la présidente (HOR). Cela suffit ! Il n’y a pas d’interpellations dans cet hémicycle, monsieur Lucas ! Il faut vous calmer, sinon je vais passer aux sanctions !
Mme Sandra Regol (ECOLO). La politique, c’est aussi le fond, madame !
Mme Anne Le Hénanff (HOR). Le texte exige des sociétés qui répondraient au marché public d’être en mesure de fournir l’ensemble des données collectées et utilisées lors des traitements expérimentaux. Or nombre de sociétés ne sont pas capables de fournir ces données, car ces dernières n’ont pas été conservées – généralement, il s’agit d’informations collectées au cours de nombreuses années de recherche et développement.L’amendement vise donc à assouplir les critères exigés dans le cadre de ce marché public en supprimant la condition de recueil des données utilisées par les sociétés pendant ces années de recherche et développement. Une telle suppression ne contrevient pas aux directives de la Cnil et du Conseil constitutionnel. Au contraire, elle bénéficiera au marché public en augmentant les chances que des sociétés françaises et européennes y répondent. Le rapport d’expérimentation publié six mois après les Jeux olympiques permettra de tirer tous les enseignements, et de supprimer d’éventuels biais.
(L’amendement no 300, accepté par la commission et le Gouvernement, est adopté.)
Mme la présidente (HOR). La parole est à M. Philippe Latombe, pour soutenir l’amendement no 398.
M. Philippe Latombe (DEM). Il s’agit d’un amendement d’appel et de clarification. En l’état de sa rédaction, s’agissant du contrôle des algorithmes, l’article impose une obligation de résultat à l’État. Je souhaiterais que le ministre le confirme, ce qui serait plus protecteur. Dans ce cas, je retirerai l’amendement.
M. Gérald Darmanin. Sans vouloir contrarier M. le président de la commission des lois (Sourires), je suis tenté de m’en remettre à la sagesse de votre assemblée. Mais je peux également vous rassurer, monsieur le député, il s’agit d’une obligation de moyens, et non de résultat. Cela pourrait éventuellement être précisé lors de la commission mixte paritaire (CMP). Dans l’attente, vous pourriez sans doute retirer votre amendement.
M. Philippe Latombe (DEM). Effectivement, nous clarifierons, le cas échéant, lors de la CMP. L’obligation de résultat nous convient bien.
(L’amendement no 398 est retiré.)
Mme la présidente (HOR). La parole est à M. Léo Walter, pour soutenir l’amendement no 618.
M. Léo Walter (LFI-NUPES). Cet amendement vise à insérer, après l’alinéa 14, un alinéa prévoyant que « les bases de données collectées à cette occasion ne peuvent être ensuite revendues à des opérateurs privés ». Cela ne vous aura pas échappé, nous sommes inquiets de la mise en place de la vidéosurveillance algorithmique.Nous plaidons à tout le moins pour que cela ne devienne pas un terrain de profits pour les opérateurs de sécurité privée souhaitant acquérir les données collectées afin d’améliorer leurs propres systèmes. Cette fête populaire ne saurait servir à enrichir des sociétés de surveillance et ses participants, français et étrangers, servir de cobayes à des expérimentations attentatoires aux libertés et droits fondamentaux.
M. Ugo Bernalicis (LFI-NUPES). Je partage l’analyse de mon collègue : les gens vont servir de cobayes pour améliorer l’algorithme et, en plus, ils ne seront même pas indemnisés. Ils vont être filmés sans l’avoir voulu et vont enrichir des entreprises sans que leur démarche ou leur « comportement de foule » soit rétribué. C’est vraiment lamentable…
(L’amendement no 618 n’est pas adopté.)
M. Ugo Bernalicis (LFI-NUPES). Un algorithme n’aurait jamais laissé passer ça !
Mme la présidente (HOR). La parole est à M. Léo Walter, pour soutenir l’amendement no 538.
M. Léo Walter (LFI-NUPES). Cet amendement de repli vise à insérer le mot « discriminatoires » après le mot « biais » à l’alinéa 16. Nous souhaitons renforcer le contrôle humain dans le traitement de la vidéosurveillance afin d’éviter les biais, et tout particulièrement les biais discriminatoires.
M. Antoine Léaument (LFI-NUPES). Madame la présidente, c’est une question de politesse.
Mme la présidente (HOR). Monsieur Léaument, je vous souhaite également la bienvenue, mais, s’il vous plaît, revenons-en au débat.
M. Antoine Léaument (LFI-NUPES). Bonjour, madame la présidente. C’est de la courtoisie républicaine face à un ministre qui réprime le mouvement social.
M. Benjamin Lucas (ECOLO). Quand on se fait interpeller là-bas, pas de problème ! Franchement !
M. Antoine Léaument (LFI-NUPES). J’en reviens à l’amendement. Nous proposons d’ajouter le mot « discriminatoires », pour éviter que ces algorithmes ne le soient, pour une raison simple. Aux États-Unis, on les a utilisés dans des quartiers populaires, et les algorithmes en ont conclu que les responsables de violences et de crimes étaient des personnes racisées – des personnes noires, notamment. Sans cette précision visant à protéger de la discrimination, notamment celle liée à la couleur de peau, vos algorithmes, monsieur Darmanin, deviendront potentiellement racistes puisque vous les utiliserez notamment dans les quartiers populaires. Monsieur le ministre, si vous souhaitez protéger les individus de tels comportements algorithmiques, je vous invite à donner un avis favorable à cet amendement. (Exclamations sur quelques bancs des groupes RE, Dem et HOR.)
Mme Anne Le Hénanff (HOR). Vos propos et votre demande me choquent. Préciser qu’il peut exister des biais est une chose, écrire qu’ils sont discriminatoires en est une autre ! Je vous renvoie la balle : donnez-nous la liste des comportements que l’on peut considérer comme discriminatoires. Allez au bout de votre raisonnement, il sera très intéressant de disposer d’une telle liste ! (Applaudissements sur quelques bancs des groupes RE, Dem et HOR.)
Mme la présidente (HOR). La parole est à M. le président de la commission des lois.
M. Sacha Houlié (RE). Le débat est intéressant, mais nous l’avons eu il y a une heure, monsieur Léaument. Nous avons précisé que le terme de « biais » visait toutes les discriminations, également interdites, évidemment, dans le traitement algorithmique. Je confirme donc mon avis défavorable.
M. Gérald Darmanin. C’est la raison pour laquelle je vous ai dit bonjour, monsieur Léaument. (M. Antoine Léaument proteste.) Il s’agissait de souligner que vous n’étiez pas là quand nous avons évoqué le sujet ce matin dès neuf heures. Sinon, vous auriez entendu la réponse à votre question.
Mme Sandra Regol (ECOLO). Nous n’avons pas accepté la réponse que vous nous avez donnée !
(L’amendement no 538 n’est pas adopté.)
Mme la présidente (HOR). La parole est à M. Éric Bothorel, pour soutenir l’amendement no 701.
M. Éric Bothorel (RE). Le présent amendement vise à introduire un critère de performance dans le traitement algorithmique, conformément aux recommandations de la Cnil.
M. Sacha Houlié (RE). Votre amendement est satisfait, puisqu’un rapport de validation viendra conclure la phase de test prévue à l’alinéa 18 et qu’une attestation de conformité du traitement sera délivrée par l’État selon les termes de l’alinéa 21. Je vous demanderai donc de bien vouloir le retirer.
Mme la présidente (HOR). L’amendement no 218 de M. Stéphane Lenormand est défendu.
(L’amendement no 218, repoussé par la commission et le Gouvernement, n’est pas adopté.)
Mme la présidente (HOR). L’amendement no 524 de M. Jean-Pierre Cubertafon est rédactionnel.
(L’amendement no 524, accepté par la commission et le Gouvernement, est adopté.)
Mme la présidente (HOR). La parole est à M. Philippe Latombe, pour soutenir l’amendement no 399.
M. Philippe Latombe (DEM). Il s’agit de supprimer l’obligation pour les fournisseurs de traitements de transmettre une déclaration des intérêts qu’ils détiennent. Une telle disposition pose un problème d’effectivité. Nombre d’entreprises de taille importante, notamment des entreprises de services du numérique (ESN) françaises comme Atos, ou d’autres, ne pourraient pas candidater aux appels d’offres. Or, ce sont les entreprises les plus vertueuses. En outre, il est possible d’effectuer des contrôles. Il s’agissait d’un ajout de la commission des lois du Sénat, que nous proposons donc de supprimer, quitte à prévoir éventuellement une nouvelle rédaction pour la CMP.