Campagne anti-GAFAM : LinkedIn enfin condamné à une grosse amende

Nous avions lancé notre campagne anti-GAFAM au moment de l’entrée en vigueur du RGPD, en mai 2018… Sur la base du tout nouveau règlement européen sur la protection des données personnelles, nous avions décidé d’attaquer les pratiques illégales des cinq plus grandes sociétés du numérique mondial : Google, Apple, Facebook, Amazon et Microsoft. C’était la première action collective en Europe — une nouveauté permise par le RGPD — contre les entreprises privées qui exploitent délibérément et en toute illégalité les données personnelles des internautes sans leur consentement. Pour cette action collective, nous avions reçu le soutien de 12 000 personnes qui avaient décidé de nous donner leur mandat pour porter la plainte devant la CNIL. C’était chose faite le 18 mai 2018. Il y a six ans.

Le RGPD donne à la CNIL le pouvoir d’instruire les plaintes concernant les entreprises dont le siège européen est en France, ou n’ayant pas de siège social dans un autre pays de l’Union européenne. C’était le cas de Google à l’époque. La CNIL a donc traité d’abord la plainte contre Google, sans donner signe de son travail avant mai 2021, où elle a soudain rendu une décision bancale et insatisfaisante, assortie d’une amende minime de 50 millions de dollars, avant de transmettre le dossier à son homologue irlandais, la DPC, Google ayant entre temps créé un siège européen en Irlande (plus de détails dans cet article, dans le paragraphe « Google perdu au rebond »).

Les autres plaintes avaient été transmises dès 2018 aux autorités compétentes pour la protection des données dans les pays concernés : Facebook, Apple et Microsoft en Irlande, et Amazon au Luxembourg. C’est de là qu’est venue, contre toute attente, la deuxième condamnation, en juillet 2021 : les pratiques illégales d’Amazon étaient bien reconnues, et l’entreprise condamnée à une amende record de 746 millions d’euros.

Malgré la solidité juridique de nos plaintes, confirmée par deux fois, nous n’avions alors toujours aucune nouvelle des quatre dossiers traités par la DPC irlandaise : Apple, Microsoft, Facebook (Meta) et Google. Jusqu’à ce mois d’octobre 2024, plus de 6 ans après le dépôt des plaintes. La DPC a enfin rendu sa décision concernant LinkedIn (qui appartient à Microsoft), et condamne l’entreprise à une amende de 310 millions d’euros, en plus d’un obligation de mise en conformité avec la loi.

C’est bien, mais c’est peu. Pourquoi faut-il six ans pour appliquer une loi européenne ? Et plus encore pour trois autres dossiers ? On sait que l’Irlande ouvre grand les bras aux multinationales, en leur offrant un statut fiscal privilégié. On sait que la DPC est surchargée de dossiers et en sous-effectif. On se doute que la balance entre l’application des lois et le bénéfice économique est un arbitrage très politique. Et on sait que les entreprises fortunées continuent d’exploiter les données personnelles au mépris de leurs obligations légales. Bref, un constat de victoire teinté d’amertume, à lire sur notre site.

Lire l’article : https://www.laquadrature.net/2024/10/25/linkedin-condamnee-a-310-millions-deuros-suite-a-notre-plainte-collective/
La campagne anti-GAFAM : https://gafam/laquadrature.net/

« Pas de VSA dans ma ville », deuxième round

Alors que la période « d’expérimentation » de la VSA autorisée par la loi JO n’est même pas terminée, et sans même attendre les conclusions de l’expérience, le législateur et le gouvernement envisagent déjà sa légalisation complète et son déploiement généralisé. Nous savons que le combat au niveau législatif sera difficile, même si nous le mènerons. Et nous savons aussi que le point d’entrée de la VSA dans nos rues, c’est le niveau municipal. C’est aux communes que les industriels vendent leurs caméras et leurs logiciels, avec l’appui financier et idéologique de l’État. Et c’est au niveau municipal que de piètres politiciens dépensent l’argent public dans une surenchère sécuritaire dispendieuse et illégale. C’est pourquoi nous invitons chacun et chacune à écrire à ses élus locaux pour demander l’abandon de cette technologie de surveillance.

« Pas de VSA dans ma ville », c’est le nom de cette campagne collective qui invite tout le monde à prendre le débat en mains et à interpeller les décideurs locaux. Nous avons besoin de vous pour faire reculer la surveillance ! Courriers, procédures, arguments, vous trouverez tout sur notre site de campagne.

Lire l’article : https://www.laquadrature.net/2024/10/31/assaut-contre-la-videosurveillance-algorithmique-dans-nos-villes/
Le site de la campagne anti-VSA : https://www.laquadrature.net/vsa/

Agenda

• Du vendredi 8 au dimanche 10 novembre 2024 : Festival « Le nuage était sous nos pieds » à Marseille, tout le programme ici : https://lenuageetaitsousnospieds.org.
• Jeudi 14 novembre 2024 : conférence « Technopolice : 5 ans de lutte contre les technologies de surveillance en France » lors de l’évènement Ethics by Design à Nantes, plus d’infos ici : https://ethicsbydesign.fr/.
• Jeudi 14 novembre 2024 : Causerie mensuelle Technopolice Marseille, 19h, Manifesten (59 rue Adolphe Thiers, Marseille).
• Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

Amende de LinkedIn

• Klage gegen Sozialhilfe-Algorithmus in Frankreich [Netzpolitik]
• LinkedIn écope d’une amende de 310 millions d’euros de l’Union européenne pour publicité ciblée [Ouest-France]
• Le réseau social LinkedIn écope d’une amende de 310 millions d’euros pour infraction au règlement européen sur les données [France Info TV]
• RGPD : L’Irlande condamne Linkedin à 310 M€ d’amende [Le Monde informatique]
• Publicité ciblée : après Google et Amazon, LinkedIn écope d’une amende de 310 millions à Bruxelles [Les Echos]
• Publicité ciblée : LinkedIn écope d’une amende de 310 millions d’euros dans l’UE [La Croix]
• Données personnelles : LinkedIn condamné à une amende de 310 millions d’euros pour ses publicités ciblées dans l’UE [Le Monde]

Vidéosurveillance algorithmique

• [À écouter] Technosurveillance : halte l’IA ? [France Culture]
• Sans demander, la mairie de Saint-Denis a imposé la vidéosurveillance [StreetPress]
• ‘Consent’ LinkedIn used for data processing was not freely given, says Ireland [The Register]
• LinkedIn fined $335 million in EU for tracking ads privacy breaches [TechCrunch]
• Publicité ciblée : LinkedIn écope d’une amende de 310 millions d’euros dans l’Union européenne [RTBF]
• LinkedIn écope d’une amende de 310 millions pour une infraction en matière de publicité ciblée [RTS]

Algorithmes de scoring

• Violation du RGPD : L’algorithme de notation de la CAF attaqué devant le Conseil d’Etat [L’Usine digitale]
• Quinze associations attaquent en justice l’algorithme de la CAF [ZDNet]
• Algorithmes sociaux : « Plus le score de risque est élevé, plus le contrôle est intensifié » [Le Monde]
• Cnaf : l’algorithme utilisé pour détecter les fraudes poursuivi par des associations devant le Conseil d’État pour discriminations [Le Midi Libre]
• Espionnage sur Facebook, algorithme de « flicage » : les méthodes scandaleuses de la CAF [Le Média TV]
• France Travail : des algorithmes pour surveiller les demandeurs d’emploi, la Quadrature du Net s’insurge [Newsly]
• Allocations familiales : les mères célibataires sont plus souvent contrôlées que les autres, voici pourquoi [Paroles de mamans]

Divers

• La Quadrature du Net ne veut pas d’une contribution « fair share » pour financer les réseaux [L’Informé]
• MAD, le fichier de police discrètement développé par la Préfecture de police de Paris [Le Monde]
• Reconnaissance faciale : un usage « hors cadre légal » au sein de la gendarmerie nationale [La Croix]

CNAF : recours collectif contre l’algo de la galère

La Quadrature travaille depuis des années sur les algorithmes utilisés par les administrations et les services sociaux, et en particulier sur l’algorithme de « scoring » de la Caisse nationale d’allocations familiales (CNAF). Il a fallu d’abord batailler contre l’administration pour obtenir la communication du code source, avant de publier en novembre 2023 l’analyse de la version n-1 de cet algo, la CNAF ayant refusé de fournir le code de l’algorithme en usage aujourd’hui. Et ce 16 octobre, La Quadrature et 14 autres associations de défense des droits attaquent donc l’algorithme de la CNAF devant le Conseil d’État, pour discrimination et surveillance excessive.

Cet algorithme analyse chaque mois les données personnelles (et intimes) de 13 millions de foyers touchant des allocations familiales, soit environ 32 millions de personnes en France, pour leur attribuer un « score de risque ». Si ce score est trop élevé, un contrôle est déclenché.
La CNAF présente cet outil comme un « algorithme de lutte contre la fraude ». En réalité, l’algorithme n’est évidemment pas capable de détecter des fraudes, qui supposent un mensonge intentionnel impossible à traduire en calcul. En revanche, que peut faire un algorithme ? Il peut identifier les personnes les plus susceptibles d’avoir reçu des « indus » ou des « trop-perçus », c’est-à-dire des sommes supérieures à ce que le calcul de leurs droits leur destine. Comment ? En identifiant les personnes dont la situation est la plus susceptible de provoquer des erreurs de déclaration. Qui sont ces personnes ? Celles qui changent souvent d’adresse, de travail, de situation familiale, qui sont mères célibataires, qui bénéficient de minima sociaux ou ont de faibles revenus. C’est-à-dire celles dont la vie est la plus marquée par la précarité.
Voici comment, sous couvert de « lutter contre la fraude », on traque systématiquement les personnes en difficulté.

L’analyse du code source a confirmé sans ambiguïté la fonction discriminatoire de cet algorithme. Les critères choisis et leur pondération ciblent de façon délibérée les personnes les plus précaires : famille monoparentale, bénéficiaires du RSA, personnes sans emploi, au domicile instable, etc.
Cette discrimination, couplée à une surveillance de masse (près de la moitié de la population française est concernée), nous ont poussées à saisir le Conseil d’État. Si vous voulez comprendre le raisonnement juridique qui structure le recours, tout est dans le communiqué de la coalition. Et si vous voulez suivre notre campagne de long cours contre les algorithmes administratifs, visitez notre page France Contrôle.

Lire le communiqué : https://www.laquadrature.net/2024/10/16/lalgorithme-de-notation-de-la-cnaf-attaque-devant-le-conseil-detat-par-15-organisations/

Livre : une histoire de la Technopolice

Notre campagne Technopolice a cinq ans. Félix Tréguer, chercheur et membre de La Quadrature, raconte à la première personne, dans Technopolice, la surveillance policière à l’ère de l’intelligence artificielle, ce long travail d’enquête collective sur les pratiques de surveillance numérique de la police, depuis la découverte de « l’observatoire du Big Data de de la tranquillité publique » de Marseille fin 2017, jusqu’à la légalisation de la VSA par la loi Jeux Olympiques en 2023, en passant par le récit étonnant et éclairant du quotidien d’un policier dans la ville de Denver au Colorado.

Croisant les analyses politiques et sociologiques, les enquêtes de terrain et les chiffres, l’ouvrage analyse la Technopolice comme un fait social complexe, qui met en jeu des idéologies politiques, des ambitions industrielles, des fantasmes policiers, au prise avec des problèmes matériels, économiques et humains. Et si vous voulez rencontrer l’auteur et lui poser des questions, le site recense les nombreuses rencontres en librairie à venir pour les mois d’octobre, novembre et décembre.

Lire l’article : https://www.laquadrature.net/202fondateur4/10/11/parution-du-livre-technopolice/

Action à Marseille contre le data center de trop

Le 16 septembre dernier, La Quadrature du Net et le collectif local Le nuage est sous nos pieds ont organisé une conférence de presse pour alerter au sujet de la construction d’un data center géant dans l’agglomération de Marseille : gourmand en énergie et en eau potable, ce projet s’incrit dans une logique d’inflation numérique dispendieuse, dont la nécessité n’est jamais questionnée ni soumise à la délibération démocratique de la population qu’elle touche directement. Lisez le communiqué du collectif Le nuage et sous nos pieds sur notre site.

Lire le communiqué : https://www.laquadrature.net/2024/09/16/conference-de-presse-a-marseille-contre-les-data-centers/

Agenda

• Vendredi 18 octobre 2024 : Rencontre à 19h autour du livre Technopolice : la surveillance policière à l’ère de l’intelligence artificielle, librairie L’Hydre à mille têtes, 96 Rue Saint-Savournin, à Marseille.
• Vendredi 18 octobre 2024 : Table ronde « Visages traqués, libertés sous surveillance ? », à 19h30 au Festival des Libertés à Bruxelles, Théâtre National Wallonie-Bruxelles, Bd Émile Jacqmain 111-115, 1000 Bruxelles. Plus d’informations et programme détaillé ici.
• Mercredi 6 novembre 2024 : Rencontre à 19h autour du livre Technopolice : la surveillance policière à l’ère de l’intelligence artificielle au café-librairie Michèle Firk, 9 rue François Debergue, à Montreuil.
• Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

Livre « Technopolice »

• Technopolice : quand la surveillance policière monte d’un cran [France Inter]
• Technopolice, ou la police totale [Au poste]
• « Technopolice » : l’accélération du tempo des algorithmes, au détriment des libertés publiques [Le Monde]
• « Une surveillance algorithmique constante de l’espace public est dangereuse politiquement » [Le Monde]
• « Le droit prévu pour contenir la surveillance d’État est totalement défaillant » [Mediapart]
• Vidéosurveillance algorithmique : « C’est l’avènement d’un projet de fantasme policier » [Le Point]

Algo de la CNAF

• L’algorithme de notation de la CAF accusé d’être discriminatoire [Mediapart]
• Algorithme de ciblage antifraude dans les CAF : des associations saisissent le Conseil d’État [Le Monde]
• Algorithms Policed Welfare Systems For Years. Now They’re Under Fire for Bias [Wired]
• Fraude, indus : quinze organisations attaquent l’algorithme de la CAF devant le Conseil d’État [Next]
• Allocations familiales : des associations contestent un algorithme anti-fraude de la CNAF devant le conseil d’État [Le Figaro]
• Fraude sociale : l’algorithme de la Cnaf devant le Conseil d’État [La Croix]
• Allocations : des associations saisissent le Conseil d’État pour la suppression d’un algorithme anti-fraude [Le Parisien]
• Allocations familiales : des associations réclament l’interdiction de l’algorithme anti-fraude utilisé par la Cnaf, jugé discriminant [France Info]
• L’algorithme de notation des CAF attaqué en justice [Politis]
• Discrimination, opacité : des associations attaquent en justice l’algorithme des Caf [Basta!]
• Pourquoi le logiciel de ciblage de la CAF se retrouve devant le Conseil d’État ? [L’Humanité]
• Allocations familiales : l’algorithme anti-fraude des CAF attaqué devant le Conseil d’État [Le Télégramme]
• Accusé de cibler les plus précaires, l’algorithme de contrôle de la Cnaf attaqué en justice [Acteurs publics]
• L’algorithme de notation des Caf dans le viseur des associations [Faire-Face]
• Allocations : des associations saisissent le Conseil d’État pour la suppression d’un algorithme anti-fraude [Le Parisien]
• Allocations familiales : l’algorithme anti-fraude de la CAF est-il discriminatoire ? [Sud-Ouest]
• Fraude sociale : l’algorithme des allocations familiales attaqué devant le Conseil d’État [La Tribune]
• CAF : L’algorithme utilisé par la Caisse pour détecter les fraudes est-il discriminatoire ? [20 minutes]
• Allocations familiales : des associations saisissent la justice pour supprimer l’algorithme anti-fraude de la CAF [La Voix du Nord]
• Quinze associations saisissent le Conseil d’État pour supprimer l’algorithme anti-fraude des allocations familiales [La Provence]
• French NGOs sue public body over scoring algorithm [Euractiv]
• Quinze associations s’opposent à l’utilisation d’un algorithme de la Cnaf [Le Journal de l’économie]
• Algorithme CAF : précarité et suspicion, les associations montent au créneau [Capital]
• Ces associations veulent faire supprimer l’algorithme de notation de la CAF… et les autres [01Net]
• Allocations familiales: pourquoi les bénéficiaires du RSA et les mères célibataires sont plus contrôlés que les autres? [La Charente libre]
• Allocations : le logiciel anti-fraude de la CAF jugé discriminant, des associations réclament son abandon [L’Union]

Data center à Marseille

• Une skyline de data centers sur le port de Marseille [La Marseillaise]
• À Marseille, le développement des data centers face à l’urgence écologique/a> [Made in Marseille]
• Face à la déferlante des data centers à Marseille, riverains et associatifs tirent la sonnette d’alarme [La Provence]
• À Marseille, MRS5, le data center de trop ? [Le Méridional]
• Un sixième Data Center à Marseille [France Bleu]
• A Marseille, le nouveau projet de datacenter de Digital Realty crispe les opposants [ZDNet]
• Un cinquième data center géant s’installe à Marseille sous un feu de critiques [Libération]

Divers

• Réseaux sociaux : face aux grandes plateformes, les États redoublent de sanctions [La Croix]

Telegram stop

Paul Durov, fondateur et président de la société qui édite la messagerie Telegram, a été arrêté en France le 24 août 2024. Le parquet lui reprocherait de ne pas modérer les contenus échangés sur la messagerie. On a aussitôt crié au mépris de la liberté d’expression et du secret des correspondances. Mais c’est mal connaître la messagerie, largement utilisée aussi comme un réseau social, avec des chaînes ouvertes ou publiques suivies par des milliers d’abonnés. De ce côté-là, rien à redire : tous les réseaux sociaux sont placés devant la même obligation de retirer les contenus illicites qui leur ont été signalés. En refusant de le faire, Telegram est en faute.

Mais le parquet est volontairement ambigu. Une ambiguïté inquiétante, parce qu’elle laisse planer le soupçon que Telegram devrait surveiller aussi le contenu des conversations privées tenues sur la messagerie. Cette attaque contre le secret des correspondances s’inscrit dans la continuité d’autres pressions judiciaires allant jusqu’à la criminalisation de l’usage du chiffrement, comme l’a montré le dossier du procès du « 8 décembre », tandis que le gouvernement a récemment multiplié les attaques contre les réseaux sociaux lors des émeutes urbaines de 2023 et cette année en Nouvelle-Calédonie. Lisez notre première analyse de ce dossier encore très nébuleux.

Lire l’article : https://www.laquadrature.net/2024/09/03/affaire-telegram-des-inquietudes-dans-un-contexte-de-guerre-contre-les-messageries-les-reseaux-sociaux-et-le-chiffrement/

La surveillance, grande gagnante des JO

Les JO de Paris 2024 ont été un tremplin pour des pratiques de surveillance sans précédent. On pense évidemment à la vidéosurveillance algorithmique (VSA), les JO ayant servi de prétexte à des législateurs opportunistes pour une « expérimentation » dont les conclusions sont tirées d’avance. Mais la surenchère sécuritaire a été l’occasion de mobiliser tous les moyens récemment acquis par la police, et notamment la grande quantité de nouveaux fichiers créés depuis vingt ans (il en existe aujourd’hui plus de 100).

C’est la lecture de la presse qui a attiré notre attention : des personnes qui devaient travailler durant les JO, en tant que bénévoles ou salariées, avaient été écartées au dernier moment — leur accréditation refusée sans plus d’explication. Après un appel à témoignages, nous avons réuni des récits individuels qui présentent plusieurs points communs : les employeurs sont avisés du refus d’accréditation sans en connaître la raison, et les personnes concernées ont toutes eu une activité politique ou militante qui a pu occasionner une interaction — même brève — avec la police.

Les fichiers de police permettent aujourd’hui d’entraver l’activité professionnelle des personnes en fonction de leur couleur politique. Une médaille de plus pour la France ? Lisez notre article pour lire les témoignages et tout savoir sur le processus de « criblage » appliqué lors des JO.

Lire l’article  : https://www.laquadrature.net/2024/07/30/jeux-olympiques-fichage-de-masse-et-discrimination-politique/

VSA en supermarché : des algorithmes illégaux et bidons ?

Les supermarchés sont des temples de la vidéosurveillance et les fabricants de VSA ne pouvaient pas laisser échapper ce juteux marché. Tandis que les grands groupes industriels s’adressent aux polices et aux États, certaines entreprises, dont la start-up française Veesion, s’adressent plus spécifiquement aux supermarchés en leur proposant des logiciels soi-disant capables d’identifier les comportements « suspects » de leurs clients. Le système offrirait deux avantages : améliorer la détection des vols, et soulager les pauvres agents de surveillance qui doivent passer la journée à s’user les yeux devant des écrans trop nombreux. Petit problème que nous avions soulevé l’an dernier : filmer les gens et analyser leur comportement avec un logiciel, c’est un traitement illégal de données biométriques.

La CNIL s’en est mêlée, confirmant notre analyse et exigeant que les magasins qui utilisent les logiciels de Veesion affichent un panneau pour informer leurs clients de ce traitement illégal. Veesion a essayé de bloquer l’intervention de la CNIL, mais le Conseil d’État lui a donné tort en juin dernier. Une bonne nouvelle, même si ce dernier rempart juridique nous semble malheureusement un peu trop fragile, dans un contexte politique plus large où la police a obtenu le droit d’utiliser les mêmes outils pour surveiller les JO et bientôt les transports en commun.

Par ailleurs, nous avons de bonnes raisons de penser que les algorithmes de Veesion sont du vent, et reposent en réalité sur des travailleurs pauvres qui vivent à Madagascar et passent leurs journées à s’user les yeux devant des écrans trop nombreux…

Lire l’article  : https://www.laquadrature.net/2024/07/18/veesion-et-surveillance-en-supermarches-vraie-illegalite-faux-algorithmes/

Pas d’oreilles numériques à Orléans

Nous avions déposé un recours il y a trois ans contre le projet de la ville d’Orléans, qui voulait installer des micros dans les rues « sensibles » , en plus des caméras déjà en place, pour détecter des situations « anormales ». Le tribunal administratif a rendu son jugement en juillet : le couplage des images et du son est illégal. Un soutien précieux dans notre lutte, quand l’État ferme les yeux sur les pratiques ordinaires des municipalités qui achètent des systèmes de VSA en toute illégalité depuis des années. Lisez notre analyse complète de cette victoire !

Lire l’article  : https://www.laquadrature.net/2024/07/17/premiere-victoire-contre-laudiosurveillance-algorithmique-devant-la-justice/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour boucler notre budget pour l’année 2024. N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Faire un don à La Quadrature : https://don.laquadrature.net/

Agenda

• 14 septembre 2024 :« J’t’ai à l’oeil », triathlon vidéosurveillé à Montreuil, rendez-vous à Croix de Chavaux à 14h. Événement organisé par la LDH-section de Montreuil, avec la participation d’Amnesty international, de l’orchestre Le Grand Marcel et de La Quadrature du Net. Voir ici.
• 25 septembre 2024 : Conférence « Vidéosurveillance algorithmique, dangers et contre-attaque » de La Quadrature du Net, à 18h15 à la Faculté des Sciences et Technologies de Nancy (bâtiment Victor Grignard, amphi 8), Vandoeuvre-lès-Nancy. Conférence organisée par le collectif Stop Vidéosurveillance 54.
• 2 octobre 2024 : Réunion mensuelle du groupe Technopolice Paris-Banlieue au Bar commun, 135 rue des poissonniers à Paris 18e, à partir de 19h.
• Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

Divers

• Quand l’IA fait écran entre l’État et ses citoyens [L’Humanité]
• Pas de vacances, galère d’appart : la vie incroyablement difficile des mères qui ont fait un enfant seules [L’ADN]
• CAF victime d’une cyber-attaque vos données ont peut-être été piratées [tuxboard]

Telegram

• Arrestation de Pavel Durov : la mise en cause de Telegram est-elle justifiée ? [France Inter]
• France’s encryption tech law used to charge Telegram founder rankles privacy advocates [Axios]
• Arrestation de Pavel Durov : la mise en cause de Telegram est-elle justifiée ? [France Culture]
• Telegram : Pavel Durov mis en examen et placé sous contrôle judiciaire [Mediapart]
• Telegram : Pavel Durov mis en examen et placé sous contrôle judiciaire [La Croix]
• Telegram : des modifications sur la modération des conversations privées ? Retour sur une confusion [France 24]
• Comment le fondateur de Telegram est devenu un « martyr de la guerre culturelle » menée par la droite conservatrice [Usbek & Rica]
• La Quadrature du Net’s co-founder, Sonntag: “Snowden fell into the trap: the Durov case is a lot more complex” [Il Fatto Quotidiano]

VSA (et JO)

• Le régime de surveillance olympique [Esprit]
• At the Olympics, AI Is Watching You [Wired]
• Paris 2024 : la vidéosurveillance algorithmique à l’épreuve des Jeux olympiques [Le Monde]
• The Olympics Have Turned Paris Into a Panopticon [The Nation]
• Aux JO 2024, un usage sans précédent des drones et des algorithmes de surveillance [Mediapart]
• Bleiben Sie bloß nicht stehen, wenn Sie in Paris sind [Stern]
• JO Paris 2024 : une association saisit la Cnil contre la vidéosurveillance algorithmique [Le Parisien]
• “La vidéosurveillance algorithmique restera après les J.O.” Entretien avec Noémie Levain [Le Poing]
• Paris 2024 : la vidéosurveillance algorithmique, cheval de Troie de la dérive sécuritaire [L’Humanité]
• JO de Paris 2024 : « Une société sécuritaire »… pourquoi la « surveillance algorithmique » est-elle autant décriée ? [La Dépêche]
• Saint-Denis va, elle aussi, tester la vidéosurveillance algorithmique [Next]
• Vidéosurveillance pendant les JO de Paris : ça ne passe toujours pas pour cette asso, qui dépose une nouvelle plainte à la CNIL [Clubic]
• Héritage des JO de Paris 2024 : la société à l’épreuve de nouveaux systèmes de surveillance [France Culture]
• À Breil-sur-Roya, le combat de Cédric Herrou contre la vidéosurveillance illégale [L’Humanité]
• La police « guest-star » des JO: comment les médias ont préparé les esprits à la société ultrasécuritaire [Au poste]
• Jeux Olympiques de Paris 2024 : test grandeur nature pour l’identification par intelligence artificielle [Euractiv]
• Jeux Olympiques et Paralympiques 2024 : La répression dans les starting blocks [Observatoire international des prisons]
• Jeux paralympiques de Paris : à Saint-Denis, l’expérimentation des caméras « intelligentes » divise [Le Parisien]
• Jeux Olympiques : faut-il gâcher la fête ? [Frustration]
• Vidéosurveillance boostée par les JO : Un pognon de dingue, une efficacité contestable [Blast]
• Militants écologistes ou pour la justice sociale, ils ont été écartés des JO [Mediapart]
• JO de Paris 2024. « Nettoyage social », surveillance, écologie : une contre cérémonie d’ouverture organisée la veille des Jeux [France 3 Paris-Ile-de-France]
• Paris 2024 : le détail d’un dispositif de sécurité hors normes [Le Monde]
• À Marseille, polémique grandit autour des JO 2024 [News of Marseille]
• Jeux olympiques : notre carte des destructions écologiques et sociales [Reporterre]
• Wikileaks Highlights ‘Experimental AI Video Surveillance’ Ahead of Paris 2024 Olympics [CCN]
• Vidéosurveillance pendant les JO de Paris 2024 : l’association La Quadrature du Net porte plainte devant la Cnil [France Info]

Orléans

• Vidéosurveillance à Orléans : la convention annulée par la justice, une victoire pour les libertés [L’Humanité]
• Sécurité : le Tribunal Administratif d’Orléans annule la convention permettant l’installation de caméras de surveillance qui écoutent aussi la rue [France 3 Centre-Val-de-Loire]
• Orléans condamnée par la Justice pour son audiosurveillance algorithmique [Le monde informatique]
• Des caméras « avec des oreilles » à Orléans : la surveillance sonore en accusation devant le tribunal administratif [La République du Centre]
• Caméras sonores : le tribunal administratif donne raison à l’association La Quadrature du Net contre la Ville d’Orléans [La République du Centre]

Algorithmes de France Travail

• Surveillance des demandeurs d’emploi par des algorithmes par France Travail : la Quadrature du Net monte au créneau [Econostrum]
• France Travail utilise une série d’algorithmes pour gérer des dossiers de ses inscrits. [Tout pour l’emploi]
• Recours croissant aux algorithmes pour surveiller les personnes sans emploi : France Travail dans le viseur de la Quadrature du Net [CafeBagdad]
• Quand France Travail teste l’IA avec le profilage algorithmique des usagers [Banque des Territoires]
• France Emploi surveille désormais les chômeurs sans qu’ils le sachent avec cet algorithme de surveillance [HelloBiz]
• Les demandeurs d’emploi surveillés par des algorithmes : France Travail au centre des critiques [Mediavenir]
• « Les machines parlent aux machines » : comment l’IA bouleverse le recrutement et la recherche d’emploi [L’Humanité]
• France Travail : plus de sous‐traitance et moins de service public [Mediapart]

Veesion et supermarchés

• Comment ces caisses automatiques de supermarché arrivent à détecter les vols et les oublis [Capital]
• French supermarket trials tills with cameras to detect thefts [The Connexion]

Les algorithmes punitifs de France Travail

À France Travail (ex-Pôle Emploi) comme à la CNAF, sous prétexte de « lutter contre la fraude » ou de pouvoir « individualiser » les dossiers, des algorithmes viennent noter, classer, et juger les bénéficiaires. Expérimentés chez France Travail depuis 2013, généralisés depuis 2018, ces algorithmes partent du principe que les allocataires sont malhonnêtes et abusent du système de l’assurance chômage, et leur attribuent un « score de suspicion » (le terme est utilisée par France Travail).

Mais l’agence a aussi imaginé d’utiliser des algorithmes pour remplacer la travail des conseiller·es et proposer des offres d’emplois — après tout, c’est déjà le cas pour Parcoursup et sur les applis de rencontre amoureuse… Loin de l’application d’un droit simple, on entre dans une politique de profilage et de tri des bénéficiaires. Scores « d’employabilité », « traitements des aspects motivationnels », « détection de signaux psychologiques » sont mobilisés pour détecter les « signes de perte de confiance » ou les « risques de dispersion ». Le calvaire social et intime qu’est le chômage devient un objet d’étude statistique affranchi de toute relation humaine, où les vies les plus fragiles sont normées, standardisées, formatées. Le même algorithmique qui diagnostiquera une « Dynamique de recherche faible » conseillera aussi l’employé·e de France Travail sur les actions à demander au bénéficiaire concerné… L’analyse détaillée est disponible sur notre site.

Lire l’article : https://www.laquadrature.net/2024/06/25/a-france-travail-lessor-du-controle-algorithmique/

Mobilisation contre les partisans de la surveillance totale

Nous le disons depuis des années : les outils numériques de la surveillance, sur Internet et dans les pratiques policières, sont des outils dangereux par essence. Ils ont pourtant toujours été adoptés, légalisés et encouragés par des gouvernements qui se présentaient comme des ennemis des positions « extrêmes » et promettaient la main sur le cœur qu’ils surveillaient les habitant·es du pays pour leur bien.

Aujourd’hui, l’extrême droite est à la veille de prendre le pouvoir. La responsabilité de ses prédécesseurs est énorme : ils offrent à un parti champion du racisme, de l’inégalité entre les personnes, de la violence et de la restriction des droits politiques, une magnifique machinerie de surveillance et de répression. Pour ces raisons, nous appelons chacune et chacun à se mobiliser le 30 juin, le 7 juillet et après, contre celles et ceux qui ont bâti ce système technique totalitaire, et contre celles et ceux qui comptent bien l’utiliser contre la population du pays.

Lire notre prise de position : https://www.laquadrature.net/2024/06/28/legislatives-la-surveillance-sur-un-plateau-brun/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment réuni 71% de notre objectif de collecte. N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/
et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don à La Quadrature : https://don.laquadrature.net/

Agenda

• Vendredi 28 juin 2024 : Participation de La Quadrature à une soirée Au poste : Au Poste : micro ouvert en plein air !.
• Vendredi 5 juillet 2024 : Apéro public dans nos locaux, au 115 rue de Ménilmontant à Paris, de 19h à 23h, entrée libre.
• Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

Divers

• Des caméras « avec des oreilles » à Orléans : l’arrêt d’utiliser ce système et l’effacement des données demandés au tribunal administratif [La République du Centre]
• Comment informer et transmettre pour comprendre les enjeux du numérique en 2024 ? [France Culture]
• France Travail (ex Pôle emploi) épinglé par la Quadrature du Net pour son recours aux algorithmes [01Net]
• France Travail : comme pour la CAF, le recours croissant aux algorithmes est pointé du doigt [Merci pour l’info]

Bloquez la VSA dans votre commune !

Vous connaissez notre campagne contre la vidéosurveillance algorithmique (VSA). Le moment est venu de nous dresser tous et toutes contre ces dispositifs de surveillance totale. Pour l’heure, la VSA est toujours illégale, en dehors du périmètre expérimental tracé par la loi Jeux Olympiques. Mais de nombreuses communes sont déjà équipées, dans une opacité organisée, sans demander l’avis des habitant·es. Et les décrets préfectoraux récupérés par notre outil Attrap’Surveillance montrent chaque jour les abus. Alors, il faut donner de la voix. Il faut se faire entendre. Écrivez à votre maire !

Aux États-Unis, où les pratiques de VSA sont en avance sur les nôtres, de grandes villes ont déjà exprimé leur refus catégorique de les utiliser pour surveiller la population. En France, Montpellier a courageusement franchi le pas en 2022. Aujourd’hui, il est temps d’interpeller le plus grand nombre possible de communes, petites ou grandes, pour faire nombre et faire entendre que nous ne voulons pas laisser ce choix de société, totalitaire et déshumanisant, s’installer partout par inertie. La surveillance n’est pas une fatalité et nous pouvons l’arrêter.

N’hésitez pas : faites entendre votre voix et celle d’un très grand nombre d’habitant·es de ce pays. Nous avons préparé un modèle de lettre à envoyer à votre mairie, que vous pouvez personnaliser comme vous voulez. Vous trouverez aussi des flyers et des affiches très faciles à adapter à votre commune, pour faire passer le message dans les rues et tout autour de vous. Tout est rassemblé sur cette page. Aidez le pays à lutter contre la surveillance et l’enfermement sur lui-même. Nous n’avons aucune raison ni aucune envie de vivre dans une prison à ciel ouvert. La liberté est collective !

Lire l’article  : https://www.laquadrature.net/2024/06/18/faites-interdire-la-videosurveillance-algorithmique-dans-votre-ville/
Trouver les éléments d’action : https://www.laquadrature.net/pasdevsadansmaville/
La page de la campagne contre la VSA : https://www.laquadrature.net/vsa/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment réuni 70% de notre objectif de collecte. N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don à La Quadrature : https://don.laquadrature.net/

Agenda

• Vendredi 5 juillet 2024 : Apéro public dans nos locaux, au 115 rue de Ménilmontant à Paris, de 19h à 23h, entrée libre.
• Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

Vidéosurveillance algorithmiquee

• Comment la surveillance d’État fut combattue [Le Monde diplomatique]
• Après les Jeux olympiques, tous surveillés par les algorithmes ? [Journal Spécial des Sociétés]

Règlement CSAR

• Chat Control : la directrice de Signal tire la sonnette d’alarme [ZDNet]
• La Belgique ravive le spectre de la surveillance de masse via nos smartphones [Le Soir]
• WhatsApp, Signal, Messages… Pourquoi vos conversations en ligne pourraient être moins protégées à l’avenir [RTL]

Divers

• Censure de TikTok en Nouvelle-Calédonie : comment Macron et Attal ont pu copier les pires dictatures [Le Média TV]

Pourquoi le blocage de TikTok est un précédent inquiétant

Lors des événements violents qui ont secoué la Kanaky-Nouvelle-Calédonie au mois de mai, le gouvernement avait décidé de bloquer sur ce territoire l’accès au réseau social TikTok, accusé d’être un moyen d’entretenir la révolte d’une partie de ses habitant·es. Pleinement conscients de la toxicité de ce réseau social comme de nombreux autres, nous avions pourtant attaqué la décision du gouvernement devant le Conseil d’État, en raison de son atteinte exceptionnelle au régime de l’État de droit et de la liberté d’expression, une première dans un pays démocratique de l’Union européenne.

Le Conseil d’État a rejeté notre demande, validant la légalité confuse invoquée par le gouvernement pour justifier son geste, flottant entre « état d’urgence » et « circonstances exceptionnelles », tout autant que la légèreté des preuves qu’il apportait pour appuyer ses affirmations sur le rôle joué par TikTok dans les émeutes. Depuis cette décision, l’état d’urgence a été levé et l’accès au réseau rétabli.

Mais la décision du Conseil d’État, que nous avions sollicité dans la cadre d’un recours en référé-liberté, portait sur l’urgence à maintenir ou à suspendre la décision du gouvernement. C’est ce caractère d’urgence qui a été refusé, mais la décision ne portait pas sur le fond de la légalité ou de l’illégalité de l’action du gouvernement, pourtant condamnée sur le principe par les plus hautes cours européennes (CEDH) ou les instances internationales (Nations Unies). C’est pourquoi nous avons décidé de déposer un nouveau recours devant le Conseil d’État, pour l’obliger à statuer a posteriori sur la légalité de la coupure arbitraire d’une partie d’Internet par un gouvernement. L’enjeu n’a évidemment rien à voir avec TikTok, mais concerne directement le droit des habitant·es de l’Union européenne à ne pas être privé·es à l’avenir de leurs moyens de communication, du jour au lendemain, par un gouvernement livré à ses plus bas instincts répressifs.

Lire l’article : https://www.laquadrature.net/2024/06/05/blocage-de-tiktok-en-nouvelle-caledonie-retour-sur-un-fiasco-democratique/

Analyse du règlement IA

Le règlement européen sur l’Intelligence artificielle (IA Act) a été adopté le 21 mai dernier. Au début des négociations autour de ce texte en 2021, les intentions annoncées pouvaient laisser espérer qu’il encadrerait ou interdirait l’usage des techniques d’IA les plus attentatoires aux droits individuels et collectifs, comme la reconnaissance faciale, ou les algorithmes de contrôle policier, administratif et de « notation sociale ». Mais l’insistance des États membres, la France en tête, a eu raison de ces bonnes intentions.

Cette approche de l’IA comme « marché » et comme moyen de croissance économique réduit délibérément les garde-fous censés encadrer l’usage de l’IA pour la surveillance des populations, en créant de nombreuses exceptions par lesquelles l’industrie et les gouvernements pourront justifier les pires usages policiers. Une analyse détaillée à lire sur notre site.

Lire l’analyse du règlement IA : https://www.laquadrature.net/2024/05/22/le-reglement-ia-adopte-la-fuite-en-avant-techno-solutionniste-peut-se-poursuivre/

Loi contre les ingérences étrangères

Dans le contexte géopolitique que l’on connaît, le gouvernement a décidé de soutenir, par l’intermédiaire du député Sacha Houlié (Renaissance), une proposition de loi pour « Prévenir les ingérences étrangères en France ». Parmi les diverses dispositions envisagées, dont un contrôle serré des financements associatifs venus de l’étranger, il s’agit d’autoriser les services de renseignement à utiliser pour de nouvelles finalités les fameuses « boîtes noires » légalisées en 2015 par la loi Renseignement.

Ces « sondes » surveillent les réseaux de télécommunication (Internet et téléphonie) à la recherche de signaux susceptibles d’attirer l’attention des service de renseignement. Le loi de 2015 imposait quelques limites fragiles à cette surveillance de masse, en le limitant à la lutte antiterroriste, avec des obligations d’évaluation et de contrôle, mais avec une définition trop tolérante de ce qui est considéré comme du terrorisme, pouvant englober l’activisme écologique par exemple. La nouvelle proposition de loi viendrait encore élargir ce cadre, avec des champs mal définis comme « l’indépendance nationale » ou « les intérêts majeurs de la politique étrangère ».

L’Observatoire des Libertés et du Numérique (OLN), un collectif d’association de défense des libertés dont La Quadrature fait partie, a rédigé un communiqué pour dénoncer le risque que cette surveillance accrue fait peser sur nos libertés collectives. Nous signons et publions ce communiqué sur notre site.

Lire le communiqué de l’OLN : https://www.laquadrature.net/2024/05/30/proposition-de-loi-ingerences-etrangeres-une-nouvelle-etape-dans-lescalade-securitaire/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment réuni 67% de notre objectif de collecte. N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don à La Quadrature : https://don.laquadrature.net/

Agenda

• 13 juin 2024 : Causerie mensuelle Technopolice Marseille. Rendez-vous à 19h au Manifesten, 59 Rue Adolphe Thiers
• Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

À voir

• Vous êtes filmé·es : en partenariat avec Tënk, une sélection de films à voir en ligne : https://www.on-tenk.com/fr/escale/vous-etes-filmees.
• Nous étions Au Poste avec David Dufresne pour une émission sur l’autodéfense numérique, à retrouver en différé.

Blocage de TikTok

Recours

• Le blocage de TikTok en Nouvelle-Calédonie visé par trois recours [Mediapart]
• Emeutes en Nouvelle-Calédonie : la Quadrature du Net et la Ligue des droits de l’Homme attaquent en justice le blocage de TikTok [France Info]
• Interdiction de TikTok en Nouvelle-Calédonie : la LDH et la Quadrature du Net saisissent la justice [France Inter]
• Nouvelle-Calédonie : la LDH et la Quadrature du Net attaquent en justice le blocage de TikTok [Europe 1]
• L’association Quadrature du Net attaque le blocage de TikTok devant le Conseil d’État en référé-liberté [Les Surligneurs]
• Blocage de TikTok en Nouvelle-Calédonie – La Quadrature du Net lance la riposte [Korben]
• Blocage de TikTok en Nouvelle-Calédonie : la Quadrature du Net en appelle au Conseil constitutionnel [L’Informé]
• « Machine autoritaire »: le blocage de Tiktok en Nouvelle-Calédonie attaqué en justice [BFMTV]
• Blocage de TikTok en Nouvelle-Calédonie : la décision du gouvernement attaquée en justice [La Tribune]
• Nouvelle-Calédonie : le blocage de TikTok attaqué en justice [Ouest-France]
• Émeutes en Nouvelle-Calédonie : le blocage de TikTok attaqué devant le Conseil d’État [Sud Ouest]
• Nouvelle-Calédonie : le blocage de TikTok attaqué devant la justice [Huffington Post]
• Nouvelle-Calédonie : l’interdiction de TikTok sur l’archipel est-elle légale ? [TV5 Monde]
• Nouvelle-Calédonie : le blocage de TikTok devant le Conseil d’Etat [Libération]
• Emeutes en Nouvelle-Calédonie : l’interdiction de TikTok fait débat [L’Express]
• Le blocage de TikTok en Nouvelle-Calédonie visé par des plaintes [ZDNet]
• Tiktok interdit en Nouvelle-Calédonie: le gouvernement estime que l’application a accru « l’impression de chaos » [BFMTV]

Délai

• Les « circonstances exceptionnelles » autorisent-elles l’État à suspendre TikTok en Nouvelle-Calédonie ? [France Inter]
• Interdiction de Tik Tok en Nouvelle-Calédonie : la LDH dénonce une « superposition de régimes d’exception » [Actu-Juridique.fr]
• Blocage de TikTok en Nouvelle-Calédonie : «On rajoute de l’exceptionnel à l’exceptionnel» [Libération]
• Censure de TikTok en Nouvelle-Calédonie : le gouvernement produit de nouveaux éléments [Politico]
• Interdiction de Tiktok en Nouvelle-Calédonie: le Conseil d’État demande au gouvernement de justifier sa décision sous 24 heures [BFMTV]
• Blocage de TikTok en Nouvelle-Calédonie : le Conseil d’État accorde un délai au gouvernement [Ouest-France]
• Blocage de TikTok en Nouvelle-Calédonie : une situation « inédite » devant le Conseil d’État [Mediapart]

Décision

• TikTok en Nouvelle-Calédonie : le blocage du réseau social n’est pas suspendu [Conseil d’État]
• L’interdiction de TikTok en Nouvelle-Calédonie : utile et légitime ? [France Culture]
• Nouvelle-Calédonie : le Conseil d’État « ne suspend pas le blocage de TikTok » décidé par le gouvernement [Le Parisien]
• Crise en Nouvelle-Calédonie : Trois questions pour comprendre le blocage de TikTok [20 minutes]
• Le Conseil d’État ne suspend pas le blocage de TikTok en Nouvelle-Calédonie [La 1ere]
• Nouvelle-Calédonie : le Conseil d’État «ne suspend pas le blocage de TikTok» [Le Figaro]
• Emeutes en Nouvelle-Calédonie : le Conseil d’État « ne suspend pas le blocage de TikTok » [France Info]
• TikTok en Nouvelle-Calédonie : pas d’urgence à statuer selon le Conseil d’Etat, le blocage est maintenu [Libération]
• Émeutes en Nouvelle-Calédonie : le blocage du réseau social TikTok maintenu par le Conseil d’État [Ouest-France]
• Nouvelle-Calédonie : le Conseil d’État maintient le blocage du réseau social TikTok [La Croix]
• Blocage de TikTok en Nouvelle-Calédonie : le Conseil d’État botte en touche [Mediapart]
• Le blocage de TikTok en Nouvelle-Calédonie maintenu par le Conseil d’État [Le Monde]
• En Nouvelle-Calédonie, le blocage de TikTok maintenu par le Conseil d’État [Huffington Post]
• Le Conseil d’État ne suspend pas le blocage de TikTok en Nouvelle-Calédonie [Next]
• Nouvelle-Calédonie : le Conseil d’État ne suspend pas le blocage de TikTok sur l’archipel [TF1]

Déblocage

• Après la censure, la Nouvelle-Calédonie retrouve accès à TikTok [Numerama]
• Émeutes en Nouvelle-Calédonie : une coupure de l’Internet mobile avait été envisagée par le gouvernement [Le Parisien]
• Nouvelle-Calédonie : l’interdiction de TikTok est « levée » dans l’archipel, annonce le Haut-Commissariat de la République [France Info]
• Nouvelle-Calédonie : les autorités lèvent l’interdiction de TikTok [La Croix]

Conséquences

• Blocage de TikTok en Nouvelle-Calédonie : La Quadrature du Net dépose une nouvelle plainte [Le Monde]
• Le blocage de TikTok en Nouvelle-Calédonie, une première en France qui pose question dans un Etat de droit [Le Monde]
• TikTok coupé : le gouvernement crée un précédent (dis)proportionné [France Inter]
• Pourquoi l’interdiction de TikTok en Nouvelle-Calédonie concerne toute l’Europe [Le Temps]

Vidéosurveillance algorithmique (VSA)

• Noémie Levain : « Aucune loi n’autorise la vidéosurveillance algorithmique dans les gares » [Mouv’]
• « L’IA ouvre de nouvelles possibilités de surveillance » [Le Monde]
• JO : la vidéosurveillance algorithmique attaquée [L’Informé]
• JO de Paris 2024. Sommes-nous sous surveillance ? Avec l’arrivée des « caméras intelligentes », Amnesty International tire la sonnette d’alarme [France 3 Paris-Ile-de-France]
• Vidéosurveillance algorithmique aux JO de Paris : une menace pour les libertés fondamentales ? [Le Journal du dimanche]
• Paris 2024 : vidéosurveillance et algorithmes, le risque d’aller trop vite [Le Monde]
• Vidéosurveillance algorithmique : vers une surveillance de masse ? [Le Point]

Loi SREN

• Loi pour sécuriser internet : le Conseil constitutionnel censure le délit d’outrage en ligne [Ouest-France]
• Loi SREN : le Conseil constitutionnel censure le délit d’outrage en ligne et quatre cavaliers législatifs [Next]

Loi sur les ingérences étrangères

• Une loi contre les ingérences étrangères définitivement adoptée au Parlement [Le Monde]
• La gauche s’oppose à la loi sur les ingérences étrangères [L’Humanité]
• Une loi contre les ingérences étrangères définitivement adoptée au Parlement [BFMTV]
• Registre national, procédure de gel, surveillance algorithmique… la France s’arme de mesures contre les ingérences étrangères [Le Parisien]

Déjà une proposition de loi pour étendre la VSA dans les transports

C’est une logique que nous avions dénoncée comme un risque : la légalisation des « expérimentations » de vidéosurveillance algorithmique (VSA) dans le cadre des JO ouvrait la porte à une banalisation et à une extension de la VSA dans d’autres contextes. Cassandre avait raison, et l’extension de l’usage de la VSA, avant même son « évaluation », connaît déjà une nouvelle avancée.

Le Sénat a voté en février une proposition de loi que l’Assemblée nationale a commencé d’étudier en commission des lois ce mercredi 15 mai. Cette loi « relative au renforcement de la sûreté dans les transports » comporte un article 9 qui autoriserait l’utilisation de logiciels de VSA pour analyser a posteriori les images de vidéosurveillance prises dans les transports publics (SNCF et RATP en tête) dans le cadre d’enquêtes pénales. Les logiciels sont notamment capables d’isoler et de suivre une personne sur une grande quantité d’images et de reconstituer son trajet, sans que les agents aient besoin de visionner des heures d’enregistrements.

La stratégie est à la fois habile et grossière. On voit bien qu’elle avance à petits pas, autorisant un usage après l’autre, pour masquer la progression de la VSA en la disséminant dans une poussière de lois et de cas d’usages qui paraissent à chaque fois restreints. Mais il suffit d’un pas de recul pour voir que les prétentions à la sagesse et à la prudence, colportées par le terme « expérimentation » n’ont pas tenu très longtemps. Nous appelons évidemment les député·es à rejeter cet article qui veut légaliser des pratiques pour l’instant illégales dans la surveillance des transports en commun. Toutes les explications dans notre article.

Lire l’article : https://www.laquadrature.net/2024/05/14/vsa-lassemblee-discute-deja-son-extension-aux-transports/
Notre page de campagne contre la VSA : laquadrature.net/vsa

Recours contre le blocage de TikTok en Nouvelle-Calédonie

Dans un contexte de grande violence et de crise politique majeure en Nouvelle-Calédonie, le gouvernement a décidé de couper d’autorité l’accès à TikTok sur le territoire calédonien. Par-delà les questions de sécurité invoquées, cette censure arbitraire constitue un précédent très inquiétant, et une application directe des intentions de censure exprimées par Emmanuel Macron et le gouvernement lors des révoltes urbaines de l’été 2023. Nous avons déposé un référé-liberté (procédure d’urgence) devant le Conseil d’État pour contester cette mesure de censure. Plus de détails dans notre communiqué de presse.

Lire le communiqué : https://www.laquadrature.net/2024/05/17/la-quadrature-du-net-attaque-en-justice-le-blocage-de-tiktok-en-nouvelle-caledonie/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment réuni 65% de notre objectif de collecte. N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don à La Quadrature : https://don.laquadrature.net/

Agenda

• 18 mai 2024 : La Quadrature sera au Festival du livre et des cultures libres à l’espace autogéré des Tanneries, à Dijon. Plus d’infos ici.
• 25 mai 2024 : Journées du logiciel libre à Lyon – Conférence « La vidéosurveillance algorithmique menace nos villes, contre-attaquons ! ». Plus d’infos sur la conférence et plus d’infos sur les JDLL.
• 25 mai 2024 : La Quadrature participe à une table ronde organisée par le collectif Base Bleue dans le cadre de l’exposition « Les Yeux Olympiques ». Ce sera de 16h à 18h au Doc, 27 rue du Docteur Potain dans le 19e arrondissement de Paris.
• 1er juin 2024 : Table ronde sur les réseaux sociaux dans l’environnement militant au festival Ma’Track à coté d’Angers. Plus d’informations ici.
• 5 juin 2024 : Atelier-terrasse d’autodéfense numérique, LQDN convoquée Au Poste par David Dufresne.

La Quadrature dans les médias

Vidéosurveillance algorithmique (VSA)

• Vidéosurveillance algorithmique – Pas le temps de souffler, l’Assemblée prépare déjà son extension ! [Korben]
• La Quadrature du Net saisit la CNIL contre la vidéosurveillance algorithmique, notamment testée dans les gares [Clubic]
• « Un traitement des données particulièrement intrusif » : une association porte plainte contre la vidéosurveillance algorithmique, testée dans plusieurs gares [France 3 Provences-Alpes-Côte d’Azur]
• Vidéosurveillance algorithmique : premières expérimentations et premières critiques [ZDNet]
• L’expérimentation des caméras dopées à l’IA de la SNCF va-t-elle trop loin ? [01Net]
• Un dispositif de vidéosurveillance algorithmique testé à la gare Saint-Charles, une association porte plainte [La Provence]
• Les expérimentations de la SNCF avec la vidéosurveillance algorithmique ne passent pas [Numerama]
• Surveillance à haut risque : plainte contre la SNCF pour vidéosurveillance algorithmique dans les gares du Sud [Var Actu]

Blocage de TikTok

• « Machine autoritaire »: le blocage de Tiktok en Nouvelle-Calédonie attaqué en justice [BFMTV]
• Nouvelle-Calédonie : le blocage de TikTok attaqué devant la justice [AFP]
• Le blocage de TikTok en Nouvelle-Calédonie visé par deux recours [Mediapart]
• French TikTok block in overseas territory sets ‘dangerous precedent,’ critics warn [Politico]
• « Personne n’est dupe » : TikTok interdit en Nouvelle-Calédonie, la LDH et Quadrature du Net déposent des référés-libertés [La Voix du Nord]

Divers

• Google, Facebook, la Quadrature du Net… tirs nourris contre la loi sur le numérique [L’informé]

Lancement de notre campagne contre la VSA

La loi JO de 2023 a légalisé des « expérimentations » de vidéosurveillance algorithmique (VSA) dans un cadre précis : des événements « festifs, sportifs ou culturels », sur une période donnée (jusqu’en mars 2025), et pour surveiller seulement huit critères parmi lesquels les départs de feu, les franchissements de ligne ou les mouvements de foule par exemple. Mais on le sait depuis longtemps grâce à notre campagne Technopolice, la VSA est déjà présente et utilisée dans des dizaines de communes sans aucun cadre légal. La SNCF expérimente par exemple depuis plusieurs mois un dispositif appelé Prevent PCP et qui dépasse largement le cadre délimité par la loi JO.

C’est pourquoi nous lançons cette semaine une grande campagne contre la VSA légale et illégale, en profitant de l’intérêt suscité par les JO, pour dénoncer l’hypocrisie consistant à légaliser petit à petit, et à banaliser par le fait, un système de surveillance qui sert à la fois des intérêts électoraux, industriels et policiers au mépris complet des droits fondamentaux et sans aucun débat démocratique.

Première action de cette campagne : une plainte devant la CNIL contre le dispositif Prevent PCPC de la SNCF. Pour en savoir plus sur la campagne, lisez notre communiqué de lancement ! Et retrouvez sur notre page de campagne les éléments de communication et de sensibilisation que nous avons préparés. Ils seront complétés au fil de la campagne.

Lire le communiqué de lancement de la campagne : https://www.laquadrature.net/2024/05/02/contre-lempire-de-la-videosurveillance-algorithmique-la-quadrature-du-net-contre-attaque/
Le site de campagne : hhttps://www.laquadrature.net/vsa/

Hadopi : la CJUE renonce à protéger l’anonymat en ligne

C’est une affaire qui commence en 2019. Dans le cadre de nos actions contre Hadopi, nous avions soulevé devant le Conseil d’État le problème de l’absence de contrôle préalable à la collecte des adresses IP et de l’identité civile des internautes, et la question de la licéité de cette collecte au regard du droit de l’UE. Après un circuit complet, du Conseil d’État au Conseil constitutionnel et retour, le Conseil d’État avait décidé de transmettre le problème sous forme d’une « question préjudicielle » à la Cour de justice de l’Union européenne (CJUE). Celle-ci a rendu une décision très décevante ce mardi 30 avril. À rebours de sa décision de 2020, la CJUE autorise toujours la collecte massive de l’identité civile des internautes, et admet désormais que l’association de celle-ci avec l’adresse IP et une communication peut se faire pour n’importe quel motif. Elle semble valider de guerre lasse la pratique illicite des États européens depuis des années. Tous les détails de cette décision et de ses conséquences dans notre article de réaction.

Lire notre réaction : https://www.laquadrature.net/2024/04/30/surveillance-et-hadopi-la-justice-europeenne-enterre-un-peu-plus-lanonymat-en-ligne/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment atteint 60% de notre objectif de collecte. N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don à La Quadrature : https://don.laquadrature.net/

Agenda

• 3 mai 2024 : Apéro public dans nos locaux, 115 rue de Ménilmontant, 75020 Paris, à partir de 19h. Venez nous rencontrer !
• 16 mai 2024 : Causerie mensuelle du groupe Technopolice Marseille, à partir de 19h au Manifesten, 59 Rue Adolphe Thiers, Marseille.
• 18 mai 2024 : La Quadrature sera au Festival du livre et des cultures libres à l’espace autogéré des Tanneries, à Dijon. Plus d’infos ici : https://festivaldulivre.tanneries.org/.
• 25 mai 2024 : Journées du logiciel libre à Lyon – Conférence « La vidéosurveillance algorithmique menace nos villes, contre-attaquons ! » à 13h. Plus d’infos sur la conférence et plus d’infos sur les JDLL.
• Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

VSA et JO

• La Quadrature du Net dépose plainte devant la CNIL contre la vidéosurveillance algorithmique dans les gares [Le Monde]
• Algorithmes de vidéosurveillance : la SNCF visée par une plainte auprès de la Cnil [Mediapart]
• « Traitement intrusif »: une association porte plainte devant la Cnil contre la vidéosurveillance algorithmique dans les gares [BFM]
• Vidéosurveillance algorithmique dans les gares : la SNCF visée par une plainte devant la Cnil [Libération]
• La Quadrature du Net contre-attaque face à la surveillance algorithmique [Korben]

Hadopi

• Hadopi : la CJUE valide la surveillance des IP, la Quadrature déçue [Next]
• Hadopi : la Cour de justice de l’Union européenne rétropédale sur l’anonymat en ligne [Clubic]

Divers

• Smart Police, le logiciel de police prédictive qui inquiète [Numerama]

VSA et JO : top départ

Vous le savez, la loi JO votée en 2023 autorise la vidéosurveillance algorithmique (VSA) à titre « d’expérimentation » sur une période assez étendue, jusqu’à 2025. On attendait les arrêtés préfectoraux nécessaires pour les utilisations de la VSA lors des événements publics qui doivent servir de terrain d’essai. Les premiers arrêtés sont arrivés durant ce mois d’avril.

La RATP et la SNCF ont ainsi pu surveiller automatiquement les personnes à l’occasion du match PSG-OL du 21 au 22 avril et lors du concert des Black Eyed Peas le 20 avril, sur des caméras installées à la Gare de Lyon et près du pont du Garigliano, ainsi que l’ensemble des caméras des stations de métro et de RER dans les gares de Nanterre Préfecture et de La Défense Grande Arche.

La Quadrature du Net s’est mobilisée depuis 2019 contre cette technologie et continue sa bataille. Nous vous tiendrons au courant dans les prochaines semaines des actions à venir !

Lire l’article : https://www.laquadrature.net/2024/04/17/experimentation-de-la-vsa-les-premieres-autorisations-sont-tombees/

La loi SREN aggravée en commission paritaire

Nous avions suivi depuis mai 2023 les discussions de la loi pour « Sécuriser et réguler l’espace numérique » (SREN), qui était encore travaillée en mars dernier par la commission mixte paritaire – un groupe de membres de l’Assemblée nationale et du Sénat à parts égales – pour trouver un accord sur un texte commun entre les deux chambres.

La commission a rendu son travail le 16 mars, et le résultat n’est pas bon. Vérification obligatoire de l’âge des internautes sur les plateformes, retrait des contenus signalés par la police sans validation par un juge (censure administrative), « délit d’outrage en ligne » mal défini, filtrage des sites au niveau du navigateur, etc.

La plupart de ces mesures sont nocives parce qu’elles instaurent des exceptions ou des restrictions à la liberté de communication sous des prétextes populaires (protéger les enfants, en particulier), en autorisant des moyens d’action faciles à utiliser ensuite pour d’autres buts, et placés entre les mains de la police ou des caprices des gouvernements.

Certaines mesures entrent même directement en conflit avec le droit de l’Union européenne. Le texte oblige par exemple les plateformes à vérifier l’âge des internautes. Une obligation qui ne peut être imposée qu’au niveau européen. Pour contourner l’obstacle, la dernière version du texte cible seulement les plateformes situées « en France ou hors de l’Union européenne »…

Découvrez tous les détails diaboliques du texte en lisant notre article.

Lire l’article : https://www.laquadrature.net/2024/04/09/projet-de-loi-sren-le-parlement-saccorde-pour-mettre-au-pas-internet/

Surveillance des militants

Soupçonnées de s’être introduites dans une cimenterie Lafarge en décembre 2023, dans le cadre d’une action écologiste, dix-sept personnes ont été arrêtées le 8 avril 2024. Dans le cadre d’un rassemblement de soutien organisé à Aix-en-Provence, un membre de La Quadrature a lu un texte pour exprimer l’inquiétude de l’association. Sous prétexte de « lutte contre le terrorisme », on a donné à la police et aux services de renseignement des moyens de surveillance numérique démesurés, très intrusifs, peu ou mal contrôlés, utilisés pour monter des dossiers criminels contre des citoyen·nes exerçant des droits politiques légitimes. De l’aveu même des services, la part des militant·es surveillé·es a doublé dans les cinq dernières années. Un texte à lire en intégralité sur notre site.

Lire l’article : https://www.laquadrature.net/2024/04/08/contre-la-criminalisation-et-la-surveillance-des-militant%c2%b7es-politiques/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don à La Quadrature : https://don.laquadrature.net/

Agenda

• 2 mai 2024 : A-t-on besoin de la vidéosurveillance pour être en sécurité dans nos espaces publics ? À l’occasion d’une conférence à l’ENSAD Paris, nous essayerons d’y répondre en questionnant la notion de sécurité, et la place de la vidéosurveillance dans nos espaces publiques. École des Arts Décoratifs (amphithéatre Rodin), 31 rue d’Ulm, Paris 5e arrondissement, de 18h30 à 20h30. Plus d’informations : https://www.ensad.fr/fr/videosurveillance-espace-public.
• 3 mai 2024 : Apéro public dans nos locaux, 115 rue de Ménilmontant, 75020 Paris, à partir de 19h. Venez nous rencontrer !
• 18 mai 2024 : Conférence « Surveillance de masse et gestion des données personnelles », de 16h à 17h30, Médiathèque Visages du Monde, 10 place du Nautilus, à Cergy. Détails dans le programme de la médiathèque.
• 18 mai 2024 : La Quadrature sera au Festival du livre et des cultures libres à l’espace autogéré des Tanneries, à Dijon. Plus d’infos ici : https://festivaldulivre.tanneries.org/.
• 25 mai 2024 : Journées du logiciel libre à Lyon – Conférence « La vidéosurveillance algorithmique menace nos villes, contre-attaquons ! », à 13h. Plus d’infos sur la conférence ici : https://pretalx.jdll.org/jdll2024/talk/ZNZL3Z/ et plus d’infos sur les JDLL : https://www.jdll.org/.
• Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

VSA et JO

• Surveillance : les JO vont-ils créer un précédent ? [RFI]

Algos de contrôle social

• Dématérialiser pour mieux régner : l’algorithmisation du contrôle CAF [Le vent se lève]

Loi SREN

• Une commission mixte paritaire modifie la contestée loi SREN [Siècle Digital]
• Le Parlement rectifie le projet de loi SREN pour répondre aux exigences européennes [Hardware & Co]

Surveillance

• Félix Tréguer: « On assiste à une légalisation des pratiques de surveillance numériques » [L’Echo]
• Brest : la mairie installe des caméras équipées d’un logiciel israélien, elles sont repeintes en quelques jours [Contre-Attaque]

Divers

• Défendre les libertés fondamentales dans le numérique, avec la Quadrature du Net [C-Lab]
• Vol de données de 43 millions de Français : que risquez-vous ? Qui est responsable ? [Blast]

Pour mieux surveiller ses allocataires, La CAF aura dorénavant accès aux revenus des Français en temps réel

Notre travail d’enquête sur les algorithmes de contrôle social continue. Après avoir obtenu l’algorithme utilisé par la CAF pour contrôler ses allocataires en fonction d’un « score de risque », après avoir analysé cette méthode de calcul et démontré qu’elle ciblait volontairement les personnes les plus précaires, nous poursuivons nos recherches du côté des outils utilisés par d’autres services sociaux : assurance vieillesse, assurance maladie, assurance chômage, etc. Vous pouvez retrouver l’ensemble de ces travaux sur notre page de campagne.

Mais les dernières nouvelles concernant les pratiques de la CAF nous sont arrivées par la presse : tout en se défendant des mauvaises intentions que nous lui prêtions, la CAF continuait/continu ? de demander l’accès à toujours plus de données, pour mieux surveiller ses allocataires. Elle a donc obtenu récemment le droit d’accéder au fichier du Dispositif des ressources mensuelles (DRM), qui recense quotidiennement pour chaque personne l’intégralité de ses sources de revenus : les salaires perçus et les prestations sociales touchées. Créé pour faciliter le calcul des aides personnalisées pour le logement (APL), le fichier connaît donc une déviation flagrante de sa finalité première. Et l’utilisation que compte en faire la CAF n’est pas brillante : il s’agit d’améliorer la « productivité » de son algorithme de contrôle.
Les revenus des allocataires étaient jusqu’à présent connus annuellement au moment de la déclaration de revenus, ou chaque trimestre auprès des allocataires. La surveillance mensuelle des variations de revenus, en permettant une révision plus serrée des droits des allocataires, permettra sans doute de détecter de plus nombreux « trop perçus » – voilà pour la « productivité ». Et qui sont les personnes dont les revenus varient le plus, et ont le plus besoin des aides sociales ? Les plus pauvres, encore une fois.

En plus de cette discrimination automatisée, cette annonce nous paraît révéler deux problèmes : d’une part l’inefficacité du contrôle opéré par la CNIL, pourtant créée pour surveiller l’usage des fichiers, et d’autre part le dévoiement du projet gouvernemental de « solidarité à la source », annoncé comme un moyen de lutter contre le « non recours » aux aides sociales, en passe de devenir un système de centralisation des donnée pléthorique et sans contrôle.

Lire l’article : https://www.laquadrature.net/2024/03/13/notation-des-allocataires-la-caf-etend-sa-surveillance-a-lanalyse-des-revenus-en-temps-reel/

Soutenir La Quadrature en 2024

Nous sommes toujours en campagne de soutien pour financer notre travail en 2024. C’est pour nous l’occasion de présenter les grands chantiers en cours, principalement la lutte contre les algorithmes de contrôle social dans les administrations, la défense du droit au chiffrement des communications, la promotion de l’interopérabilité des services Web, et la réflexion nécessaire autour du numérique dans le contexte de la crise écologique mondiale.

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don à La Quadrature : https://don.laquadrature.net/

Agenda

• 29 mars 2024 : apéro public dans nos locaux, 115 rue de Ménilmontant, 75020 Paris, à partir de 19h.
• 11 avril 2024 : causerie mensuelle du groupe Technopolice Marseille, au Manifesten, 59 rue Adolphe Thiers, 13001 Marseille, à partir de 19h.

La Quadrature dans les médias

Algos de contrôle social

• CAF : pourquoi la solidarité à la source n’est pas forcément une bonne nouvelle pour les allocataires du RSA et de la prime d’activité [Midi Libre]
• RSA, prime d’activité : la solidarité à la source, un piège pour les allocataires ? [Merci pour l’info]
• RSA, prime d’activité : analyse de vos ressources à la source, ce nouveau piège pour les allocataires [Actualité News]
• Fraude sociale : les bénéficiaires de l’AAH particulièrement visés par la CAF ? [Econostrum]
• CAF : les allocataires du RSA et de la prime d’activité doivent se méfier de la solidarité à la source ! [Les écrans de Paris]
• Révélation choc : Comment le RSA et la prime d’activité pourraient devenir des outils de surveillance [Mobeez]
• La CAF cible-t-elle particulièrement les bénéficiaires de l’AAH pour le fraude sociale ? [Objeko]
• Algorithme CNAF. Quand la branche famille cible les plus précaires? [La CGT Analyses et Propositions]

Surveillance

• Ecoutes, géolocalisations : de plus en plus de personnes sont surveillées en France [Basta!]
• Extension de la surveillance : « On est en plein solutionnisme technologique » [Basta!]

Technopolice : police prédictive

• « Fichage illégal », surveillance sur les réseaux sociaux… La police prédictive est-elle hors-la-loi ? [Usbek & Rica]
• « Police prédictive » : les algorithmes peuvent-ils vraiment devancer les délinquants ? [Usbek & Rica]

Technopolice : VSA et JO

• Vidéoprotection « intelligente » : « L’objectif, c’est qu’elle soit généralisée plus tard », estime la sénatrice LR Agnès Canayer [Public Sénat]
• JO de Paris 2024 : De la vidéosurveillance sans reconnaissance faciale, vraiment ? [20 minutes]
• Paris 2024 : un premier test de la vidéosurveillance algorithmique à l’occasion d’un concert de Depeche Mode [Libération]
• Derniers préparatifs avant le déploiement de la vidéosurveillance algorithmique [Siècle Digital]

Divers

• Comme la quadrature du net, le SMG dénonce le fichage des personnes trans [Syndicat de la médecine générale]
• La France crée un fichier des personnes trans [Dijoncter.info]
• Loi Avia : la mobilisation de la Quadrature du Net contre une censure « autoritaire » [Salle421.eu]

Un nouveau fichier de police pour les immigrées et les transgenres

Un arrêté du ministre de l’Intérieur, dans les derniers jours de décembre 2023, crée un nouveau fichier pour « la consultation de l’identité des personnes ayant changé de nom ou de prénom »., à laquelle les services de police et de gendarmerie auront un accès direct. Vous êtes concernée si vous avez changé de nom à l’état civil, quelle qu’en soit la raison. Concrètement, qui va se retrouver dans ce fichier ? Des personnes dont le nom de famille était lourd à porter (les Connard qui aspirent à une vie plus apaisée), des immigrées qui ont francisé leur nom, et des personnes trans qui ont adopté un prénom en accord avec leur identité de genre. Pourquoi la police a-t-elle besoin de les rassembler dans un fichier ?

On se met à la place des administrations : il est évidement important pour elles de connaître le changement d’état civil d’un personne. Mais des procédures efficace existent déjà et de façon entièrement décentralisée : la modification est signalée au cas par cas aux administrations concernées (impôts, caisses de sécurité sociale, employeur, permis de conduire, etc.), par l’INSEE ou par la personne concernée, et le système fonctionne très bien sans fichier centralisé de police.

Les questions soulevées par la création de ce fichier sont nombreuses. D’abord, il réunit des données sensibles, au sens juridique, mais les précautions légales nécessaires pour ce genre de traitement n’ont pas été prises. La CNIL, créée en 1978 pour mettre un frein à la frénésie de fichage de l’État, semble avoir renoncé à s’en soucier. Non seulement les fichiers prolifèrent de manière spectaculaire depuis une vingtaine d’années, mais les possibilités de les croiser au moment de la consultation se sont démultipliées, à la demande d’une police dont la vision de la société n’est contre-balancée par aucun contre-pouvoir, et même vigoureusement encouragée par les gouvernements.

Or, le comportement du corps policier, pris dans sa globalité statistique, démontre une hostilité marquée à l’égard des personnes d’origine étrangère (même lointainement) et à l’égard des personnes transgenres, fréquemment objets de moqueries, d’humiliations ou de brutalités physiques. Donner aux policiers, ces humains plein de défauts, un moyen de connaître l’origine étrangère ou la transidentité de quelqu’un, c’est exposer les personnes à des risques réels, pour un bénéfice d’enquête très marginal a priori. D’autant plus quand l’actualité montre un nombre croissant d’accès illégaux à des fichiers de police sensibles.

Pour connaître le contexte de la création de ce fichier et notre analyse juridique et politique des risques qu’il comporte, lisez notre article de la semaine dernière !

Lire l’article : https://www.laquadrature.net/2024/01/30/la-france-cree-un-fichier-des-personnes-trans/

Soutenez La Quadrature en 2024

Comme bon nombre d’associations, nous sommes en campagne de soutien pour financer notre travail en 2024. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent, principalement la lutte contre les algorithmes de contrôle social dans les administrations, la défense du droit au chiffrement des communications, la promotion de l’interopérabilité des services Web, et la réflexion nécessaire autour du numérique dans le contexte de la crise écologique mondiale.

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

Agenda

• 13 février 2024 : Conférence « Enquêter, s’organiser et lutter contre la surveillance numérique », dans le cadre du Festival international Filmer le travail. 17h30, Université de Poitiers (Amphi Bourdieu). Plus d’infos ici : Enquêter, s’organiser et lutter contre la surveillance numérique.
• 14 mars 2024 : réunion mensuelle du groupe Technopolice Marseille, à 19h au Manifesten, 59 Rue Adolphe Thiers, Marseille. Présentations, discussions, préparations d’actions à venir. Venez nombreuses !

La Quadrature dans les médias

Algorithmes administratifs

• Contrôles de CAF, des associations demandent au gouvernement la fin des algorithmes de scoring [Le Monde]
• Des associations montent au créneau sur le contrôle algorithmique des allocataires [Acteurs publics]
• Les associations de défense des libertés numériques en guerre contre les algorithmes de la CAF [Siècle Digital]
• Algorithme discriminatoire des CAF : un collectif interpelle Matignon [ASH]
• Une trentaine d’associations demandent la fin des « algorithmes de notation » de la CAF [Clubic]
• Des associations montent au créneau sur le contrôle algorithmique des allocataires [Acteurs publics]
• Mémo Sécu n°18 : Algorithme CNAF : Quand la branche famille cible les plus précaires ? [CGT Finances publiques]
• Les pratiques informatiques de la CAF contestées par des associations [La revue du digital]
• Fraude sociale : voici comment procède la CAF pour contrôler ses allocataires [Econostrum]

Divers

• « Jachère », robots à tout bout de champ, roman posthume de Philippe Aigrain [Libération]
• Félix Tréguer : “La surveillance croit largement avec les techniques d’IA” [Techniques de l’ingénieur]
• JO et surveillance : Des incubateurs de nos non-libertés [CGT Paris]

Comment les polices françaises utilisent les outils de « police prédictive »

Dans le cadre d’une enquête européenne coordonnée par l’ONG Fair Trials, La Quadrature du Net s’est chargée d’enquêter sur les polices françaises et publie un rapport complet sur leurs pratiques numériques de « police prédictive ». Cinq logiciels sont étudiés, utilisés par la police nationale (PredVol, RTM), la gendarmerie (PAVED) ou des polices municipales (Smart Police, M-Pulse).

La « police prédictive » est un rêve de policier : faire entrer dans un logiciel toutes les données possibles, des procès-verbaux de police, des mains courantes et des plaintes, des données fournies par les pompiers, les hôpitaux, le trafic routier, et même la météo, pour prévoir grâce à la puissance de l’intelligence artificielle (cette déesse) et des algorithmes (ses elfes), les lieux et les moments où les délinquants vont sévir. Agrégeant des montagnes de données et les passant à la moulinette de logiciels conçus dans d’autres buts plus sérieux (la prévision des tremblements de terre, par exemple), ces outils n’ont jamais démontré une efficacité supérieure à celle d’un agent expérimenté. Ils risquent en plus d’amplifier les discriminations structurelles auxquelles participe déjà l’institution policière. Cela n’a pas empêché, aux États-Unis, en Grande-Bretagne ou en France, que des sommes considérables leur soient consacrées, dans l’espoir d’affecter les effectifs de police au bon endroit au bon moment, grâce aux prophéties des logiciels.

C’est une lecture en deux temps que nous vous proposons.

D’une part le rapport en lui-même, qui présente avec beaucoup de précision les logiciels, leurs finalités, leur fonctionnement, les données qu’ils exploitent, et les conséquences pratiques qu’ils entraînent pour le travail des agents. Un document de référence sur le sujet, qui croise des informations techniques et opérationnelles, apporte des éléments historiques et met en lien ces « innovations » avec d’autres tendances qui traversent les politiques de sécurité.

D’autre part, un article introductif qui propose une synthèse thématique des présupposés qui entourent ces outils policiers (préjugés sociaux, corrélations approximatives, choix techniques arbitraires) et de leurs conséquences (automatisation et renforcement des logiques de stigmatisation sociale, géographique, etc.). Malgré leur nullité et leur nocivité démontrées, ces outils continuent d’être en usage en France. Notre article se termine donc sur un appel à témoignages : aidez-nous à faire interdire les outils de la répression policière automatisée !

Lire l’article : https://www.laquadrature.net/2024/01/18/la-police-predictive-en-france-contre-lopacite-et-les-discriminations-la-necessite-dune-interdiction/
Lire le rapport : https://www.laquadrature.net/wp-content/uploads/sites/8/2024/01/20240118_LQDN_policepredictive.pdf

Jeux olympiques : la surveillance algorithmique à l’échauffement

Légalisée par la loi Jeux Olympiques en mai 2023, l’utilisation « expérimentale » de la vidéosurveillance algorithmique (VSA) est entrée dans sa phase d’application. Les entreprises candidates pour les essais préalables ont reçu leur part du marché : chacune sait désormais dans quelle zone (il y en a 4), et dans quel secteur d’activité elles pourront déployer leurs logiciels de surveillance automatisée (enceintes sportives, espaces publics, transports, etc.).

N’ayant pas le temps ni les compétences de développer lui même ces solutions, le ministère de l’Intérieur a choisi la facilité, c’est-à-dire d’acheter sur le marché des outils déjà existants. Et sans surprise, on retrouve dans la liste des entreprises retenues tous les « suspects habituels » dont nous suivons le travail depuis plusieurs années dans notre campagne Technopolice.

Rien d’étonnant bien sûr dans le fait de confier un travail à ceux qui le font déjà depuis plusieurs années, même si c’était jusqu’alors de manière illégale. Mais c’est surtout l’entérinement d’une logique purement opérationnelle où les fantasmes policiers et la stratégie industrielle marchent main dans la main. Cet état de fait entraîne à nos yeux les plus grands dangers : la discussion politique et la prudence démocratique sont évacuées et annulées par la logique unie de l’industrie et de la police, l’une répondant aux vœux de l’autre, l’autre validant seule les propositions techniques de l’une. Le « comité de pilotage » du dispositif au sein de ministère de l’Intérieur est d’ailleurs dirigé par une haute fonctionnaire spécialiste des « industries et innovations de sécurité », et chargée de faciliter les partenariats entre la puissance publique et les entreprises privées nationales. Les citoyens et leurs droits ne sont pas invités à la table.

Les dispositifs de VSA vont donc se déployer dans les semaines qui viennent, et la période d’expérimentation durera bien au-delà des JO de Paris, jusqu’en mars 2025, lors d’évènements d’ordre « récréatif, sportif et culturel » (le délassement oui, mais sous surveillance). Un « comité d’évaluation » constitué de deux « collèges » aura son mot à dire sur les résultats de ces expériences. On n’attend rien de surprenant venant du collège des utilisateurs eux-mêmes (police et autres), et notre attention se portera sur le second collège qui doit réunir des chercheurs, des juristes et des parlementaires — nous verrons. Pour l’heure, tout est en place pour valider à l’avance le succès et la pérennisation de ces mesures exceptionnelles — « Plus vite, plus haut, plus fort ».

Vous trouverez dans l’article le détail des cas d’usage, les noms des entreprises retenues, et le détail du dispositif d’évaluation, avec ses comités et ses collèges. Bonne lecture à vous !

Lire l’article : https://www.laquadrature.net/2024/01/26/vsa-et-jeux-olympiques-coup-denvoi-pour-les-entreprises-de-surveillance/

L’Union européenne se couche devant les outils numériques de surveillance de masse

L’Union européenne travaille sur un règlement autour de l’intelligence artificielle (IA), dont le texte a été rendu public en décembre 2023. Sous la pression de plusieurs États, la France en tête, le texte se contente d’encadrer l’utilisation des techniques de surveillance biométrique de masse (SBM), qui recoupent en partie les applications de la vidéosurveillance algorithmique (VSA), au lieu de les interdire. Le continent qui se targue d’avoir enfanté les droits de l’Homme et la liberté démocratique ne trouve donc aucune raison de s’opposer à la surveillance systématique et massive des citoyens.

La reconnaissance des émotions ou des couleurs de peaux ont par exemple passé les filtres démocratiques et se retrouve autorisée par le règlement IA. De même pour la reconnaissance faciale a posteriori, d’abord réservée à des crimes graves et désormais acceptée dans bien d’autres cas, sans limites claires.

La coalition européenne Reclaim Your Face, dont fait partie La Quadrature du Net, a publié le 18 janvier un communiqué de presse en anglais et en allemand pour avertir des dangers réels et imminents qui pèsent sur l’ensemble des Européens, quelques semaines avant des élections européennes dont on dit qu’elles verront probablement les partis d’extrême-droite sortir vainqueurs. Nous publions sur notre site la version française de ce communiqué.

Lire l’article : https://www.laquadrature.net/2024/01/19/le-reglement-europeen-sur-lia-ninterdira-pas-la-surveillance-biometrique-de-masse/

Soutenez La Quadrature en 2024 !

Comme bon nombre d’associations, nous sommes en campagne de soutien pour financer notre travail en 2024. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent, principalement la lutte contre les algorithmes de contrôle social dans les administrations, la défense du droit au chiffrement des communications, la promotion de l’interopérabilité des services Web, et la réflexion nécessaire autour du numérique dans le contexte de la crise écologique mondiale.

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

Agenda

• 27 janvier 2024 : La Quadrature sera aux 3ème Assises de l’attention, pour parler de démocratie à l’heure du numérique – de 9h à 18h30, Académie du Climat, 2 place Baudoyer, 75004 Paris. Détails ici : https://www.collectifattention.com/assises-de-lattention/assises-2024/.
• 8 février 2024 : Causerie mensuelle du groupe Technopolice Marseille – à 19h00 au Manifesten, 59 Rue Adolphe Thiers Marseille. Venez nombreuses !

La Quadrature dans les médias

À écouter

• StakkaStakka 17 Gennaio – La quadratura della rete (entretien avec Noémie Levain, en italien) [ActuIA]
• Contre-histoire d’internet du XVe siècle à nos jours(entretien avec Félix Tréguer) [Lundi matin]

Algorithmes administratifs

• Les algorithmes de notation pour les droits sociaux, un sujet particulièrement sensible [ActuIA]

GAFAM et données personnelles

• RGPD : Amazon monte au créneau face à l’UE et fait appel face à l’amende « record » de 746 millions d’euros [Clubic]
• Amazon Appeals Privacy Fine of 746 Million Euros [bankinfosecurity.com]

Divers

• JO de Paris : l’installation de vidéosurveillance « intelligente » génère des inquiétudes [Nouvel Obs]
• La Quadrature réitère son appel à l’interdiction des logiciels de police prédictive [Next]

Société de contrôle (1) : les outils illégaux de la surveillance municipale

Notre campagne Technopolice a déjà quatre ans, et les acteurs de l’industrie française de la surveillance sont bien identifiés. Lobby industriel, député porte-cause, discours sécuritaire dicté par la police, on connaît le paysage. Voici venu le temps de s’intéresser plus en détail aux entreprises privées qui fleurissent dans le sillage de ce marché économique considérable, où les fonds publics abondent sans discussion pour mieux nous surveiller.

Cette semaine, penchons-nous sur le cas de la société Edicia, basée à Nantes. Elle s’engraisse en fournissant à de nombreuses polices municipales françaises une « solution » baptisée Smart Police, logiciel embarqué sur terminal mobile qui permet aux agents de prendre des notes, de rédiger des rapports, et à leur supérieur resté au commissariat de mieux les manager. Nous avons obtenu le manuel d’utilisation de Smart Police, grâce auquel nous pouvons avoir une idée précise de ce que les agents municipaux peuvent faire, et des conséquences pratiques de ces nouvelles facilités opérationnelles. Une lecture édifiante : l’outil, dans sa grande variété et sa grande souplesse, permet des pratiques contraires au cadre réglementaire qui régit les polices municipales.

Fichage sans autorisation, croisement de données, photographies des personnes contrôlées : là où l’idéologie sécuritaire voit du bon sens, nous voyons des usages clairement illégaux et une victoire de facto de la surveillance systématisée. Pour en savoir plus, lisez l’article, qui s’inscrit dans une enquête sur les outils numériques de la « police prédictive » et sera suivi par d’autres publications.

Lire l’article : https://www.laquadrature.net/2024/01/10/smart-police-dedicia-le-logiciel-a-tout-faire-des-polices-municipales/

Société de contrôle (2) : la CAF défend son programme de chasse aux pauvres

Notre enquête sur les algorithmes de contrôle social n’en est encore qu’à son début, mais elle a déjà produit quelques effets : après notre analyse de son algorithme de notation des allocataires, la Caisse nationale d’allocations familiales (CNAF) est bien obligée de se justifier publiquement au sujet de ses pratiques discriminatoires.

La réponse du directeur de la CNAF, entre déni et diversion, relève de la communication de crise. Mais les faits que nous constatons dans l’analyse de l’algorithme lui-même restent irréfutables. Et derrière l’autosatisfaction de l’institution, saluée aussi par les députés de la majorité présidentielle pour son efficacité dans la chasse aux pauvres, on voit un jeu de dupes : loin d’une rentabilité réelle, et à rebours de la « fraternité » républicaine de la société avec ses membres les plus précaires, le contrôle systématique par algorithme sert l’idéologie d’une efficacité gestionnaire où le recours aux outils numériques habille de modernité des choix politiques et sociaux inégalitaires. Analyse du discours de la CNAF et réponse point par point dans notre article !

Lire l’article : https://www.laquadrature.net/2024/01/11/notation-des-allocataires-face-aux-faits-la-caf-senferme-dans-le-deni-et-la-mauvaise-foi/

Soutenez La Quadrature en 2024 !

Comme bon nombre d’associations, nous sommes en campagne de soutien pour financer notre travail en 2024. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent, principalement la lutte contre les algorithmes de contrôle social dans les administrations, la défense du droit au chiffrement des communications, la promotion de l’interopérabilité des services Web, et la réflexion nécessaire autour du numérique dans le contexte de la crise écologique mondiale.

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

Agenda

• 13 janvier 2024 : atelier sur Internet, l’anonymat et la Technopolice, en collaboration avec la Compagnie RYBN.org – 14h-20h, à La Compagnie, 19 rue Francis de Pressensé, Marseille. Détails  : https://www.la-compagnie.org/portfolio/rybncapitalismsxit/.
• 19 janvier 2024 : Quadrapéro parisien à partir de 19h dans nos locaux au 115 rue de Ménilmontant, 75020 Paris.
• 25 janvier 2024 : soirée sur la vidéosurveillance algorithmique organisée par le groupe ATTAC Nord Ouest à 19h30 à la Maison des associations du 18e, 15 Passage Ramey, 75018 Paris.
• 27 janvier 2024 : La Quadrature sera aux 3e Assises de l’Attention, pour parler de démocratie à l’heure du numérique – 9h-18h30, Académie du Climat, 2 place Baudoyer, 75004 Paris. Détails ici : https://www.collectifattention.com/assises-de-lattention/assises-2024/.

La Quadrature dans les médias

À écouter

• Conférence de La Quadrature au Chaos Communication Congress (#37C3), en anglais : « A year of surveillance in France: a short satirical tale by La Quadrature du Net »

Algorithmes administratifs

• « L’algorithme de la CAF conduit à un surcontrôle des populations les plus précaires » [Alternatives économiques]
• EELV en croisade contre la « pauvrophobie d’Etat » [L’Internaute]
• Rendre accessibles les algorithmes, un vœu pieux ? [La gazette des communes]
• RSA, APL, AAH, prime d’activité… Que risque-t-on lorsqu’on fraude les aides de la CAF ? [Merci pour l’info]
• Le grand méchant score social qui cache la forêt [Numerama]

IA de surveillance

• Philippe Latombe, député macroniste et VRP de la surveillance [StreetPress]
• En prévision des JO, la SNCF a testé plus d’une dizaine d’algorithmes de vidéosurveillance [Mediapart]
• Paris 2024, le retour des JO dans un pays libre? Oui mais… [Le Temps]
• Vidéosurveillance à Moirans : La Quadrature du net déboutée par le Conseil d’État mais l’affaire n’est pas terminée [Le Dauphiné libéré]
• Comment des drones et l’IA vont bientôt contrôler le trafic routier de cette mégalopole asiatique [Ouest-France]
• AI is powering a revolution in policing, at the Olympics and beyond [The Washington Post]
• Nizza: le telecamere di sorveglianza sfruttano l’AI [La Svolta]

Interopérabilité

• Quatre choses à savoir sur le «fédivers» dont parle Threads, le nouveau réseau social de Meta [Libération]
• Meta : c’est quoi le Fédivers, la prochaine conquête de Mark Zuckerberg ? [Phonandroid]

Fichage

• « SISPoPP », le nouveau fichier qui fâche [Mediapart]
• SISPoPP : tout savoir sur le nouveau fichier des tribunaux qui inquiète tant [Comment ça marche]

Données personnelles

• Les étranges excuses d’Amazon pour échapper à son amende record [01Net]
• Amazon attacks EU privacy watchdog it claims was out to get it [Bloomberg]

Divers

• Le Fisc pourra davantage traquer les fraudeurs sur les réseaux sociaux [01Net]
• Les services secrets américains pourront tranquillement nous espionner jusqu’en avril 2024 [01Net]

Procès du « 8 décembre » : le compte-rendu

Le procès de l’affaire du « 8 décembre » s’est tenu du 3 au 27 octobre dernier au tribunal de Paris. Nous en avions longuement parlé dans plusieurs articles avant l’audience, car la DGSI et le parquet national antiterroriste (PNAT), faute de trouver le moindre projet antiterroriste, reprochaient entre autres aux inculpé·es de chiffrer leurs données (disques durs et communications numériques), ce qui prouverait leur goût pour la « clandestinité ».

Bien entendu, la criminalisation du chiffrement des données est à la fois une aberration, puisque tout le monde utilise le chiffrement cent fois par jour, dans les messageries chiffrées (WhatsApp, Telegram, Signal ou autre), dans les connexions https ou dans le simple fait de protéger son disque dur ou son téléphone avec un mot de passe — et un vrai danger pour le droit fondamental à la vie privé et au secret des communications.
Les délires interprétatifs du PNAT et de la DGSI, payés pour voir le mal partout, pourraient passer pour une plaisanterie si d’une part leur suspicion n’avait pas bousillé la vie des sept inculpé·es, et si d’autre part le droit au chiffrement n’était pas remis en cause de façon concomitante par les États à tous les niveaux, aussi bien en France qu’en Europe.

Mais quelle place la question du chiffrement des communications a-t-elle réellement occupée lors des audiences du procès ? Nous y étions. Vous pouvez lire notre compte-rendu sur notre site.

Lire l’article : https://www.laquadrature.net/2023/12/14/outils-de-chiffrement-lors-du-proces-du-8-decembre-du-fantasme-a-la-realite/

Soutenez La Quadrature en 2024

Comme bon nombre d’associations, nous avons lancé fin novembre notre campagne de soutien pour l’année qui vient. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent en 2024, principalement la lutte contre les algorithmes de contrôle social dans les administrations, la défense du droit au chiffrement des communications, la promotion de l’interopérabilité des services Web, et la réflexion nécessaire autour du numérique dans le contexte de la crise écologique mondiale.

Cette semaine, nos publications ont mis l’accent sur la question de la dimension écologique du numérique, ou plutôt de sa nuisance écologique. Vous pouvez retrouver l’ensemble de nos « fils » sur nos réseaux sociaux : le numérique, à cause de la fabrication du matériel et de la consommation effrénée qu’entraîne une course artificielle à « l’innovation », participe aujourd’hui de façon très notable à la destruction de notre environnement, et se fait le vecteur privilégié de la publicité, qui a envahi le web au point de menacer son équilibre et son fonctionnement.

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

La Quadrature dans les médias

À écouter

• JO : à quoi sommes-nous prêts à renoncer pour notre sécurité ? [France Culture]
• Une contre-histoire d’internet par Félix Tréguer [Actualité des luttes]

Algorithmes administratifs

• Entre la CAF et ses allocataires, l’algorithme de la discorde [La Croix]
• La CAF accusée de « ciblage discriminatoire » à cause de la technologie du « datamining » [Econostrum]
• Un arrêt de la Cour de justice de l’UE met en péril les algorithmes de « scoring » [Euractiv]

IA de surveillance

• EU: AI Act negotiators must not trade away our rights [Article 19]
• Surveillance biométrique, police prédictive, détection des émotions… ce que contient l’IA Act européen [L’Humanité]

Agenda

• 27-30 décembre 2023 : La Quadrature du Net sera au 37e Chaos Communication Congress (37C3) à Hambourg et tiendra une conférence le 28 décembre à midi (sauf changement de dernière minute par l’organisation) : https://events.ccc.de/congress/2023/infos/startpage.html.
• 11 janvier 2024 : Causerie mensuelle Technopolice Marseille – 19h – au Manifesten, 59 Rue Adolphe Thiers, à Marseille.

Interopérabilité : la voie à ouvrir pour le Web en 2024

L’interopérabilité des services Web, on vous en parle depuis un bail : en mai 2019, on signait une lettre commune avec 75 autres organisations européennes pour que l’idée soit inscrite dans les lois au niveau de l’Union, en juin 2019 on expliquait comment cette ouverture des réseaux sociaux permettrait d’échapper à l’algorithmisation des contenus haineux, et on republiait l’article de Stéphane Bortzmeyer qui vulgarisait excellemment bien la notion technique et politique d’interopérabilité.
En septembre 2020, nous saisissions l’opportunité d’une consultation en vue du Digital Service Act (DSA) pour pousser cette idée au sein de la Commission européenne.

Depuis lors, l’idée a fait son chemin. Nous n’avons cessé de l’affiner et de la proposer, sous forme d’élément d’analyse du débat et d’amendements législatifs, lors des débats parlementaires qui ont eu lieu à l’occasion de la loi Avia « contre la haine en ligne » ou de bien d’autres, à chaque fois en vérité que le gouvernement a préféré confier aux GAFAM et aux grands réseaux sociaux privés un pouvoir de censure et de surveillance supplémentaire, sans réfléchir aux mécanismes qui donnent à ces plateformes géantes une responsabilité démesurée dans le pourrissement du débat démocratique.

L’idée est mûre et doit maintenant s’inscrire dans la loi française et européenne. Mais c’est quoi l’interopérabilité ? Un principe tout simple, qui est à la racine d’Internet et à permis son essor incroyable : les services similaires utilisent les mêmes protocoles, ou les mêmes standards techniques, pour communiquer entre eux. L’exemple classique est celui de l’e-mail : sans un protocole commun, les utilisateurs de GMail ne pourraient pas écrire à ceux de Microsoft Outlook ou de ProtonMail. Or, à l’heure actuelle, les utilisateurs de Twitter, de Facebook, d’Instagram ou de BlueSky ne peuvent pas échanger entre eux. Chacun est captif chez soi, enfermé dans son « silo », à l’encontre de l’idée même du réseau ouvert et décentralisé d’Internet.

Les conséquences de cet enfermement sont innombrables et toutes sont toxiques. D’abord, ce public captif est soumis à une exploitation débridée (et illégale) de ses données personnelles, pour être ensuite gavé de publicités soi-disant « ciblées ». Ensuite, chaque personne étant enfermée avec des personnes qu’elle n’a pas forcément envie de fréquenter, des adversaires politiques radicaux par exemple, la plateforme en tire un avantage cynique : les algorithmes promeuvent en priorité les messages qui suscitent le plus « d’engagement », c’est-à-dire d’hostilité et de réactions outrées, afin de retenir les gens collés à l’écran, et de leur infliger encore plus de publicité… Enfin, quand on veut quitter cet enfer de polémiques stériles, de consumérisme abyssal et de conflictualité exacerbée, on doit laisser derrière soi tous ses contacts, « amis » ou « followers », c’est-à-dire renoncer à tout un pan de sa sociabilité, qui n’a rien de « virtuel » ou d’inférieur, dans son degré de réalité et d’importance, avec la sociabilité quotidienne ordinaire.

Imposer à ces plateformes toxiques une obligation d’être interopérables, c’est mettre fin à ces trois poisons que sont la surveillance publicitaire, l’antagonisation de la société, et la confiscation des liens amicaux. Quand on pourra s’inscrire à un réseau social libre, Mastodon par exemple, avec la garantie de ne pas y subir de publicité, d’y suivre des règles de modération auxquelles on adhère et auxquelles on peut même participer, et qu’on pourra y retrouver ses contacts qui utilisent d’autres services, alors la tyrannie de Twitter, de Facebook ou d’Instagram aura cessé d’exister.

Pour poser et expliquer très finement les mécanismes un peu expédiés ici, nous avons écrit un article exhaustif, qui sera notre référence dans les mois qui viennent et pour tous nos plaidoyers en faveur de l’interopérabilité. Une lecture solide à garder dans vos signets !

Notre argumentaire complet sur l’interopérabilité : https://www.laquadrature.net/interop/

Soutenez La Quadrature en 2024

Comme bon nombre d’associations, nous avons lancé fin novembre notre campagne de soutien pour l’année qui vient. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent en 2024, principalement la lutte contre les algorithmes de contrôle social dans les administrations, la réflexion nécessaire autour du numérique dans le contexte de la crise écologique, la défense du droit au chiffrement des communications, et la promotion de l’interopérabilité des services Web.

Cette semaine, nos publications ont mis l’accent sur les enjeux de l’interopérabilité, seule à même de briser le carcan des GAFAM et de nuire à l’envahissement de la publicité. Vous pouvez retrouver l’ensemble de nos « fils » sur nos réseaux sociaux : comment les grandes plateformes sont fermées grâce à leur structure technique, comment la fermeture des plateformes convient à leur nature de régies publicitaires géantes, comment la centralisation dans les grands réseaux sociaux privés favorise la censure d’État, et comment on peut imaginer les services alternatifs et interopérables de demain, et même d’aujourd’hui.

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

La Quadrature dans les médias

Algo de la CAF

• L’algorithme de la CAF « automatise et amplifie les discriminations », selon La Quadrature du Net [Causette]
• L’algorithme de la CAF profile et discrimine ses allocataires [L’Humanité]
• Plus on est pauvre, plus on est contrôlé : la révélation des méthodes de la Cnaf interroge [Mediapart]
• L’opacité des algorithmes favorise les dérives au sein des établissements publics [Le Monde]
• ATD Quart Monde demande aux CAF d’abandonner leur algorithme « discriminatoire et pauvrophobe » [Le Monde]
• Algorithme des CAF : le département de Seine-Saint-Denis saisit la Défenseure des droits [Le Monde]
• Contrôles de la CAF : « En tant que mère célibataire, j’ai été ciblée par l’algorithme » [L’Obs]
• La CAF surveille-t-elle plus ses allocataires handicapés ? [Handicap.fr]
• Un projet d’IA peut en cacher un autre… moins éthique [Stratégies]

Divers

• De l’Internet libre à la dérive techno-autoritaire [Cairn]
• Reconnaissance faciale, les recours se multiplient [La Croix]
• Comment le Conseil d’État est devenu l’omniprésent arbitre des libertés [Mediapart]
• Le chiffrement, un droit fondamental à défendre [Ritimo]

Agenda

• 8 décembre 2023 : Réunion d’information Technopolice à Rouen — à partir de 18h30, Maison des associations et la solidarité, 22 bis rue Dumont d’Urville, Rouen.
• 14 décembre 2023 : Causerie mensuelle du groupe Technopolice Marseille — à partir de 19h, Manifesten, 59 Rue Adolphe Thiers, Marseille.
• 14 décembre 2023 : Table ronde au festival OSINT à La Gaité Lyrique – à 11h, à La Gaité Lyrique, 259 rue Saint-Martin 75003 Paris. Plus d’informations sur cette page.
• 27-30 décembre 2023 : La Quadrature sera au 37e Chaos Communication Congress à Hambourg.

Algorithmes de suspicion de la CAF : la preuve par les faits

C’est une enquête qui a duré 18 mois. Dès avril 2022, conjointement avec le collectif Changer de Cap, nous demandions l’arrêt des pratiques discriminatoires de la Caisse d’allocations familiales (CAF), qui utilise un algorithme pour attribuer un « score de suspicion » aux bénéficiaires des aides sociales, pour détecter les personnes les plus susceptibles de percevoir des sommes indues. Sous prétexte de lutter contre la « fraude sociale » — une ambition très populaire dans l’idéologie de la chasse à « l’assistanat » — fraude réelle dont toutes les études au sein même des agences de l’État ont depuis longtemps démontré qu’elle est majoritairement une fraude aux cotisations de la part des employeurs notamment, il s’agit avec cet algorithme de débusquer plutôt les bénéficiaires qui, du fait de la complexité des règles relatives aux minima sociaux, auraient touché des sommes plus importantes que celles à quoi ils et elles auraient droit.

Le « bon sens » tel qu’il s’exprime sur les réseaux sociaux, et nous avons pu le constater à chaque publication de nos articles, ne trouve pas d’inconvénient à ce procédé : « Il faut bien attraper les fraudeurs ! Vous préférez ne rien faire ? ». On peut discuter le principe, mais ce n’est pas le sujet. Le problème, comme souvent, est dans la manière de faire.

En pratique, la CAF dispose d’environ 1 000 types de données différents sur les allocataires et en utilise une quarantaine pour passer au crible la vie d’environ 13 millions de personnes. Leur vie personnelle et intime, sous prétexte de leur donner ou non de l’argent public, devient l’objet d’une analyse et d’un jugement, de fond en comble. Le logiciel mouline cette masse d’informations avec son petit mécanisme et sort à la fin pour chaque bénéficiaire un « score de suspicion » compris entre 0 et 1. S’il se rapproche de 1, le risque de fraude est considéré comme étant plus grand, et la personne concernée fera l’objet d’un contrôle humain par des agents soumis à une pression de rentabilité. En pratique, la sanction algorithmique touche d’abord les personnes les plus pauvres, soit que l’allocation retirée ou réduite représente une partie importante de leurs revenus de survie, soit qu’elle en représente la totalité.

Plus grave encore : nous avions l’intuition, après l’étude de plusieurs cas particuliers, que les critères qui faisaient augmenter le score de suspicion incluaient le fait d’être d’origine étrangère, de toucher le RSA, ou d’être une femme seule qui élève des enfants. Pour en avoir le cœur net, nous avions demandé à la CAF, par l’intermédiaire d’une « demande Cada », de publier son algorithme de calcul. La CAF a refusé autant qu’elle a pu de fournir le code-source logiciel, sous prétexte que sa publication permettrait aux « fraudeurs » de le contourner — peut-être en arrêtant fourbement d’être une femme noire au RSA, par exemple ?

Mais, faute d’avoir accès à la version actuelle, nous avons enfin obtenu la communication d’une ancienne version de cet algorithme de « scoring », et notre analyse est sans appel : oui, l’algo de flicage de la CAF pénalise, dans sa structure même et dans le poids qu’il donne aux critères d’évaluation, les personnes à l’emploi précaire, qui doivent changer de logement souvent et, de manière générale, qui ont des parcours de vie compliqués. Autrement dit, les personnes les plus précaires se retrouvent traquées et sanctionnées par une administration sociale. Nous demandons par conséquent l’interdiction de cette technologie numérique de contrôle social, qui cache sous la prétendue neutralité de la technique une politique sociale discriminatoire, dégradante et injuste.

Notre analyse complète de l’algorithme de la CAF : https://www.laquadrature.net/2023/11/27/notation-des-allocataires-lindecence-des-pratiques-de-la-caf-desormais-indeniable/

Soutenez La Quadrature en 2024

Comme bon nombre d’associations, nous avons lancé il y a quinze jours notre campagne de soutien pour l’année qui vient. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent en 2024, principalement la promotion de l’interopérabilité des services Web, la lutte contre les algorithmes de contrôle social dans les administrations, la réflexion nécessaire autour du numérique dans le contexte de la crise écologique, et la défense du droit au chiffrement des communications.

Cette semaine, nos publications ont mis l’accent sur la question des algorithmes administratifs, dont notre travail sur l’algo de suspicion de la CAF était le point culminant. Vous pouvez retrouver l’ensemble de nos « fils » sur nos réseaux sociaux : la présentation de notre travail sur la CAF, une invitation à rejoindre la lutte contre les algos administratifs en demandant votre propre « score de risque », et un panorama du travail mené par ou avec nos partenaires européens.

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

La Quadrature dans les médias

Algo de la CAF

• Fraude sociale : selon la Quadrature du net, l’algorithme de la Cnaf a un « fonctionnement délibérément discriminatoire » [France Info TV]
• Qu’est-ce que le « score de suspicion » de la CAF, accusée de discriminer les plus précaires ? [Le Parisien]
• Allocations familiales : un « score de suspicion » antifraude accusé de discriminer les plus précaires à la CAF [RTL]
• Allocations familiales : un algorithme anti-fraude critiqué par des associations [Le Figaro]
• L’algorithme de la CAF, « un système de surveillance de masse particulièrement pernicieux » selon la Quadrature du Net [Clubic]
• Fraude aux allocations familiales : la CAF utilise bien des algorithmes qui ciblent les plus précaires, selon la Quadrature du Net [01Net]
• L’algorithme qui n’aimait pas les pauvres [Le Pavé numérique]
• La Quadrature du Net dénonce un « algorithme de la honte » utilisé par la CAF [Siècle Digital]

Divers

• Reconnaissance faciale : le logiciel de BriefCam devant le Conseil d’État [Mediapart]
• Vidéosurveillance algorithmique : mais que fait la police ? [France Culture]
• Contrôle de la majorité, cyberharcèlement… pourquoi la loi SREN inquiète autant ? [Journal du Geek]

Agenda

• 2 décembre 2023 : le groupe Saccage 2024 appelle à une journée d’action contre les Jeux Olympiques de Paris 2024, notamment en raison des mesures de surveillance numérique prévues par la loi JO. Plus d’informations : https://saccage2024.noblogs.org/archives/2480.
• 8 décembre 2023 : Réunion d’information Technopolice à Rouen — à partir de 18h30, Maison des associations et la solidarité, 22 bis rue Dumont d’Urville, Rouen.
• 14 décembre 2023 : Causerie mensuelle du groupe Technopolice Marseille — à partir de 19h, Manifesten, 59 Rue Adolphe Thiers, Marseille.
• 14 décembre 2023 : Table ronde au festival OSINT à La Gaité Lyrique – à 11h, à La Gaité Lyrique, 259 rue Saint-Martin 75003 Paris. Plus d’informations sur https://www.gaite-lyrique.net/evenement/festival-osint
• 27-30 décembre 2023 : La Quadrature sera au 37e Chaos Communication Congress à Hambourg : https://events.ccc.de/category/37c3/.

Campagne de soutien 2024 : gros plan sur le Chiffrement

Comme bon nombre d’associations, vous le savez, nous avons lancé la semaine dernière notre campagne de soutien pour l’année qui vient. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent en 2024, principalement la promotion de l’interopérabilité des services Web, la lutte contre les algorithmes de contrôle social dans les administrations, la réflexion nécessaire autour du numérique nécessaire dans le contexte de la crise écologique, et la défense du droit au chiffrement des communications.

Cette semaine, nos publications ont mis l’accent sur la défense du chiffrement. Vous pouvez retrouver l’ensemble de ces « fils » sur nos réseaux sociaux : ici la présentation générale de la problématique, ici la nécessité du chiffrement pour que les réseaux soient structurellement compatibles avec le droit fondamental à la vie privée, ici les risques que le règlement européen CSAR, surnommé « Chat Control », fait peser sur le chiffrement de bout en bout des messageries instantanées, ici le rappel des fantasmes du ministre de l’Intérieur selon qui le chiffrement des communications par les militant·es politiques couvre la prolifération des projets « clandestins » fomentés par « les extrêmes », et enfin ici nous racontons comment le chiffrement, dans la logique de la DGSI, est carrément devenu un élément à charge dans le procès des inculpé·es de l’affaire du « 8 décembre ».

Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !

Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

Censure constitutionnelle des mouchards audio, mais la géolocalisation passe l’épreuve

Le 16 novembre dernier, le Conseil constitutionnel, après avoir examiné la loi de programmation et d’orientation du ministère de la justice (LOPJ), a censuré la disposition qui autorisait les services de renseignement et de police à transformer les objets connectés en « mouchards » en les activant à distance (avec des techniques d’intrusion), pour utiliser leur micro ou leur caméra en toute discrétion dans le cadre de leurs enquêtes.

L’Observatoire des Libertés et du Numérique (OLN), dont La Quadrature du Net fait partie, s’était prononcé contre cette légalisation de l’espionnage policier, mal bordée par des conditions trop faciles à élargir dans l’usage, une fois l’idée rendue acceptable et banalisée.

Aujourd’hui, l’OLN se réjouit donc de la censure des « mouchards » comme micros ou comme caméras à distance, tout en soulignant le gros défaut de cette censure : l’activation à distance des objets connectés pour géo-localiser leur propriétaire reste autorisée par la loi. Si cela paraît moins grave, alors la stratégie du « chiffon rouge » chère au gouvernement aura fonctionné encore une fois : introduire une mesure inacceptable pour camoufler une mesure tout aussi contestable mais moins scandaleuse. Vous ne voulez pas être légalement écouté·es par les services de renseignement ? D’accord, d’accord… Mais vous serez légalement localisé·es.

La réaction de l’OLN : https://www.laquadrature.net/2023/11/23/censure-de-la-surveillance-par-mouchard-loln-ne-crie-pas-victoire/

La Quadrature dans les médias

Reconnaissance faciale et police

• Vidéosurveillance : Gérald Darmanin lance une enquête administrative sur l’utilisation de la reconnaissance faciale — https://www.humanite.fr/societe/disclose/videosurveillance-gerald-darmanin-lance-une-enquete-administrative-sur-lutilisation-de-la-reconnaissance-faciale [L’Humanité]
• La CNIL et le ministère de l’Intérieur vont enquêter sur la reconnaissance faciale à des fins policières — https://next.ink/678/la-cnil-et-ministere-interieur-vont-enqueter-sur-reconnaissance-faciale-a-fins-policieres/ [Next]
• La police accusée d’utiliser illégalement un logiciel de reconnaissance faciale : la CNIL ouvre une enquête ! — https://www.clubic.com/actualite-509302-la-police-accusee-d-utiliser-illegalement-un-logiciel-de-reconnaissance-faciale-la-cnil-ouvre-une-enquete.html [Clubic]
• Les policiers municipaux ont constitué leurs propres fichiers de délinquants dans cette commune azuréenne — https://www.monacomatin.mc/justice/a-saint-laurent-du-var-les-policiers-municipaux-ont-constitue-leurs-propres-fichiers-de-delinquants-886441 [Monaco-Matin]

Agenda

• 30 novembre 2023 : Rencontre autour de Contre-histoire d’Internet — à partir de 19h, La Carmagnole, Montpellier.
• 2 décembre 2023 : le groupe Saccage 2024 appelle à une journée d’action contre les Jeux Olympiques de Paris 2024, notamment en raison des mesures de surveillance numérique prévues par la loi JO. Plus d’informations : https://saccage2024.noblogs.org/archives/2480.
• 8 décembre 2023 : Réunion d’information Technopolice à Rouen — à partir de 18h30, Maison des associations et la solidarité, 22 bis rue Dumont d’Urville, Rouen.
• 14 décembre 2023 : Causerie mensuelle du groupe Technopolice Marseille — à partir de 19h, Manifesten, 59 Rue Adolphe Thiers, Marseille.
• 14 décembre 2023 : Table ronde au festival OSINT à La Gaité Lyrique – à 11h, à La Gaité Lyrique, 259 rue Saint-Martin 75003 Paris. Plus d’informations sur https://www.gaite-lyrique.net/evenement/festival-osint
• 27-30 décembre 2023 : La Quadrature sera au 37e Chaos Communication Congress à Hambourg : https://events.ccc.de/category/37c3/.

Campagne 2024 : c’est le moment de soutenir La Quadrature !

Comme chaque fin d’année à l’approche de l’hiver, nous lançons notre campagne de soutien pour financer l’année qui vient. Si vous pouvez faire un don pour nous aider à travailler en 2024, c’est maintenant, et c’est ici !

Pour nous, c’est bien sûr aussi un moment important pour réfléchir aux chantiers qui nous attendent, en plus de ceux qui nous occupent déjà beaucoup. Sans cesse il faut faire des choix, décider où mettre le temps et l’énergie qui ne sont pas illimitées. Alors on se donne une sorte de « feuille de route » pour garder le cap, sans s’interdire bien sûr de se consacrer aux surprises bonnes ou mauvaises de l’actualité quand elles se présenteront. Cette « feuille de route » est ici.

Nous porterons plus haut que jamais l’idée et la nécessité d’obliger les services web à l’interopérabilité, seul moyen de lutter contre la recentralisation du Web et la tyrannie de l’économie de l’attention. Nous lutterons autant que nécessaire contre les algorithmes utilisés par les administrations pour criminaliser et punir les bénéficiaires des services sociaux. Nous défendrons le droit au chiffrement des communications, attaqué de toutes parts par les gouvernements français et européens sous prétexte de lutter contre le terrorisme, au mépris du droit fondamental qu’est le secret des correspondances, vital pour les démocraties. Et enfin, nous réfléchirons à ce que le numérique fait au monde, non seulement selon les points de vues sociaux et politiques qui sont les nôtres depuis toujours, mais aussi du point de vue écologique, dans le contexte bien connu de la destruction de l’écosystème par les activités humaines. Quels usages faut-il promouvoir et lesquels abandonner ? Il nous semble que La Quadrature à quelque chose à en dire : « l’écologie sans la politique, c’est du jardinage », dit le dicton.

Nous aurons donc beaucoup à faire dans l’année qui vient. Alors si vous le pouvez, soutenez-nous ! Tous les dons sont les bienvenus, même les tout petits, et les dons mensuels même minimes auront toujours notre prédilection parce qu’ils nous permettent d’envisager le budget de l’année avec plus de sérénité. Merci pour tout ce que vous pourrez faire, et merci aussi de faire connaître cette campagne de soutien sur vos réseaux sociaux !

Lire notre feuille de route pour 2024 : https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://www.laquadrature.net/donner/

Révélation : la police nationale utilise de manière illégale les logiciels de VSA de la société Briefcam

C’est l’association Disclose qui a publié l’information après une enquête approfondie : la police nationale utilise en toute illégalité et en toute connaissance de cause les logiciels de la société Briefcam, qui appliquent un traitement algorithmique aux photos et aux flux de vidéosurveillance pour analyser les images et identifier des personnes par reconnaissance faciale.

Nous avons documenté depuis quelque temps l’utilisation de ce logiciel ou d’outils similaires par les polices municipales, mais nous n’avions pas de preuves concernant les pratiques de la police nationale. C’est aujourd’hui chose faite>. Nous rappelons dans un article de réaction à cette publication de Disclose les éléments juridiques qui posent l’illégalité du dispositif, et nous en appelons aussi à la CNIL, beaucoup trop conciliante jusqu’à présent avec les usages illégaux de la reconnaissance faciale et de logiciels d’analyse par les forces de police.

Lire l’article de Disclose : https://disclose.ngo/fr/article/la-police-nationale-utilise-illegalement-un-logiciel-israelien-de-reconnaissance-faciale/
Notre réaction : https://www.laquadrature.net/2023/11/14/videosurveillance-algorithmique-a-la-police-nationale-des-revelations-passibles-du-droit-penal/

Une coalition d’associations européennes attaque le Règlement Terro en France

Le 8 novembre denier, six organisations européennes — La Quadrature du Net, Access Now, ARTICLE 19, European Center for Not-for-Profit Law, EDRi et Wikimedia France — ont déposé devant le Conseil d’État un recours contre le décret qui doit adapter dans le droit français les dispositions du « règlement Terro » européen (ou TERREG) adopté en 2021.

Mais en quoi ce contentieux français concerne-t-il nos partenaires européens ? C’est que ce recours en France est pour nous un point d’entrée : nous demandons au Conseil d’État de transmettre à la Cour de justice de l’Union européenne (CJUE) une « question préjudicielle » sur la validité du TERREG. Nous pensons que ce règlement, qui permet aux forces de police d’un pays de l’UE d’ordonner à un site web de bloquer dans un délai d’une heure (oui, une heure) tout contenu supposé être à caractère terroriste, contrevient au regard des droits fondamentaux protégés par le droit de l’UE.

La procédure durera plusieurs mois, avant que le gouvernement français produise sa réponse, et probablement plusieurs années avant que la CJUE ne rende sa décision. Mais comme nous rejetons les dispositions numériques du TERREG depuis sa première ébauche en 2018, on peut dire que La Quadrature a les idées longues. On suit l’affaire et on vous tiendra au courant !

Lire l’article : https://www.laquadrature.net/2023/11/09/une-coalition-de-6-organisations-attaque-en-justice-le-dangereux-reglement-de-lue-sur-les-contenus-terroristes/

La Quadrature dans les médias

Reconnaissance faciale et VSA

• Recours à la reconnaissance faciale par la police : « Une affaire très grave », selon la socialiste Sylvie Robert — https://www.publicsenat.fr/actualites/societe/recours-a-la-reconnaissance-faciale-par-la-police-une-affaire-tres-grave-selon-la-socialiste-sylvie-robert [Public Sénat]
• Logiciel de vidéosurveillance : la Cnil lance une «procédure de contrôle» visant le ministère de l’Intérieur — https://www.lefigaro.fr/conjoncture/logiciel-de-videosurveillance-la-cnil-lance-une-procedure-de-controle-visant-le-ministere-de-l-interieur-20231115 [Le Figaro]
• Vidéosurveillance : la Cnil ouvre une « procédure de contrôle » contre le ministère de l’intérieur — https://www.la-croix.com/france/Videosurveillance-Cnil-ouvre-procedure-controle-contre-ministere-linterieur-2023-11-15-1201290903 [La Croix]
• Reconnaissance faciale : « Ce que propose Laurent Wauquiez est inacceptable en démocratie », juge un expert — https://www.radiofrance.fr/franceinter/reconnaissance-faciale-ce-que-propose-laurent-wauquiez-est-inacceptable-en-democratie-juge-un-expert-6299239 [France Inter]
• Vidéosurveillance : la Cnil lance une « procédure de contrôle » visant le ministère de l’Intérieur — https://rmc.bfmtv.com/actualites/police-justice/videosurveillance-la-cnil-lance-une-procedure-de-controle-visant-le-ministere-de-l-interieur_AD-202311150808.html [BFM/RMC]
• Sensivic, start-up créatrice de détecteurs de sons anormaux à Orléans, a été acquise par une société alsacienne — https://www.larep.fr/orleans-45000/actualites/sensivic-start-up-creatrice-de-detecteurs-de-sons-anormaux-a-orleans-a-ete-acquise-par-une-societe-alsacienne_14404400/ [La République du Centre]
• Hervé Zandrowicz (Sensivic) : « Nous n’écoutons pas les conversations mais nous analysons le paysage sonore de manière anonymisée » — https://www.infoprotection.fr/herve-zandrowicz-sensivic-nous-necoutons-pas-les-conversations-mais-nous-analysons-le-paysage-sonore-de-maniere-anonymisee/ [InfoProtection]

JO et VSA

• « Faisons du 2 décembre une journée de mobilisations contre les ravages des JO » — https://basta.media/2-decembre-journee-mobilisations-contre-ravages-jeux-olympiques-paralympiques-JO-Paris-2024-Alpes-2030 [Basta]
• Loi Jeux olympiques : Big Brother en finale — https://journaloptions.fr/2023/10/13/loi-jeux-olympiques-big-brother-en-finale/ [Options]

Surveillance

• Risque d’attentat en France : la sécurité à quel prix ? — https://video.lqdn.fr/w/uHec8vZhmPFVonwv8hGQA5 [Le Talk/France Info]
• L’activation à distance par la police des appareils électroniques en partie censurée — https://www.mediapart.fr/journal/france/171123/l-activation-distance-par-la-police-des-appareils-electroniques-en-partie-censuree [Mediapart]
• À Orléans, la Cnil dit non au couple vidéosurveillance-captation sonore — https://www.lagazettedescommunes.com/891582/a-orleans-la-cnil-dit-non-au-couple-videosurveillance-captation-sonore/ [La Gazette des Communes]

Recours contre le TERREG

• Lutte contre le terrorisme en ligne : des associations demandent au Conseil d’État de saisir la justice européenne — https://www.humanite.fr/societe/libertes-publiques/lutte-contre-le-terrorisme-en-ligne-des-associations-demandent-au-conseil-detat-de-saisir-la-justice-europeenne [L’Humanité]
• Six organisations, menées par La Quadrature du Net, attaquent en justice le règlement de l’UE sur les contenus terroristes — https://www.zdnet.fr/blogs/l-esprit-libre/six-organisations-menees-par-la-quadrature-du-net-attaquent-en-justice-le-reglement-de-l-ue-sur-les-contenus-terroristes-39962366.htm [ZDNet]
• Six ONG attaquent le règlement de l’UE sur les contenus terroristes en justice — https://www.nextinpact.com/article/72832/six-ong-attaquent-reglement-lue-sur-contenus-terroristes-en-justice [NextINpact]
• Technosurveillance – Le règlement de l’UE sur la gestion des contenus « terroristes » contesté par La Quadrature du Net et cinq autres ONG — https://ewatchers.org/info/2023-11-09-technosurveillance-le-reglement-de-l-ue-sur-la-gestion-des-contenus-terroristes-conteste-par-la-quadrature-du-net-et-cinq-autres-ong-168 [eWatchers.org]
• Le règlement européen sur le retrait des contenus terroristes, un danger pour la protection des données ? — https://www.usine-digitale.fr/article/le-reglement-europeen-sur-le-retrait-des-contenus-terroristes-un-danger-pour-la-protection-des-donnees.N2194103 [L’Usine Digitale]

Loi SREN

• C’est quoi le projet de loi « Sécuriser et Réguler l’Espace Numérique » (SREN) ? — https://www.instagram.com/p/CzOPZvoL2XT/ [Konbini]
• Et une loi de plus pour « réguler et sécuriser » Internet votée à l’Assemblée — https://www.april.org/et-une-loi-de-plus-pour-reguler-et-securiser-internet-votee-a-l-assemblee [April]
• Blocage de l’accès des mineurs aux contenus porno : un casse-tête mondial — https://www.france24.com/fr/%C3%A9co-tech/20231103-blocage-de-l-acc%C3%A8s-des-mineurs-aux-contenus-porno-un-casse-t%C3%AAte-mondial [France24]
• « Ce rapport est une honte » : Des universitaires et professionnels dénoncent un réquisitoire contre la pornographie — https://www.neonmag.fr/societe-politique/ce-rapport-est-une-honte-des-universitaires-et-professionnels-denoncent-un-requisitoire-contre-la-pornographie-561605 [Neon]

Procès du 8 décembre

• Au procès de « l’ultragauche », l’introuvable projet terroriste — https://www.mediapart.fr/journal/france/251023/au-proces-de-l-ultragauche-l-introuvable-projet-terroriste [Mediapart]
• Procès du «8 décembre» : les délires de l’antiterrorisme — https://lanticapitaliste.org/videos/proces-du-8-decembre-les-delires-de-lantiterrorisme [L’Anticapitaliste]
• Au procès de l’ultragauche, les prévenus dénoncent une « criminalisation » de leurs opinions — https://www.sudouest.fr/justice/au-proces-de-l-ultragauche-les-prevenus-denoncent-une-criminalisation-de-leurs-opinions-17154722.php [Sud-Ouest]
• The Fictional Terrorist Conspiracy Being Tried in France — https://www.thenation.com/article/world/france-left-terrorism-affaire-decembre-8/ [The Nation]

Divers

• La (belle) et (terrifiante) « Contre-Histoire d’Internet » — https://www.auposte.fr/la-terrifiante-contre-histoire-dinternet/ [Au Poste]
• La surveillance algorithmique des données de connexion dans le cadre de la lutte contre le terrorisme — https://journals.openedition.org/crdf/8874
• Bruxelles : remise à plat de la proposition de loi sur la surveillance des conversations privées — https://www.macg.co/ailleurs/2023/11/bruxelles-remise-plat-de-la-proposition-de-loi-sur-la-surveillance-des-conversations-privees-140481 [MacGénération]
• IA en France : la Cnil trace des lignes rouges — https://www.zdnet.fr/actualites/ia-en-france-la-cnil-trace-des-lignes-rouges-39961880.htm [ZDNet]
• Quand Gérald Darmanin repart à l’assaut du chiffrement, après l’attentat d’Arras — https://www.01net.com/actualites/quand-gerald-darmanin-repart-a-lassaut-du-chiffrement-apres-lattentat-darras.html [01Net]
• La cartographie comme outil de luttes — https://www.socialter.fr/article/cartographie-lutte-militante [Socialter]
• The Advocate General on how to balance personal data protection and action to combat online copyright infringement — https://www.lexology.com/library/detail.aspx?g=9aad2863-0660-462f-92cc-72388bc1b73e [Lexology]

Agenda

• 18 novembre 2023 : Atelier Technopolice sur la surveillance policière dans les quartiers — à partir de 18h au 152 rue de la Rose, Marseille.
• 30 novembre 2023 : Rencontre autour de Contre-histoire d’Internet — à partir de 19h, La Carmagnole, Montpellier.
• 8 décembre 2023 : Réunion d’information Technopolice à Rouen — à partir de 18h30, Maison des associations et la solidarité, 22 bis rue Dumont d’Urville, Rouen.
• 14 décembre 2023 : Causerie mensuelle du groupe Technopolice Marseille — à partir de 19h, Manifesten, 59 Rue Adolphe Thiers, Marseille.

Filtre anti-arnaques : la censure administrative embarquée dans le navigateur ?

Parmi les mesures contestables et contestées de la loi « visant à sécuriser et réguler l’espace numérique » (SREN), l’obligation des filtres anti-arnaques n’est pas la moindre. L’article 6 du projet de loi oblige les navigateurs web à bloquer les sites identifiés par les autorités administratives (la police) comme étant des arnaques (phishing, mineurs de Bitcoin, usurpation d’identité, etc.).

Aujourd’hui déjà, la police peut exiger que les plateformes et les fournisseurs d’accès à Internet (FAI) censurent les contenus terroristes ou pédocriminels. Dans ce cas, les FAI paramètrent leurs serveurs DNS, chargés de traduire les URL des sites (www.laquadrature.net) en adresses IP (185.34.33.4). Après cette modification, le site n’est plus trouvable à partir de son URL et se trouve donc hors d’atteinte pour la grande majorité des internautes. Sauf si.
Sauf si l’internaute sait choisir son DNS et contourner l’interdiction en passant par un autre serveur. Il est donc tout à fait possible, et pas très difficile à vrai dire, de contourner une censure par DNS. C’est un procédé utilisé lorsque certains États bloquent les DNS nationaux, comme cela s’est vu lors des révoltes du Printemps arabe en 2011 par exemple.

Mais la solution choisie dans le projet de loi pour les « arnaques » implique directement le navigateur web de l’internaute. Les navigateurs incluent déjà des listes de sites ou de pages web malhonnêtes, sur lesquelles les utilisateurs pourraient croiser des virus ou des scripts malveillants. Si le navigateur détecte une tentative de connexion à l’une de ces pages « dangereuses », il prévient l’internaute, qui a le choix de passer outre à ses risques et périls. L’outil est donc envisagé à l’heure actuelle comme un service que les navigateurs choisissent de rendre à l’utilisateur, qui garde la main sur la décision finale.

Avec ce que le projet de loi SREN propose, les listes seraient non seulement tenues par la police, mais s’imposeraient surtout aux navigateurs. Une pratique très différente dans sa philosophie, et qui ouvre la porte à tous les excès possibles, à la censure de sites politiques par exemple, quand le fait sera installé et qu’il suffira de l’étendre pour censurer à discrétion tous les sites « gênants ».
Plus de détails dans notre article paru le 5 octobre dernier, avant le vote de l’article 6 à l’Assemblée ce mercredi 11 octobre.

Lire l’article : https://www.laquadrature.net/2023/10/05/projet-de-loi-sren-et-filtre-anti-arnaque-les-navigateurs-comme-auxiliaires-de-police/

La Quadrature dans les médias

Vidéosurveillance algorithmique

• JO de Paris 2024 : des centaines de nouvelles caméras HD installées dans les gares SNCF d’Île-de-France — https://www.leparisien.fr/info-paris-ile-de-france-oise/transports/jo-de-paris-2024-des-centaines-de-nouvelles-cameras-hd-installees-dans-les-gares-sncf-dile-de-france-12-10-2023-HOIJCCXCLRDLBDS5HCS4ERXFMU.php [Le Parisien]
• Sécuriser les grands événements sportifs : que faut-il attendre des outils technologiques ? — https://theconversation.com/securiser-les-grands-evenements-sportifs-que-faut-il-attendre-des-outils-technologiques-214986 [The Conversation]
• Un logiciel israélien dans la vidéosurveillance de l’Assemblée Nationale — https://www.linforme.com/tech-telecom/article/un-logiciel-israelien-dans-la-videosurveillance-de-l-assemblee-nationale_1062.html [L’Informé]
• Mais au fait, pourquoi a-t-on besoin de sécuriser les Jeux Olympiques ? — https://www.numerama.com/cyberguerre/1517202-mais-au-fait-pourquoi-a-t-on-besoin-de-securiser-les-jeux-olympiques.html [Numerama]
• Loi jeux olympiques : Big Brother en finale… — https://journaloptions.fr/2023/10/13/loi-jeux-olympiques-big-brother-en-finale/ [Options]

Divers

• Mélanie Jaoul : « Ce n’est pas tant le porno qu’il faut réguler, ce sont les plateformes » — https://actu.fr/occitanie/montpellier_34172/melanie-jaoul-ce-n-est-pas-tant-le-porno-qu-il-faut-reguler-ce-sont-les-plateformes_60178741.html [Actu.fr]
• EU: Artificial Intelligence Regulation Should Ban Social Scoring — https://www.hrw.org/news/2023/10/09/eu-artificial-intelligence-regulation-should-ban-social-scoring [Human Rights Watch]

Agenda

• 3-27 octobre : procès de l’affaire du « 8 décembre », audiences publiques les après-midis du mardi au vendredi à partir de 13h30 au tribunal de Paris (porte de Clichy). Les débats sur la question du chiffrement devraient commencer aux alentours du mercredi 18, mais le calendrier des audiences change sans cesse au gré des retards pris dans les auditions.
• 13 octobre : Félix Tréguer sera l’invité de David Dufresne dans « Au Poste », à l’occasion de la publication de son livre « Contre-histoire d’Internet » aux éditions Agone : https://www.auposte.fr/convocation/contre-histoire-de-linternet-avec-felix-treguer/
• 2 novembre : rencontre avec Félix Tréguer à 18h à la librairie L’Hydre aux mille têtes à Marseille (96 rue Saint-Savournin, 13001) dans le cadre de la parution de son livre « Contre-histoire d’Internet » aux éditions Agone.

Sensivic, couic

Voilà déjà deux ans que nous avons attaqué en justice et devant la CNIL l’initiative de la mairie d’Orléans qui voulait installer dans certaines rues les micros de surveillance de l’entreprise Sensivic pour détecter « des sons anormaux ». Des cris de misère, des ventres qui gargouillent, des protestations contre la suppression des services publics ? Non : des bruits de bombe de peinture, de bagarre, de verre brisé ou des éclats de voix. Petit problème : le système implique « d’analyser en permanence le son ambiant pour pouvoir détecter des anomalies ». N’allez pas raconter votre dernier secret amoureux dans les rues d’Orléans.

Suite à notre action, Sensivic (aujourd’hui en redressement judiciaire) et la ville d’Orléans ont reçu la visite de la CNIL qui a étudié de près cette surveillance. Finalement, par un courrier du 27 septembre dernier, l’autorité nous a informé qu’elle considère illégal le couple maléfique constitué par les caméras et les micros dans les rues. On détaille dans l’article pourquoi cette position est insatisfaisante à nos oreilles – les micros tout seuls seraient-ils donc plus acceptables ?

Lire l’article : https://www.laquadrature.net/2023/09/30/audiosurveillance-algorithmique-a-orleans-la-cnil-donne-raison-a-la-quadrature-sur-lillegalite-du-dispositif/

Affaire du « 8 décembre » : le chiffrement mis en procès

C’est un sujet grave dont nous parlons depuis le mois de juin dernier. Un groupe de sept personnes est inculpé du chef de terrorisme, pour diverses raisons sans lien apparent, et surtout sans trace d’un projet terroriste avéré. Mais les enquêteurs de la DGSI et le parquet national antiterroriste ne doutent pas de leur intuition et pensent que les intentions terroristes des inculpé·es sont d’autant plus certaines qu’elles sont cachées.

Et ce n’est même pas une blague : pour l’accusation, le fait que les accusé·es utilisaient des messageries chiffrées (Signal par exemple) et des disques durs chiffrés est la marque évidente d’une « culture de la clandestinité ». Encore plus fort : alors qu’elle a saisi tous les appareils électroniques des accusé·es, ordinateurs et téléphones, et qu’elle a pu lire 80 à 90 % de leur contenu, l’accusation prétend que les preuves d’un projet terroriste se cachent forcément dans les 10% restants, qui sont chiffrés. Comme le dit l’un des avocats d’une inculpée, « l’absence de preuve devient une preuve ».

L’histoire serait absurde si elle n’était pas très grave. D’abord, des vies ont été détruites : surveillance, prison, procès, emplois perdus, désastre psychologique. Et pour nous, les prémisses et les conséquences du raisonnement policier et judiciaire concernent tout le monde : tout le monde utilise des messageries chiffrées. Whatsapp par exemple, qui est le moyen de communication utilisé pour un très grand nombre de conversations amicales et familiales, est une messagerie chiffrée. Les journalistes, les lanceur·euses d’alerte, les militant·es politiques et syndicales, les chercheur·euses, les industriel·les, ont besoin de protéger leurs communications. Au quotidien, le secret des correspondances est protégé par le droit, comme principe de base de libertés civiles et du débat démocratique. Le droit à la vie privée est la condition sine qua non à l’exercice d’autres libertés fondamentales.

Si l’utilisation d’outils de chiffrement devenait, lors de ce procès et de son verdict, un élément incriminant ou aggravant, alors nous serions toutes et tous des terroristes, des malfaiteurs ou des comploteurs en puissance. Et si les outils de chiffrement était interdits, alors nos échanges numériques seraient accessibles à toutes les personnes malintentionnées et à toutes les polices. Cela n’est pas envisageable. C’est pourquoi nous suivons de très près ce procès, pour les droits de toutes et tous.

Lire l’article : https://www.laquadrature.net/2023/10/02/affaire-du-8-decembre-le-droit-au-chiffrement-et-a-la-vie-privee-en-proces/

La Quadrature dans les médias

Technopolice (reconnaissance faciale)

• Reconnaissance faciale : « Une opposition entre le Parlement européen et les États membres », explique Bastien Le Querrec, juriste et membre de la Quadrature du Net — https://www.francetvinfo.fr/sciences/high-tech/reconnaissance-faciale-une-opposition-entre-le-parlement-europeen-et-les-etats-membres-explique-bastien-le-querrec-juriste-et-membre-de-la-quadranure-du-net_6095601.html [France Info TV]

Technopolice (audiosurveillance algorithmique)

• Derrière le cas d’Orléans, le procès de la surveillance sonore — https://www.lemonde.fr/pixels/article/2023/09/29/derriere-le-cas-d-orleans-le-proces-de-la-surveillance-sonore_6191636_4408996.html [Le Monde]
• Testée dans les rues d’Orléans, l’audiosurveillance algorithmique jugée illégale par la Cnil—
  https://www.bfmtv.com/tech/actualites/donnees-personnelles/testee-dans-les-rues-d-orleans-l-audiosurveillance-algorithmique-jugee-illegale-par-la-cnil_AV-202310030618.html [BFM TV]
• La Cnil dit non à la vidéosurveillance algorithmique dans les rues d’Orléans — https://www.usine-digitale.fr/article/la-cnil-dit-non-a-la-videosurveillance-algorithmique-dans-les-rues-d-orleans.N2178342 [L’Usine Digitale]
• Vidéosurveillance : la Cnil retoque la captation sonore couplée aux images — https://incyber.org/videosurveillance-cnil-retoque-captation-sonore-couplee-aux-images/ [In Cyber News]
• Les caméras de vidéosurveillance dotées de capteurs de son jugées illégales par la Cnil — https://www.ouest-france.fr/societe/securite/les-cameras-de-videosurveillance-dotees-de-capteurs-de-son-jugees-illegales-par-la-cnil-bc03d738-62a6-11ee-baff-05c4272f4825 [Ouest-France]

Technopolice (police prédictive)

• L’intelligence artificielle est nulle pour prédire les crimes — https://www.ladn.eu/tech-a-suivre/lintelligence-artificielle-est-nulle-pour-predire-les-crimes/ [L’ADN]

Loi SREN (Espace numérique)

• Le climat anti-porno nuit à la santé sexuelle, alertent Act Up-Paris et la Quadrature du Net — https://tetu.com/2023/10/04/tribune-act-up-paris-quadrature-du-net-climat-anti-porno-projet-loi-regulation-numerique/ [Têtu]
• Cyberharcèlement, accès au porno, filtre anti-arnaques… Ce que contient le projet de loi qui veut « sécuriser et réguler l’espace numérique » — https://www.francetvinfo.fr/sciences/high-tech/cyberharcelement-acces-au-porno-filtre-anti-arnaques-ce-que-contient-le-projet-de-loi-qui-veut-securiser-et-reguler-l-espace-numerique_6085515.html [France Info TV]
• SREN : vive opposition et amendement Mozilla sur la table — https://goodtech.info/sren-un-amendement-mozilla-sur-la-table/ [Goodtech.info]

Règlement CSAR (Chat control)

• Le Parlement européen veut-il surveiller nos conversations sur les messageries ? — https://www.nouvelobs.com/opinions/20231005.OBS79069/le-parlement-europeen-veut-il-surveiller-nos-conversations-sur-les-messageries.html [Nouvel Obs]

Chiffrement et « 8 décembre »

• Affaire du « 8 décembre » : antiterrorisme et criminalisation du chiffrement — https://paris-luttes.info/affaire-du-8-decembre-17397 [Paris Luttes Info]

Agenda

• 6 octobre : rencontre avec Félix Tréguer à 19h à la librairie Le Monte-en-l’air à Paris (2 rue de la Mare, 75020) dans le cadre de la parution de son livre Contre-histoire d’Internet aux éditions Agone.
• 6 octobre : Rencontres Radicales d’Alternatiba – Table ronde sur la répression. Césure – 13 rue Santeuil 75005, 19h.
• 3-27 octobre : procès de l’affaire du « 8 décembre », audiences publiques les après-midis du mardi au vendredi à partir de 13h30 au tribunal de Paris (Porte de Clichy).
• 12 octobre : causerie mensuelle Technopolice Marseille, de 19h à 20h, au Manifesten (59 rue Adolphe Thiers, Marseille).