❌

Vue lecture

Il y a de nouveaux articles disponibles, cliquez pour rafraĂźchir la page.

QSPTAG #316 — 20 dĂ©cembre 2024

Campagne de soutien 2025 : C’est pas de l’IA, c’est de l’exploitation dernier cri

Pour animer notre campagne de dons de fin d’annĂ©e, nous avons choisi de traiter le thĂšme de l’IA, qui sera un de nos grands axes de travail en 2025 : au lieu de tomber dans le panneau des fantasmes inutiles — ceux d’une intelligence surhumaine qui dĂ©truira l’humanitĂ© ou qui la sauvera de ses propres errements — et si on s’intĂ©ressait plutĂŽt Ă  ses usages concrets et Ă  ses effets rĂ©els ? AprĂšs un article d’introduction accompagnĂ© d’une vidĂ©o, on s’est penchĂ© plus spĂ©cialement sur les algorithmes de « scoring Â» utilisĂ©s par les administrations sociales, en lien avec notre campagne France ContrĂŽle. La semaine suivante, on est allĂ© Ă  Marseille pour suivre le travail du collectif Le Nuage Ă©tait sous nos pieds, dont font partie des membres de La Quadrature, qui Ă©tudie l’impact des infrastructures du numĂ©rique, dĂ©multipliĂ©es par l’IA, sur les villes, les ressources et les personnes. Et cette semaine, on revient sur la place de l’IA dans les discours sĂ©curitaires et dans les dispositifs de surveillance qui se dĂ©ploient aujourd’hui, au prĂ©sent, dans nos rues. Une vidĂ©o qui rejoint Ă©videmment nos campagnes Technopolice et Pas de VSA dans ma ville. C’est pas de l’IA, c’est de la surveillance, du contrĂŽle social et beaucoup, beaucoup de discours creux qui cachent la rĂ©alitĂ© d’un numĂ©rique au service de la contrainte et de l’exploitation des ressources et des personnes. Soutenez La Quadrature en 2025, faites-nous un don si vous pouvez !

Rendez-vous sur la page de la campagne de dons : https://www.laquadrature.net/donner/
Introduction : https://www.laquadrature.net/2024/11/29/cest-pas-de-lia-cest-de-lexploitation-dernier-cri/
VidĂ©o gĂ©nĂ©rale : https://video.lqdn.fr/w/kzeD86nXj12pKnEqwZKQEF
VidĂ©o IA et contrĂŽle social : https://video.lqdn.fr/w/6Gi2v2ZhqDYWfvk3HP2MrR
VidĂ©o IA et Ă©cologie : https://video.lqdn.fr/w/48uz581ZbdNvWyXC9KV37n
VidĂ©o IA et Technopolice : https://video.lqdn.fr/w/6aMhTgir5dGpn8ByQjR87i

Attrap est public : un outil pour repĂ©rer les arrĂȘtĂ©s prĂ©fectoraux trop discrets

Depuis que l’utilisation des drones policiers a Ă©tĂ© lĂ©galisĂ©e par la loi SĂ©curitĂ© intĂ©rieure de 2022, et l’utilisation « expĂ©rimentale Â» de la vidĂ©osurveillance algorithmique (VSA) par la loi Jeux Olympiques de 2023, nous passons du temps Ă  chercher des arrĂȘtĂ©s prĂ©fectoraux en ligne. Pas pour le plaisir (encore que), mais parce que chaque sortie des drones policiers et chaque dĂ©clenchement de la VSA doit ĂȘtre autorisĂ© et prĂ©cĂ©dĂ© par un arrĂȘtĂ© du prĂ©fet, qui doit ĂȘtre rendu public. Et c’est lĂ  que ça se complique : documents publiĂ©s Ă  la derniĂšre minute (ou mĂȘme aprĂšs), documents planquĂ©s dans les arriĂšre-fonds des sites web des prĂ©fectures, documents scannĂ©s au format image donc inaccessibles aux outils de recherche de texte, processus diffĂ©rents d’une prĂ©fecture Ă  l’autre, architecture des sites prĂ©fectoraux pas du tout standardisĂ©e, etc. On pourrait presque croire que tout est fait pour que l’information soit aussi difficile Ă  trouver que possible. Le pouvoir a une habitude de secret et de discrĂ©tion, il ne faudrait quand mĂȘme pas que la population, les journalistes, les chercheur·euses ou les militant·es exercent leur droit trop facilement.

Mais comme La Quadrature est un mĂ©lange de juristes et de geeks, et parfois de juristes-geeks, on a dĂ©veloppĂ© un outil pour abattre le boulot et explorer pour nous les sites prĂ©fectoraux et rapporter les arrĂȘtĂ©s en fonction des mots clĂ©s qu’on lui donne. « On Â» s’appelle d’abord Bastien, vite rejoint par Nono et par une bande de bĂ©nĂ©voles, merci Ă  elleux, pour dĂ©chiffrer et dĂ©fricher les labyrinthes prĂ©fectoraux et perfectionner l’outil. Aucune IA n’a Ă©tĂ© maltraitĂ©e durant ce processus, seulement des militant·es motivé·es. Le logiciel s’appelle Automate de Traque de Termes et de Recherche dans les ArrĂȘtĂ©s PrĂ©fectoraux, ou Attrap pour faire plus court – et c’est Ă©galement plus facile Ă  prononcer, ça tombe quand mĂȘme drĂŽlement bien.

On utilise Attrap depuis quelques mois, avec des recherches sur les mots-clĂ©s liĂ©s aux drones et Ă  la VSA, pour alimenter un compte Mastodon nommĂ© Attrap’Surveillance et documenter la mise en Ɠuvre quasi quotidienne de ces dispositifs de surveillance qui nous paraissaient encore si effrayants et exotiques lors du confinement de mars 2020.
On avait en tĂȘte depuis le dĂ©but de rendre un jour l’outil public pour que tout le monde puisse s’en servir. C’est chose faite. Le site Attrap est en ligne depuis quelques jours, avec un article qui explique sa genĂšse et son utilitĂ©, et il fonctionne comme un moteur de recherche. On a aussi lancĂ© des exemples de suivi de certaines dĂ©cisions repĂ©rĂ©es par Attrap avec des thĂšmes prĂ©cis, ici ou lĂ  par exemple, en espĂ©rant que cela donnera envie Ă  d’autres collectifs de s’approprier l’outil. DorĂ©navant Attrap est Ă  vous : apprenez Ă  connaĂźtre votre prĂ©fecture, ce n’est pas sale !

Et si vous allez en Allemagne au Chaos Computer Congress (CCC) cette annĂ©e, vous pouvez venir ajouter de nouvelles prĂ©fectures dans le moteur de recherche, lors du hackathon Attrap organisĂ© le 27 dĂ©cembre Ă  18h au Komona. Une rumeur dit que les participant·es pourront rĂ©cupĂ©rer des oreilles de chat qui brillent dans le noir en guise de petit remerciement


Pour lire la prĂ©sentation d’Attrap : https://www.laquadrature.net/2024/12/19/contre-lopacite-de-la-surveillance-locale-attrap-tes-arretes-prefectoraux/
Le compte Mastodon de Attrap’Surveillance : https://mamot.fr/@AttrapSurveillance
Pour utiliser Attrap tout de suite : attrap.fr

Agenda

  • 27-30 dĂ©cembre : Chaos Communication Congress (38C3) Ă  Hambourg (Allemagne). La Quadrature sera prĂ©sente avec une table et des ateliers !
  • 8 janvier : RĂ©union Technopolice Paris-Banlieue, Ă  partir de 19h au Bar Commun, 135 rue des Poissonniers, Paris 18e.
  • 9 janvier : RĂ©union mensuelle du groupe Technopolice Marseille, Ă  partir de 19h au Manifesten, 59 Rue Adolphe Thiers, Marseille.
  • Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

IA et VSA

France ContrĂŽle

Divers

QSPTAG #315 — 6 dĂ©cembre 2024

C’est pas de l’IA, c’est du soutien !

Jeudi dernier, le 28 novembre, nous avons lancĂ© notre campagne de dons pour 2025. Comme Ă  chaque fin d’annĂ©e, les associations font leur appel Ă  soutien pour boucler le budget de l’annĂ©e qui va commencer. La Quadrature n’y Ă©chappe pas, d’autant moins qu’elle tient principalement par vos dons et qu’elle refuse de solliciter des subventions publiques, pour des raisons d’indĂ©pendance de plus en plus Ă©videntes. Si vous le pouvez, merci de nous soutenir financiĂšrement !

Pour animer ce mois de campagne, on a dĂ©cidĂ© de parler d’un sujet qui nous intĂ©resse depuis un moment dĂ©jĂ , mais qu’on veut prendre Ă  bras le corps tant les choses s’accĂ©lĂšrent : l’IA. DerriĂšre le buzzword du moment se cachent Ă©normĂ©ment de fantasmes et des rĂ©alitĂ©s trop mal connues. Tant de croyances entourent l’IA qu’elle joue le rĂŽle d’un mythe, endossant tantĂŽt le rĂŽle du sauveur ou celui du bourreau de l’humanitĂ©. Mais elle a des rĂ©alitĂ©s concrĂštes Ă  partir desquelles il faut l’apprĂ©hender. Par oĂč commencer ?

D’abord, supprimer l’effet de fascination causĂ© par l’expression elle mĂȘme. « L’intelligence artificielle Â» n’existe pas. Ou plutĂŽt, il faut regarder de plus prĂšs ce que recouvre le mot magique. Nous avons publiĂ© un premier article accompagnĂ© d’une premiĂšre vidĂ©o pour prĂ©senter les grandes lignes de notre lecture du phĂ©nomĂšne. L’IA n’est rendue possible que par une Ă©norme concentration de moyens qui la place d’entrĂ©e entre les mains du systĂšme industriel et financier dominant, avec tous les dĂ©gĂąts sociaux et environnementaux qui s’ensuivent. Elle sert logiquement les intĂ©rĂȘts de ces dominants. Comme instrument de police avec la VSA, comme instrument de contrĂŽle social avec les algorithmes administratifs, comme instrument de l’exploitation salariale avec l’entrĂ©e de l’IA gĂ©nĂ©rative dans les entreprises
 Autant d’aspects que nous essaierons d’explorer tout au long de cette campagne et dans les mois qui viennent. Soutenez La Quadrature en 2025 !

Rendez-vous sur la page de la campagne de dons : https://www.laquadrature.net/donner/
Premier article sur l’IA : https://www.laquadrature.net/2024/11/29/cest-pas-de-lia-cest-de-lexploitation-dernier-cri/
Lien direct vers la vidĂ©o : https://video.lqdn.fr/w/kzeD86nXj12pKnEqwZKQEF

France ContrĂŽle : un algo de contrĂŽle discriminatoire Ă  l’Assurance maladie

Exemple concret des espoirs et des ambitions confiĂ©es Ă  « l’intelligence artificielle Â» (naguĂšre, on appelait ça le « big data Â») : identifier les fraudes aux prestations sociales. Nous avons publiĂ© l’annĂ©e derniĂšre les rĂ©sultats de notre travail sur l’algorithme de notation utilisĂ© par la Caisse nationale d’allocations familiales (CNAF) pour attribuer un « score de risque Â» Ă  ses bĂ©nĂ©ficiaires. Nous avions dĂ©couvert, et montrĂ© preuve Ă  l’appui, que l’algorithme en question Ă©tait Ă©crit pour cibler plus particuliĂšrement les personnes en situation de grande prĂ©caritĂ© (solitude, charge de famille, faibles revenus, etc.). Nous publions cette semaine la suite de cette enquĂȘte.

Cette fois, c’est l’algorithme de notation utilisĂ© par la Caisse nationale de l’assurance maladie (CNAM) qui est dĂ©cortiquĂ©. Nos conclusions sont les mĂȘmes : sous prĂ©texte de lutter contre la fraude, la CNAM accentue la pression de contrĂŽle sur les personnes les plus fragiles. Adultes handicapĂ©es, mĂšres cĂ©libataires, voilĂ  les ennemis de la solidaritĂ© sociale et les « fraudeurs Â» dĂ©signĂ©s par les responsables des services sociaux qui mettent au point ces algorithmes de contrĂŽle. Un article Ă  lire sur notre site.

Lire l’article : https://www.laquadrature.net/2024/12/05/notation-algorithmique-lassurance-maladie-surveille-les-plus-pauvres-et-harcele-les-meres-precaires/

Surveillance algorithmique : la CNIL dĂ©missionne

Autre usage de l’IA. On vous a souvent parlĂ© de Briefcam, un logiciel de VSA dotĂ© de puissantes fonctions d’identification faciale et d’analyse biomĂ©trique, achetĂ© par de nombreuses villes en France et utilisĂ© aussi par la police nationale et la gendarmerie nationale, comme l’a rĂ©vĂ©lĂ© l’an dernier le mĂ©dia Disclose.

L’outil est si puissant et si profondĂ©ment installĂ© dans le marchĂ© de la vidĂ©osurveillance algorithmique Ă  la française (VSA), qu’à la suite de l’article de Disclose, la CNIL a menĂ© une enquĂȘte sur l’usage du logiciel par la police et la gendarmerie, dont elle a publiĂ© les conclusions cette semaine (juste aprĂšs notre article qui actait sa dĂ©mission, et le moins qu’on puisse dire, c’est que les conclusions de son enquĂȘte ne sont pas de nature Ă  nous contredire).

Le logiciel Briefcam (comme ses semblables) est capable d’identifier une personne dans la foule Ă  l’aide de traits individuels caractĂ©ristiques : taille, dĂ©marche, vĂȘtements, couleur de la peau ou des cheveux, etc. Cette identification individuelle permet au logiciel de retrouver la mĂȘme personne sur toutes les images des camĂ©ras publiques de la ville, et de la suivre partout – un vĂ©ritable fantasme policier. Mais dans l’état du droit actuel, tout traitement de donnĂ©es qui permet d’identifier une personne de façon certaine, et isole l’individu au sein d’un groupe, relĂšve du traitement de donnĂ©es biomĂ©triques, dites « sensibles Â», c’est-Ă -dire encore plus protĂ©gĂ©es et encadrĂ©es par la loi. On ne fait pas ce qu’on veut avec des donnĂ©es personnelles, encore moins avec des donnĂ©es biomĂ©triques, et c’est le rĂŽle de la CNIL d’y veiller depuis sa crĂ©ation en janvier 1978.

Or, devant les parlementaires qui la consultaient sur la Loi Transports (laquelle cherchait Ă  lĂ©galiser l’usage de la VSA pour certaines enquĂȘtes pĂ©nales) comme dans les conclusions de son enquĂȘte sur Briefcam, la CNIL se dĂ©fausse. Elle se contente de rappeler l’interdiction de la reconnaissance faciale mais pour le reste des fonctions d’analyse biomĂ©triques – tout aussi dangereuses, et tout aussi illĂ©gales –, elle refuse de faire appliquer le droit et se contente des explications fournies par les institutions policiĂšres. En donnant ainsi son aval Ă  une pratique illĂ©gale de surveillance passible de sanctions pĂ©nales, la CNIL trahit sa mission de protection des droits et des libertĂ©s. Notre analyse complĂšte dans l’article.

Lire l’article : https://www.laquadrature.net/2024/12/04/vsa-et-biometrie-la-cnil-demissionnaire/

Data centers : le coĂ»t Ă©cologique du tout numĂ©rique

C’est un des pires aspects de l’IA : basĂ©e sur d’énormes puissances de calcul, elle contribue Ă  l’explosion des besoins en infrastructures, et particuliĂšrement en data centers, gourmands en Ă©nergie et en eau de refroidissement. La ville de Marseille, grand nƓud portuaire et « porte Â» du sud de la France vers la MĂ©diterranĂ©e et le reste du monde, est particuliĂšrement concernĂ©e par le sujet : placĂ©e au point d’arrivĂ©e sur le continent de nombreux cĂąbles sous-marins, elle est envahie par les data centers qui stockent et traitent les donnĂ©es en transit.

Le collectif marseillais « Le nuage Ă©tait sous nos pieds Â», dont fait partie La Quadrature, veut re-matĂ©rialiser le cloud pour montrer la rĂ©alitĂ© de nos usages numĂ©riques. Il a organisĂ© un festival informatif et militant en novembre Ă  Marseille, et publiĂ© un premier article sur le sujet en septembre dernier. Voici le deuxiĂšme article, qui analyse en dĂ©tails la situation Ă  Marseille.

Lire l’article : https://www.laquadrature.net/2024/11/20/accaparement-du-territoire-par-les-infrastructures-du-numerique/

Agenda

La Quadrature dans les médias

Data centers Ă  Marseille

Technopolice, le livre

Vidéosurveillance algorithmique

France ContrĂŽle

C’est pas de l’IA, c’est de l’exploitation dernier cri

AprĂšs deux ans passĂ©s Ă  diversifier ses champs d’action, La Quadrature du Net s’attaque dĂ©sormais Ă  un nouveau front : la lutte contre le dĂ©ferlement de l’intelligence artificielle (IA) dans tous les pans de la sociĂ©tĂ©. Pour continuer Ă  faire vivre la critique d’une politique numĂ©rique autoritaire et Ă©cocide, La Quadrature a plus que jamais besoin de votre soutien en 2025.

Depuis plusieurs annĂ©es, en lien avec d’autres collectifs en France et en Europe, nous documentons les consĂ©quences sectorielles trĂšs concrĂštes de l’adoption croissante de l’intelligence artificielle : Ă  travers les campagnes Technopolice et France ContrĂŽle, ou encore plus rĂ©cemment avec des enquĂȘtes pour documenter l’impact environnemental des data centers qui accompagnent la croissance exponentielle des capacitĂ©s de stockage et de calcul.

Une triple accumulation capitaliste

Ces derniers mois, suite Ă  la hype soudaine de l’intelligence artificielle gĂ©nĂ©rative et des produits comme ChatGPT, nous assistons Ă  une nouvelle accĂ©lĂ©ration du processus d’informatisation, sous l’égide des grandes entreprises et des États complices. Or, cette accĂ©lĂ©ration est la consĂ©quence directe de tout ce qui pose dĂ©jĂ  problĂšme dans la trajectoire numĂ©rique dominante. D’abord, une formidable accumulation de donnĂ©es depuis de nombreuses annĂ©es par les grandes multinationales de la tech comme Google, Microsoft, Meta ou Amazon, qui nous surveillent pour mieux prĂ©dire nos comportements, et qui sont dĂ©sormais capables d’indexer de gigantesques corpus de textes, de sons et d’images en s’appropriant le bien commun qu’est le Web.

Pour collecter, stocker et traiter toutes ces donnĂ©es, il faut une prodigieuse accumulation de ressources. Celle-ci transparaĂźt via les capitaux, d’abord : l’essor de la tech, dopĂ©e au capitalisme de surveillance, a su s’attirer les faveurs des marchĂ©s financiers et profiter de politiques publiques accommodantes. GrĂące Ă  ces capitaux, ces entreprises peuvent financer une croissance quasi-exponentielle de la capacitĂ© de stockage et de calcul de donnĂ©es nĂ©cessaire pour entraĂźner et faire tourner leurs modĂšles d’IA, en investissant dans des puces graphiques (GPU), des cĂąbles sous-marins et des data centers. Ces composants et infrastructures nĂ©cessitant Ă  leur tour des quantitĂ©s immenses de terres et mĂ©taux rares, d’eau et d’électricitĂ©.

Lorsqu’on a en tĂȘte cette triple accumulation â€” de donnĂ©es, de capitaux, de ressources â€”, on comprend pourquoi l’IA est le produit de tout ce qui pose dĂ©jĂ  problĂšme dans l’économie du numĂ©rique, et en quoi elle aggrave la facture. Or, le mythe marketing (et mĂ©diatique) de l’intelligence artificielle occulte dĂ©libĂ©rĂ©ment les enjeux et les limites intrinsĂšques Ă  ces systĂšmes, y compris pour les plus performants d’entre eux (biais, hallucinations, gabegie des moyens nĂ©cessaires Ă  leur fonctionnement).

L’exploitation au carrĂ©

L’emballement politico-mĂ©diatique autour de l’IA fait l’impasse sur les effets concrets de ces systĂšmes. Car bien loin de rĂ©soudre les problĂšmes actuels de l’humanitĂ© grĂące Ă  une prĂ©tendue rationalitĂ© supĂ©rieure qui Ă©mergerait de ses calculs, « l’IA Â» dans ses usages concrets amplifie toutes les injustices existantes. Dans le champ Ă©conomique, elle se traduit par l’exploitation massive et brutale des centaines de milliers de « travailleur·euses de la donnĂ©e Â» chargĂ©es d’affiner les modĂšles et de valider leurs rĂ©sultats. En aval, dans les organisations au sein desquelles ces systĂšmes sont dĂ©ployĂ©s, elle induit une nouvelle prise de pouvoir des managers sur les travailleur·euses afin d’augmenter la rentabilitĂ© des entreprises.

Certes, il existe des travailleur·euses relativement privilĂ©gié·es du secteur tertiaire ou encore des « classes crĂ©atives Â» qui y voient aujourd’hui une opportunitĂ© inespĂ©rĂ©e de « gagner du temps Â», dans une sociĂ©tĂ© malade de la course Ă  la productivitĂ©. C’est une nouvelle « dictature de la commoditĂ© Â» : Ă  l’échelle individuelle, tout nous incite Ă  ĂȘtre les complices de ces logiques de dĂ©possession collective. PlutĂŽt que de libĂ©rer les salariĂ©â‹…es, il y a fort Ă  parier que l’automatisation du travail induite par le recours croissant Ă  l’IA contribuera, en rĂ©alitĂ©, Ă  accĂ©lĂ©rer davantage les cadences de travail. Comme ce fut le cas lors des prĂ©cĂ©dentes vagues d’informatisation, il est probable que l’IA s’accompagne Ă©galement d’une dĂ©possession des savoirs et d’une dĂ©qualification des mĂ©tiers qu’elle touche, tout en contribuant Ă  la rĂ©duction des salaires, Ă  la dĂ©gradation des conditions de travail et Ă  des destructions massives d’emploi qualifiĂ©s â€” aggravant du mĂȘme coup la prĂ©caritĂ© de pans entiers de la population.

Dans le secteur public aussi, l’IA accentue l’automatisation et l’austĂ©ritĂ© qui frappent dĂ©jĂ  les services publics, avec des consĂ©quences dĂ©lĂ©tĂšres sur le lien social et les inĂ©galitĂ©s. L’éducation nationale, oĂč sont testĂ©es depuis septembre 2024 et sans aucune Ă©valuation prĂ©alable, les IA « pĂ©dagogiques Â» d’une startup fondĂ©e par un ancien de Microsoft, apparaĂźt comme un terrain particuliĂšrement sensible oĂč ces Ă©volutions sont d’ores et dĂ©jĂ  Ă  l’Ɠuvre.

DĂ©faire le mythe

Pour soutenir le mythe de l’« intelligence artificielle Â» et minimiser ses dangers, un exemple emblĂ©matique est systĂ©matiquement mis en exergue : elle serait capable d’interprĂ©ter les images mĂ©dicales mieux qu’un Ɠil humain, et de dĂ©tecter les cancers plus vite et plus tĂŽt qu’un mĂ©decin. Elle pourrait mĂȘme lire des rĂ©sultats d’analyses pour prĂ©coniser le meilleur traitement, grĂące Ă  une mĂ©moire encyclopĂ©dique des cas existants et de leurs spĂ©cificitĂ©s. Pour l’heure, ces outils sont en dĂ©veloppement et ne viennent qu’en appoint du savoir des mĂ©decins, que ce soit dans la lecture des images ou l’aide au traitement.

Quelle que soit leur efficacitĂ© rĂ©elle, les cas d’usage « mĂ©dicaux Â» agissent dans la mythologie de l’IA comme un moment hĂ©roĂŻque et isolĂ© qui cache en rĂ©alitĂ© un tout autre programme de sociĂ©tĂ©. Une stratĂ©gie de la mystification que l’on retrouve aussi dans d’autres domaines. Ainsi, pour justifier la surveillance des communications, les gouvernements brandissent depuis plus de vingt ans la nĂ©cessitĂ© de lutter contre la pĂ©docriminalitĂ©, ou celle de lutter contre le terrorisme. Dans la mythologie de la vidĂ©osurveillance algorithmique policiĂšre (VSA), c’est l’exemple de la petite fille perdue dans la ville, et retrouvĂ©e en quelques minutes grĂące au camĂ©ras et Ă  la reconnaissance faciale, qui est systĂ©matiquement utilisĂ© pour convaincre du bien fondĂ© d’une vidĂ©osurveillance totale de nos rues.

Il faut Ă©carter le paravent de l’exemple vertueux pour montrer les usages inavouables qu’on a prĂ©fĂ©rĂ© cacher derriĂšre, au prix de la rĂ©duction pernicieuse des libertĂ©s et des droits. Il faut se rendre compte qu’en tant que paradigme industriel, l’IA dĂ©cuple les mĂ©faits et la violence du capitalisme contemporain et aggrave les exploitations qui nous asservissent. Qu’elle dĂ©multiplie la violence d’État, ainsi que l’illustre la place croissante accordĂ©e Ă  ces dispositifs au sein des appareils militaires, comme Ă  Gaza oĂč l’armĂ©e israĂ©lienne l’utilise pour accĂ©lĂ©rer la dĂ©signation des cibles de ses bombardements.

Tracer des alternatives

Au lieu de lutter contre l’IA et ses mĂ©faits, les politiques publiques menĂ©es aujourd’hui en France et en Europe semblent essentiellement conçues pour conforter l’hĂ©gĂ©monie de la tech. C’est notamment le cas du AI Act ou « rĂšglement IA Â», pourtant prĂ©sentĂ© Ă  l’envi comme un rempart face aux dangers de « dĂ©rives Â» alors qu’il cherche Ă  dĂ©rĂ©guler un marchĂ© en plein essor. C’est qu’à l’ùre de la Startup Nation et des louanges absurdes Ă  l’innovation, l’IA apparaĂźt aux yeux de la plupart des dirigeants comme une planche de salut, un Graal qui serait seul capable de sauver l’Europe d’un naufrage Ă©conomique.

Encore et toujours, c’est l’argument de la compĂ©tition gĂ©opolitique qui est mobilisĂ© pour faire taire les critiques : que ce soit dans le rapport du ComitĂ© gouvernemental dĂ©diĂ© Ă  l’IA gĂ©nĂ©rative ou dans celui de Mario Draghi, il s’agit d’inonder les multinationales et les start-ups de capitaux, pour permettre Ă  l’Europe de rester dans la course face aux États-Unis et Ă  la Chine. Ou comment soigner le mal par le mal, en reproduisant les erreurs dĂ©jĂ  commises depuis plus de quinze ans : toujours plus d’« argent magique Â» pour la tech, tandis que les services publics et autres communs sont astreints Ă  l’austĂ©ritĂ©. C’est le choix d’un recul des protections apportĂ©es aux droits et libertĂ©s pour mieux faire prolifĂ©rer l’IA partout dans la sociĂ©tĂ©.

Ces politiques sont absurdes, puisque tout laisse Ă  penser que le retard industriel de l’Europe en matiĂšre d’IA ne pourra pas ĂȘtre rattrapĂ©, et que cette course est donc perdue d’avance. Surtout, ces politiques sont dangereuses dans la mesure oĂč, loin de la technologie salvatrice souvent mise en exergue, l’IA accĂ©lĂšre au contraire le dĂ©sastre Ă©cologique, amplifie les discriminations et accroĂźt de nombreuses formes de dominations. Le paradigme actuel nous enferme non seulement dans une fuite en avant insoutenable, mais il nous empĂȘche aussi d’inventer une trajectoire politique Ă©mancipatrice en phase avec les limites planĂ©taires.

L’IA a beau ĂȘtre prĂ©sentĂ©e comme inĂ©luctable, nous ne voulons pas nous rĂ©signer. Face au consensus mou qui conforte un systĂšme capitaliste dĂ©vastateur, nous voulons contribuer Ă  organiser la rĂ©sistance et Ă  esquisser des alternatives. Mais pour continuer notre action en 2025, nous avons besoin de votre soutien. Alors si vous le pouvez, rendez-vous sur www.laquadrature.net/donner !

QSPTAG #314 — 8 novembre 2024

Campagne anti-GAFAM : LinkedIn enfin condamnĂ© Ă  une grosse amende

Nous avions lancĂ© notre campagne anti-GAFAM au moment de l’entrĂ©e en vigueur du RGPD, en mai 2018
 Sur la base du tout nouveau rĂšglement europĂ©en sur la protection des donnĂ©es personnelles, nous avions dĂ©cidĂ© d’attaquer les pratiques illĂ©gales des cinq plus grandes sociĂ©tĂ©s du numĂ©rique mondial : Google, Apple, Facebook, Amazon et Microsoft. C’était la premiĂšre action collective en Europe — une nouveautĂ© permise par le RGPD — contre les entreprises privĂ©es qui exploitent dĂ©libĂ©rĂ©ment et en toute illĂ©galitĂ© les donnĂ©es personnelles des internautes sans leur consentement. Pour cette action collective, nous avions reçu le soutien de 12 000 personnes qui avaient dĂ©cidĂ© de nous donner leur mandat pour porter la plainte devant la CNIL. C’était chose faite le 18 mai 2018. Il y a six ans.

Le RGPD donne Ă  la CNIL le pouvoir d’instruire les plaintes concernant les entreprises dont le siĂšge europĂ©en est en France, ou n’ayant pas de siĂšge social dans un autre pays de l’Union europĂ©enne. C’était le cas de Google Ă  l’époque. La CNIL a donc traitĂ© d’abord la plainte contre Google, sans donner signe de son travail avant mai 2021, oĂč elle a soudain rendu une dĂ©cision bancale et insatisfaisante, assortie d’une amende minime de 50 millions de dollars, avant de transmettre le dossier Ă  son homologue irlandais, la DPC, Google ayant entre temps crĂ©Ă© un siĂšge europĂ©en en Irlande (plus de dĂ©tails dans cet article, dans le paragraphe « Google perdu au rebond Â»).

Les autres plaintes avaient Ă©tĂ© transmises dĂšs 2018 aux autoritĂ©s compĂ©tentes pour la protection des donnĂ©es dans les pays concernĂ©s : Facebook, Apple et Microsoft en Irlande, et Amazon au Luxembourg. C’est de lĂ  qu’est venue, contre toute attente, la deuxiĂšme condamnation, en juillet 2021 : les pratiques illĂ©gales d’Amazon Ă©taient bien reconnues, et l’entreprise condamnĂ©e Ă  une amende record de 746 millions d’euros.

MalgrĂ© la soliditĂ© juridique de nos plaintes, confirmĂ©e par deux fois, nous n’avions alors toujours aucune nouvelle des quatre dossiers traitĂ©s par la DPC irlandaise : Apple, Microsoft, Facebook (Meta) et Google. Jusqu’à ce mois d’octobre 2024, plus de 6 ans aprĂšs le dĂ©pĂŽt des plaintes. La DPC a enfin rendu sa dĂ©cision concernant LinkedIn (qui appartient Ă  Microsoft), et condamne l’entreprise Ă  une amende de 310 millions d’euros, en plus d’un obligation de mise en conformitĂ© avec la loi.

C’est bien, mais c’est peu. Pourquoi faut-il six ans pour appliquer une loi europĂ©enne ? Et plus encore pour trois autres dossiers ? On sait que l’Irlande ouvre grand les bras aux multinationales, en leur offrant un statut fiscal privilĂ©giĂ©. On sait que la DPC est surchargĂ©e de dossiers et en sous-effectif. On se doute que la balance entre l’application des lois et le bĂ©nĂ©fice Ă©conomique est un arbitrage trĂšs politique. Et on sait que les entreprises fortunĂ©es continuent d’exploiter les donnĂ©es personnelles au mĂ©pris de leurs obligations lĂ©gales. Bref, un constat de victoire teintĂ© d’amertume, Ă  lire sur notre site.

Lire l’article : https://www.laquadrature.net/2024/10/25/linkedin-condamnee-a-310-millions-deuros-suite-a-notre-plainte-collective/
La campagne anti-GAFAM : https://gafam/laquadrature.net/

« Pas de VSA dans ma ville Â», deuxiĂšme round

Alors que la pĂ©riode « d’expĂ©rimentation Â» de la VSA autorisĂ©e par la loi JO n’est mĂȘme pas terminĂ©e, et sans mĂȘme attendre les conclusions de l’expĂ©rience, le lĂ©gislateur et le gouvernement envisagent dĂ©jĂ  sa lĂ©galisation complĂšte et son dĂ©ploiement gĂ©nĂ©ralisĂ©. Nous savons que le combat au niveau lĂ©gislatif sera difficile, mĂȘme si nous le mĂšnerons. Et nous savons aussi que le point d’entrĂ©e de la VSA dans nos rues, c’est le niveau municipal. C’est aux communes que les industriels vendent leurs camĂ©ras et leurs logiciels, avec l’appui financier et idĂ©ologique de l’État. Et c’est au niveau municipal que de piĂštres politiciens dĂ©pensent l’argent public dans une surenchĂšre sĂ©curitaire dispendieuse et illĂ©gale. C’est pourquoi nous invitons chacun et chacune Ă  Ă©crire Ă  ses Ă©lus locaux pour demander l’abandon de cette technologie de surveillance.

« Pas de VSA dans ma ville Â», c’est le nom de cette campagne collective qui invite tout le monde Ă  prendre le dĂ©bat en mains et Ă  interpeller les dĂ©cideurs locaux. Nous avons besoin de vous pour faire reculer la surveillance ! Courriers, procĂ©dures, arguments, vous trouverez tout sur notre site de campagne.

Lire l’article : https://www.laquadrature.net/2024/10/31/assaut-contre-la-videosurveillance-algorithmique-dans-nos-villes/
Le site de la campagne anti-VSA : https://www.laquadrature.net/vsa/

Agenda

  • Du vendredi 8 au dimanche 10 novembre 2024 : Festival « Le nuage Ă©tait sous nos pieds Â» Ă  Marseille, tout le programme ici : https://lenuageetaitsousnospieds.org.
  • Jeudi 14 novembre 2024 : confĂ©rence « Technopolice : 5 ans de lutte contre les technologies de surveillance en France Â» lors de l’évĂšnement Ethics by Design Ă  Nantes, plus d’infos ici : https://ethicsbydesign.fr/.
  • Jeudi 14 novembre 2024 : Causerie mensuelle Technopolice Marseille, 19h, Manifesten (59 rue Adolphe Thiers, Marseille).
  • Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

Amende de LinkedIn

Vidéosurveillance algorithmique

Algorithmes de scoring

Divers

QSPTAG #313 — 18 octobre 2024

CNAF : recours collectif contre l’algo de la galĂšre

La Quadrature travaille depuis des annĂ©es sur les algorithmes utilisĂ©s par les administrations et les services sociaux, et en particulier sur l’algorithme de « scoring Â» de la Caisse nationale d’allocations familiales (CNAF). Il a fallu d’abord batailler contre l’administration pour obtenir la communication du code source, avant de publier en novembre 2023 l’analyse de la version n-1 de cet algo, la CNAF ayant refusĂ© de fournir le code de l’algorithme en usage aujourd’hui. Et ce 16 octobre, La Quadrature et 14 autres associations de dĂ©fense des droits attaquent donc l’algorithme de la CNAF devant le Conseil d’État, pour discrimination et surveillance excessive.

Cet algorithme analyse chaque mois les donnĂ©es personnelles (et intimes) de 13 millions de foyers touchant des allocations familiales, soit environ 32 millions de personnes en France, pour leur attribuer un « score de risque Â». Si ce score est trop Ă©levĂ©, un contrĂŽle est dĂ©clenchĂ©.
La CNAF prĂ©sente cet outil comme un « algorithme de lutte contre la fraude Â». En rĂ©alitĂ©, l’algorithme n’est Ă©videmment pas capable de dĂ©tecter des fraudes, qui supposent un mensonge intentionnel impossible Ă  traduire en calcul. En revanche, que peut faire un algorithme ? Il peut identifier les personnes les plus susceptibles d’avoir reçu des « indus Â» ou des « trop-perçus Â», c’est-Ă -dire des sommes supĂ©rieures Ă  ce que le calcul de leurs droits leur destine. Comment ? En identifiant les personnes dont la situation est la plus susceptible de provoquer des erreurs de dĂ©claration. Qui sont ces personnes ? Celles qui changent souvent d’adresse, de travail, de situation familiale, qui sont mĂšres cĂ©libataires, qui bĂ©nĂ©ficient de minima sociaux ou ont de faibles revenus. C’est-Ă -dire celles dont la vie est la plus marquĂ©e par la prĂ©caritĂ©.
Voici comment, sous couvert de « lutter contre la fraude Â», on traque systĂ©matiquement les personnes en difficultĂ©.

L’analyse du code source a confirmĂ© sans ambiguĂŻtĂ© la fonction discriminatoire de cet algorithme. Les critĂšres choisis et leur pondĂ©ration ciblent de façon dĂ©libĂ©rĂ©e les personnes les plus prĂ©caires : famille monoparentale, bĂ©nĂ©ficiaires du RSA, personnes sans emploi, au domicile instable, etc.
Cette discrimination, couplĂ©e Ă  une surveillance de masse (prĂšs de la moitiĂ© de la population française est concernĂ©e), nous ont poussĂ©es Ă  saisir le Conseil d’État. Si vous voulez comprendre le raisonnement juridique qui structure le recours, tout est dans le communiquĂ© de la coalition. Et si vous voulez suivre notre campagne de long cours contre les algorithmes administratifs, visitez notre page France ContrĂŽle.

Lire le communiquĂ© : https://www.laquadrature.net/2024/10/16/lalgorithme-de-notation-de-la-cnaf-attaque-devant-le-conseil-detat-par-15-organisations/

Livre : une histoire de la Technopolice

Notre campagne Technopolice a cinq ans. FĂ©lix TrĂ©guer, chercheur et membre de La Quadrature, raconte Ă  la premiĂšre personne, dans Technopolice, la surveillance policiĂšre Ă  l’ùre de l’intelligence artificielle, ce long travail d’enquĂȘte collective sur les pratiques de surveillance numĂ©rique de la police, depuis la dĂ©couverte de « l’observatoire du Big Data de de la tranquillitĂ© publique Â» de Marseille fin 2017, jusqu’à la lĂ©galisation de la VSA par la loi Jeux Olympiques en 2023, en passant par le rĂ©cit Ă©tonnant et Ă©clairant du quotidien d’un policier dans la ville de Denver au Colorado.

Croisant les analyses politiques et sociologiques, les enquĂȘtes de terrain et les chiffres, l’ouvrage analyse la Technopolice comme un fait social complexe, qui met en jeu des idĂ©ologies politiques, des ambitions industrielles, des fantasmes policiers, au prise avec des problĂšmes matĂ©riels, Ă©conomiques et humains. Et si vous voulez rencontrer l’auteur et lui poser des questions, le site recense les nombreuses rencontres en librairie Ă  venir pour les mois d’octobre, novembre et dĂ©cembre.

Lire l’article : https://www.laquadrature.net/202fondateur4/10/11/parution-du-livre-technopolice/

Action Ă  Marseille contre le data center de trop

Le 16 septembre dernier, La Quadrature du Net et le collectif local Le nuage est sous nos pieds ont organisĂ© une confĂ©rence de presse pour alerter au sujet de la construction d’un data center gĂ©ant dans l’agglomĂ©ration de Marseille : gourmand en Ă©nergie et en eau potable, ce projet s’incrit dans une logique d’inflation numĂ©rique dispendieuse, dont la nĂ©cessitĂ© n’est jamais questionnĂ©e ni soumise Ă  la dĂ©libĂ©ration dĂ©mocratique de la population qu’elle touche directement. Lisez le communiquĂ© du collectif Le nuage et sous nos pieds sur notre site.

Lire le communiquĂ© : https://www.laquadrature.net/2024/09/16/conference-de-presse-a-marseille-contre-les-data-centers/

Agenda

La Quadrature dans les médias

Livre « Technopolice Â»

Algo de la CNAF

Data center Ă  Marseille

Divers

QSPTAG #312 — 13 septembre 2024

Telegram stop

Paul Durov, fondateur et prĂ©sident de la sociĂ©tĂ© qui Ă©dite la messagerie Telegram, a Ă©tĂ© arrĂȘtĂ© en France le 24 aoĂ»t 2024. Le parquet lui reprocherait de ne pas modĂ©rer les contenus Ă©changĂ©s sur la messagerie. On a aussitĂŽt criĂ© au mĂ©pris de la libertĂ© d’expression et du secret des correspondances. Mais c’est mal connaĂźtre la messagerie, largement utilisĂ©e aussi comme un rĂ©seau social, avec des chaĂźnes ouvertes ou publiques suivies par des milliers d’abonnĂ©s. De ce cĂŽtĂ©-lĂ , rien Ă  redire : tous les rĂ©seaux sociaux sont placĂ©s devant la mĂȘme obligation de retirer les contenus illicites qui leur ont Ă©tĂ© signalĂ©s. En refusant de le faire, Telegram est en faute.

Mais le parquet est volontairement ambigu. Une ambiguĂŻtĂ© inquiĂ©tante, parce qu’elle laisse planer le soupçon que Telegram devrait surveiller aussi le contenu des conversations privĂ©es tenues sur la messagerie. Cette attaque contre le secret des correspondances s’inscrit dans la continuitĂ© d’autres pressions judiciaires allant jusqu’à la criminalisation de l’usage du chiffrement, comme l’a montrĂ© le dossier du procĂšs du « 8 dĂ©cembre Â», tandis que le gouvernement a rĂ©cemment multipliĂ© les attaques contre les rĂ©seaux sociaux lors des Ă©meutes urbaines de 2023 et cette annĂ©e en Nouvelle-CalĂ©donie. Lisez notre premiĂšre analyse de ce dossier encore trĂšs nĂ©buleux.

Lire l’article : https://www.laquadrature.net/2024/09/03/affaire-telegram-des-inquietudes-dans-un-contexte-de-guerre-contre-les-messageries-les-reseaux-sociaux-et-le-chiffrement/

La surveillance, grande gagnante des JO

Les JO de Paris 2024 ont Ă©tĂ© un tremplin pour des pratiques de surveillance sans prĂ©cĂ©dent. On pense Ă©videmment Ă  la vidĂ©osurveillance algorithmique (VSA), les JO ayant servi de prĂ©texte Ă  des lĂ©gislateurs opportunistes pour une « expĂ©rimentation Â» dont les conclusions sont tirĂ©es d’avance. Mais la surenchĂšre sĂ©curitaire a Ă©tĂ© l’occasion de mobiliser tous les moyens rĂ©cemment acquis par la police, et notamment la grande quantitĂ© de nouveaux fichiers crĂ©Ă©s depuis vingt ans (il en existe aujourd’hui plus de 100).

C’est la lecture de la presse qui a attirĂ© notre attention : des personnes qui devaient travailler durant les JO, en tant que bĂ©nĂ©voles ou salariĂ©es, avaient Ă©tĂ© Ă©cartĂ©es au dernier moment — leur accrĂ©ditation refusĂ©e sans plus d’explication. AprĂšs un appel Ă  tĂ©moignages, nous avons rĂ©uni des rĂ©cits individuels qui prĂ©sentent plusieurs points communs : les employeurs sont avisĂ©s du refus d’accrĂ©ditation sans en connaĂźtre la raison, et les personnes concernĂ©es ont toutes eu une activitĂ© politique ou militante qui a pu occasionner une interaction — mĂȘme brĂšve — avec la police.

Les fichiers de police permettent aujourd’hui d’entraver l’activitĂ© professionnelle des personnes en fonction de leur couleur politique. Une mĂ©daille de plus pour la France ? Lisez notre article pour lire les tĂ©moignages et tout savoir sur le processus de « criblage Â» appliquĂ© lors des JO.

Lire l’article  : https://www.laquadrature.net/2024/07/30/jeux-olympiques-fichage-de-masse-et-discrimination-politique/

VSA en supermarchĂ© : des algorithmes illĂ©gaux et bidons ?

Les supermarchĂ©s sont des temples de la vidĂ©osurveillance et les fabricants de VSA ne pouvaient pas laisser Ă©chapper ce juteux marchĂ©. Tandis que les grands groupes industriels s’adressent aux polices et aux États, certaines entreprises, dont la start-up française Veesion, s’adressent plus spĂ©cifiquement aux supermarchĂ©s en leur proposant des logiciels soi-disant capables d’identifier les comportements « suspects Â» de leurs clients. Le systĂšme offrirait deux avantages : amĂ©liorer la dĂ©tection des vols, et soulager les pauvres agents de surveillance qui doivent passer la journĂ©e Ă  s’user les yeux devant des Ă©crans trop nombreux. Petit problĂšme que nous avions soulevĂ© l’an dernier : filmer les gens et analyser leur comportement avec un logiciel, c’est un traitement illĂ©gal de donnĂ©es biomĂ©triques.

La CNIL s’en est mĂȘlĂ©e, confirmant notre analyse et exigeant que les magasins qui utilisent les logiciels de Veesion affichent un panneau pour informer leurs clients de ce traitement illĂ©gal. Veesion a essayĂ© de bloquer l’intervention de la CNIL, mais le Conseil d’État lui a donnĂ© tort en juin dernier. Une bonne nouvelle, mĂȘme si ce dernier rempart juridique nous semble malheureusement un peu trop fragile, dans un contexte politique plus large oĂč la police a obtenu le droit d’utiliser les mĂȘmes outils pour surveiller les JO et bientĂŽt les transports en commun.

Par ailleurs, nous avons de bonnes raisons de penser que les algorithmes de Veesion sont du vent, et reposent en rĂ©alitĂ© sur des travailleurs pauvres qui vivent Ă  Madagascar et passent leurs journĂ©es Ă  s’user les yeux devant des Ă©crans trop nombreux


Lire l’article  : https://www.laquadrature.net/2024/07/18/veesion-et-surveillance-en-supermarches-vraie-illegalite-faux-algorithmes/

Pas d’oreilles numĂ©riques Ă  OrlĂ©ans

Nous avions dĂ©posĂ© un recours il y a trois ans contre le projet de la ville d’OrlĂ©ans, qui voulait installer des micros dans les rues « sensibles Â» , en plus des camĂ©ras dĂ©jĂ  en place, pour dĂ©tecter des situations « anormales Â». Le tribunal administratif a rendu son jugement en juillet : le couplage des images et du son est illĂ©gal. Un soutien prĂ©cieux dans notre lutte, quand l’État ferme les yeux sur les pratiques ordinaires des municipalitĂ©s qui achĂštent des systĂšmes de VSA en toute illĂ©galitĂ© depuis des annĂ©es. Lisez notre analyse complĂšte de cette victoire !

Lire l’article  : https://www.laquadrature.net/2024/07/17/premiere-victoire-contre-laudiosurveillance-algorithmique-devant-la-justice/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour boucler notre budget pour l’annĂ©e 2024. N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

Faire un don Ă  La Quadrature : https://don.laquadrature.net/

Agenda

  • 14 septembre 2024 :« J’t’ai Ă  l’oeil Â», triathlon vidĂ©osurveillĂ© Ă  Montreuil, rendez-vous Ă  Croix de Chavaux Ă  14h. ÉvĂ©nement organisĂ© par la LDH-section de Montreuil, avec la participation d’Amnesty international, de l’orchestre Le Grand Marcel et de La Quadrature du Net. Voir ici.
  • 25 septembre 2024 : ConfĂ©rence « VidĂ©osurveillance algorithmique, dangers et contre-attaque Â» de La Quadrature du Net, Ă  18h15 Ă  la FacultĂ© des Sciences et Technologies de Nancy (bĂątiment Victor Grignard, amphi 8), Vandoeuvre-lĂšs-Nancy. ConfĂ©rence organisĂ©e par le collectif Stop VidĂ©osurveillance 54.
  • 2 octobre 2024 : RĂ©union mensuelle du groupe Technopolice Paris-Banlieue au Bar commun, 135 rue des poissonniers Ă  Paris 18e, Ă  partir de 19h.
  • Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

Divers

Telegram

VSA (et JO)

Orléans

Algorithmes de France Travail

Veesion et supermarchés

QSPTAG #311 — 28 juin 2024

Les algorithmes punitifs de France Travail

À France Travail (ex-PĂŽle Emploi) comme Ă  la CNAF, sous prĂ©texte de « lutter contre la fraude Â» ou de pouvoir « individualiser Â» les dossiers, des algorithmes viennent noter, classer, et juger les bĂ©nĂ©ficiaires. ExpĂ©rimentĂ©s chez France Travail depuis 2013, gĂ©nĂ©ralisĂ©s depuis 2018, ces algorithmes partent du principe que les allocataires sont malhonnĂȘtes et abusent du systĂšme de l’assurance chĂŽmage, et leur attribuent un « score de suspicion Â» (le terme est utilisĂ©e par France Travail).

Mais l’agence a aussi imaginĂ© d’utiliser des algorithmes pour remplacer la travail des conseiller·es et proposer des offres d’emplois — aprĂšs tout, c’est dĂ©jĂ  le cas pour Parcoursup et sur les applis de rencontre amoureuse
 Loin de l’application d’un droit simple, on entre dans une politique de profilage et de tri des bĂ©nĂ©ficiaires. Scores « d’employabilitĂ© Â», « traitements des aspects motivationnels Â», « dĂ©tection de signaux psychologiques Â» sont mobilisĂ©s pour dĂ©tecter les « signes de perte de confiance Â» ou les « risques de dispersion Â». Le calvaire social et intime qu’est le chĂŽmage devient un objet d’étude statistique affranchi de toute relation humaine, oĂč les vies les plus fragiles sont normĂ©es, standardisĂ©es, formatĂ©es. Le mĂȘme algorithmique qui diagnostiquera une « Dynamique de recherche faible Â» conseillera aussi l’employé·e de France Travail sur les actions Ă  demander au bĂ©nĂ©ficiaire concerné  L’analyse dĂ©taillĂ©e est disponible sur notre site.

Lire l’article : https://www.laquadrature.net/2024/06/25/a-france-travail-lessor-du-controle-algorithmique/

Mobilisation contre les partisans de la surveillance totale

Nous le disons depuis des annĂ©es : les outils numĂ©riques de la surveillance, sur Internet et dans les pratiques policiĂšres, sont des outils dangereux par essence. Ils ont pourtant toujours Ă©tĂ© adoptĂ©s, lĂ©galisĂ©s et encouragĂ©s par des gouvernements qui se prĂ©sentaient comme des ennemis des positions « extrĂȘmes Â» et promettaient la main sur le cƓur qu’ils surveillaient les habitant·es du pays pour leur bien.

Aujourd’hui, l’extrĂȘme droite est Ă  la veille de prendre le pouvoir. La responsabilitĂ© de ses prĂ©dĂ©cesseurs est Ă©norme : ils offrent Ă  un parti champion du racisme, de l’inĂ©galitĂ© entre les personnes, de la violence et de la restriction des droits politiques, une magnifique machinerie de surveillance et de rĂ©pression. Pour ces raisons, nous appelons chacune et chacun Ă  se mobiliser le 30 juin, le 7 juillet et aprĂšs, contre celles et ceux qui ont bĂąti ce systĂšme technique totalitaire, et contre celles et ceux qui comptent bien l’utiliser contre la population du pays.

Lire notre prise de position : https://www.laquadrature.net/2024/06/28/legislatives-la-surveillance-sur-un-plateau-brun/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment rĂ©uni 71% de notre objectif de collecte. N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/
et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/

Faire un don Ă  La Quadrature : https://don.laquadrature.net/

Agenda

La Quadrature dans les médias

Divers

QSPTAG #310 — 21 juin 2024

Bloquez la VSA dans votre commune !

Vous connaissez notre campagne contre la vidĂ©osurveillance algorithmique (VSA). Le moment est venu de nous dresser tous et toutes contre ces dispositifs de surveillance totale. Pour l’heure, la VSA est toujours illĂ©gale, en dehors du pĂ©rimĂštre expĂ©rimental tracĂ© par la loi Jeux Olympiques. Mais de nombreuses communes sont dĂ©jĂ  Ă©quipĂ©es, dans une opacitĂ© organisĂ©e, sans demander l’avis des habitant·es. Et les dĂ©crets prĂ©fectoraux rĂ©cupĂ©rĂ©s par notre outil Attrap’Surveillance montrent chaque jour les abus. Alors, il faut donner de la voix. Il faut se faire entendre. Écrivez Ă  votre maire !

Aux États-Unis, oĂč les pratiques de VSA sont en avance sur les nĂŽtres, de grandes villes ont dĂ©jĂ  exprimĂ© leur refus catĂ©gorique de les utiliser pour surveiller la population. En France, Montpellier a courageusement franchi le pas en 2022. Aujourd’hui, il est temps d’interpeller le plus grand nombre possible de communes, petites ou grandes, pour faire nombre et faire entendre que nous ne voulons pas laisser ce choix de sociĂ©tĂ©, totalitaire et dĂ©shumanisant, s’installer partout par inertie. La surveillance n’est pas une fatalitĂ© et nous pouvons l’arrĂȘter.

N’hĂ©sitez pas : faites entendre votre voix et celle d’un trĂšs grand nombre d’habitant·es de ce pays. Nous avons prĂ©parĂ© un modĂšle de lettre Ă  envoyer Ă  votre mairie, que vous pouvez personnaliser comme vous voulez. Vous trouverez aussi des flyers et des affiches trĂšs faciles Ă  adapter Ă  votre commune, pour faire passer le message dans les rues et tout autour de vous. Tout est rassemblĂ© sur cette page. Aidez le pays Ă  lutter contre la surveillance et l’enfermement sur lui-mĂȘme. Nous n’avons aucune raison ni aucune envie de vivre dans une prison Ă  ciel ouvert. La libertĂ© est collective !

Lire l’article  : https://www.laquadrature.net/2024/06/18/faites-interdire-la-videosurveillance-algorithmique-dans-votre-ville/
Trouver les Ă©lĂ©ments d’action : https://www.laquadrature.net/pasdevsadansmaville/
La page de la campagne contre la VSA : https://www.laquadrature.net/vsa/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment rĂ©uni 70% de notre objectif de collecte. N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don Ă  La Quadrature : https://don.laquadrature.net/

Agenda

  • Vendredi 5 juillet 2024 : ApĂ©ro public dans nos locaux, au 115 rue de MĂ©nilmontant Ă  Paris, de 19h Ă  23h, entrĂ©e libre.
  • Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

Vidéosurveillance algorithmiquee

RĂšglement CSAR

Divers

QSPTAG #309 — 7 juin 2024

Pourquoi le blocage de TikTok est un précédent inquiétant

Lors des Ă©vĂ©nements violents qui ont secouĂ© la Kanaky-Nouvelle-CalĂ©donie au mois de mai, le gouvernement avait dĂ©cidĂ© de bloquer sur ce territoire l’accĂšs au rĂ©seau social TikTok, accusĂ© d’ĂȘtre un moyen d’entretenir la rĂ©volte d’une partie de ses habitant·es. Pleinement conscients de la toxicitĂ© de ce rĂ©seau social comme de nombreux autres, nous avions pourtant attaquĂ© la dĂ©cision du gouvernement devant le Conseil d’État, en raison de son atteinte exceptionnelle au rĂ©gime de l’État de droit et de la libertĂ© d’expression, une premiĂšre dans un pays dĂ©mocratique de l’Union europĂ©enne.

Le Conseil d’État a rejetĂ© notre demande, validant la lĂ©galitĂ© confuse invoquĂ©e par le gouvernement pour justifier son geste, flottant entre « état d’urgence » et « circonstances exceptionnelles », tout autant que la lĂ©gĂšretĂ© des preuves qu’il apportait pour appuyer ses affirmations sur le rĂŽle jouĂ© par TikTok dans les Ă©meutes. Depuis cette dĂ©cision, l’état d’urgence a Ă©tĂ© levĂ© et l’accĂšs au rĂ©seau rĂ©tabli.

Mais la dĂ©cision du Conseil d’État, que nous avions sollicitĂ© dans la cadre d’un recours en rĂ©fĂ©rĂ©-libertĂ©, portait sur l’urgence Ă  maintenir ou Ă  suspendre la dĂ©cision du gouvernement. C’est ce caractĂšre d’urgence qui a Ă©tĂ© refusĂ©, mais la dĂ©cision ne portait pas sur le fond de la lĂ©galitĂ© ou de l’illĂ©galitĂ© de l’action du gouvernement, pourtant condamnĂ©e sur le principe par les plus hautes cours europĂ©ennes (CEDH) ou les instances internationales (Nations Unies). C’est pourquoi nous avons dĂ©cidĂ© de dĂ©poser un nouveau recours devant le Conseil d’État, pour l’obliger Ă  statuer a posteriori sur la lĂ©galitĂ© de la coupure arbitraire d’une partie d’Internet par un gouvernement. L’enjeu n’a Ă©videmment rien Ă  voir avec TikTok, mais concerne directement le droit des habitant·es de l’Union europĂ©enne Ă  ne pas ĂȘtre privé·es Ă  l’avenir de leurs moyens de communication, du jour au lendemain, par un gouvernement livrĂ© Ă  ses plus bas instincts rĂ©pressifs.

Lire l’article : https://www.laquadrature.net/2024/06/05/blocage-de-tiktok-en-nouvelle-caledonie-retour-sur-un-fiasco-democratique/

Analyse du rĂšglement IA

Le rĂšglement europĂ©en sur l’Intelligence artificielle (IA Act) a Ă©tĂ© adoptĂ© le 21 mai dernier. Au dĂ©but des nĂ©gociations autour de ce texte en 2021, les intentions annoncĂ©es pouvaient laisser espĂ©rer qu’il encadrerait ou interdirait l’usage des techniques d’IA les plus attentatoires aux droits individuels et collectifs, comme la reconnaissance faciale, ou les algorithmes de contrĂŽle policier, administratif et de « notation sociale ». Mais l’insistance des États membres, la France en tĂȘte, a eu raison de ces bonnes intentions.

Cette approche de l’IA comme « marchĂ© Â» et comme moyen de croissance Ă©conomique rĂ©duit dĂ©libĂ©rĂ©ment les garde-fous censĂ©s encadrer l’usage de l’IA pour la surveillance des populations, en crĂ©ant de nombreuses exceptions par lesquelles l’industrie et les gouvernements pourront justifier les pires usages policiers. Une analyse dĂ©taillĂ©e Ă  lire sur notre site.

Lire l’analyse du rĂšglement IA : https://www.laquadrature.net/2024/05/22/le-reglement-ia-adopte-la-fuite-en-avant-techno-solutionniste-peut-se-poursuivre/

Loi contre les ingérences étrangÚres

Dans le contexte gĂ©opolitique que l’on connaĂźt, le gouvernement a dĂ©cidĂ© de soutenir, par l’intermĂ©diaire du dĂ©putĂ© Sacha HouliĂ© (Renaissance), une proposition de loi pour « PrĂ©venir les ingĂ©rences Ă©trangĂšres en France Â». Parmi les diverses dispositions envisagĂ©es, dont un contrĂŽle serrĂ© des financements associatifs venus de l’étranger, il s’agit d’autoriser les services de renseignement Ă  utiliser pour de nouvelles finalitĂ©s les fameuses « boĂźtes noires Â» lĂ©galisĂ©es en 2015 par la loi Renseignement.

Ces « sondes Â» surveillent les rĂ©seaux de tĂ©lĂ©communication (Internet et tĂ©lĂ©phonie) Ă  la recherche de signaux susceptibles d’attirer l’attention des service de renseignement. Le loi de 2015 imposait quelques limites fragiles Ă  cette surveillance de masse, en le limitant Ă  la lutte antiterroriste, avec des obligations d’évaluation et de contrĂŽle, mais avec une dĂ©finition trop tolĂ©rante de ce qui est considĂ©rĂ© comme du terrorisme, pouvant englober l’activisme Ă©cologique par exemple. La nouvelle proposition de loi viendrait encore Ă©largir ce cadre, avec des champs mal dĂ©finis comme « l’indĂ©pendance nationale Â» ou « les intĂ©rĂȘts majeurs de la politique Ă©trangĂšre Â».

L’Observatoire des LibertĂ©s et du NumĂ©rique (OLN), un collectif d’association de dĂ©fense des libertĂ©s dont La Quadrature fait partie, a rĂ©digĂ© un communiquĂ© pour dĂ©noncer le risque que cette surveillance accrue fait peser sur nos libertĂ©s collectives. Nous signons et publions ce communiquĂ© sur notre site.

Lire le communiquĂ© de l’OLN : https://www.laquadrature.net/2024/05/30/proposition-de-loi-ingerences-etrangeres-une-nouvelle-etape-dans-lescalade-securitaire/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment rĂ©uni 67% de notre objectif de collecte. N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don Ă  La Quadrature : https://don.laquadrature.net/

Agenda

  • 13 juin 2024 : Causerie mensuelle Technopolice Marseille. Rendez-vous Ă  19h au Manifesten, 59 Rue Adolphe Thiers
  • Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

À voir

Blocage de TikTok

Recours

DĂ©lai

DĂ©cision

DĂ©blocage

Conséquences

Vidéosurveillance algorithmique (VSA)

Loi SREN

Loi sur les ingérences étrangÚres

QSPTAG #308 — 17 mai 2024

DĂ©jĂ  une proposition de loi pour Ă©tendre la VSA dans les transports

C’est une logique que nous avions dĂ©noncĂ©e comme un risque : la lĂ©galisation des « expĂ©rimentations Â» de vidĂ©osurveillance algorithmique (VSA) dans le cadre des JO ouvrait la porte Ă  une banalisation et Ă  une extension de la VSA dans d’autres contextes. Cassandre avait raison, et l’extension de l’usage de la VSA, avant mĂȘme son « Ă©valuation Â», connaĂźt dĂ©jĂ  une nouvelle avancĂ©e.

Le SĂ©nat a votĂ© en fĂ©vrier une proposition de loi que l’AssemblĂ©e nationale a commencĂ© d’étudier en commission des lois ce mercredi 15 mai. Cette loi « relative au renforcement de la sĂ»retĂ© dans les transports Â» comporte un article 9 qui autoriserait l’utilisation de logiciels de VSA pour analyser a posteriori les images de vidĂ©osurveillance prises dans les transports publics (SNCF et RATP en tĂȘte) dans le cadre d’enquĂȘtes pĂ©nales. Les logiciels sont notamment capables d’isoler et de suivre une personne sur une grande quantitĂ© d’images et de reconstituer son trajet, sans que les agents aient besoin de visionner des heures d’enregistrements.

La stratĂ©gie est Ă  la fois habile et grossiĂšre. On voit bien qu’elle avance Ă  petits pas, autorisant un usage aprĂšs l’autre, pour masquer la progression de la VSA en la dissĂ©minant dans une poussiĂšre de lois et de cas d’usages qui paraissent Ă  chaque fois restreints. Mais il suffit d’un pas de recul pour voir que les prĂ©tentions Ă  la sagesse et Ă  la prudence, colportĂ©es par le terme « expĂ©rimentation Â» n’ont pas tenu trĂšs longtemps. Nous appelons Ă©videmment les dĂ©puté·es Ă  rejeter cet article qui veut lĂ©galiser des pratiques pour l’instant illĂ©gales dans la surveillance des transports en commun. Toutes les explications dans notre article.

Lire l’article : https://www.laquadrature.net/2024/05/14/vsa-lassemblee-discute-deja-son-extension-aux-transports/
Notre page de campagne contre la VSA : laquadrature.net/vsa

Recours contre le blocage de TikTok en Nouvelle-Calédonie

Dans un contexte de grande violence et de crise politique majeure en Nouvelle-CalĂ©donie, le gouvernement a dĂ©cidĂ© de couper d’autoritĂ© l’accĂšs Ă  TikTok sur le territoire calĂ©donien. Par-delĂ  les questions de sĂ©curitĂ© invoquĂ©es, cette censure arbitraire constitue un prĂ©cĂ©dent trĂšs inquiĂ©tant, et une application directe des intentions de censure exprimĂ©es par Emmanuel Macron et le gouvernement lors des rĂ©voltes urbaines de l’étĂ© 2023. Nous avons dĂ©posĂ© un rĂ©fĂ©rĂ©-libertĂ© (procĂ©dure d’urgence) devant le Conseil d’État pour contester cette mesure de censure. Plus de dĂ©tails dans notre communiquĂ© de presse.

Lire le communiquĂ© : https://www.laquadrature.net/2024/05/17/la-quadrature-du-net-attaque-en-justice-le-blocage-de-tiktok-en-nouvelle-caledonie/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment rĂ©uni 65% de notre objectif de collecte. N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don Ă  La Quadrature : https://don.laquadrature.net/

Agenda

  • 18 mai 2024 : La Quadrature sera au Festival du livre et des cultures libres Ă  l’espace autogĂ©rĂ© des Tanneries, Ă  Dijon. Plus d’infos ici.
  • 25 mai 2024 : JournĂ©es du logiciel libre Ă  Lyon – ConfĂ©rence « La vidĂ©osurveillance algorithmique menace nos villes, contre-attaquons ! Â». Plus d’infos sur la confĂ©rence et plus d’infos sur les JDLL.
  • 25 mai 2024 : La Quadrature participe Ă  une table ronde organisĂ©e par le collectif Base Bleue dans le cadre de l’exposition « Les Yeux Olympiques Â». Ce sera de 16h Ă  18h au Doc, 27 rue du Docteur Potain dans le 19e arrondissement de Paris.
  • 1er juin 2024 : Table ronde sur les rĂ©seaux sociaux dans l’environnement militant au festival Ma’Track Ă  cotĂ© d’Angers. Plus d’informations ici.
  • 5 juin 2024 : Atelier-terrasse d’autodĂ©fense numĂ©rique, LQDN convoquĂ©e Au Poste par David Dufresne.

La Quadrature dans les médias

Vidéosurveillance algorithmique (VSA)

Blocage de TikTok

Divers

QSPTAG #307 — 3 mai 2024

Lancement de notre campagne contre la VSA

La loi JO de 2023 a lĂ©galisĂ© des « expĂ©rimentations Â» de vidĂ©osurveillance algorithmique (VSA) dans un cadre prĂ©cis : des Ă©vĂ©nements « festifs, sportifs ou culturels Â», sur une pĂ©riode donnĂ©e (jusqu’en mars 2025), et pour surveiller seulement huit critĂšres parmi lesquels les dĂ©parts de feu, les franchissements de ligne ou les mouvements de foule par exemple. Mais on le sait depuis longtemps grĂące Ă  notre campagne Technopolice, la VSA est dĂ©jĂ  prĂ©sente et utilisĂ©e dans des dizaines de communes sans aucun cadre lĂ©gal. La SNCF expĂ©rimente par exemple depuis plusieurs mois un dispositif appelĂ© Prevent PCP et qui dĂ©passe largement le cadre dĂ©limitĂ© par la loi JO.

C’est pourquoi nous lançons cette semaine une grande campagne contre la VSA lĂ©gale et illĂ©gale, en profitant de l’intĂ©rĂȘt suscitĂ© par les JO, pour dĂ©noncer l’hypocrisie consistant Ă  lĂ©galiser petit Ă  petit, et Ă  banaliser par le fait, un systĂšme de surveillance qui sert Ă  la fois des intĂ©rĂȘts Ă©lectoraux, industriels et policiers au mĂ©pris complet des droits fondamentaux et sans aucun dĂ©bat dĂ©mocratique.

PremiĂšre action de cette campagne : une plainte devant la CNIL contre le dispositif Prevent PCPC de la SNCF. Pour en savoir plus sur la campagne, lisez notre communiquĂ© de lancement ! Et retrouvez sur notre page de campagne les Ă©lĂ©ments de communication et de sensibilisation que nous avons prĂ©parĂ©s. Ils seront complĂ©tĂ©s au fil de la campagne.

Lire le communiquĂ© de lancement de la campagne : https://www.laquadrature.net/2024/05/02/contre-lempire-de-la-videosurveillance-algorithmique-la-quadrature-du-net-contre-attaque/
Le site de campagne : hhttps://www.laquadrature.net/vsa/

Hadopi : la CJUE renonce Ă  protĂ©ger l’anonymat en ligne

C’est une affaire qui commence en 2019. Dans le cadre de nos actions contre Hadopi, nous avions soulevĂ© devant le Conseil d’État le problĂšme de l’absence de contrĂŽle prĂ©alable Ă  la collecte des adresses IP et de l’identitĂ© civile des internautes, et la question de la licĂ©itĂ© de cette collecte au regard du droit de l’UE. AprĂšs un circuit complet, du Conseil d’État au Conseil constitutionnel et retour, le Conseil d’État avait dĂ©cidĂ© de transmettre le problĂšme sous forme d’une « question prĂ©judicielle Â» Ă  la Cour de justice de l’Union europĂ©enne (CJUE). Celle-ci a rendu une dĂ©cision trĂšs dĂ©cevante ce mardi 30 avril. À rebours de sa dĂ©cision de 2020, la CJUE autorise toujours la collecte massive de l’identitĂ© civile des internautes, et admet dĂ©sormais que l’association de celle-ci avec l’adresse IP et une communication peut se faire pour n’importe quel motif. Elle semble valider de guerre lasse la pratique illicite des États europĂ©ens depuis des annĂ©es. Tous les dĂ©tails de cette dĂ©cision et de ses consĂ©quences dans notre article de rĂ©action.

Lire notre rĂ©action : https://www.laquadrature.net/2024/04/30/surveillance-et-hadopi-la-justice-europeenne-enterre-un-peu-plus-lanonymat-en-ligne/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024, et nous avons pour le moment atteint 60% de notre objectif de collecte. N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don Ă  La Quadrature : https://don.laquadrature.net/

Agenda

  • 3 mai 2024 : ApĂ©ro public dans nos locaux, 115 rue de MĂ©nilmontant, 75020 Paris, Ă  partir de 19h. Venez nous rencontrer !
  • 16 mai 2024 : Causerie mensuelle du groupe Technopolice Marseille, Ă  partir de 19h au Manifesten, 59 Rue Adolphe Thiers, Marseille.
  • 18 mai 2024 : La Quadrature sera au Festival du livre et des cultures libres Ă  l’espace autogĂ©rĂ© des Tanneries, Ă  Dijon. Plus d’infos ici : https://festivaldulivre.tanneries.org/.
  • 25 mai 2024 : JournĂ©es du logiciel libre Ă  Lyon – ConfĂ©rence « La vidĂ©osurveillance algorithmique menace nos villes, contre-attaquons ! Â» Ă  13h. Plus d’infos sur la confĂ©rence et plus d’infos sur les JDLL.
  • Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

VSA et JO

Hadopi

Divers

QSPTAG #306 — 26 avril 2024

VSA et JO : top dĂ©part

Vous le savez, la loi JO votĂ©e en 2023 autorise la vidĂ©osurveillance algorithmique (VSA) Ă  titre « d’expĂ©rimentation Â» sur une pĂ©riode assez Ă©tendue, jusqu’à 2025. On attendait les arrĂȘtĂ©s prĂ©fectoraux nĂ©cessaires pour les utilisations de la VSA lors des Ă©vĂ©nements publics qui doivent servir de terrain d’essai. Les premiers arrĂȘtĂ©s sont arrivĂ©s durant ce mois d’avril.

La RATP et la SNCF ont ainsi pu surveiller automatiquement les personnes Ă  l’occasion du match PSG-OL du 21 au 22 avril et lors du concert des Black Eyed Peas le 20 avril, sur des camĂ©ras installĂ©es Ă  la Gare de Lyon et prĂšs du pont du Garigliano, ainsi que l’ensemble des camĂ©ras des stations de mĂ©tro et de RER dans les gares de Nanterre PrĂ©fecture et de La DĂ©fense Grande Arche.

La Quadrature du Net s’est mobilisĂ©e depuis 2019 contre cette technologie et continue sa bataille. Nous vous tiendrons au courant dans les prochaines semaines des actions Ă  venir !

Lire l’article : https://www.laquadrature.net/2024/04/17/experimentation-de-la-vsa-les-premieres-autorisations-sont-tombees/

La loi SREN aggravée en commission paritaire

Nous avions suivi depuis mai 2023 les discussions de la loi pour « SĂ©curiser et rĂ©guler l’espace numĂ©rique Â» (SREN), qui Ă©tait encore travaillĂ©e en mars dernier par la commission mixte paritaire – un groupe de membres de l’AssemblĂ©e nationale et du SĂ©nat Ă  parts Ă©gales â€“ pour trouver un accord sur un texte commun entre les deux chambres.

La commission a rendu son travail le 16 mars, et le rĂ©sultat n’est pas bon. VĂ©rification obligatoire de l’ñge des internautes sur les plateformes, retrait des contenus signalĂ©s par la police sans validation par un juge (censure administrative), « dĂ©lit d’outrage en ligne Â» mal dĂ©fini, filtrage des sites au niveau du navigateur, etc.

La plupart de ces mesures sont nocives parce qu’elles instaurent des exceptions ou des restrictions Ă  la libertĂ© de communication sous des prĂ©textes populaires (protĂ©ger les enfants, en particulier), en autorisant des moyens d’action faciles Ă  utiliser ensuite pour d’autres buts, et placĂ©s entre les mains de la police ou des caprices des gouvernements.

Certaines mesures entrent mĂȘme directement en conflit avec le droit de l’Union europĂ©enne. Le texte oblige par exemple les plateformes Ă  vĂ©rifier l’ñge des internautes. Une obligation qui ne peut ĂȘtre imposĂ©e qu’au niveau europĂ©en. Pour contourner l’obstacle, la derniĂšre version du texte cible seulement les plateformes situĂ©es « en France ou hors de l’Union europĂ©enne Â»â€Š

Découvrez tous les détails diaboliques du texte en lisant notre article.

Lire l’article : https://www.laquadrature.net/2024/04/09/projet-de-loi-sren-le-parlement-saccorde-pour-mettre-au-pas-internet/

Surveillance des militants

SoupçonnĂ©es de s’ĂȘtre introduites dans une cimenterie Lafarge en dĂ©cembre 2023, dans le cadre d’une action Ă©cologiste, dix-sept personnes ont Ă©tĂ© arrĂȘtĂ©es le 8 avril 2024. Dans le cadre d’un rassemblement de soutien organisĂ© Ă  Aix-en-Provence, un membre de La Quadrature a lu un texte pour exprimer l’inquiĂ©tude de l’association. Sous prĂ©texte de « lutte contre le terrorisme Â», on a donnĂ© Ă  la police et aux services de renseignement des moyens de surveillance numĂ©rique dĂ©mesurĂ©s, trĂšs intrusifs, peu ou mal contrĂŽlĂ©s, utilisĂ©s pour monter des dossiers criminels contre des citoyen·nes exerçant des droits politiques lĂ©gitimes. De l’aveu mĂȘme des services, la part des militant·es surveillé·es a doublĂ© dans les cinq derniĂšres annĂ©es. Un texte Ă  lire en intĂ©gralitĂ© sur notre site.

Lire l’article : https://www.laquadrature.net/2024/04/08/contre-la-criminalisation-et-la-surveillance-des-militant%c2%b7es-politiques/

Soutenir La Quadrature en 2024

Nous avons besoin de vous pour travailler en 2024 ! N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don Ă  La Quadrature : https://don.laquadrature.net/

Agenda

  • 2 mai 2024 : A-t-on besoin de la vidĂ©osurveillance pour ĂȘtre en sĂ©curitĂ© dans nos espaces publics ? À l’occasion d’une confĂ©rence Ă  l’ENSAD Paris, nous essayerons d’y rĂ©pondre en questionnant la notion de sĂ©curitĂ©, et la place de la vidĂ©osurveillance dans nos espaces publiques. École des Arts DĂ©coratifs (amphithĂ©atre Rodin), 31 rue d’Ulm, Paris 5e arrondissement, de 18h30 Ă  20h30. Plus d’informations : https://www.ensad.fr/fr/videosurveillance-espace-public.
  • 3 mai 2024 : ApĂ©ro public dans nos locaux, 115 rue de MĂ©nilmontant, 75020 Paris, Ă  partir de 19h. Venez nous rencontrer !
  • 18 mai 2024 : ConfĂ©rence « Surveillance de masse et gestion des donnĂ©es personnelles Â», de 16h Ă  17h30, MĂ©diathĂšque Visages du Monde, 10 place du Nautilus, Ă  Cergy. DĂ©tails dans le programme de la mĂ©diathĂšque.
  • 18 mai 2024 : La Quadrature sera au Festival du livre et des cultures libres Ă  l’espace autogĂ©rĂ© des Tanneries, Ă  Dijon. Plus d’infos ici : https://festivaldulivre.tanneries.org/.
  • 25 mai 2024 : JournĂ©es du logiciel libre Ă  Lyon – ConfĂ©rence « La vidĂ©osurveillance algorithmique menace nos villes, contre-attaquons ! Â», Ă  13h. Plus d’infos sur la confĂ©rence ici : https://pretalx.jdll.org/jdll2024/talk/ZNZL3Z/ et plus d’infos sur les JDLL : https://www.jdll.org/.
  • Retrouvez tout l’agenda en ligne.

La Quadrature dans les médias

VSA et JO

Algos de contrĂŽle social

Loi SREN

Surveillance

Divers

QSPTAG #305 — 22 mars 2024

Pour mieux surveiller ses allocataires, La CAF aura dorénavant accÚs aux revenus des Français en temps réel

Notre travail d’enquĂȘte sur les algorithmes de contrĂŽle social continue. AprĂšs avoir obtenu l’algorithme utilisĂ© par la CAF pour contrĂŽler ses allocataires en fonction d’un « score de risque Â», aprĂšs avoir analysĂ© cette mĂ©thode de calcul et dĂ©montrĂ© qu’elle ciblait volontairement les personnes les plus prĂ©caires, nous poursuivons nos recherches du cĂŽtĂ© des outils utilisĂ©s par d’autres services sociaux : assurance vieillesse, assurance maladie, assurance chĂŽmage, etc. Vous pouvez retrouver l’ensemble de ces travaux sur notre page de campagne.

Mais les derniĂšres nouvelles concernant les pratiques de la CAF nous sont arrivĂ©es par la presse : tout en se dĂ©fendant des mauvaises intentions que nous lui prĂȘtions, la CAF continuait/continu ? de demander l’accĂšs Ă  toujours plus de donnĂ©es, pour mieux surveiller ses allocataires. Elle a donc obtenu rĂ©cemment le droit d’accĂ©der au fichier du Dispositif des ressources mensuelles (DRM), qui recense quotidiennement pour chaque personne l’intĂ©gralitĂ© de ses sources de revenus : les salaires perçus et les prestations sociales touchĂ©es. CrĂ©Ă© pour faciliter le calcul des aides personnalisĂ©es pour le logement (APL), le fichier connaĂźt donc une dĂ©viation flagrante de sa finalitĂ© premiĂšre. Et l’utilisation que compte en faire la CAF n’est pas brillante : il s’agit d’amĂ©liorer la « productivitĂ© Â» de son algorithme de contrĂŽle.
Les revenus des allocataires Ă©taient jusqu’à prĂ©sent connus annuellement au moment de la dĂ©claration de revenus, ou chaque trimestre auprĂšs des allocataires. La surveillance mensuelle des variations de revenus, en permettant une rĂ©vision plus serrĂ©e des droits des allocataires, permettra sans doute de dĂ©tecter de plus nombreux « trop perçus Â» – voilĂ  pour la « productivitĂ© Â». Et qui sont les personnes dont les revenus varient le plus, et ont le plus besoin des aides sociales ? Les plus pauvres, encore une fois.

En plus de cette discrimination automatisĂ©e, cette annonce nous paraĂźt rĂ©vĂ©ler deux problĂšmes : d’une part l’inefficacitĂ© du contrĂŽle opĂ©rĂ© par la CNIL, pourtant crĂ©Ă©e pour surveiller l’usage des fichiers, et d’autre part le dĂ©voiement du projet gouvernemental de « solidaritĂ© Ă  la source Â», annoncĂ© comme un moyen de lutter contre le « non recours Â» aux aides sociales, en passe de devenir un systĂšme de centralisation des donnĂ©e plĂ©thorique et sans contrĂŽle.

Lire l’article : https://www.laquadrature.net/2024/03/13/notation-des-allocataires-la-caf-etend-sa-surveillance-a-lanalyse-des-revenus-en-temps-reel/

Soutenir La Quadrature en 2024

Nous sommes toujours en campagne de soutien pour financer notre travail en 2024. C’est pour nous l’occasion de prĂ©senter les grands chantiers en cours, principalement la lutte contre les algorithmes de contrĂŽle social dans les administrations, la dĂ©fense du droit au chiffrement des communications, la promotion de l’interopĂ©rabilitĂ© des services Web, et la rĂ©flexion nĂ©cessaire autour du numĂ©rique dans le contexte de la crise Ă©cologique mondiale.

Nous avons besoin de vous pour travailler en 2024 ! N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don Ă  La Quadrature : https://don.laquadrature.net/

Agenda

  • 29 mars 2024 : apĂ©ro public dans nos locaux, 115 rue de MĂ©nilmontant, 75020 Paris, Ă  partir de 19h.
  • 11 avril 2024 : causerie mensuelle du groupe Technopolice Marseille, au Manifesten, 59 rue Adolphe Thiers, 13001 Marseille, Ă  partir de 19h.

La Quadrature dans les médias

Algos de contrĂŽle social

Surveillance

Technopolice : police prĂ©dictive

Technopolice : VSA et JO

Divers

QSPTAG #304 — 9 fĂ©vrier 2024

Un nouveau fichier de police pour les immigrées et les transgenres

Un arrĂȘtĂ© du ministre de l’IntĂ©rieur, dans les derniers jours de dĂ©cembre 2023, crĂ©e un nouveau fichier pour « la consultation de l’identitĂ© des personnes ayant changĂ© de nom ou de prĂ©nom Â»., Ă  laquelle les services de police et de gendarmerie auront un accĂšs direct. Vous ĂȘtes concernĂ©e si vous avez changĂ© de nom Ă  l’état civil, quelle qu’en soit la raison. ConcrĂštement, qui va se retrouver dans ce fichier ? Des personnes dont le nom de famille Ă©tait lourd Ă  porter (les Connard qui aspirent Ă  une vie plus apaisĂ©e), des immigrĂ©es qui ont francisĂ© leur nom, et des personnes trans qui ont adoptĂ© un prĂ©nom en accord avec leur identitĂ© de genre. Pourquoi la police a-t-elle besoin de les rassembler dans un fichier ?

On se met Ă  la place des administrations : il est Ă©videment important pour elles de connaĂźtre le changement d’état civil d’un personne. Mais des procĂ©dures efficace existent dĂ©jĂ  et de façon entiĂšrement dĂ©centralisĂ©e : la modification est signalĂ©e au cas par cas aux administrations concernĂ©es (impĂŽts, caisses de sĂ©curitĂ© sociale, employeur, permis de conduire, etc.), par l’INSEE ou par la personne concernĂ©e, et le systĂšme fonctionne trĂšs bien sans fichier centralisĂ© de police.

Les questions soulevĂ©es par la crĂ©ation de ce fichier sont nombreuses. D’abord, il rĂ©unit des donnĂ©es sensibles, au sens juridique, mais les prĂ©cautions lĂ©gales nĂ©cessaires pour ce genre de traitement n’ont pas Ă©tĂ© prises. La CNIL, crĂ©Ă©e en 1978 pour mettre un frein Ă  la frĂ©nĂ©sie de fichage de l’État, semble avoir renoncĂ© Ă  s’en soucier. Non seulement les fichiers prolifĂšrent de maniĂšre spectaculaire depuis une vingtaine d’annĂ©es, mais les possibilitĂ©s de les croiser au moment de la consultation se sont dĂ©multipliĂ©es, Ă  la demande d’une police dont la vision de la sociĂ©tĂ© n’est contre-balancĂ©e par aucun contre-pouvoir, et mĂȘme vigoureusement encouragĂ©e par les gouvernements.

Or, le comportement du corps policier, pris dans sa globalitĂ© statistique, dĂ©montre une hostilitĂ© marquĂ©e Ă  l’égard des personnes d’origine Ă©trangĂšre (mĂȘme lointainement) et Ă  l’égard des personnes transgenres, frĂ©quemment objets de moqueries, d’humiliations ou de brutalitĂ©s physiques. Donner aux policiers, ces humains plein de dĂ©fauts, un moyen de connaĂźtre l’origine Ă©trangĂšre ou la transidentitĂ© de quelqu’un, c’est exposer les personnes Ă  des risques rĂ©els, pour un bĂ©nĂ©fice d’enquĂȘte trĂšs marginal a priori. D’autant plus quand l’actualitĂ© montre un nombre croissant d’accĂšs illĂ©gaux Ă  des fichiers de police sensibles.

Pour connaĂźtre le contexte de la crĂ©ation de ce fichier et notre analyse juridique et politique des risques qu’il comporte, lisez notre article de la semaine derniĂšre !

Lire l’article : https://www.laquadrature.net/2024/01/30/la-france-cree-un-fichier-des-personnes-trans/

Soutenez La Quadrature en 2024

Comme bon nombre d’associations, nous sommes en campagne de soutien pour financer notre travail en 2024. C’est pour nous l’occasion de prĂ©senter les grands chantiers qui nous attendent, principalement la lutte contre les algorithmes de contrĂŽle social dans les administrations, la dĂ©fense du droit au chiffrement des communications, la promotion de l’interopĂ©rabilitĂ© des services Web, et la rĂ©flexion nĂ©cessaire autour du numĂ©rique dans le contexte de la crise Ă©cologique mondiale.

Nous avons besoin de vous pour travailler en 2024 ! N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

Agenda

  • 13 fĂ©vrier 2024 : ConfĂ©rence « EnquĂȘter, s’organiser et lutter contre la surveillance numĂ©rique Â», dans le cadre du Festival international Filmer le travail. 17h30, UniversitĂ© de Poitiers (Amphi Bourdieu). Plus d’infos ici : EnquĂȘter, s’organiser et lutter contre la surveillance numĂ©rique.
  • 14 mars 2024 : rĂ©union mensuelle du groupe Technopolice Marseille, Ă  19h au Manifesten, 59 Rue Adolphe Thiers, Marseille. PrĂ©sentations, discussions, prĂ©parations d’actions Ă  venir. Venez nombreuses !

La Quadrature dans les médias

Algorithmes administratifs

Divers

QSPTAG #303 — 26 janvier 2024

Comment les polices françaises utilisent les outils de « police prĂ©dictive Â»

Dans le cadre d’une enquĂȘte europĂ©enne coordonnĂ©e par l’ONG Fair Trials, La Quadrature du Net s’est chargĂ©e d’enquĂȘter sur les polices françaises et publie un rapport complet sur leurs pratiques numĂ©riques de « police prĂ©dictive Â». Cinq logiciels sont Ă©tudiĂ©s, utilisĂ©s par la police nationale (PredVol, RTM), la gendarmerie (PAVED) ou des polices municipales (Smart Police, M-Pulse).

La « police prĂ©dictive Â» est un rĂȘve de policier : faire entrer dans un logiciel toutes les donnĂ©es possibles, des procĂšs-verbaux de police, des mains courantes et des plaintes, des donnĂ©es fournies par les pompiers, les hĂŽpitaux, le trafic routier, et mĂȘme la mĂ©tĂ©o, pour prĂ©voir grĂące Ă  la puissance de l’intelligence artificielle (cette dĂ©esse) et des algorithmes (ses elfes), les lieux et les moments oĂč les dĂ©linquants vont sĂ©vir. AgrĂ©geant des montagnes de donnĂ©es et les passant Ă  la moulinette de logiciels conçus dans d’autres buts plus sĂ©rieux (la prĂ©vision des tremblements de terre, par exemple), ces outils n’ont jamais dĂ©montrĂ© une efficacitĂ© supĂ©rieure Ă  celle d’un agent expĂ©rimentĂ©. Ils risquent en plus d’amplifier les discriminations structurelles auxquelles participe dĂ©jĂ  l’institution policiĂšre. Cela n’a pas empĂȘchĂ©, aux États-Unis, en Grande-Bretagne ou en France, que des sommes considĂ©rables leur soient consacrĂ©es, dans l’espoir d’affecter les effectifs de police au bon endroit au bon moment, grĂące aux prophĂ©ties des logiciels.

C’est une lecture en deux temps que nous vous proposons.

D’une part le rapport en lui-mĂȘme, qui prĂ©sente avec beaucoup de prĂ©cision les logiciels, leurs finalitĂ©s, leur fonctionnement, les donnĂ©es qu’ils exploitent, et les consĂ©quences pratiques qu’ils entraĂźnent pour le travail des agents. Un document de rĂ©fĂ©rence sur le sujet, qui croise des informations techniques et opĂ©rationnelles, apporte des Ă©lĂ©ments historiques et met en lien ces « innovations Â» avec d’autres tendances qui traversent les politiques de sĂ©curitĂ©.

D’autre part, un article introductif qui propose une synthĂšse thĂ©matique des prĂ©supposĂ©s qui entourent ces outils policiers (prĂ©jugĂ©s sociaux, corrĂ©lations approximatives, choix techniques arbitraires) et de leurs consĂ©quences (automatisation et renforcement des logiques de stigmatisation sociale, gĂ©ographique, etc.). MalgrĂ© leur nullitĂ© et leur nocivitĂ© dĂ©montrĂ©es, ces outils continuent d’ĂȘtre en usage en France. Notre article se termine donc sur un appel Ă  tĂ©moignages : aidez-nous Ă  faire interdire les outils de la rĂ©pression policiĂšre automatisĂ©e !

Lire l’article : https://www.laquadrature.net/2024/01/18/la-police-predictive-en-france-contre-lopacite-et-les-discriminations-la-necessite-dune-interdiction/
Lire le rapport : https://www.laquadrature.net/wp-content/uploads/sites/8/2024/01/20240118_LQDN_policepredictive.pdf

Jeux olympiques : la surveillance algorithmique Ă  l’échauffement

LĂ©galisĂ©e par la loi Jeux Olympiques en mai 2023, l’utilisation « expĂ©rimentale Â» de la vidĂ©osurveillance algorithmique (VSA) est entrĂ©e dans sa phase d’application. Les entreprises candidates pour les essais prĂ©alables ont reçu leur part du marchĂ© : chacune sait dĂ©sormais dans quelle zone (il y en a 4), et dans quel secteur d’activitĂ© elles pourront dĂ©ployer leurs logiciels de surveillance automatisĂ©e (enceintes sportives, espaces publics, transports, etc.).

N’ayant pas le temps ni les compĂ©tences de dĂ©velopper lui mĂȘme ces solutions, le ministĂšre de l’IntĂ©rieur a choisi la facilitĂ©, c’est-Ă -dire d’acheter sur le marchĂ© des outils dĂ©jĂ  existants. Et sans surprise, on retrouve dans la liste des entreprises retenues tous les « suspects habituels Â» dont nous suivons le travail depuis plusieurs annĂ©es dans notre campagne Technopolice.

Rien d’étonnant bien sĂ»r dans le fait de confier un travail Ă  ceux qui le font dĂ©jĂ  depuis plusieurs annĂ©es, mĂȘme si c’était jusqu’alors de maniĂšre illĂ©gale. Mais c’est surtout l’entĂ©rinement d’une logique purement opĂ©rationnelle oĂč les fantasmes policiers et la stratĂ©gie industrielle marchent main dans la main. Cet Ă©tat de fait entraĂźne Ă  nos yeux les plus grands dangers : la discussion politique et la prudence dĂ©mocratique sont Ă©vacuĂ©es et annulĂ©es par la logique unie de l’industrie et de la police, l’une rĂ©pondant aux vƓux de l’autre, l’autre validant seule les propositions techniques de l’une. Le « comitĂ© de pilotage Â» du dispositif au sein de ministĂšre de l’IntĂ©rieur est d’ailleurs dirigĂ© par une haute fonctionnaire spĂ©cialiste des « industries et innovations de sĂ©curitĂ© Â», et chargĂ©e de faciliter les partenariats entre la puissance publique et les entreprises privĂ©es nationales. Les citoyens et leurs droits ne sont pas invitĂ©s Ă  la table.

Les dispositifs de VSA vont donc se dĂ©ployer dans les semaines qui viennent, et la pĂ©riode d’expĂ©rimentation durera bien au-delĂ  des JO de Paris, jusqu’en mars 2025, lors d’évĂšnements d’ordre « rĂ©crĂ©atif, sportif et culturel Â» (le dĂ©lassement oui, mais sous surveillance). Un « comitĂ© d’évaluation Â» constituĂ© de deux « collĂšges Â» aura son mot Ă  dire sur les rĂ©sultats de ces expĂ©riences. On n’attend rien de surprenant venant du collĂšge des utilisateurs eux-mĂȘmes (police et autres), et notre attention se portera sur le second collĂšge qui doit rĂ©unir des chercheurs, des juristes et des parlementaires — nous verrons. Pour l’heure, tout est en place pour valider Ă  l’avance le succĂšs et la pĂ©rennisation de ces mesures exceptionnelles — « Plus vite, plus haut, plus fort Â».

Vous trouverez dans l’article le dĂ©tail des cas d’usage, les noms des entreprises retenues, et le dĂ©tail du dispositif d’évaluation, avec ses comitĂ©s et ses collĂšges. Bonne lecture Ă  vous !

Lire l’article : https://www.laquadrature.net/2024/01/26/vsa-et-jeux-olympiques-coup-denvoi-pour-les-entreprises-de-surveillance/

L’Union europĂ©enne se couche devant les outils numĂ©riques de surveillance de masse

L’Union europĂ©enne travaille sur un rĂšglement autour de l’intelligence artificielle (IA), dont le texte a Ă©tĂ© rendu public en dĂ©cembre 2023. Sous la pression de plusieurs États, la France en tĂȘte, le texte se contente d’encadrer l’utilisation des techniques de surveillance biomĂ©trique de masse (SBM), qui recoupent en partie les applications de la vidĂ©osurveillance algorithmique (VSA), au lieu de les interdire. Le continent qui se targue d’avoir enfantĂ© les droits de l’Homme et la libertĂ© dĂ©mocratique ne trouve donc aucune raison de s’opposer Ă  la surveillance systĂ©matique et massive des citoyens.

La reconnaissance des Ă©motions ou des couleurs de peaux ont par exemple passĂ© les filtres dĂ©mocratiques et se retrouve autorisĂ©e par le rĂšglement IA. De mĂȘme pour la reconnaissance faciale a posteriori, d’abord rĂ©servĂ©e Ă  des crimes graves et dĂ©sormais acceptĂ©e dans bien d’autres cas, sans limites claires.

La coalition europĂ©enne Reclaim Your Face, dont fait partie La Quadrature du Net, a publiĂ© le 18 janvier un communiquĂ© de presse en anglais et en allemand pour avertir des dangers rĂ©els et imminents qui pĂšsent sur l’ensemble des EuropĂ©ens, quelques semaines avant des Ă©lections europĂ©ennes dont on dit qu’elles verront probablement les partis d’extrĂȘme-droite sortir vainqueurs. Nous publions sur notre site la version française de ce communiquĂ©.

Lire l’article : https://www.laquadrature.net/2024/01/19/le-reglement-europeen-sur-lia-ninterdira-pas-la-surveillance-biometrique-de-masse/

Soutenez La Quadrature en 2024 !

Comme bon nombre d’associations, nous sommes en campagne de soutien pour financer notre travail en 2024. C’est pour nous l’occasion de prĂ©senter les grands chantiers qui nous attendent, principalement la lutte contre les algorithmes de contrĂŽle social dans les administrations, la dĂ©fense du droit au chiffrement des communications, la promotion de l’interopĂ©rabilitĂ© des services Web, et la rĂ©flexion nĂ©cessaire autour du numĂ©rique dans le contexte de la crise Ă©cologique mondiale.

Nous avons besoin de vous pour travailler en 2024 ! N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

Agenda

  • 27 janvier 2024 : La Quadrature sera aux 3Ăšme Assises de l’attention, pour parler de dĂ©mocratie Ă  l’heure du numĂ©rique – de 9h Ă  18h30, AcadĂ©mie du Climat, 2 place Baudoyer, 75004 Paris. DĂ©tails ici : https://www.collectifattention.com/assises-de-lattention/assises-2024/.
  • 8 fĂ©vrier 2024 : Causerie mensuelle du groupe Technopolice Marseille – Ă  19h00 au Manifesten, 59 Rue Adolphe Thiers Marseille. Venez nombreuses !

La Quadrature dans les médias

À Ă©couter

Algorithmes administratifs

GAFAM et données personnelles

Divers

QSPTAG #302 — 12 janvier 2024

SociĂ©tĂ© de contrĂŽle (1) : les outils illĂ©gaux de la surveillance municipale

Notre campagne Technopolice a dĂ©jĂ  quatre ans, et les acteurs de l’industrie française de la surveillance sont bien identifiĂ©s. Lobby industriel, dĂ©putĂ© porte-cause, discours sĂ©curitaire dictĂ© par la police, on connaĂźt le paysage. Voici venu le temps de s’intĂ©resser plus en dĂ©tail aux entreprises privĂ©es qui fleurissent dans le sillage de ce marchĂ© Ă©conomique considĂ©rable, oĂč les fonds publics abondent sans discussion pour mieux nous surveiller.

Cette semaine, penchons-nous sur le cas de la sociĂ©tĂ© Edicia, basĂ©e Ă  Nantes. Elle s’engraisse en fournissant Ă  de nombreuses polices municipales françaises une « solution Â» baptisĂ©e Smart Police, logiciel embarquĂ© sur terminal mobile qui permet aux agents de prendre des notes, de rĂ©diger des rapports, et Ă  leur supĂ©rieur restĂ© au commissariat de mieux les manager. Nous avons obtenu le manuel d’utilisation de Smart Police, grĂące auquel nous pouvons avoir une idĂ©e prĂ©cise de ce que les agents municipaux peuvent faire, et des consĂ©quences pratiques de ces nouvelles facilitĂ©s opĂ©rationnelles. Une lecture Ă©difiante : l’outil, dans sa grande variĂ©tĂ© et sa grande souplesse, permet des pratiques contraires au cadre rĂ©glementaire qui rĂ©git les polices municipales.

Fichage sans autorisation, croisement de donnĂ©es, photographies des personnes contrĂŽlĂ©es : lĂ  oĂč l’idĂ©ologie sĂ©curitaire voit du bon sens, nous voyons des usages clairement illĂ©gaux et une victoire de facto de la surveillance systĂ©matisĂ©e. Pour en savoir plus, lisez l’article, qui s’inscrit dans une enquĂȘte sur les outils numĂ©riques de la « police prĂ©dictive Â» et sera suivi par d’autres publications.

Lire l’article : https://www.laquadrature.net/2024/01/10/smart-police-dedicia-le-logiciel-a-tout-faire-des-polices-municipales/

SociĂ©tĂ© de contrĂŽle (2) : la CAF dĂ©fend son programme de chasse aux pauvres

Notre enquĂȘte sur les algorithmes de contrĂŽle social n’en est encore qu’à son dĂ©but, mais elle a dĂ©jĂ  produit quelques effets : aprĂšs notre analyse de son algorithme de notation des allocataires, la Caisse nationale d’allocations familiales (CNAF) est bien obligĂ©e de se justifier publiquement au sujet de ses pratiques discriminatoires.

La rĂ©ponse du directeur de la CNAF, entre dĂ©ni et diversion, relĂšve de la communication de crise. Mais les faits que nous constatons dans l’analyse de l’algorithme lui-mĂȘme restent irrĂ©futables. Et derriĂšre l’autosatisfaction de l’institution, saluĂ©e aussi par les dĂ©putĂ©s de la majoritĂ© prĂ©sidentielle pour son efficacitĂ© dans la chasse aux pauvres, on voit un jeu de dupes : loin d’une rentabilitĂ© rĂ©elle, et Ă  rebours de la « fraternitĂ© Â» rĂ©publicaine de la sociĂ©tĂ© avec ses membres les plus prĂ©caires, le contrĂŽle systĂ©matique par algorithme sert l’idĂ©ologie d’une efficacitĂ© gestionnaire oĂč le recours aux outils numĂ©riques habille de modernitĂ© des choix politiques et sociaux inĂ©galitaires. Analyse du discours de la CNAF et rĂ©ponse point par point dans notre article !

Lire l’article : https://www.laquadrature.net/2024/01/11/notation-des-allocataires-face-aux-faits-la-caf-senferme-dans-le-deni-et-la-mauvaise-foi/

Soutenez La Quadrature en 2024 !

Comme bon nombre d’associations, nous sommes en campagne de soutien pour financer notre travail en 2024. C’est pour nous l’occasion de prĂ©senter les grands chantiers qui nous attendent, principalement la lutte contre les algorithmes de contrĂŽle social dans les administrations, la dĂ©fense du droit au chiffrement des communications, la promotion de l’interopĂ©rabilitĂ© des services Web, et la rĂ©flexion nĂ©cessaire autour du numĂ©rique dans le contexte de la crise Ă©cologique mondiale.

Nous avons besoin de vous pour travailler en 2024 ! N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

Agenda

  • 13 janvier 2024 : atelier sur Internet, l’anonymat et la Technopolice, en collaboration avec la Compagnie RYBN.org – 14h-20h, Ă  La Compagnie, 19 rue Francis de PressensĂ©, Marseille. DĂ©tails  : https://www.la-compagnie.org/portfolio/rybncapitalismsxit/.
  • 19 janvier 2024 : QuadrapĂ©ro parisien Ă  partir de 19h dans nos locaux au 115 rue de MĂ©nilmontant, 75020 Paris.
  • 25 janvier 2024 : soirĂ©e sur la vidĂ©osurveillance algorithmique organisĂ©e par le groupe ATTAC Nord Ouest Ă  19h30 Ă  la Maison des associations du 18e, 15 Passage Ramey, 75018 Paris.
  • 27 janvier 2024 : La Quadrature sera aux 3e Assises de l’Attention, pour parler de dĂ©mocratie Ă  l’heure du numĂ©rique – 9h-18h30, AcadĂ©mie du Climat, 2 place Baudoyer, 75004 Paris. DĂ©tails ici : https://www.collectifattention.com/assises-de-lattention/assises-2024/.

La Quadrature dans les médias

À Ă©couter

Algorithmes administratifs

IA de surveillance

Interopérabilité

Fichage

Données personnelles

Divers

QSPTAG #301 — 15 dĂ©cembre 2023

ProcĂšs du « 8 dĂ©cembre Â» : le compte-rendu

Le procĂšs de l’affaire du « 8 dĂ©cembre Â» s’est tenu du 3 au 27 octobre dernier au tribunal de Paris. Nous en avions longuement parlĂ© dans plusieurs articles avant l’audience, car la DGSI et le parquet national antiterroriste (PNAT), faute de trouver le moindre projet antiterroriste, reprochaient entre autres aux inculpé·es de chiffrer leurs donnĂ©es (disques durs et communications numĂ©riques), ce qui prouverait leur goĂ»t pour la « clandestinitĂ© Â».

Bien entendu, la criminalisation du chiffrement des donnĂ©es est Ă  la fois une aberration, puisque tout le monde utilise le chiffrement cent fois par jour, dans les messageries chiffrĂ©es (WhatsApp, Telegram, Signal ou autre), dans les connexions https ou dans le simple fait de protĂ©ger son disque dur ou son tĂ©lĂ©phone avec un mot de passe — et un vrai danger pour le droit fondamental Ă  la vie privĂ© et au secret des communications.
Les dĂ©lires interprĂ©tatifs du PNAT et de la DGSI, payĂ©s pour voir le mal partout, pourraient passer pour une plaisanterie si d’une part leur suspicion n’avait pas bousillĂ© la vie des sept inculpé·es, et si d’autre part le droit au chiffrement n’était pas remis en cause de façon concomitante par les États Ă  tous les niveaux, aussi bien en France qu’en Europe.

Mais quelle place la question du chiffrement des communications a-t-elle rĂ©ellement occupĂ©e lors des audiences du procĂšs ? Nous y Ă©tions. Vous pouvez lire notre compte-rendu sur notre site.

Lire l’article : https://www.laquadrature.net/2023/12/14/outils-de-chiffrement-lors-du-proces-du-8-decembre-du-fantasme-a-la-realite/

Soutenez La Quadrature en 2024

Comme bon nombre d’associations, nous avons lancĂ© fin novembre notre campagne de soutien pour l’annĂ©e qui vient. C’est pour nous l’occasion de prĂ©senter les grands chantiers qui nous attendent en 2024, principalement la lutte contre les algorithmes de contrĂŽle social dans les administrations, la dĂ©fense du droit au chiffrement des communications, la promotion de l’interopĂ©rabilitĂ© des services Web, et la rĂ©flexion nĂ©cessaire autour du numĂ©rique dans le contexte de la crise Ă©cologique mondiale.

Cette semaine, nos publications ont mis l’accent sur la question de la dimension Ă©cologique du numĂ©rique, ou plutĂŽt de sa nuisance Ă©cologique. Vous pouvez retrouver l’ensemble de nos « fils Â» sur nos rĂ©seaux sociaux : le numĂ©rique, Ă  cause de la fabrication du matĂ©riel et de la consommation effrĂ©nĂ©e qu’entraĂźne une course artificielle Ă  « l’innovation Â», participe aujourd’hui de façon trĂšs notable Ă  la destruction de notre environnement, et se fait le vecteur privilĂ©giĂ© de la publicitĂ©, qui a envahi le web au point de menacer son Ă©quilibre et son fonctionnement.

Nous avons besoin de vous pour travailler en 2024 ! N’hĂ©sitez pas Ă  faire un don de soutien Ă  l’association, ou Ă  faire connaĂźtre notre campagne de dons autour de vous. Merci pour votre aide !

PrĂ©sentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/

La Quadrature dans les médias

À Ă©couter

Algorithmes administratifs

IA de surveillance

Agenda

  • 27-30 dĂ©cembre 2023 : La Quadrature du Net sera au 37e Chaos Communication Congress (37C3) Ă  Hambourg et tiendra une confĂ©rence le 28 dĂ©cembre Ă  midi (sauf changement de derniĂšre minute par l’organisation) : https://events.ccc.de/congress/2023/infos/startpage.html.
  • 11 janvier 2024 : Causerie mensuelle Technopolice Marseille – 19h – au Manifesten, 59 Rue Adolphe Thiers, Ă  Marseille.
❌