Autoblog de la La quadrature du nethttp://www.laquadrature.net/http://www.laquadrature.net/ De la modérationhttps://www.laquadrature.net/?p=14621http://streisand.me.thican.net/laquadrature.net/index.php?20190722_145058_De_la_moderationMon, 22 Jul 2019 12:50:58 +0000Le sujet fleurit dans tous les espaces. Les GAFAM demandent à cor et à cri des règles de modération qu’ils pourraient appliquer, se contentant pour le moment de leurs « règles communautaires » qui ne sont au final ni des règles — dans le sens où elles ne sont appliquées que partialement — ni communautaires — car personne d’autre que les GAFAM n’a été impliqué dans leur processus de rédaction. À la dernière RightsCon à Tunis, de nombreuses discussions tournaient autour des problèmes liés à la gestion de la haine en ligne et à la modération de contenu, et autour du rôle que les plateformes devraient tenir vis-à-vis de leurs utilisatrices. Les systèmes fédératifs se jettent aussi dans la discussion : Mastodon a instauré un critère de Safe Space1https://joinmastodon.org/covenant, demandant à chaque instance voulant être listée sur https://joinmastodon.org de mettre en place des mesures de modération active dans le but de lutter contre les discriminations. Nous-même, au sein de La Quadrature, sommes en pleines discussions, parfois houleuses, vis-à-vis de la modération de notre instance Mamot.fr (qui n’est donc, pour l’instant, pas listée sur https://joinmastodon.org). Les gouvernements veulent, encore une fois, combattre la haine en ligne (voir par exemple, la proposition de loi de la députée Avia pour combattre la haine en ligne) et la radicalisation et cherchent à s’en remettre aux pouvoirs privés des GAFAM.

Le débat s’est centré sur la régulation de la parole en ligne. S’appuyant sur le fait qu’il faut bien faire quelque chose, et suite à l’attaque terroriste commise par un militant identitaire contre deux mosquées à Christchurch en Nouvelle-Zélande, les États et les plateformes géantes se sont alliées dans un vibrant appel de Christchurch2https://www.appeldechristchurch.com/. Cet appel se contente de promouvoir la solution magique de la suppression de contenu en ligne, sans se poser la question de ce qui a poussé nos sociétés vers cette violence extrême. En refusant de voir les menaces posées par la coordination des groupes promouvant la culture de la haine de l’autre et de les considérer dans leur globalité, en les réduisant aux seuls espaces des médias sociaux, les États et plateformes montrent que leur intérêt n’est pas de combattre la haine, mais de réguler la pensée. Car se reposer sur les systèmes mis en place par les plateformes pour filtrer le débat, leur déléguer la tâche de déterminer ce qui est une parole haineuse c’est établir que, d’une part, les États abandonnent totalement leur rôle de protection des personnes minorisées, et que, d’autre part, ce qui est publié sur les plateformes, et qui reste en ligne, n’est pas une parole de haine.

La marginalisation des minorités

Réduire l’émergence d’une culture de la haine à un simple problème pouvant être résolu par des maths, à un problème spécifique aux médias sociaux, c’est nier l’implication des différents gouvernants et autres personnes publiques et politiques dans la propagation et la tolérance des idées de cette culture de la haine. C’est considérer qu’il ne s’agit que d’un phénomène marginal, qui peut se régler avec un filtre, faisant magiquement disparaître cette culture. Le débat sur le contrôle de la parole en ligne n’est pas, au final, celui de la lutte contre les discriminations et la haine. C’est certes une tendance inquiétante de nos sociétés, et ces cultures de la haine doivent être combattues, en ligne comme hors ligne, mais la régulation de la parole sur des plateformes monolithiques et hégémoniques ne fait que renforcer les cultures mises en avant par ces plateformes, au détriment des personnes et cultures minorisées. Que ce soit en démonétisant le contenu produit par les membres de ces communautés (comme le fait YouTube), en bannissant les personnes répondant à leurs agresseurs (comme le fait Twitter) ou par la suppression massive du contenu non-conforme (comme l’a fait Tumblr), les principales personnes victimes de cette suppression de la parole sont toujours les personnes censées être protégées par ces mesures. Ce sont les activistes, journalistes et chercheurs qui pâtissent le plus de la suppression du contenu « faisant l’apologie du terrorisme », pas les organisations terroristes.

Les termes du débat ne sont pas ceux de la modération ou de la protection des personnes victimes de violences. Ce sont ceux de l’abandon de la diversité culturelle au profit d’une méga-culture dominante et prédatrice, promue par quelques intérêts privés ; de la consécration par les plateformes du modèle culturel des identitaires, des suprémacistes et des conservateurs, reléguant quiconque refuse leur vision du monde dans les marges. Mais c’est aussi l’entretien de la confusion entre publier et promouvoir. Confusion derrière laquelle les GAFAM se cachent pour continuer leurs opérations d’éradication des cultures non-voulues et de monétisation de la haine. Il y a pourtant une différence importante qui, dans la loi Française, est la différence entre le statut d’hébergeur et celui d’éditeur. La différence est sur l’intentionnalité. Publier un contenu, c’est à dire le mettre à disposition du public, est fondamentalement différent de promouvoir ce contenu. La promotion ce n’est pas mettre à disposition du public. C’est prioriser un contenu, pour le mettre en avant et le diffuser activement au plus grand nombre de personnes possibles. Laisser les GAFAM faire croire qu’ils ne font que publier du contenu c’est leur permettre de faire pencher le débat en leur faveur, car ce n’est alors pas de leur faute si des identitaires s’en vont tuer des personnes à l’arme automatique, vu qu’elles n’ont pas promu le contenu.

La modération, en tant que pratique culturelle

Mais qu’est-ce que la modération ? Il s’agit d’un ensemble de pratiques, plus ou moins informelles, permettant à chacune de participer au développement culturel des communautés — choisies ou non — auxquelles elle appartient tout en réduisant les violences en son sein. Son but n’est pas la suppression des contenus ou des personnes, mais la réduction des violences. Elle s’inscrit dans le cadre d’une culture et est donc nécessairement liée aux contextes dans lequel elle prend place, faisant de la modération une pratique nécessairement interprétative. Ce n’est pas du « tone policing » ou de la censure. La modération reconnaît que l’on puisse être énervé, virulent ou maladroit. Au cœur de toute interaction sociale, elle reconnaît nos imperfections, nos sentiments mais aussi nos capacités de raisonnement et cherche activement à réduire les comportements violents, blessants et destructeurs. Elle nous permet de faire ensemble, de créer des communautés. Dans un contexte de destruction et de réduction culturelle au profit d’une hégémonie, il paraît impossible de parler de modération. Une pratique renforçant et soutenant les violences commises au nom d’une culture ne saurait être de la modération. Comme la modération, c’est une forme de contrôle social. Mais utilisée dans le but de détruire et blesser un ou plusieurs groupes culturels ou communautés.

Oui c’est une pratique active qui nécessite une implication forte dans les communautés concernées, et donc une compréhension de celles-ci. Et une communauté, ça se cultive, ça se travaille. Un peu comme un jardin : Il faut parfois favoriser une plante un peu faible vis à vis d’autres envahissantes, mais la plupart du temps, il suffit de laisser faire et de s’assurer que chacune dispose des ressources nécessaires à son développement. Vouloir modérer les plateformes des GAFAM, selon les termes qu’ils nous proposent, c’est faire de l’agriculture industrielle : destruction de la diversité, destruction des sols, maximisation des profits et uniformisation des semences.

Les gardiens de la morale

Les GAFAM cherchent d’ailleurs à se positionner en garants de la morale, de la bonne tenue des débats et s’octroient le droit de déterminer ce qui est autorisé à exister. Ils prétendent pouvoir accomplir la titanesque tâche de comprendre l’intégralité du contexte associé à chaque morceau d’information entreposé dans leurs silos étanches. Le tout dans la plus grande opacité, sans aucun contre-pouvoir ni processus d’appel effectif et dans des conditions de travail difficiles et précaires pour les personnes chargées de valider les contenus. Ce modèle n’est pas celui de la modération. C’est celui de la domination, de la promotion d’une seule et unique culture et de la suppression de toutes les autres. Maintenir l’illusion que cette domination est une modération met en danger toutes les personnes qui s’opposeraient à cette domination.

Un tweet peut être légal aux États Unis, et illégal en France. Ou, plus exactement, la promotion du contenu d’un tweet faisant « l’apologie du terrorisme » est illégale en France. Charge aux plateformes de se débrouiller avec ces codes pénaux incompatibles entre eux, quitte à faire du zèle (une grande partie des contenus supprimés dans le cadre de la lutte anti-terroriste sont, en fait, des contenus postés par des activistes cherchant à documenter ce qu’il se passe sur le terrain 3https://www.wired.com/story/facebooks-hate-speech-policies-censor-marginalized-users/ ou à rejeter leurs responsabilité sur les algorithmes fermés et opaques, structures mathématiques quasi-divines auxquelles les GAFAM vouent un culte dogmatique. Ou alors, elles vont magouiller pour ne pas être tenues responsables, tout en continuant impunément de promouvoir les contenus qui rapportent à leurs clients publicitaires. Et donc les contenus dépourvus de complexité et de nuances. Et c’est ce qui est en réalité au cœur des débats en ce moment : le modèle d’affaire, basé sur la mesure de l’engagement de ces entreprises.

Un Internet des polémistes ?

En utilisant la mobilisation, ou l’engagement, des utilisateurs (et donc, en comptant le nombre de vues, de repartage, de réponses) comme mesure du capital et de la richesse des personnes, on met en avant les interactions avec le contenu, quel que soit le contenu ou l’interaction. Comme de nombreux polémistes en font régulièrement la preuve, il est bien plus facile de mobiliser massivement en tenant un discours polarisant, émotionnel, simplificateur et clivant que de le faire en faisant preuve de démonstrations rigoureuses, en s’appuyant sur des faisceaux de faits, ou en usant de subtilité et de nuance. Les mesures d’engagement ont donc pour but de créer des comportements agressifs et haineux afin de maximiser le profit des GAFAM.

Proposer une métrique différente pourrait favoriser les contenus qui rendent les utilisateurs heureux — du moins pour une certaine définition de heureux, mais on se retrouverait alors à n’avoir que du contenu « mignon » et des plateformes sur lesquelles il serait impossible de demander de l’aide psychologique ou médicale par exemple. C’est le modèle au cœur de Facebook et basé sur le « like » supposé encourager les comportements vertueux. Et, en cas de conflit, les utilisatrices se retrouvent à la merci du dieu tout puissant qui administre la plateforme et décide seul et sans aucune transparence de ce qui est considéré comme du contenu acceptable, sans processus d’appel. Changer la métrique et le modèle d’affaire n’est pas suffisant. Le problème est qu’il existe des dieux, des entités ayant tout pouvoir sur le contenu existant sur leurs machines, décidant de ce qu’ils acceptent de publier et de promouvoir et imposant leurs décisions aux membres de leurs plateformes.

Pour stopper la propagation de propos haineux, il faut cesser d’en faire la promotion. C’est évident pour quiconque critique les chaînes d’information en continu qui invitent ad nauseam les mêmes polémistes « ne pouvant s’exprimer nulle part ». Les techniques de harcèlement en ligne sont basées sur la promotion de contenu spécifique à destination d’une personne, ou de ses cercles d’amis. Que ce soit en le partageant et en le repartageant ou en mobilisant une armée de bots pour inonder les mentions d’une personne de contenu haineux, les médias sociaux servent d’amplificateurs. Ils sont conçus pour amplifier votre voix, votre message, quel qu’il soit mais à condition qu’il puisse être monétisé. Si vous atteignez un certain volume de messages, vous pouvez créer une tendance, tendance qui générera encore plus d’engagement. Comme dans le système du capitalisme financier, plus vous avez d’engagement, plus vous avez d’engagement. Tant que le modèle d’affaire de ces entreprises sera basé sur la promotion — la mise en avant — de contenu, alors elles n’ont aucun intérêt à donner aux communautés les moyens de décider elles-mêmes de comment elles souhaitent gérer le contenu.

Un Internet des protocoles : libre, décentralisé et ouvert

C’est pourtant la seule solution pour construire un Internet permettant à tout le monde de pouvoir exister et d’être ce qu’elles ont envie d’être, d’échapper à une certaine forme de déterminisme. En fournissant des outils aux communautés d’utilisatrices et en acceptant que plusieurs cultures doivent coexister sur une même plateforme, alors il devient possible d’envisager une modération de contenu convenant aux communautés. Ce n’est pas pour autant que chacune de ces communautés deviendra un havre de paix, et qu’il n’y aura plus aucun conflit en ligne, mais chacune disposera de moyens pour réduire les violences infligées par celles qui abusent du système. Chacune de ces communautés pourra améliorer les systèmes qui lui semblent imparfaits, décider des règles qu’elles veulent suivre, sans pouvoir les imposer aux autres. Chacune d’entre elle pourra contribuer au fragile édifice qu’est Internet, et bénéficier des contributions des autres.

Et pour que ces outils existent, il faut séparer les rôles techniques (administratrices système, développeuses) de ceux de la gestion du contenu (éditrices, modératrices, contributrices). Il faut que le transit de données, et leur stockage, soit fonctionnellement séparés de la gestion de contenu, de la promotion de celui-ci et des éventuels filtrages. Il faut des outils permettant de pouvoir communiquer avec les plateformes, existantes et à venir, d’interagir avec leur contenu, sans nécessiter une intervention d’une administratrice technique. Des outils interopérables, permettant à chacune de contribuer, de construire, de forker et d’améliorer cet Internet, non plus basé sur des silos de données étanches, des apps ou des plateformes hégémoniques, mais basés sur des protocoles servant de substrat à de multiples cultures. La bonne nouvelle, c’est que ces outils existent. Le partage de fichier en pair à pair en est un bon exemple. Des messageries qui fonctionnent par-dessus des systèmes de distribution de trafic réseau tels que Tor ou GNUNet apparaissent un peu partout. En se concentrant sur l’interopérabilité, ainsi qu’en utilisant des systèmes ne reposant pas sur une identification centralisée, tout en retirant aux administratrices les capacités de promotion ou de suppression de contenu, alors il devient possible de créer des filtres, des agrégateurs collectifs, ou toute autre solution qu’une communauté pourra juger pertinente pour son cas d’usage. Il devient possible de construire des systèmes multi-culturels et réduisant les violences, et donc d’effectuer une modération pertinente et nécessaire à la vie saine des groupes de personnes partageant au moins une part de ces cultures.

Non, il n’est pas possible de modérer les plateformes hégémoniques monoculturelles. Mais ce n’est pas pour autant qu’il n’est pas possible de créer des espaces modérés en ligne, choisis et définis par leurs membres et non par des dieux techniciens jugeant de ce qu’ils doivent promouvoir ou publier.

References   [ + ]

]]>
La Quadrature du Net attaque l’application ALICEM, contre la généralisation de la reconnaissance facialehttps://www.laquadrature.net/?p=14598http://streisand.me.thican.net/laquadrature.net/index.php?20190717_152805_La_Quadrature_du_Net_attaque_l___application_ALICEM__contre_la_generalisation_de_la_reconnaissance_facialeWed, 17 Jul 2019 13:28:05 +0000Lundi dernier, La Quadrature du Net a déposé un recours devant le Conseil d’État pour demander l’annulation du décret autorisant la création de l’application mobile intitulée « ALICEM », pour « Authentification en ligne certifiée sur mobile ». En y conditionnant la création d’une identité numérique à un traitement de reconnaissance faciale obligatoire, le gouvernement participe à la banalisation de cette technologie, et cela au mépris de l’avis préalable de la CNIL qui avait pourtant souligné son illégalité. Les récentes déclarations de Christophe Castaner qui a mis en avant cette application pour lutter contre l’anonymat et la haine sur Internet ne peuvent qu’alerter.

L’application ALICEM, développée par l’Agence des Titres Sécurisés (ANTS), vise à permettre aux détenteurs d’un passeport biométrique (ou d’un titre de séjour électronique) de se créer une identité numérique pour faciliter l’accès à certains services sur Internet, administratifs ou commerciaux. Comme l’explique la notice même du décret qui en autorise la création, « ce traitement automatisé de données à caractère personnel vise à permettre une identification électronique et une authentification pour l’accès à des services en ligne en respectant les exigences relatives au niveau de garantie requis par le service en ligne concerné au sens du règlement européen « eIDAS » (…). Le moyen d’identification électronique peut être utilisé prioritairement pour l’accès à des services dont les fournisseurs sont liés par convention à FranceConnect » (par exemple, impots.gouv, l’Assurance maladie… voir une liste des partenaires ici).

Concrètement, cela fonctionne ainsi : une personne détenant un titre avec une puce biométrique (passeport ou titre de séjour) télécharge l’application sur son smartphone (pour l’instant seulement sur les téléphones Android), pour y créer un compte. Pour cela, il doit procéder à la lecture avec son téléphone de la puce de son titre électronique. L’application a alors accès aux données qui y sont stockées, hors les empreintes digitales (notons que le décret du fichier TES est donc modifié pour permettre la lecture des informations stockées sur la puce électronique). Enfin, pour activer le compte, il faut se subordonner à un dispositif de reconnaissance faciale (dit « statique » et « dynamique », c’est à dire une photo et une vidéo avec des gestes à accomplir devant la caméra) pour vérifier l’identité. Alors seulement, l’identité numérique est générée et la personne peut utiliser ALICEM pour s’identifier auprès de fournisseurs de services en ligne [1].

Reconnaissance faciale obligatoire

Alors pourquoi l’attaquer ? Car l’application ALICEM oblige, au moment de l’activation du compte, de recourir à ce dispositif de reconnaissance faciale, sans laisser aucun autre choix à l’utilisatrice ou l’utilisateur. L’article 13 du décret énonce ainsi que l’ANTS informe l’usager « concernant l’utilisation d’un dispositif de reconnaissance faciale statique et de reconnaissance faciale dynamique et au recueil de son consentement au traitement de ses données biométriques ». Or, au sens du règlement général sur la protection des données (RGPD), pour qu’un consentement soit valide, il doit être libre, c’est-à-dire qu’il ne peut pas être contraint : « le consentement ne devrait pas être considéré comme ayant été donné librement si la personne concernée ne dispose pas d’une véritable liberté de choix » (Considérant 42). Ici, la personne voulant utiliser ALICEM n’a pas le choix de passer ou non par ce dispositif de reconnaissance faciale et le consentement dont se revendique le gouvernement n’est donc pas valable.

Cette analyse est d’ailleurs celle de la CNIL qui a rendu un avis sur ce décret, préalablement à sa publication. Dans cet avis, elle énonce clairement que, vu que la reconnaissance faciale est obligatoire et qu’il n’existe aucune autre alternative pour se créer une identité via ALICEM, « le consentement au traitement des données biométriques ne peut être regardé comme libre et comme étant par suite susceptible de lever l’interdiction posée par l’article 9.1 du RGPD ». Malgré cet avis et les alternatives imaginées par la CNIL au dispositif de reconnaissance faciale, le gouvernement n’a pas modifié son décret en le publiant.

À l’heure où les expérimentations de reconnaissance faciale se multiplient sans qu’aucune analyse ou débat public ne soit réalisée sur les conséquences d’un tel dispositif pour notre société et nos libertés [2], en général dans une large illégalité, et alors que des villes aux États-Unis en interdisent explicitement l’utilisation pour les services municipaux [3], le gouvernement français cherche au contraire à l’imposer à tous les citoyens via des outils d’identification numérique. Et même s’il ne s’agit ici pas de reconnaissance faciale « en temps réel » par des caméras de surveillance, il s’agit néanmoins bien de normaliser la reconnaissance faciale comme outil d’identification, en passant outre la seule condition qui devrait être acceptable pour son utilisation : notre consentement libre et explicite. Le gouvernement révèle par ailleurs son mépris pour la CNIL, dont l’influence semble diminuer de plus en plus. Fléchissant il y a quelques mois devant les publicitaires en leur laissant encore un an de plus pour respecter le RGPD (voir notre article), elle apparaît ici plus faible que jamais quand elle alerte le gouvernement sur la violation du consentement d’une personne quand au traitement de ses données biométriques et que le gouvernement ne la respecte clairement pas.

La haine, l’anonymat et ALICEM

Attaquer ce décret est d’autant plus nécessaire quand on voit les dangereux liens que tisse le ministre de l’Intérieur Christophe Castaner entre anonymat, haine et identité numérique. Il écrit ainsi, en tête de son rapport « État de la menace liée au numérique en 2019 » : « La liberté, justement, voilà tout le paradoxe d’internet. L’anonymat protège tous ceux qui répandent des contenus haineux et permet à des faux-comptes de se multiplier pour propager toutes sortes de contenus. Nous ne pouvons pas laisser les publications illicites se multiplier. Nous devons donc relever le défi de l’identité numérique pour que chaque Français, dès 2020, puisse prouver son identité et savoir avec qui il correspond vraiment ». Et quand il parle, plus loin, d’identité numérique, c’est pour directement mentionner le dispositif ALICEM. Le débat sur l’identité numérique arrive donc à grande vitesse et l’utilisation que souhaite en faire le gouvernement ne peut qu’alerter : un outil non pas au service du citoyen mais contre lui, pour lutter contre l’anonymat en ligne, pourtant fondamental pour l’exercice de nos droits sur Internet.

Un projet d’identité numérique, fondé sur un dispositif de reconnaissance faciale obligatoire (au mépris du RGPD) et ayant pour objectif avoué d’identifier chaque personne sur Internet pour ne plus laisser aucune place à l’anonymat ne peut qu’être combattu. C’est l’objet de ce recours.

[1] Voir également l’analyse de Marc Rees sur Next Inpact.

[2] Lire notre analyse des enjeux politiques de la reconnaissance faciale.

[3] La ville de San Francisco a récemment adopté une telle interdiction, bientôt rejointe par une autre ville du Massachusetts.

]]>
[Arte] Internet : comment agir contre la cyberhaine ?https://www.laquadrature.net/?p=14590http://streisand.me.thican.net/laquadrature.net/index.php?20190712_130000__Arte__Internet____comment_agir_contre_la_cyberhaine___Fri, 12 Jul 2019 11:00:00 +0000Les députés de l’Assemblée nationale devraient adopter ce mardi une proposition de loi contre les messages de haine sur Internet. La loi Avia, du nom de la députée La République En Marche Laetitia Avia, qui défend le projet, s’inspire du système allemand. Son but est d’imposer de nouvelles obligations aux principaux réseaux sociaux, qui risqueront une amende pouvant aller jusqu’à 1,25 million d’euros s’ils ne suppriment pas sous vingt-quatre heures les messages à caractère haineux, ayant des références illicites notamment à la race, la religion, le sexe, ou encore le handicap. Mais le projet est très critiqué par l’opposition et son efficacité en Allemagne est incertaine à ce jour. Comment agir contre la cyberhaine ? On en parle dans « 28 Minutes ».

https://www.arte.tv/fr/videos/088473-007-A/28-minutes/

NDLRP – Extraits des propos de Benjamin Bayart à retrouver aussi sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[RMC] 24 heures pour supprimer les contenus haineux: pourquoi la loi Avia semble difficilement applicablehttps://www.laquadrature.net/?p=14591http://streisand.me.thican.net/laquadrature.net/index.php?20190712_120000__RMC__24_heures_pour_supprimer_les_contenus_haineux__pourquoi_la_loi_Avia_semble_difficilement_applicableFri, 12 Jul 2019 10:00:00 +0000L’Assemblée nationale a voté jeudi l’obligation pour les plateformes internet de retirer en 24 heures les contenus haineux signalés, mesure-clé d’une proposition de loi LREM. Sous peine d’une condamnation à des amendes jusqu’à 1,25 million d’euros. […]

« La définition de ce qu’est un propos haineux a évolué presque chaque semaine depuis le début des débats sur cette loi extrêmement confuse« , explique Arthur Messaud, juriste à la Quadrature du Net. […]

https://rmc.bfmtv.com/emission/24-heures-pour-supprimer-les-contenus-haineux-pourquoi-la-loi-avia-semble-difficilement-applicable-1725403.html

NDLRP – Extraits des propos d’Arthur Messaud à retrouver aussi sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LCI] Loi contre la haine en ligne : Demander à retirer en 24 heures les contenus, c’est extrêmement dangereuxhttps://www.laquadrature.net/?p=14589http://streisand.me.thican.net/laquadrature.net/index.php?20190712_110000__LCI__Loi_contre_la_haine_en_ligne____Demander_a_retirer_en_24_heures_les_contenus__c___est_extremement_dangereuxFri, 12 Jul 2019 09:00:00 +0000INTERVIEW – Examinée mercredi 3 juin [lire juillet, NDLRP] par l’Assemblée nationale, la proposition de loi « contre la haine en ligne » forcerait les plateformes et autres réseaux sociaux à supprimer les contenus haineux sous 24 heures. Est-ce efficace ? Est-ce seulement possible ? On a posé la question à l’association La Quadrature du Net.

Responsabiliser les grandes plateformes du Web (Facebook, Twitter, Youtube etc.) et durcir la lutte contre la haine sur internet, tel est l’objectif de la proposition de loi portée par la députée LREM Laetitia Avia, dont l’examen à l’Assemblée nationale a débuté ce mercredi 3 juin [juillet, NDLRP]. Ce texte suscite l’inquiétude des grandes plateformes mais aussi de La Quadrature du Net. L’association française de défense des libertés en ligne dénonce un texte « dangereux« . Benoit Piédallu, membre de l’association détaille les risques que peut créer la loi. […]

https://www.lci.fr/politique/cyberharcelement-loi-contre-la-haine-en-ligne-demander-a-retirer-en-24-heures-les-contenus-c-est-extremement-dangereux-2125992.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LInformaticien] Cookies : le drôle de jeu de la Cnilhttps://www.laquadrature.net/?p=14572http://streisand.me.thican.net/laquadrature.net/index.php?20190711_130000__LInformaticien__Cookies____le_drole_de_jeu_de_la_CnilThu, 11 Jul 2019 11:00:00 +0000Les sites français ont droit à un sursis d’un an quant au recueil du consentement de leurs visiteurs à se faire traquer. Cette période transitoire offerte par la Cnil aux éditeurs fait enrager les défenseurs de la vie privée et pourrait valoir au régulateur un remontage de bretelles au niveau européen. […]

L’association [La Quadrature du Net, NDLRP] assure que cette décision est le résultat de négociations entre la Cnil et le GESTE, syndicat d’éditeurs de contenus en ligne). « Aujourd’hui, la CNIL semble vouloir appliquer un droit différent entre Google et les médias français qui, eux, pourraient se contenter d’un consentement « implicite », violant tranquillement nos libertés fondamentales dans la poursuite de profits publicitaires intolérables » écrit la Quadrature, qui n’exclut pas de former un recours devant le Conseil d’Etat.

https://www.linformaticien.com/actualites/id/52348/cookies-le-drole-de-jeu-de-la-cnil.aspx

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LeMedia] Référendum ADP : le sabotage du gouvernement – Benjamin Sonntaghttps://www.laquadrature.net/?p=14573http://streisand.me.thican.net/laquadrature.net/index.php?20190711_120000__LeMedia__Referendum_ADP____le_sabotage_du_gouvernement_____Benjamin_SonntagThu, 11 Jul 2019 10:00:00 +0000Difficile de signer la pétition pour le référendum d’initiative partagée contre la privatisation d’aéroports de Paris : l’interface est difficile à utiliser, le référencement mauvais, les bugs nombreux. Y a-t-il clairement sabotage ? Quelles données sont accessibles au public ? Qu’aurait pu (et du) faire le gouvernement ? Pour en parler, Théophile Kouamouo reçoit Benjamin Sonntag, ingénieur réseau et activiste, co-fondateur La Quadrature du Net.

https://www.youtube.com/watch?v=elbgH5-YSX0l

NDLRP – À retrouver aussi sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[CNET] La reconnaissance faciale arrive dans nos lycées : doit-on se méfier ?https://www.laquadrature.net/?p=14574http://streisand.me.thican.net/laquadrature.net/index.php?20190711_110000__CNET__La_reconnaissance_faciale_arrive_dans_nos_lycees____doit-on_se_mefier___Thu, 11 Jul 2019 09:00:00 +0000Vide juridique et banalisation de la surveillance ? En septembre, la reconnaissance faciale devrait faire son entrée dans deux lycées du sud de la France pour contrôler les allées et venues des lycéens. Faut-il s’inquiéter ? […]

À la Quadrature du Net, Martin Drago, avocat spécialisé dans le droit des données personnelles, s’inquiète d’un risque de banalisation de la reconnaissance faciale,  » alors même que cette technologie n’a fait l’objet, en France, d’aucun véritable débat /strong> » sur la pertinence de son usage.  » La reconnaissance faciale, c’est pour nous un outil de surveillance de masse, fait pour ça, pour nous surveiller constamment. Elle exploite votre visage – quelque chose que vous ne pouvez pas cacher -, ce qui fait que vous êtes reconnu et surveillé constamment dans l’espace public, sans pouvoir vous y opposer, contrairement au principe du libre consentement du RGPD. Ce qui est grave avec cette expérience dans des lycées, c’est qu’on touche des mineurs. On les habitue à une surveillance biométrique, on les accoutume, et cela participe à banaliser tous les projets présents et futurs de vidéosurveillance dopés à la reconnaissance faciale sur notre territoire « , explique le juriste […]

https://www.cnetfrance.fr/news/la-reconnaissance-faciale-arrive-dans-nos-lycees-doit-on-se-mefier-39886397.htm

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[Franceinfo] Haine sur Internet : le gouvernement veut faire semblant d’agir et renforcer les moyens de la police pour défendre son image sur Internethttps://www.laquadrature.net/?p=14569http://streisand.me.thican.net/laquadrature.net/index.php?20190710_130000__Franceinfo__Haine_sur_Internet____le_gouvernement_veut_faire_semblant_d___agir_et_renforcer_les_moyens_de_la_police_pour_defendre_son_image_sur_InternetWed, 10 Jul 2019 11:00:00 +0000Arthur Messaud, de l’association La Quadrature du Net, réagit à la proposition de loi étudiée à l’Assemblée nationale, qui prévoit de renforcer la lutte contre les propos haineux sur internet. […]

« Le harcèlement en ligne, les idéologies oppressives qui se répandent, ce sont de vrais problèmes. Mais ce qui nous inquiète dans cette proposition de loi, c’est qu’elle ne propose aucune solution. Elle se moque des victimes, en faisant croire qu’il suffit d’aller serrer la main à Mark Zuckerberg, le président de Facebook, pour régler la situation. »  […]

https://www.francetvinfo.fr/internet/reseaux-sociaux/facebook/haine-sur-internet-le-gouvernement-veut-faire-semblant-d-agir-et-renforcer-les-moyens-de-la-police-pour-defendre-son-image-sur-internet_3519157.html

NDLRP – À retrouver aussi sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[Mediapart] Liberté d’expression: Nicole Belloubet veut s’attaquer à la loi de 1881https://www.laquadrature.net/?p=14570http://streisand.me.thican.net/laquadrature.net/index.php?20190710_120000__Mediapart__Liberte_d___expression__Nicole_Belloubet_veut_s___attaquer_a_la_loi_de_1881Wed, 10 Jul 2019 10:00:00 +0000La ministre de la justice veut lancer une réflexion sur la sortie de la loi sur la liberté de la presse des infractions liées aux « propos haineux » sur internet, qui pourraient ainsi par exemple être jugées en comparution immédiate. Au risque de créer « une nouvelle bureaucratie de la censure », voire de « privatiser » le contrôle de la liberté d’expression, estiment ses détracteurs. […]

« Nous sommes en train de créer une nouvelle bureaucratie de la censure, avec des relations de plus en plus poussées et des collaborations extralégales avec les entreprises privées », dénonce Félix Tréguer. « Nous vivons la fin de l’idéologie libérale, au sens du XIXe siècle. » […]

https://www.mediapart.fr/journal/france/180619/liberte-d-expression-nicole-belloubet-veut-s-attaquer-la-loi-de-1881

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[EnjeuxNumeriques] Filtrage automatique et libertés : peut-on sortir d’un internet centralisé ?https://www.laquadrature.net/?p=14571http://streisand.me.thican.net/laquadrature.net/index.php?20190710_110000__EnjeuxNumeriques__Filtrage_automatique_et_libertes____peut-on_sortir_d___un_internet_centralise___Wed, 10 Jul 2019 09:00:00 +0000Par Lionel Maurel.

Que ce soit au niveau français ou européen, on assiste aujourd’hui à une multiplication des projets de réglementations visant à imposer aux grandes plateformes centralisées des mesures de filtrage automatique des contenus, qu’il s’agisse de lutter contre la contrefaçon, la haine en ligne ou l’apologie du terrorisme. Ces dispositifs techniques sont susceptibles de compromettre l’exercice des libertés, notamment en modifiant en profondeur les règles applicables en matière de responsabilité des intermédiaires techniques. Mais ils risquent aussi paradoxalement de renforcer la domination des grands acteurs – type GAFAM – en compromettant la possibilité de décentraliser à nouveau les usages sur Internet. […]

http://www.annales.org/enjeux-numeriques/2019/resumes/juin/05-en-resum-FR-AN-juin-2019.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
L’Assemblée nationale adopte et aggrave la loi « haine »https://www.laquadrature.net/?p=14558http://streisand.me.thican.net/laquadrature.net/index.php?20190709_162253_L___Assemblee_nationale_adopte_et_aggrave_la_loi_____haine____Tue, 09 Jul 2019 14:22:53 +0000L’Assemblée Nationale a adopté aujourd’hui la loi « haine », débattue mercredi et jeudi derniers. Le texte n’a pas été amélioré mais au contraire aggravé, avec des ajouts absurdes et dangereux.

Sur les dangers de ce texte tel qu’issu des travaux en commission des lois (avant son passage en séance plénière), nous avions déjà écrit plusieurs articles à ce sujet. Ces dangers n’ont pas disparu et sont toujours d’actualité.

Le texte adopté aujourd’hui a malheureusement ajouté par amendements une série de dispositions qui aggrave largement la situation, qu’il nous faudra collectivement veiller à faire corriger au Sénat lors des débats à la rentrée.

Création d’une base de données de la haine

L’ajout le plus absurde et délétère concerne l’obligation faite aux plateformes d’ « empêcher la rediffusion de contenus » manifestement illicites. Concrètement, cela signifie qu’une fois qu’une plateforme a retiré un contenu qu’elle a considéré comme « manifestement illicite » (seule, sans le contrôle d’une juge) et qui rentre dans le champ d’application de la loi (allant du sexisme à l’apologie du terrorisme, en passant par l’entraide entre travailleuses du sexe et la diffusion d’images pornographiques accessibles aux mineurs), la plateforme doit tout faire pour en empêcher la rediffusion (avec la menace de la sanction de 4% du chiffre d’affaires par le CSA). Une telle obligation force donc les plateformes à surveiller l’ensemble des contenus postés par ses utilisateurs et à les comparer avec le contenu auparavant retiré. Comme nous l’avions indiqué, cela est strictement interdit par le droit de l’Union européenne qui, dans sa directive e-commerce, interdit depuis 2000 aux États de forcer de tels acteurs à mettre en place « une obligation générale de rechercher activement des faits ou des circonstances révélant des activités illicites ». Espérons que le Sénat soit plus au courant du droit européen que l’Assemblée. Sans cela, nous devrons, une fois encore, attaquer la loi française devant les juridictions de l’Union.

Une telle obligation est à rapprocher d’un autre amendement adopté et qui donne au CSA un nouveau pouvoir. Celui-ci doit maintenant encourager « les opérateurs de plateforme en ligne […] dans la mise en œuvre d’outils de coopération dans la lutte contre les contenus à caractère haineux ». Cela fait tout de suite penser au règlement anti-terroriste contre lequel La Quadrature du Net a lutté ces derniers mois (et luttera dans les mois à venir et ce n’est pas fini) : ce texte cherche à étendre à l’ensemble des acteurs de l’Internet la « base d’empreintes numériques » créée par les géants du Web et mise en avant par la Commission européenne.

Comme nous l’expliquons, il s’agit d’une base de données nourrie par les géants du Web qui se partagent l’empreinte numérique des contenus « à caractère terroriste » qu’ils censurent pour éviter qu’ils ne réapparaissent ailleurs. La Commission européenne et les États membres voient dans cette solution algorithmique la solution magique contre la diffusion des contenus terroristes en ligne (refusant de voir les dangers qu’il y a à déléguer tant de pouvoirs à des algorithmes opaques inventés par des sociétés privées hégémoniques). On retrouve ici presque la même idée, avec une base de données partagée entre plateformes pour censurer, préalablement à leur mise en ligne, des contenus qui auraient déjà été considérés comme manifestement illicites et retirés par une autre plateforme. Le juge national et indépendant est remplacé par les décisions de Facebook et Google destinées à s’imposer à tous les internautes et toutes les plateformes ou presque.

Les seuils

Autre ajout alarmant : la précision selon laquelle le gouvernement pourra fixer plusieurs seuils de connexions au-delà desquels les plateformes devront respecter les obligations fixées par cette loi. Deux amendements identiques ont été adoptés à ce sujet. Mais si l’amendement tel que présenté par la majorité parlait de prise en compte de la « diversité des activités des acteurs » visés par le texte (car celui-ci vise aussi bien des réseaux sociaux que des moteurs de recherche), d’autres députés présentaient donc le même amendement dans une formulation plus grave de conséquences. En effet, si cette loi a été pensée au départ pour ne viser que les très grandes plateformes, les députés expliquent ici que ces géants du Web respectent en réalité déjà l’ensemble des obligations de la loi et qu’il faut alors viser les « plus petits opérateurs, moins scrupuleux, mais très actifs dans la propagation des contenus haineux sur internet ». C’était exactement la même justification qui était à l’œuvre pour le règlement européen anti-terroriste. Un tel amendement, autre que de risquer de soumettre beaucoup d’acteurs aux obligations de cette loi, laisse ainsi au gouvernement une grande marge de manœuvre dans l’application du texte car il reviendra à lui-seul d’en décider, par décret, le ou les champs d’application. Ensuite, comme dit plus haut, le CSA aura tout pouvoir pour obliger tous ces nouveaux acteurs à se soumettre aux listes noires édictées arbitrairement par Facebook et Google.

Recul du juge

D’autres amendements révèlent la dérive d’ensemble de ce projet politique. L’Assemblée veut ainsi créer un « Observatoire de la haine en ligne », qui « assure le suivi et l’analyse de l’évolution des contenus visés à l’article premier de la présente loi, en lien avec les opérateurs, associations et chercheurs concernés ». Une telle institution ne peut apparaître que comme un échelon supplémentaire entre l’appréciation du contenu et le juge judiciaire, pourtant seul à même d’en décider le caractère manifestement illicite ou non. Ce dernier disparaît encore un peu plus, passant après la plateforme, le CSA et maintenant l’Observatoire. D’ailleurs, les débats à l’Assemblée n’ont cessé de le rappeler : la jurisprudence dégagée par l’institution judiciaire serait trop éparpillée, ne raisonnant qu’au cas par cas (et c’est en effet bien son rôle) et il faudrait donc trouver un moyen pour construire une jurisprudence extra-judiciaire capable de distinguer le licite et l’illicite, efficacement (comprendre : sans juge, sans appréciation concrète et sans procédure contradictoire).

L’interopérabilité, une voie de sortie au débat

Le sujet de l’interopérabilité a été abordé au travers de sept amendements proposés par une multitude de députés, marquant une vision fortement transpartisane sur le sujet. Malgré la lettre signée par plus de 70 organisations françaises et européennes, et malgré la conviction des élues qui ont essayé de faire comprendre à la rapporteure et au gouvernement le rôle profondément néfaste de l’économie de l’attention dans la diffusion des contenus haineux, Laetitia Avia et Cédric O ont tout refusé en bloc. Cédric O a encore une fois fait part de sa crainte de s’attaquer trop frontalement à ce modèle économique, craignant les représailles des États-Unis. La démission politique est si complète qu’elle n’est même plus dissimulée.

De son côté, Madame Avia a enchaîné les mauvaises comparaisons (utilisant ainsi à mauvais escient le souvenir de Rosa Parks) pour expliquer que ce n’était pas à la victime de partir mais à l’endroit de changer. C’est oublier que l’endroit, en l’espèce la plateforme, est intrinsèquement biaisé, fondé sur la culture du buzz et la mise en avant justement de contenus « à clics ». Si l’on devait utiliser les mêmes métaphores que la rapporteure, on pourrait répondre qu’il ne paraît pas non plus judicieux de confiner les bourreaux et les victimes dans la même plateforme, surtout quand le directeur de la plateforme organise matériellement les combats. Et Mme Avia semble aussi oublier que, si l’intention de corriger les géants du Net est louable, ce sont bien les militant·es des libertés numériques qui s’y attellent, en utilisant notamment le RGPD pour déconstruire leur modèle toxique (voir nos plaintes collectives), et non elle, avec qui Facebook, Google et Twitter annoncent fièrement collaborer pour écrire la loi. Difficile de ne pas lire la position de Mme Avia et de M. O comme autre chose que la défense d’entreprises hégémoniques partageant leurs idéaux économiques et autoritaires.

Quoi qu’il en soit, les débats sur l’interopérabilité à l’Assemblée sont apparus comme la seule voie de sortie crédible pour les parlementaires qui prétendent vouloir lutter contre la haine en ligne. La véhémence des désaccords entre la majorité et ses adversaires (ou même certains de ses alliés) a marqué l’importance du sujet. De quoi nous laisser enthousiastes pour poursuivre ces efforts au Sénat en septembre.

Rappelons que le gouvernement a engagé la procédure accélérée sur ce texte, cela signifiant qu’il ne peut y avoir qu’une seule lecture du texte par chambre (avec intervention de la commission mixte paritaire si les deux chambres ne sont pas d’accord).

Alors que l’ensemble des acteurs du monde numérique (plateformes, associations, Conseil National du Numérique, journalistes…), accompagnés notamment par le Conseil national du barreau, ont souligné les dangers et l’absurdité de ce texte, Madame Laetitia Avia et le gouvernement continuent leur processus de destruction de l’Internet, tout en échouant à repousser avec sérieux les arguments qui leur sont opposés.

]]>
[FranceInfo] Objectif, utilisation, dangers… On vous explique Libra, la cryptomonnaie que Facebook veut lancer en 2020https://www.laquadrature.net/?p=14562http://streisand.me.thican.net/laquadrature.net/index.php?20190709_130000__FranceInfo__Objectif__utilisation__dangers____On_vous_explique_Libra__la_cryptomonnaie_que_Facebook_veut_lancer_en_2020Tue, 09 Jul 2019 11:00:00 +0000Le réseau social s’est associé à plusieurs grandes entreprises pour ce projet qui devrait voir le jour l’année prochaine. […]

L’arrivée de cette nouvelle cryptomonnaie n’est pas forcément vue d’un bon œil par tout le monde. Le réseau social ne ferait que renforcer sa position dominante, selon Benoît Piédallu, membre de la Quadrature du net, association qui défend les libertés individuelles sur Internet.

« Facebook est déjà extrêmement présent dans la vie des citoyens du monde, donc c’est un élément supplémentaire dans son hégémonie, et ça c’est un vrai problème parce que ça rajoute à sa capacité de nuisance, ça augmente son pouvoir sur les utilisateurs. » […]

https://www.francetvinfo.fr/internet/reseaux-sociaux/facebook/objectif-utilisation-dangers-on-vous-explique-libra-la-cryptomonnaie-que-facebook-veut-lancer-en-2020_3491259.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[FranceInfo] En lançant sa cryptomonnaie, Facebook va augmenter son pouvoir sur les utilisateurshttps://www.laquadrature.net/?p=14563http://streisand.me.thican.net/laquadrature.net/index.php?20190709_120000__FranceInfo__En_lan__ant_sa_cryptomonnaie__Facebook_va_augmenter_son_pouvoir_sur_les_utilisateursTue, 09 Jul 2019 10:00:00 +0000Pour l’association la Quadrature du net, la nouvelle monnaie lancée par Facebook va encore étendre l’hégémonie et le pouvoir du réseau social sur ses utilisateurs. […]

Benoit Piédallu, membre de la Quadrature du net, association qui défend les libertés individuelles sur Internet, craint que cette monnaie soit « un élément supplémentaire dans l’hégémonie » de Facebook, et estime que cela va « augmenter son pouvoir sur les utilisateurs« . […]

https://www.francetvinfo.fr/internet/reseaux-sociaux/facebook/en-lancant-sa-cryptomonnaie-facebook-va-augmenter-son-pouvoir-sur-les-utilisateurs_3490463.html

NDLRP – À retrouver aussi sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LeMedia] Facebook est-il votre prochaine banque ?https://www.laquadrature.net/?p=14564http://streisand.me.thican.net/laquadrature.net/index.php?20190709_110000__LeMedia__Facebook_est-il_votre_prochaine_banque___Tue, 09 Jul 2019 09:00:00 +0000Facebook. Un géant du numérique, et une des multinationales les plus influentes du monde, serait en passe d’émettre sa propre monnaie privée. La multinationale a-t-elle intérêt à entrer dans l’univers si particulier des cryptomonnaies ? Quels sont les dangers pour nos libertés à l’heure du capitalisme de surveillance ? […]

https://www.youtube.com/watch?v=m4pQjWx_sas

NDLRP – Sujet diffusé le 8 avril 2019, avant l’annonce du Libra par Facebook, dressant un panorama des enjeux des cryptomonnaies. Extraits avec Axel Simon de La Quadrature du Net à retrouver aussi sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[FranceCulture] Arthur Messaud dénonce une loi « inutile » qui donnerait de nouveaux pouvoirs à la policehttps://www.laquadrature.net/?p=14539http://streisand.me.thican.net/laquadrature.net/index.php?20190708_130000__FranceCulture__Arthur_Messaud_denonce_une_loi_____inutile_____qui_donnerait_de_nouveaux_pouvoirs_a_la_policeMon, 08 Jul 2019 11:00:00 +0000 […] La commission des Lois de l’Assemblée a adopté hier la proposition de loi contre la haine en ligne. Un texte porté par la députée LREM Laetitia Avia qui vise à supprimer les contenus haineux sur internet. Concrètement, les opérateurs, à commencer par les plateformes type Facebook, Twitter ou YouTube, auront 24 heures pour retirer ces contenus. Il s’agit notamment de l’incitation à la haine raciale ou de l’apologie du terrorisme. Mais ce projet de loi est loin de faire l’unanimité. Invité de ce journal, Arthur Messaud, juriste à la Quadrature du Net, association mobilisée pour la liberté sur internet […]

https://www.franceculture.fr/emissions/journal-de-22h/journal-de-22h-du-jeudi-20-juin-2019

NDLRP – À retrouver aussi sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LaCroix] L’autorégulation des plates-formes est dangereuse et inefficacehttps://www.laquadrature.net/?p=14540http://streisand.me.thican.net/laquadrature.net/index.php?20190708_120000__LaCroix__L___autoregulation_des_plates-formes_est_dangereuse_et_inefficaceMon, 08 Jul 2019 10:00:00 +0000Entretien. Arthur Messaud, juriste de l’association La Quadrature du Net.

Laisser aux géants de l’Internet la mission de réguler leurs contenus est à la fois inefficace et liberticide. Facebook veut rassurer ses utilisateurs et passer pour une plate-forme sécurisée, pour que ces derniers continuent de l’utiliser. L’entreprise investit donc déjà des moyens importants au service de la modération. À ce titre, elle prétend utiliser des outils de pointe tels que l’intelligence artificielle, avec entre autres la reconnaissance automatique d’image, afin de repérer les publications haineuses ou les fausses informations. […]

https://www.la-croix.com/Debats/Forum-et-debats/Lautoregulation-plates-formes-dangereuse-inefficace-2019-06-18-1201029715

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LeMoutonNumerique] Moutonery Report : quand la police prédictive entre dans nos vieshttps://www.laquadrature.net/?p=14541http://streisand.me.thican.net/laquadrature.net/index.php?20190708_110000__LeMoutonNumerique__Moutonery_Report____quand_la_police_predictive_entre_dans_nos_viesMon, 08 Jul 2019 09:00:00 +0000Félix Tréguer est chercheur associé au Centre Internet et Société du CNRS, post-doctorant au Centre de recherches internationales (CERI Sciences Po), et membre fondateur de l’association La Quadrature du Net.

Il nous a rejoint pour ce premier podcast qui interroge un sujet essentiel pour l’organisation de nos sociétés technologiques : la police prédictive et le pré-crime. […]

http://mouton-numerique.org/podcast-mouton-numerique/felix-treguer/

NDLRP – À retrouver aussi sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
Résumé de la loi « haine » avant le vote de demainhttps://www.laquadrature.net/?p=14518http://streisand.me.thican.net/laquadrature.net/index.php?20190702_141704_Resume_de_la_loi_____haine_____avant_le_vote_de_demainTue, 02 Jul 2019 12:17:04 +0000L’Assemblée nationale discutera demain et après-demain la proposition de loi « contre la haine en ligne ». Débattue en procédure accélérée, il pourrait s’agir du dernier passage de ce texte devant les députés. Leur dernier occasion pour le corriger.

Résumons la loi et nos critiques (pour notre analyse complète, voir ici).

Délai de 24h

  • les grandes plateformes devront censurer en 24h les contenu « manifestement illicites » qui leur seront signalés ;
  • elles subiront une amende jusqu’à 4% de leur chiffre d’affaires en cas d’échecs répétés ;
  • sont concerné des acteurs non-commerciaux comme Wikipédia, qui n’ont pas les moyens des géants ;
  • ce délai de 24h est contre-productif ; il force les plateformes à traiter tous les contenus en même temps, alors que le droit actuel permet de traiter en priorité les contenus les plus graves ;
  • ce délai pousse à l’utilisation d’outils de censure automatisée, fondamentalement contraires à la liberté de communication ;
  • ce délai renforce la possibilité pour la police de faire de la censure politique (de même qu’elle avait signalé en janvier à Google une caricature de Macron en Pinochet, enregistrée en tant que « injure raciste »).

Contenus censurés

  • l’obligation de censure concerne tout contenu relevant de la haine raciste, sexiste ou contre les LGBT, de la pédopornographie ou de l’apologie des agressions sexuelles, des crimes contre l’humanité, de l’esclavage ou du terrorisme ;
  • est aussi condamnée l’assistance et l’intermédiation entre travailleuses du sexe, qui seront chassées du Web et exposées à plus de violence dans la rue ;
  • est aussi condamnée la mise à disposition de contenus pornographiques aux mineurs, ce qui ne peut être empêché qu’en identifiant toutes les personnes voulant accéder à ces contenus.

Sites miroirs

  • la police pourra exiger que les fournisseurs d’accès à Internet bloquent n’importe quel site hébergeant un contenu préalablement reconnu illicite par un juge ;
  • aucun site ne peut techniquement empêcher un utilisateur malveillant de publier un tel contenu à son insu, ce qui offre à la police le pouvoir théorique de censurer n’importe quel site de son choix.

Internet transformé en TV

  • l’ensemble de la loi marque une conception du Net enfermé dans quelques grandes plateformes collaborant étroitement avec l’État, comme pour la TV ;
  • c’est le CSA, autorité normalement chargée de contrôler la TV, qui veillera donc au respect de la loi et à cette transformation (voir notre analyse plus détaillée).

Interopérabilité

  • la loi sera contre-productive car elle ne s’attaque pas au modèle économique des grandes plateformes (au contraire, elle le glorifie) ;
  • ce modèle est celui de l’économie de l’attention, qui accélère la diffusion des contenus nous faisant rester le plus longtemps et interagir le plus, quitte à favoriser les invectives, conflits et caricatures et à « censurer par enterrement » les propos plus subtils d’écoute et d’entre-aide ;
  • pour nous permettre de nous libérer de l’environnement toxique de ces géants, la loi doit les forcer à devenir interopérable : à nous permettre de les quitter pour rejoindre des alternatives moins toxiques et à taille humaine, tout en pouvant continuer à communiquer avec les personnes restées sur les géants. C’est la crainte de perdre cette communication qui fait que beaucoup d’entre nous y restons (voir notre analyse plus détaillée).

Notre proposition sur l’interopérabilité, qui pourrait rendre utile cette loi autrement vaine et dangereuse, a été reprise dans 7 amendements déposés pour le débat de demain. Ces amendements réunissent les signatures de 64 députés, allant du centre-droit à la gauche. L’Assemblée nationale doit les adopter.

À l’opposé, le groupe En Marche propose un amendement pour obliger les plateformes à détecter la réapparition de tout contenu préalablement censuré, et ce avant même que cette réapparition ne leur soit signalée. Il s’agirait d’une violation pure et simple de l’article 15 de la directive européenne eCommerce qui définit depuis 2000 le statut juridique des hébergeurs : « Les États membres ne doivent pas imposer aux prestataires […] une obligation générale de rechercher activement des faits ou des circonstances révélant des activités illicites ». Cet amendement doit être rigoureusement rejeté.

Suivez le vote dès demain 16h30 sur le service vidéo de l’Assemblée. La lutte contre la haine ne doit pas être instrumentalisée pour renforcer le contrôle du Net par le gouvernement.

]]>
La loi « haine » va transformer Internet en télévisionhttps://www.laquadrature.net/?p=14510http://streisand.me.thican.net/laquadrature.net/index.php?20190701_125025_La_loi_____haine_____va_transformer_Internet_en_televisionMon, 01 Jul 2019 10:50:25 +0000La proposition de loi portée par Laetitia Avia prétend vouloir faire du CSA « l’accompagnateur des plateformes » dans la lutte « contre la haine en ligne ». En réalité, la loi va beaucoup plus loin. Comme cela est redouté depuis plusieurs années, elle amorce la transformation de l’autorité en un grand régulateur de l’Internet, dans la droite lignée du « Comité Supérieur de la Télématique » fantasmé par François Fillon dès 1996. Entretenant la dangereuse confusion entre Internet et la télévision, la loi Avia participe à la centralisation et à l’extra-judiciarisation de l’Internet. Quitte à risquer de le transformer en une sorte de sombre ORTF 2.0.

La proposition de loi portée par Lætitia Avia doit être débattue à l’Assemblée Nationale le 3 juillet prochain. À côté des dangers que nous avons déjà soulignés (voir notre analyse juridique), la loi délègue un grand nombre de pouvoirs au CSA :

  • celui d’émettre des « recommandations, des bonnes pratiques et des lignes directrices pour la bonne application » de certaines obligations qui y sont prévues, notamment celles du retrait des contenus dits haineux et définis en son article 1er (contenus terroristes, atteinte à la dignité humaine, incitation à la haine, discriminations…) ;
  • celui de mettre en demeure puis de sanctionner (à hauteur de 4% du chiffre d’affaires mondial, comme pour le RGPD) les plateformes qui ne respecteraient pas l’obligation de retrait en 24h de ces contenus une fois qu’ils leur sont notifiés. À ce titre, c’est au CSA qu’il reviendra d’apprécier « le caractère insuffisant ou excessif du comportement de l’opérateur en matière de retrait sur les contenus portés à sa connaissance » ;
  • enfin, il récupère le rôle de la CNIL dans le cadre du contrôle des demandes que peut faire l’OCLTCIC (et non un juge) pour obtenir le blocage par les FAI d’un site considéré comme pédopornographique ou à caractère terroriste.

Il faut ranger ces pouvoirs à côté de ceux aussi acquis par le CSA dans la récente loi sur les fake news, (dite loi « relative à la lutte contre la manipulation de l’information »). Le CSA y avait en effet déjà récupéré des pouvoirs assez semblables, comme celui d’émettre des recommandations pour « améliorer » la lutte contre ces fausses informations.

Une vieille et mauvaise idée

Avant de comprendre les dangers qui pourraient résulter d’une telle délégation de pouvoirs, intéressons-nous rapidement à l’historique des relations entre le CSA et l’Internet. Car ce n’est pas la première fois que l’autorité veut s’arroger ce type de pouvoir.

Ainsi, en 1996, François Fillon, alors ministre délégué à la Poste, aux Télécommunications et à l’Espace, dépose un amendement dans le cadre des débats sur le « projet de loi sur la réglementation des télécommunications ». Il y propose la création d’un « Comité supérieur de la télématique » (CST), placé auprès du CSA, chargé d’élaborer des recommandations « propres à assurer le respect, par les services de communication audiovisuelle […] des règles déontologiques adaptées à la nature des services proposés ». Comme le raconte Owni.fr, il s’agissait surtout d’obliger les fournisseurs d’accès à Internet, en échange d’une non-responsabilité pénale des contenus postés, à suivre les recommandations de ce Conseil. Ce dernier allait ainsi devenir, selon Lionel Thoumhyre, « l’organe directeur de l’Internet français, gouverneur de l’espace virtuel ». L’article de loi a été par la suite heureusement censuré par le Conseil constitutionnel.

Depuis, l’autorité n’a jamais baissé les bras, aidée par de nombreuses personnalités politiques 1Pour un récapitulatif et une analyse plus complète, voir notamment l’article de Félix Tréguer sur le sujet, en 2015 : « Le CSA et la régulation d’Internet : une erreur ontologique »).. Citons Dominique Baudis (président du CSA de 2001 à 2007) qui énonce en 2001 : « Je considère que tout ce qui concerne les médias audiovisuels, qui s’adressent à une masse de gens et qui ne sont ni du ressort de la correspondance privée, ni du commerce en ligne, relève de notre compétence. Le fait qu’ils ne soient disponibles que sur internet n’y change rien ». Ou en 2004 également, le gouvernement qui tente de profiter de la loi LCEN pour faire du CSA un grand régulateur de l’Internet (ce qui est finalement rejeté par le Parlement après de nombreuses critiques). Les tentatives reviendront ainsi à chaque débat, notamment sur les lois de l’audiovisuel.

Plus récemment encore, c’est Emmanuel Macron en novembre 2017, qui instrumentalise les violences faites aux femmes pour légitimer l’extension des pouvoirs du CSA. Et en septembre 2018, c’est le CSA lui-même qui appelle à ce que la régulation audiovisuelle comprenne désormais « les plateformes de partage de vidéos, les réseaux sociaux et les plateformes de diffusion en direct », précisant même que « la régulation doit permettre d’assurer que ces nouveaux acteurs mettent en place les mesures appropriées en matière de protection des mineurs, de lutte contre la diffusion de contenus incitant à la haine et à la violence […] ».

Pourquoi le CSA pour Internet, c’est mal

En lisant la loi Avia et les pouvoirs qui lui sont délégués, on ne peut que faire ce ce constat déprimant que le CSA est en train, à l’usure, de gagner. En lui donnant le pouvoir d’apprécier si l’opérateur a correctement retiré un contenu considéré comme « haineux », en lui donnant un pouvoir de sanction, en lui permettant d’émettre des recommandations sur la haine en ligne (comme elle le fait déjà sur les « fausses informations »), la proposition de loi se rapproche dangereusement de l’idée du « Comité Supérieur de la Télématique » de 1996 et participe donc à la confusion grandissante qu’il y a entre Internet et la télévision.

Or, faire cette confusion, c’est insulter ce que représente au départ Internet : un moyen justement de se soustraire à l’information linéaire et unilatérale de la télévision par la multiplication des canaux d’expression. L’analyse que faisait LQDN sur le sujet il y a plusieurs années tient toujours, et donne d’ailleurs la douloureuse impression de tourner en rond : « Le CSA régule la diffusion de contenus, de façon centralisée, par des acteurs commerciaux. Tenter d’imposer le même type de règles à la multitude d’acteurs, commerciaux et non-commerciaux, qui constituent le réseau décentralisé qu’est Internet, dans lequel chacun peut consulter, mais également publier des contenus, est une aberration. Internet c’est aussi la diffusion de vidéos, mais c’est avant tout la mise en œuvre de nos libertés fondamentales, le partage de la connaissance et de la culture, la participation démocratique, etc ».

Au-delà de l’aberration, vouloir télévisionner l’Internet, c’est vouloir le centraliser. C’est un moyen pour le gouvernement de reprendre le contrôle sur ce moyen d’expression qu’il ne maîtrise pas et cela passe par la création de lois pour et avec les grandes plateformes, en ne voyant Internet que par le prisme faussé des géants du Net, avec la menace qu’elles s’appliquent un jour à tous. Car il est toujours plus facile de ne traiter qu’avec un nombre restreint de gros acteurs (d’ailleurs plus prompts que les autres à collaborer avec lui.).

C’est aussi mettre dans les mains de l’administration des pouvoirs qui appartenaient auparavant au juge. C’est bien au CSA et non à un juge qu’il reviendra de décider si un contenu est haineux et méritait donc pour un opérateur d’être retiré en 24h. Et c’est donc, comme c’est déjà le cas pour la télévision, à l’administration qu’il reviendra de dire ce qui peut être dit ou diffusé sur Internet. Difficile à ce titre de ne pas faire le lien avec les récentes déclarations du secrétaire d’État au numérique qui menace cette fois-ci la presse de donner au CSA le pouvoir de « décider ce qu’est une infox ou pas ».

On en vient alors à se demander si, à travers cette loi, le gouvernement n’est pas en train d’instrumentaliser les débats sur la haine en ligne, ses victimes et Laetitia Avia elle-même pour reprendre la main sur Internet.

En déléguant au CSA de tels pouvoirs, avec l’objectif d’en faire le grand gendarme de l’Internet, la loi « haine » est un nouveau pas vers l’ORTF 2.0.

References   [ + ]

1. Pour un récapitulatif et une analyse plus complète, voir notamment l’article de Félix Tréguer sur le sujet, en 2015 : « Le CSA et la régulation d’Internet : une erreur ontologique »).
]]>
La CNIL veut autoriser les sites Internet à nous tracer sans notre consentementhttps://www.laquadrature.net/?p=14503http://streisand.me.thican.net/laquadrature.net/index.php?20190628_142432_La_CNIL_veut_autoriser_les_sites_Internet_a_nous_tracer_sans_notre_consentementFri, 28 Jun 2019 12:24:32 +0000Hier, Mme Marie-Laure Denis, présidente de la CNIL, a expliqué en commission de l’Assemblée nationale que la CNIL prendrait le 4 juillet une décision injustifiable (voir la vidéo de 00:59:50 à 01:01:30). Aujourd’hui, la CNIL vient de préciser cette décision : au mépris total du droit européen, elle souhaite attendre juillet 2020 pour commencer à sanctionner les sites internet qui déposent des cookies sans respecter les nouvelles conditions du RGPD pour obtenir notre consentement.

Ces nouvelles conditions sont pourtant une des avancées majeures de ce texte : y renoncer revient à le vider de sa substance. Depuis l’entrée en application du RGPD le 25 mai 2018, notre consentement ne peut plus être « déduit » du simple fait que nous sommes informé·es par un vulgaire « bandeau cookie » et que nous ne prenons pas les mesures techniques nécessaires pour empêcher le dépôt des-dits traceurs. Notre silence ne vaut plus acceptation, enfin ! Désormais, tant que nous ne cliquons pas explicitement sur un bouton « j’accepte », il est strictement interdit de nous pister et de réaliser des profits sur nos données personnelles (précisons au passage que notre consentement ne doit pas seulement être « explicite » mais aussi « libre » : un bouton « je refuse » doit être proposé et le site doit rester accessible même si on ne clique pas sur « j’accepte »). Il s’agit là de l’une des principales avancées que nous avons obtenues au cour de la lutte menée dès 2014 au Parlement européen pour renforcer le RGPD, et que nous devons veiller à faire appliquer scrupuleusement (lire notre bilan).

C’est précisément en application de cette nouvelle règle du « consentement explicite » que la CNIL a sanctionné Google d’une amende de 50 millions d’euros en janvier dernier, dans le cadre de nos plaintes collectives et de celle de NOYB contre l’entreprise : le consentement qu’obtient Google n’est pas explicite mais déduit implicitement de notre absence d’opposition, en violation du RGPD. Aujourd’hui, la CNIL semble vouloir appliquer un droit différent entre Google et les médias français qui, eux, pourraient se contenter d’un consentement « implicite », violant tranquillement nos libertés fondamentales dans la poursuite de profits publicitaires intolérables.

À écouter la présidente de la CNIL, cette direction résulte de négociations avec le GESTE, un syndicat français de médias en ligne que nous avons l’habitude de combattre en matière de données personnelles. Ce dernier criait déjà victoire le mois dernier quand la CNIL avait commencé à céder à ses demandes et lui promettait : « le scroll et/ou le clic sur un élément de la page visitée, reste un mode valable d’expression du consentement, et ce jusqu’à juin 2020 ». Autrement dit : « la CNIL démissionne, ruons-nous pour tondre les moutons ! ».

En droit, les choses sont pourtant simples : il n’existe aucune possibilité laissée à la CNIL pour repousser jusqu’à juillet 2020 l’application du RGPD. Ce texte européen, adopté en 2016, prévoyait déjà une « période de transition », qui a entièrement pris fin le 25 mai 2018. La décision que la CNIL s’apprête à prendre violerait de plein front le droit européen et justifierait un recours en manquement contre la France par la Commission européenne.

De notre côté, si cette décision devait être prise, nous n’aurions guère le choix que de l’attaquer devant le Conseil d’État, de la même façon que nous avons pris l’habitude d’attaquer de nombreux actes du gouvernement (nous avions d’ailleurs déposé une demande CADA à la CNIL il y a un mois pour obtenir la décision révélée par le GESTE, afin de l’attaquer le cas échéant). En cas de victoire de notre part devant le Conseil d’État, difficile d’imaginer comment la présidente de la CNIL pourrait conserver suffisamment de légitimité pour ne pas démissionner.

Le collège de la CNIL se réunira ce 4 juillet pour choisir d’entériner ou non cette décision. Nous appelons chacune et chacun des 18 membres de la CNIL à s’y opposer vigoureusement. Au contraire, elles et ils doivent décider de la poursuite immédiate des sites Internet violant la loi. La lettre du RGPD est parfaitement claire, a déjà été expliquée en long, en large et en travers par le Comité européen à la protection des données et ne nécessite aucune précision supplémentaire pour être respectée. La protection de nos libertés fondamentales ne saurait connaître aucun sursis.

]]>
Partage de données : le renseignement français encore et toujours dans l’illégalitéhttps://www.laquadrature.net/?p=14493http://streisand.me.thican.net/laquadrature.net/index.php?20190628_125449_Partage_de_donnees____le_renseignement_fran__ais_encore_et_toujours_dans_l___illegaliteFri, 28 Jun 2019 10:54:49 +0000La Quadrature du Net vient de déposer un nouveau recours devant le Conseil d’État contre les activités de partage de données entre services de renseignement. Comme le révélait le journal Le Monde fin avril, depuis 2016, une infrastructure dédiée au siège de la DGSE permet aux services d’échanger des données collectées dans le cadre de leurs activités de surveillance, et ce sans aucun encadrement juridique. Ces activités illégales posent de nouveau la question de l’impunité des responsables du renseignement et des autorités de contrôle, et doivent cesser au plus vite.

Avec la loi relative au renseignement de 2015, l’État nous promettait que les barbouzeries illégales dont les services français étaient familiers ne seraient bientôt plus qu’un mauvais souvenir. Rien ne serait jamais plus comme avant : les buts et les moyens du renseignement étaient désormais clairement énumérés, la commission de contrôle dédiée, la CNCTR, veillerait au grain en lien avec le Conseil d’État. Fini le non-droit : le renseignement rentrait enfin dans le giron de l’État de droit…

Hélas, la loi adoptée à l’époque était déjà loin du compte, comme La Quadrature le fait d’ailleurs valoir dans ses multiples recours déposés devant le Conseil d’État, en lien avec les fournisseurs d’accès associatifs de la Fédération FDN.

Puis dès le printemps 2016, une première découverte montrait que les mauvaises habitudes avaient la vie dure. Au détour de « l’affaire Solère », nous nous rendions alors compte que le législateur avait reconduit dans la loi renseignement une vieille disposition relative à la « surveillance hertzienne », rédigée de manière tellement sommaire qu’elle laissait la possibilité de couvrir n’importe quelle mesure de surveillance et de contourner tous les mécanismes de contrôle prévus par ailleurs dans la loi. Nous avions alors eu gain de cause devant le Conseil constitutionnel, et le gouvernement avait dû réécrire cet article.

Fin 2016, lorsque l’on découvrit l’existence d’un contrat conclu entre la DGSI et Palantir, il devenait clair que les belles promesses de 2015 avaient fait long feu. Pour passer les téraoctets de données perquisitionnées dans le cadre de l’état d’urgence à la moulinette du Big Data, la DGSI s’offrait donc les outils d’analyse de cette sulfureuse entreprise liée au complexe militaro-industriel étasunien. Les caciques du renseignement français laissaient ainsi entendre que, chaque fois que le droit s’écarterait un peu des possibilités offertes par les technologies modernes de surveillance, le droit devrait s’incliner. Une stratégie d’ailleurs validée par le député Cédric Villani dans son rapport de 2018 sur l’intelligence artificielle, qui légitimait ces méthodes illégales en parlant d’expérimentation et de « logique de bac à sable ».

Fin avril 2019, le journal Le Monde révélait une autre affaire, à savoir l’existence de l’« entrepôt », surnom d’un « bâtiment ultrasécurisé » attenant au siège de la direction générale de la sécurité extérieure (DGSE), à Paris. Une sorte de data center dédié à la mutualisation des données entre services de renseignement. Sa création et son financement auraient été décidés en janvier 2016 sous l’autorité de François Hollande. Et au mois de juillet 2016, une des lois de prolongation de l’état d’urgence était venue fournir un semblant de base légale à cette infrastructure technique, en modifiant un article dédié — l’article L-863-2 — dans le Code de la sécurité intérieure1L’article L.~863-2 CSI indique : « Les services spécialisés de renseignement mentionnés à l’article L. 811-2 et les services désignés par le décret en Conseil d’État prévu à l’article L. 811-4 peuvent partager toutes les informations utiles à l’accomplissement de leurs missions définies au titre Ier du présent livre.
Les autorités administratives mentionnées à l’article 1er de l’ordonnance n°~2005-1516 du 8 décembre 2005 relative aux échanges électroniques entre les usagers et les autorités administratives et entre les autorités administratives peuvent transmettre aux services mentionnés au premier alinéa du présent article, de leur propre initiative ou sur requête de ces derniers, des informations utiles à l’accomplissement des missions de ces derniers.
Les modalités et les conditions d’application du présent article sont déterminées par décret en Conseil d’État.»
Créé par la loi de renseignement de 2015, la loi de 2016 est simplement venue changer le mot « échanger » par « partager ». C’est un amendement apporté en 1ère lecture par le Sénat par une sénatrice Les Républicains. À l’époque, celle-ci explique que « l’objectif est de permettre la mise en commun de toutes les informations dont disposent les services en lieu et place d’échanges bilatéraux, et ce dans un souci d’efficacité »
.

Sauf que cette disposition de 2016 se contentait d’autoriser les services à partager leurs données sans rien préciser, alors même que le Conseil constitutionnel avait exigé en 2015 que le législateur fixe lui-même, sans s’en remettre au gouvernement, les conditions d’exploitation, de conservation et de destruction des informations collectées dans le cadre de la surveillance d’État2« En ne définissant dans la loi ni les conditions d’exploitation, de conservation et de destruction des renseignements collectés en application de l’article L. 854-1, ni celles du contrôle par la commission nationale de contrôle des techniques de renseignement de la légalité des autorisations délivrées en application de ce même article et de leurs conditions de mise en œuvre , le législateur n’a pas déterminé les règles concernant les garanties fondamentales accordées aux citoyens pour l’exercice des libertés publiques ; que, par suite, les dispositions du paragraphe I de l’article méconnaissent l’article 34 de la Constitution, doivent être déclarés contraires à la Constitution » (Cons. constit. Déc. n° 2015-713 DC du 23 juillet 2015, cons. 78).. L’article 863-2 renvoyait à un décret pour préciser ses modalités d’application. Celui-ci ne fut jamais publié, le gouvernement craignant sans doute d’attirer l’attention sur l’inconstitutionnalité de sa base législative (une source du Monde évoque ainsi le « défaut de base constitutionnelle » de ce décret).

Or, les activités de surveillance relèvent de régimes plus ou moins permissifs. La DGSE, par exemple, dispose des moyens techniques et juridiques les plus larges, lui permettant d’intercepter d’immenses quantités de trafic au niveau des câbles de télécommunications transitant sur le territoire français (article L.854-1 et suivants). De même, des techniques du renseignement intérieur, comme les fameuses boîtes noires algorithmiques ou la surveillance en temps réel des métadonnées, ne sont autorisées que pour la lutte antiterroriste (articles L. 851-2 et L. 851-3)

Que se passe-t-il lorsque les données relevant de ces pouvoirs exorbitants sont versées au pot commun dans lequel peuvent potentiellement venir piocher des dizaines de milliers d’agents, relevant de services aux compétences et aux missions très diverses (TRACFIN, douanes, direction du renseignement de la préfecture de police de Paris, bureau central du renseignement pénitentiaire, ANSSI, service central du renseignement territorial, etc.) ? Certes, le gouvernement a déjà fait évoluer la loi l’an dernier pour faciliter la surveillance de résident·es français·se à partir du régime applicable aux communications internationales, là encore au mépris des engagements de 2015. Pour autant, celui-ci couvre un champ restreint. Faute d’être rigoureusement encadrés par la loi, l’essentiel des partages de données pratiqués à l’entrepôt de la DGSE sont donc nécessairement illégaux et profondément attentatoires aux droits fondamentaux.

La Quadrature vient donc d’attaquer ce dispositif devant le Conseil d’État (voir notre mémoire introductif). Dès que possible, nous soulèverons également une question prioritaire de constitutionnalité dans le cadre de cette procédure, afin de faire invalider l’article L. 863-2. Et avec lui, c’est l’ensemble des activités de partage de données entre services qui devra cesser en attendant que la loi soit précisée et que la transparence soit faite sur ces pratiques.

Au-delà, cette affaire pose aussi la question de la responsabilité, et de l’impunité récurrente, non seulement des hauts responsables politiques et administratifs du renseignement qui président à ces activités illégales, mais aussi de leurs autorités de contrôle (la CNCTR et Conseil d’État) qui acceptent de les couvrir.

References   [ + ]

1. L’article L.~863-2 CSI indique : « Les services spécialisés de renseignement mentionnés à l’article L. 811-2 et les services désignés par le décret en Conseil d’État prévu à l’article L. 811-4 peuvent partager toutes les informations utiles à l’accomplissement de leurs missions définies au titre Ier du présent livre.
Les autorités administratives mentionnées à l’article 1er de l’ordonnance n°~2005-1516 du 8 décembre 2005 relative aux échanges électroniques entre les usagers et les autorités administratives et entre les autorités administratives peuvent transmettre aux services mentionnés au premier alinéa du présent article, de leur propre initiative ou sur requête de ces derniers, des informations utiles à l’accomplissement des missions de ces derniers.
Les modalités et les conditions d’application du présent article sont déterminées par décret en Conseil d’État.»
Créé par la loi de renseignement de 2015, la loi de 2016 est simplement venue changer le mot « échanger » par « partager ». C’est un amendement apporté en 1ère lecture par le Sénat par une sénatrice Les Républicains. À l’époque, celle-ci explique que « l’objectif est de permettre la mise en commun de toutes les informations dont disposent les services en lieu et place d’échanges bilatéraux, et ce dans un souci d’efficacité »
2. « En ne définissant dans la loi ni les conditions d’exploitation, de conservation et de destruction des renseignements collectés en application de l’article L. 854-1, ni celles du contrôle par la commission nationale de contrôle des techniques de renseignement de la légalité des autorisations délivrées en application de ce même article et de leurs conditions de mise en œuvre , le législateur n’a pas déterminé les règles concernant les garanties fondamentales accordées aux citoyens pour l’exercice des libertés publiques ; que, par suite, les dispositions du paragraphe I de l’article méconnaissent l’article 34 de la Constitution, doivent être déclarés contraires à la Constitution » (Cons. constit. Déc. n° 2015-713 DC du 23 juillet 2015, cons. 78).
]]>
Deuxième analyse de la loi « haine »https://www.laquadrature.net/?p=14482http://streisand.me.thican.net/laquadrature.net/index.php?20190627_162515_Deuxieme_analyse_de_la_loi_____haine____Thu, 27 Jun 2019 14:25:15 +0000Le 3 juillet, l’Assemblée nationale examinera la proposition de Laetitia Avia « contre la haine sur Internet », déjà adoptée sans grand changement en commission des lois le 19 juin (lire notre réaction).

La Quadrature du Net a envoyé aux 577 députés l’analyse juridique reproduite ci-dessous (aussi en PDF), qui met à jour l’analyse envoyée à la commission des lois avant le vote de celle-ci.

Lettre aux députés : PPL Avia, refusez les mesures inutiles et dangereuses

Mesdames, Messieurs les députées,

Vous examinerez mercredi prochain la proposition de loi « contre la haine sur Internet ». En l’état, cette proposition ne permettra pas d’atteindre l’objectif qu’elle se donne mais renforcera uniquement les risques de censure politique.

La Quadrature du Net vous appelle à supprimer son article 1er et à modifier la loi tel qu’exposé ci-après.

Nous vous appelons à adopter tout amendement proposant d’obliger les grandes plateformes commerciales à devenir « interopérables » pour permettre aux victimes de se libérer des modèles économiques favorisant la haine.

A. Le champ personnel excessif du retrait en 24h

En droit, toute restriction de libertés, telle que la liberté de communication, n’est valide que si elle est strictement nécessaire à la réalisation de l’objectif qu’elle poursuit1Ce principe est le plus clairement exprimé à l’article 52 de la Charte des droits fondamentaux de l’Union européenne : « Toute limitation de l’exercice des droits et libertés […] ne peuvent être apportées que si elles sont nécessaires et répondent effectivement à des objectifs d’intérêt général ». Ce principe a été intégré dans le contrôle réalisé par le Conseil constitutionnel : « toute mesure restreignant un droit fondamental […] doit être adéquate, c’est-à-dire appropriée, ce qui suppose qu’elle soit a priori susceptible de permettre ou de faciliter la réalisation du but recherché par son auteur » (« Le contrôle de proportionnalité exercé par le Conseil constitutionnel », Cahier du Conseil constitutionnel n° 22 – juin 2007)..

L’objectif poursuivi par cette PPL est de contenir la multiplication des discours de haine et de harcèlement survenue sur les grandes plateformes commerciales — Facebook, Youtube et Twitter. Pour ce faire, son article 1er exige le retrait en 24h des contenus signalés qui sont manifestement illicites, restreignant la liberté de communication tant de ces plateformes que de leurs utilisateurs.

Toutefois, cette obligation ne pèse pas seulement sur les grandes plateformes commerciales, à l’origine du problème, mais sur tout « opérateur » visé à l’article L111-7 du code de consommation et dont le nombre d’utilisateurs dépasse un seuil fixé par décret (qu’on nous annonce à 2 millions). En pratique, des sites sans activité commerciale tel que Wikipédia seront aussi concernés. Pourtant, leur modèle de modération qui repose sur une communauté bénévole et investie a su se montrer bien plus efficace pour limiter la diffusion de la haine et du harcèlement que les grandes plateformes commerciales. Ce constat n’est remis en cause ni par Mme Avia ni par le gouvernement.

Tout en restant perfectibles, les plateformes non-commerciales satisfont déjà largement l’objectif poursuivi par cette PPL. Pourtant, n’ayant pas de modérateurs professionnels, elles ne pourront en respecter l’article 1er et devront cesser leur activité devant la menace de sanctions inévitables. Cette restriction de leur liberté de communication est inutile et donc juridiquement invalide.

B. Un délai de 24h contre-productif

En droit, une mesure est invalide si elle restreint davantage de libertés que ne le ferait une autre mesure capable d’atteindre aussi efficacement l’objectif qu’elle poursuit2Ce principe découle de la jurisprudence du Conseil constitutionnel : « toute mesure restreignant un droit fondamental […] ne doit pas excéder – par sa nature ou ses modalités – ce qu’exige la réalisation du but poursuivi, d’autres moyens appropriés, mais qui affecteraient de façon moins préjudiciable les personnes concernées ou la collectivité, ne devant pas être à la disposition de son auteur » (article précité du Cahier du Conseil)..

En l’espèce, imposer un délai de 24h pour retirer un contenu manifestement illicite est susceptible de provoquer d’importantes restrictions de libertés, tel que le sur-blocage de propos licites ou le dévoiement de la mesure à des fins de censure politique. Ce délai fixe produit un autre effet nocif : il empêche les plateformes d’examiner en priorité les contenus les plus graves ou les plus partagés, car elles doivent traiter tous les signalements, même les moins graves, dans un même et unique délai.

À l’inverse, le droit actuel (la loi pour la confiance dans l’économie numérique de 2004, LCEN) n’exige le retrait des contenus manifestement illicites que dans un délai « prompt » : proportionné à la gravité du contenu, aux conséquences et à l’ampleur de sa diffusion. Ceci permet de traiter en priorité les situations les plus nocives, ce qui est bien plus efficace pour atteindre l’objectif poursuivi par la loi, tout en réduisant les risques de sur-blocage et de censure politique.

Par ailleurs, imposer un délai de 24h serait d’autant plus inutile qu’il est matériellement irréaliste : dans bien des cas, il ne pourra être respecté par aucune plateforme et ne sera donc pas sanctionné. Exemple sinistre mais probant, la vidéo de la tuerie de Christchurch a été dupliquée 1,5 millions de fois sur Facebook dans les 24h suivant l’attentat, au cour desquelles 300.000 copies auraient entièrement échappé aux outils de modération automatisés de l’entreprise, de l’aveu même de celle-ci3« Update on New Zealand », Facebook Newsroom, 18 mars 2019, https://newsroom.fb.com/news/2019/03/update-on-new-zealand. Cet événement a démontré l’incapacité structurelle des outils de modération automatisés à faire face à de telles menaces en 24h. La loi perdrait toute emprise sur le réel en exigeant l’inverse.

À l’inverse, le droit actuel a déjà pu s’appliquer concrètement contre un hébergeur ayant échoué à retirer en 24h un contenu illicite dans le cas où un tel délai était réaliste et où la situation le justifiait spécifiquement4Une affaire importante dans l’histoire de la LCEN est celle concernant la société AMEN qui, en 2009, a été condamnée par la cour d’appel de Toulouse pour ne pas avoir retiré dans la journée suivant leur signalement des écoutes téléphoniques diffusées par un des sites qu’elle hébergeait et concernant l’enquête judiciaire de l’affaire AZF. En 2011, la Cour de cassation a cassé cette décision car le signalement de ces écoutes ne respectait pas le formalisme stricte prévu par la LCEN. Toutefois, ce faisant, il est important de souligner que la Cour de cassation n’a absolument pas contesté qu’un délai « prompt » de 24 heures puisse correspondre à ce qu’exige la loi..

En conclusion, imposer un délai de 24h serait moins efficace qu’un délai apprécié au cas par cas, tel que prévu actuellement par la LCEN, car cela empêcherait de traiter les situations les plus graves en priorité tout en étant matériellement irréaliste, privant la loi de son lien au réel. Puisqu’une telle mesure restreindrait davantage de libertés que celles prévues actuellement par la LCEN, elle serait inutile et donc invalide.

C. Un délai de 24h favorisant la censure politique

En droit, le principe de la séparation des pouvoir exige que l’autorité qui poursuit les auteurs d’infractions (le pouvoir exécutif) soit distincte de celle qui constate ces infractions (pouvoir judiciaire) et que cette seconde autorité soit indépendante de la première5Garanti à l’article 16 de la Déclaration des Droits de l’Homme et du Citoyen de 1789 et à l’article 64 de la Constitution, un des principes fondamentaux de la séparation des pouvoirs est explicité à l’article préliminaire du code de procédure pénale comme « la séparation des autorités chargées de l’action publique et des autorités de jugement. ».

En l’espèce, le délai de 24h pour retirer les contenus est si court qu’il empêchera les plateformes d’examiner tous les signalements avec le même niveau de diligence. Dans ces conditions, elles n’auront d’autres choix que de réaliser un examen sommaire, ou un retrait quasi-automatique, des contenus signalés par leurs utilisateurs jugés les plus fiables. Vraisemblablement, les contenus signalés par les comptes des services de la police seront traités de façon expéditive : Facebook ou Twitter seraient bien peu pragmatiques s’ils « perdaient du temps » à examiner les signalements de la police alors que des milliers de signalements à l’origine bien plus incertaine et complexe devront être examinés en urgence dans la même journée.

Ce pouvoir « de fait » de la police a déjà été dévoyé à des fins de censure politique. Dernier exemple en date : en réponse à une demande CADA de La Quadrature du Net, la police a expliqué avoir signalé à Google le 13 janvier 2019 une image caricaturant Emmanuel Macron sous les traites du dictateur Pinochet. Dans les documents transmis, le signalement est enregistré dans la catégorie « injures et diffamations xénophobes ou discriminatoires »6Le signalement de la caricature de Macron sous les traits de Pinochet est documenté sur le site de La Quadrature du Net : https://www.laquadrature.net/2019/05/09/une-loi-contre-la-haine-anti-macron. Cette qualification, en plus d’être une aberration juridique, entre exactement dans le champ des infractions que la PPL Avia imposera de retirer en 24h.

En conclusion, l’article 1er de la PPL Avia, en exigeant d’évaluer la licéité des contenus signalés dans un délai de 24h, décuplera les risques de retrait de contenus signalés par la police qui, tout en étant licites, vexeraient le pouvoir exécutif. En pratique, cela permettra au gouvernement d’usurper l’autorité judiciaire, qualifiant lui-même les « infractions » contre lesquelles il prétend lutter et imposant cette qualification aux plateformes qui, menacées de lourdes sanctions, lui sont largement soumises et nullement indépendantes. Ce délai n’étant par ailleurs pas nécessaire, il est d’autant moins valide qu’il accroît sensiblement les risques de violation de la séparation des pouvoirs.

D. Une lutte illégitime contre les travailleuses du sexe

L’article 1 de la PPL, telle que complété en commission des lois, entend désormais lutter contre les infractions définies aux articles 227-23 et 227-24 du code pénale, qui punissent les faits « d’aider, d’assister ou de protéger la prostitution d’autrui » ou bien « de faire office d’intermédiaire entre deux personnes dont l’une se livre à la prostitution et l’autre exploite ou rémunère la prostitution d’autrui ».

Cet ajout poussera encore davantage Facebook et Twitter à exclure activement de leurs plateformes les travailleuses du sexe ainsi que leurs groupes d’entraide, leur fermant une alternative au travail en extérieur où elles seront exposées à bien plus de violences. Une telle situation trahit l’objectif de cette PPL qui prétend défendre les victimes de violences.

E. La conservation des données renforcée, en violation du droit de l’Union

L’article 3 bis du texte adopté en commission des lois propose d’augmenter la sanction des fournisseurs d’accès à Internet et des hébergeurs qui ne conservent pas les données de connexion de l’ensemble de leurs utilisateurs (adresses IP notamment), telle que fixée au 1 du VI de l’article 6 de la LCEN.

Dans son arrêt Tele27L’arrêt Tele2 Sverige AB, grande chambre de la Cour de justice de l’Union européenne, 21 décembre 2016, affaires C-203/15 et C-698/15, est commenté par notre équipe contentieuse à cette adresse : https://exegetes.eu.org/posts/tele2, la Cour de justice de l’Union européenne a déclaré qu’une telle mesure de surveillance de masse est contraire à la Charte des droits fondamentaux de l’Union et que seules des mesures de conservation ciblée sur des personnes soupçonnées peuvent être autorisées. La Quadrature a contesté la conformité de l’obligation française devant le Conseil d’État, dont le rapporteur public a reconnu l’absence de conformité du droit français au droit de l’Union et conduit le Conseil à transmettre des questions préjudicielles à la Cour de justice de l’Union européenne à ce sujet8Voir la décision du Conseil d’État transmettant les questions à la Cour de justice, 10ème – 9ème chambres réunies, 26 juillet 2018, affaire n° 393099, https://www.legifrance.gouv.fr/affichJuriAdmin.do?oldAction=rechJuriAdmin&idTexte=CETATEXT000037253929&fastReqId=1863567356&fastPos=1.

Dans l’attente de la réponse de cette dernière, la moindre des choses de la part du législateur serait de ne pas aggraver la violation par la France du droit de l’Union en renforçant la sanction de cette obligation inconventionnelle. Cet article doit être supprimé.

F. L’absence de garde fou à la lutte contre les sites miroirs

L’article 6 de la PPL permet à la police d’ordonner aux opérateurs Internet de bloquer un site sur lequel est reproduit un contenu illicite dont un juge a interdit « la reprise totale ou partielle ».

Ces nouveaux pouvoirs donnés à la police comportent de graves risques de dévoiement à des fins de censure politique. L’exemple donné plus haut de la vidéo de Christchurch en donne une illustration parfaite. Si un juge, doté des pouvoirs prévus par cet article 6, avait interdit « la reprise totale ou partielle » de la vidéo du massacre de Christchurch (hypothèse crédible), la police aurait eu toute liberté pour exiger le blocage de l’ensemble du site Facebook, dans la mesure où Facebook a été incapable de supprimer la vidéo, dont au moins 300 000 copies ont échappé à sa modération.

Mme Avia semble parfaitement ignorer cette réalité : il est impossible pour un hébergeur d’éviter que ses utilisateurs ne partagent la moindre copie d’un contenu interdit. Une poignée d’amateurs l’a parfaitement démontré en modifiant légèrement la durée, la couleur ou le son de la vidéo de Christchurch pour contourner presque entièrement les algorithmes de Facebook.

Si la « reprise totale ou partielle » d’un contenu était interdite par un juge, en application de cet article 6, absolument tout hébergeur serait virtuellement en violation de cette obligation du fait de certains des ses utilisateurs, sans qu’il ne puisse rien y faire. La police se trouvera seule à décider lesquels de ces sites seront censurés, entièrement libre de dévoyer ce choix arbitraire à des fins politiques. Hypothèse concrète : la police ne demanderait pas la blocage de la plupart des sites hébergeant un contenu interdit par un juge (tels que Facebook ou Youtube) mais exigerait le blocage de plateformes critiquant la politique du gouvernement et où un utilisateur malveillant aurait insidieusement publié le contenu interdit. Cette hypothèse est des plus crédibles lorsqu’on rappelle que l’OCLCTIC a déjà dévoyé de façon illégale ses pouvoirs de lutte contre le terrorisme pour tenter de censurer des plateformes d’extrême-gauche telles que Indymedia (voir le jugement du 31 janvier 2019 du tribunal administratif de Cergy-Pontoise, qui reconnaît cet abus de la police).

Une garantie classique contre cette dérive est le « principe de subsidiarité », déjà prévu de façon imparfaite (mais prévu toutefois) à l’article 6-1 de la LCEN en matière de censure administrative des contenus terroristes et pédopornographiques. Ce principe veut que les pouvoirs publics demandent d’abord à l’hébergeur de retirer le contenu interdit. Ce n’est que dans le cas où celui-ci refuse clairement de coopérer, lorsque lui a été laissé un délai suffisant pour ce faire et que sa défaillance ne résulte que d’une faute lourde et manifeste, que son blocage par les opérateurs Internet peut être considéré.

Sans rendre les mesures de censure efficaces ou légitimes, cette garantie est la moindre des choses requises. Il serait inconcevable que la lutte contre la haine soit encadrée de moins de garanties que la lutte contre le terrorisme.

G. La disparition du principe de subsidiarité en matière de signalement

L’article 1 bis du texte adopté en commission des lois crée un formalisme spécifique pour signaler les contenus visés à l’article 1 de la PPL. Ce formalisme est considérablement allégé comparé à celui du droit commun, tel que décrit à l’article 6, I, 5, de la LCEN.

La principale nouveauté de ce formalisme spécifique est que l’auteur d’un signalement n’aura plus à justifier avoir contacté au préalable l’auteur du propos problématique pour lui demander de le corriger. La suppression de cette exigence constitue un autre renoncement au « principe de subsidiarité », pourtant au cœur du mécanisme de signalement de la LCEN.

Ce principe veut que les utilisateurs tentent de régler les situations problématiques d’abord entre eux, notamment pour dissiper les simples malentendus ou confusions qui auraient pris l’apparence du conflit. Ce n’est que lorsque cette tentative a échoué que la plateforme doit être contactée pour résoudre le conflit. Ceci permet à la plateforme de se concentrer sur les cas les plus graves sans être retardée par des cas que les utilisateurs auraient résolus plus efficacement eux-mêmes.

Exemple typique : une personne cite sur Twitter un propos haineux pour le dénoncer ; un tiers est choqué par ce propos et n’est pas certain s’il s’agit d’un propos original ou d’une citation critique ; plutôt que de signaler le propos à Twitter, qui peine déjà tant à traiter les très nombreux signalements qu’il reçoit, il serait plus efficace que le tiers contacte lui-même l’utilisateur initial, afin que celui-ci dissipe la confusion et corrige son message initial pour le rendre moins ambigu.

La suppression de ce principe de proportionnalité dessert l’objectif de lutte contre les propos oppressifs, car surchargerait inutilement les plateformes de signalements qui auraient été plus efficacement traités autrement. Cet article 1 bis doit être supprimé.

H. L’interopérabilité, une solution plus efficace que la répression

Les mesures restrictives de libertés sont d’autant moins nécessaires, et donc valides, si le législateur pouvait adopter d’autres mesures qui, ne limitant aucune liberté, permettraient de se rapprocher davantage de l’objectif poursuivi. L’objectif de cette PPL n’est pas de sanctionner les auteurs de propos haineux mais uniquement de limiter la façon dont le public, et plus particulièrement les victimes, y sont exposées.

Comme vu ci-avant, le délai de 24h est contre-productif pour atteindre cet objectif. Son inefficacité résulte du fait qu’il ne cherche à traiter que les symptômes et non les causes. Or, deux des causes du problème que la PPL souhaite résoudre peuvent être efficacement traitées par le législateur.

1. Deux causes

Première cause : le nombre de personnes réunies sur les plateformes commerciales géantes facilite les stratégies de harcèlement, plaçant les victimes à portée immédiate de leurs oppresseurs. Leur taille est si importante qu’elle empêche toute modération crédible : Facebook ne pourra jamais embaucher assez de modérateurs pour ses 2 milliards d’utilisateurs revendiqués et ses outils automatisés ont prouvé leur inefficacité intrinsèque avec l’événement de Christchurch.

Seconde cause : Mme Avia dénonce elle-même le « lien pervers entre propos haineux et impact publicitaire : les personnes tenant des propos choquants ou extrémistes sont celles qui « rapportent » le plus, car l’une d’entre elles peut en provoquer cinquante ou cent autres. Sous cet angle, l’intérêt des réseaux sociaux est d’en héberger le plus possible »9Rapport visant à renforcer la lutte contre le racisme et l’antisémitisme sur internet, Karim AMELLAL, Laetitia AVIA, Gil TAÏEB, remis au Premier ministre
le 20 septembre 2018, https://www.gouvernement.fr/rapport-visant-a-renforcer-la-lutte-contre-le-racisme-et-l-antisemitisme-sur-internet
. Ce que nous appelons « culture du buzz » ou « économie de l’attention » est au cœur du modèle des grandes plateformes commerciales, dont la raison d’être est de capter l’attention du plus grand nombre de personnes possible, le plus longtemps possible, afin de leur afficher de la publicité.

D’après Youtube, 70% des vidéo visionnées sur la plateforme le sont sur recommandation de son algorithme10« YouTube’s AI is the puppet master over most of what you watch », Cnet, 10 janvier 2018, https://www.cnet.com/news/youtube-ces-2018-neal-mohan. Guillaume Chaslot, ancien employé de l’entreprise, explique que cet algorithme favorise avant tout les vidéos regardées le plus longtemps, indépendamment de leur contenu ou de leur réception par le public (pouces bleus et rouges). En étudiant ces recommandations, il constate que l’algorithme favorise les contenus agressifs, diffamants, choquants ou complotistes : « C’est comme une bagarre dans la rue, la plupart des gens s’arrêtent pour regarder, quasiment tout le monde réagit »11Guillaume Chaslot a notamment donné un entretien à ce sujet dans le numéro 5 de la revue Vraiment, paru le 18 avril 2018.. Par leur effet sidérant, ces contenus retiendraient efficacement notre attention. Pour être mieux référencées, les vidéastes se retrouvent implicitement incités à en produire.

Twitter provoque une situation similaire : le fonctionnement de son « fil d’actualité », la brièveté des messages qu’il impose ainsi que ses mécanismes de citation favorisent l’invective, le buzz, le conflit, tout en rendant quasiment impossibles les propos d’apaisement et de compréhension qui peuvent rarement se tenir en 280 caractères. Quant à Facebook, pour séduire les annonceurs, il se vante directement d’être capable d’altérer l’humeur de ses utilisateurs en manipulant leur « fil d’actualité »12« Des utilisateurs de Facebook « manipulés » pour une expérience psychologique », Le Monde, 30 juin 2014, https://www.lemonde.fr/pixels/article/2014/06/30/des-utilisateurs-de-facebook-manipules-pour-une-experience-psychologique_4447625_4408996.html, ce qui permet de faire naître les attentes et angoisses propices à la publicité tout en faisant rester les utilisateurs plus longtemps.

2. Une solution

Ces deux sources de mal-être (la taille ingérable des plateformes et leur culture du buzz) contribuent sensiblement au ressenti de « haine en ligne » contre lequel la PPL Avia entend lutter, sans toutefois rien proposer pour le résoudre efficacement. Une solution législative concrète serait de permettre aux utilisateurs de ces plateformes d’en partir : aujourd’hui, partir de Facebook ou de Twitter implique de ne plus communiquer avec toutes les personnes (famille, amis, soutiens) qui s’y trouvent. De nombreuses personnes sont donc contraintes de rester dans ces environnements toxiques, propices aux conflits et au harcèlement, car le coût social à payer pour s’en libérer est trop important.

Pour faire disparaître ce coût et permettre aux victimes de se protéger librement, la loi devrait obliger les grandes plateformes commerciales à devenir « interopérables » : qu’elles permettent à leurs utilisateurs de communiquer avec les utilisateurs d’autres plateformes similaires (dans le cas de Twitter, par exemples, ces « autres plateformes similaires » pourraient être les milliers de services utilisant le logiciel de micro-blogging décentralisé Mastodon). Ces autres plateformes, déjà nombreuses, offrent des règles de modérations variées et, ainsi, adaptées aux besoins et envies de chaque personne, allant de lieux « sanctuaires » ou non-mixtes à des espaces de discussions libres moins strictement modérés. Chaque personne peut librement choisir le type de modération correspondant à ses besoins.

D’un point de vue technique, respecter cette obligation serait facilité par les nombreux développements récents en matière de réseaux sociaux décentralisés, que ce soit de la part des acteurs du logiciel libre (GNU Social, Mastodon, Plemora, PeerTube…) ou des organisations internationales de normalisation, tel que le W3C (World-Wide Web Consortium) ayant publié en 2018 un protocole pour réseaux sociaux décentralisés, « ActivityPub ».

Nous vous appelons à adopter tout amendement proposant d’obliger les grandes plateformes commerciales à devenir interopérables pour permettre aux victimes de se libérer de leur modèle économique favorisant la haine.

References   [ + ]

1. Ce principe est le plus clairement exprimé à l’article 52 de la Charte des droits fondamentaux de l’Union européenne : « Toute limitation de l’exercice des droits et libertés […] ne peuvent être apportées que si elles sont nécessaires et répondent effectivement à des objectifs d’intérêt général ». Ce principe a été intégré dans le contrôle réalisé par le Conseil constitutionnel : « toute mesure restreignant un droit fondamental […] doit être adéquate, c’est-à-dire appropriée, ce qui suppose qu’elle soit a priori susceptible de permettre ou de faciliter la réalisation du but recherché par son auteur » (« Le contrôle de proportionnalité exercé par le Conseil constitutionnel », Cahier du Conseil constitutionnel n° 22 – juin 2007).
2. Ce principe découle de la jurisprudence du Conseil constitutionnel : « toute mesure restreignant un droit fondamental […] ne doit pas excéder – par sa nature ou ses modalités – ce qu’exige la réalisation du but poursuivi, d’autres moyens appropriés, mais qui affecteraient de façon moins préjudiciable les personnes concernées ou la collectivité, ne devant pas être à la disposition de son auteur » (article précité du Cahier du Conseil).
3. « Update on New Zealand », Facebook Newsroom, 18 mars 2019, https://newsroom.fb.com/news/2019/03/update-on-new-zealand
4. Une affaire importante dans l’histoire de la LCEN est celle concernant la société AMEN qui, en 2009, a été condamnée par la cour d’appel de Toulouse pour ne pas avoir retiré dans la journée suivant leur signalement des écoutes téléphoniques diffusées par un des sites qu’elle hébergeait et concernant l’enquête judiciaire de l’affaire AZF. En 2011, la Cour de cassation a cassé cette décision car le signalement de ces écoutes ne respectait pas le formalisme stricte prévu par la LCEN. Toutefois, ce faisant, il est important de souligner que la Cour de cassation n’a absolument pas contesté qu’un délai « prompt » de 24 heures puisse correspondre à ce qu’exige la loi.
5. Garanti à l’article 16 de la Déclaration des Droits de l’Homme et du Citoyen de 1789 et à l’article 64 de la Constitution, un des principes fondamentaux de la séparation des pouvoirs est explicité à l’article préliminaire du code de procédure pénale comme « la séparation des autorités chargées de l’action publique et des autorités de jugement. »
6. Le signalement de la caricature de Macron sous les traits de Pinochet est documenté sur le site de La Quadrature du Net : https://www.laquadrature.net/2019/05/09/une-loi-contre-la-haine-anti-macron
7. L’arrêt Tele2 Sverige AB, grande chambre de la Cour de justice de l’Union européenne, 21 décembre 2016, affaires C-203/15 et C-698/15, est commenté par notre équipe contentieuse à cette adresse : https://exegetes.eu.org/posts/tele2
8. Voir la décision du Conseil d’État transmettant les questions à la Cour de justice, 10ème – 9ème chambres réunies, 26 juillet 2018, affaire n° 393099, https://www.legifrance.gouv.fr/affichJuriAdmin.do?oldAction=rechJuriAdmin&idTexte=CETATEXT000037253929&fastReqId=1863567356&fastPos=1
9. Rapport visant à renforcer la lutte contre le racisme et l’antisémitisme sur internet, Karim AMELLAL, Laetitia AVIA, Gil TAÏEB, remis au Premier ministre
le 20 septembre 2018, https://www.gouvernement.fr/rapport-visant-a-renforcer-la-lutte-contre-le-racisme-et-l-antisemitisme-sur-internet
10. « YouTube’s AI is the puppet master over most of what you watch », Cnet, 10 janvier 2018, https://www.cnet.com/news/youtube-ces-2018-neal-mohan
11. Guillaume Chaslot a notamment donné un entretien à ce sujet dans le numéro 5 de la revue Vraiment, paru le 18 avril 2018.
12. « Des utilisateurs de Facebook « manipulés » pour une expérience psychologique », Le Monde, 30 juin 2014, https://www.lemonde.fr/pixels/article/2014/06/30/des-utilisateurs-de-facebook-manipules-pour-une-experience-psychologique_4447625_4408996.html
]]>
Le vrai visage de la reconnaissance facialehttps://www.laquadrature.net/?p=14460http://streisand.me.thican.net/laquadrature.net/index.php?20190621_153158_Le_vrai_visage_de_la_reconnaissance_facialeFri, 21 Jun 2019 13:31:58 +0000La Quadrature du Net est contre la reconnaissance faciale, d’accord : mais pourquoi ? Dès qu’on aborde le sujet en public, on voit se dessiner deux attitudes opposées. D’un côté, le solide bon sens qui ne voit pas pourquoi on se priverait de la possibilité d’identifier efficacement les criminels dans une foule, et pour qui tous les moyens sont bons, puisque la fin est juste. De l’autre côté, la peur réflexe devant cette technique de surveillance – souvent plus vive que devant d’autres techniques de surveillance pourtant très répandues – parce qu’elle est exploitée au cinéma comme outil d’un pouvoir policier totalitaire. C’est entre ces deux pôles, fantasme contre fantasme, qu’on peut essayer de comprendre les enjeux de la reconnaissance faciale.

Reconnaissance facile

Un terroriste est en fuite dans les rues d’une capitale : il suffit d’analyser en direct les images des caméras de surveillance de la ville pour le situer en quelques minutes. Un enfant s’est perdu ? Vite, les caméras de tous les lieux publics sont interrogées, et l’enfant est retrouvé en moins d’une demi-heure.
Les personnes chargées de vendre des systèmes de reconnaissance faciale ne manquent pas d’imagination pour convaincre le grand public de l’efficacité de leurs produits. Le contexte sécuritaire, accentué par les attaques terroristes de 2015, entretenu par le personnel politique et amplifié par les médias de masse, leur ouvre un boulevard idéologique et des lignes de crédit généreuses.
Autant dire qu’en matière de fantasme, les partisans de la reconnaissance faciale généralisée ne sont pas en reste. Le seul fait que la surveillance permanente des rues et des espaces publics soit considérée comme une solution miracle à l’insécurité dans la société devrait suffire à disqualifier l’outil : il est incapable de répondre aux objectifs qu’on veut lui donner.

Comment ça marche ?

Il existe plusieurs types de reconnaissance faciale. Leur point commun, c’est un logiciel capable de repérer dans une image (photo ou vidéo) des structures de visage et de les comparer point à point avec d’autres images. Il faut ensuite distinguer deux formes de « reconnaissance ».
Si on compare les images avec d’autres images de la même source – les différents angles de vue dans une galerie commerciale, par exemple – alors on veut « identifier » quelqu’un : c’est-à-dire isoler une personne (« identique » à elle-même !) parmi d’autres et la suivre ainsi dans ses déplacements, soit parce qu’on estime qu’elle a un comportement suspect, soit pour renseigner la galerie commerciale sur le parcours de ses clients.
Quand on reconnaît les visages dans une foule pour les comparer à un jeu de visages de personnes recherchées, il s’agit aussi de les « identifier ».

En revanche, on, parle d’« authentification » quand on compare le visage d’une personne à un visage de référence. L’authentification est couramment utilisée comme système de déverrouillage : le visage saisi par la caméra doit correspondre à l’image enregistrée dans un badge (c’est le cas du système prévu pour les lycées de PACA) ou dans une base de donnés de personnes autorisées (par exemple à l’entrée d’une entreprise). C’est un procédé testé aussi pour le retrait d’argent à un distributeur, en renfort du PIN.
C’est le seul exemple où la reconnaissance faciale vise toujours à protéger la confidentialité des données et l’intimité de la personne : quand on choisit de déverrouiller son téléphone avec la reconnaissance faciale, c’est parce qu’on espère que personne d’autre ne pourra le faire.

L’identification est utilisée par la police pour reconnaître des personnes recherchées. On peut en voir un exemple concret et efficace sur le site d’Interpol.
Des exemples comme celui-ci alimentent le fantasme qui sous-tend la reconnaissance faciale : si on peut scanner tous les passants et identifier ceux qui sont suspects, alors la criminalité reculera et la sécurité augmentera.

Méconnaissance faciale

Mais le moindre défaut de la reconnaissance faciale, c’est qu’elle ne marche pas très bien. On le sait parce que de nombreuses expériences sont conduites dans le monde, et que les résultats publiés sont assez étonnants, en comparaison des espoirs démesurés que suscite la technique.
La société SenseTime, en Chine, se vante par exemple de pouvoir identifier un individu qui commet une « incivilité » dans la rue, afin d’afficher son visage sur des écrans géants et le soumettre au mépris public. Mais une expérience menée aux États-Unis s’est conclue sur le constat que la reconnaissance faciale sur des automobilistes ne fonctionne pas encore.


Ce document fuité par la police britannique recense, pour chaque expérience de reconnaissance faciale (Event), le nombre d’identifications réussies (True-positives), le nombre de faux positifs (False-positives), et le nombre d’interpellations injustifiées (Incorrect police stops).

Nos collègues anglais de Big Brother Watch, au Royaume-Uni, qui militent notamment contre l’utilisation de la reconnaissance faciale, ont publié des chiffres à propos des expériences menées par la police britannique. Ils montrent que le taux de reconnaissance est très bas, et que les « faux positifs », c’est-à-dire les identifications erronées, sont nombreuses. Certaines ont même entraîné des interventions infondées de la police.

La sécurité des forts

L’échec des identifications n’est pas imputable seulement à un défaut de la technique : le germe de l’échec est dans les hommes qui programment la reconnaissance faciale. Le logiciel qui analyse les visages et les compare à d’autres visages est dans la plupart des cas conçu par des hommes blancs. Surprise : la reconnaissance faciale des femmes et des personnes non-blanches atteint un taux d’échec et de faux positifs supérieur à la moyenne.
Que ses concepteurs le veuillent ou non, ce qu’on appelle « les biais de l’algorithme », ses effets indésirables, sont en réalité les biais cognitifs de ceux qui le conçoivent : le racisme et le sexisme de l’algorithme dérivent du racisme et du sexisme institués par la société, et consciemment ou inconsciemment reproduits par les concepteurs de ces outils.
Cet article donne plusieurs exemples des effets de ce biais.
Dans le cadre d’un usage policier de la reconnaissance faciale, les personnes les plus faibles socialement seront ainsi plus souvent victimes d’erreurs policières que les autres.

Société de contrôle

Les philosophes Michel Foucault et Gilles Deleuze ont défini de façon très précise plusieurs types de coercitions exercées par les sociétés sur leurs membres : ils distinguent en particulier la « société disciplinaire » (telles que la société en trois ordres d’Ancien Régime ou la caserne-hôpital-usine du XIXe siècle) de la « société de contrôle » qui est la nôtre aujourd’hui.
Dans une « société de contrôle », les mécanismes de coercition ne sont pas mis en œuvre par des autorités constituées qui les appliquent au corps social par contact local (autorité familiale, pression hiérarchique dans l’usine, surveillant de prison, etc.), mais sont incorporés par chacun (métaphoriquement et littéralement, jusqu’à l’intérieur du corps et de l’esprit), qui se surveille lui-même et se soumet à la surveillance opérée par d’autres points distants du corps social, grâce à une circulation rapide et fluide de l’information d’un bord à l’autre de la société. Wikipédia donne un bon aperçu du concept, dont on trouvera une lecture plus approfondie ici.

Qui peut souhaiter d’être soumis à un contrôle dont les critères lui échappent ? C’est pourtant ce que nous acceptons, en laissant s’installer partout la vidéosurveillance et la reconnaissance faciale.
La mairie de Nice, dirigée par par Christian Estrosi (LR), a fait scandale au printemps 2019 en organisant une expérience lors du carnaval de la ville. Sur la base du volontariat, certaines personnes préalablement identifiées devaient être reconnues dans la foule. Mais la ville de Nice envisage d’aller plus loin, en authentifiant les passagers du tramway dont le comportement serait « suspect ».
Qu’est-ce qui définit un comportement suspect ? Avoir un type maghrébin et un sweat à capuche entre sûrement dans les critères. Mais quoi d’autre ? Une expression faciale fermée, une nervosité visible ? Quelles émotions sont-elles considérées comme étant un danger pour la société ? Où peut-on consulter la liste ? On voit bien la part fantasmatique et arbitraire qui fonde tout projet d’anticiper la criminalité.

Sous prétexte que « prévenir vaut mieux que guérir », on organise en réalité, dans des usages quotidiens bien réels et valables dès aujourd’hui, une inversion générale de la charge de la preuve.
En temps normal, la police judiciaire doit rassembler par l’enquête des preuves à charge pour inculper quelqu’un. C’est à l’accusation de faire la preuve de la culpabilité du suspect. Ce travail est collectif, encadré par une procédure et un tribunal.
En revanche, sous l’œil de la caméra et face aux algorithmes de reconnaissance faciale, c’est à chacun que revient, à tout instant et en tout lieu, la charge de prouver son innocence. Comment ? En offrant son visage à l’identification et en adoptant un comportement qui ne déclenchera aucune alarme au fond d’un ordinateur de la police.

La loi de l’œil

On peut penser qu’il s’agit, sous nos yeux, d’un choix de société délibéré. En l’absence de cadre juridique clair, les dispositifs de reconnaissance faciale s’installent dans la hâte, avec un effet immédiat : chacun intériorise la contrainte de la surveillance et adapte insensiblement son comportement à ce regard abstrait. Il est psychologiquement naturel et moins coûteux de s’y plier, même avec une ironie protectrice, plutôt que de remettre en cause les décisions arbitraires qui sont imposées sans discussion.
L’intériorisation de la surveillance, la culpabilité par défaut, s’accompagne d’un ajustement inconscient à une loi non écrite. C’est l’effet Hawthorne, sorte d’effet placebo mental : savoir qu’on est surveillé modifie l’attitude. La surveillance n’a pas besoin de punir chaque individu pour s’exercer sur tous.
Refuser la reconnaissance faciale est une première nécessité, l’encadrer par la loi écrite aussi. (L’encadrement juridique de la reconnaissance faciale fera l’objet d’un article à part.)

Éducation au contrôle

Pourquoi vouloir installer un dispositif de reconnaissance faciale à l’entrée d’un lycée ? C’est en cours à Marseille et à Nice, un projet encore porté par monsieur Estrosi, et combattu par La Quadrature du Net. Quel intérêt, alors que des surveillants à l’entrée de l’établissement pourraient tout aussi bien reconnaître les élèves autorisé·es, repérer les intrus, et affronter les problèmes éventuels avec humanité ? La réponse est triste : parce que la machine est censée être moins chère.
La dépense s’amortit en quelques années et les services publics croient faire ainsi des économies, dans un contexte général où les problèmes sociaux sont délégués à l’entreprise privée ou plus souvent laissés à l’abandon, et abordés sous l’angle unique de la répression.
L’installation de caméras est le signe assez sûr d’une politique qui a baissé les bras. La reconnaissance faciale pousse seulement le curseur plus loin dans la prise en charge des relations humaines par des arbres de décisions préprogrammés. On renonce ostensiblement à l’ambition de construire une société.

Bénéfices et usage commerciaux

Les bénéfices attendus de la reconnaissance faciale sont en grande partie des mesures d’économie : moins de personnel pour surveiller de plus grandes surfaces urbaines, et un meilleur ajustement des moyens d’interventions. Les expériences de « safe city » menées aux États-Unis (Chicago, Detroit, en particulier) avaient par exemple pour but de mieux définir les quartiers et les rues où les patrouilles devaient circuler, en fonction des heures de la journée et même des saisons, pour être au plus près des faits de délinquances à réprimer. Dans la logique de la moindre dépense et de la réduction des effectifs, il faut bien « optimiser » le temps de présence des agents et le peu de moyens dont on dispose. Malheureusement, le raisonnement est faussé : les dispositifs techniques de vidéosurveillance exigent un entretien très coûteux. Les communes ne feront aucune économie, et financent les caméras avec des sommes qui manquent cruellement sur d’autres lignes de leur budget. Entre temps, elles auront supprimé un certain nombre de salarié·es.

Mais il ne faut pas perdre de vue que la reconnaissance faciale est également un « marché » aux bénéfices importants.
Pour l’heure, les entreprises se livrent à une course pour concevoir les outils et trouver des villes où les essayer. Ça tombe bien, les villes sont en demande : des appels d’offre plus ou moins transparents sont donc lancés un peu partout en France, alors que la transparence des décisions finales est inexistante (lire notre article), et tandis que les communes sabrent les subventions, l’argent magique ne semble pas manquer pour payer des « solutions » sécuritaires à grand frais, en vue des échéances électorales qui approchent.
Derrière l’engouement pour la vidéosurveillance et la reconnaissance faciale, on voit une convergence d’intérêts entre un agenda politique qui joue volontiers sur la corde de la sécurité publique, et des entreprises qui cherchent à s’emparer de l’immense marché municipal qui s’ouvre à elles, en France d’abord, et dans le monde ensuite.

Le profit à tirer de la reconnaissance faciale ne s’arrête pas là. On voit la technique s’installer aussi dans des centres commerciaux. Les caméras sont le plus souvent cachées dans les panneaux d’informations qui affichent le plan de la galerie commerciale, comme au Québec ou dans des « totems » qui affichent des vidéos publicitaires. Les réactions des passants sont épiées : quelles images retiennent leur attention, quelles boutiques envisagent-ils de visiter, quels sont leurs déplacements, etc. Le but étant bien sûr d’offrir aux visiteurs « la meilleur expérience possible »…
À aucun moment le consentement des passants n’est demandé, et on ne voit pas bien comment il pourrait l’être, sauf à leur donner le choix entre subir la vidéosurveillance ou quitter les lieux. Devra-t-on bientôt faire ses courses avec un sac sur la tête ?

La question du consentement est centrale dans la protection des données personnelles et de la vie privée, elle est d’ailleurs au centre des exigences du RGPD. Ce n’est donc pas un argument léger. Les lois européennes disent aussi que le consentement ne peut pas être obtenu en échange d’un service qui reviendrait à lui donner une valeur marchande : justifier la reconnaissance faciale dans les galeries commerciales en prétextant que les clients auront de meilleurs prix ou de meilleures offres n’est pas un argument recevable. C’est au pire un cache-misère pour l’avidité sans limite des marchands, qui traitent tous les passants comme des proies.
Les utilisations commerciale ou municipales de la reconnaissance faciale prospèrent dans une faille juridique : le phénomène est mal encadré, alors qu’il devrait faire l’objet d’un débat collectif. Mais la sécurité policière et la prospérité des entreprises commerciales sont devenues dans le monde entier l’alpha et l’oméga des politiques publiques.

La possibilité d’interdire

Les personnes les mieux averties des applications de la reconnaissance faciale sont tellement inquiètes qu’elles demandent un encadrement juridique de cette technique. C’est la leçon qu’on peut tirer de la lecture des articles écrits par Brad Smith, juriste de Microsoft. En juillet 2018, il appelait le gouvernement américain à légiférer sans délai pour encadrer les usages de la reconnaissance faciale. Bien placé pour constater les progrès de la technique, il redoute avec gravité qu’elle puisse être utilisée contre les libertés des personnes, aussi bien par des entreprises privées que par des États. En décembre 2018, il pose quelques jalons pour délimiter le contour de cet encadrement.

On n’est pas obligé de partager son enthousiasme pour certaines applications « positives » de la reconnaissance faciale, dont il donne quelques exemples qui mériteraient d’être regardés de plus près (dans la recherche médicale par exemple). Mais on peut entendre son inquiétude, parce qu’elle n’est pas celle d’un militant habitué à crier au loup : au plus haut niveau de décision, là où une vision panoramique peut embrasser à la fois la connaissance du droit et la connaissance des projets techniques réels, on n’en mène pas large, et ce n’est pas bon signe.

Toutefois, l’empressement de Brad Smith à voir naître une réglementation peut aussi être lu différemment, quand on le rapproche des déclarations récentes de Andy Jassy, président de Amazon Web Services, qui développe le logiciel Rekognition. Il se trouve qu’entre les articles de Brad Smith et l’interview de Andy Jassy, un événement important est survenu : la ville de San Francisco, en Californie, au plus près de la Silicon Valley et des grands sièges des multinationales du numérique, a voté le 14 mai 2019 une décision interdisant à la police locale d’utiliser la reconnaissance faciale. Amazon veut une réglementation parce que l’interdiction pure et simple ne fait pas de bien à ses affaires…
Quant à nous, nous retiendrons qu’il est possible d’interdire les pratiques de surveillance de masse, par la délibération locale et par la loi.

Le visage perdu

La reconnaissance faciale change le visage du monde. Il n’est pas nécessaire de renvoyer aux pires dystopies et à 1984 pour voir tout ce que les pratiques actuelles ont de dangereux. On peut même percevoir un changement anthropologique possible dans le rapport avec le visage.
La reconnaissance faciale attribue au visage, non plus une valeur de personnalité, l’expression même de la singularité d’une personne humaine, mais une fonction de dénonciation : le visage ne vaut plus pour lui-même, comme singularité prise avec son épaisseur et son secret, mais comme simple signe en lien avec des bases de données de toutes sortes qui permettent de prendre des décisions concernant la personne visée, à son insu.
Dans ce contexte, le visage devient l’identifiant unique par excellence, plus encore que la carte d’identité. Lors de l’expérience du carnaval de Nice, la ville se vantait même d’avoir pu identifier un cobaye dont la photo de référence datait de trente ans. Le visage comme mouchard, le visage qui trahit, merveilleux progrès.

On peut s’opposer à un prélèvement d’ADN. Mais comment s’opposer aux photos de soi ? Facebook applique un logiciel de reconnaissance faciale aux photos postées par ses utilisateurs. Si un « ami » n’est pas reconnu, le site invite même les utilisateurs à identifier leurs proches. Même en n’ayant jamais eu de compte Facebook, vous figurez peut-être dans cette immense base de données, et Facebook sait mettre votre nom sur votre visage, et vous reconnaître parmi toutes les nouvelles photos postées par vos amis…
Malgré vous, votre visage a un sens pour les caméras qui vous filment. Les pseudo-sciences du 19e siècle prétendaient lire des traits psychologiques dans les traits du visage. Aujourd’hui, chaque visage dans la rue porte un casier judiciaire, un nom, des relations, des opinions exprimées sur les réseaux sociaux, des habitudes de consommation, des engagements divers, et qui sait quoi d’autre encore.

Quand les inconnus qui vous croisent dans la rue peuvent accéder à des données sur vous par le simple fait que l’image de votre visage a été captée par des Google Glass, on amène la puissance coercitive du réseau jusque dans la rue. Sur le réseau, il est possible de prendre plusieurs identités. Mais nos prises de position politiques, notre réseau amical, notre réseau professionnel, notre CV, etc., se retrouvent, dans la rue, associés à un élément unique, visible, et facilement accessible à tous. Les créateurs des Google Glass ont fini par interdire cette possibilité, pour ne pas tuer leur création dans l’œuf. Si cette technique devenait courante, qui peut assurer que nous n’assisterons pas à l’avènement d’une époque qui supprimera totalement l’anonymat dans l’espace public ?

Une société de la défaite

Une anthropologue britannique, Sally A. Applin, a récemment publié un article très intéressant sur les dégâts sociaux causés, et surtout révélés, par la reconnaissance faciale (à lire ici, en anglais). Elle part de la question posée par un dirigeant d’entreprise américain sur Twitter : « Vivons-nous vraiment dans une société aussi dangereuse, pour avoir à ce point besoin de la reconnaissance faciale ? », et la précise : la reconnaissance faciale, pour quoi faire ?
Elle évoque bien sûr les intérêts industriels, et la facilité politique consistant à remplacer le personnel humain par des machines. Mais elle va plus loin : derrière le succès politique et médiatique de la technique à visée sécuritaire, elle voit la peur de l’autre. Le regard remplace la parole, et la distance remplace la rencontre. Même les agents de surveillance ne regardent plus les gens, mais des écrans. Ce qui devrait être un média est devenu une vitre isolante. C’est une logique de traitement des symptômes qui ne s’adresse jamais aux causes.

Elle remarque aussi que la « démocratisation » des caméras, maintenant que chacun porte sur soi un smartphone, a sans doute aussi contribué à leur banalisation, en faisant de chacun le surveillant potentiel de l’autre. C’était d’ailleurs l’idée principale de l’application « Reporty », retoquée à Nice par la CNIL au printemps 2018 : la mairie voulait lancer une application pour smartphone afin que les habitants signalent par vidéo les incivilités dont ils seraient témoins. Sally A. Applin souligne par ailleurs que l’accumulation de millions d’heures de vidéosurveillance que personne n’a le temps de regarder explique peut-être en partie l’enthousiasme des décideurs politiques pour la reconnaissance faciale automatisée : le fantasme de la surveillance totale est matériellement hors d’atteinte, sauf si l’humanité s’y consacre à temps plein, ou si elle délègue le travail à des machines (biaisées).

Est-ce vraiment le monde que nous voulons ? Cette société sans contact, cette société qui a peur de la parole et de l’engagement physique des uns avec les autres est une société déprimée, qui ne s’aime pas. Il est permis d’en vouloir une autre. Elle commence par interdire la reconnaissance faciale.

]]>
Loi haine adoptée en commission : dénonçons les responsableshttps://www.laquadrature.net/?p=14377http://streisand.me.thican.net/laquadrature.net/index.php?20190619_192253_Loi_haine_adoptee_en_commission____denon__ons_les_responsablesWed, 19 Jun 2019 17:22:53 +0000La loi « contre la haine » vient d’être adoptée en commission des lois de l’Assemblée. Les députés n’ont rien corrigé. Toujours aussi inutile, la loi se contentera de renforcer la censure politique (lire notre analyse juridique, qui tient toujours). Ce désastre a des responsables identifiés.

Laetitia Avia

Laetitia Avia a été chargée par Emmanuel Macron, dont elle est personnellement proche, de « civiliser Internet », avec l’objectif de confier le Web aux grandes plateformes. Pour que ce projet réussisse, elle aura su empêcher la bonne tenue des débats, en manquant tant de rigueur que de respect pour le Parlement.

Certains passages de sa proposition de loi, remplie d’erreurs de numérotation ou de mots manquants1Exemples des erreurs dans la proposition de loi initiale : l’alinéa 1 de l’article 1er vise les « cinquième et sixième alinéas » de l’article 24 de la loi sur la presse de 1881, alors que Mme Avia nous a indiqué vouloir viser les « septième et huitième alinéas », très différents ; l’alinéa 5 de l’article 1er vise un « contenu signé » à la place d’un « contenu signalé » ; l’alinéa 2 de l’article 6 suggère de remplacer les personnes mentionnées au « 2 ou, à défaut, à toute personne mentionnée au 1 » d’un article de la LCEN par les personnes mentionnées « ou au 2 » (elle a probablement oublié un « 1 »), rendant ce bout de proposition incompréhensible. Les autres députés ont du proposer des amendements pour corriger ces erreurs., étaient presque incompréhensibles. Elle s’en excusait en expliquant qu’il ne s’agissait que d’un « brouillon ». Sauf que le rôle du Parlement est de débattre de textes finis, pas de brouillons. Ceci est d’autant plus grave qu’a été enclenchée la procédure accélérée — qui ne permet qu’une seule lecture du texte dans chaque chambre du Parlement (Assemblée et Sénat). Durant les semaines d’audition, Mme Avia a eu beau jeu d’esquiver chaque critique en jurant que son texte final serait parfait et qu’elle avait déjà prévu de tout corriger. Les autres députés que nous avons rencontrés ont avoué leur difficulté à travailler sur un texte imaginaire… Nous aussi.

Alors, que sont devenues ces promesses, en fin de course ? Pas grand chose de sérieux. Pour éviter les « sur-blocages » de contenus licites par les plateformes, risque dénoncé par tout le monde ou presque, son texte bricole une sanction des retraits « insuffisants ou excessifs ». C’est tout. Elle ne donne pas la moindre définition ou le moindre cadre à une notion juridique aussi inédite et complexe que la « responsabilité pour sur-blocage ». Mme Avia doit penser que ce n’est pas son rôle d’écrire la loi.

Conseil d’État

Pour tenter de renforcer la crédibilité juridique d’un texte qui en manquait tant, Mme Avia a saisi le Conseil d’État pour avis. En retour, le Conseil aura pris soin de ne rien faire d’utile. Les maigres pages de son avis évitent soigneusement les vrais problèmes juridiques, tel que le délai irréaliste et contre-productif de 24h pour retirer les contenus. Il ne fallait surtout pas freiner l’émissaire de Macron.

Paula Forteza

La croisade hors-sol de Mme Avia pouvait-elle être freinée par les députés En Marche, et notamment ceux qui se présentent habituellement comme experts du numérique ?

Nous avons discuté de la proposition de loi avec Paula Forteza. Un temps pressentie pour remplacer Mounir Mahjoubi au secrétariat d’État au numérique, elle se dit favorable aux libertés en ligne. Elle semblait prête à apporter un peu de droit et de technique au débat et, surtout, à porter notre proposition sur l’interopérabilité. Cette démarche pouvait impliquer de s’opposer à Mme Avia. Quand le moment de l’éventuelle confrontation est arrivé, Mme Forteza n’a finalement pas porté ce combat, retournant vers des sujets plus compatibles avec les projets de la majorité.

Éric Bothorel

Passons à Éric Bothorel, autre député En Marche habitué des sujets numériques. C’est assez inquiets que nous sommes allés le rencontrer, l’ayant entendu reprendre la propagande de Facebook, qui assure à l’envie que la « magique intelligence artificielle » nous protège du terrorisme, sans aucun recul critique. Inquiétude fondée : M. Bothorel ne comprend manifestement aucune des critiques juridiques ou techniques contre le texte de Mme Avia, dont il se serait récemment rapproché.

Le seul amendement qu’il a déposé va dans ce sens. Il reprend la stratégie dite « follow the money », promue par les ayants-droit des industries culturelles pour lutter contre le partage d’œuvres en ligne en contournant toute garantie légale ou juridictionnelle. Bothorel propose ainsi de couper les revenus publicitaires des sites que l’administration estime héberger des discours de haine, le tout sans aucun contrôle judiciaire. Toujours plus de répression aveugle et vaine, au mépris du droit. Tandis qu’au mur de son bureau pend un sac Facebook, remis quelque jours plus tôt par Mark Zuckerberg avec qui il déjeunait en compagnie de Mmes Avia et Forteza et de Cédric O, secrétaire d’État chargé du Numérique.

La Team Facebook


Paula Forteza, Mark Zuckerberg, Eric Bothorel

Mark Zuckerberg (de dos), Laetitia Avia, Cedric O

Le patron-tyran a en effet tenu à leur vendre son modèle de modération comme étant le plus efficace du Web. Un mensonge parfaitement intégré par Mme Avia, qui nous a expliqué que Facebook n’était pas une source de « haine en ligne » mais, au contraire, que c’était à Twitter et aux autres de faire aussi bien que le grand F (comprendre : exploiter des milliers de travailleur·es précarisé·e·s pour modérer une plateforme que la taille rend impossible à modérer, répondre aux demandes des États, et saupoudrer le tout de bouts d’IA inutile pour faire joli).

Cedric O

Nous avons également rencontré le Secrétaire d’État chargé du Numérique. Il nous a exposé les grands projets du gouvernement pour lutter contre la haine en ligne, sans presque dire un mot de la loi actuellement débattue. Manifestement incapable de répondre à nos critiques sur l’inutilité et les risques de celle-ci, il a préféré, lui aussi, rester dans l’imaginaire et les promesses faciles.

Nous espérions un moment le convaincre de soutenir notre proposition sur l’interopérabilité, qui avait déjà été favorablement accueillie par les différents ministères rencontrés au cours de l’année. Il a d’abord feint de ne pas voir le lien avec la loi de Mme Avia, comme si nous libérer de l’environnement conflictuel des géants ne permettrait pas de protéger les victimes d’oppressions. Puis il a bien dû reconnaître le lien entre ces deux sujets, tout en prétendant vouloir porter ce projet au niveau européen. Comme il l’a expliqué le lendemain en commission des lois (vidéo, à 02:38:33), il refuse de soutenir ce projet au niveau français, agitant la peur de représailles diplomatiques de la part de Trump si la France s’attaquait seule aux géants états-uniens. Une telle démission politique aura rarement été avouée avec autant de sincérité.

En résumé, alliant amateurisme, mutisme et posture politique creuse, toute la majorité s’est unie pour ruiner nos libertés. Tout ça pour rien, si ce n’est faire parler d’eux dans la presse, en se donnant les fausses allures d’un pouvoir libéral désireux de résister au racisme, au sexisme et à l’homophobie.

George Pau-Langevin et Hervé Saulignac

Le parti socialiste a organisé une table ronde pour recueillir l’avis d’une large variété d’acteurs, allant du Syndicat de la magistrature à la LICRA, en passant par Facebook et Google. Nous mettre tous dans la même pièce n’était pas garantir la simplicité des débats, mais un consensus s’est étonnamment dégagé : nous trouvions tous la loi inutile, prenant le problème de la mauvaise façon et manquant son but.

George Pau-Langevin et Hervé Saulignac, qui nous recevaient, se sont-ils approprié ces nombreuses critiques pour défendre les valeurs de liberté auxquelles la gauche est censée être attachée ? Sûrement pas ! Ils souhaitent que la France viole encore davantage la protection de l’anonymat garantie en droit de l’Union européenne. Leur amendement demande ainsi aux plateformes de collecter notre adresse mail et notre numéro de téléphone, en plus de notre adresse IP dont la conservation est déjà requise. Nous leur avions pourtant bien expliqué que la Cour de justice de l’Union européenne interdit d’imposer aux plateformes la collecte ne serait-ce que de notre adresse IP (et qu’on attaquait déjà le droit français pour cette raison). Ils ne valent pas mieux qu’En Marche.

Qui s’intéresse encore aux libertés sur Internet ?

Qui pense encore que la liberté d’expression mérite d’être défendue ?

Danièle Obono et Ugo Bernalicis

La France insoumise nous a reçu avec attention et a su reprendre nos arguments en commission, tant devant M. O que ce matin avant le vote. Mme Obono a défendu à l’oral nos positions et notre proposition sur l’interopérabilité et M. Bernalicis a déposé pour le groupe un amendement reprenant notre proposition législative (lire notre amendement sur l’interopérabilité, sur lequel se base celui de M. Bernalicis).

Les services de la commission des lois ont déclaré cette proposition sans lien avec « la haine en ligne ». À croire qu’il n’ont pas même lu le rapport de Mme Avia contre le racisme de septembre dernier, qui expliquait pourtant, s’agissant des « propos choquants ou extrémistes », que « l’intérêt des réseaux sociaux est d’en héberger le plus possible ». L’amendement devra être redéposé en séance plénière, où le vote se tiendra ce 3 juillet.

Saluons par ailleurs deux autres amendements de la France insoumise qui reprennent nos critiques. Un premier amendement pour supprimer l’article 5 de la proposition de loi, par lequel Mme Avia veut renforcer la sanction pour non-conservation des données de connexion (adresses IP et autres) par les hébergeurs — cette même obligation qui viole le droit de l’Union européenne et que nous attaquons en justice. Un deuxième amendement pour supprimer l’article 6 qui, au prétexte de lutter contre les « sites miroirs illicites », donnerait à la police des pouvoirs de censure excessifs dont elle ne pourra qu’abuser. Ces deux amendements ont été rejetés.

Philippe Latombe et Frédérique Dumas

N’y a-t-il donc qu’à la gauche du PS que l’intérêt de la population est défendu ? Non, le droit et les libertés sont apartisanes. On trouve encore des députés, même proches de la majorité, pour prendre au sérieux leur mission législative.

Philippe Latombe (UDI) a signé l’amendement de M. Bernalicis sur l’interopérabilité, rappelant que la gravité de ces sujets doit conduire à dépasser les clivages politiques. Frédérique Dumas (qui vient tout juste de quitter l’UDI) avait déposé un amendement identique– lui aussi déclaré irrecevable. Deux députés que nous ne connaissions pas, et qui se révèlent des experts bien plus sérieux que ceux mis en avant par la majorité En Marche.

Laure de La Raudière

Laure de La Raudière (UDI), dont nous connaissons l’intérêt de longue date qu’elle porte aux questions numériques, a déposé des amendements très pertinents. Un premier permettrait aux plateformes de saisir le juge en cas de doute sur le caractère « manifestement illicite » d’un contenu. Un position proche de nos revendications : seul un juge doit être en mesure de qualifier une infraction. Cette proposition a été rejetée.

Un autre amendement répond à nos critiques en exigeant l’intervention de l’autorité judiciaire pour bloquer les sites miroirs. Il a été écarté. Un troisième vise également à réduire les risques de censure politique : les signalements envoyés par la police n’obligeront plus les plateformes à un traitement sous 24h, ce qui constituait un moyen de pression excessif donné à la police, qui agit ici sans juge. Ce délai de 24h ne s’appliquera plus que pour les signalements des utilisateurs. Cet amendement de Mme de La Raudière a été adopté.

Les débats se poursuivront en séance plénière le 3 juillet. La procédure accélérée ayant été engagée, il s’agira en théorie du seul passage du texte à l’Assemblée.

References   [ + ]

1. Exemples des erreurs dans la proposition de loi initiale : l’alinéa 1 de l’article 1er vise les « cinquième et sixième alinéas » de l’article 24 de la loi sur la presse de 1881, alors que Mme Avia nous a indiqué vouloir viser les « septième et huitième alinéas », très différents ; l’alinéa 5 de l’article 1er vise un « contenu signé » à la place d’un « contenu signalé » ; l’alinéa 2 de l’article 6 suggère de remplacer les personnes mentionnées au « 2 ou, à défaut, à toute personne mentionnée au 1 » d’un article de la LCEN par les personnes mentionnées « ou au 2 » (elle a probablement oublié un « 1 »), rendant ce bout de proposition incompréhensible. Les autres députés ont du proposer des amendements pour corriger ces erreurs.
]]>
Analyse juridique de la loi « contre la haine en ligne »https://www.laquadrature.net/?p=14350http://streisand.me.thican.net/laquadrature.net/index.php?20190617_143327_Analyse_juridique_de_la_loi_____contre_la_haine_en_ligne____Mon, 17 Jun 2019 12:33:27 +0000Mise à jour : l’amendement n°CL206 ayant été déclaré irrecevable par les services de la commission des lois, il n’est plus accessible en ligne. Vous pouvez consulter notre proposition à l’origine de cet amendement, qui le reprenait en le simplifiant.

Le 19 Juin, la commission des lois de l’Assemblée nationale examinera la proposition de Laetitia Avia « contre la haine sur Internet ». La Quadrature du Net a envoyé aux 72 membres de cette commission l’analyse juridique reproduite ci-dessous (aussi en PDF), qui traduit en droit nos analyses politiques publiées ces derniers mois pour appeler au rejet des pires dispositions de ce texte (relire notamment nos articles de février et de mai).

Lettre aux députés : PPL Avia, refusez les mesures inutiles et dangereuses

Mesdames, Messieurs les députées,
Membres de la commission constitutionnelle, de la législation et de l’administration générale de la République,

Vous examinerez mercredi prochain la proposition de loi « contre la haine sur Internet ». En l’état, cette proposition, et surtout son article 1er, ne permettra pas d’atteindre l’objectif qu’elle se donne mais renforcera uniquement les risques de censure politique.

La Quadrature du Net vous appelle à supprimer cet article 1er et à modifier la loi tel qu’exposé ci-après.

Nous vous appelons également à adopter l’amendement n°CL206, qui propose une solution plus efficace pour protéger les victimes d’oppression en ligne, forçant les grandes plateformes commerciales à devenir interopérables pour permettre à ces victimes de se libérer de leur environnement toxique.

A. Le champ personnel excessif du retrait en 24h

En droit, toute restriction de libertés, telle que la liberté de communication, n’est valide que si elle est strictement nécessaire à la réalisation de l’objectif qu’elle poursuit1Ce principe est le plus clairement exprimé à l’article 52 de la Charte des droits fondamentaux de l’Union européenne : « Toute limitation de l’exercice des droits et libertés […] ne peuvent être apportées que si elles sont nécessaires et répondent effectivement à des objectifs d’intérêt général ». Ce principe a été intégré dans le contrôle réalisé par le Conseil constitutionnel : « toute mesure restreignant un droit fondamental […] doit être adéquate, c’est-à-dire appropriée, ce qui suppose qu’elle soit a priori susceptible de permettre ou de faciliter la réalisation du but recherché par son auteur » (« Le contrôle de proportionnalité exercé par le Conseil constitutionnel », Cahier du Conseil constitutionnel n° 22 – juin 2007)..

L’objectif poursuivi par cette PPL est de contenir la multiplication des discours de haine et de harcèlement survenue sur les grandes plateformes commerciales — Facebook, Youtube et Twitter. Pour ce faire, son article 1er exige le retrait en 24h des contenus signalés qui sont manifestement illicites, restreignant la liberté de communication tant de ces plateformes que de leurs utilisateurs.

Toutefois, cette obligation ne pèse pas seulement sur les grandes plateformes commerciales, à l’origine du problème, mais sur tout « opérateur » visé à l’article L111-7 du code de consommation et dont le nombre d’utilisateurs dépasse un seuil fixé par décret (qu’on nous annonce à 2 millions). En pratique, des sites sans activité commerciale tel que Wikipédia seront aussi concernés. Pourtant, leur modèle de modération qui repose sur une communauté bénévole et investie a su se montrer bien plus efficace pour limiter la diffusion de la haine et du harcèlement que les grandes plateformes commerciales. Ce constat n’est remis en cause ni par Mme Avia ni par le gouvernement.

Tout en restant perfectibles, les plateformes non-commerciales satisfont déjà largement l’objectif poursuivi par cette PPL. Pourtant, n’ayant pas de modérateurs professionnels, elles ne pourront en respecter l’article 1er et devront cesser leur activité devant la menace de sanctions inévitables. Cette restriction de leur liberté de communication est inutile et donc juridiquement invalide.

B. Un délai de 24h contre-productif

En droit, une mesure est invalide si elle restreint davantage de libertés que ne le ferait une autre mesure capable d’atteindre aussi efficacement l’objectif qu’elle poursuit2Ce principe découle de la jurisprudence du Conseil constitutionnel : « toute mesure restreignant un droit fondamental […] ne doit pas excéder – par sa nature ou ses modalités – ce qu’exige la réalisation du but poursuivi, d’autres moyens appropriés, mais qui affecteraient de façon moins préjudiciable les personnes concernées ou la collectivité, ne devant pas être à la disposition de son auteur » (article précité du Cahier du Conseil)..

En l’espèce, imposer un délai de 24h pour retirer un contenu manifestement illicite est susceptible de provoquer d’importantes restrictions de libertés, tel que le sur-blocage de propos licites ou le dévoiement de la mesure à des fins de censure politique. Ce délai fixe produit un autre effet nocif : il empêche les plateformes d’examiner en priorité les contenus les plus graves ou les plus partagés, car elles doivent traiter tous les signalements, même les moins graves, dans un même et unique délai.

À l’inverse, le droit actuel (la loi pour la confiance dans l’économie numérique de 2004, LCEN) n’exige le retrait des contenus manifestement illicites que dans un délai « prompt » : proportionné à la gravité du contenu, aux conséquences et à l’ampleur de sa diffusion. Ceci permet de traiter en priorité les situations les plus nocives, ce qui est bien plus efficace pour atteindre l’objectif poursuivi par la loi, tout en réduisant les risques de sur-blocage et de censure politique.

Par ailleurs, imposer un délai de 24h serait d’autant plus inutile qu’il est matériellement irréaliste : dans bien des cas, il ne pourra être respecté par aucune plateforme et ne sera donc pas sanctionné. Exemple sinistre mais probant, la vidéo de la tuerie de Christchurch a été dupliquée 1,5 millions de fois sur Facebook dans les 24h suivant l’attentat, au cours desquelles 300.000 copies auraient entièrement échappé aux outils de modération automatisés de l’entreprise, de l’aveu même de celle-ci3« Update on New Zealand », Facebook Newsroom, 18 mars 2019, https://newsroom.fb.com/news/2019/03/update-on-new-zealand. Cet événement a démontré l’incapacité structurelle des outils de modération automatisés à faire face à de telles menaces en 24h. La loi perdrait toute emprise sur le réel en exigeant l’inverse.

À l’inverse, le droit actuel a déjà pu s’appliquer concrètement contre un hébergeur ayant échoué à retirer en 24h un contenu illicite dans le cas où un tel délai était réaliste et où la situation le justifiait spécifiquement4Une affaire importante dans l’histoire de la LCEN est celle concernant la société AMEN qui, en 2009, a été condamnée par la cour d’appel de Toulouse pour ne pas avoir retiré dans la journée suivant leur signalement des écoutes téléphoniques diffusées par un des sites qu’elle hébergeait et concernant l’enquête judiciaire de l’affaire AZF. En 2011, la Cour de cassation a cassé cette décision car le signalement de ces écoutes ne respectait pas le formalisme stricte prévu par la LCEN. Toutefois, ce faisant, il est important de souligner que la Cour de cassation n’a absolument pas contesté qu’un délai « prompt » de 24 heures puisse correspondre à ce qu’exige la loi..

En conclusion, imposer un délai de 24h serait moins efficace qu’un délai apprécié au cas par cas, tel que prévu actuellement par la LCEN, car cela empêcherait de traiter les situations les plus graves en priorité tout en étant matériellement irréaliste, privant la loi de son lien au réel. Puisqu’une telle mesure restreindrait davantage de libertés que celles prévues actuellement par la LCEN, elle serait inutile et donc invalide.

C. Un délai de 24h favorisant la censure politique

En droit, le principe de la séparation des pouvoir exige que l’autorité qui poursuit les auteurs d’infractions (le pouvoir exécutif) soit distincte de celle qui constate ces infractions (pouvoir judiciaire) et que cette seconde autorité soit indépendante de la première5Garanti à l’article 16 de la Déclaration des Droits de l’Homme et du Citoyen de 1789 et à l’article 64 de la Constitution, un des principes fondamentaux de la séparation des pouvoirs est explicité à l’article préliminaire du code de procédure pénale comme « la séparation des autorités chargées de l’action publique et des autorités de jugement. ».

En l’espèce, le délai de 24h pour retirer les contenus est si court qu’il empêchera les plateformes d’examiner tous les signalements avec le même niveau de diligence. Dans ces conditions, elles n’auront d’autres choix que de réaliser un examen sommaire, ou un retrait quasi-automatique, des contenus signalés par leurs partenaires jugés les plus fiables. L’OCLCTIC, le service de la police spécialisé contre les infractions en ligne, sera vraisemblablement le premier de ces partenaires : Facebook ou Twitter seraient bien peu pragmatiques s’ils « perdaient du temps » à examiner les signalements de la police alors que des milliers de signalements à l’origine bien plus incertaine et complexe devront être examinés en urgence dans la même journée.

Ce pouvoir « de fait » de l’OCLCTIC a déjà été dévoyé à des fins de censure politique. Dernier exemple en date : en réponse à une demande CADA de La Quadrature du Net, la police a expliqué avoir signalé à Google le 13 janvier 2019 une image caricaturant Emmanuel Macron sous les traites du dictateur Pinochet. Dans les documents transmis, le signalement est enregistré dans la catégorie « injures et diffamations xénophobes ou discriminatoires »6Le signalement de la caricature de Macron sous les traits de Pinochet est documenté sur le site de La Quadrature du Net : https://www.laquadrature.net/2019/05/09/une-loi-contre-la-haine-anti-macron. Cette qualification, en plus d’être une aberration juridique, entre exactement dans le champ des infractions que la PPL Avia imposera de retirer en 24h.

En conclusion, l’article 1er de la PPL Avia, en exigeant d’évaluer la licéité des contenus signalés dans un délai de 24h, décuplera les risques de retrait de contenus signalés par la police qui, tout en étant licites, vexeraient le pouvoir exécutif. En pratique, cela permettra au gouvernement d’usurper l’autorité judiciaire, qualifiant lui-même les « infractions » contre lesquelles il prétend lutter et imposant cette qualification aux plateformes qui, menacées de lourdes sanctions, lui sont largement soumises et nullement indépendantes. Ce délai n’étant par ailleurs pas nécessaire, il est d’autant moins valide qu’il accroît sensiblement les risques de violation de la séparation des pouvoirs.

D. Une lutte illégitime contre les travailleuses du sexe

L’amendement CL93 déposée par Mme Avia propose de compléter la liste des infractions justifiant à l’article 1 de la PPL de censurer un contenu en 24 heures. Sont notamment ajoutées les infractions définies aux articles 227-23 et 227-24 du code pénale, qui punissent les faits « d’aider, d’assister ou de protéger la prostitution d’autrui » ou bien « de faire office d’intermédiaire entre deux personnes dont l’une se livre à la prostitution et l’autre exploite ou rémunère la prostitution d’autrui ».

Cet ajout pousserait encore davantage Facebook et Twitter à exclure activement de leurs plateformes les travailleuses du sexe ainsi que leurs groupes d’entraide, leur fermant une alternative au travail en extérieur où elles seraient exposées à bien plus de violences. Une telle proposition trahit l’objectif de cette PPL qui prétend défendre les victimes de violences et doit être rejetée.

E. La conservation des données renforcée, en violation du droit de l’Union

L’article 5 de la proposition de loi initiale (qui serait déplacé « après l’article 3 » par l’amendement CL112 de Mme Avia) propose d’augmenter la sanction des fournisseurs d’accès à Internet et des hébergeurs ne conservant pas les données de connexion de l’ensemble de leurs utilisateurs (adresses IP notamment), telle que fixée au 1 du VI de l’article 6 de la LCEN.

Dans son arrêt Tele27L’arrêt Tele2 Sverige AB, grande chambre de la Cour de justice de l’Union européenne, 21 décembre 2016, affaires C-203/15 et C-698/15, est commenté par notre équipe contentieuse à cette adresse : https://exegetes.eu.org/posts/tele2, la Cour de justice de l’Union européenne a déclaré qu’une telle mesure de surveillance de masse est contraire à la Charte des droits fondamentaux de l’Union et que seules des mesures de conservation ciblée sur des personnes soupçonnées peuvent être autorisées. La Quadrature a contesté la conformité de l’obligation française devant le Conseil d’État, dont le rapporteur public a reconnu l’absence de conformité du droit français au droit de l’Union et conduit le Conseil à transmettre des questions préjudicielles à la Cour de justice de l’Union européenne à ce sujet8Voir la décision du Conseil d’État transmettant les questions à la Cour de justice, 10ème – 9ème chambres réunies, 26 juillet 2018, affaire n° 393099, https://www.legifrance.gouv.fr/affichJuriAdmin.do?oldAction=rechJuriAdmin&idTexte=CETATEXT000037253929&fastReqId=1863567356&fastPos=1.

Dans l’attente de la réponse de cette dernière, la moindre des choses de la part du législateur serait de ne pas aggraver la violation par la France du droit de l’Union en renforçant la sanction de cette obligation inconventionnelle. Cet article doit être supprimé.

F. L’absence de garde fou à la lutte contre les sites miroirs

L’article 6 de la PPL Avia propose de permettre à la police d’ordonner aux opérateurs Internet de bloquer un site sur lequel est reproduit un contenu reconnu illicite par un juge. L’amendement CL121 déposé par Mme Avia précise que cette décision judiciaire interdit explicitement « la reprise totale ou partielle » du contenu concerné.

Cette précision ne limite en rien les graves risques de dévoiement de la mesure à des fins de censure politique. L’exemple donné plus haut de la vidéo de Christchurch en donne une illustration parfaite. Si un juge, doté des pouvoirs prévus par cet article 6, avait interdit « la reprise totale ou partielle » de la vidéo du massacre de Christchurch (hypothèse crédible), la police aurait eu toute liberté pour exiger le blocage de l’ensemble du site Facebook, dans la mesure où Facebook a été incapable de supprimer la vidéo, dont au moins 300 000 copies ont échappé à sa modération.

Mme Avia semble parfaitement ignorer cette réalité : il est impossible pour un hébergeur d’éviter que ses utilisateurs ne partagent la moindre copie d’un contenu interdit. Une poignée d’amateurs l’a parfaitement démontré en modifiant légèrement la durée, la couleur ou le son de la vidéo de Christchurch pour contourner presque entièrement les algorithmes de Facebook.

Si la « reprise totale ou partielle » d’un contenu était interdite par un juge, en application de cet article 6, absolument tout hébergeur serait virtuellement en violation de cette obligation du fait de certains des ses utilisateurs, sans qu’il ne puisse rien y faire. La police se trouvera seule à décider lesquels de ces sites seront censurés, entièrement libre de dévoyer ce choix arbitraire à des fins politiques. Hypothèse concrète : la police ne demanderait pas la blocage de la plupart des sites hébergeant un contenu interdit par un juge (tels que Facebook ou Youtube) mais exigerait le blocage de plateformes critiquant la politique du gouvernement et où un utilisateur malveillant aurait insidieusement publié le contenu interdit. Cette hypothèse est des plus crédibles lorsqu’on rappelle que l’OCLCTIC a déjà dévoyé de façon illégale ses pouvoirs de lutte contre le terrorisme pour tenter de censurer des plateformes d’extrême-gauche telles que Indymedia (voir le jugement du 31 janvier 2019 du tribunal administratif de Cergy-Pontoise, qui reconnaît cet abus de la police).

Une garantie classique contre cette dérive est le « principe de subsidiarité », prévu de façon imparfaite (mais prévu toutefois) à l’article 6-1 de la LCEN en matière de censure administrative des contenus terroristes et pédopornographiques. Ce principe veut que les pouvoirs publics demandent d’abord à l’hébergeur de retirer le contenu interdit. Ce n’est que dans le cas où celui-ci refuse clairement de coopérer, lorsque lui a été laissé un délai suffisant pour ce faire et que sa défaillance ne résulte que d’une faute lourde et manifeste, que son blocage par les opérateurs Internet peut être considéré.

Sans rendre les mesures de censure efficaces ou légitimes, cette garantie est la moindre des choses requises. Il serait inconcevable que la lutte contre la haine soit encadrée de moins de garanties que la lutte contre le terrorisme.

G. La disparition du principe de subsidiarité en matière de signalement

L’article 2 la proposition de loi initiale (qui serait déplacé « après l’article premier » par l’amendement CL97 de Mme Avia) propose de modifier le formalisme de signalement aux hébergeurs des contenus problématiques, tel que défini actuellement à l’article 6, 1, 5, de la LCEN.

La principale modification est que l’auteur d’un signalement ne doit plus justifier avoir contacté au préalable l’auteur du propos problématique pour lui demander de le corriger. La suppression de cette exigence constitue un autre renoncement au « principe de subsidiarité », pourtant au cœur du mécanisme de signalement de la LCEN.

Ce principe veut que les utilisateurs tentent de régler les situations problématiques d’abord entre eux, notamment pour dissiper les simples malentendus ou confusions qui auraient pris l’apparence du conflit. Ce n’est que lorsque cette tentative a échoué que la plateforme doit être contactée pour résoudre le conflit. Ceci permet à la plateforme de se concentrer sur les cas les plus graves sans être retardée par des cas que les utilisateurs auraient résolus plus efficacement eux-mêmes.

Exemple typique : une personne cite sur Twitter un propos haineux pour le dénoncer ; un tiers est choqué par ce propos et n’est pas certain s’il s’agit d’un propos original ou d’une citation critique ; plutôt que de signaler le propos à Twitter, qui peine déjà tant à traiter les très nombreux signalements qu’il reçoit, il serait plus efficace que le tiers contacte lui-même l’utilisateur initial, afin que celui-ci dissipe la confusion et corrige son message initial pour le rendre moins ambigu.

La suppression de ce principe de proportionnalité dessert l’objectif de lutte contre les propos oppressifs, car surchargerait inutilement les plateformes de signalements qui auraient été plus efficacement traités autrement. L’article 2 de la proposition de loi initiale doit être supprimé.

H. L’interopérabilité, une solution plus efficace que la répression

Les mesures restrictives de libertés sont d’autant moins nécessaires, et donc valides, si le législateur pouvait adopter d’autres mesures qui, ne limitant aucune liberté, permettraient de se rapprocher davantage de l’objectif poursuivi. L’objectif de cette PPL n’est pas de sanctionner les auteurs de propos haineux mais uniquement de limiter la façon dont le public, et plus particulièrement les victimes, y sont exposées.

Comme vu ci-avant, le délai de 24h est contre-productif pour atteindre cet objectif. Son inefficacité résulte du fait qu’il ne cherche à traiter que les symptômes et non les causes. Or, deux des causes du problème que la PPL souhaite résoudre peuvent être efficacement traitées par le législateur.

1. Deux causes

Première cause : le nombre de personnes réunies sur les plateformes commerciales géantes facilite les stratégies de harcèlement, plaçant les victimes à portée immédiate de leurs oppresseurs. Leur taille est si importante qu’elle empêche toute modération crédible : Facebook ne pourra jamais embaucher assez de modérateurs pour ses 2 milliards d’utilisateurs revendiqués et ses outils automatisés ont prouvé leur inefficacité intrinsèque avec l’événement de Christchurch.

Seconde cause : Mme Avia dénonce elle-même le « lien pervers entre propos haineux et impact publicitaire : les personnes tenant des propos choquants ou extrémistes sont celles qui « rapportent » le plus, car l’une d’entre elles peut en provoquer cinquante ou cent autres. Sous cet angle, l’intérêt des réseaux sociaux est d’en héberger le plus possible »9Rapport visant à renforcer la lutte contre le racisme et l’antisémitisme sur internet, Karim AMELLAL, Laetitia AVIA, Gil TAÏEB, remis au Premier ministre
le 20 septembre 2018, https://www.gouvernement.fr/rapport-visant-a-renforcer-la-lutte-contre-le-racisme-et-l-antisemitisme-sur-internet
. Ce que nous appelons « culture du buzz » ou « économie de l’attention » est au cœur du modèle des grandes plateformes commerciales, dont la raison d’être est de capter l’attention du plus grand nombre de personnes possible, le plus longtemps possible, afin de leur afficher de la publicité.

D’après Youtube, 70% des vidéo visionnées sur la plateforme le sont sur recommandation de son algorithme10« YouTube’s AI is the puppet master over most of what you watch », Cnet, 10 janvier 2018, https://www.cnet.com/news/youtube-ces-2018-neal-mohan. Guillaume Chaslot, ancien employé de l’entreprise, explique que cet algorithme favorise avant tout les vidéos regardées le plus longtemps, indépendamment de leur contenu ou de leur réception par le public (pouces bleus et rouges). En étudiant ces recommandations, il constate que l’algorithme favorise les contenus agressifs, diffamants, choquants ou complotistes : « C’est comme une bagarre dans la rue, la plupart des gens s’arrêtent pour regarder, quasiment tout le monde réagit »11Guillaume Chaslot a notamment donné un entretien à ce sujet dans le numéro 5 de la revue Vraiment, paru le 18 avril 2018.. Par leur effet sidérant, ces contenus retiendraient efficacement notre attention. Pour être mieux référencées, les vidéastes se retrouvent implicitement incités à en produire.

Twitter provoque une situation similaire : le fonctionnement de son « fil d’actualité », la brièveté des messages qu’il impose ainsi que ses mécanismes de citation favorisent l’invective, le buzz, le conflit, tout en rendant quasiment impossibles les propos d’apaisement et de compréhension qui peuvent rarement se tenir en 280 caractères. Quant à Facebook, pour séduire les annonceurs, il se vante directement d’être capable d’altérer l’humeur de ses utilisateurs en manipulant leur « fil d’actualité »12« Des utilisateurs de Facebook « manipulés » pour une expérience psychologique », Le Monde, 30 juin 2014, https://www.lemonde.fr/pixels/article/2014/06/30/des-utilisateurs-de-facebook-manipules-pour-une-experience-psychologique_4447625_4408996.html, ce qui permet de faire naître les attentes et angoisses propices à la publicité tout en faisant rester les utilisateurs plus longtemps.

2. Une solution

Ces deux sources de mal-être (la taille ingérable des plateformes et leur culture du buzz) contribuent sensiblement au ressenti de « haine en ligne » contre lequel la PPL Avia entend lutter, sans toutefois rien proposer pour le résoudre efficacement. Une solution législative concrète serait de permettre aux utilisateurs de ces plateformes d’en partir : aujourd’hui, partir de Facebook ou de Twitter implique de ne plus communiquer avec toutes les personnes (famille, amis, soutiens) qui s’y trouvent. De nombreuses personnes sont donc contraintes de rester dans ces environnements toxiques, propices aux conflits et au harcèlement, car le coût social à payer pour s’en libérer est trop important.

Pour faire disparaître ce coût et permettre aux victimes de se protéger librement, la loi devrait obliger les grandes plateformes commerciales à devenir « interopérables » : qu’elles permettent à leurs utilisateurs de communiquer avec les utilisateurs d’autres plateformes similaires (dans le cas de Twitter, par exemples, ces « autres plateformes similaires » pourraient être les milliers de services utilisant le logiciel de micro-blogging décentralisé Mastodon). Ces autres plateformes, déjà nombreuses, offrent des règles de modérations variées et, ainsi, adaptées aux besoins et envies de chaque personne, allant de lieux « sanctuaires » ou non-mixtes à des espaces de discussions libres moins strictement modérés. Chaque personne peut librement choisir le type de modération correspondant à ses besoins.

D’un point de vue technique, respecter cette obligation serait facilité par les nombreux développements récents en matière de réseaux sociaux décentralisés, que ce soit de la part des acteurs du logiciel libre (GNU Social, Mastodon, Plemora, PeerTube…) ou des organisations internationales de normalisation, tel que le W3C (World-Wide Web Consortium) ayant publié en 2018 un protocole pour réseaux sociaux décentralisés, « ActivityPub ».

L’amendement n°CL206 propose d’imposer cette interopérabilité aux grandes plateformes commerciales, offrant aux victimes d’oppressions en ligne davantage de liberté pour se protéger. Nous vous vous appelons à l’adopter.

References   [ + ]

1. Ce principe est le plus clairement exprimé à l’article 52 de la Charte des droits fondamentaux de l’Union européenne : « Toute limitation de l’exercice des droits et libertés […] ne peuvent être apportées que si elles sont nécessaires et répondent effectivement à des objectifs d’intérêt général ». Ce principe a été intégré dans le contrôle réalisé par le Conseil constitutionnel : « toute mesure restreignant un droit fondamental […] doit être adéquate, c’est-à-dire appropriée, ce qui suppose qu’elle soit a priori susceptible de permettre ou de faciliter la réalisation du but recherché par son auteur » (« Le contrôle de proportionnalité exercé par le Conseil constitutionnel », Cahier du Conseil constitutionnel n° 22 – juin 2007).
2. Ce principe découle de la jurisprudence du Conseil constitutionnel : « toute mesure restreignant un droit fondamental […] ne doit pas excéder – par sa nature ou ses modalités – ce qu’exige la réalisation du but poursuivi, d’autres moyens appropriés, mais qui affecteraient de façon moins préjudiciable les personnes concernées ou la collectivité, ne devant pas être à la disposition de son auteur » (article précité du Cahier du Conseil).
3. « Update on New Zealand », Facebook Newsroom, 18 mars 2019, https://newsroom.fb.com/news/2019/03/update-on-new-zealand
4. Une affaire importante dans l’histoire de la LCEN est celle concernant la société AMEN qui, en 2009, a été condamnée par la cour d’appel de Toulouse pour ne pas avoir retiré dans la journée suivant leur signalement des écoutes téléphoniques diffusées par un des sites qu’elle hébergeait et concernant l’enquête judiciaire de l’affaire AZF. En 2011, la Cour de cassation a cassé cette décision car le signalement de ces écoutes ne respectait pas le formalisme stricte prévu par la LCEN. Toutefois, ce faisant, il est important de souligner que la Cour de cassation n’a absolument pas contesté qu’un délai « prompt » de 24 heures puisse correspondre à ce qu’exige la loi.
5. Garanti à l’article 16 de la Déclaration des Droits de l’Homme et du Citoyen de 1789 et à l’article 64 de la Constitution, un des principes fondamentaux de la séparation des pouvoirs est explicité à l’article préliminaire du code de procédure pénale comme « la séparation des autorités chargées de l’action publique et des autorités de jugement. »
6. Le signalement de la caricature de Macron sous les traits de Pinochet est documenté sur le site de La Quadrature du Net : https://www.laquadrature.net/2019/05/09/une-loi-contre-la-haine-anti-macron
7. L’arrêt Tele2 Sverige AB, grande chambre de la Cour de justice de l’Union européenne, 21 décembre 2016, affaires C-203/15 et C-698/15, est commenté par notre équipe contentieuse à cette adresse : https://exegetes.eu.org/posts/tele2
8. Voir la décision du Conseil d’État transmettant les questions à la Cour de justice, 10ème – 9ème chambres réunies, 26 juillet 2018, affaire n° 393099, https://www.legifrance.gouv.fr/affichJuriAdmin.do?oldAction=rechJuriAdmin&idTexte=CETATEXT000037253929&fastReqId=1863567356&fastPos=1
9. Rapport visant à renforcer la lutte contre le racisme et l’antisémitisme sur internet, Karim AMELLAL, Laetitia AVIA, Gil TAÏEB, remis au Premier ministre
le 20 septembre 2018, https://www.gouvernement.fr/rapport-visant-a-renforcer-la-lutte-contre-le-racisme-et-l-antisemitisme-sur-internet
10. « YouTube’s AI is the puppet master over most of what you watch », Cnet, 10 janvier 2018, https://www.cnet.com/news/youtube-ces-2018-neal-mohan
11. Guillaume Chaslot a notamment donné un entretien à ce sujet dans le numéro 5 de la revue Vraiment, paru le 18 avril 2018.
12. « Des utilisateurs de Facebook « manipulés » pour une expérience psychologique », Le Monde, 30 juin 2014, https://www.lemonde.fr/pixels/article/2014/06/30/des-utilisateurs-de-facebook-manipules-pour-une-experience-psychologique_4447625_4408996.html
]]>
C’est quoi, l’interopérabilité, et pourquoi est-ce beau et bien ?https://www.laquadrature.net/?p=14332http://streisand.me.thican.net/laquadrature.net/index.php?20190613_142735_C___est_quoi__l___interoperabilite__et_pourquoi_est-ce_beau_et_bien___Thu, 13 Jun 2019 12:27:35 +0000Nous republions l’article de Stéphane Bortzmeyer publié le 12 juin 2019 sur Framablog, qui traduit en langage clair et compréhensible la notion technique d’« interopérabilité », centrale dans nos combats en cours.

Protocoles

Le 21 mai 2019, soixante-neuf organisations, dont Framasoft, ont signé un appel à ce que soit imposé, éventuellement par la loi, un minimum d’interopérabilité pour les gros acteurs commerciaux du Web.

« Interopérabilité » est un joli mot, mais qui ne fait pas forcément partie du vocabulaire de tout le monde, et qui mérite donc d’être expliqué. On va donc parler d’interopérabilité, de protocoles, d’interfaces, de normes, et j’espère réussir à le faire tout en restant compréhensible (si vous êtes informaticien·ne professionnel·lle, vous savez déjà tout cela ; mais l’appel des 69 organisations concerne tout le monde).

Le Web, ou en fait tout l’Internet, repose sur des protocoles de communication. Un protocole, c’est un ensemble de règles qu’il faut suivre si on veut communiquer. Le terme vient de la communication humaine, par exemple, lorsqu’on rencontre quelqu’un, on se serre la main, ou bien on se présente si l’autre ne vous connaît pas, etc. Chez les humains, le protocole n’est pas rigide (sauf en cas de réception par la reine d’Angleterre dans son palais, mais cela doit être rare chez les lectrices et lecteurs du Framablog). Si la personne avec qui vous communiquez ne respecte pas exactement le protocole, la communication peut tout de même avoir lieu, quitte à se dire que cette personne est bien impolie. Mais les logiciels ne fonctionnent pas comme des humains. Contrairement aux humains, ils n’ont pas de souplesse, les règles doivent être suivies exactement. Sur un réseau comme l’Internet, pour que deux logiciels puissent communiquer, chacun doit donc suivre exactement les mêmes règles, et c’est l’ensemble de ces règles qui fait un protocole.

Un exemple concret ? Sur le Web, pour que votre navigateur puisse afficher la page web désirée, il doit demander à un serveur web un ou plusieurs fichiers. La demande se fait obligatoirement en envoyant au serveur le mot GET (« donne », en anglais) suivi du nom du fichier, suivi du mot « HTTP/1.1 ». Si un navigateur web s’avisait d’envoyer le nom du fichier avant le mot GET, le serveur ne comprendrait rien, et renverrait plutôt un message d’erreur. En parlant d’erreurs, vous avez peut-être déjà rencontré le chiffre 404 qui est simplement le code d’erreur qu’utilisent les logiciels qui parlent HTTP pour signaler que la page demandée n’existe pas. Ces codes numériques, conçus pour être utilisés entre logiciels, ont l’avantage sur les textes de ne pas être ambigus, et de ne pas dépendre d’une langue humaine particulière. Cet exemple décrit une toute petite partie du protocole nommé HTTP (pour Hypertext Transfer Protocol) qui est le plus utilisé sur le Web.

Il existe des protocoles bien plus complexes. Le point important est que, derrière votre écran, les logiciels communiquent entre eux en utilisant ces protocoles. Certains servent directement aux logiciels que vous utilisez (comme HTTP, qui permet à votre navigateur Web de communiquer avec le serveur qui détient les pages désirées), d’autres protocoles relèvent de l’infrastructure logicielle de l’Internet ; vos logiciels n’interagissent pas directement avec eux, mais ils sont indispensables.

Le protocole, ces règles de communication, sont indispensables dans un réseau comme l’Internet. Sans protocole, deux logiciels ne pourraient tout simplement pas communiquer, même si les câbles sont bien en place et les machines allumées. Sans protocole, les logiciels seraient dans la situation de deux humains, un Français ne parlant que français, et un Japonais ne parlant que japonais. Même si chacun a un téléphone et connaît le numéro de l’autre, aucune vraie communication ne pourra prendre place. Tout l’Internet repose donc sur cette notion de protocole.

Le protocole permet l’interopérabilité. L’interopérabilité est la capacité à communiquer de deux logiciels différents, issus d’équipes de développement différentes. Si une université bolivienne peut échanger avec une entreprise indienne, c’est parce que toutes les deux utilisent des protocoles communs.

Une prise électrique
Un exemple classique d’interopérabilité : la prise électrique. Kae [CC BY-SA 3.0 (https://creativecommons.org/licenses/by-sa/3.0)], via Wikimedia Commons

Seuls les protocoles ont besoin d’être communs : l’Internet n’oblige pas à utiliser les mêmes logiciels, ni à ce que les logiciels aient la même interface avec l’utilisateur. Si je prends l’exemple de deux logiciels qui parlent le protocole HTTP, le navigateur Mozilla Firefox (que vous êtes peut-être en train d’utiliser pour lire cet article) et le programme curl (utilisé surtout par les informaticiens pour des opérations techniques), ces deux logiciels ont des usages très différents, des interfaces avec l’utilisateur reposant sur des principes opposés, mais tous les deux parlent le même protocole HTTP. Le protocole, c’est ce qu’on parle avec les autres logiciels (l’interface avec l’utilisateur étant, elle, pour les humain·e·s.).

La distinction entre protocole et logiciel est cruciale. Si j’utilise le logiciel A parce que je le préfère et vous le logiciel B, tant que les deux logiciels parlent le même protocole, aucun problème, ce sera juste un choix individuel. Malgré leurs différences, notamment d’interface utilisateur, les deux logiciels pourront communiquer. Si, en revanche, chaque logiciel vient avec son propre protocole, il n’y aura pas de communication, comme dans l’exemple du Français et du Japonais plus haut.

Babel

Alors, est-ce que tous les logiciels utilisent des protocoles communs, permettant à tout le monde de communiquer avec bonheur ? Non, et ce n’est d’ailleurs pas obligatoire. L’Internet est un réseau à « permission facultative ». Contrairement aux anciennes tentatives de réseaux informatiques qui étaient contrôlés par les opérateurs téléphoniques, et qui décidaient de quels protocoles et quelles applications tourneraient sur leurs réseaux, sur l’Internet, vous pouvez inventer votre propre protocole, écrire les logiciels qui le parlent et les diffuser en espérant avoir du succès. C’est d’ailleurs ainsi qu’a été inventé le Web : Tim Berners-Lee (et Robert Cailliau) n’ont pas eu à demander la permission de qui que ce soit. Ils ont défini le protocole HTTP, ont écrit les applications et leur invention a connu le succès que l’on sait.

Cette liberté d’innovation sans permission est donc une bonne chose. Mais elle a aussi des inconvénients. Si chaque développeur ou développeuse d’applications invente son propre protocole, il n’y aura plus de communication ou, plus précisément, il n’y aura plus d’interopérabilité. Chaque utilisatrice et chaque utilisateur ne pourra plus communiquer qu’avec les gens ayant choisi le même logiciel. Certains services sur l’Internet bénéficient d’une bonne interopérabilité, le courrier électronique, par exemple. D’autres sont au contraire composés d’un ensemble de silos fermés, ne communiquant pas entre eux. C’est par exemple le cas des messageries instantanées. Chaque application a son propre protocole, les personnes utilisant WhatsApp ne peuvent pas échanger avec celles utilisant Telegram, qui ne peuvent pas communiquer avec celles qui préfèrent Signal ou Riot. Alors que l’Internet était conçu pour faciliter la communication, ces silos enferment au contraire leurs utilisateurs et utilisatrices dans un espace clos.

La situation est la même pour les réseaux sociaux commerciaux comme Facebook. Vous ne pouvez communiquer qu’avec les gens qui sont eux-mêmes sur Facebook. Les pratiques de la société qui gère ce réseau sont déplorables, par exemple en matière de captation et d’utilisation des données personnelles mais, quand on suggère aux personnes qui utilisent Facebook de quitter ce silo, la réponse la plus courante est « je ne peux pas, tou·te·s mes ami·e·s y sont, et je ne pourrais plus communiquer avec eux et elles si je partais ». Cet exemple illustre très bien les dangers des protocoles liés à une entreprise et, au contraire, l’importance de l’interopérabilité.

La tour de Babel, peinte par Pieter Bruegel
« La tour de Babel  », tableau de Pieter Bruegel l’ancien. Domaine public (Google Art Project)

 

Mais pourquoi existe-t-il plusieurs protocoles pour un même service ? Il y a différentes raisons. Certaines sont d’ordre technique. Je ne les développerai pas ici, ce n’est pas un article technique, mais les protocoles ne sont pas tous équivalents, il y a des raisons techniques objectives qui peuvent faire choisir un protocole plutôt qu’un autre. Et puis deux personnes différentes peuvent estimer qu’en fait deux services ne sont pas réellement identiques et méritent donc des protocoles séparés, même si tout le monde n’est pas d’accord.

Mais il peut aussi y avoir des raisons commerciales : l’entreprise en position dominante n’a aucune envie que des acteurs plus petits la concurrencent, et ne souhaite pas permettre à des nouveaux entrants d’arriver. Elle a donc une forte motivation à n’utiliser qu’un protocole qui lui est propre, que personne d’autre ne connaît.

Enfin, il peut aussi y avoir des raisons plus psychologiques, comme la conviction chez l·e·a créat·eur·rice d’un protocole que son protocole est bien meilleur que les autres.

Un exemple d’un succès récent en termes d’adoption d’un nouveau protocole est donné par le fédivers. Ce terme, contraction de « fédération » et « univers » (et parfois écrit « fédiverse » par anglicisme) regroupe tous les serveurs qui échangent entre eux par le protocole ActvityPub, que l’appel des soixante-neuf organisations mentionne comme exemple. ActivityPub permet d’échanger des messages très divers. Les logiciels Mastodon et Pleroma se servent d’ActivityPub pour envoyer de courts textes, ce qu’on nomme du micro-blogging (ce que fait Twitter). PeerTube utilise ActivityPub pour permettre de voir les nouvelles vidéos et les commenter. WriteFreely fait de même avec les textes que ce logiciel de blog permet de rédiger et diffuser. Et, demain, Mobilizon utilisera ActivityPub pour les informations sur les événements qu’il permettra d’organiser. Il s’agit d’un nouvel exemple de la distinction entre protocole et logiciel. Bien que beaucoup de gens appellent le fédivers « Mastodon », c’est inexact. Mastodon n’est qu’un des logiciels qui permettent l’accès au fédivers.

Le terme d’ActivityPub n’est d’ailleurs pas idéal. Il y a en fait un ensemble de protocoles qui sont nécessaires pour communiquer au sein du fédivers. ActivityPub n’est que l’un d’entre eux, mais il a un peu donné son nom à l’ensemble.

Tous les logiciels de la mouvance des « réseaux sociaux décentralisés » n’utilisent pas ActivityPub. Par exemple, Diaspora ne s’en sert pas et n’est donc pas interopérable avec les autres.

Appel

Revenons maintenant l’appel cité au début, Que demande-t-il ? Cet appel réclame que l’interopérabilité soit imposée aux GAFA, ces grosses entreprises capitalistes qui sont en position dominante dans la communication. Tous sont des silos fermés. Aucun moyen de commenter une vidéo YouTube si on a un compte PeerTube, de suivre les messages sur Twitter ou Facebook si on est sur le fédivers. Ces GAFA ne changeront pas spontanément : il faudra les y forcer.

Il ne s’agit que de la communication externe. Cet appel est modéré dans le sens où il ne demande pas aux GAFA de changer leur interface utilisateur, ni leur organisation interne, ni leurs algorithmes de sélection des messages, ni leurs pratiques en matière de gestion des données personnelles. Il s’agit uniquement d’obtenir qu’ils permettent l’interopérabilité avec des services concurrents, de façon à permettre une réelle liberté de choix par les utilisateurs. Un tel ajout est simple à implémenter pour ces entreprises commerciales, qui disposent de fonds abondants et de nombreu·ses-x programmeur·e·s compétent·e·s. Et il « ouvrirait » le champ des possibles. Il s’agit donc de défendre les intérêts des utilisateurs et utilisatrices. (Alors que le gouvernement, dans ses commentaires, n’a cité que les intérêts des GAFA, comme si ceux-ci étaient des espèces menacées qu’il fallait défendre.)

Qui commande ?

Mais au fait, qui décide des protocoles, qui les crée ? Il n’y a pas de réponse simple à cette question. Il existe plein de protocoles différents et leurs origines sont variées. Parfois, ils sont rédigés, dans un texte qui décrit exactement ce que doivent faire les deux parties. C’est ce que l’on nomme une spécification. Mais parfois il n’y a pas vraiment de spécification, juste quelques vagues idées et un programme qui utilise ce protocole. Ainsi, le protocole BitTorrent, très utilisé pour l’échange de fichiers, et pour lequel il existe une très bonne interopérabilité, avec de nombreux logiciels, n’a pas fait l’objet d’une spécification complète. Rien n’y oblige développeurs et développeuses : l’Internet est « à permission facultative ». Dans de tels cas, celles et ceux qui voudraient créer un programme interopérable devront lire le code source (les instructions écrites par le ou la programmeur·e) ou analyser le trafic qui circule, pour essayer d’en déduire en quoi consiste le protocole (ce qu’on nomme la rétro-ingénierie). C’est évidemment plus long et plus difficile et il est donc très souhaitable, pour l’interopérabilité, qu’il existe une spécification écrite et correcte (il s’agit d’un exercice difficile, ce qui explique que certains protocoles n’en disposent pas).

Parfois, la spécification est adoptée formellement par un organisme dont le rôle est de développer et d’approuver des spécifications. C’est ce qu’on nomme la normalisation. Une spécification ainsi approuvée est une norme. L’intérêt d’une norme par rapport à une spécification ordinaire est qu’elle reflète a priori un consensus assez large d’une partie des acteurs, ce n’est plus un acte unilatéral. Les normes sont donc une bonne chose mais, rien n’étant parfait, leur développement est parfois laborieux et lent.

Manuscrit médiéval montrant un moine écrivant
Écrire des normes correctes et consensuelles peut être laborieux. Codex Bodmer – Frater Rufillus (wohl tätig im Weißenauer Skriptorium) [Public domain]

Toutes les normes ne se valent pas. Certaines sont publiquement disponibles (comme les normes importantes de l’infrastructure de l’Internet, les RFC – Request For Comments), d’autres réservées à ceux qui paient, ou à ceux qui sont membres d’un club fermé. Certaines normes sont développées de manière publique, où tout le monde a accès aux informations, d’autres sont créées derrière des portes soigneusement closes. Lorsque la norme est développée par une organisation ouverte à tous et toutes, selon des procédures publiques, et que le résultat est publiquement disponible, on parle souvent de normes ouvertes. Et, bien sûr, ces normes ouvertes sont préférables pour l’interopérabilité.

L’une des organisations de normalisation ouverte les plus connues est l’IETF (Internet Engineering Task Force, qui produit notamment la majorité des RFC). L’IETF a développé et gère la norme décrivant le protocole HTTP, le premier cité dans cet article. Mais d’autres organisations de normalisation existent comme le W3C (World-Wide Web Consortium) qui est notamment responsable de la norme ActivityPub.

Par exemple, pour le cas des messageries instantanées que j’avais citées, il y a bien une norme, portant le doux nom de XMPP (Extensible Messaging and Presence Protocol). Google l’utilisait, puis l’a abandonnée, jouant plutôt le jeu de la fermeture.

Difficultés

L’interopérabilité n’est évidemment pas une solution magique à tous les problèmes. On l’a dit, l’appel des soixante-neuf organisations est très modéré puisqu’il demande seulement une ouverture à des tiers. Si cette demande se traduisait par une loi obligeant à cette interopérabilité, tout ne serait pas résolu.

D’abord, il existe beaucoup de moyens pour respecter la lettre d’un protocole tout en violant son esprit. On le voit pour le courrier électronique où Gmail, en position dominante, impose régulièrement de nouvelles exigences aux serveurs de messagerie avec lesquels il daigne communiquer. Le courrier électronique repose, contrairement à la messagerie instantanée, sur des normes ouvertes, mais on peut respecter ces normes tout en ajoutant des règles. Ce bras de fer vise à empêcher les serveurs indépendants de communiquer avec Gmail. Si une loi suivant les préconisations de l’appel était adoptée, nul doute que les GAFA tenteraient ce genre de jeu, et qu’il faudrait un mécanisme de suivi de l’application de la loi.

Plus subtil, l’entreprise qui voudrait « tricher » avec les obligations d’interopérabilité peut aussi prétendre vouloir « améliorer » le protocole. On ajoute deux ou trois choses qui n’étaient pas dans la norme et on exerce alors une pression sur les autres organisations pour qu’elles aussi ajoutent ces fonctions. C’est un exercice que les navigateurs web ont beaucoup pratiqué, pour réduire la concurrence.

Jouer avec les normes est d’autant plus facile que certaines normes sont mal écrites, laissant trop de choses dans le vague (et c’est justement le cas d’ActivityPub). Écrire une norme est un exercice difficile. Si on laisse beaucoup de choix aux programmeuses et programmeurs qui créeront les logiciels, il y a des risques de casser l’interopérabilité, suite à des choix trop différents. Mais si on contraint ces programmeuses et programmeurs, en imposant des règles très précises pour tous les détails, on empêche les logiciels d’évoluer en réponse aux changements de l’Internet ou des usages. La normalisation reste donc un art difficile, pour lequel on n’a pas de méthode parfaite.

Conclusion

Voilà, désolé d’avoir été long, mais les concepts de protocole et d’interopérabilité sont peu enseignés, alors qu’ils sont cruciaux pour le fonctionnement de l’Internet et surtout pour la liberté des citoyen·ne·s qui l’utilisent. J’espère les avoir expliqués clairement, et vous avoir convaincu⋅e de l’importance de l’interopérabilité. Pensez à soutenir l’appel des soixante-neuf organisations !

Après

Et si vous voulez d’autres informations sur ce sujet, il y a :

]]>
L’interopérabilité contre la hainehttps://www.laquadrature.net/?p=14314http://streisand.me.thican.net/laquadrature.net/index.php?20190612_174129_L___interoperabilite_contre_la_haineWed, 12 Jun 2019 15:41:29 +0000Ces dix dernières années, Internet s’est métamorphosé, laissant entrevoir pour La Quadrature de nouveaux combats à mener. Les quelques gros acteurs qui se sont emparés du Web ont fait émerger un nouveau problème : celui de l’organisation politique des médias sociaux. À ses débuts, Internet s’était construit comme un outil de partage des connaissances et d’entraide. Quiconque, isolé dans un problème spécifique, s’est mis à pouvoir s’appuyer sur les expériences et conseils de personnes dans le même cas. Qu’il s’agisse simplement de problèmes techniques ou de problèmes de société, de discrimination, de santé, etc. Internet a pu être utilisé comme un outil pour sortir de l’isolement, pour s’émanciper, pour visibiliser des minorités et est devenu un point d’appui aux mobilisations. Des protocoles standardisés permettaient à quiconque de mettre en place sa plateforme et de communiquer avec les autres personnes.

Les géants du Web, y trouvant une nouvelle source de pouvoir, se sont constitués en tant qu’intermédiaires et se sont fait symboles de ces nouveaux modes de communication. À leurs débuts, ils remplissaient encore un peu ce rôle. Ils étaient en quête de nouveaux yeux à qui afficher leurs publicités. Il était possible, depuis Facebook, de communiquer avec quelqu’une ne possédant pas de compte grâce au protocole libre XMPP utilisé par sa messagerie. On pouvait importer ses contacts Facebook dans son répertoire Google via le format vCard. L’API de Twitter était ouverte, permettant gratuitement à qui le voulait d’expérimenter le réseau social sous d’autres jours.

Les groupes d’entraide sur Facebook fleurissaient, permettant aux personnes LGBT, aux sans-papiers, aux personnes atteintes de maladies rares d’unir leurs forces.
Les nouvelles rencontres sur Twitter faisaient apparaître de nouveaux fronts et de nouvelles méthodes de lutte.

En 2013, Twitter ferma son API, en 2015 Facebook cessa d’utiliser un protocole ouvert pour sa messagerie et en quelques années, les géants se refermèrent sur eux-même et cessèrent de communiquer, même entre eux. Ils n’avaient plus de raisons de permettre de communiquer avec l’extérieur, « tout le monde » était déjà là, prisonnier et ne pouvant s’échapper sous peine de voir un pan de sa vie sociale disparaître.

Les géants auraient pu se contenter de cette simple cage dorée, mais ils voulaient toujours plus d’argent. C’est ainsi qu’ils ont développé, sans aucun égard pour nous, leurs utilisatrices, des algorithmes millimétrés pour optimiser l’impact de la publicité sur notre cerveau (Lire notre article « Pourquoi attaquer Facebook »), en se servant du contenu même de nos communications. Visibiliser les contenus choquants, déclencheurs d’émotions, nous fait rester plus longtemps sur le service et nous pousse à en partager à notre tour pour entraîner nos relations dans la consommation de contenus. Ils ont fait naître la culture du buzz, nous poussant à user nous-même des rhétoriques de l’attention : contenus choquants, clivants, violents. Les géants ont fait du conflit et de la haine un moteur de croissance.

Aujourd’hui, tout le monde s’offusque. La « haine sur Internet » est devenue un sujet à part entière et même un sujet législatif. Au lieu de retracer l’histoire de l’explosion des propos violents en ligne, d’analyser ses mécanismes de mise en avant, la majorité gouvernementale se demande encore comment faire pour sauver ce modèle mortifère. Et comme à son habitude, en témoignent les dernières lois européennes (lire notre article bilan sur le règlement terroriste et la directive copyright), les réflexes de nos dirigeants sont :

  • 1. de déléguer la mission de protéger les victimes aux géants du Web, les mêmes qui capitalisent sur la promotion de la haine (lire notre article sur les pompiers pyromanes)
  • 2. de censurer suffisamment pour rendre la violence, les désaccords et les oppositions invisibles.

Une passerelle pour se libérer

Aujourd’hui, le navire coule. On reste sur ces plateformes pour ne pas perdre nos contacts, mais la force émancipatrice des débuts est en voie de disparation. Les mouvements sociaux parviennent difficilement à éviter la censure de Facebook. Twitter est devenu un outil efficace pour harceler les personnes transgenres, de confession musulmane, etc. Chacun se défend tant bien que mal, par exemple, grâce à des listes de blocage que l’on se partage. Il est temps de reprendre la main sur la modération en se libérant des géants.

L’interopérabilité garantit à tout le monde de ne pas se trouver captif d’une plateforme : de pouvoir librement la quitter, sans perdre ses liens sociaux, et de continuer à communiquer avec ses contacts. L’interopérabilité permet à quiconque de lire depuis un service A les contenus diffusés par ses contacts sur un service B, et d’y répondre comme si elle y était.

Échapper à l’emprise des géants sans rompre le lien avec nos proches. Si Facebook était interopérable, nous pourrions parler à nos proches qui ont fait le choix d’y rester, et ce depuis un autre service : qu’il soit libre, comme Mastodon et Peertube, ou non.

L’avantage de pouvoir se soustraire à la façon dont les géants organisent nos échanges est que l’on peut échapper à la sur-représentation des contenus choquants et déclencheurs d’émotions, impulsés par le modèle économique des géants pour les retrouver dans leur proportion organique, voir les limiter encore plus. Nous échapperions par la même occasion à l’incitation d’être nous-mêmes choquants dans nos propos puisque les règles de diffusion de contenus ne récompenseraient plus particulièrement ces pratiques.

Il est temps d’arrêter de croire que la planète entière doit être enfermée dans la même boîte en permanence, sous une modération dictatoriale et unique. La part du réseau global avec laquelle on communique sur Facebook est si infime que son immensité ne sert qu’à nourrir le fantasme de la communication avec n’importe-qui-partout-dans-le-monde, qui est en réalité souvent bien loin des usages que l’on a du réseau.

La décentralisation des médias sociaux n’entraînerait aucune perte de communication et donnerait aux personnes le choix de la modération à laquelle elles se soumettent. Il serait beaucoup plus aisé, pour des minorités victimes de harcèlement, de construire un lieu ouvert sur l’extérieur, mais ne laissant passer aucun contenu oppressant, s’ils avaient la main sur la modération de cet espace. De la même manière, se développeraient des espaces d’expression libre à même de recevoir les débats les plus virulents et les plus franches oppositions.

Savoir à qui on confie le pouvoir de nous informer, la gestion de nos interactions sociales en ligne et aux passage nos données personnelles est une question de pouvoir politique : cessons de céder ce pouvoir aux géants, construisons nos propres espaces avec nos propres règles.

]]>
Lancement d’une campagne dans neuf pays de l’UE contre les techniques illégales de la publicité en lignehttps://www.laquadrature.net/?p=14301http://streisand.me.thican.net/laquadrature.net/index.php?20190604_150007_Lancement_d___une_campagne_dans_neuf_pays_de_l___UE_contre_les_techniques_illegales_de_la_publicite_en_ligneTue, 04 Jun 2019 13:00:07 +0000L’association berlinoise Liberties lance aujourd’hui avec de nombreux alliés une campagne d’actions contre le ciblage publicitaire devant les autorités 9 pays européens, et vous invite à la rejoindre. La Quadrature du Net assiste Liberties pour porter cette action devant la CNIL dans les jours à venir. Nous reproduisons ici leur communiqué de presse.

Berlin, le 4 juin 2019.

La campagne #StopSpyingOnUs est lancée aujourd’hui dans neuf pays de l’UE : 14 organisations de défense des droits humains et droits numériques, coordonnées par Liberties, déposent simultanément des plaintes auprès des autorités nationales en charge de la protection des données personnelles concernant les techniques illégales utilisées par la publicité comportementale en ligne. Les pays concernés sont l’Allemagne, la Belgique, la France, l’Italie, l’Estonie, la Bulgarie, la Hongrie, la Slovénie et la République tchèque. Il s’agit de la troisième vague de plaintes depuis septembre 2018. Les deux premières avaient été déposées auprès des autorités de protection des données du Royaume-Uni et de l’Irlande.

À travers cette campagne, nous demandons aux autorités de protection des données personnelles d’ouvrir des enquêtes sur les violations actuelles et massives qui sont commises des millions de fois par jour et qui affectent l’ensemble des internautes.

“This campaign will have organisations and individuals joining forces to protect personal information that may be shared without our consent, such as browsing history and location, but also even sexual orientation and unique ID codes. The complaints submitted to the data protection authorities point out that the real-time bidding advertising system may be broadcasting the personal data of users to hundreds or thousands of companies. This advertising method clearly breaches the EU’s data protection regulation (GDPR). We decided to start a campaign for the enforcement of the GDPR, saying it is time to #StopSpyingOnUs,” says Eva Simon, Liberties´ legal expert.

« Cette campagne réunira les organisations et les individus qui souhaitent rejoindre la lutte en vue de protéger les données personnelles qui peuvent être partagées sans notre consentement, telles que l’historique de navigation, la localisation ou encore l’orientation sexuelle et les codes d’identification unique. Les réclamations soumises aux autorités de protection des données personnelles alertent sur le fait que le système de Real Time Bidding (enchères en temps réel) peut transmettre les données personnelles des utilisateur.trice.s à des centaines de milliers d’entreprises. Cette technique publicitaire est en claire violation de la réglementation de l’UE en matière de protection des données personnelles (le GDPR). Nous avons décidé de lancer une campagne visant à faire respecter le GDPR, sous le slogan « StopSpyingOnUs » (arrêtez de nous espionner) », explique Éva Simon, experte juridique de Liberties.

En plus d’avoir coordonné le dépôt des réclamations officielles, soumises par les organisations des droits humains et droits numériques, Liberties et ses partenaires ont aussi préparé des plaintes pré-remplies dans plusieurs langues pour les individus qui souhaitent participer à la campagne #StopSpyingOnUs. Dans certains pays, les citoyen.ne.s peuvent participer à ces efforts en envoyant tout simplement une plainte auprès de l’autorité de protection des données personnelles de leur pays et en utilisant le modèle de lettre disponible sur Liberties.eu.

« Nous voulons que la voix du peuple soit entendue et pour cela nous mettons à la disposition des individus tous les outils nécessaires en vue de mettre un terme aux violations de leurs droits commises dans le cadre de la publicité en ligne. Si une personne ou entité partage nos données personnelles sans notre permission, nous devons être en mesure de leur dire que nous y sommes opposés et de leur demander de cesser ces activités », insiste Orsolya Reich, chargée de plaidoyer de Liberties.

Cette technique publicitaire en ligne est utilisée par des acteurs clés de la sphère numérique, tels que Google, et de fait, un très grand nombre d’individus sont exposés au partage illégal de leurs données personnelles. Par exemple, DoubleClick de Google (récemment renommé « Authorized Buyers ») est actif sur 8,4 millions de sites web, et transmet les données personnelles des visiteurs à plus de 2 000 entreprises. Il est grand temps qu’ils cessent de nous espionner : #StopSpyingOnUs.

Pour de plus amples informations sur la campagne, merci de contacter :
Éva Simon
Chargée de plaidoyer « Vie privée et Liberté d’expression » – Liberties
eva.simon@liberties.eu

Pour toute autre demande concernant Liberties, merci de contacter :
Vanja Prokic
Chargée de communication – Liberties
v.prokic@liberties.eu

]]> [Politis] « On pourrait avoir du libre presque partout »https://www.laquadrature.net/?p=14297http://streisand.me.thican.net/laquadrature.net/index.php?20190602_140000__Politis______On_pourrait_avoir_du_libre_presque_partout____Sun, 02 Jun 2019 12:00:00 +0000Selon le juriste Lionel Maurel, derrière l’open source, c’est un questionnement économique et politique qui bouillonne.

Outil puissant et discret, le logiciel libre a façonné l’informatique mondiale. Mais les obstacles pour qu’il s’étende au reste de l’économie restent importants. […]

https://www.politis.fr/articles/2019/05/on-pourrait-avoir-du-libre-presque-partout-40474/

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[FranceInter] Le reportage villes intelligentes dans On n’arrête pas l’Écohttps://www.laquadrature.net/?p=14298http://streisand.me.thican.net/laquadrature.net/index.php?20190602_130000__FranceInter__Le_reportage_villes_intelligentes_dans_On_n___arrete_pas_l___EcoSun, 02 Jun 2019 11:00:00 +0000L’intelligence artificielle n’est pas réservée qu’aux géants du numérique. En France, par exemple, 24 villes, parmi lesquelles Lille, Marseille, Nice, Montpellier, Nantes, Issy-les-Moulineaux ou Paris, utilisent ses outils pour mettre en place de la vidéosurveillance, contrôler la circulation, gérer l’éclairage public…

Une façon de faire entrer concrètement la technologie dans nos vies quotidiennes mais une pratique qui interroge aussi sur la collecte et l’utilisation des données. De Paris à Dijon, Anaëlle Verzaux se penche dans son reportage sur la montée de ces villes intelligentes.

https://www.franceinter.fr/emissions/on-n-arrete-pas-l-eco/on-n-arrete-pas-l-eco-18-mai-2019

NDLRP : le reportage commence à 23 minutes 30 du podcast de l’émission.

NDLRP (bis) – Retrouvez sur le Peertube l’entretien dans le reportage de Martin, juriste à La Quadrature du Net :

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LeMondeDiplomatique] La « ville sûre » ou la gouvernance par les algorithmeshttps://www.laquadrature.net/?p=14299http://streisand.me.thican.net/laquadrature.net/index.php?20190602_120000__LeMondeDiplomatique__La_____ville_sure_____ou_la_gouvernance_par_les_algorithmesSun, 02 Jun 2019 10:00:00 +0000Par Félix Tréguer, chercheur et membre de La Quadrature du Net.

Les outils policiers fondés sur le big data et l’intelligence artificielle se déploient dans de nombreuses villes françaises. À travers des expérimentations pilotées par des groupes privés qui cherchent à se hisser au niveau de la concurrence américaine ou chinoise, la « ville intelligente » révèle son vrai visage : celui d’une cité sous surveillance. […]

Sur le terrain aussi, la « ville sûre » engage une privatisation sans précédent des politiques de sécurité. L’expertise technique est toute entière confiée aux acteurs privés, tandis que les paramètres qui président à leurs algorithmes resteront selon toute vraisemblance soumis au secret des affaires. Sur le plan juridique, il n’existe à ce jour aucune analyse sérieuse de la conformité de ces dispositifs avec le droit au respect de la vie privée ou avec la liberté d’expression et de conscience, pourtant directement mis en cause. […]

https://www.monde-diplomatique.fr/2019/06/TREGUER/59986

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[20Minutes] Anniversaire du RGPD: Les géants du Web continuent de « marchandiser les données personnelles »https://www.laquadrature.net/?p=14300http://streisand.me.thican.net/laquadrature.net/index.php?20190602_110000__20Minutes__Anniversaire_du_RGPD__Les_geants_du_Web_continuent_de_____marchandiser_les_donnees_personnelles____Sun, 02 Jun 2019 09:00:00 +0000Le Règlement général sur la protection des données, c’est, en un an, 145.000 plaintes individuelles, 440 enquêtes ouvertes et une seule condamnation majeure. […]

Ce samedi, le RGPD souffle sa première bougie. Sigle technocrate so européen, le Règlement général sur la protection des données, dont la vocation était de renforcer les droits des citoyens européens en la matière, en mettant en place diverses obligations pour les entreprises, a eu le mérite de « provoquer une prise de conscience » du grand public, estime Richard Weaver, responsable de la protection des données au sein de l’entreprise de sécurité informatique FireEye. Mais pour Arthur Messaud, juriste de l’association La Quadrature du Net, « le RGPD n’est, pour l’instant, encore presque pas appliqué, et encore moins respecté ». Même verdict de l’Autrichien Max Schrems, Némésis de Facebook, qui dénonce auprès de 20 Minutes « un non-respect massif de la loi. » Le bilan est donc contrasté. […]

https://www.20minutes.fr/high-tech/2525003-20190525-video-anniversaire-rgpd-geants-web-continuent-marchandiser-donnees-personnelles

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[01net] 56 associations exhortent le gouvernement à imposer l’interopérabilité aux géants du Nethttps://www.laquadrature.net/?p=14293http://streisand.me.thican.net/laquadrature.net/index.php?20190601_140000__01net__56_associations_exhortent_le_gouvernement_a_imposer_l___interoperabilite_aux_geants_du_NetSat, 01 Jun 2019 12:00:00 +0000La Quadrature du Net, avec 55 associations de défense des libertés et organisations professionnelles, hébergeurs et FAI associatifs, demandent aux autorités de légiférer en faveur de l’interopérabilité. Ils prêchent pour rendre Twitter, Facebook ou YouTube compatibles avec les autres services Internet.

« Nous, défenseurs d’un Internet neutre, libre et ouvert, appelons le législateur à agir pour que les grandes plateformes deviennent interopérables avec les autres services Internet. » Dans une lettre ouverte publiée mardi 21 mai, La Quadrature du Net et 55 autres associations et organisations demandent d’imposer aux géants du Net la compatibilité de leurs services en ligne avec les autres. […]

https://www.01net.com/actualites/56-associations-exhortent-le-gouvernement-a-imposer-l-interoperabilite-aux-geants-du-net-1696614.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[NextINpact] Conservation généralisée des données : l’attentisme du gouvernement françaishttps://www.laquadrature.net/?p=14294http://streisand.me.thican.net/laquadrature.net/index.php?20190601_130000__NextINpact__Conservation_generalisee_des_donnees____l___attentisme_du_gouvernement_fran__aisSat, 01 Jun 2019 11:00:00 +0000[…] Ses yeux sont tournés sur les questions préjudicielles posées par le Conseil d’État le 28 juillet 2018, à l’occasion de deux arrêts rendus à l’initiative de la FDN, FFDN et la Quadrature du Net. Comme expliqué, la juridiction est en quête de brèches permettant à la France de maintenir son régime actuel, au désespoir des requérants.

Le gouvernement se dit « particulièrement attentif » à la jurisprudence signalée par Laure de La Raudière. Il est cependant « nécessaire de recueillir au préalable les précisions demandées notamment par le Conseil d’État à la Cour de Justice de l’Union européenne avant d’apprécier dans quelle mesure il est nécessaire d’adapter le cadre normatif national aux exigences du droit européen », explique poliment Nicole Belloubet.

https://www.nextinpact.com/brief/conservation-generalisee-des-donnees—l-attentisme-du-gouvernement-francais-8747.htm

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LaCroix] A Saint-Étienne, la surveillance sonore de la rue fait débathttps://www.laquadrature.net/?p=14295http://streisand.me.thican.net/laquadrature.net/index.php?20190601_120000__LaCroix__A_Saint-Etienne__la_surveillance_sonore_de_la_rue_fait_debatSat, 01 Jun 2019 10:00:00 +0000La préfecture de la Loire a différé la pose expérimentale de « capteurs sonores », dans l’attente d’un avis de la Commission nationale de l’informatique et des libertés (Cnil). […]

Pour La Quadrature du Net, le projet porte un « idéal de surveillance complète de l’espace public ». L’association de défense des droits numériques juge que la ville poursuit « le rêve d’un quartier sans cris, sans bruits anormaux ou trop forts, sans tags : un quartier silencieux et débarrassé de toutes les extravagances humaines ». […]

https://www.la-croix.com/France/Securite/A-Saint-Etienne-surveillance-sonore-rue-fait-debat-2019-05-20-1201023071

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[RTS] Internet devient-il un Minitel 2.0 ou un bien commun ?https://www.laquadrature.net/?p=14289http://streisand.me.thican.net/laquadrature.net/index.php?20190531_140000__RTS__Internet_devient-il_un_Minitel_2.0_ou_un_bien_commun___Fri, 31 May 2019 12:00:00 +0000Nous fêtons cette année les 50 ans dʹInternet et les 30 ans du WEB conçu au CERN par Tim Berners Lee. Que reste-t-il de ce réseau décentralisé et libre des origines ? Quelles sont les alternatives aux géants du Net que sont les GAFAM (Google, Apple, Facebook, Amazon, Microsoft) et autres Airbnb ou Alibaba en Chine ?

Eléments de réponse avec notre invité Benjamin Bayart spécialiste des réseaux, Président de la Fédération des fournisseurs d’Accès à Internet associatifs et cofondateur de la Quadrature du Net.

https://www.rts.ch/play/radio/versus-lire-et-penser/audio/internet-devient-il-un-minitel-2-0-ou-un-bien-commun-?id=10395928

NDLRP – Retrouvez le podcast sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LADN] Vous n’arrivez pas à vous déconnecter des GAFA ? Embrouillez-les !https://www.laquadrature.net/2019/05/31/ladn-vous-narrivez-pas-a-vous-deconnecter-des-gafa-embrouillez-les/http://streisand.me.thican.net/laquadrature.net/index.php?20190531_131000__LADN__Vous_n___arrivez_pas_a_vous_deconnecter_des_GAFA____Embrouillez-les___Fri, 31 May 2019 11:10:00 +0000Vous n’échapperez pas à la surveillance de masse, mais vous pouvez la gêner. C’est la théorie des chercheurs américains Helen Nissembaum et Finn Brunton. Dans leur livre Obfuscation, La vie privée, mode d’emploi ils expliquent comment embrouiller les algorithmes en publiant de fausses infos. […]

Les auteurs définissent d’ailleurs l’obfuscation comme l’« arme du faible ». « On est de toute évidence dans un rapport très inégalitaire. Face à la volonté des États et des GAFA de contrôler nos données, il y a peu de solutions, explicite Laurent Chemla. C’est une guérilla », précise-t-il. Une guerre asymétrique. Et les armes de cette guerre sont économiques. En clair : on se bat contre des géants avec des bâtons, mais il faut se battre quand même. « Si tout le monde publie de fausses informations alors les données perdent de la valeur. C’est un moyen de financer un peu moins les monstres comme Google, Facebook et Amazon. » […]

Pour Laurent Chemla, le réel antidote contre la surveillance de masse se trouve chez les services alternatifs à ceux des géants de la tech. Les utiliser permet de décentraliser le web et de complexifier le traçage des données. Toutefois, l’obfuscation reste, à ses yeux, une solution pertinente en attendant que ces services se démocratisent.

https://www.ladn.eu/tech-a-suivre/embrouiller-gafa-fausses-donnees/

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[RFI] La technologie au service du bien commun, un vœu pieux ?https://www.laquadrature.net/?p=14285http://streisand.me.thican.net/laquadrature.net/index.php?20190531_120000__RFI__La_technologie_au_service_du_bien_commun__un_v__u_pieux___Fri, 31 May 2019 10:00:00 +0000La technologie pour faire le bien de tous et toutes, vaste programme discuté, en ce moment même, au palais de l’Elysée où Emmanuel Macron reçoit à la fois des dirigeants politiques et des patrons de géants du numérique. À cette occasion, a été lancé l’appel de Christchurch pour lutter contre la diffusion de contenus haineux en ligne, mais le secteur des nouvelles technologies doit aussi répondre aux questions de plus en plus pressantes autour de la protection des données ou de la remise en cause du droit du travail liée aux modèles économiques des Uber, Amazon et autres Deliveroo.

Avec :

  • Benjamin Sonntag, co-fondateur de la Quadrature du net
  • Lucien Castex, chercheur à l’Université Sorbonne nouvelle, secrétaire général d’Internet society France.

http://www.rfi.fr/emission/20190515-technologie-service-bien-commun-voeu-pieux

NDLRP – Retrouvez une pastille de ce débat sur le Peertube de La Quadrature du Net :

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LExpress] Facebook, l’empire du fauxhttps://www.laquadrature.net/?p=14286http://streisand.me.thican.net/laquadrature.net/index.php?20190531_110000__LExpress__Facebook__l___empire_du_fauxFri, 31 May 2019 09:00:00 +0000Faux comptes, faux clics, fausses audiences et fausse protection des données personnelles. Face aux scandales, Facebook promet de changer. Peut-on encore y croire ? […]

Ce décalage entre discours public policé et réalité n’est pas nouveau. Arthur Messaud, analyste juridique et politique de La Quadrature du Net, une association qui défend elle aussi les internautes, livre un témoignage similaire. « Quand nous les avons attaqués en mai 2018 devant la Commission nationale de l’informatique et des libertés (CNIL), ils ont engagé une armée de juristes pour noyer le poisson et faire croire qu’ils étaient en accord avec le règlement général sur la protection des données (RGPD), se souvient-il. Sauf que tout leur discours a été déconstruit par la CNIL. » Selon lui, le seul espoir de la firme est de faire changer l’interprétation de la loi en exerçant un lobbying intense auprès des instances européennes. « Leur principal argument consiste à dire qu’ils œuvrent pour le bien de l’humanité en connectant les gens, en luttant contre le terrorisme et les fake news, etc., analyse-t-il. Une lutte qui demande énormément d’argent, ce qui justifie, selon eux, la publicité et donc la collecte systématique des données personnelles. » […]

https://lexpansion.lexpress.fr/high-tech/facebook-l-empire-du-faux_2077160.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LObs] Violence en ligne : « L’appel de Christchurch, c’est demander aux pyromanes d’éteindre l’incendie »https://www.laquadrature.net/?p=14281http://streisand.me.thican.net/laquadrature.net/index.php?20190530_130500__LObs__Violence_en_ligne________L___appel_de_Christchurch__c___est_demander_aux_pyromanes_d___eteindre_l___incendie____Thu, 30 May 2019 11:05:00 +0000Pour La Quadrature du Net, Facebook et autres géants reposent « sur un modèle de surveillance et de captation du temps de cerveau disponible » qui n’est pas amendable. […]

Critique, l’association La Quadrature du Net, qui défend les libertés dans l’environnement numérique, et qui a lancé en 2018 une série de plaintes collectives contre les GAFAM, estime avec ce texte qu’« Emmanuel Macron demande aux pyromanes d’éteindre l’incendie ».

Arthur Messaud, juriste à La Quadrature, a accepté de répondre à nos questions. […]

https://www.nouvelobs.com/economie/20190515.OBS12967/violence-en-ligne-l-appel-de-christchurch-c-est-demander-aux-pyromanes-d-eteindre-l-incendie.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[RMC] Peut-on vraiment lutter contre les contenus haineux sur les réseaux sociaux ?https://www.laquadrature.net/?p=14282http://streisand.me.thican.net/laquadrature.net/index.php?20190530_110500__RMC__Peut-on_vraiment_lutter_contre_les_contenus_haineux_sur_les_reseaux_sociaux___Thu, 30 May 2019 09:05:00 +0000Mark Zukerberg est reçu à l’Elysée ce vendredi. Après une première rencontre l’an dernier, le patron de Facebook doit discuter avec Emmanuel Macron d’une meilleure régulation d’Internet. La France veut se doter d’une loi pour modérer les propos haineux en ligne. […]

Sur Christchurch, ces vidéos de l’attentat de la mosquée, diffusées en direct, partagées ensuite plus d’un million de fois. C’est l’exemple même de l’impossibilité technique d’agir pour Facebook selon Arthur Messaud, juriste à la Quadrature du Net, une association de défense des droits et libertés des citoyens :

« Si on veut savoir comment Facebook censure sa plateforme, on peut regarder ce qu’il s’est passé avec l’attentat de Christchurch. Google et Facebook ont entièrement échoué à empêcher la diffusion de cette vidéo pendant au moins 24 heures et plus. Tout simplement, parce que leurs algorithmes de recommandation et leur millier de modérateurs embauchés ne suffisaient pas du tout à contrer une attaque de propagande faite juste par une dizaine de personnes« . […]

https://rmc.bfmtv.com/emission/peut-on-vraiment-lutter-contre-les-contenus-haineux-sur-les-reseaux-sociaux-ca-fait-debat-sur-rmc-1688963.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
Audience contre le Privacy Shield devant le Tribunal de l’UE !https://www.laquadrature.net/?p=14255http://streisand.me.thican.net/laquadrature.net/index.php?20190523_162159_Audience_contre_le_Privacy_Shield_devant_le_Tribunal_de_l___UE___Thu, 23 May 2019 14:21:59 +0000Le régime de surveillance des Etats-Unis va de nouveau être examiné par les juges européens. Après 3 ans de procédure, l’audience sur notre affaire contre le « Privacy Shield » a enfin été fixée aux 1er et 2 juillet. Retour sur ces 3 années de combat.

En 2000, la Commission européenne a autorisé un accord, appelé « Safe Harbor », pour faciliter le transfert de données personnelles des européens vers les États-Unis.

Le 6 octobre 2015, la Cour de justice de l’Union européenne a invalidé cette autorisation, dans un recours initié par Max Schrems (lire notre réaction de l’époque). Pourquoi ? Car le Safe Harbor laissait les services de renseignement états-uniens accéder aux données des personnes européennes et qu’Edward Snowden venait de révéler l’atteinte massive qui en résultait pour nos libertés.

Le 12 juillet 2016, la Commission européenne a tenté de revoir sa copie : elle a autorisé un nouvel accord de transfert de données vers les États-Unis, le « Privacy Shield » (voir notre réaction).

Le 17 novembre 2016, nous attaquions ce nouvel accord devant le Tribunal de l’Union européenne aux côtés de FFDN et FDN (voir notre saisine commune). Bien qu’un peu moins vague que le Safe Harbor, ce nouveau Privacy Shield continue de permettre des mesures abusives de la part des États-Unis, telles que la surveillance de masse – la Commission le reconnaissait elle même. De plus, pour nous, faire invalider cet accord serait une façon de renforcer la jurisprudence européenne opposée à la surveillance de masse, que nous pourrions ensuite utiliser contre les abus de la loi française.

Le Tribunal de l’Union a jugé notre recours suffisamment grave et sérieux pour ouvrir la procédure. La Commission européenne a du défendre son texte, au secours duquel sont venus de nombreux pays (au premier rang desquels les États-Unis et la France, mais également l’Allemagne, le Royaume-Unis, les Pays-Bas, la République tchèque) et entreprises (Microsoft et Digitaleurope, représentant notamment tous les GAFAM), chacun produisant leurs écritures, auxquelles nous avons du répondre à notre tour (voir notre réponse à la Commission puis celle à ses alliées).

De notre côté, l’UFC Que Choisir est intervenue à notre soutien et l’ACLU (association historique de défense des libertés aux États-Unis) nous a largement aidé pour décrire en détail le régime de surveillance états-unien.

Ces différents échanges d’écritures ont pris fin le 10 avril 2019, où nous avons répondu à une série de questions posées par le Tribunal pour éclairer sa décision. Après presque 3 ans de procédure, le jour de l’audience est donc enfin venu ! Elle se tiendra le 1er et 2 juillet au Luxembourg, nous permettant d’appuyer tous nos arguments à l’oral face à la probable quarantaine d’avocats représentant nos nombreux et si puissants adversaires.

Il s’agira sans nul doute de l’audience la plus importante à laquelle La Quadrature du Net aura jamais participé. Une victoire aurait des conséquences colossales, tant sur notre exposition à la surveillance des États-Unis que sur le droit des pays européens. Nous allons la chercher sans frémir.

]]>
Pour l’interopérabilité des géants du Web : lettre commune de 69 organisationshttps://www.laquadrature.net/?p=14221http://streisand.me.thican.net/laquadrature.net/index.php?20190521_124147_Pour_l___interoperabilite_des_geants_du_Web____lettre_commune_de_69_organisationsTue, 21 May 2019 10:41:47 +0000La Quadrature du Net, avec 69 organisations de défense des libertés, organisations professionnelles, hébergeurs et FAI associatifs, demandent au gouvernement et au législateur d’agir pour que les grandes plateformes (Facebook, Youtube, Twitter…) deviennent interopérables avec les autres services Internet.

Notre lettre commune (aussi en PDF) reste ouverte à signature par des associations et entreprises (les individus sont vivement encouragés à se l’approprier et à la diffuser autour d’eux). Pour signer, écrivez-nous à contact@laquadrature.net avec « Signature lettre interopérabilité » en objet, puis en précisant le nom de votre organisation dans le mail. Merci !

Lettre commune : pour l’interopérabilité des grandes plateformes en ligne

Nous, défenseurs d’un Internet neutre, libre et ouvert, appelons le législateur à agir pour que les grandes plateformes deviennent interopérables avec les autres services Internet.

L’interopérabilité garantit à tout le monde de ne pas se trouver captif d’une plateforme : de pouvoir librement la quitter, sans perdre ses liens sociaux, et de continuer à communiquer avec ses contacts. L’interopérabilité permet à quiconque de lire depuis un service A les contenus diffusés par ses contacts sur un service B, et d’y répondre comme s’il y était. L’interopérabilité est garantie lorsqu’elle repose sur des standards ouverts.

Des services comme Facebook, Twitter et Youtube tiennent leur pouvoir du nombre élevé d’utilisateurs et d’utilisatrices qu’ils ont rendu captives : ce grand nombre incite d’autres personnes à rejoindre leur service, et leur captivité permet de leur imposer une surveillance constante à des fins publicitaires. Aujourd’hui, nombreux sont celles et ceux qui souhaiteraient y échapper mais sont contraints d’y rester sous peine de perdre le contact avec leurs relations.

Pourtant, en dehors de ces plateformes, des services interopérables réunissent déjà des millions de personnes (Mastodon, Diaspora, PeerTube…), notamment via le protocole d’interopérabilité ActivityPub publié par le W3C en 2018. Ces réseaux décentralisés, basés sur des logiciels libres, sont co-hébergés par une multitude d’acteurs distribuant largement les coûts entre eux, ce qui contribue à l’émergence de modèles économiques bien plus respectueux des libertés que celui de la publicité ciblée.

Migrer vers ces services permettrait aussi d’échapper à l’environnement toxique entretenu sur Facebook, Youtube ou Twitter. Ces géants favorisent la diffusion des contenus qui maintiennent au mieux notre attention, souvent les plus anxiogènes ou caricaturaux. À l’opposé de la voie prise par les récentes lois de censure, il ne faut pas espérer que ces plateformes freinent la diffusion de propos haineux, trompeurs ou dangereux, car leur modèle économique, au contraire, renforce cette diffusion.

Il est urgent de permettre à toute personne d’échapper à la surveillance et à la toxicité de ces grandes plateformes en rejoignant des services libres, décentralisés et à taille humaine sans conséquences nocives sur ses liens sociaux. La loi doit imposer cette interopérabilité.

45 premiers signataires :

Nouveaux signataires :

]]>
Lettre ouverte aux législateurs européens : halte aux DPI !https://www.laquadrature.net/?p=14205http://streisand.me.thican.net/laquadrature.net/index.php?20190515_165923_Lettre_ouverte_aux_legislateurs_europeens____halte_aux_DPI___Wed, 15 May 2019 14:59:23 +0000Paris, le 15 mai 2019 – Aujourd’hui, plus de 42 organisations de défense des droits, soutenues par de nombreux universitaires, ont adressé une lettre aux législateurs européens.

Alors que des négociations sont actuellement en cours concernant de nouvelles règles pour la Neutralité du Net, les signataires, dont La Quadrature du Net, attirent l’attention des législateurs sur l’utilisation grandissante et incontrôlée des technologies d’inspection profonde de paquets (Deep Packet Inspection, ou DPI) faite par les fournisseurs d’accès à Internet.

Cette lettre a été envoyée en anglais (disponible ici) au vice-président de la Commission Européenne, chargé du Marché numérique unique, à la commissaire européenne à l’Économie et à la Société numériques, à la commissaire européenne à la Justice, aux Consommateurs et à l’Égalité des genres, à la présidente du Comité européen de la protection des données et au président de l’Organe des régulateurs européens des communications électroniques (ORECE, ou BEREC en anglais).

Nous vous en proposons ci-dessous une traduction en français.


Bruxelles, le 15 mai 2019

Cher Vice-Président Andrus Ansip,
Chère Commissaire Mariya Gabriel,
Chère Commissaire Vera Jourová,
Chère présidente du Comité européen de la protection des données Andrea Jelinek,
Cher président de l’Organe des régulateurs européens des communications électroniques Jeremy Godfrey,

Nous vous écrivons dans le cadre de l’évaluation du règlement (EU) 2015/2120 et de la réforme des lignes directrices du BEREC. Nous sommes particulièrement inquiets de l’augmentation de l’utilisation de technologies d’inspection profonde de paquets (Deep Packet Inspection, DPI) par les fournisseurs d’accès à internet (FAI). Le DPI est une technologie permettant l’examen des paquets de données transitant à travers un réseau donné, au-delà de ce qui est nécessaire aux FAI pour fournir l’accès à internet, en inspectant certaines parties spécifiques des données transmises par l’utilisateur.

Les FAI intègrent de plus en plus des technologies de DPI dans leurs produits, afin de gérer le trafic réseau et de différencier la facturation de certaines applications ou de certains service (zéro-rating par exemple). Le DPI permet aux FAI d’identifier et de distinguer le trafic afin d’identifier celui généré par certaines applications ou certains services, de réaliser une facturation différenciée, de les limiter ou de les prioriser au sein de leur réseau.

Les signataires de cette lettre souhaitent rappeler l’inquiétante pratique de l’analyse des noms de domaines ou des adresses (URL) des sites visités et d’autres ressources internet. L’évaluation de ce type de données peut révéler des informations sensibles au sujet d’un utilisateur telles que ses publications préférées, ses intérêts vis-à-vis de certaines maladies, ses préférences sexuelles ou ses croyances religieuses. Les URL identifient des ressources spécifiques sur le web (telle qu’une image en particulier, un article spécifique dans une encyclopédie, un segment dans un flux vidéo, etc …) et donnent des informations directes sur le contenu d’une communication.

Une cartographie des différentes tarifications des produits dans l’espace économique européen (EEE), conduite en 2018, a identifié 186 produits faisant potentiellement usage du DPI[1]. Parmi ceux-ci, plusieurs produits vendus par des opérateurs de téléphonie mobile ayant de grandes parts de marché ont confirmé l’usage de techniques de DPI car ils fournissent aux opérateurs d’applications ou de services l’option d’identifier leur trafic en utilisant des critères tels que le nom de domaine, le SNI, les URl ou l’écoute du DNS[2].

Actuellement, les lignes directrices du BEREC[3] établissent clairement que la gestion de trafic basée sur la surveillance des noms de domaine et des URL (tel qu’impliqué par la phrase « contenu de la couche protocolaire de transport ») n’est pas une « mesure raisonnable de gestion du trafic » dans le cadre du règlement. Cette règle claire a cependant été ignorée par la plupart des FAI dans leur méthode de gestion du trafic.

La nature du DPI nécessite une expertise en télécommunications et en protection des données. Cependant, nous observons un manque de coopération entre les autorités nationales de régulation des communications électroniques et les autorités de protection des données sur ce sujet, à la fois dans les décisions d’examiner ces produits ainsi que, de manière plus générale, sur des positionnements conjoints sur ces sujets. Par exemple, certains régulateurs justifient l’utilisation du DPI en se basant sur le consentement des clients des FAI ce qui, crucialement, ignore l’interdiction claire des technologies de DPI par les lignes directrices du BEREC ainsi que le traitement des données des interlocuteur des clients, qui n’ont jamais donné leur consentement à ce traitement.

Au regard de l’ampleur et du caractère sensible du sujet, nous incitons la Commission et le BEREC à examiner avec attention l’usage du DPI et son impact sur la protection des données dans le cadre de la réforme en cours du règlement et des lignes directrices sur la neutralité d’Internet. De plus, nous recommandons à la Commission et au BEREC d’examiner l’interprétation du critère de proportionnalité inclus dans le paragraphe 3 de l’article 3 du règlement 2015/2120 conformément au principe de minimisation des données prévu par le RGPD. Enfin, nous suggérons de mandater le Comité européen de la protection des données afin de rédiger des lignes directrices sur l’usage du DPI par les FAI.

Bien à vous,

Liste des signataires

Universitaires et particuliers :

Kai Rannenberg, Chair of Mobile Business & Multilateral Security, Goethe University
Frankfurt, Germany
Stefan Katzenbeisser, Chair of Computer Engineering, University of Passau, Germany
Max Schrems, Privacy Activist, Austria
Klaus-Peter Löhr, Professor für Informatik (a.D.), Freie Universität Berlin, Germany
Joachim Posegga, Chair of IT-Security, University of Passau, Germany
Dominik Herrmann, Chair for Privacy and Security in Information Systems, University of
Bamberg, Germany
Rigo Wenning, AFS Rechtsanwälte, ERCIM Legal counsel, Vorstand EDV-Gerichtstag, Fitug
e.V., France
Douwe Korff, Emeritus Professor of International Law, London Metropolitan University,
United Kingdom
Dr. TJ McIntyre, UCD Sutherland School of Law, United Kingdom
Dr Ian Brown, Senior Fellow, Research ICT Africa / CyberBRICS visiting professor,
Fundação Getúlio Vargas Direito Rio, Brazil
Dr. Jef Ausloos (Institute for Information Law (IViR) – University of Amsterdam), the
Netherlands
Paddy Leersen LL.M., PhD Candidate University of Amsterdam, Non-Residential Fellow
Stanford University Center for Internet & Society, the Netherlands
Simone Fischer Hübner, Professor in Computer Science, Karlstad University, Sweden
Erich Schweighofer, Head of the Centre for Computers and Law, Department of European,
International and Comparative Law, University of Vienna, Austria
Prof. Dr.-Ing. Christoph Sorge, Saarland University, Germany
Frederik J. Zuiderveen Borgesius, Professor of Law at iCIS Institute for Computing and
Information Sciences, Radboud University

Organisations :

European Digital Rights, Europe
Electronic Frontier Foundation, International
Council of European Professional Informatics Societies, Europe
Article 19, International
Chaos Computer Club e.V, Germany
epicenter.works – for digital rights, Austria
Austrian Computer Society (OCG), Austria
Bits of Freedom, the Netherlands
La Quadrature du Net, France
ApTI, Romania
Code4Romania, Romania
IT-Pol, Denmark
Homo Digitalis, Greece
Hermes Center, Italy
X-net, Spain
Vrijschrift, the Netherlands
Dataskydd.net, Sweden
Electronic Frontier Norway (EFN), Norway
Alternatif Bilisim (Alternative Informatics Association), Turkey
Digitalcourage, Germany
Fitug e.V., Germany
Digitale Freiheit, Germany
Deutsche Vereinigung für Datenschutz e.V. (DVD), Germany
Gesellschaft für Informatik e.V. (GI), Germany
LOAD e.V. – Verein für liberale Netzpolitik, Germany
Fédération des Fournisseurs d’Accès Internet Associatifs, France

Entreprises :

Wire Swiss GmbH, Switzerland, Alan Duric, CTO/COO & Co-Founder
Research Institute – Digital Human Rights Center, Austria
Baycloud Systems, United Kingdom, Mike O’Neill, Director

1. Voir https://epicenter.works/document/1522 page 19-21, 34-35 et 38-40.
2. Cf.
3. BoR (16) 127, paragraphs 69 and 70

]]>
Christchurch : les pyromanes appelés à éteindre l’incendiehttps://www.laquadrature.net/?p=14199http://streisand.me.thican.net/laquadrature.net/index.php?20190515_122121_Christchurch____les_pyromanes_appeles_a_eteindre_l___incendieWed, 15 May 2019 10:21:21 +0000Tribune d’Arthur.

Emmanuel Macron et Jacinda Ardern, première ministre néo-zélandaise, ont lancé aujourd’hui l’ « appel de Christchurch ». Suite à l’attentat survenu il y a deux mois, cet appel est lancé en réaction au fait que la vidéo de la tuerie aurait largement tourné sur Facebook et Google. Il appelle tous les États à agir pour éviter que cela se reproduise, notamment en collaborant avec les grands réseaux sociaux.

Facebook, qui participait au lancement de la campagne aux côtés de Google, a aussitôt répondu : il empêchera désormais ses utilisateurs les plus suspects de diffuser des vidéos en direct – outil qu’avait utilisé le tueur de Christchurch.

Cette réponse de Facebook est bien à la hauteur des attentes du gouvernement Macron, qui recevait précisément Mark Zuckerberg la semaine dernière : de la poudre aux yeux pour que surtout rien ne change, au mépris de la gravité des événements.

Les pyromanes…

Quand Facebook annonce aujourd’hui limiter l’accès à son service de vidéo en direct, cela n’a rien à voir avec la façon dont la vidéo de Christchurch aurait inondé sa plateforme, tel qu’expliqué il y a deux mois par l’entreprise elle-même. La vidéo n’aurait été visionnée en directe que par 200 personnes… Ce sont les 1,5 millions de copies de la vidéo qui auraient atteint le public, diffusées par des soutiens du tueur. Le tueur aurait pu envoyer la vidéo à ses complices par mail que cela n’aurait rien changé à l’affaire. Facebook le sait très bien et son annonce est aussi hypocrite que méprisante.

Facebook fait mine de prendre conscience du problème de viralité lié à la plateforme en promettant aussi de « renforcer ses intelligences artificielles », encore une fois… Comme si, précisément, la « solution magique » de ses filtres automatisés ne venait pas d’être définitivement décrédibilisée, il y a deux mois, par une poignée d’internautes complices du tueur de Christchurch parvenant à les contourner pendant des jours, manifestement sans grand soucis. D’après Facebook, la première journée, 300 000 copies seraient passé au travers de ses filtres automatisés, n’étant traitées que pas son armée de modérateurs sous-payées et exposés aux pires conditions de travail.

Surtout, Facebook sait très bien que sa plateforme ne peut pas être corrigée, à moins de renoncer à son modèle économique, tout comme Google ou Twitter, véritable cœur du problème. La raison d’être de ces plateformes est de réunir le plus de personnes possibles en un seul endroit, pour les surveiller et leur proposer la publicité qui les influencera le plus.

Il est techniquement et humainement impossible de modérer d’aussi grosses plateformes pour éviter qu’elles ne deviennent des outils de harcèlement, de haine et de mort. Pire, pour maintenir tous nos cerveaux disponibles, leurs « intelligences artificielles » (qui ne se montrent efficaces qu’ici) entretiennent autant que possible la culture du buzz et, par là, le conflit, la caricature, la peur – tout ce qu’il faut pour éviter l’entraide et la cohésion. C’est le prix à payer pour capter plusieurs milliards de cerveaux en même temps, et ils ne renonceront jamais à nous le faire payer (c’est pourquoi nous luttons pour le développement d’un Web décentralisé et à taille humaine). Et, bien sûr, leur emprise s’exerce en marchant sur nos libertés fondamentales, exploitant nos données personnelles et violant le RGPD pour mieux nous contrôler (voir nos plaintes devant la CNIL et la première sanction de celle-ci en réponse contre Google).

… appelés à éteindre l’incendie

Ce sont ces délinquants que le gouvernement appelle aujourd’hui pour sauver leur Web.

Il y a 2 mois, le Parlement européen a adopté en première lecture le règlement terroriste, dont l’objectif principal est de généraliser les filtres automatisés de Google et Facebook à l’ensemble du Web – oui, ces mêmes filtres qui viennent de démontrer toute leur inefficacité. Pour imposer ces filtres à tout le monde, le gouvernement français, qui est à l’initiative de ce texte avec l’Allemagne, n’a pas peur de détruire le Web européen composé d’une multitude de petits acteurs et, ainsi, de laisser les GAFAM en maîtres. En vrai, ces géants s’étant montrés particulièrement coopératifs dans l’ambition de Macron de « civiliser » Internet, ils apparaissent comme des alliés de choix qu’il vaudrait mieux laisser régner (voir notre premier bilan sur le règlement terroriste).

En ce moment, c’est la proposition de loi LREM « contre la haine en ligne » qui reprend cette entente Macron-GAFAM : les géants s’engagent à faire le travail de la police et de la justice sur Internet et, en échange, le gouvernement les présente en « solutions », légitime leur toute puissance, les laisse tranquille et les invite à tous ses événements sur « comment la technologie sauvera le monde ». Comme on l’a vu dans notre dernier article, cette alliance risque aussi de conduire à la censure de critiques anti-Macron ou de mouvements sociaux un peu trop dérangeants…

Bref, quand on demande aux pyromanes d’éteindre l’incendie, ce n’est pas seulement qu’on est à court d’idée et qu’on brasse du vent pour faire genre. C’est aussi car, en vrai, on est soi-même déjà pyromane.

]]>
[LeProgres] Saint-Etienne: les opposants aux micros ne baissent pas les brashttps://www.laquadrature.net/?p=14192http://streisand.me.thican.net/laquadrature.net/index.php?20190512_130000__LeProgres__Saint-Etienne__les_opposants_aux_micros_ne_baissent_pas_les_brasSun, 12 May 2019 11:00:00 +0000Faute d’autorisation de la Cnil (Commission nationale informatique et libertés), la municipalité a décidé de retarder l’installation de capteurs sonores dans le quartier de Beaubrun-Tarentaize à Saint-Etienne. Les opposants au projet ne baissent pas la garde. Bien au contraire.  […]

Annoncée en février, cette mesure a pris, au fil du temps, un retentissement certain. Après des capteurs sonores, plusieurs documents, révélés par l’association de défense des droits et libertés des citoyens sur le site Internet La Quadrature du Net. […]

https://www.leprogres.fr/loire-42-edition-saint-etienne-metropole/2019/05/08/saint-etienne-les-opposants-aux-micros-ne-baissent-pas-les-bras

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[Usbek&Rica] L’UE crée un gigantesque fichier biométrique : un « point de non retour » ?https://www.laquadrature.net/?p=14189http://streisand.me.thican.net/laquadrature.net/index.php?20190512_110000__Usbek_Rica__L___UE_cree_un_gigantesque_fichier_biometrique____un_____point_de_non_retour_______Sun, 12 May 2019 09:00:00 +0000Le Parlement européen a donné son feu vert à la création d’un gigantesque fichier qui centralisera des données incluant des informations biométriques – empreintes digitales et images faciales – des citoyens européens et non-européens. L’ONG Statewatch avait alerté en mai dernier sur la création d’une « Europe Big Brother ». […]

L’ONG Statewatch – composée d’avocats, universitaires, journalistes, chercheurs et militants associatifs surveillant la justice et les affaires intérieures, la sécurité et les libertés civiles dans l’Union européenne – avait publié en mai dernier une analyse point par point des nouvelles mesures prévues par cette interopérabilité des systèmes, qu’elle voyait elle aussi comme un « point de non-retour» dans la création d’un « Big brother européen centralisé ». Le raisonnement voulant justifier l’interopérabilité, développée dans le contexte de la crise migratoire et des attentats de 2015, par son utilité pour l’antiterrorisme, est à ses yeux trompeur. […]

https://usbeketrica.com/article/l-ue-cree-un-gigantesque-fichier-biometrique-un-point-de-non-retour-1

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[NextINpact] Chiffrement : les ministères de l’Intérieur du G7 rêvent de backdoors installées par l’industriehttps://www.laquadrature.net/?p=14183http://streisand.me.thican.net/laquadrature.net/index.php?20190511_130000__NextINpact__Chiffrement____les_ministeres_de_l___Interieur_du_G7_revent_de_backdoors_installees_par_l___industrieSat, 11 May 2019 11:00:00 +0000Le 5 avril dernier, le message des ministres de l’Intérieur du G7 était passé sous nos radars. Le texte prévoit des mesures très ambitieuses, sur l’autel de la lutte contre le terrorisme, pour l’instant. Au menu : des hébergeurs appelés à être de plus en plus actifs dans cette lutte et des éditeurs de solutions de chiffrement invités à installer des portes dérobées. […]

Les ministères veulent surtout encourager les entreprises de l’Internet « à mettre elles-mêmes en place des solutions d’accès autorisé à leurs produits et services, notamment aux données chiffrées ». Ces portes dérobées permettraient ensuite aux forces de l’ordre et aux autorités compétentes (donc y compris les services du renseignement) d’accéder aux preuves numériques. […]

https://www.nextinpact.com/news/107815-chiffrement-ministeres-linterieur-g7-revent-backdoors-installees-par-lindustrie.htm

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LObs] Lettre à l’Europe d’Antonio Casilli : « Ton numérique est encombré de mirages »https://www.laquadrature.net/?p=14184http://streisand.me.thican.net/laquadrature.net/index.php?20190511_110000__LObs__Lettre_a_l___Europe_d___Antonio_Casilli________Ton_numerique_est_encombre_de_mirages____Sat, 11 May 2019 09:00:00 +0000A l’occasion des européennes, « l’Obs » a proposé à des artistes et des penseurs d’écrire à l’Europe. Découvrez le texte du sociologue Antonio Casilli. […]

« Mais c’est aussi aux dépens des libertés et de l’autonomie de tes propres citoyens que tes politiques numériques des dernières années ont été développées. Au nom de vagues émergences et d’états d’exception permanents, une surveillance massive des populations s’est généralisée. A partir de 2013, la France et le Royaume-Uni se sont dotés d’outils législatifs comme la Loi Renseignement ou le Snoopers’ Charter, qui normalisent l’inspection profonde de paquets sur les réseaux, le traçage permanent des citoyens sur les médias sociaux et la création de « boites noires algorithmiques ». Le tout en se passant des garde-fous juridiques traditionnellement présents dans nos pays. Là aussi, l’obsession GAFAM joue un rôle clé. Les accords entre tes États et les entreprises qui se servent de ces technologies à des fins de surveillance et de répression se multiplient, du déploiement de drones Predator à des fins d’ordre public en Italie au contrat de la DGSI française avec Palantir, multinationale de la surveillance du sulfureux Peter Thiel. » […]

https://www.nouvelobs.com/elections-europeennes/20190504.OBS12461/lettre-a-l-europe-d-antonio-casilli-ton-numerique-est-encombre-de-mirages.html

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
AG 2019 de la Quadrature : bilan et perspectiveshttps://www.laquadrature.net/?p=14169http://streisand.me.thican.net/laquadrature.net/index.php?20190510_134050_AG_2019_de_la_Quadrature____bilan_et_perspectivesFri, 10 May 2019 11:40:50 +0000À l’issue de son assemblée générale des 13 et 14 avril derniers, La Quadrature du Net souhaite partager avec ses amies, soutiens, sympathisantes et alliées ce qui ressort de ce week-end riche en échanges.

Ce fut tout d’abord un temps de bilan de nos actions, durant lequel nous sommes revenues sur les principaux évènements et les campagnes qui ont rythmé l’année 2018 à La Quadrature :

Depuis novembre 2017 nous avions décidé de faire de la sensibilisation et de la formation à nos combats pour les libertés fondamentales une des missions de La Quadrature. Cette volonté s’est affirmée à travers deux campagnes que nous voulions accessibles à des publics peu habitués à nos revendications. Au mois d’avril 2018, La Quadrature s’est donnée six semaines pour expliquer, à travers des articles et des vidéos, les abus des GAFAM sur nos libertés et convaincre un maximum de personnes de nous rejoindre dans nos actions de groupe contre les GAFAM. Le 28 mai, nous étions 12 000 à avoir signé ces plaintes devant la CNIL.
La seconde campagne de sensibilisation s’est déroulée en novembre et décembre 2018 à l’occasion de la campagne de dons de l’association. Cette campagne fut l’occasion pour certains proches de La Quadrature de présenter Internet dans sa version libre, neutre, décentralisée et respectueuse des libertés à travers une série de vidéos disponibles sur chaque page thématique du nouveau site de La Quadrature.

Outre ces deux campagnes se voulant accessibles, nos campagnes et actions pour défendre les libertés et droits fondamentaux dans la sphère numérique se sont centrées sur quatre grandes thématiques : les données personnelles, la surveillance, la censure et les réseaux. Diverses campagnes nous ont grandement occupées durant l’année, qu’il s’agisse de la campagne Stop Data Retention en juin ou encore de la campagne contre le règlement de censure terroriste, entamée en fin d’année et poursuivie en 2019. Les sujets juridiques et de contentieux à suivre ont eux aussi été nombreux : directive ePrivacy en discussion au niveau européen, recours contre le Privacy Shield et le régime de surveillance français qui se poursuivent devant la Cour de justice de l’Union européenne, recours contre le fichier TES devant le Conseil d’Etat, débats sur la directive Copyright et sur la régulation des plateformes, premières recherches et analyses sur les « safe cities »… Les dossiers à analyser n’ont pas manqué, et la plupart se poursuivent actuellement.

Afin de promouvoir l’Internet libre, neutre et décentralisé, nous avons amorcé une collection de guides juridiques. Le premier s’adresse aux établissements fournissant un accès Internet comme le font les bibliothèques : « Internet en libre accès ».

Ce fut aussi un temps de réflexion sur l’évolution de l’association: Il y a un an, lors d’une AG que l’on pourrait qualifier de refondatrice de l’organisation, La Quadrature avait décidé de modifier en profondeur sa structure de gouvernance, de prise de décision et de responsabilité. Ce choix a été fait dans un but d’efficacité, pour libérer certaines actions (en particulier celles de l’équipe opérationnelle salariée), mais aussi dans l’objectif d’aligner notre organisation avec notre vision politique : notre défense d’Internet, un réseau par définition horizontal où vivent nos libertés.

Un des buts de notre réorganisation était de permettre à plus de personnes d’entrer dans le processus de décision. Nous avions alors acté l’entrée d’une trentaine de membres dans l’association et la mise en place d’un processus de décision horizontal. Dans l’ensemble, même si ce processus est encore en train de trouver ses marques, il nous enthousiasme et nous encourage à poursuivre dans cette voie.

Ce chemin vers l’ouverture et l’horizontalité est encore en progression : après avoir intégré ce premier cercle de bénévoles, nous réfléchissons aux méthodes pour renforcer nos liens avec les proches de La Quadrature qui ne sont pas membres. Nous souhaitons retrouver des espaces où discuter et avancer avec la communauté qui s’est créée durant les 10 dernières années autour de La Quadrature. Nous allons travailler en ce sens.

Nous invitons d’ores et déjà les personnes qui le souhaitent à rejoindre nos groupes de réflexion, qui se penchent actuellement sur des sujets comme la régulation des télécoms, la censure d’État, la censure privée, la responsabilité des intermédiaires, le droit d’auteur, la vie privée et les données personnelles, l’intelligence artificielle, les villes « technopolicières » et l’IoT. Il est aussi possible de rejoindre nos groupes de travail, que ce soit sur la traduction de textes, la revue de presse, l’organisation d’évènements… Cette liste n’est pas exhaustive et reste ouverte à propositions. Les personnes intéressées peuvent nous rencontrer lors des apéros et autres évènements que nous organisons au fil de l’année, sur irc ou alors en écrivant à notre adresse mail de contact, elles seront alors mises en lien avec les personnes qui travaillent sur les sujets qui les inspirent.

Et pour celles et ceux qui voudraient en savoir plus sur notre bilan 2018, nous les invitons à consulter le bilan d’activités 2018 et le bilan financier 2018.

On en profite bien sûr pour remercier toutes celles et tous ceux grâce à qui La Quadrature peut poursuivre son travail, qu’il s’agisse des personnes qui agissent avec nous ou de celles qui nous soutiennent par leurs dons ou en relayant nos messages et nos actions dans leurs réseaux.

]]>
Une loi contre la haine anti-Macron ?https://www.laquadrature.net/?p=14148http://streisand.me.thican.net/laquadrature.net/index.php?20190509_141425_Une_loi_contre_la_haine_anti-Macron___Thu, 09 May 2019 12:14:25 +0000Il y a 6 semaines, la députée En Marche Laetitia Avia déposait une proposition de loi « contre la haine sur Internet ». Sa mesure phare est d’exiger des grandes plateformes qu’elles suppriment en 24 heures les propos de nature « haineuse » et « manifestement » illicites que leur signaleront le public ou la police, sous peine d’une amende de 4% de leur chiffre d’affaire.

Le but est purement et simplement de remplacer la justice publique par Facebook, Google et Twitter, en les laissant seuls maîtres de ce qui peut ou non être dit sur le Web. C’était déjà exactement la démarche prise dans le règlement antiterroriste récemment adopté en première lecture au Parlement européen (lire notre bilan sur ce texte).

Avant de quitter le secrétariat d’État au numérique, Mounir Mahjoubi actait déjà aux côtés de Marlène Schiappa cette alliance de l’État dans les bras de Facebook, présenté comme héros de l’Internet à la sagesse duquel nous devrions évidemment tous nous soumettre ! (lire notre analyse) Son successeur, Cédric O, n’a manifestement rien à redire à la trahison opérée par cette loi « anti-haine ». L’ensemble des députés brillent aussi par un silence coupable.

De son côté, le ministère de la justice, entièrement humilié et mis de côté dans ce grand chantier, vient de lancer son chant du cygne. Dans une circulaire publiée en avril dernier, il appelle à recourir davantage au juge pour lutter contre la haine en ligne, dénonçant l’ « usage abusif » pouvant être fait des « dispositions permettant d’engager la responsabilité des acteurs d’Internet ». En effet, alors que le gouvernement propose de contourner le juge pour gagner en « efficacité », cette circulaire constate que le ministère public ne saisit que bien trop peu la justice dans ces affaires.

Alors pourquoi confier la mission de justice à Facebook et Google, leur donnant autant de légitimité et de pouvoirs alors même qu’ils n’ont de cesse de violer la loi, de mentir et de détruire notre écosystème numérique ? L’analyse du règlement antiterroriste, qui repose sur la même volonté politique, donne une première piste : la notion européenne de « terrorisme » est tellement vague que ce règlement pousserait notamment Facebook et Google à censurer largement les revendications des mouvements sociaux (voir notre analyse appliquée aux gilets jaunes, dont les propos en ligne pourraient tomber sous la censure « anti-terroriste »).

Quand la police demande aux géants de défendre Macron

Un autre événement, cette fois-ci en matière de « haine », est encore plus éclairant : en début d’année, nos amis de NextInpact révélaient que la police française avait signalé à Google une caricature présentant Emmanuel Macron et son gouvernement sous les traits du dictateur Pinochet et de ses proches. Nous avons fait une demande CADA à la police pour comprendre les raisons de ce signalement et venons d’en recevoir la réponse.

Le 13 janvier 2019, vers 21h, une personne anonyme a signalé cette caricature et le message l’accompagnant à la police via sa plateforme PHAROS, dans la catégorie « incitation à la haine raciale ou provocation à la discrimination de personnes en raison de leurs origines, de leur sexe, de leur orientation sexuelle ou de leur handicap ». En réaction et en moins de 24 heures (tel que l’indique le site Lumen), la police a signalé à Google cette image, enregistrant son signalement dans la catégorie « injures et diffamations xénophobes ou discriminatoires » (voir la « fiche de signalement » ci-dessous).


Capture d’écran transmise par la police (cliquer pour agrandir)

Comment expliquer un tel zèle de la police pour une caricature aussi triviale, et ce alors que ses services comprenaient fin 2018 moins de trente agents pour recevoir quatre à cinq centaines de signalements par jours ? Comment expliquer les catégories pénales retenues ici — injures et diffamations xénophobes ou discriminatoires — alors qu’il ne s’agissait que d’une caricature critique du Président et de son gouvernement ? Fait révélateur, la police nous indique ne pas avoir saisi la justice de cette caricature qu’elle qualifiait pourtant d’infraction : elle en a laissé la censure à la libre appréciation de Google.


Fiche de signalement transmise par la police (cliquer pour agrandir)

À l’époque, Google n’avait pas censuré l’image (elle était publiée sur Google+ qui a fermé peu après). Toutefois, avec cette nouvelle proposition de loi « contre la haine », qui vise précisément le type d’infractions visées dans cette affaire, Google ou Facebook devront obligatoirement censurer en 24 heures les contenus « manifestement » illicites qui leur seront signalés, sous peine de sanctions allant jusqu’à 4% de leur chiffre d’affaire. Dans ces conditions, seront-ils vraiment capable de refuser de censurer les contenus signalés par la police ?

La justice indépendante, même si elle se fait parfois complice, est généralement mieux armée pour résister aux pressions du gouvernement. Elle doit être la seule à pouvoir actionner la censure publique. Toute alternative serait un renoncement plein et entier à la séparation des pouvoirs et à tout principe démocratique. En face, l’indépendance de Google et de Facebook est nulle : le président de Facebook, après avoir expliqué construire la régulation du Net main dans la main avec Emmanuel Macron, sera une nouvelle fois reçu demain comme un chef d’État à l’Élysée.

Tout acteur politique, de la majorité comme de l’opposition, qui ne s’opposera pas immédiatement et frontalement à cette privatisation de la justice en sera tenu responsable et dénoncé comme tel.

Lutter contre cette loi occupera lourdement La Quadrature du Net pour les mois à venir, et il nous reste bien d’autres aspects à aborder, tels que la promotion de la censure automatisée, du rôle du CSA ou de la censure administrative. Pourtant, notre budget annuel n’est aujourd’hui financé qu’à 70%, donc, au passage, vous pouvez nous faire un don pour nous permettre de continuer <3

]]>
[ParisMatch] Comment les géants du web mènent la bataille de la vie privéehttps://www.laquadrature.net/?p=14144http://streisand.me.thican.net/laquadrature.net/index.php?20190507_150000__ParisMatch__Comment_les_geants_du_web_menent_la_bataille_de_la_vie_priveeTue, 07 May 2019 13:00:00 +0000Confrontées à la pression des consommateurs, des associations et de certains gouvernements, les grandes entreprises de la tech espèrent démontrer qu’elles sont prêtes à protéger la vie privée de leurs utilisateurs. Jusqu’à tenter de se différencier les unes des autres sur cette question sensible. […]

[…] « C’est lamentable de se revendiquer d’un texte qu’il a tout fait pour détruire. Ils ne recueillent pas le consentement des utilisateurs. Le RGPD autorise des entreprises ou des administrations à traiter des données personnelles si ce traitement est nécessaire au service qu’on leur demande. Mais Facebook a complètement dévoyé cette logique-là en considérant que les gens viennent sur Facebook pour être surveillés et pour avoir de la publicité affichée ! Nous estimons que ce n’est pas pour cela que la majorité des gens utilise Facebook. Il faudrait donc recueillir leur consentement », s’agace Arthur Messaud, juriste à La Quadrature du Net, une association qui a lancé des poursuites contre Google, Apple, Facebook, Amazon et Microsoft. […]

https://www.parismatch.com/Actu/Economie/Comment-les-geants-du-web-menent-la-bataille-de-la-vie-privee-1619290

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[JeudiMutuelle] « Quel statut et quel avenir pour les données ? »https://www.laquadrature.net/?p=14143http://streisand.me.thican.net/laquadrature.net/index.php?20190507_130000__JeudiMutuelle______Quel_statut_et_quel_avenir_pour_les_donnees_______Tue, 07 May 2019 11:00:00 +0000« Peut-on concilier « Start up nation » et République Numérique ? » Tel est le thème sur lequel les invités de MGEN sont invités à débattre lors de la nouvelle édition de ce rendez-vous trimestriel, d’échanges et de débats sociétaux. […]

Pour en débattre, MGEN, représentée par son vice-président délégué Eric Chenut, accueille :

  • Axelle Lemaire, ancienne secrétaire d’Etat chargée du Numérique ;
  • Tristan Nitot, fondateur de Mozilla Europe et vice-président Advocacy de Qwant ;
  • Jean Spiri, normalien et géographe, Président du CRIPS, conseiller régional d’Île de France, auteur de « Demain, tous Estoniens ? » ;
  • Alexis Fitzjean O’Cobhthaigh, avocat au Barreau de Paris, chargé d’enseignement à l’Université Paris II Panthéon-Assas, membre de la Quadrature du Net ;
  • Lionel Cavicchioli, chef de rubrique Santé The Conversation France.

https://www.youtube.com/watch?v=gmRF3IqkBQM

NDLRP : retouvez une ‘pastille’ de ce débat avec une intervention de Alexis Fitzjean O’Cobhthaigh, membre de la Quadrature du Net sur le Peertube :

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
La vie privée pour les faibles, la transparence pour les puissantshttps://www.laquadrature.net/?p=14105http://streisand.me.thican.net/laquadrature.net/index.php?20190501_132150_La_vie_privee_pour_les_faibles__la_transparence_pour_les_puissantsWed, 01 May 2019 11:21:50 +00002010, WikiLeaks publie les journaux des guerres d’Irak et d’Afghanistan, la vidéo Collateral Murder, et enfin 300 000 cables diplomatiques US, mettant notamment à jour des crimes de guerre sur fond d’hypocrisie géopolitique mondiale..

2019, après avoir passé 7 ans dans l’ambassade d’Équateur comme réfugié politique, le journaliste Julian Assange, fondateur de WikiLeaks, est arrêté par la police britannique et risque une extradition aux États-Unis, où l’attend un système judiciaire sauvage et une procédure tenue secrète auprès d’un tribunal qui semble avoir posé les conclusions avant d’avoir entendu les arguments, avec à la clé de nombreuses années de prison, dans le meilleur des cas.

Entre les deux, WikiLeaks a mis en œuvre une vision, défendue depuis 2008 par La Quadrature du Net : la vie privée des individus et des groupes, la transparence des institutions et l’accès à l’information sont des droits fondamentaux, à respecter et faire respecter, tandis que les entreprises privées et les États doivent au peuple la transparence. Les États, par leurs fichiers d’État, procédures administratives et judiciaires, mais aussi les entreprises privées, doivent rendre compte aux citoyens des données dont ils disposent, des capacités d’écoute qu’ils mettent en œuvre et de leur influence sur le monde.

WikiLeaks, ses sources et ses soutiens ont payé cher le fait d’être parmi les premiers à montrer à une telle échelle les conséquences sur nos vies de la « guerre contre le terrorisme » menée par les puissances publiques et des entreprises privées du complexe militaro-industriel, qu’ont rejoint sans hésitation de nombreuses entreprises du numériques comme Alphabet (la maison mère de Google), Amazon (qui héberge entre autres le cloud de la CIA) ou Microsoft (au travers de ses nombreux contrats avec les différentes branches de l’armée américaine ou avec le Ministère des Armées français). La seule réponse de ces gouvernements a été de s’engager dans un harcèlement judiciaire coordonné.

Sous couvert de raison d’État, les systèmes judiciaires suédois et britanniques ont été manipulés pour faire traîner les procédures et coincer Julian Assange1Comme l’a montré Stefania Maurizi, journaliste italienne, dans une requête FOIA contre la justice britannique, dévoilant les échanges entre justice suédoise et britannique, et l’effacement des correspondances avec les autorités américaines. Les affaires d’agression sexuelles en Suède ayant été fermées après une interview d’Assange par la procureure suédoise en 2016 . Les USA, à travers Visa & Paypal, ont bloqué les moyens de financement de WikiLeaks. Les services de renseignement de nombreux pays ont tenté, parfois avec succès, de démobiliser les personnes soutenant publiquement ou techniquement les idées de WikiLeaks. La France comme l’Union Européenne, prétextant une défense des lanceurs d’alerte, se sont assurées de l’impossibilité de pouvoir dénoncer avec fiabilité et sécurité les abus tant des grands groupes que des administrations. Chelsea Manning, ancienne militaire accusée des fuites de 2010 ayant permis de divulguer de nombreuses exactions de l’armée américaine notamment durant la guerre d’Irak, condamnée à 35 ans de prison par un tribunal militaire, et depuis graciée, est de nouveau en prison de haute sécurité – et a été un temps à l’isolement – après avoir refusé de témoigner contre WikiLeaks, secrètement et devant un Grand Jury. Le Grand Jury a décidé de la persécuter une fois de plus alors que les dégâts causés par son emprisonnement précédent sont largement documentés2Sur le Washington Post & sur le Figaro. Ola Bini, développeur de logiciel libre et expert en sécurité informatique, a été arrêté en Équateur sous des prétextes fallacieux de complot contre le gouvernement équatorien3Voir le site de soutien à Ola Bini, invitant les membres de la communauté du logiciel libre ou de la sécurité informatique à appeler à sa libération. Il ne fait aucun doute que ces emprisonnements n’ont d’autres raisons que politiques.

La Quadrature du Net défend l’intimité de toutes et tous face aux gigantesques pouvoirs des États et des sociétés privées. Nous avons longtemps collaboré avec WikiLeaks, profitant des fuites sur ACTA, le traité commercial anti-contrefaçon que nous attaquions dès 2010. Nous continuons à défendre le droit à communiquer d’une manière qui respecte l’intimité, la vie privée, droit mis à mal par la surveillance d’Internet par les agences de renseignement occidentales – comme révélé par Edward Snowden – et des outils de surveillance et d’attaque informatique, révélés par WikiLeaks4Voir les révélations Vault7 & SpyFiles.

WikiLeaks a ouvert le bal des fuites massives de documents confidentiels des structures de pouvoirs. Cette méthode a depuis essaimé : Panama Papers, Offshore Leaks, LuxLeaks, ont été rendus possible par l’idée fondatrice d’abord concrétisée par le projet WikiLeaks : faciliter la mise en lumière là où certains voudraient garantir et profiter de l’obscurité. Rappelant au journalisme la nécessité de questionner les agissements des plus puissants, nous soutenons la cause incarnée par WikiLeaks et dénonçons la persécution illégitime de ses soutiens.

La Quadrature du Net soutient toutes les lanceuses et lanceurs d’alerte actuellement enfermé·e·s ou poursuivi·e·s (Jeremy Hammond, Reality Winner, Laurie Love, etc.) et dénonce les pratiques de mise à mort lente et de torture employées, comme ce fut le cas avec Chelsea Manning. Nous souhaitons qu’Internet puisse rester un instrument permettant l’émancipation et un moyen de reprendre du pouvoir par rapport au contrôle des États ou des grands acteurs privés. Un outil facilitant l’échange d’informations et la protection des sources. Force est de constater que de nombreux États sont prêts à tout pour faire taire les personnes qui cherchent à s’en servir en ce sens.

Nous défendons la vie privée pour les faibles et la transparence pour les puissants.

Julian Assange ne doit pas être extradé.
Chelsea Manning & Ola Bini doivent être libérées.

References   [ + ]

1. Comme l’a montré Stefania Maurizi, journaliste italienne, dans une requête FOIA contre la justice britannique, dévoilant les échanges entre justice suédoise et britannique, et l’effacement des correspondances avec les autorités américaines. Les affaires d’agression sexuelles en Suède ayant été fermées après une interview d’Assange par la procureure suédoise en 2016
2. Sur le Washington Post & sur le Figaro
3. Voir le site de soutien à Ola Bini, invitant les membres de la communauté du logiciel libre ou de la sécurité informatique à appeler à sa libération
4. Voir les révélations Vault7 & SpyFiles
]]>
Règlement terroriste : premier bilan et prochaines étapeshttps://www.laquadrature.net/?p=14081http://streisand.me.thican.net/laquadrature.net/index.php?20190426_114837_Reglement_terroriste____premier_bilan_et_prochaines_etapesFri, 26 Apr 2019 09:48:37 +0000Mercredi 17 avril, l’ensemble du Parlement européen a adopté en première lecture le règlement de censure des « contenus terroristes » en ligne. Par une très faible majorité, il a refusé de nous défendre contre la censure politique ou de protéger le Web libre et ouvert européen.

Le texte prévoit toujours qu’un juge ou que la police puisse demander à n’importe quelle plateforme de supprimer un contenu en une heure, ce qu’aucune plateforme ne pourra faire sans utiliser les outils de filtrage automatisé développés par Google et Facebook.

Heureusement, la lutte n’est pas finie : le texte pourra encore être modifié en seconde lecture par le nouveau Parlement qui sera élu lors des prochaines élections européennes. Ce sera la décision de ces futurs députés qui marquera la fin de la guerre. Et nous ne manquons pas de raisons d’espérer qu’au final, ce sont nos libertés qui l’emporteront.

Pour préparer cette dernière bataille, faisons d’abord le bilan de celle qui s’est achevée.

Les origines du règlement

La Commission européenne a publié sa proposition de règlement le 12 septembre 2018, en toute discrétion, le jour même où toute la lumière était braquée sur un vote décisif du Parlement européen concernant la directive Copyright (lire notre réaction à l’annonce du règlement terroriste et notre réaction du même jour au vote sur la directive Copyright).

Comme on le verra ensuite, le fait que ce règlement et cette directive aient été débattues en parallèle par l’Union européenne a posé de nombreux problèmes pour lutter tant contre l’un que contre l’autre, tout en révélant une volonté générale de la part de nos gouvernements de réguler le Web dans son ensemble pour les années à venir.

Cette volonté apparaît bien en amont dès 2015. Suite à une série d’attaques meurtrières en Europe, la Commission européenne réunit Google, Facebook, Twitter et Microsoft pour former le « Forum de l’Internet Européen » afin de chercher une solution « pour protéger le public de la diffusion de contenus terroristes ». L’idée de base est déjà là : confier aux géants du numérique la mission de chercher des solutions à nos problèmes.

Ces géants n’ont pas manqué l’occasion de proposer une solution qui, bien que peu utile, renforcerait leur domination sur le reste du Web et permettrait aux gouvernements européens de se donner bonne image (au premier rang desquels le gouvernement français, avec qui Facebook ne cache même plus son alliance). En juin puis en décembre 2017, la Commission européenne félicite les quatre géants pour la solution qu’ils ont construite : une liste noire contenant l’empreinte numérique de dizaines de milliers d’images et de vidéos catégorisées comme « terroristes » par leurs services de modération (qui mêlent « intelligence artificielle » et milliers d’employés exploités dans les pays les moins riches).

Le projet est déjà explicite : faire en sorte que l’ensemble des services Web utilisent la liste noire des géants pour filtrer les contenus qu’ils diffusent. Tout ça sans juge, sans contrôle démocratique, sans rien. Voilà le grand projet : confier aux GAFAM la mission de « civiliser » Internet.

C’est aussi ce qu’opère la directive Copyright : elle inscrit dans la loi la « solution » inventée par les GAFAM contre les pirates barbares qui, dans les fantasmes de l’industrie culturelle, nuiraient à cette dernière. Pour « civiliser » Internet, la généralisation du modèle Content-ID de Youtube assurera désormais l’exploitation massive de nos données personnelles afin de financer cette industrie. S’en remettre aux dominants est tellement plus simple que de repenser ses propres politiques culturelles (lire la tribune de Félix Tréguer, membre de La Quadrature, dans Le Monde qui le dénonçait).

On retrouve enfin la même inspiration dans la proposition de loi « contre la haine » déposée par Mme Avia en France il y a un mois : juste avant de quitter le secrétariat au numérique, Mounir Mahjoubi expliquait comment la loi devait s’inspirer de la modération mise en place par Facebook, présenté comme héros du Web (lire notre critique).

Le texte initial

Tel que proposé par la Commission européenne, le règlement sur le retrait des contenus terroristes permet de confier le contrôle du Web aux GAFAM de deux façons.

À son article 4, le texte prévoit qu’une plateforme doit retirer en une heure un contenu signalé comme terroriste par les autorités. Aucune petite ou moyenne plateforme ne peut répondre à une telle demande, ayant rarement des techniciens travaillant la nuit ou le week-end. Ces plateformes n’auront d’autres choix que d’empêcher en amont la mise en ligne du moindre contenu suspect en utilisant la liste noire fournie par les géants du Web. C’est précisément l’objectif annoncé depuis 2015 par la Commission, et aucun de nos interlocuteurs (ministères, députés…) n’a jamais pris la peine de le nier.

À son article 6, il est prévu que si, malgré la lourde pression que constitue l’article 4, une plateforme ne mettait pas en place un système de filtrage automatisé, les autorités pourraient l’y obliger. Les autorités pouvaient même désigner l’outil précis à implémenter, leur permettant de renvoyer explicitement vers celui de Google, Facebook, Twitter et Microsoft (toutefois, comme on le verra ensuite, ce point a ensuite évolué lors des débats).

Hélas, le texte ne s’arrête pas à une simple délégation de la censure du Web à ces géants. Il confère aussi de larges pouvoirs aux États pour qu’ils puissent eux-mêmes censurer Internet. La demande de retrait de l’article 4 peut venir tant d’un juge que de la police, qui agit alors sans autorisation judiciaire requise. De même, l’article 5 du texte initial prévoit un mécanisme de signalement par lequel la police ou Europol pouvait forcer une plateforme à vérifier si un contenu était conforme à ses propres conditions d’utilisations, qui, elles-mêmes, devaient obligatoirement interdire la publication de contenus terroristes (ce point aussi a évolué au fil des débats, on en reparlera ci-dessous).

Autant de pouvoirs qui ne manqueront pas d’être détournés par nos gouvernements pour nous censurer à des fins purement politiques (la police française l’a déjà fait, dévoyant ses pouvoirs anti-terroristes contre des militants d’extrême gauche et faisant bloquer leur site. Un an et demi après, cette censure a finalement été déclarée illégale par un tribunal).

Une fausse solution

Après avoir fait un large tour des ministères français pour dénoncer ce texte (lire notre compte rendu), nous avons rapidement réalisé que nous ne pourrions pas nous contenter de dire que ce règlement serait inapplicable par les petites et moyennes plateformes ou qu’il ouvrirait les portes de la censure politique. Car on nous a vite fait comprendre que c’était bien son but.

C’est donc ce but que nous avons cherché à déconstruire, en trois étapes.

Premièrement, en dénonçant combien confier aux géants du Web la modération de celui-ci serait un contre-sens, tant « l’économie de l’attention » qui fonde leur modèle porte une lourde responsabilité dans la sur-représentation de conflits et de propos anxiogènes en ligne (lire une de nos multiples analyses à ce sujet). De façon surprenante, nous avons rencontré assez peu d’oppositions à cet argument, si ce n’est la vague idée que « les GAFAM sont la moins pire des solutions ».

Deuxièmement, nous avons tenté de déconstruire le mythe de « l’auto-radicalisation en ligne », qui voudrait qu’un individu lambda puisse être pris d’envies meurtrières après être arrivé par hasard sur quelques vidéos de propagande terroriste, et qu’il faudrait donc l’empêcher de tomber dessus. Un rapport de l’UNESCO de 2017 nous a ici grandement aidé : après avoir recoupé 550 études sur la question, il conclut à l’absence de preuve au soutien d’un tel mythe, tout en soulignant les atteintes à la liberté d’expression commises en son nom. Les ministères et députés soutenant le règlement n’ayant plus d’arguments factuels pour se défendre, ils nous ont répondu que leur but n’était finalement peut-être pas tant de lutter contre « l’auto-radicalisation spontanée », mais surtout contre l’utilisation d’Internet à des fins d’organisation et de planification d’attentats entre personnes déjà radicalisées.

Rapport de l’UNESCO : Youth and violent extremism on social media: mapping the research

Ainsi, dans un troisième temps, nous avons dû leur expliquer que leur règlement serait bien peu utile à cette fin. Les personnes soutenant des idéologies meurtrières communiquent déjà via des plateformes qui violent et contournent sciemment la loi et qui se moqueront bien de recevoir des demandes de retrait officielles. Aucune loi ne peut prévoir des solutions informatiques crédibles pour lutter contre les idéologies meurtrières. Cette lutte ne peut s’opérer que par des changements culturels et structuraux.

En dernier ressort, nos adversaires n’avaient plus qu’une sorte de pseudo « principe de précaution » à nous présenter, en forme de « peut-être que tout cela ne sert à rien mais, on ne sait jamais, peut-être qu’on découvrira plus tard que c’était utile »… quitte à sacrifier nos libertés et notre écosystème numérique pour le découvrir. Difficile de croire en la sincérité d’une posture aussi absurde, qui semble surtout révéler leur véritable intention : se vanter d’avoir adopté un texte symbolique, aussi inutile et dangereux fut-il, juste avant les élections européennes.

À la toute fin du débat est apparu un dernier argument. La diffusion incontrôlée et sur une longue période de la vidéo de l’attentat de Christchurch sur Youtube et Facebook a démontré que les outils de modération automatisées de ces derniers étaient largement inutiles. Leur liste noire à base d’empreintes numériques a pu être très facilement contournée par les soutiens du meurtrier, qui ont simplement mis en ligne la vidéo sous différents formats pour échapper aux reconnaissances automatisées. Par une ironie dont l’amertume est insupportable, la diffusion de cette vidéo a démontré la vacuité absolue de ce règlement.

Le débat général

Tous ces débats ont dû se tenir dans un temps extrêmement court, car les gouvernements français et allemand, qui avaient demandé ce texte à la Commission européenne, entendaient bien le faire adopter avant les élections. En tout, le débat en première lecture aura duré à peine 8 mois (un sinistre record pour un texte d’une telle gravité).

Dans un premier temps, le texte a été discuté par le Conseil de l’Union européenne, qui réunit les gouvernements de l’Union. Grâce à l’engagement de 61 associations et acteurs du Web, nous avons pu dénoncer conjointement la stratégie anti-européenne d’Emmanuel Macron, qui favorise les GAFAM et viole la séparation des pouvoirs en permettant des censures politiques (lire la lettre commune). Quelques jours plus tard, le 6 décembre 2018, le Conseil de l’Union adoptait toutefois un accord sur le texte dans une version quasiment identique à l’initiale (lire notre réaction).

En parallèle, depuis presque aussi longtemps que nous combattions ce texte, le mouvement des gilets jaunes prenait en France une ampleur spectaculaire, entraînant une répression encore plus impressionnante. Nous n’avons pas pu nous empêcher de constater que le règlement soi-disant anti-terroriste serait une arme de choix pour censurer un tel mouvement social, tant le droit européen permet d’interprétations extensives (lire notre analyse).

Au parlement européen

Les débats au Parlement européen ont assez mal commencé. Le 12 décembre, soit le lendemain d’une fusillade ayant eu lieu à Strasbourg (l’endroit même où siégeait le Parlement à cette date), l’ensemble des députés ont adopté un rapport « sur les observations et les recommandations de la commission spéciale sur le terrorisme ». Ce rapport, qui n’a pas de valeur législative mais exprime simplement la volonté du Parlement, a été une sorte de prémice au règlement à venir. Il se félicite d’ailleurs de la proposition faite par la Commission et appelle explicitement à la « détection automatique » et à la « suppression systématique » des contenus terroristes (voir notre lettre envoyée aux députés avant l’adoption de ce texte puis notre réaction à son adoption).

Il a fallu attendre fin janvier pour que les débats commencent vraiment au Parlement européen. Daniel Dalton, député d’extrême-droite (groupe ECR) venant du Royaume-Uni, prêt à rendre son mandat d’un jour à l’autre en prévision d’un Brexit qui semblait alors imminent, avait été désigné rapporteur sur le texte. En tant que tel, sa mission était d’organiser les débats au sein de la commission LIBE (pour « libertés civiles ») afin de proposer un « rapport » (une version amendée du règlement) ensuite soumis au vote de l’ensemble du Parlement.

Fin janvier 2019, donc, Dalton proposait un projet de rapport laissant presque inchangée la proposition initiale de la Commission européenne. Ce renoncement à corriger le texte tranchait radicalement avec la position de Dalton sur la directive copyright, où il s’était opposé au filtrage automatisé, notamment pour protéger les petites plateformes. Son incohérence semblait totale (lire notre analyse). Par la suite, nous avons pu le rencontrer à plusieurs reprises au Parlement européen, pour y deviner sans grande surprise que cette incohérence cachait probablement les aspirations carriéristes les plus triviales : Dalton avait parfaitement saisi les causes et conséquences du règlement mais, tout en reconnaissant que la mesure phare du « retrait en une heure » était aussi absurde que dangereuse, il tenait à tout prix à la conserver ne serait-ce que pour le symbole qu’elle portait.

Dès février 2019, c’est sur la base de ce projet de rapport que les différents groupes politiques représentés dans la commission LIBE ont commencé à débattre pour chercher des compromis. Nous lancions notre page de campagne qui, dans les 2 mois de discussions restants, permettrait à tout le monde de contacter les 61 membres de LIBE pour les alerter sur les dangers de ce texte.

Le vote final de LIBE sur son rapport avait été fixé au 21 mars. Avant cela, au cours du mois de mars, les commission IMCO (« consommateurs ») et CULT (« culture ») ont chacune rendu un avis pour assister LIBE. Ces avis, bien que très imparfaits, proposaient enfin des améliorations (lire notre réaction aux avis de IMCO et de CULT). Durant ce temps, nous rencontrions le plus grand nombre possible de membres de LIBE au Parlement et, après avoir rencontré l’équipe de Rachida Dati (chargée de mener les négociations en LIBE pour le groupe de droite PPE), dénoncions sa position encore plus dangereuse que celle de Dalton (lire notre article).

Acceptant enfin la gravité de ce règlement, les membres de LIBE ont été obligés de reporter leur vote par deux fois, jusqu’au 8 avril, se donnant trois semaines supplémentaires pour négocier le rapport. Trois semaines semblent un délai ridiculement court pour un texte si important – et il l’est -, mais le calendrier initial ne prévoyait même pas deux mois pour en débattre. La Commission comme les États membres se sont largement ingérés dans les affaires du Parlement (avec succès) pour exiger que celui-ci adopte un texte en première lecture avant la fin de son mandat, mi-avril, ce qui demandait l’adoption urgente du rapport LIBE.

Vous n’aurez pas manqué de le constater : tout ce débat contre le règlement terroriste s’est déroulé alors même que l’Union européenne débattait de la directive Copyright. Après que le Parlement ait arrêté une première position sur cette directive Copyright en septembre 2018, ce texte était parti en négociations inter-institutionnelles (« trilogue ») entre le Conseil de l’Union (qui réunit les gouvernements des États membres), la Commission européenne et des députés mandatés à cette fin par le Parlement, afin de trouver un compromis général. Ces négociations ont été très mouvementées, avec divers retournements de situation, tant est qu’il était bien difficile de prévoir la date de leur aboutissement (notamment de savoir s’il interviendrait avant ou après la fin de l’actuelle mandature).

Lorsque nous lancions début février notre page de campagne pour appeler les députés contre le règlement terroriste, ces négociations sur la directive Copyright n’étaient même pas finies, et nous ne pouvions guère savoir lequel des deux textes serait voté le premier par le Parlement.

Le trilogue sur Copyright aboutissait finalement peu après, fin février, et de nombreuses associations européennes alliées lançaient alors leur pleine campagne contre la directive Copyright, principalement autour de la plateforme Pledge2019, qui permettait à tout le monde de contacter les députés et à laquelle La Quadrature du Net a apporté sa signature dès le lancement.

Quelques semaines plus tôt, alors que les différentes campagnes contre ces deux textes se préparaient, nous avions pendant un temps pensé avec les associations européennes amies de La Quadrature faire une campagne unique contre les deux textes. On comprend bien pourquoi : les deux textes se fondent sur des mesures de filtrage automatisé et sur la place centrale confiée aux acteurs dominants du Web. Cette stratégie était d’autant plus intéressante qu’elle nous offrait une certaine souplesse, ne connaissant alors pas l’ordre dans lequel les deux textes seraient votés.

Fin février, l’idée d’une campagne unique a finalement été écartée, et ce pour des raisons très diverses, allant de l’espoir que la victoire contre la directive copyright pourrait suffire à convaincre les députés de corriger les pires mesures du règlement terroriste (stratégie qui ne nous a pas convaincu tant les deux sujets étaient différents), à la crainte que la campagne contre la directive Copyright soit moins mobilisatrice si elle était mélangée aux argument forcément plus graves et anxiogènes à invoquer contre le règlement terroriste.

À La Quadrature du Net, depuis plusieurs années, nous nous sommes malheureusement habituées à parler de morts et de massacres (ce qui est loin d’être agréable), ceux-ci étant systématiquement et honteusement récupérés par notre gouvernement pour renforcer illégitimement ses pouvoirs. Les associations d’autres pays n’en ont peut-être pas la même habitude (et tant mieux pour la santé mentale de leurs membres). Nous avons donc continué de mener la campagne contre le règlement terroriste pour laisser la grande majorité de nos alliés se concentrer contre la directive Copyright, avec le soutien que nous pouvions leur apporter (qui, il faut le reconnaître sans détour, aurait été plus important si les deux textes n’étaient pas tombés en même temps).

Toutefois, cette division de nos forces entre ces deux textes, aussi regrettable qu’inévitable, n’a peut-être eu qu’un effet assez secondaire comparé à un autre problème scandaleux : les médias dominants français, partie prenante de premier plan en faveur de la directive Copyright et alliés avec l’industrie culturelle à cette fin, ont ici largement renoncé à leur idéal d’impartialité. Inondant le public d’informations erronées et biaisées sur la directive, emportés dans leur campagne politique délirante, ils ont presque entièrement « oublié » de parler du règlement terroriste. C’est une situation parfaitement inédite pour la presse française s’agissant d’un texte d’une telle gravite, dont le public n’aura pris connaissance que par des associations militantes et quelques média spécialisés. La responsabilité des médias dominants français est immense dans la perte de libertés causée tant par la directive Copyright que par le règlement terroriste.

Au final, le vote final de la directive Copyright a été fixé au 26 mars, juste avant le vote en LIBE sur le règlement terroriste, repoussé lui au 8 avril. À une très courte majorité, le Parlement a accepté de sacraliser la surveillance économique de masse comme source de financement de la culture, sur la base des outils de filtrage automatisé inventés par Youtube avec son Content-ID (lire notre dernier appel à s’opposer à la directive Copyright et notre réaction à son adoption).

La lutte contre la politique promue par cette directive se poursuivra désormais au niveau national, avec diverses propositions législatives en cours en France sur lesquelles nous reviendrons très bientôt.

Le règlement adopté

Le 8 avril donc, la Commission LIBE a adopté sa version du règlement terroriste (lire notre réaction). Le vote en assemblée plénière pour une première lecture par le Parlement européen a été fixé moins de dix jours plus tard, au mercredi 17 avril. Durant ce très court délai, nous avons tout juste eu le temps d’étendre notre outil aidant à contacter les membres du Parlement (prévu au départ pour les 61 députés de la commission, nous l’avons étendu à l’ensemble des députés), ainsi que d’envoyer à ces derniers un courrier pour les avertir du danger du texte (lire notre courrier).

Tout ceci en vain. Car comme nous l’avons constaté de nous-mêmes directement depuis Strasbourg, le texte a été adopté en quelques minutes en première lecture, durant l’une des dernières séances du Parlement avant les élections de mai.

La version adoptée est, à un détail près, la version issue de la Commission LIBE.

Que modifie-t-elle précisément par rapport à la proposition de la Commission européenne de septembre ?

Le champ d’application est légèrement modifié. Suite à un lobbying intense des industries du « cloud », les acteurs visés ne sont maintenant plus que ceux qui stockent et mettent du contenu à disposition « du public » (et non plus « des tiers »), avec une sortie explicite des « services d’infrastructure en nuage » et des « fournisseurs de service en nuage ».

Le plus inquiétant est que la version conserve, en son article 4, la possibilité qu’une plateforme puisse être obligée de retirer en seulement une heure un contenu signalé comme terroriste par les autorités. Plusieurs amendements proposaient de supprimer ce délai d’une heure dont Daniel Dalton avait fait un symbole. L’amendement de suppression déposé par le groupe des Verts est rejeté de seulement 3 voix (297 pour et 300 contre – voir le résultat des votes).

Résultat des votes sur l’amendement supprimant le délai de retrait en une heure

Deux précisions sont néanmoins apportées : la première est que seule l’autorité du pays où le fournisseur de services a son établissement principal peut émettre ce type d’injonction ; la seconde est que si c’est la première fois que le fournisseur reçoit ce type d’injonction, l’autorité doit le contacter au moins 12 heures avant l’injonction. Ces précisions ne changent pas grand chose : que ce soit une ou treize heures, cela reste des délais beaucoup trop courts pour la plupart des acteurs du Web qui ne seront simplement pas en capacité de les respecter.

Quant à l’autorité compétente capable d’émettre de telles injonctions, il ne s’agit toujours pas uniquement d’un juge. Le texte précise maintenant qu’il peut s’agir d’une « autorité judiciaire ou autorité administrative fonctionnellement indépendante ». Mais la notion d’une autorité « fonctionnellement indépendante » peut être interprétée largement par les États membres et ne garantit en aucun cas la désignation d’une autorité juridiquement distincte du gouvernement (il est ainsi possible que l’OCLTCIC, l’office de la police nationale qui a déjà en France le pouvoir d’ordonner le blocage de sites faisant l’apologie de terrorisme soit considéré comme « fonctionnellement indépendant ») ;

L’article 5 permettant aux autorités de signaler un contenu à une plateforme est lui entièrement supprimé. S’il s’agit d’une victoire, elle reste très symbolique car, en pratique, les États et Europol continueront de recourir à ces signalements, qui ne sont ni interdits ni limités par la nouvelle version du règlement.

L’article 6 est profondément modifié. Il n’évoque plus des mesures « proactives » mais des « mesures spécifiques », et les fournisseurs de services ont désormais seulement la « possibilité » de les mettre en œuvre, et non plus une obligation générale de principe. Surtout, le texte précise que l’autorité compétente ne peut pas imposer d’ « obligation générale de surveillance, ni l’utilisation d’outils automatisés ». C’est probablement ici la plus importante victoire obtenue sur ce texte, même si, en pratique, les plateformes n’auront pas d’autre choix que de recourir en amont à des outils de filtrage automatisé pour ne pas s’exposer en aval à des demandes irréalistes de retrait en une heure.

L’article 9 prévoit enfin que les plateformes doivent systématiquement prévoir une vérification humaine « quant à la pertinence des décisions de suppressions des contenus ou d’interdiction à ceux-ci ». Un tel encadrement, rédigé d’une manière aussi large, pourrait s’avérer très intéressant pour limiter le recours au filtrage automatisé des contenus sur les plateformes en ligne, à condition toutefois qu’il soit interprété comme exigeant une intervention humaine s’agissant des filtres réalisés a priori (au moment de la mise en ligne du contenu) et pas seulement des modérations a posteriori – tout le risque de ce texte étant d’imposer en pratique des filtres a priori.

Au final, malgré quelques ajouts et modifications atténuant certains points problématiques, l’adoption de ce texte par le Parlement européen reste néanmoins avant tout une très lourde défaite. De manière générale, le texte promeut encore et toujours l’idée dangereuse que la censure des contenus en ligne peut être une réponse contre la diffusion d’idéologies meurtrières.

Surtout, en maintenant la possibilité pour une autorité administrative d’ordonner à n’importe quel acteur du Web le retrait en une heure d’un contenu (et cela sous la menace de lourdes sanctions) les institutions européennes vont forcer ces acteurs à adopter une interprétation large de la notion de « contenus terroristes » et à utiliser en amont des outils de filtrage automatisés.

Le fait d’interdire aux autorités de pouvoir imposer l’utilisation de ces outils ne change donc pas grand chose. Seuls les géants du Web pourront respecter ces obligations, d’où notre crainte d’un Web encore plus centralisé aux mains d’une poignée d’entreprises.

Enfin, les points de progrès qui ont pu être apportés par le texte de la Commission LIBE (suppression de l’article 5, adoucissement de l’article 6, délai d’une heure étendu dans certains cas précis, encadrement du filtrage automatisé) seront très certainement contestés en trilogue par la Commission européenne et les États membres les plus impliqués (dont la France). Il ne peut donc en aucun cas être crié victoire pour ces seules maigres avancées.

Et maintenant ?

Le texte tel qu’adopté sera donc la position du Parlement européen pour les négociations en trilogue à venir lors de la prochaine mandature avec la Commission européenne et le Conseil de l’Union européenne (regroupant les gouvernements des États membres). Le tout avant un autre vote, final cette fois-ci, par l’ensemble des nouveaux députés en séance plénière l’année prochaine.

Le combat est donc loin d’être déjà perdu, surtout lorsqu’on voit le nombre de voix qui ont manqué pour enlever le délai d’une heure (3 !) et les avancées (mêmes symboliques) que nous avons pu imposer en dépit des conditions et délais quasi-intenables dans lesquels s’est déroulé ce premier débat. Nous le disions en début d’article : le texte pourra encore être modifié en seconde lecture, mais cela nécessitera une nouvelle mobilisation dans quelques mois, au moment des trilogues et des débats au Parlement. Si l’on veut parvenir au rejet de ce texte, ou à tout le moins à le vider de l’essentiel de sa substance, cette mobilisation nécessitera la participation de l’ensemble des associations européennes et une implication beaucoup plus importante des médias sur le sujet, dans des circonstances qu’il faudra espérer plus propices.

C’est à cette condition que l’on peut espérer parvenir à repousser la censure de masse et automatisée qui est au cœur de ce texte.

Avant de nous lancer dans cette nouvelle lutte, prenons le temps de remercier toutes celles et ceux qui ont participé à cette campagne et ont aidé aux premières victoires qui ont pu être acquises : toutes les associations et organisations (françaises et européennes) qui ont milité, avec nous ou de leur côté, pour faire tomber ce texte ou ses pires dispositions (notamment les 61 signataires de la lettre ouverte adressée à Emmanuel Macron), toutes les personnes qui ont relayé et aidé à relayer nos articles et communications, toutes celles aussi qui ont contacté les députés européens (et celles qui sont venues le faire avec nous dans nos locaux), celles qui ont aidé la traduction de notre site (en anglais et en allemand). Merci <3 !

À dans quelques mois pour la suite de la lutte !

]]>
[FranceCulture] Entendez-vous l’éco ? Le prix du gratuit (3/4) Gratuité, données, publicitéhttps://www.laquadrature.net/2019/04/23/franceculture-entendez-vous-leco-le-prix-du-gratuit-3-4-gratuite-donnees-publicite/http://streisand.me.thican.net/laquadrature.net/index.php?20190423_130000__FranceCulture__Entendez-vous_l___eco____Le_prix_du_gratuit__3_4__Gratuite__donnees__publiciteTue, 23 Apr 2019 11:00:00 +0000« Si c’est gratuit, c’est vous le produit » : un adage vieux comme Internet pourtant sans cesse renouvelé, de scandales en tentatives de légiférer sur un « droit à l’oubli ». Que peuvent faire les individus face à la marchandisation de leurs données ? Quelles mesures de régulation envisager ? […]

Les réseaux sociaux, des services gratuits, vraiment ? On entend Benjamin Bayart dire : « C’est une impression qui est très fausse« . Il précise : « Il y a une inversion des rapports. Quand vous avez un système économique qui se base sur la publicité, vous n’êtes plus sujet de la transaction : vous en êtes l’objet. Le client, c’est le publicitaire, le vendeur est le développeur de l’application, et le produit qu’on vend, c’est vous. Ça change tout. » […]

Intervenants :

  • Fabrice Rochelandet, Professeur en sciences de l’information et de la communication à l’Université Sorbonne-Nouvelle (Paris III)
  • Benjamin Bayart, Cofondateur de la Quadrature du Net, co-président de la fédération des Fournisseur d’Accès à Internet associatifs (FFDN) […]

https://www.franceculture.fr/emissions/entendez-vous-leco/le-prix-du-gratuit-34-publicites-donnees-gratuite

[NDLRP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[BursttheBubble] Episode #4 – The EU Terrorist Content Regulation – interview with Arthur Messaudhttps://www.laquadrature.net/2019/04/22/burstthebubble-episode-4-the-eu-terrorist-content-regulation-interview-with-arthur-messaud/http://streisand.me.thican.net/laquadrature.net/index.php?20190422_130000__BursttheBubble__Episode__4_____The_EU_Terrorist_Content_Regulation_____interview_with_Arthur_MessaudMon, 22 Apr 2019 11:00:00 +0000NDLRP : entretien en français.

On 12th September 2018, the European Commission presented a regulation on preventing the dissemination of terrorist content online. Next Wednesday, 17th April 2019, the European Parliament will express its opinion on the regulation. NGOs are worried about the impact of this legislation on the rights of internet users and on the potential abuse of pre-emptive censorship. We discuss the main criticisms to the Terrorist Content Regulation with Arthur Messaud from the advocacy group « la Quadrature du Net« .(16 April 2019)

https://soundcloud.com/btb_eu/episode-4-the-eu-terrorist-content-regulation

NDLRP – Retrouvez l’entretien sur le Peertube de La Quadrature du net :

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[NextINpact] Le Parlement adopte le retrait des contenus terroristes en une heurehttps://www.laquadrature.net/2019/04/22/nextinpact-le-parlement-adopte-le-retrait-des-contenus-terroristes-en-une-heure/http://streisand.me.thican.net/laquadrature.net/index.php?20190422_120000__NextINpact__Le_Parlement_adopte_le_retrait_des_contenus_terroristes_en_une_heureMon, 22 Apr 2019 10:00:00 +0000En séance plénière, les eurodéputés ont adopté par 308 voix pour (204 contre, 70 abstentions) le Règlement relatif à la prévention de la diffusion de contenus à caractère terroriste en ligne. C’est la position (ou « mandat ») de la commission des libertés civiles (LIBE) qui a été retenue. […]

Pour la Quadrature du Net, très remontée contre ce texte, « d’un point de vue technique, économique et humain, seule une poignée d’acteurs – les géants du Web – pourront respecter des obligations aussi strictes ». […]

« L’obligation de censurer un contenu en une heure, avec la menace de lourdes amendes, aura pour effet de motiver les acteurs du Web à censurer en amont tout contenu potentiellement illicite, et ce en adoptant une définition la plus large possible du terrorisme pour ne pas recevoir des ordres de retraits impossibles à satisfaire en pratique » ajoute LQDN. […]

https://www.nextinpact.com/brief/le-parlement-adopte-le-retrait-des-contenus-terroristes-en-une-heure-8496.htm

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[NextINpact] Caméras, drones, micros… Quand Saint-Étienne rêve de tranquillité urbainehttps://www.laquadrature.net/2019/04/21/nextinpact-cameras-drones-micros-quand-saint-etienne-reve-de-tranquillite-urbaine/http://streisand.me.thican.net/laquadrature.net/index.php?20190421_130000__NextINpact__Cameras__drones__micros____Quand_Saint-Etienne_reve_de_tranquillite_urbaineSun, 21 Apr 2019 11:00:00 +0000La Quadrature du Net a obtenu tout un lot de documents concernant le projet de Safe City rêvé par la ville de Saint-Étienne. Une ville intelligente, en passe d’être ultra sécurisée… jusqu’à flirter avec un univers orwellien. […]

Aux yeux de la Quadrature du Net, qui s’inquiète de la question des données personnelles et de la passivité de la CNIL, l’analyse est beaucoup moins paisible : « on retrouve ici l’idéal, partagé par toutes ces expérimentations « Safe Cities », de la surveillance complète de l’espace public, à l’aide notamment de multiples outils dits « intelligents » ayant pour but de détecter chaque bizarrerie, chaque anormalité afin de les analyser et faciliter leur rapide annihilation ». […]

https://www.nextinpact.com/news/107796-cameras-drones-micros-quand-saint-etienne-reve-tranquillite-urbaine.htm

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LeProgres] A Saint-Etienne, on envisage la surveillance de l’espace public par des droneshttps://www.laquadrature.net/2019/04/21/leprogres-a-saint-etienne-on-envisage-la-surveillance-de-lespace-public-par-des-drones/http://streisand.me.thican.net/laquadrature.net/index.php?20190421_120000__LeProgres__A_Saint-Etienne__on_envisage_la_surveillance_de_l___espace_public_par_des_dronesSun, 21 Apr 2019 10:00:00 +0000Plusieurs documents révélés par l’association de défense des droits et libertés des citoyens sur internet, « La Quadrature du Net », montrent que la municipalité envisage de faire appel à des drones afin de sécuriser certaines rues. […]

Une expérimentation qui ne devrait pas rassurer les défenseurs des libertés publiques, au premier titre de l’association à l’origine de la publication des documents, qui dénonce le « rêve d’un quartier sans cris, sans bruits anormaux ou trop forts, sans tags : un quartier silencieux et débarrassé de toutes les extravagances humaines. » […]

https://www.leprogres.fr/loire-42/2019/04/18/a-saint-etienne-on-envisage-la-surveillance-de-l-espace-public-par-des-drones

NDLRP – retrouvez notre article Mouchards et drones à Saint-Etienne : le maire veut étouffer le débat.

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[BursttheBubble] The GDPR and the GAFAM – interview with Arthur Messaudhttps://www.laquadrature.net/?p=14062http://streisand.me.thican.net/laquadrature.net/index.php?20190420_130000__BursttheBubble__The_GDPR_and_the_GAFAM_____interview_with_Arthur_MessaudSat, 20 Apr 2019 11:00:00 +0000Today we introduce our mini-series on how the EU is influencing the use of the internet. In this episode we analyse the European regulation on data protection, the GDPR. With our guest Arthur Messaud, legal and political analyst at the French advocacy group « la Quadrature du Net« , we explore the link between the GDPR and the GAFAM, the top 5 companies operating in the digital market. (11 April 2018). […]

https://soundcloud.com/btb_eu/episode-3-gdpr-and-gafam

NDLRP : entretien en français à retrouver également sur le Peertube de La Quadrature du Net :

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[Usbek&Rica] Erratum : la question du futur de la démocratie est mal posée, merci de reformulerhttps://www.laquadrature.net/?p=14063http://streisand.me.thican.net/laquadrature.net/index.php?20190420_110000__Usbek_Rica__Erratum____la_question_du_futur_de_la_democratie_est_mal_posee__merci_de_reformulerSat, 20 Apr 2019 09:00:00 +0000Comment répondre à la question « Quelle politique pour le numérique ? » si les termes du débat sont mal posés ? Voilà la conclusion tirée de deux jours passés sur les bancs de l’assemblée fictive du Grand Barouf Numérique, un événement de la Métropole Européenne organisé avec Ouishare et POP. C’est parti pour une correction en bonne et dûe forme de notre copie… et du dictionnaire. […]

Le moins qu’on puisse dire, c’est que ces deux journées de grand barouf ont fait siffler les oreilles des GAFA – ou GAFAM -. Et la timide incursion de la Directrice des politiques publiques Google France, Elisabeth Bargès, arguant que “le G de GAFA” n’est pas un géant comme les autres n’aura pas suffit à calmer les véhémences. Malgré tout, plusieurs voix se sont faites entendre pour essayer de retourner un problème posé de manière a priori trop simpliste. « Nous sommes sujets à une sorte de schizophrénie » explique le co-fondateur de la Quadrature du Net Benjamin Bayart. « On veut retirer du pouvoir à Facebook, mais dans le même temps, on attend de lui qu’il fasse la police sur nos contenus. En lui demandant cela, on lui confère un pouvoir régalien – de surveillance et de sanction -, alors qu’il ne devrait qu’appliquer des décisions de justice. On ne peut pas à la fois lui donner du pouvoir et chercher à lui en retirer ». De quoi renvoyer tout le monde à ses responsabilités. […]

https://usbeketrica.com/article/erratum-question-du-futur-de-la-democratie-mal-posee

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
Dernière chance pour le Parlement européen de rejeter la censure de massehttps://www.laquadrature.net/?p=14055http://streisand.me.thican.net/laquadrature.net/index.php?20190416_153718_Derniere_chance_pour_le_Parlement_europeen_de_rejeter_la_censure_de_masseTue, 16 Apr 2019 13:37:18 +0000Demain 17 avril, l’ensemble des députés européens voteront sur le règlement de censure antiterroriste. L’adoption de ce règlement ouvrirait les portes de la censure politique, de masse et sans-contrôle et détruirait le Web libre et ouvert (lire notre analyse complète).

Alors que La Quadrature appelle toujours au rejet total de ce texte inutile (voir la lettre envoyée la semaine dernière), de nouveaux amendements pourraient réduire un peu les dommages causés dans le cas où il ne serait pas entièrement rejeté (lire tous les amendements déposés ainsi que nos recommandations de vote).

Délai d’une heure

Les Verts, GUE et S&D (les trois groupes de gauche du Parlement) ont déposé des amendements qui supprimeraient l’obligation de retirer « en une heure » les contenus signalés par les autorités publiques. Tel que nous l’avons toujours expliqué, un délai aussi court est irréaliste pour toute plateformes du Web, si ce n’est les plus grosses. À moins que ce délai ne soit supprimé, les petites et moyennes plateformes devront cesser leurs activités ou se soumettre aux outils de modération de Facebook et Google.

Nous appelons les députés européens à adopter les amendements suivants, qui pourraient sauver le Web libre et ouvert de la destruction en supprimant ce délai absurde : amendements 156, 157, 158, 159, 160, 161, 162, 164.

Censure politique

En dépit de nos appels, aucun groupe politique n’a proposé d’amendement prévoyant que seuls les juges (et non la police) puissent exiger qu’une plateforme supprime un contenu qu’ils considèrent « terroriste ». Chaque député européen doit être tenu responsable de cette violation de la séparation des pouvoirs, qui ne conduira qu’à de graves censures politiques (telles qu’on a déjà pu constater en France).

La dernière chance pour remporter ce combat serait d’obtenir le rejet complet de ce règlement. En cas de défaite, nous n’oublierons jamais que l’ensemble des groupes politiques du Parlement européen ont renoncé à nous protéger contre les dérives des gouvernements.

Filtres automatiques

Un autre combat pourrait toutefois être remporté. La semaine dernière, la commission LIBE (pour « libertés civiles ») a refusé que les autorités puissent exiger aux plateformes d’utiliser des outils de filtrage automatisé. LIBE a aussi refusé de soumettre ces plateformes à une obligation générale de mettre en place des « mesures proactives » ou à ce qu’elles reçoivent des « signalement » qui les obligeraient à vérifier elles-mêmes qu’un contenu n’est pas « terroriste ».

Le PPE (le principal groupe politique de droite) a proposé des amendements pour revenir sur la plupart de ces nouvelles protections. S’agissant de cette partie du texte, les députés européens doivent catégoriquement refuser tout nouveau changement et garder le texte tel qu’adopté par LIBE. Concrètement, ils doivent adopter les amendements suivants déposés par la commission LIBE : 18D, 66, 83D, 85, 86D, 88.

Nous serons à Strasbourg demain pour suivre le vote et vous tenir informé·es.

]]>
Mouchards et drones à Saint-Etienne : le maire veut étouffer le débathttps://www.laquadrature.net/?p=14000http://streisand.me.thican.net/laquadrature.net/index.php?20190415_192055_Mouchards_et_drones_a_Saint-Etienne____le_maire_veut_etouffer_le_debatMon, 15 Apr 2019 17:20:55 +0000La Quadrature du Net publie et analyse les documents obtenus auprès de la mairie de Saint-Etienne sur son projet de « Safe City ». Micros couplés à la vidéosurveillance, drones automatisés, application de dénonciation citoyenne… Ils révèlent la ville sous-surveillance telle que fantasmée par son maire, Gaël Perdriau.

Au début du mois de mars, nous apprenions que la mairie de Saint-Étienne prévoyait d’installer, au titre d’une expérimentation, plusieurs dizaines de microphones dans un quartier de la ville afin d’en capter les « bruits suspects » et d’aider à l’intervention plus rapide des services de police.

Cette expérimentation ressemblant fortement aux projets de Smart Cities sécuritaires que nous dénonçons depuis plus d’un an, nous avons aussitôt fait une demande de communication des documents administratifs, nous adressant non seulement à la ville mais aussi la CNIL qui avait été abondamment citée dans les articles de presse. Il y a une semaine, nous avons eu les réponses à nos demandes. Tandis que la CNIL nous indique n’avoir rien à nous transmettre, la ville de Saint-Étienne nous a communiqué plus de deux cent pages de rapports, compte-rendus de réunions, courriers électroniques que nous publions ici (après un peu de caviardage pour protéger les données personnelles – voir la liste à la fin de l’article).

Ces documents permettent bien de dévoiler la « Safe City » telle que fantasmée par le maire Les Républicain de la ville, Gaël Perdriau : capteurs sonores couplés à la vidéosurveillance, drones automatisés, application type « Reporty » … le tout sous couvert de « tranquillité urbaine », d’ « attractivité du territoire » et surtout d’ « innovation technologique ». Ces documents mettent en lumière les similitudes que nous commençons à percevoir entre ces différents projets : surveillance accrue et déshumanisation de l’espace public, transformation de la ville en un terrain d’expérimentation pour des sociétés privées (ici Verney-Carron, une société spécialisée dans l’armement), subventionnement public de ces nouvelles technologies sécuritaires (ici par l’intermédiaire surprenant de l’ANRU – « Agence nationale pour la rénovation urbaine »), caractère secret et volontairement opaque de leur mise en place…

Retour en détails sur ce projet.

Des micros et des drones pour Saint-Étienne

Au travers des documents, on apprend donc que, conformément à ce qui avait été annoncé dans la presse, la mairie de Saint-Étienne souhaite procéder, au cours de l’année 2019 (sûrement quelque part entre avril et mai) à une expérimentation de type « Safe City » dans l’un de ses quartiers (celui de Tarentaize-Beaubrun-Couriot – quartier joliment qualifié de « Quartier de reconquête républicaine » dans le dispositif de « Police de sécurité du quotidien »).

Elle consisterait en la pose de « capteurs sonores » (le terme de micro est soigneusement évité tout au long des documents) dont l’ « intelligence » permettra de générer une alerte dès lors qu’ils détecteront certains types d’ « anormalités sonores » (la liste est impressionnante : coups de feu, cris, perceuse, meuleuse, klaxons, coups de sifflet, bombes aérosols, crépitements… – au point où on se demande quels bruits ne déclencheront pas d’événement). L’alerte sera remontée jusqu’à une plateforme centralisée à la disposition de la police qui pourra utiliser le système de vidéosurveillance et vérifier, par exemple, si le déplacement d’une patrouille est nécessaire ou non.

Les données collectées serviraient par ailleurs à alimenter la plateforme déjà mise en œuvre par Suez dans le cadre du projet « Digital Saint-Étienne » ; cela afin « d’expérimenter les conditions d’enregistrement et de mise en forme des évènements collectés en vue de la visualisation sur carte de ceux-ci pour constituer un outil d’aide à la décision concernant la tranquillité urbaine ».

Enfin, on apprend qu’à l’origine, le projet prévoyait en réalité deux phases : une première phase avec l’installation de ces capteurs et une seconde phase avec l’utilisation de drones « automatiques » équipés de caméras et utilisés pour la « levée de doute » des alertes, avec « visualisation rapide de la situation, permettant de mobiliser les moyens d’intervention adaptés à la situation » et qui « en cas de fuite des protagonistes (…) permettra un suivi et un guidage des forces au sol ». La création d’une application de dénonciation citoyenne type « Reporty » permettant aux habitants la « signalisation de problème » avait également été envisagée. Ces deux dernières idées, drones et application, ont néanmoins finies par être abandonnées (pour l’instant ?) au vu des nombreuses contraintes techniques et juridiques qui se posaient (les documents parlent d’une législation trop stricte avec nécessité d’un certificat de pilote, d’autorisation de la Préfecture et d’aléas météorologiques…)

Militariser l’espace public

On retrouve ici l’idéal, partagé par toutes ces expérimentations « Safe Cities », de la surveillance complète de l’espace public, à l’aide notamment de multiples outils dits « intelligents » ayant pour but de détecter chaque bizarrerie, chaque anormalité afin des les analyser et de faciliter leur rapide annihilation. Ici, c’est le rêve d’un quartier sans cris, sans bruits anormaux ou trop forts, sans tags : un quartier silencieux et débarrassé de toutes les extravagances humaines.

Quant aux réflexions abandonnées sur les drones, elles préfigurent le prochain outil phare des Smart Cities sécuritaires et dont l’utilisation a déjà commencé en France pour la surveillance des manifestations. Il faut voir l’excitation qui ressort des courriers que s’échangent les maires de Saint-Étienne et de Compiègne : dans une missive, le premier explique au second que « les drones sont un terrain d’expérimentation tout à fait pertinent auquel nombre de collectivités et d’entreprises s’intéressent » et où ils se désolent des nombreux freins qui mettent à mal leur projet. C’est d’ailleurs l’occasion pour le maire de Saint-Étienne de redéfinir son projet politique en déclarant : « Si les freins techniques doivent justement être résolus par l’innovation, il nous revient à nous, élus, de faire lever les freins administratifs et juridiques ». Un projet qui semble être soutenu par de nombreuses villes qui, s’appuyant notamment sur les propositions d’un rapport parlementaire, exigent des dérogations de survol au Ministère de l’Intérieur et réfléchissent, à l’image du maire de Saint-Étienne, à « la création d’un interlocuteur unique de lobbying sur cette question, de format associatif, [qui] pourrait représenter un levier intéressant s’agissait des échanges avec le gouvernement ». Une nouvelle association des maires de Safe Cities ?

Les réflexions sur l’intérêt ou les conséquences politiques de ces nouvelles technologies sécuritaires sont minces, si ce n’est inexistantes. Et, de toutes façons, qu’importe leur utilité car l’objectif affiché n’est pas là. Ce qui compte avant tout, c’est de faire passer Saint-Étienne pour une ville championne de l’innovation technologique, afin de développer la ville de demain » car le projet est « innovant, d’envergure nationale voire internationale ». D’ailleurs, dans cette course d’apparat entre villes concurrentes, il faut bien être la première car « le dispositif proposé n’est innovant que dans l’agencement de technologies existantes de manière inédites et dans le domaine d’application. Le critère Temps est donc essentiel puisque d’autre groupements travaillent actuellement sur des solutions proches »…

Et quitte pour cela à transformer la ville, comme c’est déjà le cas à Nice ou à Marseille, en un « territoire d’expérimentation » pour les sociétés privées qui participent au projet. Ici, c’est la société Serenicity, dirigée par Guillaume Verney-Carron, qui est également président de la société Verney-Carron, fabricant d’armes et de lanceurs de balles de défense type flash-ball (et à qui le maire donne du « cher Guillaume » et du « amicalement »). Cette société souhaitant « élargir son champ de compétence du militaire vers le civil », elle propose à la ville son nouvel attirail de surveillance, tout en se permettant de lui signaler que si elle ne se décidait pas assez vite, « ce projet sera très probablement réalisé dans une autre ville ».

Une ville durable (invivable)

Plus étonnant encore est le financement d’une partie du projet par l’ANRU, dans le cadre du « Programme d’investissement d’Avenir Ville et territoires durables ». Ce programme est originellement destiné à « permettre l’augmentation du reste pour vivre des habitants, en contribuant à la diminution des dépenses contraintes, et le renforcement de l’attractivité des quartiers prioritaires de la politique de la ville présentant les dysfonctionnements urbains les plus importants ». On pourrait alors se demander ce que vient faire l’ANRU dans l’installation des micros et des drones. La justification fournie par la mairie est la suivante :

L’agrégation de technologies encore innovantes dans le volet de la « smartcity », plus particulièrement la « safecity », comme l’internet des objets, l’utilisation de drones et de systèmes informatiques sécurisés permet d’envisager la résorption du déficit d’attractivité du quartier. En agissant avec une certaine discrétion tout d’abord sur la détection d’évènements sur l’espace public, puis sur sa prise en charge et enfin, sur son suivi à distance durant le temps d’arrivée des équipages préparés au problème, le sentiment de sécurité sur ce quartier sensible sera fortement amélioré ».

La sécurité et la surveillance deviennent ainsi composantes de la rénovation urbaine, juste bonne à sur-policiariser ces quartiers et à « sécuriser » les politiques de gentrification.

Néanmoins, les organisateurs du projet se doutent que cette explication ne passera pas pour tout le monde car, malheureusement pour eux, ils reconnaissent que « le sujet est très sensible en matière de communication ».

Une ville sur écoute

Raison pour laquelle on assiste, au long des réunions, à la recherche d’un nom de projet rassembleur et tranquillisant : on ne parle pas de sécurité mais de « tranquillité urbaine », on ne parle pas de micros et de drones mais de « S.O.F.T. : Saint-Etienne Observatoire des Fréquences du Territoire ». Raison pour laquelle il est aussi explicitement déclaré que « il n’y aura pas de communication avec le grand public. Globalement, dans un premier temps l’objectif est l’expérimentation, puis dans un second temps, une communication adaptée sera mise en place ». Raison pour laquelle le premier communiqué de presse en novembre 2018 reste très flou, mentionnant une « expérimentation visant à tester des solutions numériques pour améliorer la qualité de vie des citoyens ». Il a d’ailleurs pour sous-titre « Vers un territoire bienveillant ». La novlangue n’a plus de limite.

Quid des données personnelles ?

Le sujet est évoqué rapidement tout au long du projet, plus comme un de ces « freins administratifs et juridiques » que pour tenter d’évaluer lucidement la légalité du projet. Après quelques notes et demandes faites à la CNIL, il est décidé de ne pas enregistrer les bruits captés et de se limiter à « la détection d’évènements sonores » : « seules les données d’évènement comprenant le numéro du capteur, la date et l’heure de l’évènement et l’identifiant de l’évènement seront transmises ». Ce qui justifierait que CNIL ait ensuite été écartée du projet.

Mais ce qui n’est pas clair dans cette histoire, c’est que la CNIL nous a pourtant affirmé qu’elle ne détenait aucun document sur ce projet. Et elle n’a apporté aucun démenti aux articles de presse qui prétendaient qu’elle avait donné son accord au projet.

Concernant l’interdiction d’enregistrer des sons, il ressort des diapositives de présentation du projet qu’elle ne sera effective que dans le cadre de la « phase 1 » et que, « en vue de possibles demandes d’enregistrement dans le cadre d’enquête, une collaboration avec la CNIL est programmée afin d’intégrer leur réponse dans la solution technique ». C’est là qu’est tout le problème : une fois ces micros installés, par une société privée d’armement, qui contrôlera l’usage qui en sera fait ? Qui préviendra les habitants si l’on passe en « Phase 2 » et qu’on met un route un système d’enregistrement des conversations dans la ville ? Ou qu’on ne les utilisera pas un jour pour détecter des cibles par leur signature vocale ? Ce ne serait pas la première fois que ce type d’outils de détection sonore connaîtrait des dérives liberticides.

Pour résumer :

– On assiste à l’alliance entre élus locaux et industriels de la sécurité et de l’armement qui dépense l’argent public en s’abritant de tout débat public ;
– Pour mettre nos villes et nos vies sous surveillance — vieux fantasme du contrôle social par la technologie ;
– L’innovation et l’ « attractivité urbaine » servent à masquer la sur-policiarisation et la discrimination, avec le concourt de l’Agence de la rénovation urbaine ;
– Tandis que des autorités, comme la CNIL, laissent faire.

Il est temps d’arrêter ce délire, non ?

Liste des documents qui nous ont été communiqués :

01 Calendrier.pdf
02 Cartographie.pdf
03 Communiqué de Presse.pdf
04 Comite de pilotage.pdf
05 Courriers.pdf
06 Groupe projet.pdf
07 Note ANRU.pdf
08 Note Maire DG.pdf
09 Description du projet.pdf
10 Schéma.pdf
11 Demande de paiement.pdf
12 Mail-demande-CNIL.pdf
13 Mail-retours-CNIL-DGAC.pdf
14 Veille juridique police.pdf
15 Compte-rendu-reunion-cadre-juridique.pdf
16 FIches Outils ANRU.pdf
17 POC.pdf
18 Décision Président Sainte Etienne Métropole.pdf
19 Contrat recherche et dvp Saint-Etienne – Serenicity.pdf

]]>
[LADN] Les écrans publicitaires vous espionnent, mais vous pouvez les embrouillerhttps://www.laquadrature.net/?p=13995http://streisand.me.thican.net/laquadrature.net/index.php?20190415_140000__LADN__Les_ecrans_publicitaires_vous_espionnent__mais_vous_pouvez_les_embrouillerMon, 15 Apr 2019 12:00:00 +0000Des écrans publicitaires récoltent l’adresse des smartphones des passants afin de mesurer l’efficacité d’une pub. Le dispositif inquiète depuis quelques jours malgré sa légalité. Un codeur a développé un programme visant à gêner l’opération. […]

Ces explications et l’autorisation de la Cnil n’empêchent pas certains internautes de continuer à protester contre le dispositif, qui demeure pour certains une menace à la vie privée. Un codeur (visiblement membre de l’association La Quadrature du net) a créé un programme en open-source sur la plate-forme Framagit dans le but de gêner le comptage de Retency. Le code génère aléatoirement une adresse MAC et l’envoie automatiquement à Retency via son formulaire. « Le but est de générer un maximum d’adresses à exclure de l’opération de Retency. C’est une forme de protestation», explique l’un des codeurs ayant contribué au code (en le corrigeant). […]

https://www.ladn.eu/tech-a-suivre/ecrans-publicitaires-espionnent-embrouiller/

NDLRP : FramaGit – Retency exclusion MAC adress.

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[FranceCulture] Des billets de train via Facebook : vers une révolution du e-commerce ?https://www.laquadrature.net/?p=13996http://streisand.me.thican.net/laquadrature.net/index.php?20190415_110000__FranceCulture__Des_billets_de_train_via_Facebook____vers_une_revolution_du_e-commerce___Mon, 15 Apr 2019 09:00:00 +0000Facebook propose désormais à ses 35 millions d’utilisateurs français d’acheter directement sur son service de messagerie Messenger des billets de train SNCF. Une tendance qui devrait rapidement s’étendre à de nombreux réseaux sociaux, lancés à l’assaut du e-commerce. […]

Pour le moment en France, les informations bancaires sont uniquement communiquées à la marque, en l’occurrence la SNCF, et non pas à Facebook. Juste une question de temps pour Klorydryk, membre de La Quadrature du Net. « C’est tout à fait habituel de voir des plateformes changer les règles du jeu une fois qu’ils sont rentrés dans le quotidien des gens. Et quand Facebook va d’imposer que le paiement passe par chez eux ou bien une commission, la SNCF va déchanter puisque les utilisateurs auront pris leurs habitudes, et il sera très dur de revenir en arrière » explique-t-il. […]

https://www.franceculture.fr/emissions/le-reportage-de-la-redaction/facebook-vers-une-revolution-du-e-commerce

NDLRP : extrait à retrouver sur le peertube de La Quadrature du Net.

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[AligreFM] Voix contre oreille # 27 mars 2019 – Les géants du web refusent de se soumettre aux lois européenneshttps://www.laquadrature.net/?p=13994http://streisand.me.thican.net/laquadrature.net/index.php?20190413_150000__AligreFM__Voix_contre_oreille___27_mars_2019_____Les_geants_du_web_refusent_de_se_soumettre_aux_lois_europeennesSat, 13 Apr 2019 13:00:00 +0000Les géants du web refusent de se soumettre aux lois européennes

Exploitation des données personnelles, Surveillance, Influence, Evasion fiscale, Captation des contenus, décidément , les G A F A M ont tendance à faire leurs propres lois.

On savait déjà que les GAFAM ne paient pas leurs impôts mais également en matière de protection des données personnelles, ils ne respectent pas les règles européennes.

Avec :

  • Klorydryk, membre de la Quadrature du Net
  • Martin Drago, juriste à La Quadrature du Net

http://aligrefm.org/podcasts/les-geants-du-web-refusent-de-se-soumettre-aux-lois-europeennes-415

NDLRP : l’entretien sur le Peertube de La Quadrature du Net.

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[ReporTerre] Au nom de la lutte anti-terroriste, l’Europe menace de censurer Internethttps://www.laquadrature.net/?p=13993http://streisand.me.thican.net/laquadrature.net/index.php?20190413_140000__ReporTerre__Au_nom_de_la_lutte_anti-terroriste__l___Europe_menace_de_censurer_InternetSat, 13 Apr 2019 12:00:00 +0000Le Parlement européen se prononcera lundi 1er avril sur le règlement « relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste ». Les auteurs de cette tribune soulignent que l’interprétation juridique très large du terme « terroriste » fait de ce texte un outil liberticide, qui rejoindrait l’arsenal de la « censure politique » que fabrique le gouvernement.

Marne est militante de La Quadrature du Net. Cette association défend les libertés fondamentales dans l’environnement numérique. L’association lutte contre la censure et la surveillance, que celles-ci viennent des États ou des entreprises privées. Elle œuvre pour un Internet libre, décentralisé et émancipateur. […]

https://reporterre.net/Au-nom-de-la-lutte-anti-terroriste-l-Europe-menace-de-censurer-Internet

NDLRP : La Commission LIBE (pour « Libertés civiles ») vient d’adopter le 8 avril 2019 le rapport sur le règlement de censure antiterroriste. Ce rapport sera le texte discuté dans quelques jours par l’ensemble du Parlement européen. Retrouvez sur le site :

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
Lettre aux députés européens : rejetez la censure de massehttps://www.laquadrature.net/?p=13987http://streisand.me.thican.net/laquadrature.net/index.php?20190412_151946_Lettre_aux_deputes_europeens____rejetez_la_censure_de_masseFri, 12 Apr 2019 13:19:46 +0000Hier, La Quadrature du Net a envoyé aux 751 députés européens la lettre traduite ci-dessous.

Nous les appelons à rejeter le règlement de censure terroriste qui, en plus d’être inutile, ouvrira les portes de la censure de masse, conduisant vers la censure politique et la destruction de l’Internet pour lequel nous nous battons. Dans la perspective où le texte ne serait pas entièrement rejeté, nous les appelons à corriger au moins ses pires parties.

Après l’adoption par la commission LIBE de son rapport lundi dernier (lire notre réaction), le règlement sera voté en première lecture par l’ensemble des députés européens ce 17 avril à 17h (voir le projet de calendrier).

Si le Parlement devait adopter le texte, le débat se poursuivrait probablement dans les quelques mois après les élections européennes : le Conseil de l’UE (qui rassemble les gouvernements de tous les États membres) et le Parlement européen devraient chercher un compromis entre le texte adopté par chacun d’eux en première lecture (lire notre réaction au texte adopté par le Conseil en décembre dernier).

Avant cela, rejoignez-nous et contactez les députés européens via notre page de campagne ! (la page existe aussi en allemand et en anglais) La grande majorité des députés n’ont encore jamais vraiment entendu parler de ce texte : chacune de nos voix sera décisive pour façonner leur opinion et les alerter.

Censure Terroriste : rejetez la censure de masse

Chers députés européens,

La semaine prochaine, vous voterez le règlement « relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste ». Ce texte est sur le point d’ouvrir les portes de la censure de masse et sans contrôle, qui conduira (et a déjà conduit) à la censure politique et à la destruction de l’écosystème numérique européen, au profit de Google et Facebook.

Ce règlement n’aidera pas à lutter contre la propagande terroriste : les personnes qui défendent des idéologies meurtrières se réunissent sur des plateformes qui comptent déjà violer et contourner nos lois et qui ne se soumettront jamais aux demandes de retrait. Lorsque leur propagande atteint les autres plateformes, les solutions techniques pour empêcher leur mise en ligne et leur propagation ont déjà démontré être un échec : même Facebook et Google n’ont pas pu arrêter la propagation sur leur plateforme de la vidéo de l’attaque de Christchurch.

Ce règlement ne mènera qu’à promouvoir des solutions techniques dangereuses et inutiles. Les idéologies meurtrières ne peuvent être combattues que par des changements structurels et sociétaux.

Pour l’ensemble de ces raisons, La Quadrature vous appelle à rejeter ce texte.

Dans la perspective où il ne pourrait pas être entièrement rejeté, trois choses devraient au minimum être faites avant le vote final.

1 – Supprimez le délai d’une heure pour retirer les contenus

Seuls les géants du Web ont les capacités humaines et techniques pour retirer « en une heure » des contenus qui leur seraient notifiés. Les plateformes non-lucratives et les petites et moyennes entreprises n’ont pas la capacité de répondre 24h/24 et 7j/7 à ces demandes (car elles n’ont pas de personnel travaillant tous les jours ni 24h/24), ni d’identifier et de retirer les contenus dans un délai si court.

La seule possibilité pour ces acteurs de ne pas se retrouver en violation systématique de ce règlement (et de risquer des lourdes amendes financières) sera de mettre fin à leurs activités ou de retirer tout contenu « problématique » à l’avance en utilisant les outils de filtrage automatique développés par Google et Facebook.

Ces outils mèneront au contournement du juge et à la censure politique. Ils donneront à Google et à Facebook d’immenses pouvoirs économiques, techniques et politiques sur l’écosystème numérique européen. Votre devoir est précisément de protéger cet écosystème contre de tels prédateurs.

La Quadrature du Net vous appelle à adopter tout amendement supprimant ce délai d’ « une heure ».

2 – Exigez que seul un juge puisse ordonner un retrait

La proposition de règlement autoriserait des autorités administratives à ordonner à toute plateforme du Web le retrait d’un contenu qu’elle considérerait comme « terroriste ».

La loi française autorise déjà ce type de mesures, ce qui a permis à la police française d’utiliser le prétexte du « terrorisme » pour censurer des contenus politiques qui n’avaient rien à voir avec le terrorisme (les juges n’ont pu déclarer cette censure comme étant illégale que 1,5 an après l’ordre de retrait). De la même manière, durant ces dernières semaines, le site Internet Archive a listé 550 URLs qu’Europol et la police française lui ont faussement notifiés comme étant de la propagande terroriste.

C’est pourquoi de tels ordres de retrait ne devraient être émis que par un juge, et non aussi par une « autorité administrative fonctionnellement indépendante », comme cela est pourtant permis dans le rapport LIBE. Une telle définition permettrait à la police française, l’OCLCTIC, d’être désignée comme une telle autorité et de poursuivre ses demandes de censure illégales et non contrôlées.

La Quadrature du Net vous appelle à adopter tout amendement qui rendrait obligatoire la décision préalable d’un juge avant tout ordre de retrait.

3 – Respectez l’interdiction des outils automatisés votée par LIBE

Vos collègues de la Commission LIBE ont amendé avec sagesse l’article 6, en refusant que des autorités publiques puissent imposer à des plateformes l’usage d’outils de filtrage automatisé.

Ces outils informatiques, développés par Google et Facebook, ont prouvé leur inutilité face à une propagande humaine organisée, comme celle qui a eu lieu sur leurs plateformes lors de la diffusion de la vidéo de l’attaque de Christchurch. D’un autre côté, ces outils ont également démontré conduire systématiquement à une large censure de contenus parfaitement licites, et ont même nuit à des discours visant à lutter contre ces idéologies meurtrières.

Pour ces raisons, la Commission LIBE a également fait inscrire à l’article 9 l’obligation pour les plateformes de prévoir une vérification humaine avant le retrait de chaque contenu illicite.

La Quadrature du Net vous appelle à rejeter tout amendement qui supprimerait ces garanties nécessaires à nos droits fondamentaux, telles qu’adoptées par la Commission LIBE dans son rapport.

]]>
Le Parlement européen valide la censure de masse (Règlement antiterroriste)https://www.laquadrature.net/?p=13917http://streisand.me.thican.net/laquadrature.net/index.php?20190408_171452_Le_Parlement_europeen_valide_la_censure_de_masse__Reglement_antiterroriste_Mon, 08 Apr 2019 15:14:52 +0000La Commission LIBE (pour « Libertés civiles ») vient d’adopter le rapport sur le règlement de censure antiterroriste. Ce rapport sera le texte discuté dans quelques jours par l’ensemble du Parlement européen.

Le texte, tel qu’adopté1Le rapport adopté aujourd’hui n’est pas encore publié mais correspond presque entièrement à ces amendements de compromis., prévoit qu’une autorité d’un État membre (administrative ou judiciaire) peut obliger n’importe quel acteur de l’Internet à retirer en une heure un contenu qu’elle considère comme terroriste. Cette obligation irréaliste aura pour conséquence la destruction des petites et moyennes plateformes. Elle ne fera que renforcer la domination de Google et Facebook qui travaillent déjà avec les États pour mettre en place une censure de masse sans contrôle – c’est le but même de ce règlement proposé en septembre dernier par la Commission européenne.

Encore une fois, le Parlement européen a prouvé qu’il était incapable de résister à la pression de la Commission européenne et des gouvernements. Après l’adoption de la directive Copyright il y a deux semaines, ce vote est une nouvelle étape, encore plus grave, vers la censure de masse automatisée.

Le prochain vote pourrait être dès la semaine prochaine, durant la dernière session plénière du Parlement européen. Notre combat n’est donc pas fini : la plupart des députés européens ne sont pas encore au courant de ce règlement. Nous devons les appeler dès demain pour leur faire entendre nos arguments.

Visitez notre page dédiée pour les contacter et les convaincre de refuser la censure de masse.

References   [ + ]

1. Le rapport adopté aujourd’hui n’est pas encore publié mais correspond presque entièrement à ces amendements de compromis.
]]>
[Regards] Benjamin Sonntag : « La directive droit d’auteur inscrit dans le droit la censure automatisée »https://www.laquadrature.net/?p=13837http://streisand.me.thican.net/laquadrature.net/index.php?20190405_140000__Regards__Benjamin_Sonntag________La_directive_droit_d___auteur_inscrit_dans_le_droit_la_censure_automatisee____Fri, 05 Apr 2019 12:00:00 +0000La directive droit d’auteur a été adoptée hier au Parlement européen. Avec quelles conséquences ? Une alternative était-elle possible ? Est-elle toujours possible ? Benjamin Sonntag, co-fondateur de Quadrature du Net, est l’invité de la Midinale. […]

« Il faut écouter les citoyens qui se mobilisent et réfléchissent aux enjeux du numérique et des plateformes et qui disent : “vous êtes en train d’apporter une mauvaise réponse à un faux problème”. » […]

http://www.regards.fr/la-midinale/article/benjamin-sonntag-la-directive-droit-d-auteur-inscrit-dans-le-droit-la-censure

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
Au nom de la lutte anti-terroriste, l’Europe menace de censurer Internethttps://www.laquadrature.net/?p=13899http://streisand.me.thican.net/laquadrature.net/index.php?20190405_120259_Au_nom_de_la_lutte_anti-terroriste__l___Europe_menace_de_censurer_InternetFri, 05 Apr 2019 10:02:59 +0000Nous republions la tribune de Marne dans Reporterre.

Depuis les attentats de 2015, la lutte contre le terrorisme est devenue un sujet majeur dans le jeu de la politique. Dans un pays où les élites se plaignent d’une défiance de plus en plus grande du peuple à l’égard des dirigeants et des médias, « le terroriste » représente l’ennemi commun idéal contre lequel se serrer les coudes. Du Parti socialiste au Rassemblement national, une grande partie du spectre politique surfe sur cette vague de peur, entretenue par certains médias généralistes, proposant coup sur coup : déchéance de nationalité, inscription de l’état d’urgence dans le droit commun, fermeture des frontières, interdictions de manifestation, assignations à résidence…

En mai prochain auront lieu les élections européennes, occasion pour ces « antiterroristes » de tous bords de se réveiller et de faire la démonstration de leur capacité à lutter farouchement contre l’insécurité. Emmanuel Macron n’est pas en reste, en poussant une loi européenne de censure de contenus terroristes sur Internet. À la suite de cet appel du pied, la Commission européenne a donc publié en septembre dernier une proposition de règlement — c’est-à-dire une loi directement applicable dans les États membres de l’union — « relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste ». Le texte est actuellement en discussion au Parlement, le vote décisif aura lieu le 1er avril.

Il n’a pas échappé aux Gafam qu’un gigantesque marché de la modération s’ouvrait

Pour atteindre ses objectifs, le règlement prévoit de mobiliser tous les acteurs d’Internet, du petit forum associatif aux gros réseaux sociaux en passant par un média comme Reporterre. Tous devront s’engager dans la bataille contre le terrorisme, et mettre en place des mesures pour censurer automatiquement les fameux « contenus à caractère terroriste  ». Censurer de manière automatique signifie, au choix : développer des méthodes de reconnaissance automatique des contenus terroristes, ce qui est très coûteux (et aléatoire) ; ou avoir recours aux outils de modération que proposeront les Gafam, auxquels il n’a pas échappé qu’un gigantesque marché de la modération s’ouvrait.

Si un acteur ne censure pas un tel contenu, la police ne manquera pas de le lui signaler. Il devra alors retirer ce contenu en moins d’une heure. Cela impose à ces acteurs, souvent des associations ou de petits médias, d’avoir une personne disponible, tous les jours et à toute heure, pour obéir aux ordres de la police.

Autre point frappant dans ce texte, c’est le contournement du juge, normalement seul en mesure de déterminer si un contenu est terroriste ou non. Ici, ce sont les acteurs d’Internet qui sont désignés censeurs officiels. Dans le cas où ils ne seraient pas suffisamment stricts, la police pourra également utiliser son droit de censure. Afin de motiver les acteurs à ne pas être trop laxistes, le règlement prévoit des sanctions pénales et une amende pouvant atteindre jusqu’à 4 % de son chiffre d’affaires mondial à celui qui ne respecterait pas ces obligations.

L’opposition à l’aéroport de Notre-Dame-des-Landes, un « acte terroriste » selon la définition européenne

Venons-en au fondement sur lequel nos censeurs doivent s’appuyer pour censurer : il s’agit de la définition d’« infractions terroristes » données par le droit de l’Union européenne. Elle concerne les meurtres ayant pour objectif de terroriser la population mais égrène également une longue liste d’exemples d’« infractions terroristes ». Liste au sein de laquelle le fait de « causer des destructions massives […] à un lieu public ou une propriété privée, susceptible […] de produire des pertes économiques considérables » ou encore de “gravement déstabiliser […] les structures politiques, constitutionnelles, économiques ou sociales fondamentales d’un pays » sont considérés comme autant d’actes terroristes. La simple menace de commettre de tels actes entre également dans la définition.

Dans un contexte où la stratégie globale des dirigeants est d’assimiler toute forme d’opposition à des extrémistes, des casseurs, des haineux et des violents, la figure du terroriste se révèle bien pratique. Nous sommes maintenant bien habitués à entendre parler de terrorisme d’« ultragauche » qui intercepte des lignes de TGV, de terrorisme végane qui vandalise les boucheries, de terrorisme vert qui occupe des centrales nucléaires.

L’occupation de la Zad de Notre-Dame-des-Landes empêchant de construire un aéroport a des conséquences économiques, et c’est une action qui vise à « contraindre indûment des pouvoirs publics ou une organisation internationale à accomplir ou à s’abstenir d’accomplir un acte quelconque », un des buts qui, selon le droit de l’Union européenne, pourrait permettre de qualifier un acte comme terroriste.

En avril 2018, après le retrait du projet d’aéroport à Notre-Dame-des-Landes, les occupants de la Zad étaient régulièrement qualifiés de terroristes sur les plateaux de télévision1Gérard Feldzer, membre de la mission de médiation sur l’aéroport de Notre-Dame-des-Landes, disait par exemple en parlant des actions des occupants toujours présents sur la Zad, « il y a un peu de terrorisme derrière ça »..

Cette interprétation de la notion de terrorisme peut sembler assez grotesque, pourtant, elle ne l’est pas au regard de la définition de terrorisme du droit de l’Union européenne. En effet l’occupation empêchant de construire cet aéroport a des conséquences économiques, et c’est une action qui vise à « contraindre indûment des pouvoirs publics ou une organisation internationale à accomplir ou à s’abstenir d’accomplir un acte quelconque », un des buts qui, selon le droit de l’Union européenne, pourrait permettre de qualifier un acte comme terroriste.

Ce règlement n’est qu’une partie de la machine à censure politique que construit le gouvernement

Avec une interprétation aussi large de cette définition, un appel à la grève générale ou au boycottage de certains produits pourrait également être considéré comme des « infractions terroristes ».

Après avoir rendu l’opposition politique inacceptable par le langage, elle est rendue illégale par le droit. Ce règlement n’est qu’une partie de la machine à censure politique que construit le gouvernement. La loi dite « anticasseurs » et la loi contre la haine en ligne, actuellement en préparation, sont construites dans la même logique. C’est en interdisant certaines actions politiques et en bridant la liberté d’expression de ses opposants qu’Emmanuel Macron entend garder le pouvoir.

La censure n’est qu’un élément de l’arsenal du pouvoir pour garder le contrôle d’un peuple qui ne le soutient plus. L’autre face de ce système répressif n’est autre que la surveillance. Surveillance et censure sont les deux principaux combats de La Quadrature du Net pour un Internet libre. C’est pourquoi elle appelle aujourd’hui les opposants au pouvoir en place et tous ceux qui veulent préserver un semblant de liberté d’expression sur Internet à appeler les députés européens chargés du texte pour leur demander de s’opposer à ce règlement de censure avant le 1er avril, date du vote en commission. Les numéros des députés et les arguments contre le texte sont sur le site de La Quadrature du Net.

References   [ + ]

1. Gérard Feldzer, membre de la mission de médiation sur l’aéroport de Notre-Dame-des-Landes, disait par exemple en parlant des actions des occupants toujours présents sur la Zad, « il y a un peu de terrorisme derrière ça ».
]]>
[ActuaLitte] Directive droit d’auteur : auteurs, éditeurs, ministère, cette étrange unanimitéhttps://www.laquadrature.net/?p=13838http://streisand.me.thican.net/laquadrature.net/index.php?20190405_120000__ActuaLitte__Directive_droit_d___auteur____auteurs__editeurs__ministere__cette_etrange_unanimiteFri, 05 Apr 2019 10:00:00 +0000Très attendu ce 26 mars, le vote au Parlement européen de Strasbourg. Une journée historique pour la culture et l’Europe, indiquent les partisans du texte qui a été adopté. Et tout un chacun de saluer une réforme considérée comme équilibrée dans les règles d’utilisation des contenus culturels sur internet… […]

Il ne fallait en revanche pas attendre de la Quadrature du Net qu’elle cautionne l’adoption, et son discours fait douloureusement contrepoint — plus argumenté par ailleurs — aux réjouissances collectives. « Croyant agir au nom de la défense des auteurs et de la liberté de la presse, l’Union européenne vient au contraire de renforcer la dépendance de l’industrie de la culture et de la presse aux géants du Web, Google et Facebook en tête. » […]

https://www.actualitte.com/article/lecture-numerique/directive-droit-d-auteur-auteurs-editeurs-ministere-cette-etrange-unanimite/94035

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[Alterpresse68] Au parlement européen de Strasbourg, c’est “gardarem lou matraque” sur le droit d’auteur ?https://www.laquadrature.net/?p=13839http://streisand.me.thican.net/laquadrature.net/index.php?20190404_140000__Alterpresse68__Au_parlement_europeen_de_Strasbourg__c___est____gardarem_lou_matraque____sur_le_droit_d___auteur___Thu, 04 Apr 2019 12:00:00 +0000[…] A l’occasion de la session parlementaire du Parlement européen à Strasbourg, Luc Ueberschlag et Jeanne Roy se sont attachés à interroger des partisans et adversaires de la directive, dont les ramifications et conséquences pourraient être nombreuses, y compris pour votre journal électronique favori, dès lors que celle-ci sera transposée en droit français… […]

Tout comme Martin Drago, juriste auprès de l’association de défense du logiciel libre, et farouche partisan de la protection des données personnelles et de la vie privée, “La quadrature du net“ […]

https://www.alterpresse68.info/2019/03/27/au-parlement-europeen-de-strasbourg-cest-gardarem-lou-matraque-sur-le-droit-dauteur/

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[FranceCulture] Droits d’auteur : ce qui change avec la nouvelle directive européennehttps://www.laquadrature.net/?p=13840http://streisand.me.thican.net/laquadrature.net/index.php?20190404_120000__FranceCulture__Droits_d___auteur____ce_qui_change_avec_la_nouvelle_directive_europeenneThu, 04 Apr 2019 10:00:00 +0000Le Parlement européen a adopté ce mardi la directive sur les droits d’auteur, censée mieux rétribuer les médias et les artistes à l’ère du numérique. Ce texte, combattu par les grandes plateformes américaines et par les partisans de la liberté du net, doit entrer en vigueur dans les deux ans. […]

Mais les collectifs d’internautes ne sont pas rassurés pour autant et pointent du doigt les risques de dérives de cette directive. Seules les grandes plateformes vont avoir les moyens d’investir dans des mécanismes de filtrage de contenus qui sont extrêmement coûteux. Ce filtrage imposé par l’UE risque donc de donner encore plus de pouvoir aux plus grandes plateformes, qui dominent déjà internet. Des associations de défense des internautes, comme la Quadrature du net, critiquent ainsi “une directive Copyright qui sert de laboratoire aux logiques de censure automatisée”. […]

https://www.franceculture.fr/numerique/droits-dauteur-ce-qui-change-avec-la-nouvelle-directive-europeenne

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[FranceInter] Réforme européenne du droit d’auteur : « Le principe de censure automatique devrait effrayer tout le monde »https://www.laquadrature.net/?p=13841http://streisand.me.thican.net/laquadrature.net/index.php?20190403_140000__FranceInter__Reforme_europeenne_du_droit_d___auteur________Le_principe_de_censure_automatique_devrait_effrayer_tout_le_monde____Wed, 03 Apr 2019 12:00:00 +0000Après deux années de débat et de lobbying intense, le Parlement européen a adopté ce mardi un nouvel ensemble de règles régissant du droit d’auteur. Pour Benjamin Sonntag, cofondateur de l’association « La Quadrature du net« , opposée au texte, cette directive va porter atteinte aux libertés publiques.

Benjamin Sonntag (La Quadrature du net) – Elle présente un certain nombre de dangers, notamment de censure automatisée sur internet. Bien qu’elle ne s’applique qu’aux géants comme Google ou Facebook, on voit très régulièrement des lois s’élargir, deux ou trois ans après, à tout le monde. Cette directive européenne, comme elle applique une censure a priori aux contenus publiés par les internautes sur Youtube et Facebook, ça risque de concerner à terme toutes les plateformes, et d’imposer une charge énorme d’automatisation, de filtrage des contenus et de censure à de tous petits opérateurs. […]

https://www.franceinter.fr/culture/directive-droit-d-auteur-le-principe-de-censure-automatique-devrait-effrayer-tout-le-monde

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
Règlement terroriste : derniers jours pour s’opposer à la censure d’Internethttps://www.laquadrature.net/?p=13849http://streisand.me.thican.net/laquadrature.net/index.php?20190403_122109_Reglement_terroriste____derniers_jours_pour_s___opposer_a_la_censure_d___InternetWed, 03 Apr 2019 10:21:09 +0000Lundi 8 avril, le projet de règlement sur la censure antiterroriste sera voté en commission LIBE au Parlement européen. Après déjà plusieurs reports du vote, les députés, toujours sous la pression de la Commission européenne et de certains États membres, devraient cette fois adopter ce texte. Il ne reste donc que quelques jours pour les appeler et leur demander de le rejeter.

Présenté en septembre dernier par la Commission européenne, et soutenu de manière intensive par les gouvernements français et allemand, ce texte a parcouru les étapes de la procédure législative européenne à un rythme extrêmement rapide, si ce n’est expéditif : présenté en septembre par la Commission européenne, adopté par le Conseil de l’Union européenne début décembre, il est aujourd’hui dans les mains de la Commission LIBE (pour Libertés civiles) au Parlement européen, après la publication des rapports (décevants) des commissions saisis pour avis.

Un nouveau texte pour la censure automatisée

Prétendant lutter contre la « diffusion des contenus à caractère terroriste en ligne », le texte cherche à soumettre l’ensemble des acteurs de l’Internet à des obligations aussi strictes qu’absurdes. Ainsi, le règlement veut permettre à l’autorité de n’importe quel État membre de l’Union européenne (que ce soit la police ou une juridiction) de forcer un hébergeur à retirer en une heure un contenu que cette autorité aura considéré comme terroriste. Par ailleurs, le texte encourage et permet d’imposer la mise en place de mesures proactives pour lutter contre la diffusion de ces contenus, y compris des outils de filtrage automatique. Le tout sous la menace de lourdes sanctions financières.

Pour une présentation plus complète du texte, nous avons créé une page dédiée sur notre site.

Outre nos articles et appels répétés à contacter les députés sur ce texte, de nombreuses organisations et associations ont régulièrement essayé d’alerter les gouvernements sur les dangers de ce règlement (voir encore ce matin la lettre publiée par des « personnalités » de l’Internet). Cela a également été le cas (de manière plus ou moins mesurée) pour certaines institutions internationales, dont trois rapporteurs du Haut-Commissariat des Nations unies aux droits de l’homme, le Contrôleur européen de la protection des données, ou encore l’Agence des droits fondamentaux de l’Union européenne. En vain.

Quelques jours à peine après l’adoption de la directive sur le droit d’auteur, qui est venue institutionnaliser le filtrage automatique pour une partie d’Internet, le Parlement européen est sur le point d’adopter (pour l’instant au niveau d’une commission) un nouveau texte liberticide, cette fois-ci à l’encontre de l’ensemble d’Internet. Cet objectif d’étendre les outils de filtrage automatisé développés par Google et Facebook à tous les acteurs n’est ici d’ailleurs pas dissimulé et est au contraire clairement apparu dès les premières discussions du texte (voir notre analyse détaillée). L’actualité récente a pourtant encore démontré l’absurdité à vouloir rendre obligatoires les outils développés par les grandes plateformes : si même ces dernières n’ont pas réussi à retirer (comme elles s’en vantaient pourtant) les contenus signalés suite à l’attentat de Christchurch en une ou vingt-quatre heures, qu’en aurait-il été, en cas d’adoption de ce texte, pour les petits acteurs de l’Internet qui n’ont pas les moyens financiers et humains de Facebook et Google ? Et cela alors qu’une partie du problème pourrait justement venir de la structure et du rôle de ces grandes plateformes dans la diffusion massive de ces contenus.

Néanmoins, l’urgence avec laquelle est poussée ce texte empêche toute réflexion de fond.

Toujours plus de pression

En effet, malgré ces nombreuses alertes, la Commission européenne et certains gouvernements continuent de mettre une pression toute sauf démocratique sur les députés. Les gouvernements français et allemand ont ainsi envoyé une lettre aux députés il y a deux semaines en énonçant :

« Il nous semble impératif de tout faire pour chercher à aboutir sur ce projet de texte dans les quelques jours devant nous avant la clôture des travaux parlementaires de l’actuelle législature du Parlement européen ».

Pour la Commission européenne, c’est encore plus étonnant : alors que le vote était encore prévu le 1er avril en Commission LIBE, Julian King, le commissaire européen en charge du dossier, souhaitait le faire voter au Parlement deux jours plus tard, le 3 avril, pour commencer les trilogues dès le 4 avril…

Soulignons que les derniers compromis en discussion au sein de la Commission LIBE sont encore loin d’être satisfaisants. Si des efforts sont faits pour que l’autorité désignée soit une autorité indépendante (mais là encore, la notion d’indépendance dépend de l’interprétation de chaque État membre), le texte mentionne toujours l’obligation (impossible pour un très grand nombre d’acteurs) de retrait des contenus en une heure. Plus précisément, les autorités auraient l’obligation d’ « essayer de prendre contact » avec l’hébergeur douze heures avant l’ordre de retrait, ce qui ne change pas grand chose… Par ailleurs, si la Commission LIBE essaie de retirer aux autorités le pouvoir d’imposer des outils de filtrage automatique, ces derniers sont encore bien présents dans le texte. Il en fait même la promotion en les affichant comme des outils essentiels dans la lutte contre le terrorisme. De toute manière, comme nous le répétons depuis plusieurs mois, l’obligation de retrait d’un contenu en une ou treize heures, couplée avec la menace d’une sanction importante, poussera une grande partie des acteurs à adopter ces outils de filtrage automatique.

Il est donc plus que jamais essentiel de ne pas baisser les bras sur ce combat. Car, à lire les communiqués d’une des associations ayant le plus œuvré pour l’adoption de ce texte, si le sujet est aujourd’hui celui de la censure automatisée, le prochain est sans aucun doute celui du chiffrement de nos conversations.

Jusqu’au 8 avril, appelons nos députés. Demandons le rejet de ce texte.

]]>
[Mediapart] Droit d’auteur: l’Europe prend un virage risquéhttps://www.laquadrature.net/?p=13842http://streisand.me.thican.net/laquadrature.net/index.php?20190403_120000__Mediapart__Droit_d___auteur__l___Europe_prend_un_virage_risqueWed, 03 Apr 2019 10:00:00 +0000En adoptant la directive sur le droit d’auteur mardi à Strasbourg, les députés européens transfèrent aux entreprises du Web la responsabilité de s’assurer que les utilisateurs, en l’occurrence les internautes qui publient des « contenus», respectent la législation. La voie vers une censure privée que seuls les géants américains auront les moyens d’exercer, dénoncent les opposants au texte. […]

Le 21 mars, la Quadrature du Net avait une nouvelle fois appelé au rejet d’un texte qui « ne comporte aucun élément tangible qui améliorerait la situation des créateurs ». Ce mardi, l’association a déploré que l’UE ait cédé « au lobbying intense et fallacieux des industries de la presse et de la culture, ainsi qu’à la pression de plusieurs gouvernements européens (avec la France en première ligne) ». Opposée de longue date à un texte qui ne fera que « déléguer encore plus de pouvoir » aux grandes entreprises de l’Internet, la Quadrature souligne que celles-ci « voient sûrement avec plaisir l’ouverture d’un nouveau marché très porteur, celui des filtres automatiques. Déjà leaders sur ce sujet, les géants ne seront sûrement pas mécontents de le voir institutionnalisé et consacré par l’Union européenne ».

https://www.mediapart.fr/journal/international/260319/droit-d-auteur-l-europe-prend-un-virage-risque

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[20Minutes] Grand barouf numérique: On a vu le futur de la démocratie et il y a (peut-être) un peu d’espoirhttps://www.laquadrature.net/?p=13843http://streisand.me.thican.net/laquadrature.net/index.php?20190402_140000__20Minutes__Grand_barouf_numerique__On_a_vu_le_futur_de_la_democratie_et_il_y_a__peut-etre__un_peu_d___espoirTue, 02 Apr 2019 12:00:00 +0000Reportage. On a endossé le costume de député dans une session parlementaire du futur. […]

Voter sur les réseaux sociaux ? Mauvaise idée. Les futurs électeurs voteront-ils pour leur président de la République à l’aide de leurs outils numériques ? Benjamin Bayart, co-président de La Quadrature du Net et militant de la neutralité du net, a mis en garde les députés présents dans la salle. « Ne faites jamais passer un vote sérieux par un ordinateur, vous ne savez pas ce que fait le programme, a-t-il insisté. Le vote secret est une condition non-négociable à la démocratie, or on ne peut contrôler un vote sur ordinateur que si on sait qui a voté quoi ». Et que ferait un réseau social avec cette donnée entre ses mains ? […]

https://www.20minutes.fr/arts-stars/culture/2480767-20190325-grand-barouf-numerique-vu-futur-democratie-peut-etre-peu-espoir

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[LADN] J’ai joué à la députée, taxé Facebook et sauvé des ordinateurs au Grand barouf numériquehttps://www.laquadrature.net/?p=13844http://streisand.me.thican.net/laquadrature.net/index.php?20190402_120000__LADN__J___ai_joue_a_la_deputee__taxe_Facebook_et_sauve_des_ordinateurs_au_Grand_barouf_numeriqueTue, 02 Apr 2019 10:00:00 +0000Au Grand barouf numérique à Lille, j’ai passé 10 heures dans la peau d’une députée. L’idée ? Imaginer le futur de la démocratie à l’ère digitale. Une expérience qui a remis en question mes pratiques numériques et ma certitude qu’il est trop compliqué de contourner Facebook, Google and cie. […]

Aucun représentant des Big tech n’est venu se défendre. Dommage. Un boulevard s’ouvre pour les défenseurs du web libre présents sur scène. Quelques phrases m’interpellent. « Les autorités sont schizophrènes, elles veulent protéger nos données et en même temps confèrent plus de pouvoirs aux GAFA en leur demandant de contrôler et sanctionner les propos haineux. Moi je ne veux pas qu’on leur donne plus de pouvoir, je veux qu’on leur en retire », martèle Benjamin Bayart, co-fondateur de la Quadrature du Net. […]

https://www.ladn.eu/tech-a-suivre/10-heures-depute-grand-barouf/

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[Marianne] Vente de billets SNCF sur Facebook : la fausse bonne idée ?https://www.laquadrature.net/?p=13845http://streisand.me.thican.net/laquadrature.net/index.php?20190401_140000__Marianne__Vente_de_billets_SNCF_sur_Facebook____la_fausse_bonne_idee___Mon, 01 Apr 2019 12:00:00 +0000La SNCF a démarré ce mercredi 20 mars un partenariat avec Facebook. Objectif : permettre aux 35 millions de Français inscrits sur le réseau social de commander leurs billets directement sur la plateforme. Séduisante de facilité, l’initiative n’est pourtant pas sans poser quelques questions. […]

Mais si l’attrait business du partenariat n’est pas à démontrer, sa mise en place soulève néanmoins plusieurs questions de fond. A la Quadrature du net, association de préservation des libertés sur Internet, on s’interroge ainsi sur la pertinence de donner au réseau social une compétence, à dimension de service public, jusque-là assurée entièrement par la SNCF : « A cause de la prédominance des grosses plateformes, même les services publics se sentent obligés de proposer leurs services par leur intermédiaire« , regrette Alexis Fitzjean Ó Cobhthaigh, avocat et membre de la Quadrature du Net. Avec ce partenariat, Facebook va en effet être amené à avoir un impact croissant sur l’activité commerciale de la SNCF : « De fait, elle est en train de se placer dans une forme de dépendance par rapport à Facebook« , poursuit-il avant d’ajouter, très sévère : « Il ne s’agit de rien de moins qu’un renforcement de l’hégémonie de Facebook… et d’un abandon de souveraineté ». […]

https://www.marianne.net/economie/oui-sncf-vente-billets-facebook

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[LenouveauMontpellier] Implantation de Google à Montpellier : l’autre vision des acteurs du numériquehttps://www.laquadrature.net/?p=13846http://streisand.me.thican.net/laquadrature.net/index.php?20190401_120000__LenouveauMontpellier__Implantation_de_Google_a_Montpellier____l___autre_vision_des_acteurs_du_numeriqueMon, 01 Apr 2019 10:00:00 +0000Jeudi 14 mars 2019 se déroulait un événement spécial à la Carmagnole, autour des enjeux des géants du numérique alias les GAFAM (Google, Apple, Facebook, Amazone et Microsoft). Dans ce nouveau lieu alternatif installé dans le quartier de Figuerolles, Felix Tréguer, l’un des fondateurs de la Quadrature du Net donnait une conférence. En ligne de mire, Google et le concept de « startup nation ». Il dresse un constat alarmant sur l’état du numérique et des enjeux de l’implantation locale de la multinationale. Retour sur ce qu’il s’est dit lors de cette conférence. […]

« Depuis la loi renseignement de 2015, la surveillance a de beaux jours devant elle… » explique Félix en exposant un graphique montrant la hausse des interventions de l’État dans la censure avec une « volonté d’élargir le panel des profils de terroristes sur le territoire », à l’image des assignations à résidence de certains militants écologique après les attentats du 13 novembre 2015. « On va même vers une automatisation de la censure. Aujourd’hui, bloquer un péage ça peut être considéré comme une forme de terrorisme. Ce qui est en train de se mettre en place est très grave… Et on n’a très peu de relais médiatique » déclare le conférencier. […]

https://www.lenouveaumontpellier.fr/implantation-de-google-a-montpellier-lautre-vision-des-acteurs-du-numerique/

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
Le Parlement européen se soumet aux lobbys des ayants droithttps://www.laquadrature.net/?p=13772http://streisand.me.thican.net/laquadrature.net/index.php?20190326_173820_Le_Parlement_europeen_se_soumet_aux_lobbys_des_ayants_droitTue, 26 Mar 2019 16:38:20 +0000Le Parlement européen a adopté aujourd’hui la Directive sur le droit d’auteur. Cédant au lobbying intense et fallacieux des industries de la presse et de la culture, ainsi qu’à la pression de plusieurs gouvernements européens (avec la France en première ligne) l’Union européenne vient d’institutionnaliser la censure automatisée et la surveillance de masse pratiquées par les géants du Web.

Aujourd’hui, en quelques minutes à peine, le Parlement européen a adopté le texte de la Directive Copyright (par 348 voix contre 274). Croyant agir au nom de la défense des auteurs et de la liberté de la presse, l’Union européenne vient au contraire (comme nous le dénonçons depuis plusieurs mois) de renforcer la dépendance de l’industrie de la culture et de la presse aux géants du Web, Google et Facebook en tête. Les manifestations de ce week-end, les pétitions, les tribunes et autres campagnes organisées par des associations de défense des libertés à travers toute l’Europe n’auront donc eu que peu de poids face à la campagne frénétique et mensongère menée par les promoteurs de ce texte (voir, pour un bon exemple, ici, à 1’06’10).

Le texte adopté impose notamment à une partie des acteurs du Web — les plateformes centralisées et lucratives — une obligation de filtrage a priori des contenus protégés par le droit d’auteur (article 13, devenu article 17). Il crée également de nouveaux droits pour les éditeurs de presse, en forçant les plateformes à les rémunérer pour toute utilisation de leurs contenus (article 11, devenu article 15). Nous le répétions encore la semaine dernière : ces dispositions ne pourront entraîner que de graves restrictions de la liberté d’expression et de l’accès à l’information.

En aucun cas, elles ne permettront de rééquilibrer les relations avec les Géants du Net : elles ne conduiront qu’à leur déléguer encore plus de pouvoir. Ces derniers doivent d’ailleurs voient sûrement avec plaisir l’ouverture d’un nouveau marché très porteur, celui des filtres automatiques. Déjà leaders sur ce sujet, les géants ne seront sûrement pas mécontents de le voir institutionnalisé et consacré par l’Union européenne.

Au lieu de combattre la surveillance de masse mise en place par les Géants du Net, la Directive Copyright consacre leur puissance, pourtant basée sur la violation du RGPD voté par le même Parlement européen… D’où vient l’argent que convoitent tant les industries de la presse et de la culture ? Du marché de la publicité ciblée qu’exploitent depuis plusieurs années les GAFAM en toute illégalité, et qui est entièrement fondé sur la surveillance généralisée de nos comportements sur le Web. Alors que les premières décisions commençaient justement à remettre en cause ce modèle économique (voir notre communiqué sur la décision de la CNIL contre Google), l’Union européenne et ses gouvernements ne semblent pas réellement souhaiter l’application de leur propre texte, mais plutôt se satisfaire de petits retours financiers sur la violation de nos libertés.

Ainsi, l’Union européenne préfère promouvoir des outils de filtrage automatique, dans une logique de toujours plus de censure, de toujours plus de surveillance, au lieu de se pencher sur d’autres réformes et d’autres solutions plus adaptées au monde numérique et surtout plus respectueuses de nos libertés (voir nos propositions).

Malgré le vote d’aujourd’hui, la lutte contre le filtrage automatisé et la censure continue. L’autre texte contre lequel La Quadrature se bat depuis plusieurs mois, et qui repose sur les mêmes logiques de censure automatisée, de surveillance et de centralisation, sera voté en commission parlementaire début avril. Il nous reste encore quelques jours pour appeler les députés en charge de ce règlement de censure automatique de contenus terroristes et leur demander de le rejeter.

]]>
[Europe1] 30 ans après sa création, que faudrait-il changer au Web ?https://www.laquadrature.net/?p=13707http://streisand.me.thican.net/laquadrature.net/index.php?20190325_110000__Europe1__30_ans_apres_sa_creation__que_faudrait-il_changer_au_Web___Mon, 25 Mar 2019 10:00:00 +0000Matthieu Belliard embarque les auditeurs pour écrire avec lui ce “Grand journal du soir”. Trois heures d’actualité avec toute la rédaction d’Europe 1 et de nombreux invités. Coups de gueule, coups de cœur, témoignages, ils interviennent tout au long de l’émission. A 19h10, Sonia Mabrouk reçoit un invité politique pour une interview sans concession, et à 19h20, Matthieu Belliard poursuit l’échange avec trois débatteurs eux-mêmes questionnés par les auditeurs. Le vendredi, les Grandes Voix le rejoignent pour ce debrief de l’actualité.

NDLRP : débat animé par Matthieu Belliard. Plateau sur la thématique ‘30 ans après sa création, que faudrait-il changer au Web ?‘ avec en invités Daniel Ichbiah, Hugo Travers, et Arthur Messaud de La Quadrature du Net.

https://www.europe1.fr/emissions/votre-grand-journal-du-soir-avec-matthieu-belliard/matthieu-belliard-120319-3872807

NDLRP : Retrouvez sur le peertube de La Quadrature du Net le débat avec Arthur Messaud.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[ActeursPublics] Débat : L’État face aux géants du Webhttps://www.laquadrature.net/?p=13708http://streisand.me.thican.net/laquadrature.net/index.php?20190324_110000__ActeursPublics__Debat____L___Etat_face_aux_geants_du_WebSun, 24 Mar 2019 10:00:00 +0000Chaque mois, Écrans publics propose de débattre autour de documentaires qui interrogent les politiques publiques. Ce mois-ci, la diffusion du documentaire Apple, Google, Facebook, les nouveaux maîtres du monde, de Yannick Adam de Villiers, a été l’occasion d’échanger autour du thème « L’État face aux géants du Web« . Un débat animé par Adeline Baldacchino, haute fonctionnaire et écrivaine, avec Yannick Adam de Villiers, réalisateur du documentaire, Gilles Babinet, vice-président du Conseil national du numérique, Alexis Fitzjean O Cobhthaigh, avocat, membre de La Quadrature du net, et Laurent Gayard, auteur de Darknet, GAFA, Bitcoin. L’anonymat est un choix.

https://www.acteurspublics.com/webtv/2019/03/12/debat-letat-face-aux-geants-du-web-1

NDLRP : retrouvez sur le peertube de La Quadrature du Net des extraits d’Alexis à l’occasion de cet échange.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[BFMTV] 30 ans du Web: HTTP, URL… ce que signifient ces acronymes qui nous connectenthttps://www.laquadrature.net/?p=13709http://streisand.me.thican.net/laquadrature.net/index.php?20190323_110000__BFMTV__30_ans_du_Web__HTTP__URL____ce_que_signifient_ces_acronymes_qui_nous_connectentSat, 23 Mar 2019 10:00:00 +0000Créées à la fin des années 80, ces technologies constituent encore aujourd’hui les bases du Web, tel qu’il est utilisé par la plupart des internautes dans le monde.

Vague, mais prometteur”. C’est ainsi que le projet de Tim Berners-Lee, alors informaticien, fut accueilli le 12 mars 1989 par le Cern, le laboratoire européen pour la physique des particules. L’idée de son système : permettre à tous les chercheurs de partager l’information et d’y accéder à distance. Quelques schémas incompréhensibles pour le profane, qui ont posé les fondations du Web tel que nous le connaissons. Tim Berners-Lee commence par nommer son projet : WorldWideWeb. […]

https://www.bfmtv.com/tech/30-ans-du-web-http-url-ce-que-signifient-ces-acronymes-qui-nous-connectent-1650047.html

NDLRP : retrouvez l’extrait du reportage vidéo avec l’apparition de Benjamin Bayart et d’Arthur Messaud sur le peertube de La Quadrature du Net.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[RadioCauseCommune] Règlement terroriste, Pépites libres, Fund the Code!https://www.laquadrature.net/?p=13710http://streisand.me.thican.net/laquadrature.net/index.php?20190322_110000__RadioCauseCommune__Reglement_terroriste__Pepites_libres__Fund_the_Code_Fri, 22 Mar 2019 10:00:00 +0000La seizième émission Libre à vous ! de l’April a été diffusée en direct mardi 12 mars 2019 de 15 h 30 à 17 h 00.

Nous avons commencé par la troisième chronique « Pépites libres » de Jean-Christophe Becquet, président de l’April. Nous avons enchainé avec notre sujet principal qui portait sur le projet de règlement terroriste / censure sécuritaire avec nos invités : Arthur Messaud et Martin Drago de La Quadrature du Net. Nous avons poursuivi par une interview de présentation de l’initiative Fund the Code! avec Louis-David Benyayer. Nous avons terminé par diverses annonces. […]

https://cause-commune.fm/podcast/reglement-terroriste-pepites-libres-fund-the-code/

https://april.org/emission-libre-a-vous-diffusee-mardi-12-mars-2019-sur-radio-cause-commune-reglement-terroriste-pepit

Transcription de l’émission par l’équipe Transcriptions de l’APRIL : https://april.org/libre-a-vous-radio-cause-commune-transcription-de-l-emission-du-12-mars-2019

NDLRP : retrouvez sur le peertube de La Quadrature du Net l’interview d’Arthur et Martin sur la proposition de règlement terroriste et la censure sécuritaire.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
La Quadrature du Net appelle le Parlement européen à rejeter la directive sur le droit d’auteur !https://www.laquadrature.net/?p=13736http://streisand.me.thican.net/laquadrature.net/index.php?20190321_112032_La_Quadrature_du_Net_appelle_le_Parlement_europeen_a_rejeter_la_directive_sur_le_droit_d___auteur___Thu, 21 Mar 2019 10:20:32 +0000La semaine prochaine, le Parlement européen va devoir se prononcer par un dernier vote sur le sort de la directive Copyright, en discussion depuis plusieurs années. La Quadrature du Net appelle les députés européens à rejeter ce texte, qui provoquerait de graves restrictions à la liberté d’expression et à l’accès à l’information. Loin de rééquilibrer les relations avec les Géants du Net, cette directive conduirait à leur déléguer un inquiétant pouvoir de censure automatisée. Ce texte ne constitue pas la réforme du droit d’auteur dont l’Union européenne a besoin et il ne comporte aucun élément tangible qui améliorerait la situation des créateurs.

Le texte résultant des négociations conduites ces derniers mois par les institutions européennes n’a corrigé aucun des points problématiques qui nous avaient conduit à demander le rejet du texte déjà à plusieurs reprises en 2018. Notre analyse reste la même : les industries culturelles et les grandes sociétés d’ayants droit cherchent en réalité à ramasser les miettes du butin engrangé par les Géants du Net grâce à la surveillance de masse qu’ils mettent en œuvre à travers la publicité ciblée. Sous couvert d’opérer un « partage de la valeur », cette directive constituerait un grave renoncement de l’Union européenne, en liant le financement de la création et de la presse à la violation systématique des droits des individus.

Tout ceci s’accomplira en outre sur le dos des libertés fondamentales, à cause des articles 11 et 13 de la directive qui suscitent l’opposition d’un grand nombre d’acteurs de la société civile. Même si le champ d’application de l’article 13 ne concerne pas dans sa rédaction finale ce que La Quadrature considère comme l’Internet libre et ouvert – à savoir les services décentralisés ou fédérés de type Mastodon ou Peertube – il imposera aux plateformes centralisées et lucratives une obligation de filtrage a priori des contenus à laquelle notre association s’est toujours opposée. L’application de tels procédés est manifestement disproportionnée et la directive n’apporte aucune garantie satisfaisante pour protéger la liberté d’expression. La directive Copyright a ainsi servi de laboratoire aux logiques de censure automatisée que l’on retrouve dans d’autres textes, comme le règlement Anti-terroriste contre lequel La Quadrature du Net est mobilisée (voir notre page dédiée).

L’article 11 est tout aussi problématique, puisqu’en souhaitant instaurer de nouveaux droits pour les éditeurs de presse, il va restreindre l’usage de ces contenus bien au-delà des seuls agrégateurs, type Google News, en affectant aussi potentiellement des acteurs non-lucratifs et tout l’écosystème de l’accès à l’information.

Si la directive Copyright doit être rejetée par le Parlement européen, c’est aussi parce qu’elle ne constitue pas la réforme positive du droit d’auteur dont l’Union a besoin. Les industries culturelles sont parvenues encore une fois à focaliser le débat autour d’un renforcement de la propriété intellectuelle, en occultant le profond besoin d’adaptation des règles du droit d’auteur aux pratiques numériques. Dans son état actuel, la directive contient certes quelques aménagements sous la forme d’exceptions au droit d’auteur, mais ils restent bien trop limités pour apporter un changement significatif.

Aucune de ces mesures ne correspond aux propositions formulées depuis plusieurs années par la Quadrature du Net afin de changer en profondeur le droit d’auteur en réconciliant les artistes et le public. Il aurait fallu pour cela mettre en débat des idées comme la légalisation du partage non-marchand des œuvres, la reconnaissance des pratiques transformatives comme le remix ou le mashup ou de nouvelles formes de financement comme la contribution créative.

En affirmant que ce texte sera en mesure d’améliorer le sort des créateurs en Europe, les industries culturelles qui le soutiennent mentent profondément. Elles ont constamment empêché que des sujets comme les modalités de financement de la création ou les règles de répartition des revenus entre créateurs et intermédiaires soient discutés, alors qu’ils constituent le cœur du problème à régler pour améliorer la condition des auteurs. La France porte une responsabilité particulière dans ce fiasco dans la mesure où les gouvernements successifs et la majorité des eurodéputés français ont constamment fait obstruction sur ces questions tout en poussant les mesures les plus répressives.

Plus largement, c’est tout le processus d’élaboration de ce texte qui a été émaillé d’intrusions, aussi bien de la part du lobby des industries culturelles que de celui des Géants du Net. Ce spectacle navrant porte atteinte à la crédibilité démocratique de l’Union européenne. Mais il ne doit pas occulter la mobilisation importante des personnes et des organisations de la société civile – l’une des plus importantes à ce jour -, qui a constamment été ignorée ou raillée tant par la Commission européenne que par une partie des eurodéputés favorables au texte.

Le Parlement européen dispose encore d’une ultime chance de montrer qu’il est capable de faire preuve d’indépendance en enterrant définitivement ce texte aberrant. Il l’a déjà fait en juillet 2018 pour protéger les libertés fondamentales et il doit le refaire à présent pour les mêmes raisons.

C’est la raison pour laquelle La Quadrature du Net se joint aux autres associations engagées contre ce texte – EDRi, Bits of Freedom, Wikimedia, l’APRIL et bien d’autres ! – en appelant les citoyens à contacter les eurodéputés via la plateforme Pledge2019.

]]>
[LaNouvelleRepublique] Face aux pirates, le sport français cherche la paradehttps://www.laquadrature.net/?p=13711http://streisand.me.thican.net/laquadrature.net/index.php?20190321_110000__LaNouvelleRepublique__Face_aux_pirates__le_sport_fran__ais_cherche_la_paradeThu, 21 Mar 2019 10:00:00 +0000La diffusion illégale de contenus sportifs sur Internet a connu une hausse en 2018, notamment pour le football. Les acteurs s’organisent pour riposter. Zoom sur cette problématique. […]

3 – Faut-il s’inquiéter de la volonté affichée de bloquer des sites plus facilement ?

« C’est un vrai problème. Depuis plusieurs années, on étend le domaine de la censure administrative, à chaque fois avec des raisons différentes, certaines vraiment compréhensibles, d’autres beaucoup plus légères, répond Axel Simon, membre de la Quadrature du Net, association de défense des libertés fondamentales dans l’environnement numérique. On contourne les problèmes. On ne s’attaque jamais aux causes, mais aux symptômes… »

Il précise : « A l’heure actuelle, c’est possible de bloquer des sites, sur décision d’un juge. Mais, l’automatiser, c’est beaucoup plus dangereux, car quand on passe par de l’administratif, on se retrouve avec des listes noires et des personnes capables d’en empêcher d’autres de voir quelque chose, sans qu’il y ait de contradictoire. On rentre dans des choses vraiment désagréables et difficiles à accepter au sein d’une société démocratique. Car on ne sait pas qui censure quoi. Qui surveille les surveillants ? »

https://www.lanouvellerepublique.fr/a-la-une/dossier-face-aux-pirates-le-sport-francais-cherche-la-parade

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[LeDevoir] Il y a 30 ans naissait le Webhttps://www.laquadrature.net/?p=13706http://streisand.me.thican.net/laquadrature.net/index.php?20190320_110000__LeDevoir__Il_y_a_30_ans_naissait_le_WebWed, 20 Mar 2019 10:00:00 +0000« On a connecté le monde, mais on a aussi connecté toute la merde qui allait avec. » Au téléphone, Ben Segal, ingénieur au laboratoire du CERN, l’Organisation européenne pour la recherche nucléaire, est tout sauf lénifiant lorsqu’il remonte le fil de l’histoire du Web, dont il a accompagné la naissance. […]

« La décentralisation, les protocoles ouverts, c’est l’idée de départ, dit Alexis Fitzjean, membre de La Quadrature du Net, un organisme européen qui milite pour un Web plus proche de son idéologie originelle. Il faut revenir à cette idée de l’internaute producteur et diffuseur de l’information, mais aussi imposer des interfaces de programmation [les fameuses API] ouvertes qui permettraient à un usager de ne plus être captif d’un réseau social et de migrer vers un autre, sans peur de perdre son historique, ses données personnelles ou ses contacts. » […]

https://www.ledevoir.com/societe/549634/ll-y-a-30-ans-naissait-le-web

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[Contexte] La Quadrature du Net : « Emmanuel Macron n’est pas pour l’Europe des libertés, mais pour l’Europe des Gafam »https://www.laquadrature.net/?p=13712http://streisand.me.thican.net/laquadrature.net/index.php?20190319_110000__Contexte__La_Quadrature_du_Net________Emmanuel_Macron_n___est_pas_pour_l___Europe_des_libertes__mais_pour_l___Europe_des_Gafam____Tue, 19 Mar 2019 10:00:00 +0000[Série] Un an et demi après l’arrivée d’Emmanuel Macron au pouvoir et alors que se profilent les européennes, Contexte donne la parole à des acteurs privés français impliqués sur les sujets numériques. Quel bilan font-ils de ce début de présidence et du marché unique numérique ? Quels sont leurs souhaits pour la suite ? Sixième volet avec Arthur Messaud et Martin Drago, juristes à La Quadrature du Net. […]

« On entend souvent dire qu’Emmanuel Macron est européen, c’est faux ! Il ne respecte pas l’arrêt Tele2 de la Cour de justice de l’Union européenne, un arrêt protecteur pour les libertés publiques, qui interdit de mettre les acteurs privés au service de la surveillance de masse. Il veut même aller plus loin, avec la loi sur les contenus haineux. Il n’est pas pour l’Europe des libertés, mais pour l’Europe des Gafam et des grosses entreprises. » […]

https://www.contexte.com/article/numerique/la-quadrature-du-net-emmanuel-macron-nest-pas-pour-leurope-des-libertes-mais-pour-leurope-des-gafam_98253.html

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[20Minutes] Cambridge analytica: « Le scandale a montré que les politiciens sont aussi malhonnêtes que les autres »https://www.laquadrature.net/?p=13713http://streisand.me.thican.net/laquadrature.net/index.php?20190318_110000__20Minutes__Cambridge_analytica______Le_scandale_a_montre_que_les_politiciens_sont_aussi_malhonnetes_que_les_autres____Mon, 18 Mar 2019 10:00:00 +0000INTERVIEW. Benjamin Bayart, cofondateur de la Quadrature du Net, revient sur le scandale Cambridge analytica et ouvre les portes à la démocratie du futur. […]

Benjamin Bayart, cofondateur de la Quadrature du Net, animera la conférence « La démocratie à l’épreuve des réseaux sociaux » au Grand Barouf du numérique de Lille le 21 mars. Pour donner un avant-goût à cette réflexion, il revient avec 20 Minutes sur cette manipulation de grande ampleur et ouvre les portes à la démocratie du futur. […]

https://www.20minutes.fr/high-tech/2473643-20190317-cambridge-analytica-scandale-montre-politiciens-aussi-malhonnetes-autres

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
Censure antiterroriste : seconde défaite au Parlement européenhttps://www.laquadrature.net/?p=13698http://streisand.me.thican.net/laquadrature.net/index.php?20190315_155629_Censure_antiterroriste____seconde_defaite_au_Parlement_europeenFri, 15 Mar 2019 14:56:29 +0000Au Parlement européen, les deux commissions appelées à rendre leur avis sur le règlement de censure anti-terroriste ont désormais publié leurs propositions d’amendements. Hélas, de même que l’avis rendu par la commission IMCO la semaine dernière (voir notre réaction), l’avis de la commission CULT (culture et éducation) n’apporte aucun véritable changement à la proposition initiale de la Commission européenne, désastreuse pour nos libertés.

Lire notre dossier sur le règlement.

Julie Ward, rapporteure du texte pour CULT, introduit l’avis en expliquant bien les menaces que représente le texte, de même que nous les dénonçons depuis des mois : le délai d’une heure que la police peut imposer à n’importe quel service pour retirer un contenu qu’elle considère « terroriste », l’élimination du rôle de l’autorité judiciaire, la possibilité pour la police d’imposer aux plateformes des mesures proactives (notamment des filtres automatisés), les amendes considérables pour tous les acteurs de l’Internet qui ne respecteraient pas ces obligations…

Mais presque aucune de ces inquiétudes ne sont matérialisées dans le texte final adopté lundi par la commission CULT. Au contraire.

S’agissant du délai d’une heure, CULT propose de le remplacer par un « sans retard indu ». Ce qui pourrait paraître pour un premier progrès disparaît aussitôt qu’on lit la suite du texte : « les États Membres peuvent prévoir que, lorsqu’un contenu terroriste est manifestement nocif ou constitue une menace immédiate à l’ordre public, les services d’hébergement doivent le supprimer ou en empêcher l’accès dès l’instant où ils reçoivent une injonction dûment justifiée » (notre traduction). Ainsi, contre toute attente, les députés de CULT ont réussi à rendre cette disposition encore plus dangereuse, permettant aux États Membres de donner à leur police le pouvoir d’exiger le retrait immédiat d’un contenu. Tel que nous le rappelons dans chacune de nos analyses, seule une poignée d’acteurs sont capables de respecter une obligation aussi stricte : les géants du Web. Alors que nous pensions que la proposition initiale de la Commission européenne ne pouvait être aggravée, la commission CULT a défié toutes nos attentes.

Aucun progrès non plus du côté de l’autorité compétente qui peut ordonner le retrait de ces contenus : le texte prévoit que les États membres peuvent désigner une autorité judiciaire ou « une autorité administrative indépendante disposant de l’expertise requise ». Néanmoins, une telle notion pourrait concerner de nombreuses autorités administratives et il ne fait aucun doute que certains États interpréteront cette notion de la manière la plus profitable pour eux. L’article 6 dans lequel l’autorité compétente peut imposer des mesures proactives aux hébergeurs est également toujours présent, tout comme les sanctions financières (si la version de la Commission prévoyait que les acteurs pouvaient être sanctionnés jusqu’à 4% de leur chiffre d’affaires, CULT propose de baisser à 2%…)

Des changements aussi timides ne permettront jamais de régler les principaux dangers qui existent au cœur de ce texte : l’existence de mesures proactives obligatoires avec la menace de lourdes sanctions financières n’aura pour effet que d’encourager les acteurs de l’Internet à adopter une définition de la notion de contenu terroriste aussi large que possible. Cela mènera à une censure de masse des contenus en ligne et à la soumission de l’ensemble de ces acteurs aux outils de modération développés par les géants du Web.

Dernière ligne droite

Il revient maintenant à la commission LIBE (Libertés civiles, justice et affaires intérieures) de voter sa version du texte qui sera présentée en avril à l’ensemble du Parlement européen. Les députés de cette commission et les « shadow rappporteurs » se rencontrent en ce moment régulièrement pour trouver des compromis sur les points les plus problématiques du texte, avec l’objectif d’arriver à une position finale d’ici le 21 mars, jour du vote. Nous craignons malheureusement le pire : les compromis que nous avons pu pour l’instant lire ne sont pas bons du tout, et même aussi mauvais que l’avis de CULT. Ils ne prévoient toujours aucune autorisation judiciaire préalable, remplacent le délai d’une heure par un délai de huit heures (ce qui ne change rien) et promeuvent toujours le filtrage automatique…

Il est plus que jamais nécessaire d’appeler vos députés. Pour cela, nous avons prévu une page dédiée sur notre site avec une analyse du texte et un outil pour contacter les députés en charge du règlement.

Appelez vos députés. Demander le rejet de ce texte.

]]>
Rachida Dati porte-parole de la politique sécuritaire de Macron au Parlement européenhttps://www.laquadrature.net/?p=13673http://streisand.me.thican.net/laquadrature.net/index.php?20190312_152126_Rachida_Dati_porte-parole_de_la_politique_securitaire_de_Macron_au_Parlement_europeenTue, 12 Mar 2019 14:21:26 +0000Alors que le vote sur le règlement de censure terroriste aura lieu le 21 mars (voir notre site de campagne), Rachida Dati a adressé à l’ensemble des députés européens en charge du texte, une lettre dans laquelle elle soutient la position la plus sécuritaire du Parlement européen. Nommée cheffe de file sur ce dossier par le groupe politique de droite (le Parti populaire européen – PPE, le plus important du Parlement), elle y défend les intérêts politiques d’Emmanuel Macron, en faveur d’un contournement de la justice et d’un assujettissement du Web européen à Google et Facebook.

Le 27 février dernier, Rachida Dati envoyait à l’ensemble des 60 députés de la commission LIBE (« liberté civile », qui votera le texte le 21 mars) une lettre les invitant à adopter le règlement dans sa version la plus sécuritaire possible (voir la lettre (PDF)). Refusant tout débat objectif, Mme Dati se moque que ce texte soit inutile, qu’il méprise la séparation des pouvoirs en permettant des censures massives sans juge, qu’il détruise nos libertés sur Internet ou qu’il annihile l’écosystème numérique européen. Elle semble ne chercher qu’un symbole politique facile pour ses prochaines élections : se positionner en tant que héraut de la lutte contre le terrorisme.

Le mythe de l’auto-radicalisation

D’entrée de jeu, elle fait sienne la rhétorique trompeuse de la Commission européenne, arguant que le règlement de censure terroriste « est un outil crucial pour renforcer la lutte contre le terrorisme et la radicalisation en Europe ». Comme la Commission, elle refuse tout débat basé sur des faits, préférant fonder son action politique sur les sentiments de crainte et d’urgence. Si Rachida Dati acceptait de s’en tenir aux faits, sa conclusion serait pourtant bien différente : en 2017, l’UNESCO publiait un rapport analysant 550 études sur la question de la radicalisation en ligne et concluant que « les données sont insuffisantes pour que l’on puisse conclure à l’existence d’un lien de cause à effet entre la propagande extrémiste ou le recrutement sur les réseaux sociaux et la radicalisation violente des jeunes ». En face, ni Rachida Dati, ni la Commission européenne, ne sont capables de produire des études soutenant leurs théories.

Cette situation n’est pas nouvelle. Comme elle le rappelle dans sa lettre, Rachida Dati a été, en 2015, la rapporteure d’une « résolution du Parlement européen sur la prévention de la radicalisation et du recrutement de citoyens de l’Union par des organisations terroristes ». Cette résolution souffrait des mêmes défauts, affirmant déjà au doigt mouillé, sans aucune évaluation concrète ni chiffrée, que « l’internet et les réseaux sociaux constituent des plateformes importantes utilisées pour accélérer la radicalisation et le fondamentalisme, car ils permettent une diffusion massive et rapide, à l’échelle mondiale, des messages de haine et d’apologie du terrorisme » (nous le dénoncions déjà alors).

Plus grave encore, cette résolution parlementaire de 2015 « exprime ses vives inquiétudes face à l’utilisation croissante des techniques de cryptage par les organisations terroristes qui rendent impossibles la détection et la lecture de leurs communications ». Invoquer le prétexte terroriste pour lutter contre le chiffrement de nos communications est malheureusement devenu un lieu commun. Heureusement, Rachida Dati nous fait grâce de ce serpent de mer dans les débats actuels.

Dans tous les cas, il devient ainsi difficile de dire aujourd’hui qui d’Emmanuel Macron ou de Rachida Dati reprend la politique de l’autre. L’approche sécuritaire, prise par Nicolas Sarkozy lorsque Madame Dati faisait parti de son gouvernement, n’est en rien différente de celle d’Emmanuel Macron. Tous reposent sur la mise en avant de solutions simplistes, ignorant les faits ainsi que leurs conséquences concrètes, espérant que leur électorat soit plus sensible à la peur qu’à la raison.

Destruction de l’écosystème numérique européen

Dans la lettre envoyée à ses 60 collègues de la commission LIBE, Rachida Dati « appelle le Parlement à soutenir le délai d’une heure pour exécuter les injonctions de retrait ». Face aux réalités d’une telle obligation, Madame Dati feint d’avoir « entendu et compris les préoccupations de différents acteurs, notamment des PME ». En vérité, elle en méprise totalement les intérêts.

Aucune petite ou moyenne plateforme ne peut supprimer en une heure un contenu signalé comme terroriste par la police (pour la simple raison, déjà, que répondre à cette demande la nuit ou le weekend n’est possible que pour les entreprises les plus importantes). Madame Dati ne propose aucune marge d’ajustement pour ces plateformes, faisant primer ce délai magique d’une heure sur toute autre considération.

L’écosystème numérique européen n’a qu’à disparaître, soumis à des obligations intenables sous la menace de lourdes sanctions. Ceci n’affectera en rien la stratégie électoraliste de Rachida Dati qui, manifestement, pense qu’une position aussi symbolique qu’absurde contre le terrorisme l’aidera à gagner la mairie de Paris (pour laquelle elle vient d’annoncer se présenter).

Surtout, cet acharnement symbolique est parfaitement vain : l’extrême majorité des plateformes en ligne font déjà de leur mieux pour supprimer les contenus terroristes, qu’ils soient ou non signalés par la police. Aucune plateforme n’a d’intérêt à héberger de tels contenus, si ce n’est à vouloir effectivement participer à leur diffusion. Contre des plateformes qui souhaiteraient cela, le règlement de censure terroriste ne prévoit rien, car aucune loi ne peut rien faire contre : ces plateformes pourront toujours s’installer n’importe où pour échapper à la loi (elles le font déjà) et seront toujours accessibles par leur public.

Renforcer la dépendance à Google et Facebook

Rachida Dati affirme auprès de ses collègues que « ces dernières années ont prouvé qu’avec le développement technologique les grandes plateformes telles que Google, Facebook et Twitter ont atteint de bons résultats » en matière de censure des contenus terroristes. Un tel éloge des GAFAM, qui ne se base toujours pas sur une analyse chiffrée, fait directement écho à la façon dont Mounir Mahjoubi promeut Facebook en héros de la modération contre la haine sur Internet (voir notre analyse). À chaque fois dans le même but : conforter la position dominante des géants du Web qui sont devenus les alliées de gouvernements souhaitant toujours plus surveiller et contrôler la population.

Encore une fois, les acteurs qui offrent des modèles alternatifs, plus respectueux de notre vie privée et de notre liberté d’expression (revoir notre article à leur sujet), sont appelés à disparaître ou, au mieux, à se placer sous la dépendance de ces géants. Rachida Dati reprend ainsi la rhétorique de la Commission européenne, en « soutenant fortement la proposition sur les mesures proactives » que les plateformes devront obligatoirement déployer pour détecter et supprimer les contenus terroristes.

La Commission européenne explique ainsi, au côté du ministère de l’intérieur français, que les outils de filtrage développés par Facebook, Google, Twitter et Microsoft depuis 2015 pour leur plateformes doivent maintenant être utilisés par l’ensemble des acteurs du Web (lire notre analyse sur la genèse du règlement). La zone d’influence des GAFAM continue de s’étendre, avec le soutien total des gouvernements européens et, ici, de Madame Dati.

Une démarche purement électoraliste

Rachida Dati ne cache pas le sens de son engagement : « Nous devons voter ce rapport avant la fin du mandat. Tout délai à son adoption serait non seulement une sérieuse erreur politique, mais aussi un affront aux citoyens qui demandent à l’Union européenne de les protéger ».

Puisque ce règlement n’apportera aucune protection, c’est uniquement la peur des citoyens qui l’intéresse. On comprend alors très bien pourquoi ce serait une « sérieuse erreur politique » de ne pas en jouer, alors qu’elle ne compte pas se représenter au Parlement européen, mais qu’elle doit justifier, dans l’urgence, son mandat européen assez creux, afin de poursuivre sa carrière politique française.

C’est pourtant la démarche inverse que doit adopter le Parlement européen : forcé de débattre d’un texte aux conséquences aussi lourdes en seulement quelques semaines, il ne pourra prendre que les pires solutions. Aucun débat législatif ne doit être conduit dans l’urgence électoraliste. Certes, les craintes que la composition du prochain Parlement européen soit encore plus à droite et proche d’Emmanuel Macron ne sont pas à prendre à la légère. Mais, contre toute projection politicienne, nous préférons la sagesse des débats longs, précis et rigoureux.

Pour repousser la censure automatisée, le contournement du juge et la GAFAMisation du Web, appelons les députés européens avant le 21 mars via notre site d’action.

Les citations de la lettre de Rachida Dati sont des traductions de notre part, de l’anglais vers le français.

]]>
[France3] Un livre un jour « Algorithmes, la bombe à retardement »https://www.laquadrature.net/?p=13669http://streisand.me.thican.net/laquadrature.net/index.php?20190311_110000__France3__Un_livre_un_jour_____Algorithmes__la_bombe_a_retardement____Mon, 11 Mar 2019 10:00:00 +0000Présenté par : Adeline Alexandre, Delphine Chaume.

Entretien avec Benjamin Sonntag, co-fondateur de La Quadrature du Net’ pour le livre « Algorithmes, la bombe à retardement », de Cathy O’Neil (Les Arènes).

https://www.france.tv/france-3/un-livre-un-jour/910845-algorithmes-la-bombe-a-retardement-de-cathy-o-neil-les-arenes.html

NDLRP : réalisé par Olivie’r Chevillard. Les illustrations sont de Tommy Dessine. A retrouver sur le peertube LQDN :

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[TV5Monde] Règlement antiterroriste européen : la censure d’Internet automatisée par les GAFA ?https://www.laquadrature.net/?p=13641http://streisand.me.thican.net/laquadrature.net/index.php?20190310_110000__TV5Monde__Reglement_antiterroriste_europeen____la_censure_d___Internet_automatisee_par_les_GAFA___Sun, 10 Mar 2019 10:00:00 +0000Le règlement européen pour la prévention de la diffusion de contenus à caractère terroriste en ligne, dévoilé en janvier par la Commission européenne, devrait être adopté avant les élections européennes de mai. L’obligation pour les hébergeurs de retirer un contenu dans l’heure risque de créer une automatisation de la censure en ligne, qui se verrait alors massivement gérée par les géants du Net. Eclairage avec Olivier Iteanu, avocat spécialiste du droit de l’Internet. […]

Selon La Quadrature du net, cette définition très large du terrorisme pourrait englober à terme des mouvements sociaux contestataires — comme celui des Gilets jaunes — et mener à une censure automatisée de la contestation sur Internet. Un article du règlement est particulièrement pointé du doigt : celui permettant à une autorité administrative ou judiciaire d’imposer le retrait de contenus dans un délai d’une heure maximum (règle appelée la « Golden hour », ndlr) sans quoi une amende de 4% du chiffre d’affaires de l’hébergeur impliqué pourrait être appliquée. […]

https://information.tv5monde.com/info/reglement-antiterroriste-europeen-la-censure-d-internet-automatisee-par-les-gafa-287776

NDLRP : notre campagne contre ce règlement : Règlement terroriste.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[Brut] La reconnaissance faciale expérimentée au carnaval de Nicehttps://www.laquadrature.net/?p=13642http://streisand.me.thican.net/laquadrature.net/index.php?20190309_110000__Brut__La_reconnaissance_faciale_experimentee_au_carnaval_de_NiceSat, 09 Mar 2019 10:00:00 +0000La reconnaissance faciale est expérimentée pour renforcer la sécurité pendant le carnaval de Nice. Cela inquiète certaines associations, notamment sur l’utilisation des données personnelles…

https://www.brut.media/fr/science-and-technology/la-reconnaissance-faciale-experimentee-au-carnaval-de-nice-c8c75753-3070-4662-b206-ab92ca754623

NRLDP : avec Martin de La Quadrature du net.

Retrouvez notre recours avec trois associations devant le tribunal administratif de Marseille pour demander l’annulation de la délibération du conseil régional autorisant la mise en œuvre d’une expérimentation de reconnaissance faciale dans deux lycées de la région : Reconnaissance faciale : un recours pour faire barrage à la surveillance biométrique.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[LeMedia] Macron contre l’informationhttps://www.laquadrature.net/?p=13643http://streisand.me.thican.net/laquadrature.net/index.php?20190308_110000__LeMedia__Macron_contre_l___informationFri, 08 Mar 2019 10:00:00 +0000Après le projet de loi sur les fake news, le pouvoir français prépare une nouvelle loi sur l’information. Officiellement conçue pour lutter contre les contenus haineux sur Internet, celle-ci ouvre une fois encore la voie à une réduction des libertés publiques. Que nous prépare l’Etat, main dans la main avec les GAFAS ? Quelles menaces pèsent sur la liberté d’informer en France ? Pour en discuter au Média TV à Montreuil, 4 invités avec nous le jeudi 28 février à 20h30.

  • Gaspard Glanz, journaliste indépendant, fondateur de Taranis news ;
  • John R. MacArthur, journaliste et essayiste politique, patron du Harper’s, le plus ancien mensuel américain ;
  • Olivier Berruyer, fondateur du site Les crises, un des blogs français les plus fréquentés sur les sujets internationaux et économiques ;
  • Benjamin Bayart, cofondateur de La Quadrature du Net, association qui milite pour les libertés fondamentales sur le web. Ex-président de French Data Network, le plus ancien fournisseur d’accès à internet en France.

https://www.youtube.com/watch?v=MjMlCkv97yg

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[korii] Alexa va-t-elle devenir un membre de notre famille ?https://www.laquadrature.net/?p=13644http://streisand.me.thican.net/laquadrature.net/index.php?20190307_110000__korii__Alexa_va-t-elle_devenir_un_membre_de_notre_famille___Thu, 07 Mar 2019 10:00:00 +0000Nos assistants vocaux nous connaissent aussi bien (voire mieux) que les personnes qui composent notre foyer, où ils occupent une place bien particulière. […]

Malgré sa voix humaine, malgré son côté sympa et disponible, Alexa n’éprouve aucune émotion. Même si la personne qui l’utilise s’est attachée à elle, Alexa ne fera jamais de même, rappelle Alexis Fitzjean O Cobhthaigh, juriste et membre de la Quadrature du Net, une association qui défend les libertés numériques : « Dans la relation avec un assistant vocal, l’affect ne va que dans un sens. Il ne faut pas tomber dans le piège de croire qu’une véritable relation se nouerait avec la machine. Le chatbot ne ressent absolument rien. Il essaye juste de faire le lien entre les informations qu’il arrive à capter. Un chatbot, c’est aussi tout simplement un moteur de recherche comme Google ». […]

https://korii.slate.fr/tech/alexa-assistant-vocal-intelligence-artificielle-membre-famille

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[ActeursPublics] Cybersécurité : les sondes de l’Anssi dans le collimateur d’associations de défense des libertéshttps://www.laquadrature.net/?p=13645http://streisand.me.thican.net/laquadrature.net/index.php?20190306_110000__ActeursPublics__Cybersecurite____les_sondes_de_l___Anssi_dans_le_collimateur_d___associations_de_defense_des_libertesWed, 06 Mar 2019 10:00:00 +0000La Quadrature du net, le fournisseur d’accès « franciliens.net » et la Fédération des fournisseurs d’accès associatifs ont déposé un recours pour excès de pouvoir devant le Conseil d’État. En ligne de mire : les sondes de détection dont le déploiement par l’Anssi a été autorisé par la dernière loi de programmation militaire. […]

Cette imprécision terminologique, couplée à celle qui entoure les “menaces” qui seront recherchées par ces sondes, ne permet donc pas, selon Alexis Fitzjean O’Cobhthaigh, de bien saisir “l’objet et la portée exacte des mesures susceptibles d’être mises en œuvre”. Ainsi, ce recours “pose de nombreuses questions de « principe », notamment celle de la légitimité d’une analyse profonde (ce qu’on appelle le Deep Packet Inspection, c’est-à-dire une analyse du contenu des paquets et non seulement des métadonnées) en temps réel de la totalité du trafic internet ou à tout le moins de parts très substantielles de celui-ci”, explique l’avocat. […]

https://www.acteurspublics.com/2019/02/27/cybersecurite-anssi-sondes-de-detection-conseil-d-etat-quadrature-du-net

NDLRP – le communiqué de La Quadrature du net : : Cybersécurité : nous attaquons la surveillance de masse.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
Censure antiterroriste : première défaite au Parlement européenhttps://www.laquadrature.net/?p=13659http://streisand.me.thican.net/laquadrature.net/index.php?20190305_124757_Censure_antiterroriste____premiere_defaite_au_Parlement_europeenTue, 05 Mar 2019 11:47:57 +0000Hier, les députés européens ont publié le premier des deux avis attendus sur le règlement de censure des « contenus terroristes », et il est mauvais. Malgré les bonnes intentions de la rapporteure Julia Reda, la Commission IMCO (« Marché intérieur et protection des consommateurs ») a décidé de n’apporter aucun réel changement à la proposition telle que publiée par la Commission européenne en septembre dernier.

Lire notre dossier sur ce règlement.

Toujours pas d’autorisation judiciaire

Selon l’avis de la commission IMCO1L’avis de la commission IMCO n’a pas encore été publié, mais il est principalement constitué de tous les amendements de compromis (excepté le CA 5) listés dans ce document., le gouvernement de n’importe quel État membre de l’Union européenne pourra ordonner à tout site Internet de retirer un contenu qu’il considère comme « terroriste ». Aucune autorisation judiciaire préalable ne sera nécessaire, ce qui permettra aux gouvernements d’abuser de la notion vague de « terrorisme ». La seule chose que la commission IMCO a accepté d’ajouter est de soumettre l’ordre de retrait du gouvernement à un « contrôle judiciaire », ce qui ne veut pas dire grand chose.

En France, les ordres de retrait du gouvernement concernant les « contenus terroristes » sont déjà sujets à un « contrôle judiciaire », avec une autorité indépendante (une personne qualifiée de la CNIL) qui est notifiée de tous les ordres de retrait et qui peut demander à un juge d’en évaluer la légalité. Cela n’a pas servi à grand chose : ce contrôle judiciaire n’a été utilisé qu’une seule fois et, même s’il a conduit à une annulation de l’ordre de retrait, n’a été reconnu comme étant illicite qu’un an et demi après (voir la décision). Durant ce laps de temps, le gouvernement français a donc été capable de censurer abusivement un contenu, en l’espèce une publication d’extrême-gauche sur la plateforme Indymedia.

Loin de simplifier le cadre juridique, le règlement ne fera que le rendre plus complexe, l’autorité d’un État membre étant en capacité d’ordonner le retrait d’un contenu dans un autre État, sans nécessairement prendre en compte le contexte dans lequel il a été publié.

Des délais de retrait irréalistes

Concernant le délai d’une heure que la police peut imposer à un hébergeur pour retirer un contenu qu’elle considère comme « terroriste », aucun réel progrès n’a non plus été réalisé par la commission IMCO. Il a été remplacé par un délai ne pouvant être plus court que huit heures, avec une exception pour les « microentreprises » qui n’auraient pas déjà reçu un ordre de retrait (dans ce cas, il est indiqué que le délai ne pourrait se terminer avant le prochain jour travaillé).

Cette exception très limitée ne permettrait pas à la grande majorité des acteurs de l’Internet de se conformer à des délais aussi courts. Même si la commission IMCO a retiré toute référence à des « mesures proactives » que la police pourrait imposer aux acteurs de l’Internet, et a indiqué que ces derniers ne devraient pas utiliser de filtres automatiques ; ces délais très courts, ainsi que la menace de lourdes sanctions financières ne pourront que les forcer à se soumettre aux outils de modération développés par les GAFAM (Facebook et Google en tête) et à retenir la définition la plus large possible de la notion de « terrorisme » pour éviter toute sanction. De la même façon, l’obligation irréaliste de prévoir un « point de contact » disponible 24/24h et 7j/7 n’a pas été modifiée. La commission IMCO a même alourdi les sanctions financières qui peuvent être imposées en prévoyant une sanction minimum de 1% du chiffre d’affaires mondial, plancher qui n’existait pas dans la proposition de la Commission européenne.

Prochaines étapes

La prochaine étape sera le 11 mars, lors du vote de l’avis de la commission CULT (Culture et Education). Nous n’avons pas de grands espoirs : comme nous l’avions déjà souligné, le projet d’avis de la rapporteure Julie Ward n’était même pas aussi positif que celui de la commission ICMO.

Notre dernière réelle opportunité pour obtenir le rejet de ce texte liberticide sera le 21 mars prochain, lors du vote au sein de la commission LIBE (Libertés civiles, justice et affaires intérieures). Les citoyens européens doivent contacter leurs députés pour demander le rejet du règlement. Nous avons prévu à cet effet une page dédiée avec une analyse du texte et un outil pour contacter directement les députés concernés.

Dès aujourd’hui et dans les 2 semaines à venir, appelez vos députés et demandez leur de rejeter ce texte.

References   [ + ]

1. L’avis de la commission IMCO n’a pas encore été publié, mais il est principalement constitué de tous les amendements de compromis (excepté le CA 5) listés dans ce document.
]]>
[FranceTvInfo] Faut-il voir la reconnaissance faciale d’un mauvais œil ?https://www.laquadrature.net/?p=13646http://streisand.me.thican.net/laquadrature.net/index.php?20190305_110000__FranceTvInfo__Faut-il_voir_la_reconnaissance_faciale_d___un_mauvais___il___Tue, 05 Mar 2019 10:00:00 +0000Au printemps 2018, deux lycées de la région Paca vont tester cette technologie à l’entrée des établissements pour éviter les intrusions. Un dispositif inédit en France qui suscite des interrogations sur l’utilisation des données biométriques. […]

Un angle mort déjà exposé par le député LREM Didier Baichère, dans une question officiellement adressée le 9 octobre 2018, à Mounir Mahjoubi, secrétaire d’Etat chargé du Numérique. Le parlementaire souhaitait « savoir si [le gouvernement] envisage prochainement de réfléchir à comment prévenir l’utilisation de ces technologies à des fins malhonnêtes« .

Sa question était restée sans réponse. « En tant que parlementaire, je suis gêné que des expérimentations démarrent, regrette le député interrogé par franceinfo. Il faudrait d’abord commencer par saisir des instances comme l’office parlementaire d’évaluation des choix scientifiques et technologiques. » Martin Drago, membre de la Quadrature du net interrogé par franceinfo, considère ces expérimentations comme « un nouvel exemple de la banalisation des technologies de surveillance en France. La reconnaissance faciale est une technologie particulièrement intrusive pour notre vie privée et devrait être, au minimum, comme le recommande l’article 8 de la CEDH, basée sur une loi adaptée, claire, intelligible avec les garde-fous nécessaires« , préconise-t-il. […]

https://www.francetvinfo.fr/internet/faut-il-voir-la-reconnaissance-faciale-d-un-mauvais-oeil_3197665.html

NRLDRP – Retrouvez notre recours avec trois associations devant le tribunal administratif de Marseille pour demander l’annulation de la délibération du conseil régional autorisant la mise en œuvre d’une expérimentation de reconnaissance faciale dans deux lycées de la région : Reconnaissance faciale : un recours pour faire barrage à la surveillance biométrique.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[NextINpact] LPM 2019-2025 : le décret sur le Deep Packet Inspection attaqué devant le Conseil d’Etathttps://www.laquadrature.net/?p=13647http://streisand.me.thican.net/laquadrature.net/index.php?20190304_110000__NextINpact__LPM_2019-2025____le_decret_sur_le_Deep_Packet_Inspection_attaque_devant_le_Conseil_d___EtatMon, 04 Mar 2019 10:00:00 +0000La Quadrature du Net, Franciliens.net et la Fédération FDN viennent d’attaquer le décret de la loi de programmation militaire. Un texte qui autorise le déploiement d’outils de deep packet inspection chez les intermédiaires techniques, en particulier les hébergeurs. […]

Dans le fil du recours, un autre reproche vise la définition même de plusieurs termes centraux comme la notion de « menace » ou celle de « marqueurs techniques », jugées trop floues dans les textes. De fait, LQDN et les deux autres associations estiment être dans l’incapacité d’affirmer que cette détection des menaces se limitera aux seules données de connexion ou débordera sur le contenu des correspondances.

« L’imprécision de cette notion, regrettent les trois acteurs, engendre un doute dans le régime appliqué et donc dans les garanties et restrictions qui doivent être attachées à une telle technique de surveillance ». […]

https://www.nextinpact.com/news/107663-lpm-2019-2025-decret-sur-deep-packet-inspection-attaque-devant-conseil-detat.htm

NDLRP – le communiqué de La Quadrature du net : : Cybersécurité : nous attaquons la surveillance de masse.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[Cnet] La reconnaissance faciale dans les lycées suscite l’inquiétude, plusieurs associations montent au créneauhttps://www.laquadrature.net/?p=13604http://streisand.me.thican.net/laquadrature.net/index.php?20190303_110000__Cnet__La_reconnaissance_faciale_dans_les_lycees_suscite_l___inquietude__plusieurs_associations_montent_au_creneauSun, 03 Mar 2019 10:00:00 +0000Deux lycées de la région Sud testent la reconnaissance faciale. Quatre associations françaises ont déposé un recours auprès du tribunal administratif de Marseille. […]

Pour Martin Drago, juriste à la Quadrature du Net, l’une des associations qui a déposé ce recours : « Cette expérimentation vise à accoutumer les élèves à une surveillance biométrique. Cela participe à la banalisation de ce type de technologies, alors que des projets sécuritaires de vidéosurveillance dopées à la reconnaissance faciale pullulent désormais sur le territoire français« . Rappelons que l’aéroport de Nice dispose d’un outil similaire afin notamment d’améliorer le contrôle aux frontières et fluidifier la circulation.

https://www.cnetfrance.fr/news/la-reconnaissance-faciale-dans-les-lycees-suscite-l-inquietude-plusieurs-associations-montent-au-creneau-39881057.htm

[NDLRP] Le communiqué de La Quadrature du Net sur ce recours : Reconnaissance faciale : un recours pour faire barrage à la surveillance biométrique.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[FranceCulture] Civic tech, fake news : les algorithmes, amis ou ennemis de la démocratie ?https://www.laquadrature.net/?p=13598http://streisand.me.thican.net/laquadrature.net/index.php?20190302_110000__FranceCulture__Civic_tech__fake_news____les_algorithmes__amis_ou_ennemis_de_la_democratie___Sat, 02 Mar 2019 10:00:00 +0000Comment fonctionnent les algorithmes ? Comment après la vie privée, les algorithmes s’installent-ils dans la vie publique ? La contestation sociale dépend-elle aujourd’hui des algorithmes ? Quelles innovations pourraient permettre de lutter contre les fake news ? […]

Pour en parler autour de cette table, nous sommes ravis d’accueillir Axelle Lemaire, ancienne Secrétaire d’Etat chargée du Numérique sous la présidence de François Hollande, actuellement associée au cabinet de conseil en stratégie Roland Berger – qui est en charge du traitement des données recueillies pour le Grand Débat National, Jean-Gabriel Ganascia, professeur d’informatique à Sorbonne Universités, et président du conseil d’éthique du CNRS et Benjamin Bayart, co-fondateur de la quadrature du Net, co-président de la Fédération des Fournisseurs d’Accès à Internet Associatifs. […]

https://www.franceculture.fr/emissions/la-methode-scientifique/civic-tech-fakenews-les-algorithmes-amis-ou-ennemis-de-la-democratie

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[PublicSenat] Haine sur Internet : l’exécutif veut mettre les plateformes sous pressionhttps://www.laquadrature.net/?p=13599http://streisand.me.thican.net/laquadrature.net/index.php?20190301_110000__PublicSenat__Haine_sur_Internet____l___executif_veut_mettre_les_plateformes_sous_pressionFri, 01 Mar 2019 10:00:00 +0000Un délai de 24 heures imposé aux plateformes pour retirer un contenu haineux, mise en place d’une procédure uniformisée pour les signalements ou encore l’accélération de la levée de l’anonymat pour les auteurs d’injures racistes… Une proposition de loi en ce sens devrait voir le jour dans les prochaines semaines mais se heurte déjà à des limites juridiques et techniques. […]

En effet, les propositions contenues dans le rapport pourraient, à première vue, conduire à des effets indésirables. « Seules les grandes plateformes ont les moyens de se munir d’algorithmes permettant ce filtrage généralisé et ainsi retirer des contenus dans un délai court. Une telle loi renforcerait l’hégémonie de Facebook, Twitter… Mais surtout, Facebook ne dispose pas de garanties d’indépendance et d’impartialité pour juger ce qui est haineux ou non. Il ne peut se substituer à un magistrat dont c’est le rôle » rappelle Alexis Fitzjean O Cobhthaigh avocat au barreau de Paris et membre de la Quadrature du Net. Dans une interview au Monde, la députée Laetitia Avia affirme également sa volonté d’accélérer la levée de l’anonymat pour les auteurs d’injures racistes ou antisémites sur le web. « Pour lever l’anonymat sur le Net, la France contraint les hébergeurs de contenus à conserver les données de connexions pendant un an. Or, la jurisprudence de la Cour de Justice européenne considère que ce n’est pas conforme au droit européen » observe Alexis Fitzjean O Cobhthaigh. […]

https://www.publicsenat.fr/article/politique/haine-sur-internet-l-executif-veut-mettre-les-plateformes-sous-pression-138274

[NDLRP] Le communiqué de La Quadrature du Net : Mahjoubi et Schiappa croient lutter contre la haine en méprisant le droit européen.

La Tribune de Félix Tréguer sur le site de La Quadrature du Net : Vers l’automatisation de la censure politique.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
Solidarité avec les profs de Paris 13 remplacés par Googlehttps://www.laquadrature.net/?p=13624http://streisand.me.thican.net/laquadrature.net/index.php?20190228_113839_Solidarite_avec_les_profs_de_Paris_13_remplaces_par_GoogleThu, 28 Feb 2019 10:38:39 +0000Lundi matin, La Quadrature du Net est intervenue aux côtés d’enseignant·es de l’université de Paris 13 pour interrompre une dizaine de minutes la formation de 4 jours donnée par Google à une centaine d’étudiant·es.

Cette formation de Google est un exemple de plus où l’État désinvestit le service public pour le déléguer à des acteurs privés, faisant directement écho à nos principaux dossiers en cours – où l’État délègue la censure du Net aux GAFAM dans le règlement de censure terroriste et où certaines villes confient leur politique sécuritaire à des technologies privées.

Le cas de Paris 13 est criant : alors que l’université manque considérablement de moyens pour fournir des cours à ses étudiant·es, elle accueille à bras ouvert Google, qui vient gratuitement expliquer aux élèves comment devenir complices de sa surveillance économique de masse (récemment reconnue illégale par la CNIL suite à l’une de nos plaintes collectives).

Nous reproduisons ci-dessous et nous nous associons au communiqué des membres du personnel de Paris 13 luttant contre cette privatisation de l’enseignement public.

Action contre la présence de Google à Paris 13

La formation « Ateliers Numériques » donnée par Google à l’Université Paris 13 a été interrompue le lundi 25 février 2019 vers 9h30 par des membres du comité de mobilisation de Paris 13 (enseignant·e·s, chercheur·se·s, étudiant·e·s, membres du personnel) et des militant·e·s de l’association la Quadrature du Net, qui promeut et défend les libertés fondamentales dans l’environnement numérique.

En présence d’une centaine d’étudiant·e·s, de Jean-Pierre Astruc (Président de l’Université) et
Younès Bennani (Vice-Président « transition numérique » de l’Université), ils ont pu prendre la parole et dénoncer :

  • l’ingérence d’intérêts privés dans l’enseignement supérieur public, qui corrompt
  • l’indépendance des savoirs enseignés à l’Université,
  • la faiblesse pédagogique de la formation qui se résume à de la publicité gratuite,
  • la politique d’évasion fiscale massive pratiquée par Google qui contribue à la destruction de l’enseignement supérieur français, ce qui fournit en retour l’excuse pour céder à ce type de formations.

Les membres du comité de mobilisation et de la Quadrature du Net ont ensuite quitté la salle sans heurts.

Vous trouverez ici le texte du tract.

]]>
[BFMTV] Quatre associations se liguent contre la reconnaissance faciale dans les lycéeshttps://www.laquadrature.net/?p=13600http://streisand.me.thican.net/laquadrature.net/index.php?20190228_110000__BFMTV__Quatre_associations_se_liguent_contre_la_reconnaissance_faciale_dans_les_lyceesThu, 28 Feb 2019 10:00:00 +0000Pour mieux contrôler l’entrée des élèves, deux lycées du Sud de la France testent des portiques dotés d’une technologie de reconnaissance faciale. Un recours vient d’être déposé auprès du tribunal administratif de Marseille pour « faire barrage à la surveillance biométrique« . […]

Le recours déplore également le défaut d’analyse d’impact, pourtant légitime avant le lancement d’un tel test. Une impasse d’autant plus cruciale que « ce dispositif expérimental, installé et financé par la société américaine Cisco a vocation à être étendu à l’ensemble des établissements scolaires de la région« , relève la Quadrature du Net.

https://www.bfmtv.com/tech/quatre-associations-se-liguent-contre-la-reconnaissance-faciale-dans-les-lycees-1636534.html

[NDLRP] Le communiqué de La Quadrature du Net sur ce recours : Reconnaissance faciale : un recours pour faire barrage à la surveillance biométrique.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
[TV5Monde] Reconnaissance faciale : quatre associations déposent un recours contre les futurs portiques de lycées du sud de la Francehttps://www.laquadrature.net/?p=13601http://streisand.me.thican.net/laquadrature.net/index.php?20190227_110000__TV5Monde__Reconnaissance_faciale____quatre_associations_deposent_un_recours_contre_les_futurs_portiques_de_lycees_du_sud_de_la_FranceWed, 27 Feb 2019 10:00:00 +0000Deux lycées du sud de la France ont eu le feu vert de la Commission nationale de l’informatique et des libertés pour tester des portiques virtuels utilisant une technologie de reconnaissance faciale afin de filtrer les élèves. La quadrature du net associée à trois autres associations a déposé un recours pour demander l’annulation de la délibération du conseil régional à l’initiative de ce projet. Entretien avec Martin Drago, membre de LQDN et Didier Baichere, député LREM. […]

Martin Drago (membre de LQDN en charge du dossier reconnaissance faciale) et Didier Bachaire, député LREM (ayant posé une question au gouvernement sur la régulation des technologies de reconnaissance faciale), répondent chacun à nos questions au sujet de ces portiques et plus généralement de l’arrivée des « caméras intelligentes » dans les espaces publics. […]

https://information.tv5monde.com/info/reconnaissance-faciale-quatre-associations-deposent-un-recours-contre-les-futurs-portiques-de

[NDLRP] Le communiqué de La Quadrature du Net sur ce recours : Reconnaissance faciale : un recours pour faire barrage à la surveillance biométrique.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
Cybersécurité : nous attaquons la surveillance de massehttps://www.laquadrature.net/?p=13613http://streisand.me.thican.net/laquadrature.net/index.php?20190226_135710_Cybersecurite____nous_attaquons_la_surveillance_de_masseTue, 26 Feb 2019 12:57:10 +0000Nous venons de saisir le Conseil d’État contre la loi de programmation militaire (LPM) 2019 au côté d’un fournisseur d’accès associatif, Franciliens.net, et de la Fédération des fournisseurs d’accès associatifs (FFDN) . Pour la première fois, le droit français a autorisé le gouvernement à analyser de façon automatisée le contenu de nos communications. Voilà comment nous nous y opposons.

La LPM 2019 est entrée en vigueur en France en juillet 2018. C’est un texte épars sur des questions de sécurité et notamment, à son article 34, de cybersécurité.

L’agence de cybersécurité du gouvernement (l’ANSSI – l’autorité nationale de sécurité des systèmes d’information) gagne de nouveaux pouvoirs de surveillance du Net. Elle peut ordonner à un hébergeur Web ou un FAI (fournisseur d’accès à Internet) de poser sur le réseau des sondes lui permettant d’analyser le trafic pour détecter des attaques informatiques – en théorie du moins car, en pratique, on n’en sait trop rien, tout cela se déroulant sans le contrôle d’un juge.

Ces sondes sont la suite directe des « boîtes noires » instituées par la loi renseignement de 2015, qui permettent aux services du gouvernement de surveiller les réseaux de télécommunication de façon automatique et parfaitement opaque afin de détecter des « menaces terroristes », toujours sans l’autorisation d’un juge. La différence majeure entre les boites noires de 2015 et de 2019 est que ces premières n’analysent en théorie que des données techniques (qui parle à qui, quand…) alors que celles de 2019 peuvent aussi analyser le contenu des communications. La tentation pour le gouvernement de détourner ces nouveaux outils à des fins de surveillance politique en est d’autant plus grande.

Pour aller plus en détails, vous pouvez relire notre analyse complète de la loi, publiée cet été.

Nos arguments

En terme de stratégie, nous avons demandé au Conseil d’État de dire que cette loi viole le droit européen (techniquement, nous n’avons pas directement attaqué la loi mais son « décret d’application », car il n’existe pas de procédure en France pour attaquer une loi ; en pratique, ça ne fait ici aucune différence puisque le Conseil d’État a le pouvoir d’annuler un décret au motif que la loi qu’il applique viole le droit européen, ce qui revient au même pour nous : c’est cette violation que nous voulons voir reconnue par un juge).

Sur le fond, vous pouvez lire ici la demande que nous avons envoyée. Elle est très simple et courte, car il ne s’agit que d’un premier document destiné à ouvrir la procédure (nous devions envoyer notre demande dans les deux mois suivant la publication du décret). Le détail de notre argumentation viendra dans un « mémoire complémentaire », mais les grandes lignes sont déjà là.

Des objectifs confus

Le texte est extrêmement confus quant à son objectif. Il semble vouloir protéger les internautes des cyberattaques et, dans le même temps, détecter ceux qui sont à l’origine de ces attaques, sans faire aucune distinction entre ces deux objectifs. Or, en droit, poursuivre l’un ou l’autre de ces objectifs change tout. Si c’est pour vous protéger, le droit doit au minimum vous laisser la possibilité de vous opposer à l’analyse de vos communications qui en résulte. Ici, la LPM ne vous laisse aucun pouvoir de la sorte : vous êtes protégé contre votre volonté.

Si l’objectif est de détecter les attaquants, évidemment, le droit n’a plus aucune raison de laisser à ceux-ci la possibilité de s’y opposer. Mais la loi doit toutefois leur garantir un certain nombre de droits, ne serait-ce que pour éviter que ces mesures ne soient dévoyées à des fins de surveillance politique.

Une surveillance indéfinie

D’abord, la nature et les conséquences de la surveillance doivent être compréhensibles à la lecture de la loi : ici, aucune définition ne limite la nature des données qui pourront être analysées par les sondes (le directeur de l’ANSSI annonce ainsi qu’il pourra s’agir de données techniques comme des données relatives au contenu des communications, ce qui décuplera les risques posés par ces mesures) ni quelles seront les « menaces » qui pourront être recherchées.

On ne sait pas non plus ce que seront ces « marqueurs techniques » utilisés par ces sondes pour rechercher ces menaces : cette notion de « marqueurs », invoquée par la loi, n’a aucune signification juridique ou technique.

Aucun contrôle indépendant

Ensuite, le droit européen impose de soumettre n’importe quelle mesure de surveillance au contrôle d’une autorité indépendante : ici, l’autorité indépendante désignée par la loi est l’ARCEP (l’autorité de régulation des postes et des communications électroniques).

Sauf que la LPM ne donne aucun pouvoir de contrôle à l’ARCEP : elle ne peut pas contrôler les sondes « sur place » (contrairement au contrôle que la CNIL peut faire dans une entreprise, par exemple). Elle ne peut pas davantage sanctionner l’ANSSI si elle constate que les sondes ont été dévoyées à des fins de surveillance politique.

Aucun moyen de se défendre

Enfin, les personnes surveillées doivent pouvoir contester les mesures illicites qu’elles ont subit. Le droit européen exige ceci de deux façon : en s’assurant que les personnes surveillées soient prévenues de la mesure une fois que la menace invoquée a disparue ; en leur permettant de saisir la justice ou une autorité compétente (ici l’ARCEP) pour contester la validité de la surveillance. Encore une fois, la LPM 2019 ne prévoit aucune de ces garanties.

Nous ouvrons ce nouveau front contre la surveillance de masse alors même que notre action contre la loi renseignement de 2015 vient tout juste d’être transmise devant les juges européens (voir notre article) et que le Parlement européen est sur le point de voter une nouvelle loi de surveillance-censure généralisée du Web dans les mains de la police et des GAFAM, abusant une fois de plus du prétexte terroriste.

Si vous pensez que nous avons bien fait d’ouvrir ce nouveau front, participez à tenir les autres fronts avec nous : jusqu’au 21 mars, appelez les députés européens pour leur demander de rejeter le règlement de censure terroriste.

]]>
[FranceCulture] Peut-on repartir de zéro sur les réseaux sociaux ?https://www.laquadrature.net/?p=13602http://streisand.me.thican.net/laquadrature.net/index.php?20190226_110000__FranceCulture__Peut-on_repartir_de_zero_sur_les_reseaux_sociaux___Tue, 26 Feb 2019 10:00:00 +0000Chaque seconde, près de 6000 tweets sont postés sur Twitter. Ceux qui ne seront pas effacés deviendront vite obsolètes. Mais culture de l’instantané ne veut pas dire culture de l’oubli. Les vieux messages peuvent toujours ressurgir. Alors comment gérer la mémoire d’Internet ? […]

Intervenants :

  • Laurent Chemla, Fondateur de GANDI, membre de la Quadrature du net
  • Fanny Georges, Sémiologue, maître de conférences en sciences de l’information et de la communication à l’Université Sorbonne Nouvelle – Paris 3
  • Yann Padova, Avocat, ancien secrétaire général de la CNIL (2006-2012), partner chez Baker McKenzie

https://www.franceculture.fr/emissions/du-grain-a-moudre/reseaux-sociaux-faut-il-revenir-sur-le-droit-a-loubli

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[NextINpact] Le Conseil constitutionnel censure l’ancien droit de communication des douaneshttps://www.laquadrature.net/?p=13603http://streisand.me.thican.net/laquadrature.net/index.php?20190225_110000__NextINpact__Le_Conseil_constitutionnel_censure_l___ancien_droit_de_communication_des_douanesMon, 25 Feb 2019 10:00:00 +0000Le Conseil constitutionnel a censuré vendredi l’ancien régime du droit de communication des données de connexion dont bénéficiaient les agents des douanes. Après avoir considéré que ce régime était conforme au bloc de constitutionnalité le 27 janvier 2012, la haute juridiction est finalement revenue sur son analyse en raison d’un « changement des circonstances ». […]

Dans cette QPC, notons l’intervention de la Quadrature du Net, et d’autres associations (Franciliens.net, FAImaison, Midway’s Network et Rézine), toutes représentées par Me Alexis Fitzjean Ó Cobhthaigh.

https://www.nextinpact.com/brief/le-conseil-constitutionnel-censure-l-ancien-droit-de-communication-des-douanes-7789.htm

[NDLRP] Le communiqué de La Quadrature : Le Conseil constitutionnel censure l’accès des douanes aux données de connexion.

Soutenons notre internet, La Quadrature a besoin de vos dons.

]]>
Vers l’automatisation de la censure politiquehttps://www.laquadrature.net/?p=13420http://streisand.me.thican.net/laquadrature.net/index.php?20190222_123055_Vers_l___automatisation_de_la_censure_politiqueFri, 22 Feb 2019 11:30:55 +0000Pour vous opposer à l’automatisation de la censure imposée par le règlement terroriste, rendez-vous sur notre page de campagne et contactez les députés européens jusqu’au 21 mars.

Une tribune de Félix Tréguer, membre de La Quadrature du Net.

Nous sommes à un tournant de la longue histoire de la censure. Ce tournant, c’est celui de la censure privée et automatisée. Il acte une rupture radicale avec les garanties associées à la liberté d’expression que les luttes démocratiques du XIXème siècle nous avaient léguées en héritage.

L’héritage démocratique-libéral piétiné

La loi de 1881 sur la liberté de la presse – aujourd’hui interprétée à la lumière de la Convention européenne des droits de l’Homme – est certes pleine de lacunes, et on a trop souvent tendance à exagérer son libéralisme. Mais elle n’en demeure pas moins une boussole fondamentale pour la liberté d’expression, prévoyant par exemple des règles procédurales spéciales pour juger a posteriori des abus de cette liberté, et consacrant la compétence exclusive du juge judiciaire dans le cadre de procédures publiques.

Ces dernières années, cet héritage a été piétiné. Les protections associées à la liberté d’expression reculent partout : dans la rue, dans la presse mais aussi et surtout sur Internet. Si le phénomène est ancien, le contexte actuel de crise (anti)terroriste et la dérive autoritaire qu’oppose le pouvoir aux mouvements sociaux y contribuent grandement. Pour ne prendre qu’un sujet qui nous intéressera ici, rappelons par exemple qu’en 2014, le législateur a estimé que l’« apologie du terrorisme » sur Internet n’aurait à ce point rien à voir avec la liberté d’expression qu’elle pourrait faire l’objet d’une censure secrète du ministère de l’intérieur. Cette évolution aura d’ailleurs conduit fin 2016 à la censure de communiqués revendiquant des actes de destruction matérielle de véhicules policiers, en réponse à l’inculpation de personnes arrêtées en lien avec les manifestations contre la loi travail de 2016.

Par le même vote de 2014, le Parlement jugeait également l’apologie du terrorisme indigne de la loi de 1881 et de ses garanties, et bien plus à sa place dans le code pénal. En contournant les garanties procédurales attachées à la loi de 1881, cette évolution aura conduit aux comparutions immédiates et à des condamnations totalement disproportionnées de dizaines de provocateurs au lendemain des attentats de janvier 2015.

De l’expérimentation à la législation

Cette fuite en avant est en train d’atteindre un point de bascule. Depuis 2015, les gouvernements français, britannique, allemand et étasunien n’ont eu de cesse de mettre les multinationales de l’économie numérique sous pression pour les inviter à faire la police sur leurs plateformes. De visites ministérielles dans la Silicon Valley en sommets « États-plateformes » sur le terrorisme, Google, Facebook et consorts ont accepté ces collaborations visant à massifier la censure de la propagande terroriste dans un cadre extra-judiciaire.

Après de nombreuses expérimentations menées ces dernières années, notamment par  Europol ou encore le ministère de l’intérieur français, ces nouveaux agencements public-privé sont en passe d’être couronnés par l’adoption à marche forcée d’un règlement européen dédié à la lutte contre la propagande terroriste, présenté en septembre dernier par la Commission Juncker.

La France est directement à l’origine de ce texte. Le 12 avril dernier, le ministre de l’intérieur Gérard Collomb et son homologue allemand écrivaient à la Commission européenne pour l’intimer d’agir au plus vite pour présenter et faire adopter ce texte. Celle-ci a donc obtempéré, présentant son projet en catimini le 12 septembre – le jour où le Parlement européen adoptait le fameux article 13 de la directive copyright, dont les obligations en matière de censure automatique nourrissaient alors la controverse.

Dans sa version initiale, ce projet de règlement antiterroriste tient en quelques articles :

  • L’article 4 prévoit une obligation pour tout fournisseur de service Internet (hébergeurs web, fournisseurs de messagerie, etc.), quelle que soit sa taille ou son fonctionnement (il ne s’agit pas seulement des grosses plateformes), de retirer dans un délai d’une heure les contenus signalés par les autorités, sous peine d’importantes sanctions financières.
  • L’article 5 permet également à ces mêmes autorités d’imposer une telle censure non sur la base du droit national applicable (par exemple, en France, le décret Cazeneuve de février 2015 sur la censure administrative d’Internet), mais sur la base des conditions d’utilisation des plateformes. Les polices européennes pourront donc, comme le fait déjà le ministère de l’intérieur français ou Europol, signaler des contenus haineux ou terroristes pour exiger leur censure, sur la base du droit privé.
  • L’article 6 impose enfin aux hébergeurs d’adopter des mesures « proactives » pour lutter contre la propagande terroriste (article 6). Comme dans la directive copyright, il s’agit en réalité de déployer des filtres informatiques scannant l’ensemble des contenus mis en ligne par les utilisateurs d’un service pour bloquer ceux correspondants à certains critères arrêtés par ces firmes. Une forme de censure préalable, mise en œuvre par des acteurs privés via des outils automatiques qui pourront être paramétrés en partenariat avec les États.

La censure automatique bientôt généralisée

De la lettre d’avril 2018 émanant des ministres de l’intérieur français et allemand, il ressort deux choses, depuis confirmées par les informations glanées ces dernières semaines dans différents ministères.

D’abord, la certitude que le règlement est un pied dans la porte, une manière bien coutumière d’imposer des mesures controversées en invoquant des justifications supposées imparables – ici la lutte (anti)terroriste. Comme l’expliquent les ministres de l’intérieur dans cette missive :

« Il conviendra par la suite d’étendre les règles fixées aux contenus à caractère pédopornographique et à ceux relevant des discours de haine l‘incitation à la discrimination et à la haine raciale, atteinte à la dignité de la personne humaine… ».

À terme, ce nouveau régime de censure a donc vocation à être généralisé. Il suffira de revoir les paramètres de ces outils de filtrage pour ajouter de nouvelles catégories de contenus.

Le deuxième enseignement de cette lettre des gouvernements français et allemand est que ces systèmes de censure automatique développés par les grandes plateformes devront être proposés à l’ensemble des acteurs visés par ce texte :

« Les grandes entreprises [devront] apporter un soutien logistique aux plus petites plateformes, tant les moyens de celles-ci sont par trop limités pour apporter une réponse efficace à notre injonction de retirer rapidement les contenus à caractère terroriste ».

Il est vrai que ces systèmes sont coûteux : Content-ID, l’outil mis en place par YouTube pour détecter de possibles atteintes au droit d’auteur dans les vidéos publiées par ses utilisateurs, aura à lui seul coûté près de 100 millions de dollars en développement…

Macron en soutien

Début novembre 2018, lors du Forum sur la gouvernance d’Internet qui se tenait dans les locaux de l’Unesco à Paris, Emmanuel Macron est revenu sur ce règlement, un texte qu’il a dit « soutenir pleinement », espérant « son adoption rapide avant les élections européennes ». Soit en à peu près 6 mois, délai exceptionnellement court pour un texte sécuritaire qui institue une censure extra-judiciaire pour l’ensemble des acteurs du Net opérant au sein de l’Union européenne.

Dans son discours, Macron confirme le bien-fondé des craintes soulevées par le règlement. Assurant que la « régulation des contenus illicites ou indésirables » est « la prochaine frontière », il s’empresse de distinguer « deux blocs » :

  • « le premier concerne la lutte contre les contenus objectivement et gravement illégaux – le terrorisme, la pédopornographie ». Pour ces contenus, l’intelligence artificielle est « mûre », assure le président français. C’est bien le sens du règlement européen que d’en généraliser l’usage.
  • « le second rassemble les contenus dont le caractère illicite est soumis à une interprétation, souvent d’ailleurs différente d’un pays à l’autre – les contenus haineux, la diffamation, le harcèlement ». Pour ces derniers, Emmanuel Macron estime que l’intelligence artificielle « n’est pas encore assez fine pour distinguer l’ironie, la parodie ou au contraire reconnaître un sous-entendu abject sous un discours policé ».

« Pas encore », donc bientôt ? Cette perspective a récemment été confirmée par Mounir Mahjoubi, secrétaire d’État au numérique : en annonçant le plan de lutte contre les contenus haineux sur Internet, le 14 février dernier, celui-ci évoquait sans réserve la perspective de soumettre les « discours de haine » à la censure automatique.

Quant à la référence aux contenus « indésirables », signifie-t-elle que que le chef de l’État entend encourager l’extension de ces systèmes de censure à des contenus licites mais réputés nuisibles par le pouvoir ? Un projet qui, parmi tant d’autres choses, contredit frontalement l’image d’un homme politique prétendant incarner l’« axe humaniste » européen dressé contre la fascisation du continent…

L’intelligence artificielle, Saint Graal des États

Durant les trois jours du Forum sur la gouvernance d’Internet, l’« intelligence artificielle » (ou IA) était sur toutes les bouches. C’est bien elle, en réalité, la nouvelle frontière censée transformer toutes les bureaucraties. C’est bien elle qui, selon l’expression entendue à maintes reprises durant cet événement, permettra à la surveillance et à la censure de « passer à l’échelle ».

Les progrès réalisés ces dernières années en « Machine Learning » et en traitement automatique des textes et des images fait en effet figure de Saint Graal pour les États. Fin 2017, un conseiller de Theresa May expliquait que si les États avaient besoin des multinationales américaines pour faire le sale boulot, c’est qu’après tout, « ces entreprises ont les meilleurs cerveaux du monde ».

Ces firmes, réunies depuis juin 2017 au sein d’un consortium baptisé « Global Internet Forum to Counter Terrorism », mettent en avant des résultats impressionnants (mais guère vérifiables) en matière d’automatisation de la détection des contenus terroristes : YouTube parle de 98% de contenus de ce type repérés automatiquement, tandis que Facebook explique que 99% des contenus liés à l’État islamique ou à Al-Qaïda sont retirés avant que quiconque ne les ait signalés.

Pour l’heure, ces outils de censure automatique n’opèrent souvent qu’un premier filtrage. L’essentiel des contenus censurés sont en réalité « modérés » par des prestataires établis en Inde, au Philippines ou au Maroc pour juger de la conformité de textes ou d’images aux conditions d’utilisation des plateformes. « En attendant les robots », ces petites mains de la censure qui travaillent dans des conditions déplorables se voient imposer des objectifs délirants de l’ordre de 2000 images par heure, soit une appréciation portée sur une image en moins de deux secondes. En 2017, Facebook annonçait porter ses équipes de modération de 3000 à 7500 personnes. Google envisageait dans le même temps de porter le nombre de modérateurs YouTube à plus de 10 000.

Ces chiffres rappellent que, malgré ses rapides progrès, la censure automatisée n’est encore que balbutiante. Mais compte tenu des milliards investis dans la recherche en IA et des pressions exercées par les États, sa généralisation est désormais à portée de main. Elle est bien en passe de fonder un nouveau régime de censure.

La fusion État-GAFAM : actualisation de logiques anciennes

Si l’on pense l’État non pas comme un bloc aux contours clairement identifiés (à la manière des juristes) mais davantage comme un ensemble de pratiques et une rationalité que Michel Foucault désignait comme la « gouvernementalité », alors il est clair que ce que ces évolutions donnent à voir, c’est l’incorporation de ces acteurs privés à l’État ; c’est la cooptation de leurs infrastructures et la diffusion de leurs savoir-faire dans le traitement et l’analyse de masses de données désormais cruciales dans les formes contemporaines de gouvernement. C’est donc une fusion qui s’opère sous nos yeux, bien plus qu’une concurrence entre les États et les GAFAM qui chercheraient à se substituer aux gouvernements.

Ces logiques de cooptation d’acteurs privés par l’État sont récurrentes dans l’histoire de la censure. À partir du XVIè siècle, alors que le développement de l’imprimerie joue un rôle clé dans la propagation de doctrines politiques et religieuses subversives, l’État moderne en gestation recourait déjà aux partenariats public-privé dans la surveillance et la censure des communications.

En France, le cardinal de Richelieu conclut au début du XVIè siècle une alliance avec les libraires parisiens qui réclament un monopole perpétuel sur l’édition des livres pour écraser la concurrence. Ils se voient octroyer des privilèges à durée quasiment illimitée en échange de la conduite d’une mission de surveillance des publications et la docte application des règlements en matière de censure. Cette politique, bientôt élargie à l’ensemble du royaume, permettra à une trentaine d’imprimeurs-libraires de maîtriser tant bien que mal la production et la distribution des livres. Cela n’étouffait évidemment pas totalement l’édition clandestine, mais permettait de maîtriser un tant soit peu les effets politiques de l’imprimerie, d’affermir l’absolutisme tout en remplissant les caisses de quelques hommes d’affaires.

Lors de leur apparition au tournant des années 1980, les réseaux informatiques – et Internet en particulier – se sont donnés à penser comme une technologie radicalement subversive des formes de contrôle des communications qui s’étaient institutionnalisées dans le giron de l’État moderne, et transposées aux différentes techniques de communication apparues depuis l’imprimerie. Ils allaient bientôt induire la massification des flux transfrontières d’information, l’anonymat relatif des communications numériques, l’appropriation de ces technologies par des groupes contestataires et marginalisés dans l’espace public traditionnel, et plus généralement la démocratisation de la capacité d’expression publique au delà du petit cercle des personnes ayant jusqu’alors accès aux médias traditionnels. Tout cela déstabilisait les modalités de contrôle de l’espace public et, plus encore, la souveraineté des États. Internet était perçu comme un espace dangereux. Il fallait donc réarmer la police de l’espace public ou, pour reprendre le vocable que Nicolas Sarkozy avait emprunté au parti communiste chinois, le « civiliser » (un terme encore repris récemment par Mounir Mahjoubi).

La solution est donc en passe d’être trouvée, et il aura fallu moins d’un quart de siècle. Aujourd’hui, au lieu d’une petite dizaines d’imprimeurs-libraires à l’échelle d’un pays, ce sont une poignée d’entreprises américaines qui sont cooptées par les bureaucraties d’État dédiées à la surveillance et à la censure. En dépit des discours lénifiants sur la « souveraineté numérique », les gouvernements préfèrent renforcer la position dominante de ces multinationales en obligeant l’ensemble des acteurs du numérique à leur acheter leurs systèmes de filtrage. Ceux qui ne pourront pas se le permettre ou qui refuseraient de se faire auxiliaires de censure – notamment ceux qui font encore vivre un Web indépendant, non-commercial, alternatif – seront poussés à mettre la clé sous la porte.

L’instrumentalisation de la lutte contre les discours de haine

On nous parle de lutter contre la propagande terroriste et les discours de haine. Mais il est désormais de plus en plus clair que cette lutte reposera sur des dispositifs de censure automatique qui resteront de véritables « boîtes noires », par définition secrètes, gérées par des partenariats public-privé opaques. Ces derniers consentiront peut être à mettre en scène une certaine transparence, un peu d’autorégulation et des aménagements présentés comme autant de garanties – à l’image de Facebook qui nous promet aujourd’hui de mettre sur pied une « cour suprême » pour recevoir des plaintes d’utilisateurs victimes de sa politique de « modération ». Mais ils ne présenteront jamais les garanties offertes par des juridictions traditionnelles. Et pour cause : ces dispositifs sont conçus pour s’en affranchir. La censure automatique des communications a cet avantage pour le pouvoir qu’elle est presque invisible, et donc pratiquement incontestable.

On nous parle de lutter contre les discours de haine via la censure d’Internet. Mais depuis plus de quarante ans que des incriminations existent pour réprimer les expressions incitant à la haine et aux discriminations, a-t-on vraiment fait des progrès en la matière ? De fait, l’intolérance se donne à voir au grand jour sur Internet, où elle s’abat sur des groupes structurellement discriminés. Pour autant, ces opprobres sont aussi quotidiennes dans les médias traditionnels, dans les cénacles politiques, et bien souvent dans les pratiques des institutions.

On nous parle de lutter contre les discours de haine. Mais il apparaît de plus en plus clairement que ce qui est aussi visé, c’est l’invisibilisation de tout discours associé de près ou de loin à des formes de violence politique qui risqueraient d’être perçues comme légitimes. C’est ce qu’illustre par exemple l’affaire déjà évoquée, lorsque fin 2016, au nom de la lutte contre le terrorisme, le ministère de l’intérieur enjoignait à deux sites participatifs de censurer un communiqué revendiquant l’incendie d’un hangar de gendarmerie, acte présenté par les auteurs comme une réponse à la répression policière (cette décision aura finalement été annulée début 2019 par la justice administrative, exceptionnellement saisie de cette affaire). Plus largement, c’est l’ensemble des discours politiques contestataires qui pourraient bientôt faire l’objet de cette censure secrète. La tentation du pouvoir est réelle, comme en témoigne les velléités récentes du ministère de l’intérieur de faire retirer un photomontage qui remplaçait le visage du général Pinochet et de ses sbires par ceux d’Emmanuel Macron, d’Édouard Philippe et de Christophe Castaner.

S’il était adopté, le règlement antiterroriste serait donc une pierre de plus dans la mise en place de ces nouveaux dispositifs dédiés à l’invisibilisation des expressions politiques contestataires. Rien qu’en s’en tenant à la catégorie de l’apologie du terrorisme, les outils de censure développés par les multinationales du numérique en lien avec les autorités trouveraient à s’appliquer à de nombreuses activités militantes : le sens du terme « terrorisme » est en effet tellement vague, ou lorsqu’une définition existe elle est tellement large, qu’il peut servir à justifier la censure de toute expression favorable à des actions politiques offensives ou violentes – y compris la destruction de biens matériels, le sabotage ou le blocage d’infrastructures.

Conjurer la re-féodalisation de l’espace public numérique

Si l’on se soucie de la liberté d’expression, si l’on se soucie de ménager un espace où le pouvoir pourra être critiqué, où nous pourrons débattre et nous organiser, où un peu de sens commun pourra se construire, ces nouvelles formes de censure doivent être tenues en échec.

Ce qu’il faut, c’est d’abord comprendre qu’une grande partie du problème lié aux discours haineux sur Internet tient à ce qu’est devenue l’économie politique de ce réseau. Le nœud du problème spécifique que pose Internet, c’est bien la manière dont les grandes entreprises du numérique conditionnent les régimes d’attention : les contenus attrape-clics, simplistes et sans nuance, jouant sur les émotions négatives ; les « bulles de filtres » qui nous enferment tout en donnant l’illusion de neutralité, et offrent un faux sentiment de sécurité en permettant aussi à des individus aux identités politiques radicalement adverses de venir nous agresser sur des plateformes ouvertes aux quatre vents.

Face aux « Fake News » et à la haine qui sévit aussi sur Internet, ceux qui prétendent nous gouverner se frottent les mains : le pourrissement de l’espace public numérique leur permet aujourd’hui de légitimer le retour de vieilles stratégies de contrôle. C’est tout le sens du discours de Macron au Forum sur la gouvernance d’Internet.

Ce n’est pourtant pas une fatalité. Ces dernières semaines, La Quadrature du Net a commencé à exposer des positions destinées à lutter par le droit contre ces infrastructures centralisées qui pervertissent le débat public, tout en favorisant l’éclosion d’îlots de communication communautaires et fédérés où pourront se redéployer les espaces d’expression, de conversation, et donc une partie du débat public. L’idée phare de ces propositions, c’est de casser le régime d’attention mis en place par les plateformes, fondé sur la collecte des données personnelles et la hiérarchisation des contenus à des fins commerciales, au sein d’infrastructures gigantesques pensées pour rendre les utilisateurs captifs.

L’objectif, c’est bien de promouvoir en lieu et place une nouvelle topologie de l’espace public numérique capable de protéger des lieux de discussion décentralisés mais pouvant être reliés les uns aux autres, laissant à chacun le choix de ses communautés et des limites données à la liberté d’expression, pour ainsi mieux maîtriser son degré d’exposition aux conflits qui traversent immanquablement l’espace public. L’espoir est d’ainsi réduire le risque de conflits interpersonnels non-souhaités. C’est de faire en sorte que la demande sociale de censure soit moins forte et que la censure préalable et automatique puisse ne plus apparaître comme la seule option valable ; que le principe d’une protection judiciaire de la liberté d’expression soit préservé.

L’urgence, c’est en tous cas de rompre l’alliance des appareils policiers et des grands marchands d’infrastructures numériques. C’est d’éviter que ne se consolident les fondements techniques et juridiques d’une société de contrôle nous enfermant imperceptiblement dans une cage de fer algorithmique.

Ce texte est adapté d’une intervention au colloque « Réglementer la liberté d’expression au nom du débat public », qui se tenait à l’Institut de Recherche Philosophiques de Lyon (IRPhiL) les 29 et 30 novembre 2018.

]]>
Le Conseil constitutionnel censure l’accès des douanes aux données de connexionhttps://www.laquadrature.net/?p=13540http://streisand.me.thican.net/laquadrature.net/index.php?20190220_152836_Le_Conseil_constitutionnel_censure_l___acces_des_douanes_aux_donnees_de_connexionWed, 20 Feb 2019 14:28:36 +0000La Quadrature du Net et les FAI associatifs Franciliens.net, Rézine, FAImaison et Midway’s Network sont intervenus fin décembre devant le Conseil constitutionnel afin de lui demander de censurer le i) du 1°) de l’article 65 du code des douanes.

Ces dispositions permettaient aux agents des douanes d’accéder aux données de connexion conservées par les intermédiaires techniques (vous pouvez lire notre recours ici).

Ce texte pose deux problèmes fondamentaux : d’une part il s’appuie sur une conservation des données de connexion qui n’est pas conforme au droit européen, d’autre part, dans la procédure pour y accéder, aucune garantie n’était prévue (il n’y avait pas de délai d’effacement des données prévu, par exemple) ce que le Conseil Constitutionnel a systématiquement sanctionné ces dernières années.

Le 15 février 2019, le Conseil constitutionnel a fait droit à cette demande, et censuré les dispositions légales attaquées, aux motifs que « La communication des données de connexion est de nature à porter atteinte au droit au respect de la vie privée de la personne intéressée » (voir la décision).

Le Conseil constitutionnel a considéré que, si le législateur avait réservé à certains agents des douanes soumis au respect du secret professionnel le pouvoir d’obtenir ces données dans le cadre d’opérations intéressant leur service et ne leur a pas conféré un pouvoir d’exécution forcée, il n’avait assorti la procédure prévue par les dispositions en cause d’aucune autre garantie. Dans ces conditions, toujours d’après le Conseil, le législateur n’avait pas entouré la procédure prévue par les dispositions contestées de garanties propres à assurer une conciliation équilibrée entre, d’une part, le droit au respect de la vie privée et, d’autre part, la prévention des atteintes à l’ordre public et la recherche des auteurs d’infractions.

Pour mémoire, cette victoire s’inscrit dans le sillage de précédentes actions. En particulier, en 2017, La Quadrature du Net avait remporté une victoire similaire, aux côtés de la Fédération des fournisseurs d’accès à Internet associatifs et de FDN, via les Exégètes Amateurs, à propos de dispositions législatives qui permettaient aux agents de l’Autorité des marchés financiers d’accéder aux mêmes données, dans des conditions identiques.

Le combat n’en est pas terminé pour autant ! En effet, le Conseil constitutionnel a préféré s’abstenir de répondre à une série de points qui étaient soulevés devant lui et qui concernaient le positionnement des données de connexion par rapport au champ couvert par le secret de correspondances, ou encore l’encadrement précis des conditions d’accès à de telles données, à l’instar de ce qu’a fait la Cour de justice de l’Union européenne, notamment dans sa jurisprudence de grande chambre de 2016 « Tele2 » (revoir l’argumentation que nous développons devant cette même Cour de justice contre le système de conservation des données de connexion dans son ensemble).

Par ailleurs, les dispositions qui ont été censurées avaient été abrogées par le législateur à compter du 1er janvier 2019. De nouvelles dispositions sont donc entrées en vigueur concomitamment à cette procédure (qui est donc distincte). Or, ces nouvelles dispositions prévoient désormais que l’accès des douanes aux données de connexion doit être préalablement autorisé par le procureur de la République, qui n’est pourtant pas une autorité indépendante au sens du droit européen, et s’abstiennent de prévoir une information des personnes concernées. Il s’agit pourtant de deux garanties (contrôle préalable par une autorité indépendante et notification de la mesure aux personnes concernées) qui sont exigées par le droit européen.

Le moment venu, nous ne manquerons pas de le rappeler. Notre intervention, et petite victoire, dans la procédure qui a pris fin le 15 février, visait surtout à renforcer des positions et symboles à invoquer dans la longue série de contentieux que nous avons déjà ouverts ou que nous prévoyons de lancer à l’avenir.

]]>
Reconnaissance faciale : un recours pour faire barrage à la surveillance biométriquehttps://www.laquadrature.net/?p=13517http://streisand.me.thican.net/laquadrature.net/index.php?20190219_154958_Reconnaissance_faciale____un_recours_pour_faire_barrage_a_la_surveillance_biometriqueTue, 19 Feb 2019 14:49:58 +0000Quatre organisations – La Quadrature du Net, la Ligue des droits de l’Homme, CGT Educ’Action des Alpes-Maritimes et la Fédération des Conseils de Parents d’Élèves des écoles publiques des Alpes-Maritimes – viennent de déposer un recours devant le tribunal administratif de Marseille pour demander l’annulation de la délibération du conseil régional autorisant la mise en œuvre d’une expérimentation de reconnaissance faciale dans deux lycées de la région.

Ce recours intervient alors que la polémique enfle après que la mairie de Nice a annoncé expérimenter la reconnaissance faciale dans le cadre du carnaval.

Le 14 décembre 2018, le conseil régional de la région Sud (ex-PACA) a voté une délibération visant à faire installer à l’entrée de deux lycées de la région — le lycée des Eucalyptus à Nice et le lycée Ampère à Marseille — un dispositif de reconnaissance faciale. Ce dispositif expérimental, installé et financé par la société états-unienne Cisco, a vocation, comme l’a précisé M. Christian Estrosi lors du vote au Conseil régional, à être étendu à l’ensemble des établissements scolaires de la région.

Devant l’inaction de la CNIL et alors que cette expérimentation prépare la banalisation de la surveillance par reconnaissance faciale, les quatre organisations requérantes ont décidé de saisir le tribunal administratif de Marseille pour demander l’annulation de cette délibération.

Les arguments juridiques soulevés s’appuient essentiellement sur le règlement général sur la protection des données (RGPD) : la délibération, votée alors qu’aucune analyse d’impact n’avait été réalisée, permet en effet la mise en œuvre d’un traitement de données biométriques qui est notamment manifestement disproportionné par rapport à l’objectif poursuivi (apporter « une assistance aux agents en charge du contrôle d’accès au lycée et de l’accueil ») et qui n’est fondée sur aucune règle juridique adaptée, claire et intelligible, contrairement à ce qu’impose la Convention européenne des droits de l’Homme en matière de droit à la vie privée. La délibération autorisant cette expérimentation est donc illégale et doit être annulée.

Le recours est accessible ici.

Pour Martin Drago, juriste à La Quadrature du Net :

« Cette expérimentation vise à accoutumer les élèves à une surveillance biométrique. Cela participe à la banalisation de ce type de technologies, alors que des projets sécuritaires de vidéosurveillance dopées à la reconnaissance faciale pullulent désormais sur le territoire français. On trouve malheureusement bien peu de monde pour y faire barrage, que ce soit à la CNIL ou au niveau des élus locaux et à ce stade, les juges apparaissent comme l’ultime rempart institutionnel. »

Pour Maryse Artiguelong, vice-présidente de la Ligue des droits de l’Homme :

« Pour la Ligue des droits de l’Homme (LDH) cette expérimentation de reconnaissance faciale, qui permet l’identification à l’aide de données biométriques particulièrement sensibles – elles permettent notamment de déterminer l’origine ethnique, qui plus est sur des élèves en majorité mineurs – est particulièrement inquiétante. »

Pour Laure Guérard-Boushor, de la CGT Educ’Action des Alpes-Maritimes :

« Répression contre les lycéen.ne.s, mise en place de mesures pour restreindre le droit de manifester et maintenant mise en place d’un système de reconnaissance faciale à l’entrée de l’établissement les EK à Nice et Ampère à Marseille; l’escalade est toujours plus importante. Nous condamnons ces projets qui remettent en cause tous les principes de la liberté qu’elle soit individuelle ou collective ; qui laissent la porte ouverte à toutes les dérives, toutes les discriminations. Nous demandons à ce que l’argent dont notre école publique a besoin ne soit pas gaspillé dans des mesures dont on connaît l’inutilité et la nocivité. »

Pour Laëtitia Siccardi, présidente de la Fédération des Conseils de Parents d’Élèves des écoles publiques des Alpes-Maritimes :

« Cette expérimentation est une dérive sécuritaire de plus, et nous sommes extrêmement attentifs à ce que les droits fondamentaux des lycéens soient respectés. De plus, il s’agit une fois encore d’un investissement financier considérable au service d’une mesure à l’efficacité douteuse.»

]]>
[ActualitedesLuttes] Vidéosurveillance et menace des libertés sur les réseaux sociauxhttps://www.laquadrature.net/?p=13500http://streisand.me.thican.net/laquadrature.net/index.php?20190219_110000__ActualitedesLuttes__Videosurveillance_et_menace_des_libertes_sur_les_reseaux_sociauxTue, 19 Feb 2019 10:00:00 +0000En octobre 2017, Renaud Muselier, président de la région PACA, demande les conseils de la CNIL-commision nationale informatique et liberté- pour la mise en place dans deux lycées de Nice et de Marseille de dispositifs de « portiques virtuels » associant « des moyens classiques d’identification (…) à un dispositif biométrique utilisant des technologies de comparaison faciale. »

Alors que la contestation nourrie par le mouvement des gilets jaunes grandit, alors qu’enflent les rumeurs d’une possible censure du mouvement par Facebook, comment la future loi de censure antiterroriste que la France cherche à imposer à l’Union européenne s’appliquerait-elle à des mouvement sociaux tels que celui des gilets jaunes ? […]

C’est de ses questions dont nous parlerons dans l’émission de ce jour . Et pour cela , nous serons en compagnie de Martin et Marne, de La Quadrature du Net.

http://actualitedesluttes.info/?p=4159

NRDLRP : retrouvez l’émission avec Marne et Martin sur le Peertube de La Quadrature du net.

Notre page dédiée sur la future loi de censure antiterroriste évoquée dans l’émission, avec présentation et argumentaire : Règlement terroriste, censure sécuritaire.

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
Déclaration commune : se mobiliser pour une réappropriation démocratique des médiashttps://www.laquadrature.net/?p=13509http://streisand.me.thican.net/laquadrature.net/index.php?20190218_163903_Declaration_commune____se_mobiliser_pour_une_reappropriation_democratique_des_mediasMon, 18 Feb 2019 15:39:03 +0000La Quadrature du Net partage la déclaration ci-dessous avec une dizaine d’associations et une trentaine de média. La méfiance envers les « média dominants » (presse, TV, radio) a toujours été une opportunité de réappropriation de nos moyens de communication, où Internet joue tout son rôle. Ainsi, en plus d’interroger la place de ces média, il faut lutter pour qu’Internet reste entre nos mains.

Repoussons sa mise sous tutelle par la police et par l’alliance de nos gouvernements aux Facebook et Google de ce monde. Repoussons urgemment le règlement terroriste (notre site de campagne) ainsi que les ambitions du gouvernement dans sa future loi prétendument « anti-haine » (notre analyse).

Pour une réappropriation démocratique des médias

Depuis plusieurs semaines, le mouvement des gilets jaunes bouleverse l’agenda politique, et porte une remise en cause profonde des institutions. Les médias sont tout particulièrement visés. Les gilets jaunes dénoncent, à juste titre bien souvent, un traitement caricatural des mobilisations : surenchère sécuritaire sur les plateaux télévisés et dans certains quotidiens ; confiscation de la parole par les éditorialistes ; disqualification de certaines revendications jugées «irréalistes» et appels à «dialoguer» avec le gouvernement ; ou encore dénonciations des violences des manifestants – alors que les violences policières ont été pendant trop longtemps passées sous silence.

Une telle pédagogie de la résignation n’est certes pas nouvelle. Déjà lors des grèves de 1995, les tenanciers des grands médias martelaient leur sempiternel message : il n’y a pas d’alternative aux réformes libérales. En 2005, ils pointaient du doigt ceux qui mettaient en cause le bien-fondé des politiques européennes et déformaient la révolte des banlieues. Plus récemment, lors des mobilisations contre la loi El-Khomri et les ordonnances Macron, ils dénonçaient un code du travail soi-disant «trop épais et illisible». À l’occasion de chaque mobilisation sociale, ils se sont faits les gardiens de l’ordre économique et politique.

Ces partis pris ont contribué à disqualifier les grands médias. La défiance à leur égard est profonde et sans précédent. D’autres sources d’information sont plébiscitées, médias indépendants ou réseaux sociaux. Certaines des analyses portées depuis des décennies par la critique des médias sont réinvesties largement, au-delà du mouvement des gilets jaunes. L’emprise de quelques milliardaires sur la production de l’information est pointée du doigt. La question des médias s’impose désormais comme une question politique.

La plupart des éditorialistes et chefs de rédaction ne voient, dans cette défiance, qu’une «haine des médias» et de la démocratie. Ils éludent la responsabilité qu’ils portent, par leurs diatribes ou leurs choix éditoriaux, dans l’hostilité qui s’exprime contre l’ensemble des journalistes. Une hostilité dont les plus précaires (en termes de statut ou de conditions de travail) font parfois les frais, sur le terrain, en étant injustement pris à partie ou agressés.

Nous pensons que la défiance envers les grands médias doit être une opportunité. Opportunité, dans les rédactions, de remettre en cause les orientations délétères imposées par les directions éditoriales, et de replacer le reportage et l’enquête au cœur du travail journalistique. Opportunité, dans les médias indépendants, de faire la démonstration par l’exemple qu’un autre journalisme, plus exigeant et plus libre vis-à-vis des pouvoirs, est possible.

Que nous soyons gilets jaunes, militant·es, journalistes, usager·es des médias, nous avons toutes et tous des raisons légitimes de contester un ordre médiatique inique, qui maltraite le pluralisme. Et de nous inquiéter des menaces réelles qui pèsent sur le droit à l’information : la mainmise de quelques milliardaires sur la plupart des médias, les plans de suppressions d’emploi dans l’audiovisuel public comme dans les groupes privés, la précarisation des journalistes statutaires ou pigistes y compris dans certains médias indépendants, la répression policière et la criminalisation qui frappent de plein fouet certains reporters et leurs sources, ou encore les lois liberticides qui visent à contrôler l’information – loi sur le secret des affaires et sur les «fake news».

C’est pourquoi nous affirmons qu’il est temps de se mobiliser pour une réappropriation démocratique des médias. Pour défendre le droit d’informer et le droit à être informé, tous deux gravement menacés. Et pour que l’information, trop longtemps confisquée par les pouvoirs, devienne enfin un bien commun et non une marchandise.

Cette déclaration est une initiative commune :

D’associations, d’organisations de journalistes et de syndicats : Acrimed, Attac, Fédération Nationale de l’Audiovisuel Participatif, Info’Com-CGT, La Quadrature du net, Les Amis du Monde diplomatique, Profession : Pigiste, Résistance à l’agression publicitaire, Ritimo, SNJ-CGT, Union syndicale Solidaires.

De médias : Cause commune, Contretemps-web, CQFD, Démosphère Ariège, Démosphère Toulouse, Frustration, Hors-Série, Jef Klak, L’Alterpresse68, Là-bas si j’y suis, La Clé des ondes, La Gazette de Gouzy, Le journal minimal, L’Insatiable, Le Média, Le Ravi, MAP 36, MédiaCitoyens PACA et Rhône-Alpes, Mediacoop, Radio Parleur, radio Cause commune, Ricochets, Rosalux, Silence, Transrural initiatives, TV Bruits, Télé Mouche, Télé Regain, TVnet Citoyenne.

D’organisations politiques : Alternative libertaire (AL), Ensemble, Nouveau Parti anticapitaliste (NPA), Parti communiste français (PCF), Parti de gauche (PG).

Premiers signataires : Alain Accardo, sociologue; Gilles Balbastre, réalisateur; Patrick Champagne, sociologue; Sophie Chapelle, journaliste; Colloghan, dessinateur; Benoît Collombat, journaliste; Jean-Baptiste Comby, sociologue; Annie Ernaux, écrivaine; Nina Faure, réalisatrice; Benjamin Ferron, sociologue; Anne-Sophie Jacques, journaliste; Yannick Kergoat, réalisateur; Henri Maler, universitaire; Philippe Merlant, journaliste et conférencier gesticulant; Pierre Morel, photojournaliste; Gérard Noiriel, historien; Michel Pinçon, sociologue; Monique Pinçon-Charlot, sociologue; Denis Robert, journaliste; Karim Souanef, sociologue; Usul, vidéaste.

]]>
Règlement terroristehttps://www.laquadrature.net/?p=13494http://streisand.me.thican.net/laquadrature.net/index.php?20190218_133124_Reglement_terroristeMon, 18 Feb 2019 12:31:24 +0000En septembre 2018, sous l’influence de la France et de l’Allemagne, la Commission européenne a proposé un règlement « relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste ».

Ce nouveau règlement imposera à tout acteur du Web (hébergeurs de blog ou de vidéos, sites de presse, petits forums ou grands réseaux sociaux) de :

  • Bloquer en une heure n’importe quel contenu signalé comme « terroriste » par la police (sans l’autorisation préalable d’un juge), et donc se tenir à sa disposition 24h/24 et 7j/7.
  • Devancer les demandes de la police en détectant lui-même les contenus illicites à l’aide d’outils de filtrage automatisé.

Si un site ne respecte pas ces règles, il risque une amende jusqu’à 4 % de son chiffre d’affaires.

Délégation de la censure aux géants du Web

D’un point de vue technique, économique et humain, seule une poignée d’acteurs – les géants du Web – pourront respecter des obligations aussi strictes.

Les autres acteurs (commerciaux ou non) n’auront d’autre choix que de cesser leurs activités ou de se soumettre aux outils de modération (filtrage automatique et listes de blocage) développés par Facebook et Google depuis 2015 avec le soutien de la Commission européenne.

Ces multinationales deviendront donc les juges de ce qui peut être dit sur Internet. La structure riche, variée et décentralisée du Web est vouée à disparaître.

Censure des discours politiques

En droit de l’Union européenne, la notion d’infraction « terroriste » est volontairement large, couvrant les actes de piratage ou de destruction massive de biens (ou la simple menace de le faire) commis pour influencer une décision politique ou de déstabiliser des institutions.

Laisser à la police et non au juge le pouvoir de décider ce qu’est un contenu de « terroriste » pourrait mener à la censure d’opposants politiques et de mouvements sociaux.

L’obligation de mettre en place des mesures proactives, avec la menace de lourdes amendes, aura pour effet de motiver les acteurs du Web à adopter une définition du terrorisme la plus large possible pour ne pas être sanctionnés.

Une loi inutile

Ce règlement « anti-terroriste » ne permettra même pas d’atteindre son objectif affiché : empêcher que DAESH ou Al Qaeda diffusent leur propagande auprès des personnes déjà séduites par leurs discours.

Il semble absurde de devoir encore le répéter : sur Internet, n’importe quelle loi de blocage peut être contournée par les personnes qui souhaitent accéder aux informations censurées. Les seuls effets de cette loi seront ses dommages collatéraux : le grand public n’aura certes plus à subir les contenus terroristes, mais il n’aura plus connaissance non plus des informations censurées abusivement.

Exigeons le rejet du texte

Sous couvert de solutionnisme technologique, ce règlement joue sur la peur du terrorisme pour mieux encadrer l’expression sur Internet et limiter les oppositions.

Nous devons demander le rejet de ce texte.

  • La censure d’État ne doit pouvoir être prononcée que par un juge.
  • Aucune censure automatisée ne doit être imposée aux acteurs du Web.
  • La lutte contre le terrorisme ne doit jamais être un prétexte pour censurer les oppositions politiques.

Le 21 mars 2019 se tiendra le premier vote sur ce texte, au sein de la commission « libertés civiles » du Parlement européen (60 députés). Les élections européennes arrivant tout de suite après, il s’agira probablement de notre dernière opportunité de faire rejeter ce texte.

]]>
[Franceinfo:] Mesures du gouvernement contre le cyberharcèlement : De la poudre aux yeux pour faire semblant d’agirhttps://www.laquadrature.net/?p=13501http://streisand.me.thican.net/laquadrature.net/index.php?20190218_110000__Franceinfo___Mesures_du_gouvernement_contre_le_cyberharcelement____De_la_poudre_aux_yeux_pour_faire_semblant_d___agirMon, 18 Feb 2019 10:00:00 +0000Arthur Messaud, juriste pour l’association La Quadrature du net, critique le plan présenté par le gouvernement jeudi matin. […]

Arthur Messaud dénonce le fait de faire de Facebook « le héros de la modération sur internet« . Le juriste de l’association de défense des droits et libertés des citoyens sur internet critique également la gestion des zones grises d’internet. « On veut déléguer ce pouvoir de justice à des acteurs privés qui ne sont pas soumis à nos valeurs démocratiques. » […]

https://www.francetvinfo.fr/internet/securite-sur-internet/mesures-du-gouvernement-contre-le-cyberharcelement-de-la-poudre-aux-yeux-pour-faire-semblant-d-agir-association_3191473.html

NDLRP : retrouvez l’interview d’Arthur Messaud sur le Peertube de La Quadrature du net.

Notre communiqué sur le site suite à l’annonce de ce plan : Mahjoubi et Schiappa croient lutter contre la haine en méprisant le droit européen.

[Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
Mahjoubi et Schiappa croient lutter contre la haine en méprisant le droit européenhttps://www.laquadrature.net/?p=13488http://streisand.me.thican.net/laquadrature.net/index.php?20190214_165337_Mahjoubi_et_Schiappa_croient_lutter_contre_la_haine_en_meprisant_le_droit_europeenThu, 14 Feb 2019 15:53:37 +0000Ce matin, Mounir Mahjoubi a présenté au public son « plan d’action contre les contenus haineux en ligne », qu’il compte mener aux côtés de Marlène Schiappa et de la députée En Marche Laetitia Avia. Au-delà de l’écran de fumée de ce plan d’action, qui peine à cacher un manque total de stratégie et de vision pour l’Internet, le gouvernement méprise totalement la liberté d’expression en suggérant de généraliser la censure automatisée, et renforce le fichage généralisé des utilisateurs d’Internet au mépris du droit européen. Au passage, Mahjoubi en profite pour se faire écho de l’amour véritable qui unirait son président à Mark Zuckerberg…

Au-delà du vœu pieux de faire participer les associations à l’édiction des règles de modérations de Facebook, Google et Twitter (chose sympathique mais bien inutile dans la mesure où rien n’est prévu pour rendre ces géants responsables des censures abusives qu’ils s’autorisent), le plan d’action « contre la haine » ne prévoit rien de neuf et réchauffe ce que la loi prévoit depuis 15 ans.

Favoriser les signalements de contenus haineux ?

Le plan propose d’imposer aux plateformes numériques de mettre à disposition du public un bouton facilement accessible pour signaler les contenus illicites. Mahjoubi ne le cache pas : c’est une chose prévue depuis 15 ans dans la loi pour la confiance dans l’économie numérique (LCEN). Mais il prétend que cette obligation n’est pas respectée par certains acteurs, et qu’il faut donc agir pour les forcer.

On se demande pourquoi le gouvernement a tant attendu pour agir : le non-respect de cette obligation est puni de un an d’emprisonnement et de 75 000 € d’amende depuis 2004… Son inaction s’explique vraisemblablement du fait qu’il sait que tout ceci est bien vain : les acteurs privés n’ont ni les moyens ni la légitimité de traiter l’ensemble des signalements de contenus illicites. Recevoir les signalements est le rôle de la police et plus précisément de PHAROS. Juger si un contenu est illicite est le rôle de l’autorité judiciaire. Or, ces deux acteurs sont presque entièrement absents du plan d’action annoncé aujourd’hui, pourtant en grand besoin de moyens.

Favoriser la justice privée ?

Depuis 2004, toujours, la LCEN prévoit qu’un hébergeur peut être tenu pour responsable des contenus illicites qu’il diffuse si, ayant pris connaissance de ceux-ci (à la suite d’un signalement, typiquement), il n’a pas « agit promptement pour retirer ces informations ». Le plan de Mahjoubi déplore que, sur les grosses plateformes, ce retrait n’intervienne pas assez rapidement. Il fait alors appel à l’exemple tant décrié de la loi allemande qui impose aux géants un retrait en 24h des contenus « manifestement illégaux ».

Encore une fois, la proposition est bien creuse. Depuis 2004, laissé à l’appréciation des juges, le caractère « prompt » du retrait est déjà appliqué avec une grande fermeté lorsque les circonstances l’exigent. Les juges n’hésitent pas à condamner un hébergeur qui, dans les cas les plus graves, n’aurait pas retiré un contenu illicite dans les 24 heures suivant son signalement1Une affaire importante dans l’histoire de la LCEN est celle concernant la société AMEN qui, en 2009, a été condamnée par la cour d’appel de Toulouse pour ne pas avoir retiré dans la journée suivant leur signalement des écoutes téléphoniques diffusées par un des sites qu’elle hébergeait et concernant l’enquête judiciaire de l’affaire AZF. En 2011, la Cour de cassation a cassé cette décision car le signalement de ces écoutes ne respectait pas le formalisme stricte prévu par la LCEN. Toutefois, ce faisant, il est important de noter que la Cour de cassation se gardait entièrement de considérer qu’un délai « prompt » de 24 heures ne correspondrait pas à ce qu’exige la loi.. Mettre dans la loi ce qui se fait déjà dans la pratique est une façon bien simple et peu coûteuse de faire croire qu’on agit quand, en vrai, on a aucune idée de quoi faire. Au contraire, s’il s’intéressait vraiment au développement du numérique français, le gouvernement ferait mieux de protéger les petits plateformes d’exigences aussi radicales et contre-productives de la part des juges, dissuadant l’apparition de nombreux acteurs vertueux qui, un jour, devront remplacer les géants.

Favoriser la censure judiciaire ?

Le plan de Mahjoubi déplore que la censure judiciaire du site democratieparticipative.biz soit restée sans effet : le site s’est naturellement dupliqué sur d’autres adresses. Au passage, il a bénéficié d’une large campagne de visibilité offerte bénévolement par le gouvernement. La situation est ridicule : nous nous croyons revenus 10 ans plus tôt quand nous expliquions à des députés découvrant l’Internet que la censure totale d’un site n’était techniquement pas viable et qu’il était vain de la chercher.

Même si Mahjoubi et Schiappa nous épargnent certains égarements comiques de l’époque (« pare-feu Open-Office », nous ne t’oublierons jamais <3), leur entêtement à chercher des solutions technologiques magiques pour censurer le Net reste aussi absurde, hors-sol et trompeur que par le passé. Les solutions que vous cherchez ne peuvent être qu'humaines et structurelles, vous ne gagnerez jamais le jeu du chat et de la souris sur Internet. Ne perdons pas plus de temps avec vos errements.

Lever l’anonymat contre le droit européen

Mahjoubi tombe enfin le masque du gouvernement qui, depuis quelques semaines, sème la confusion quant à la levée de l’anonymat en ligne. Son objectif est maintenant clair : le gouvernement veut entièrement s’opposer à la jurisprudence de la Cour de justice de l’Union européenne qui interdit aux États membres d’instaurer un fichage de l’ensemble des utilisateurs d’Internet.

La Quadrature du Net s’en réjouit régulièrement : la Cour de justice de l’Union européenne a construit depuis 2014 une jurisprudence ferme interdisant aux États d’obliger les acteurs d’Internet à conserver des données techniques permettant d’identifier l’ensemble de leurs utilisateurs. La Cour de justice n’autorise que des mesures de levée de l’anonymat qui sont ciblées, limitées quant aux personnes surveillées et à la durée de cette surveillance. Le gouvernement français a systématiquement refusé d’abroger les dispositions du droit français qui, en violation du droit européen, imposent aux opérateurs de télécommunications et hébergeurs de conserver pendant 1 an les données de connexion de l’ensemble de leurs utilisateurs.

Le gouvernement s’est tant entêté à violer le droit de l’Union que nous avons du contester le droit français devant le Conseil d’État qui, l’été dernier, après trois ans de procédure, a enfin accepté de soumettre la validité des dispositions françaises à l’examen de la Cour de justice (lire le résumé de nos actions, qui retrace l’état des droits français et européen).

Sans même attendre la décision de cette Cour de justice (qui, à rester cohérente avec ses décisions passées, condamnerait entièrement le modèle français), Mahjoubi et Schiappa annoncent vouloir s’enfoncer encore davantage dans le mépris des libertés fondamentales garanties par l’Union européenne. Ils veulent prévoir des sanctions et des délais plus strictes contre les opérateurs et hébergeurs qui refuseraient de communiquer aux autorités les données d’identification qu’ils conservent. Pour rappel, quand la police avait demandé à La Quadrature du Net de lui communiquer les données identifiant un des utilisateurs de son service Mastodon, nous avions refusé : conformément à la jurisprudence de l’Union européenne, nous ne disposions plus de ces données, car nous ne conservons les données de connexion que pour une durée de 14 jours.

Poursuite de l’alliance France-Facebook

Le document publié aujourd’hui encense Facebook sans retenue. Le « fonds pour le civisme en ligne », par lequel Facebook financera et rendra dépendantes des associations anti-racistes (comme elle sait si bien le faire), est qualifié sans nuance d’« initiative prometteuse [qui] mérite d’être pérennisée ».

Pour lutter contre la haine en ligne, la voie de l’« intelligence artificielle » est explicitement pointée (peu importe ce que ça veut dire), et donne un exemple héroïque à suivre : « Facebook revendique ainsi d’éliminer la quasi-totalité des contenus terroristes avant qu’ils aient pu être diffusés ». Bravo Facebook ! Mahjoubi aurait toutefois pu attendre la fin de la mission gouvernementale examinant la modération de Facebook avant de diffuser sans aucun recul ni aucune rigueur la propagande de l’entreprise.

Enfin, le plan d’action salue que « Facebook a d’ailleurs décidé de lancer en 2018 un mécanisme d’appel » contre ses censures abusives. Facebook est encore conforté dans son rôle d’État privé qui peut créer ses propres normes et juridictions, sans aucun contre-pouvoir, à côté et à la place des États censés démocratiques.

Derrière toutes ces flatteries, le gouvernement semble avoir oublié le rapport de Laetitia Avia (qu’il prétend pourtant reprendre), qui dénonçait comme l’une des causes majeures de la haine en ligne le modèle de Facebook et de ses amis : l’économie de l’attention.

À aucun moment la taille d’un acteur comme Facebook n’est remise en question. Pourtant, l’échelle à laquelle doit s’effectuer sa modération n’est pas qu’un défi technique à brillamment relever mais une ambition légitimement discutable et critiquable.

Une loi anti-haine calquée sur l’anti-terrorisme ?

Derrière les effets d’annonce bien creux de ce « plan d’action », cet appel du pied vers Facebook a de quoi nous inquiéter gravement. Elle nous rappelle à l’identique la situation qui a conduit la Commission européenne à proposer son règlement terroriste.

En 2015, suite à une série d’attaques terroristes meurtrières, Facebook, Google, Twitter et Microsoft s’engagent à travailler avec la Commission européenne au sein du Forum de l’Internet européen pour lutter contre la propagande terroriste. Grace à leurs « intelligences artificielles » magiques et leurs milliers de modérateurs aux quatre coins du monde, les entreprises construisent en 2 ans une liste de blocage contenant la signature de 80 000 images et vidéos qu’elles ont elles-mêmes reconnues comme illicites, sans juge. La Commission européenne est claire : il faut désormais que l’ensemble des plateformes du Web, pas que les géantes, utilisent ces outils de modération. C’est un des objectifs de son règlement terroriste (pour les détails de cette analyse, lire notre analyse complète du règlement).

De son côté, en novembre 2018, Mark Zuckerberg aussi est très clair : les petits acteurs du Web ne peuvent pas faire face à la propagande terroriste, aux « fake news » ou à la haine en ligne seuls. Ils ont besoin de l’aide de Facebook, et il se réjouit que le gouvernement français collabore avec lui pour penser la loi.

En même temps, au Forum de la Gouvernance d’Internet, Macron faisait le même constat : les géants du Net ont fait du bon boulot pour préparer le Net au nettoyage de la propagande terroriste – la prochaine étape sera de continuer le travail pour les contenus haineux.

Pour mettre un coup d’arrêt à cette d’alliance gouvernement-GAFAM, il nous reste un mois pour contacter les députés européens et leur demander de rejeter la première étape de ce projet, le règlement terroriste. Appelons-les.

References   [ + ]

1. Une affaire importante dans l’histoire de la LCEN est celle concernant la société AMEN qui, en 2009, a été condamnée par la cour d’appel de Toulouse pour ne pas avoir retiré dans la journée suivant leur signalement des écoutes téléphoniques diffusées par un des sites qu’elle hébergeait et concernant l’enquête judiciaire de l’affaire AZF. En 2011, la Cour de cassation a cassé cette décision car le signalement de ces écoutes ne respectait pas le formalisme stricte prévu par la LCEN. Toutefois, ce faisant, il est important de noter que la Cour de cassation se gardait entièrement de considérer qu’un délai « prompt » de 24 heures ne correspondrait pas à ce qu’exige la loi.
]]>
[Marianne] Reconnaissance faciale : Big Brother s’invite dans les lycées à Nice et à Marseillehttps://www.laquadrature.net/?p=13416http://streisand.me.thican.net/laquadrature.net/index.php?20190213_110000__Marianne__Reconnaissance_faciale____Big_Brother_s___invite_dans_les_lycees_a_Nice_et_a_MarseilleWed, 13 Feb 2019 10:00:00 +0000Deux lycées de la région Provence-Alpes-Côte d’Azur vont installer des portiques de vidéosurveillance à reconnaissance faciale. Un dispositif en partie voué à combler le manque d’effectifs dédiés à la sécurité, mais qui interroge sur les risques liés à la vie privée. […]

Pour l’association la Quadrature du Net, qui défend les droits et libertés des citoyens sur Internet, cette déclaration prouve bien la nature du projet mené dans les lycées de Nice et de Marseille : il s’agirait d’une répétition générale pour une « banalisation » toujours plus grande d’une « technologie liberticide« . « Il s’agit d’une nouvelle étape dans la normalisation de la vidéo surveillance et de la reconnaissance faciale« , regrette auprès de Marianne Félix Tréguer, chercheur à l’Institut des sciences de la communication et membre de l’association. […]

Les inquiétudes de la Quadrature du Net ne sont pas des divagations d’amateurs de dystopie technologique. Car si la France est pour l’instant globalement frileuse face aux expérimentations sur la reconnaissance faciale, plusieurs instances s’en sont récemment dotées. Depuis cet été, les aéroports d’Orly et de Roissy en région parisienne, ainsi que le terminal 2 de l’aéroport de Nice, emploient cette technologie. Aéroports auxquels il faudra donc bientôt ajouter deux lycées français : « Difficile de ne pas y voir une nouvelle pierre à une tendance beaucoup plus large, commente Félix Tréguer. On commence par les lycées mais à Marseille et à Nice, les élus sont aussi les promoteurs de projets sécuritaires qui font de la reconnaissance faciale un pilier de contrôle à l’échelon de la ville« . […]

https://www.marianne.net/societe/reconnaissance-faciale-big-brother-s-invite-dans-les-lycees-nice-et-marseille

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LesDecrypteurs] Qu’est-ce qui arrêtera Facebook ?https://www.laquadrature.net/?p=13417http://streisand.me.thican.net/laquadrature.net/index.php?20190212_110000__LesDecrypteurs__Qu___est-ce_qui_arretera_Facebook___Tue, 12 Feb 2019 10:00:00 +0000Lucie Ronfaut (Le Figaro Tech), Alexandre des Isnards (observateur des réseaux sociaux) et Benjamin Sonntag (co-fondateur de la Quadrature du Net) décryptent le phénomène Facebook, 15 ans après sa création.

NDLRP – L’intervention de Benjamin Sonntag (co-fondateur de la Quadrature du Net) :

NDLRP : L’émission complète avec le débat de 2e partie est à suvire sur le lien original.

http://video.lefigaro.fr/figaro/video/qu-est-ce-qui-arretera-facebook/5998653409001/

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[NextINpact] Blocage administratif : la personnalité qualifiée de la CNIL fait plier la police devant la justicehttps://www.laquadrature.net/?p=13418http://streisand.me.thican.net/laquadrature.net/index.php?20190211_110000__NextINpact__Blocage_administratif____la_personnalite_qualifiee_de_la_CNIL_fait_plier_la_police_devant_la_justiceMon, 11 Feb 2019 10:00:00 +0000Le tribunal administratif de Cergy-Pontoise vient de donner raison à la personnalité qualifiée de la CNIL, qui avait contesté en justice plusieurs demandes de retrait et de déréférencement émanant de l’Office central de lutte contre la cybercriminalité (OCLCTIC). Une première. […]

Sur Twitter, La Quadrature du Net a réagi à cette décision en affirmant qu’elle ne devait « surtout pas » rassurer : « elle démontre exactement les dérives que permet la censure sans juge en France ».

https://www.nextinpact.com/news/107570-blocage-administratif-personnalite-qualifiee-cnil-fait-plier-oclctic-devant-justice.htm

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LeMonde] Faire respecter le RGPD, principale mission de Marie-Laure Denis, nouvelle présidente de la CNILhttps://www.laquadrature.net/?p=13379http://streisand.me.thican.net/laquadrature.net/index.php?20190210_110000__LeMonde__Faire_respecter_le_RGPD__principale_mission_de_Marie-Laure_Denis__nouvelle_presidente_de_la_CNILSun, 10 Feb 2019 10:00:00 +0000L’enjeu de son mandat se résume en quatre lettres : RGPD, sigle du règlement général sur la protection des données personnelles, entré en vigueur en 2018. […]

«La CNIL est très à l’aise pour se poser en protecteur de la population contre les Gafam, mais se poser contre l’Etat est une tradition qu’elle est contente d’avoir perdu », cingle Arthur Messaud, de La Quadrature du Net, la principale association de défense des libertés numériques en France. En choisissant une juriste habituée des coulisses des régulateurs plutôt que certains noms qui circulaient encore il y a quelques semaines, comme celui de l’ancienne secrétaire d’Etat au numérique Axelle Lemaire, Emmanuel Macron semble avoir fait, sur ce terrain, le choix de la continuité.

https://www.lemonde.fr/pixels/article/2019/02/01/donnees-personnelles-gafam-les-chantiers-qui-attendent-marie-laure-denis_5417586_4408996.html

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[FranceCulture] Les fichiers de police et de renseignement sont-ils trop nombreux ?https://www.laquadrature.net/?p=13380http://streisand.me.thican.net/laquadrature.net/index.php?20190209_110000__FranceCulture__Les_fichiers_de_police_et_de_renseignement_sont-ils_trop_nombreux___Sat, 09 Feb 2019 10:00:00 +0000[…] Le nombre de fichiers se multiplie en France. Le dernier rapport publié en octobre 2018 par les députés Didier Paris (La République en marche) et Pierre Morel-A-l’Huissier (UDI, Agir et indépendants) comptabilise 106 fichiers. Mais il est difficile de savoir combien de personnes sont fichées au total. […]

Pourtant, parmi tous les fichiers que comptent la police et les renseignements intérieurs, une base de données a soulevé de nombreuses questions : le fichier TES, Titres Électroniques Sécurisés, alias le « fichier monstre ». La base, déployée en France en mars 2017, rassemble toutes les données nécessaires pour établir ses papiers : nom, prénom, couleur des yeux, photo du visage, et surtout les données biométriques (empreintes digitales). L’objectif avancé par le gouvernement ? Garantir l’exactitude des information et limiter le trafic de faux papiers.

L’association La Quadrature du Net, elle, dénonce un fichier présentant de sérieux risques. Alexis Fitzjean O Cobhthaigh, avocat au barreau de Paris et membre de l’association, signale que ce fichier pourrait concerner 60 millions de personnes : « Le risque ce n’est pas seulement qu’il y ait trop de fichiers mais que l’on soit tous fichés. Aujourd’hui, avec ce fichier, dès que vous allez renouveler votre carte d’identité ou votre passeport ce sera le cas. » […]

https://www.franceculture.fr/droit-justice/les-fichiers-de-police-et-de-renseignement-sont-ils-trop-nombreux

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[FranceCulture] Données personnelles : l’Europe aura-t-elle raison des GAFAM ?https://www.laquadrature.net/?p=13381http://streisand.me.thican.net/laquadrature.net/index.php?20190208_110000__FranceCulture__Donnees_personnelles____l___Europe_aura-t-elle_raison_des_GAFAM___Fri, 08 Feb 2019 10:00:00 +0000Le 21 janvier dernier, la CNIL impose à Google une sanction record de 50 millions d’euros pour non-respect du RGDP. Alors que les GAFAM semblaient intouchables, l’arsenal juridique qui s’est peu à peu mis en place semble enfin porter ses fruits. […]

L’Europe réussira-t-elle à faire plier Google sur la question des données personnelles ? La CNIL, la Commission nationale de l’informatique et des libertés, a infligé cette semaine une amende record de 50 millions d’euros au géant américain du numérique. Google est accusé de n’avoir pas respecté le Règlement général sur la protection des données personnelle, le fameux RGPD entré en vigueur en mai dernier. Alors, les Etats ont-ils désormais les moyens d’imposer leur volonté aux GAFAM (Google, Apple, Facebook, Amazon et Microsoft) ? Et nos données seront-elles vraiment mieux protégées alors même qu’elles constituent le modèle économique des géants de la tech ? […]

[NDLRP : avec Arthur Messsaud, juriste à la Quadrature du Net].

https://www.franceculture.fr/emissions/entendez-vous-leco/les-geants-du-net-sont-ils-intouchables

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[RMC] Le sujet du jour : Données personnelles sur Internet, comment mieux se protéger en ligne ?https://www.laquadrature.net/?p=13382http://streisand.me.thican.net/laquadrature.net/index.php?20190207_110000__RMC__Le_sujet_du_jour____Donnees_personnelles_sur_Internet__comment_mieux_se_proteger_en_ligne___Thu, 07 Feb 2019 10:00:00 +0000Martin, juriste de La Quadrature du Net, est l’invité de RMC pour discuter de l’amende infligée par la CNIL à Google, et évoquer la protection des données personnelles en ligne.

https://rmc.bfmtv.com/mediaplayer/audio/rmc-2601-le-sujet-du-jour-donnees-personnelles-sur-internet-comment-mieux-se-proteger-en-ligne-451812.html

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[TheConversation] Les impératifs sécuritaires auront-ils raison de notre droit fondamental à la vie privée ?https://www.laquadrature.net/?p=13383http://streisand.me.thican.net/laquadrature.net/index.php?20190205_110000__TheConversation__Les_imperatifs_securitaires_auront-ils_raison_de_notre_droit_fondamental_a_la_vie_privee___Tue, 05 Feb 2019 10:00:00 +0000Symboliquement, l’État semble accorder une importance toute particulière aux questions sécuritaires. Au-delà du symbole, ce tropisme sécuritaire prend une dimension politique concrète majeure si nous le lions à un événement récent, relativement peu souligné ces dernières semaines : la validation d’une base de données biométriques intitulée « Titres électroniques sécurisés » (TES) instauré par le décret n° 2016-1480 du 28 octobre 2016. Cette décision laisse entrevoir la mutation d’un État dont les points d’équilibre se déplacent imperceptiblement vers moins de droit et plus de surveillance. Signe annonciateur d’une clarification franche du brouillage de nos représentations institutionnelles ? […]

En effet, les démocraties libérales occidentales semblent éprouver des difficultés à prospérer sereinement sur un système politique inédit où métaplateformes et État, punitif et divertissement, privé et public se mêlent, s’interpellent.

Ce changement de rapport de forces déstabilise le positionnement de l’État. Il n’est plus ni solitaire ni souverain mais cohabite avec d’autres formes de pouvoir pour configurer avec elles une nouvelle gouvernance mondiale. […]

https://theconversation.com/les-imperatifs-securitaires-auront-ils-raison-de-notre-droit-fondamental-a-la-vie-privee-108634

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[TheConversation] Liberté d’in-expression : quand les États de l’Union européenne souhaitent sous-traiter la censure aux géants du web !https://www.laquadrature.net/?p=13384http://streisand.me.thican.net/laquadrature.net/index.php?20190204_110000__TheConversation__Liberte_d___in-expression____quand_les_Etats_de_l___Union_europeenne_souhaitent_sous-traiter_la_censure_aux_geants_du_web___Mon, 04 Feb 2019 10:00:00 +0000Le texte européen le plus liberticide de cette décennie est en approche. […]

Usant toujours de la même argumentation – a priori – louable : la lutte contre le terrorisme, ce texte – que vous retrouverez sous l’intitulé : « Règlement du Parlement Européen et du Conseil relatif à la prévention de la diffusion de contenus à caractère terroriste en ligne » obligera tous les acteurs du Web à se soumettre aux outils de surveillance et de censure automatisés fournis par Facebook et Google. Quand la Quadrature du Net qui soulève le problème s’interroge : « Une loi européenne pour censurer les mouvements sociaux sur Internet ? » La réponse apparaît tristement contenue dans la question au regard des éléments exposés ci-après et des mouvements sociaux qui se déroulent en France depuis quelques semaines. […]

https://theconversation.com/liberte-din-expression-quand-les-etats-de-lunion-europeenne-souhaitent-sous-traiter-la-censure-aux-geants-du-web-108549

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[20Minutes] Google condamné par la CNIL: « Cela ne va pas les empêcher de continuer leur business »https://www.laquadrature.net/?p=13285http://streisand.me.thican.net/laquadrature.net/index.php?20190203_110000__20Minutes__Google_condamne_par_la_CNIL______Cela_ne_va_pas_les_empecher_de_continuer_leur_business____Sun, 03 Feb 2019 10:00:00 +0000Interview. Arthur Messaud, juriste pour la Quadrature du Net, revient sur l’amende infligée ce lundi par la Cnil à Google…

Le géant américain Google a écopé lundi d’une amende record de 50 millions d’euros infligée par l’autorité française chargée de la protection des données privées qui estime insuffisante l’information sur l’exploitation des données personnelles de ses utilisateurs.

C’est la première fois qu’un géant de l’Internet se fait ainsi rattraper par un régulateur de l’Union européenne, en l’occurrence la Commission nationale de l’informatique et des libertés (Cnil), le « gendarme » français des données personnelles. Pourtant, Arthur Messaud, juriste pour l’association La Quadrature du Net – à l’origine d’une plainte contre plusieurs géants du numérique – estime qu’il aurait fallu aller beaucoup plus loin. […]

https://www.20minutes.fr/high-tech/2433383-20190122-google-condamne-cnil-va-empecher-continuer-business

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[BFMTV] Fin de l’anonymat sur le Web: les limites du projet d’Emmanuel Macronhttps://www.laquadrature.net/?p=13286http://streisand.me.thican.net/laquadrature.net/index.php?20190202_110000__BFMTV__Fin_de_l___anonymat_sur_le_Web__les_limites_du_projet_d___Emmanuel_MacronSat, 02 Feb 2019 10:00:00 +0000Ce 18 janvier, Emmanuel Macron a plaidé en faveur d’une « levée progressive de tout anonymat », dans une volonté d’améliorer la qualité de la démocratie participative. Un discours qu’il n’est pas le premier à tenir. […]

« Ce genre d’obligations – si elles passaient par la loi – seraient impossibles à respecter pour les petits acteurs et risqueraient fort de renforcer davantage les grandes plateformes américaines », explique Félix Tréguer, de la Quadrature du Net, une association de défense des libertés en ligne. « Emmanuel Macron oublie que l’anonymat constitue un droit associé à la liberté d’expression et de communication et au droit à la vie privée. Il est reconnu comme tel au niveau international, notamment par la Cour européenne des droits de l’Homme », complète-t-il. […]

https://www.bfmtv.com/tech/fin-de-l-anonymat-sur-le-webles-limites-du-projet-d-emmanuel-macron-1616925.html

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LeMonde] Données personnelles : la CNIL condamne Google à une amende record de 50 millions d’euroshttps://www.laquadrature.net/?p=13287http://streisand.me.thican.net/laquadrature.net/index.php?20190201_110000__LeMonde__Donnees_personnelles____la_CNIL_condamne_Google_a_une_amende_record_de_50_millions_d___eurosFri, 01 Feb 2019 10:00:00 +0000Le gendarme français de la vie privée reproche au géant américain de ne pas informer assez clairement ses utilisateurs. […]

Malgré cette victoire, les plaignants restent sur leur faim. LQDN est ainsi déçue du niveau de l’amende, puisque le RGPD permet d’infliger une pénalité allant jusqu’à 4 % du chiffre d’affaires de l’entreprise condamnée. Celui-ci s’élevait, en 2017, à 110 milliards de dollars (97 milliards d’euros) pour Alphabet, la maison mère de Google.

Par ailleurs, estime Benjamin Bayart, un des fondateurs de l’association, « la CNIL a traité une toute petite partie du problème ». Elle s’est attachée à un cas d’usage particulier en regardant si, au moment de configurer un téléphone Android (le système d’exploitation de Google qui équipe la majorité des smartphones), l’utilisateur peut maîtriser l’utilisation de ses données. […]

https://www.lemonde.fr/pixels/article/2019/01/21/donnees-personnelles-la-cnil-condamne-google-a-une-amende-record-de-50-millions-d-euros_5412337_4408996.html

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[NextINpact] RGPD : pourquoi la CNIL a infligé 50 millions d’euros de sanction à Googlehttps://www.laquadrature.net/?p=13288http://streisand.me.thican.net/laquadrature.net/index.php?20190131_110000__NextINpact__RGPD____pourquoi_la_CNIL_a_inflige_50_millions_d___euros_de_sanction_a_GoogleThu, 31 Jan 2019 10:00:00 +0000Alors qu’elle achève son mandat à la CNIL, Isabelle Falque Pierrotin pourra s’enorgueillir d’avoir fait infliger à l’un des géants du Net une sanction monstre : 50 millions d’euros, soit le plus haut niveau jamais prononcé en France sur l’autel du règlement général sur la protection des données personnelles (RGPD). […]

La Quadrature du Net salue cette sanction, non sans relativiser sa portée. Son action collective ne s’est en effet pas limitée au périmètre épinglé par la CNIL, mais « dénonçait surtout le ciblage publicitaire imposé sur YouTube, Gmail et Google Search en violation de notre consentement ».

L’initiative attend donc que la CNIL poursuive ses investigations sur ces autres services. « Nos plaintes visaient avant tout à trancher un autre débat, bien plus fondamental : que la CNIL reconnaisse que notre consentement n’est valide que s’il est librement donné. Que la CNIL explique clairement que Google ne peut pas nous obliger à accepter son ciblage publicitaire afin de pouvoir utiliser ses services ». […]

https://www.nextinpact.com/news/107531-rgpd-pourquoi-cnil-a-inflige-50-millions-deuros-sanction-a-google.htm

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[LeMonde] Comment des villes « hyper connectées » contrôlent l’espace publichttps://www.laquadrature.net/?p=13289http://streisand.me.thican.net/laquadrature.net/index.php?20190130_110000__LeMonde__Comment_des_villes_____hyper_connectees_____controlent_l___espace_publicWed, 30 Jan 2019 10:00:00 +0000A Nice, Marseille ou Nîmes, on travaille avec des plates-formes numériques, quitte à repousser les frontières des libertés. […]

Françaises ou non, ces technologies soulèvent quelques inquiétudes. « La safe city, c’est la prolifération d’outils issus du milieu du renseignement, dans une logique de surveillance massive, d’identification des signaux faibles, des comportements suspects », dénonce Félix Tréguer, un responsable marseillais de l’association La Quadrature du Net. « Ces outils permettront un contrôle social très sophistiqué quand leur potentiel sera optimisé, estime-t-il. Nous ne trouvons pas rassurant que la police municipale devienne le service de renseignement de l’espace public urbain et de son double numérique. » […]

https://www.lemonde.fr/economie/article/2018/12/19/au-nom-de-la-smart-city-des-villes-sous-surveillance_5399527_3234.html

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
[BFMTV] Nice et Marseille testeront des dispositifs de reconnaissance faciale à l’entrée de deux lycéeshttps://www.laquadrature.net/?p=13290http://streisand.me.thican.net/laquadrature.net/index.php?20190129_110000__BFMTV__Nice_et_Marseille_testeront_des_dispositifs_de_reconnaissance_faciale_a_l___entree_de_deux_lyceesTue, 29 Jan 2019 10:00:00 +0000Des portiques dotés d’une technologie de reconnaissance faciale seront déployés dès janvier 2019 dans le lycée des Eucalyptus, à Nice, et dans le lycée Ampère, à Marseille, pour contrôler l’entrée des élèves. […]

« L’un des problèmes majeurs de ce projet a trait au régime commercial qui sera appliqué à ces données », complète Antonio Casilli, professeur de sociologie à Télécom ParisTech et à l’EHESS. « Leur circulation dans les infrastructures d’une entreprise américaine constitue une forme de valorisation abusive. Par ailleurs, la reconnaissance faciale est en soi répressive, invasive et discriminante et a tendance à comprendre des biais et à surcibler des minorités. En l’occurrence, elle habituera les lycéens au fait d’être constamment enregistrés, comparés et jugés. » […]

https://www.bfmtv.com/tech/nice-et-marseille-testeront-des-dispositifs-de-reconnaissance-faciale-a-l-entree-de-deux-lycees-1590434.html.

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
Opération « Bloque la pub sur Internet »https://www.laquadrature.net/?p=13314http://streisand.me.thican.net/laquadrature.net/index.php?20190128_143111_Operation_____Bloque_la_pub_sur_Internet____Mon, 28 Jan 2019 13:31:11 +0000À l’occasion de la journée européenne de protection des données, ce lundi 28 janvier 2019, Résistance à l’Agression Publicitaire (RAP) et La Quadrature du Net, soutenues par d’autres associations, lancent une opération Bloque la pub sur Internet et passe le bloqueur à tes voisin·es.
Cette opération continue de mettre en évidence les effets négatifs de la publicité en ligne et les outils pour s’en prémunir !

 
Internet est devenu un espace prioritaire pour les investissements des publicitaires. En France, pour la première fois en 2016, le marché de la publicité numérique devient le « premier média investi sur l’ensemble de l’année », avec une part de marché de 29,6%, devant la télévision. En 2017, c’est aussi le cas au niveau mondial. Ce jeune « marché » est principalement capté par deux géants de la publicité numérique. Google et Facebook. Ces deux géants concentrent à eux seuls autour de 50% du marché et bénéficient de la quasi-totalité des nouveaux investissements sur ce marché. « Pêché originel d’Internet », où, pour de nombreuses personnes et sociétés, il demeure difficile d’obtenir un paiement monétaire direct pour des contenus et services commerciaux et la publicité continue de s’imposer comme un paiement indirect. 

Les services vivant de la publicité exploitent le « temps de cerveau disponible » des internautes qui les visitent, et qui n’en sont donc pas les clients, mais bien les produits. Cette influence est achetée par les annonceurs qui font payer le cout publicitaire dans les produits finalement achetés.
La publicité en ligne a plusieurs conséquences : en termes de dépendance vis-à-vis des annonceurs et des revenus publicitaires, et donc des limites sur la production de contenus et d’information, en termes de liberté de réception et de possibilité de limiter les manipulations publicitaires, sur la santé, l’écologie… 
En ligne, ces problématiques qui concernent toutes les publicités ont de plus été complétées par un autre enjeu fondamental. Comme l’exprime parfaitement Zeynep Tufekci, une chercheuse turque, « on a créé une infrastructure de surveillance dystopique juste pour que des gens cliquent sur la pub ». De grandes entreprises telles que Google, Facebook et d’autres « courtiers en données » comme Criteo ont développés des outils visant à toujours mieux nous « traquer » dans nos navigations en ligne pour nous profiler publicitairement. Ces pratiques sont extrêmement intrusives et dangereuses pour les libertés fondamentales. 
 
L’Europe dispose pourtant désormais d’un règlement qui devrait mettre majoritairement fin à cette exploitation de nos données personnelles. En vertu du règlement général pour la protection des données RGPD, la plupart de ces pratiques de collecte de données personnelles en ligne devraient reposer sur un consentement libre et éclairé. Sinon, ces pratiques sont illégales. C’est sur ce fondement que La Quadrature du Net a porté plainte collectivement contre les 5 géants du numérique. Si le RGPD est rentré en application récemment et que ces plaintes collectives prennent du temps, la CNIL française a déjà agi sur des questionnements similaires, et a même, lundi 22 janvier 2019, commencé à sanctionner Google à une amende de 50 millions d’euros s’agissant de ces pratiques relatives à Android.
Il est temps que cette législation soit totalement respectée et que les publicitaires cessent de nous espionner en permanence en ligne.
 
Un sondage BVA-La Dépêche de 2018 révélait que 77% des Français·es se disent inquiet·es de l’utilisation que pouvaient faire des grandes entreprises commerciales de leurs données numériques personnelles. 83% des Français·es sont irrité·es par la publicité en ligne selon un sondage de l’institut CSA en mars 2016 et « seulement » 24% des personnes interrogées avaient alors installé un bloqueur de publicité.
 
Le blocage de la publicité en ligne apparait comme un bon outil de résistance pour se prémunir de la surveillance publicitaire sur Internet. Pour l’aider à se développer, nos associations lancent le site Internet :

bloquelapub.net

Plusieurs opérations collectives ou individuelles de sensibilisation et blocages de la publicité auront lieu sur plusieurs villes du territoire français et sur Internet peu de temps avant et le jour du 28 janvier 2019, journée européenne de la « protection des données personnelles ». Le jour rêvé pour s’opposer à la publicité en ligne qui exploite ces données !
 

RAP et La Quadrature du Net demandent :

– Le respect de la liberté de réception dans l’espace public et ailleurs, le droit et la possibilité de refuser d’être influencé par la publicité,
– Le strict respect du règlement général pour la protection des données et l’interdiction de la collecte de données personnelles à des fins publicitaires sans le recueil d’un consentement libre (non-conditionnant pour l’accès au service), explicite et éclairé où les paramètres les plus protecteurs sont configurés par défaut. Les sites Internet et services en ligne ne doivent par défaut collecter aucune information à des fins publicitaires sans que l’internaute ne les y ait expressément autorisés.
 
Rendez-vous sur bloquelapub.net et sur Internet toute la journée du 28 janvier 2019
 
Les associations soutiens de cette mobilisation : Framasoft, Le CECIL, Globenet
Contact : contact@bloquelapub.net, contact@antipub.org, contact@laquadrature.net

]]>
D. Dalton, rapporteur sur le règlement antiterroriste, est sur le point d’autoriser la censure de massehttps://www.laquadrature.net/?p=13299http://streisand.me.thican.net/laquadrature.net/index.php?20190128_124429_D._Dalton__rapporteur_sur_le_reglement_antiterroriste__est_sur_le_point_d___autoriser_la_censure_de_masseMon, 28 Jan 2019 11:44:29 +0000Daniel Dalton est député au Parlement européen (Royaume-Uni, ECR – Extrême-droite) et a été désigné rapporteur pour la Commission LIBE sur le règlement de censure antiterroriste (lire notre article sur le texte). Venant du Royaume-Uni, il ne fera plus partie du Parlement européen d’ici quelques mois, mais il compte auparavant laisser l’Union européenne sous-traiter la censure de l’Internet à Google et Facebook, détruire les autres acteurs de l’Internet et laisser à la police le pouvoir d’ordonner le retrait en une heure de contenus qu’elle juge illicite, et cela sans autorisation judiciaire.

Mercredi dernier, il a publié son projet de rapport – un texte sur lequel se basera le Parlement européen pour amender la proposition sécuritaire de la Commission européenne publiée en septembre dernier, proposition poussée par la France et l’Allemagne. Ce projet de rapport ne propose aucun vrai changement par rapport au texte initial. Peut-être que, nous laissant bientôt à notre sort, M. Dalton n’a rien à faire de ce règlement.

Ou est-ce vraiment le cas ?

Lors des derniers mois, Dalton a pourtant exprimé publiquement son opposition aux obligations de filtrage automatique qui résulteront de l’article 13 de la directive sur le droit d’auteur.

Il a ainsi clairement énoncé que « Les grands acteurs comme Google et Amazon auront la capacité de respecter les obligations qui leur seront imposées par le texte de la commission JURI sur l’article 13, c’est à dire de chercher des millions d’ayant-droits à travers le monde, de conclure avec eux des accords et mettre en place des logiciels sophistiqués de surveillance, ce que ne pourront peut-être pas faire des petites entreprises unipersonnelles à temps partiel. La mise en ligne de nombreux contenus légitimes sera automatiquement empêchée par ces logiciels de surveillance de contenu que les sites auront l’obligation d’installer. De nombreux utilisateurs ne contesteront pas ces décisions, ce qui constitue une entrave inacceptable à la liberté d’expression, ce qui serait un changement fondamental pour la nature de l’Internet tel que nous le connaissons aujourd’hui ». Alors pourquoi ferait-il aujourd’hui l’opposé ?

Il y a deux hypothèses.

Première possibilité : il n’a jamais été sincère et il travaille en réalité depuis le début pour Google. Google est contre l’article 13 ? Dalton l’est aussi. Google bénéficiera largement de ce règlement antiterroriste, car celui-ci détruira nombre de ses concurrents et le placera au centre du système de modération du Web ? Dalton défend ce texte. C’est une hypothèse très cynique et nous ne préférons pas y croire.

Seconde hypothèse : Dalton est sincère mais mal informé. Il n’a pas lu les lettres ouvertes signées par des dizaines d’acteurs de l’Internet ou les analyses que nous avons publié aux côtés de nombreuses autres organisations et associations (EDRi ou Mozilla par exemple). C’est assez crédible. Le seul changement que suggère Dalton dans son projet de rapport est d’indiquer que le règlement ne devra pas conduire à un filtrage automatisé des contenus. C’est en accord avec sa position sur la directive droit d’auteur. Mais il n’a pas encore réalisé que, malgré sa proposition, le cœur même du texte ne peut conduire qu’à une forme de censure automatisée.

Si les acteurs de l’Internet sont obligés de prévoir un point de contact disponible 24h/24 et 7 jours sur 7 pour répondre en moins d’une heure aux injonctions de retrait de la police (quelque chose toujours présent dans le projet de rapport), qu’est-ce que Dalton pense qu’il arrivera ? Très peu d’acteurs seront capables de retirer des contenus dans un tel délai. Et, de toutes façons, personne n’attendra calmement que la police les appelle. La plupart des acteurs ne pourront que déléguer la modération des contenus à d’autres entreprises. Lesquelles ? Il suffit, pour comprendre, de lire les communiqués publiés conjointement par la Commission européenne, Google et Facebook : ces entreprises prétendent être capables de détecter et de retirer des contenus soi-disant terroristes en une heure et la Commission explique que les petits acteurs devront désormais utiliser leurs outils1Dès juin 2017, la Commission européenne se félicite publiquement « avoir travaillé depuis deux ans avec les plateformes clefs du Web au sein du Forum européen de l’Internet », qui regroupe Google, Facebook, Twitter et Microsoft depuis 2015, « pour s’assurer du retrait volontaire de contenus terroristes en ligne », notamment grâce à « l’initiative menée par l’industrie de créer une « base de données d’empreintes numériques » [« database of hashes »] qui garantit qu’un contenu terroriste retiré sur une plateforme ne soit pas remis en ligne sur une autre plateforme ».
Pour la Commission, déjà, « l’objectif est que les plateformes en fassent davantage, notamment en mettant à niveau la détection automatique de contenus terroristes, en partageant les technologies et les outils concernés avec de plus petites entreprises et en utilisant pleinement la « base de données d’empreintes numériques » » (toutes ces citations sont des traductions libres de l’anglais).
.

C’est plutôt simple : le but même de ce règlement est de forcer tous les acteurs de l’Internet à utiliser les outils développés par Google et Facebook depuis deux ans dans le cadre du Forum de l’UE sur l’Internet. La Commission européenne ne s’en est jamais cachée. Si Dalton est sincèrement opposé au filtrage automatisé et ne travaille pas pour Google, il devrait simplement retirer son projet de rapport et demander le rejet du règlement – ce texte n’étant d’aucun façon amendable ou améliorable.

Un premier vote sur ce projet de rapport est prévu pour le 21 mars. La Quadrature du Net rencontrera cette semaine des députés du Parlement européen et nous vous tiendrons au courant des retours du terrain.

« Les déclarations de M. Dalton ne semblent pas correspondre à ses actions. S’il est vraiment opposé au filtrage automatisé, alors pourquoi s’y oppose-t-il seulement quand il s’agit de la directive droit d’auteur et pas sur le règlement de censure antiterroriste ? Si vous êtes aussi intrigués que nous par le comportement incohérent de M. Dalton, n’hésitez pas à lui demander directement » suggère Martin Drago, chargé d’analyse juridique à La Quadrature du Net.

References   [ + ]

1. Dès juin 2017, la Commission européenne se félicite publiquement « avoir travaillé depuis deux ans avec les plateformes clefs du Web au sein du Forum européen de l’Internet », qui regroupe Google, Facebook, Twitter et Microsoft depuis 2015, « pour s’assurer du retrait volontaire de contenus terroristes en ligne », notamment grâce à « l’initiative menée par l’industrie de créer une « base de données d’empreintes numériques » [« database of hashes »] qui garantit qu’un contenu terroriste retiré sur une plateforme ne soit pas remis en ligne sur une autre plateforme ».
Pour la Commission, déjà, « l’objectif est que les plateformes en fassent davantage, notamment en mettant à niveau la détection automatique de contenus terroristes, en partageant les technologies et les outils concernés avec de plus petites entreprises et en utilisant pleinement la « base de données d’empreintes numériques » » (toutes ces citations sont des traductions libres de l’anglais).
]]>
[RadioCampusParis] La matinale – Quadrature du net & Les enfant.e.s du désordrehttps://www.laquadrature.net/?p=13291http://streisand.me.thican.net/laquadrature.net/index.php?20190128_110000__RadioCampusParis__La_matinale_____Quadrature_du_net___Les_enfant.e.s_du_desordreMon, 28 Jan 2019 10:00:00 +0000Conserver un internet libre pour diversifier et démêler les vérités et des mensonges à propos des usages d’internet c’est le quotidien des activistes de La Quadrature du net. Martin Drago et Marne sont au micro de la Matinale de 19h pour réagir au projet de la Commission Européenne de censure antiterroriste sur internet. Ils nous offrent aussi un décryptage des usages et libertés sur internet.

« Pour soi-disant nous protéger du terrorisme, on impose des interdictions très restrictives à l’ensemble des acteurs d’internet que ce soit les grands réseaux, les forums et les sites. » […]

https://www.radiocampusparis.org/la-matinale-la-quadrature-du-net-les-enfant-e-s-du-desordre/

[NRLDP : Soutenons notre internet, La Quadrature a besoin de vos dons.]

]]>
Censure antiterroriste : la Commission européenne maintient la pression sur le Parlementhttps://www.laquadrature.net/?p=13272http://streisand.me.thican.net/laquadrature.net/index.php?20190123_153320_Censure_antiterroriste____la_Commission_europeenne_maintient_la_pression_sur_le_ParlementWed, 23 Jan 2019 14:33:20 +0000Après sa présentation en septembre 2018 par la Commission européenne et son adoption trois mois plus tard par les gouvernements européens, le projet de règlement sur la censure antiterroriste est en ce moment en discussion devant le Parlement européen.

Pour rappel, ce texte obligera de fait tous les acteurs du Web à se soumettre aux outils de surveillance et de censure automatisée fournis par Facebook et Google, tout en permettant à la police d’exiger le retrait en une heure des contenus qu’elle juge « terroriste », sans l’autorisation d’un juge.

Au sein du Parlement, c’est aujourd’hui la Commission LIBE (pour Libertés civiles, justice et affaires intérieures) qui a été désignée comme « compétente au fond », avec comme rapporteur Daniel Dalton (Royaume-Uni, ECR – Extrême-droite). Ce dernier sera donc chargé de rendre un rapport proposant des amendements au texte de la Commission européenne, rapport qui servira ensuite de base au Parlement européen pour examiner le texte de la Commission en séance plénière. Selon nos informations, Dalton pourrait essayer de publier un projet de rapport d’ici la fin janvier avec pour objectif de le faire adopter par la Commission LIBE dès le 21 mars 2019.

Deux autres commissions ont été désignées pour rendre à la Commission LIBE des avis sur la proposition législative : la Commission IMCO (pour Marché intérieur et protection des consommateurs – avec Julia Reda comme rapporteure – Allemagne, Groupe des Verts) et la Commission CULT (pour Culture et Éducation – avec Julie Ward comme rapporteure – Royaume-Uni, du groupe Socialistes et Démocrates).

Ces commissions ont toutes les deux récemment publié leur projet d’avis sur le texte.

Le projet d’avis de Julia Reda, publié le 13 décembre 2018, suggère la modification et même la suppression de nombreux éléments qui posaient problème dans le texte original présenté par la Commission européenne. Il y est ainsi proposé d’exclure du champ d’application les petites et moyennes entreprises ainsi que les services d’informatique en nuage, les blogs ou les services de communication interpersonnelles (c’est à dire les messageries instantanées). Elle recommande par ailleurs que seules des autorités judiciaires (et non plus la police) puissent demander à un fournisseur le retrait d’un contenu et cela, non plus dans l’heure mais seulement « rapidement, compte étant tenu de la taille et des ressources des fournisseurs des services d’hébergement ». Le fournisseur de service pourrait également contester le fondement de la demande de retrait qui lui est adressé. Enfin, parmi d’autres mesures, il est demandé la suppression de l’article 6 qui concernait la possibilité pour les autorités d’imposer des mesures de filtrage automatique aux fournisseurs de services.

Concernant la Commission CULT, Julie Ward a publié la semaine dernière un projet d’avis dans lequel elle critique à son tour les dangers de la proposition de la Commission. Elle y propose notamment, elle-aussi, de ne donner le pouvoir d’ordonner des retraits de contenus qu’aux autorités judiciaires, de ne plus parler d’un retrait en une heure mais « dans les meilleurs délais », de supprimer l’article 6 sur les mesures proactives de filtrage et de retirer la sanction minimum de 4% du chiffre d’affaires…1Notons que parmi les différences entre les deux projets d’avis, Julia Reda ne propose pas seulement de supprimer l’article 6 sur les mesures proactives mais également l’article 5 qui laissait au fournisseur de services l’opportunité de supprimer ou non un contenu signalé par les autorités – ce qui n’est pas proposé dans le projet d’avis de Julie Ward.

Si ces deux projets d’avis contiennent des propositions de modification qui sont les bienvenues par rapport au texte original, il reste que la stratégie que paraissent poursuivre les députées, c’est-à-dire de vider le texte de sa substance (réduction du nombre d’acteurs visés, passage obligatoire par des autorités judiciaires, suppression du délai de retrait d’une heure et des filtres automatiques…) sans appeler à son rejet en entier, nous semble être un jeu bien trop dangereux, qu’il ne faut surtout pas jouer.

En effet, premièrement, rien ne dit que ce seront les avis définitifs qui seront adoptés par IMCO et CULT et, deuxièmement, il sera toujours plus facile, une fois le texte adopté, de faire sauter les exceptions pour revenir au projet d’origine de la Commission. Comme nous le soulignons depuis septembre, seul le rejet du texte en son entier permettra de sauvegarder nos libertés et de conserver un Internet libre et décentralisé.

Il reste maintenant à savoir quelle sera la teneur du rapport de Daniel Dalton pour la Commission LIBE. Ses positions habituelles n’ont rien pour nous rassurer. L’autre question tient à savoir si le Parlement européen parviendra à se prononcer en séance plénière sur ce texte avant les élections européennes à venir en mai 2019.

S’il semble que, plus le temps avance, moins cela semble certain, le commissaire européen responsable de ce texte, Julian King, paraît, de son côté, toujours y croire,  :

« Après un certain retard, le Parlement européen vient de confirmer la semaine dernière les commissions compétentes sur le texte. Nous devons donc désormais concentrer tous les efforts pour obtenir un accord avant les élections européennes.

C’est la première de nos trois priorités pour cette année, et la plus urgente à court terme»

En conclusion, si nous avions pu espérer en fin d’année dernière un ralentissement des débats sur ce sujet, ni la Commission ni les gouvernements ne semblent prêts à lâcher l’affaire et continuent d’imposer aux institutions européennes un rythme étranger à tout débat démocratique.

References   [ + ]

1. Notons que parmi les différences entre les deux projets d’avis, Julia Reda ne propose pas seulement de supprimer l’article 6 sur les mesures proactives mais également l’article 5 qui laissait au fournisseur de services l’opportunité de supprimer ou non un contenu signalé par les autorités – ce qui n’est pas proposé dans le projet d’avis de Julie Ward.
]]>
Première sanction contre Google suite à nos plaintes collectiveshttps://www.laquadrature.net/?p=13249http://streisand.me.thican.net/laquadrature.net/index.php?20190121_171322_Premiere_sanction_contre_Google_suite_a_nos_plaintes_collectivesMon, 21 Jan 2019 16:13:22 +0000Le 28 mai dernier, La Quadrature du Net déposait devant la CNIL, au nom de 12 000 personnes, cinq plaintes contre Google, Apple, Facebook, Amazon et Microsoft. Depuis, la CNIL a décidé de traiter elle-même la plainte contre Google, alors que les autres sont parties devant les autorités irlandaise et luxembourgeoise (lire notre explication). À cela s’ajoutait une autre plainte déposée elle aussi devant la CNIL par nos amis de l’association autrichienne NOYB contre Android.

Aujourd’hui, la CNIL vient de sanctionner Google à hauteur de 50 millions d’euros, considérant que le ciblage publicitaire qu’il réalise sur son système d’exploitation Android n’est pas conforme au règlement général pour la protection des données (RGPD), la nouvelle loi européenne entrée en application le 25 mai 2018. Cependant, cette sanction n’est qu’une toute première partie de la réponse à notre plainte contre Google, qui dénonçait surtout le ciblage publicitaire imposé sur Youtube, Gmail et Google Search en violation de notre consentement.

Ainsi, la CNIL explique notamment le montant de sa sanction, très faible en comparaison du chiffre d’affaire annuel de près de 110 milliards de dollars de Google, du fait que le périmètre de son contrôle s’est limité aux « traitements couverts par la politique de confidentialité présentée à l’utilisateur lors de la création de son compte à l’occasion de la configuration de son téléphone mobile sous Android » (par. 78). Nous attendons donc de la CNIL qu’elle réponde rapidement au reste de notre plainte, au sujet de Youtube, Gmail et Google Search, en imposant cette fois-ci une sanction d’un montant proportionné à cette entreprise ainsi qu’à l’ampleur et à la durée de la violation de nos droits (le montant maximal possible, que nous espérons, est de plus de 4 milliards d’euros, 4% du chiffre d’affaire mondial).

Par ailleurs, sur le fond, la CNIL a aujourd’hui sanctionné Android sur des arguments dont l’enjeu est assez faible : elle considère, à juste titre, que les informations que nous donne Google au moment de créer un compte ne sont pas clairement accessibles et que notre consentement n’est pas recueilli de façon explicite (par un acte positif de notre part) mais notamment au moyen de cases pré-cochées, ce que le RGPD interdit explicitement.

Certes, ce dernier argument était bien un de ceux que nous avions soulevés dans nos plaintes, mais nos plaintes visaient avant tout à trancher un autre débat, bien plus fondamental : que la CNIL reconnaisse que notre consentement n’est valide que s’il est librement donné. Que la CNIL explique clairement que Google ne peut pas nous obliger à accepter son ciblage publicitaire afin de pouvoir utiliser ses services.

Contrairement aux décisions rendues récemment par la CNIL au sujet d’entreprises françaises, la CNIL est aujourd’hui parfaitement muette à ce sujet, et nous le déplorons. Nous attendons donc d’elle qu’elle aborde frontalement ce sujet dans les décisions qu’elle doit rendre prochainement au sujet de Youtube, Gmail et Google Search.

Au passage, toutefois, notons que Google, au cours de la procédure, a prétendu qu’il exigeait systématiquement notre consentement pour nous cibler à des fins publicitaires, et ne se reposait pas sur une autre base légale (tel que « l’intérêt légitime » – voir notre plainte, p.10). Ces prétentions sont intéressantes, premièrement parce qu’elles contredisent le contenu même de la politique de confidentialité de Google (qui prétend pouvoir nous cibler sans notre consentement), mais aussi parce qu’elles laissent envisager un repli stratégique de la part de Google qui, dos au mur, pourrait enfin cesser de feindre d’ignorer entièrement le droit européen.

Un risque majeur demeure toutefois : pour échapper à des sanctions, Google a récemment modifié ses conditions d’utilisation. Celles-ci prétendent, à partir du 22 janvier, établir l’entreprise comme étant située en Irlande dans l’espoir d’empêcher la CNIL française de rendre des décisions telle que celle d’aujourd’hui (l’autorité irlandaise étant en sous-effectif et débordée de plaintes, Google peut espérer y faire traîner sa procédure pendant des années). Nous attendons de la CNIL qu’elle ignore cette pirouette éhontée et décide de rester compétente pour prononcer les autres sanctions contre Youtube, Gmail et Google Search, notre plainte ayant été déposée bien avant ce changement unilatéral des conditions d’utilisation imposées par l’entreprise.

En conclusion, même si nous nous réjouissons d’une première sanction sur le fondement de nos plaintes collectives, notamment car la décision d’aujourd’hui vient couper court à la tentative de fuite en Irlande de Google, nous attendons surtout de la CNIL qu’elle prononce très prochainement la suite des décisions auxquelles notre plainte appelle. Ces décisions devront aborder frontalement la question du « consentement libre » et prévoir une sanction d’un montant proportionné à la situation, bien au delà de 50 millions d’euros.

Surtout, un grand merci au 12 000 personnes avec qui nous avons engagé ces plaintes contre les GAFAM et leur monde <3

]]>
La Quadrature du Net a encore besoin de vos donshttps://www.laquadrature.net/?p=12835http://streisand.me.thican.net/laquadrature.net/index.php?20181219_163331_La_Quadrature_du_Net_a_encore_besoin_de_vos_donsWed, 19 Dec 2018 15:33:31 +0000Nous voici à la fin de la campagne de dons annuelle de La Quadrature du Net : cinq semaines que nous avons vécues au rythme des évènements thématiques organisés et des belles rencontres qu’ils nous ont permis de faire.

Nous y avons parlé des sujets qui sont au cœur de nos actions : la lutte contre la censure et la surveillance mais aussi contre l’emprise des GAFAM et de l’économie de l’attention sur nos vies.

Nous avons aussi parlé de ce qui nous guide au jour le jour : la vision d’un Internet libre, neutre et décentralisé, vision partagée par nombre de nos ami·es, à qui nous avons essayé de donner un peu la parole dans cette campagne, à travers diverses vidéos.1Pour voir, revoir ou diffuser autour de vous ces vidéos :
« Soutenons notre Internet »
« Contre la censure, la décentralisation »
« Notre Internet, nos câbles »
« Nos données ne sont pas des marchandises »
« Résistons à la surveillance »

Nous avons enfin beaucoup parlé d’un sujet crucial tant il menace l’Internet que nous aimons : la censure sécuritaire au prétexte de la lutte anti-terroriste.

Si la série d’évènements que nous avons organisés s’est achevée hier avec une inspirante soirée littéraire,2Pour retrouver les captations de plusieurs de ces soirées :
« Quel avenir juridique pour les hébergeurs ? »
« Capitalisme de surveillance »
« Soirée littéraire « le futur d’Internet »
les attaques contre nos libertés fondamentales se multiplient.
La lutte ne s’arrête donc pas là : ce dossier « censure sécuritaire » mais aussi les projets de « smart cities » technopolicières qui fleurissent partout dans le monde, et notamment en France, dessineront ce que seront les combats de La Quadrature du Net pour l’année à venir.

C’est pourquoi La Quadrature du Net a besoin de vous encore une fois. Notre objectif de campagne est loin d’être atteint : nous en sommes aujourd’hui à 45%, et la vie de l’association est assurée jusqu’en juin 2019. Ensuite, c’est flou. Les années précédentes, des événements d’actualité très forts, comme l’état d’urgence contre lequel nous étions très impliqués ou comme notre action collective contre les GAFAM ont relancé les dons en cours d’année, ce qui nous avait permis de boucler le budget. En 2019, nous partons en campagne contre la volonté de la France et de l’Union européenne d’augmenter la censure du Web sous prétexte de lutter contre le terrorisme. L’année sera difficile. Et sans votre aide nous ne pourrons pas mener à bien ce pour quoi nous sommes là : défendre au quotidien les libertés de chacune et chacun !

References   [ + ]

]]>
Reconnaissance faciale au lycée : l’expérimentation avant la généralisationhttps://www.laquadrature.net/?p=12816http://streisand.me.thican.net/laquadrature.net/index.php?20181219_144414_Reconnaissance_faciale_au_lycee____l___experimentation_avant_la_generalisationWed, 19 Dec 2018 13:44:14 +0000Le 14 décembre dernier, le Conseil Régional de PACA a voté une mesure visant à faire installer, à partir de 2019, des dispositifs de reconnaissance faciale à l’entrée de deux lycées de Nice et de Marseille. Dès le mois d’octobre, La Quadrature du Net avait demandé à la CNIL la communication des documents en sa possession sur ce dossier, cette dernière ayant été consultée par la région pour la mise en place de ces dispositifs. L’analyse de ces documents, ainsi que les précisions apportées par Christian Estrosi, confirment l’impuissance de la CNIL à enrayer la banalisation d’une technologie particulièrement liberticide et qui vise ici à s’étendre à l’ensemble des établissements scolaires de la région.

Mise à jour (20 décembre 2018) – nous publions les documents suivants :

  • La réponse de la CNIL à notre demande
  • La lettre de Renaud Muselier présentant le projet à la CNIL
  • L’exposé détaillé du projet par la région
  • La demande de renseignements complémentaires par la CNIL à la région et la réponse de cette dernière

De quoi s’agit-il ? En octobre 2017, Renaud Muselier, président de la région PACA, demande les conseils de la CNIL pour la mise en place dans deux lycées de Nice et de Marseille de dispositifs de « portiques virtuels » associant « des moyens classiques d’identification (…) à un dispositif biométrique utilisant des technologies de comparaison faciale, seuls à même d’après nos premières investigations, d’apporter une solution fiable et rapide dans un contexte de contrôle d’accès portant sur un nombre potentiellement élevé de personnes ». Cette nouvelle étape est la suite logique de sa politique sécuritaire ayant conduit, entre 2016 et 2017, à ce que plus de 1 300 caméras de vidéosurveillance soient installées dans l’ensemble des lycées de la région. La technologisation à outrance est également présentée par la région comme une réponse au contexte d’austérité budgétaire :

Ce dispositif constitue une réponse au différentiel croissant constaté entre les exigences de sécurisation des entrées dans les établissements et les moyens humains disponibles dans les lycées, dans le cadre des plans successifs de réduction des effectifs dans la fonction publique.

La région PACA présente ainsi à la CNIL son projet visant à « sanctuariser » les entrées et les sorties dans les établissements secondaires. Il s’agit non seulement de reconnaissance faciale mais également d’un dispositif de « suivi de trajectoire » de certains des visiteurs : un logiciel installé couplé à une caméra permet de détecter des points de comparaison faciale déterminés par un algorithme et de le comparer avec ceux stockés dans une base de données. Un écran mis à la disposition des agents de contrôle permet alors de visualiser trois types de profils : « vert » pour les personnes autorisées à pénétrer dans l’enceinte du lycée, « jaune » pour les personnes non identifiées et invitées à se présenter à l’accueil et « rouge » pour les personnes non identifiées et qui ne se sont pas dirigées dès leur entrée vers l’accueil.

Il est par ailleurs précisé qu’il s’agit pour l’instant d’une « expérimentation limitée dans le temps » et fondée sur le consentement explicite de volontaires au sein des établissements visés.

La CNIL impuissante face au développement de la reconnaissance faciale

Alors qu’elle avait appelé en septembre 2018 à un débat urgent sur ces nouveaux usages des caméras vidéo et qu’elle souligne elle-même les risques considérables d’atteinte aux libertés individuelles que cette technologie entraîne, la CNIL n’a opéré ici qu’un suivi très souple – voire accommodant – du projet.

Soulignons d’abord que, depuis l’entrée en vigueur du RGPD en mai 2018, les responsables de traitement de données personnelles n’ont en principe plus à réaliser de formalités auprès de la CNIL avant la mise en œuvre du traitement, tel qu’obtenir son autorisation dans certains cas. Le contrôle de l’autorité ne se fait qu’a posteriori, conformément au principe de responsabilisation des acteurs prévu dans le règlement. Tout au plus certains traitements, et c’est le cas pour la reconnaissance faciale, doivent-ils faire l’objet d’une analyse d’impact. Le consentement des utilisateurs est désormais censé fournir une base légale suffisante pour le déploiement de ces systèmes qui font pourtant entrer la surveillance dans une nouvelle ère. En supprimant le pouvoir d’autorisation de la CNIL s’agissant de ce type de dispositifs, le RGPD marque donc un recul pour les libertés.

Selon les documents qui nous ont été communiqués, la CNIL s’est donc contentée de demander des précisions complémentaires à la Région sur le dispositif envisagé et, sur certains points, de fournir des recommandations. C’est d’ailleurs suite à l’une de ces recommandations que la Région a décidé que le stockage des données biométriques ne se ferait pas sur une base de données mais sur un support individuel, sous le contrôle exclusif de la personne (en l’espèce, un badge) (comme c’est le cas pour ce qui existe déjà dans plusieurs aéroports où la photographie n’est stockée que dans le microprocesseur du passeport biométrique).

Ainsi, et contrairement à ce qui a été annoncé par une partie de la presse et par Christian Estrosi lui-même, la CNIL n’a pas donné son « feu vert » à ce dispositif mais a simplement accompagné la région dans sa mise en place.

Pourtant, en laissant se développer ce type de technologies à des buts sécuritaires, sans qu’il ne soit apporté à un seul moment la preuve de la pertinence d’un tel dispositif par rapport au système existant,1Il est ainsi seulement précisé dans les documents produits par la région, et cela sans aucune preuve ou réelle analyse, que « les nombreux incidents et agressions constatés aussi bien dans l’enceinte du lycée qu’à ses abords, ainsi que le contexte sécuritaire existant depuis les attentats terroristes de 2016, conduisent également à tenter de limiter les temps d’attente et les attroupements à l’extérieur des établissements aux moments de forte affluence (rentrées matinales notamment) » ou que « ce dispositif constitue une réponse au différentiel croissant constaté entre les exigences de sécurisation des entrées dans les établissements et les moyens humains disponibles dans les lycées, dans le cadre des plans successifs de réduction des effectifs de la fonction publique. Il apporte une assistance aux personnels du lycée, qui peuvent ainsi mieux se concentrer sur les cas nécessitant une intervention humaine, et reporter leur vigilance sur les multiples situations menaçant la sécurité, en augmentant la présence humaine dans les lieux de vie de l’établissement. » sans même une réelle réflexion sur la nature du consentement que peuvent donner des mineurs à l’égard d’une expérimentation au sein de leur lycée,2Le courrier de la région précise à ce titre que « Les personnes volontaires (ou leur représentant légal pour les mineurs) doivent signer préalablement un formulaire de recueil de consentement expliquant la finalité de l’expérimentation, la durée de conservation des donnée ainsi que la manière d’exercer les droits Informatique et Libertés » la CNIL participe à la banalisation de ces technologies. Elle devient l’alibi au développement d’une surveillance généralisée qui sera au cœur des « Safe City » qui commencent à essaimer sur le territoire.

Un dispositif qui a vocation à s’étendre à toute la région

Car, sous le qualificatif faussement tranquillisant d’ « expérimentation » mis en exergue par Renaud Muselier et Christian Estrosi, ces derniers souhaitent en réalité, comme ils l’ont eux-mêmes énoncé lors de l’assemblée plénière du Conseil Régional, étendre ce dispositif de reconnaissance faciale à l’ensemble des lycées de la région :

Avec ces deux expériences, une fois que nous l’aurons démontré, nous irons très vite sur la généralisation, à partir du réseau de vidéosurveillance déjà existant, sur lequel il ne nous restera plus qu’à mettre le logiciel qui correspond à l’usage de la reconnaissance faciale par rapport aux caméras déjà installées dans nos établissements scolaires.

L’expérimentation des lycées de Nice et de Marseille s’inscrit donc en réalité parfaitement dans les divers projets que La Quadrature du Net dénonce depuis près d’un an, et qui sont d’ailleurs particulièrement avancés dans ces deux villes : « Observatoire Big Data de la tranquillité publique » à Marseille, « Safe City » à Nice… Cette actualité apparaît alors comme une nouvelle briqueau développement, toujours plus rapide et incontrôlable, de ces nouvelles technologies de surveillance (« Big Data », caméras « intelligentes », reconnaissance faciale…) au profit des municipalités et de leurs polices.

Un tel projet profitera par ailleurs pleinement à son maître d’œuvre, la société CISCO, qui finance entièrement cette expérimentation et qui s’occupera « dans un premier temps » de former les professeurs des lycées à ces nouvelles technologies. Cisco, acteur américain central de la « Safe City », et avec qui le gouvernement français avait déjà signé un partenariat important pour mener un projet de « Smart City » dans une ville française, se positionne dans un marché en plein essor. Il pourra pleinement tirer parti de cette occasion que lui donne la région de tester ses nouvelles technologies de surveillance dans nos établissements scolaires pour mieux la revendre plus tard, dans le cadre de marchés publics à vocation sécuritaire.

Alors qu’il y a plus d’un mois, nous appelions déjà la CNIL à imposer un moratoire sur le développement de ces technologies, cette dernière semble s’en tenir à une posture attentiste. Nous appelons les syndicats de lycéens et d’enseignants ainsi que les parents d’élèves et toutes celles et ceux révulsés par ces évolutions à s’organiser pour les tenir en échec.

References   [ + ]

1. Il est ainsi seulement précisé dans les documents produits par la région, et cela sans aucune preuve ou réelle analyse, que « les nombreux incidents et agressions constatés aussi bien dans l’enceinte du lycée qu’à ses abords, ainsi que le contexte sécuritaire existant depuis les attentats terroristes de 2016, conduisent également à tenter de limiter les temps d’attente et les attroupements à l’extérieur des établissements aux moments de forte affluence (rentrées matinales notamment) » ou que « ce dispositif constitue une réponse au différentiel croissant constaté entre les exigences de sécurisation des entrées dans les établissements et les moyens humains disponibles dans les lycées, dans le cadre des plans successifs de réduction des effectifs de la fonction publique. Il apporte une assistance aux personnels du lycée, qui peuvent ainsi mieux se concentrer sur les cas nécessitant une intervention humaine, et reporter leur vigilance sur les multiples situations menaçant la sécurité, en augmentant la présence humaine dans les lieux de vie de l’établissement. »
2. Le courrier de la région précise à ce titre que « Les personnes volontaires (ou leur représentant légal pour les mineurs) doivent signer préalablement un formulaire de recueil de consentement expliquant la finalité de l’expérimentation, la durée de conservation des donnée ainsi que la manière d’exercer les droits Informatique et Libertés »
]]> Résumé de nos arguments contre la surveillance française devant les juges européenshttps://www.laquadrature.net/?p=12738http://streisand.me.thican.net/laquadrature.net/index.php?20181213_140532_Resume_de_nos_arguments_contre_la_surveillance_fran__aise_devant_les_juges_europeensThu, 13 Dec 2018 13:05:32 +0000La semaine dernière, nous avons déposé devant la Cour de justice de l’Union européenne nos dossiers contre le régime de surveillance français. Cet événement marque l’aboutissement de trois années d’analyses, de débats et de rédaction menés par La Quadrature du Net, FFDN et FDN, principalement au travers des Exégètes amateurs (un groupe de bénévoles qui, depuis quelques mois, ont intégré ces différentes associations pour y poursuivre leurs activités).

Depuis quatre ans que nous menons ce genre d’action, ce dossier contentieux est clairement celui qui aura mobilisé le plus d’énergie de notre part. Dans l’attente de la plaidoirie qui se tiendra dans plusieurs mois, et d’une décision qui pourrait bouleverser le droit français l’année prochaine ou la suivante, faisons le bilan de nos arguments.

En juillet dernier, nous vous faisions le récit de nos trois années de procédure devant les juges français. Depuis, tel que nous l’espérions, le Conseil d’État a accepté de poser à la Cour de justice de l’Union européenne cinq questions portant sur la conformité du régime français de surveillance au regard du droit de l’Union européenne (ces cinq questions ont été transmises par deux décisions rendues le 26 juillet 2018, une première portant sur la loi renseignement et une seconde sur la conservation généralisée des données de connexion).

Pour aider la CJUE à répondre à ces cinq questions, nous avons préparé deux dossiers avec FFDN et igwan.net. Il y a 15 jours, nous vous invitions à venir les relire pour les améliorer. Vous avez été des dizaines à le faire, rendant nos écritures plus claires et plus précises. Nous vous en remercions infiniment. Sincèrement !

Vous pouvez lire ces deux dossiers, ici (PDF, 20 pages) et ici (PDF, 17 pages). Ils ne sont pas très longs, mais leur prose reste assez technique. Nous en faisons donc ici un résumé que nous espérons plus accessible.

Contre la loi renseignement

Notre premier dossier, déposé par La Quadrature du Net, souhaite démontrer que la loi renseignement, adoptée en 2015, est largement contraire au droit de l’Union européenne et devrait donc être drastiquement modifiée pour ne plus permettre les abus qu’elle permet aujourd’hui.

Avant de rentrer dans le détail de nos arguments, rappelons brièvement ce à quoi nous nous attaquons.

Concrètement, la loi renseignement (codifiée au livre VIII du code de la sécurité intérieure) permet aux services de renseignement de réaliser les mesures suivantes :

  • intercepter des communications électroniques (téléphones, mails, etc.) ;
  • collecter des données de connexion (adresse IP, date et heure de communication, etc.) et de localisation auprès des opérateurs de télécommunication et des hébergeurs Web ;
  • exiger des opérateurs de leur transmettre en temps réel des données de localisation ;
  • dévoyer un réseau pour intercepter des données de connexion, typiquement à l’aide de dispositifs de type « IMSI-catcher » ;
  • pirater un terminal informatique (à distance ou en s’immisçant dans un lieu privé) pour accéder aux données qui y sont entrées, affichées ou enregistrées ;
  • capter des images et des conversations privées, à distance ou en posant micros et caméras dans des lieux privés ;
  • poser des dispositifs (type « sondes ») permettant de suivre la localisation de personnes et d’objets, notamment en entrant dans des lieux privés ;
  • intercepter sur un réseau l’ensemble des « communications internationales » – dont l’émetteur et/ou le récepteur est situé en dehors du territoire français.

Toutes ces mesures peuvent être réalisées sur simple autorisation du Premier ministre, sans autorisation préalable d’un juge ou d’une autorité indépendante. Pour être autorisées, il suffit qu’elles soient utiles à la défense de l’un des très nombreux « intérêts fondamentaux de la Nation » dont la loi dresse la liste (et qui ne se résument pas du tout à la seule lutte contre le terrorisme) – nous y reviendrons plus tard. De plus, ces mesures peuvent être prises contre n’importe quelle personne (suspectée ou non) du moment que sa surveillance est susceptible de révéler des informations utiles pour défendre ces « intérêts fondamentaux ».

Enfin, et cette fois-ci pour la seule finalité de lutte contre le terrorisme, l’administration peut aussi recueillir en temps réel des données de connexion et placer sur les réseaux des dispositifs (les fameuses « boites noires », détaillées ci-dessous) interceptant et traitant automatiquement les données acheminées afin de « détecter des connexions susceptibles de révéler une menace terroriste ».

Voilà pour ce que nous attaquons.

Quant à nos arguments, pour aller au plus simple, nous les résumerons à 5 idées : les « intérêts fondamentaux » pouvant justifier une mesure sont trop larges (1) ; les données collectées sont excessives comparées aux objectifs poursuivis (2) ; la loi n’encadre que la collecte des données, mais pas leur utilisation (3) ; les mesures de renseignement ne sont pas soumises à un contrôle indépendant efficace (4) ; nous ne pouvons pas vraiment agir en justice pour contester une mesure illicite (5).

1. Des « intérêt fondamentaux » trop larges

Les services de renseignement peuvent réaliser les mesures listées ci-dessus pour de nombreux « intérêts fondamentaux », que la loi définit comme comprenant la lutte contre le terrorisme mais aussi :
– la défense des « intérêts majeurs de la politique étrangère », ces intérêts étant discrétionnairement définis par le Gouvernement ;
– « l’exécution des engagement européens et internationaux de la France », notamment l’application des normes de l’Union européenne sur l’agriculture, la pêche, les transports, l’emploi, la culture ou le tourisme ainsi que les accords internationaux tels que l’accord de Paris de 2015 sur le climat ou la Convention de Genève de 1931 sur le droit de timbre en matière de chèque (pourquoi pas, après tout !) ;
– la défense des « intérêts économiques, industriels et scientifiques de la France », qui permet l’espionnage industriel et scientifique ;
– la prévention des « violences collectives de nature à porter gravement atteinte à la paix publique », couvrant notamment la lutte contre les manifestations, même non violentes, n’ayant pas été déclarées ou ayant fait l’objet d’une déclaration incomplète ;
– « la prévention de la criminalité et de la délinquance organisée », notamment la lutte contre l’acquisition illicite de stupéfiants, même par un individu seul qui n’agit pas en groupe.

Surveiller la population pour ces finalités est contraire au droit de l’Union européenne. D’abord, le contour de certaines de ces finalités peut être arbitrairement défini par le gouvernement (politique étrangère, engagements internationaux, intérêts économiques…), sans limite prévue dans la loi. De plus, le gouvernement se permet de surveiller la population pour des infractions mineures (par exemple des manifestations non déclarées ou achat à titre individuel de stupéfiants) alors que le droit de l’Union prévoit que, en matière de lutte contre les infractions, la surveillance n’est autorisée que pour lutter contre des crimes graves.

2. Des données excessives

Le droit de l’Union pose comme principe que seules les personnes présentant un lien avec une menace peuvent être surveillées. De plus, il interdit radicalement toute forme de surveillance de masse.

En droit français, comme vu plus haut, la règle est de surveiller n’importe qui pouvant fournir des informations utiles, peu importe que les personnes soient ou non en lien avec une menace. Surtout, la loi renseignement a autorisé deux mesures de surveillance de masse.

Premièrement, les services peuvent intercepter l’ensemble des « communications internationales » – il s’agit de communications dont l’émetteur et/ou le récepteur est situé en dehors du territoire français. Une fois les communications interceptées, toutes les données de connexion y afférentes (qui parle à qui, quand, etc.) peuvent être analysées au moyen de « traitements automatisés », et cela de façon « non individualisée » (donc en masse). De plus, le Premier ministre peut aussi autoriser l’analyse du contenu des communications internationales pour les « zones géographiques » ou les « groupes de personnes » qu’il désigne. Rien ne l’empêche de désigner un ou plusieurs pays comme « zones géographiques » ciblées.

Secondement, les « boites noires » peuvent intercepter et analyser des données (dont certaines sont particulièrement intimes – telle que l’adresse des sites visités) sur l’ensemble des populations utilisant les réseaux de télécommunication où elles sont déployées. Par exemple, rien n’empêche techniquement que le gouvernement pose des boites noires en divers points du réseau d’une grande ville pour analyser automatiquement qui parle avec qui, quand, qui consulte quoi, etc. Le but de ces dispositifs est de « détecter des connexions susceptibles de révéler une menace terroriste » : il s’agit donc d’une surveillance « exploratoire » qui, par nature, vise des personnes sur qui ne pèse aucun soupçon (le but étant de révéler des soupçons). Ces dispositifs sont couramment appelés « boites noires » car ce sont des machines fonctionnant de façon autonome, selon des critères et des méthodes informatiques gardées secrètes.

3. Des renseignements en libre-service

Le droit de l’Union européenne n’encadre pas que la collecte des données. Il exige aussi que l’utilisation ultérieure des données ne puisse être réalisée que pour des finalités légitimes, de façon proportionnée et selon une procédure adaptée.

En France, la loi renseignement ne s’est pas encombrée de telles règles, qui sont donc entièrement absentes, tout simplement ! Une fois que les renseignements ont été mis en fiches et en dossiers, plus aucune règle n’encadre leur utilisation. Ces informations peuvent même être transmises librement à des puissances étrangères qui, elles même, peuvent fournir à la France d’autres renseignements, sans aucune limite ou procédure prévues par la loi.

4. Un contrôle indépendant sans effet

La loi renseignement a prétendu confier à la Commission nationale de contrôle des techniques de renseignement (CNCTR) le soin de veiller à ce que les services de renseignement respectent la loi – ce que le droit de l’Union exige.

Pourtant, dès qu’on regarde un peu en détail, la CNCTR manque de tout pouvoir pour nous protéger effectivement contre des abus politiques. Elle n’est jamais que « avertie » pour pouvoir émettre des « avis non contraignants » sur les mesures prises contre la population. Si ses avis ne sont pas suivis – le gouvernement étant parfaitement libre de passer outre -, la CNCTR peut seulement saisir le Conseil d’État qui, plusieurs semaines ou plusieurs mois après qu’une personne ait été surveillée illégalement, pourra ordonner que la surveillance prenne fin – trop tard, donc.

De plus, symbole parfait de son manque de pouvoir, la CNCTR n’est pas autorisée à accéder aux renseignements fournis à la France par des puissances étrangères. Le gouvernement peut ainsi organiser tous les échanges imaginables avec ses alliés (du type « je surveille ton pays et tu surveilles le mien ») pour échapper à tout semblant de contrôle indépendant.

5. Une défense impossible

Le droit de l’Union prévoit que, pour pouvoir se défendre en justice contre une surveillance illégale, les personnes soient au moins prévenues des mesures qu’elles ont subies lorsque cela ne peut plus nuire aux enquêtes. Encore une fois, le droit français nous refuse parfaitement ce droit, pourtant indispensable au droit fondamental de contester en justice les actes du gouvernement pris contre nous.

Ce droit fondamental exige aussi, toujours d’après le droit de l’Union, que nous disposions des informations nécessaires pour contester la légalité d’une surveillance (pour quel motif avons-nous été surveillé, quand, pendant combien de temps, comment ?). Là, le gouvernement français a les pleins pouvoir pour classer les informations de son choix comme étant « secret-défense », nous empêcher d’y accéder pour nous défendre, et ce sans que le juge ne puisse les déclassifier – ce qui viole encore le droit de l’Union.

Enfin, et c’est sans doute la pire des atteintes à nos droits, nous ne disposons tout simplement d’aucune possibilité de contester en justice la légalité des mesures de surveillance internationale (la surveillance de masse des communications émises vers ou reçues depuis l’étranger).

Bref, sans pouvoir prédire lesquels de nos arguments seront retenus par la Cour de justice de l’Union européenne, il nous semblerait aberrant que des parties importantes de la loi renseignement ne soient pas déclarées comme violant le droit européen.

Contre la conservation généralisée des données de connexion

Notre second dossier (moins dense juridiquement), a été déposé par FFDN et igwan.net, représentant chacun des fournisseurs d’accès à Internet soumis à l’obligation de conserver pendant un an les données de connexion de l’ensemble de la population. Cette obligation s’impose aussi aux opérateurs téléphoniques et aux hébergeurs Web (pour savoir qui a publié quel contenu en ligne, à quelle heure, etc.).

L’argumentation juridique est ici plus simple : le régime français de conservation est frontalement contraire aux exigences européennes qui, tel que précisé par la Cour de justice depuis 2014, interdisent clairement aux États membre d’imposer aux acteurs du numérique de conserver des données de connexion sur l’ensemble de leurs utilisateurs, quelque soit la durée de cette conservation. D’autres États (Suède et Royaume-Uni) ont déjà été explicitement dénoncés par la Cour de justice comme ne respectant par le droit de l’Union sur ce point, en 2016. Mais la France et le Conseil d’État ont cru utile de reposer la question…

Leur argument principal est que la menace terroriste (qui justifierait la conservation généralisée des données de connexion) aurait augmenté depuis 2016. Sauf que, entre la période de 2015-2016 et celle de 2017-2018, le nombre de victimes du terrorisme en Europe a presque été divisé par quatre. De plus, les usages du numérique, ainsi que la loi, ont largement évolués, rendant encore moins utile l’obligation de conserver des données pendant un an.

Si la France veux amadouer la Cour de justice de l’UE afin que ses pouvoirs de surveillance soient épargnés, elle aurait mieux fait de commencer par réformer son droit qui, depuis quatre ans, viole frontalement celui de l’Union européenne.

Ce combat est celui qu’a initié la formation des Exégètes amateurs. Il a aussi marqué le début des actions de La Quadrature du Net devant les juges. Nous espérons connaître le même succès que celui obtenu par nos amis Digital Rights Ireland et Maximilian Schrems qui ont respectivement obtenu en 2014 et 2015 des décisions fondamentales de la Cour de justice de l’Union européenne en faveur de nos libertés et contre la surveillance de masse.

]]>
[EN DIRECT] ! Soirée littéraire Sciences Fiction, Parishttps://www.laquadrature.net/?p=12106http://streisand.me.thican.net/laquadrature.net/index.php?20181212_190044__EN_DIRECT_____Soiree_litteraire_Sciences_Fiction__ParisWed, 12 Dec 2018 18:00:44 +0000Suivez en direct La soirée littéraire sur la Sciences Fiction, à la maison du libre et des communs, rue St Denis, Paris



Si vous n’avez pas de navigateur compatible HTML5, vous pouvez aussi voir directement le flux live en faisant pointer votre player habituel (tel VLC ou MPlayer) à l’adresse suivante :

https://radio.octopuce.fr/ts1/stream.m3u8

]]>
Le Parlement européen appelle à la censure automatisée et privatisée du Web à des fins sécuritaireshttps://www.laquadrature.net/?p=12721http://streisand.me.thican.net/laquadrature.net/index.php?20181212_170418_Le_Parlement_europeen_appelle_a_la_censure_automatisee_et_privatisee_du_Web_a_des_fins_securitairesWed, 12 Dec 2018 16:04:18 +0000Comme nous le redoutions lundi dernier, le Parlement européen vient d’adopter un rapport proposant, au prétexte de la lutte contre le terrorisme, de déléguer la censure du Web européen à Facebook et Google.

Pour rappel, ce rapport indique, parmi de nombreuses recommandations, qu’il serait nécessaire « de parvenir à la détection automatique et à la suppression systématique, rapide, permanente et complète des contenus terroristes en ligne » et d’empêcher « le rechargement de contenus déjà supprimés ». Le texte précise à ce titre qu’il se « félicite de la proposition législative de la Commission visant à empêcher la diffusion de contenus terroristes en ligne », « invite les co-législateurs à engager rapidement les travaux sur cette proposition » et « invite les États membres à mettre en place des mesures nationales si l’adoption de la législation en la matière est retardée » (§ 47).

Trois amendements auraient permis au Parlement européen de se démarquer de la volonté d’Emmanuel Macron et de la Commission européenne de soumettre l’ensemble du Web aux outils de censure automatisée développés par Google et Facebook, tel que nous le dénoncions avec 58 autres organisations.

Un premier amendement proposait que la censure des « contenus terroristes » ne se fasse pas de façon « automatique » ; cet amendement a été rejeté à 311 voix contre 269 (77 abstentions). Un deuxième amendement proposait que cette censure n’implique pas une activité de « détection » active des contenus, ni une suppression « systématique et rapide » ; il a été rejeté à 533 voix contre 119 (4 abstentions). Un troisième amendement proposait de ne pas imposer aux plateformes une obligation de « supprimer complètement » les contenus ; il a été rejeté à 534 voix contre 105 (14 abstentions).

La majorité des députés européens rejoint donc la volonté exprimée la semaine dernière par les gouvernements européens d’imposer une censure généralisée, privée et automatisée de l’Internet (lire notre article).

Le rapport adopté aujourd’hui ne prévoit que de simples « recommandations » : ce n’est qu’une sorte de déclaration de principe sans effet juridique. Toutefois, il laisse craindre que le Parlement ait déjà abandonné toute ambition de défendre nos libertés face aux arguments sécuritaires qui ont motivé la Commission européenne à proposer son règlement de censure anti-terroriste, que le Parlement européen examinera dans les semaines à venir.

Le vote d’aujourd’hui est d’autant plus inquiétant qu’il intervient à la suite d’une fusillade survenue hier à Strasbourg, dans la ville où siégeait le Parlement. Plutôt que de reporter ce vote1Nathalie Griesbeck (ALDE), présidente de la commission TERR, a expliqué avoir envisagé de reporter le vote suite à l’attaque d’hier mais avoir finalement considéré que cette occasion justifiait l’adoption du texte., les députés ont préféré adopter immédiatement le texte. Certains ont même évoqué l’attaque d’hier pour justifier leur volonté sécuritaire2Parmi les députés ayant fait un lien entre l’attaque d’hier à Strasbourg et le rapport adopté aujourd’hui, nous pouvons citer : Monika Hohlmeier (EPP), co-rapporteure sur le texte, qui a déclaré après le vote : « Yesterday’s attack on the Christmas market in Strasbourg was an attack on European citizens and the common EU values and principles in the worst possible way. The incident has shown us again that we need to leave empty slogans and unrealistic measures behind and concentrate our activities on what really makes Europe safe. […] This means […] more prevention measures against radicalisation […] ». Frédérique Ries (ALDE), sur Twitter : « C’est un Parlement bouleversé par l’attaque du marché de Noël #strasbourg d’hier soir qui adopte les recommendations de la commission spéciale sur le #terrorisme. Du choc aux votes, l’UE doit se protéger contre cette haine si destructrice. », « Renforcement d’Europol, des mesures concrètes pour la lutte contre la #radicalisation et l’apologie du terrorisme, un système européen de surveillance de financement du #terrorisme figurent parmi les recommendations phares de ce rapport ». De son côté, Julian King, commissaire européen à la Sécurité de l’Union, commentait sur Twitter : « Solidarity this morning with all those affected by the odious attack in #Strasbourg. The work we’re doing to support the authorities to tackle radicalisation, help victims and reinforce security is as relevant as ever. », invoquant un « risque de terrorisme islamiste » alors que l’auteur des violences n’a pas encore été arrêté et que l’enquête en est à peine à ses débuts.

Comme d’habitude, malheureusement, le temps de l’apaisement et de la réflexion, et même du deuil, a été écarté pour avancer à marche forcée sur les voies sécuritaires et destructrices que nos dirigeants poursuivent depuis des années en prétendant défendre la démocratie contre le totalitarisme. Tout en faisant l’inverse.

Désormais, les débats au Parlement européen concerneront directement le règlement de censure antiterroriste. Vous pouvez lire notre dernière analyse plus complète sur ce texte, qui sera notre dossier principal dans les mois à venir.

References   [ + ]

1. Nathalie Griesbeck (ALDE), présidente de la commission TERR, a expliqué avoir envisagé de reporter le vote suite à l’attaque d’hier mais avoir finalement considéré que cette occasion justifiait l’adoption du texte.
2. Parmi les députés ayant fait un lien entre l’attaque d’hier à Strasbourg et le rapport adopté aujourd’hui, nous pouvons citer : Monika Hohlmeier (EPP), co-rapporteure sur le texte, qui a déclaré après le vote : « Yesterday’s attack on the Christmas market in Strasbourg was an attack on European citizens and the common EU values and principles in the worst possible way. The incident has shown us again that we need to leave empty slogans and unrealistic measures behind and concentrate our activities on what really makes Europe safe. […] This means […] more prevention measures against radicalisation […] ». Frédérique Ries (ALDE), sur Twitter : « C’est un Parlement bouleversé par l’attaque du marché de Noël #strasbourg d’hier soir qui adopte les recommendations de la commission spéciale sur le #terrorisme. Du choc aux votes, l’UE doit se protéger contre cette haine si destructrice. », « Renforcement d’Europol, des mesures concrètes pour la lutte contre la #radicalisation et l’apologie du terrorisme, un système européen de surveillance de financement du #terrorisme figurent parmi les recommendations phares de ce rapport ». De son côté, Julian King, commissaire européen à la Sécurité de l’Union, commentait sur Twitter : « Solidarity this morning with all those affected by the odious attack in #Strasbourg. The work we’re doing to support the authorities to tackle radicalisation, help victims and reinforce security is as relevant as ever. »
]]>
Le Parlement européen s’opposera-t-il à la censure sécuritaire ?https://www.laquadrature.net/?p=12709http://streisand.me.thican.net/laquadrature.net/index.php?20181210_152601_Le_Parlement_europeen_s___opposera-t-il_a_la_censure_securitaire___Mon, 10 Dec 2018 14:26:01 +0000Le 12 décembre, le Parlement européen votera le « rapport sur les observations et les recommandations de la commission spéciale sur le terrorisme ». S’il est adopté, ce texte, sans avoir l’effet d’une loi, recommandera l’adoption de mesures prévues dans le règlement de censure antiterroriste : la sous-traitance de la censure aux géants de l’Internet et le contournement des juges nationaux (lire notre dernière analyse).

La Quadrature du Net envoie aux députés du Parlement européen le message suivant, leur demandant de voter le rejet de ce rapport :

Chers députés du Parlement européen,

Le mercredi 12 décembre prochain, vous voterez le « rapport sur les observations et les recommandations de la commission spéciale sur le terrorisme ».

Ces recommandations prônent des mesures sécuritaires absurdes qui porteraient atteinte aux libertés fondamentales. De manière plus précise, ce rapport prône l’adoption des mêmes mesures que celles prévues dans le règlement de censure antiterroriste, qui sera débattu dans quelques semaines au Parlement : la remise en cause du chiffrement de bout en bout, la délégation de la censure aux géants de l’Internet et le pouvoir donné aux polices européennes de contourner les juges nationaux (points BD, BH, 47, 113 et 125). Pour l’ensemble de ces raisons, nous vous demandons de voter le rejet de ce rapport.

Utilisant le prétexte de la lutte contre la radicalisation en ligne, ces mesures suggérées par le rapport et inscrites dans le règlement de censure antiterroriste imposeront de nouvelles obligations à l’ensemble des acteurs de l’Internet : hébergeurs de site, de blog et de vidéo, forum et réseaux sociaux, sites de presse, fournisseurs de mail et de messagerie, etc.

Alors que la Commission européenne et les gouvernements européens ne démontrent de façon étayée ni l’efficacité ni la nécessité de ces obligations pour lutter contre le terrorisme, vous souhaitez imposer aux acteurs d’Internet d’agir sur des contenus dont la dangerosité n’aura été évaluée par aucun juge et ce dans des délais extrêmement courts.

Ces obligations sont porteuses de graves dangers pour l’ensemble de l’écosystème numérique européen. En effet, les moyens économiques, humains et techniques requis pour exécuter les obligations envisagées sont tout simplement hors de portée de la quasi-totalité des acteurs : très peu sont ceux qui seront en mesure de répondre 24h/24h, 7j/7 et en moins d’une heure aux demandes de retrait de contenu provenant de n’importe quelle autorité d’un État membre de l’Union. De la même manière, les mesures de surveillance et de censure automatisées que les autorités nationales pourraient imposer en vertu du texte seront totalement impraticables.

Ainsi, pour se plier à ces nouvelles contraintes, les acteurs économiques de petites et moyennes tailles ne pourront que sous-traiter l’exécution des demandes de retrait et la censure automatisée aux quelques grandes entreprises qui, en raison de leur puissance financière, seront capables de les prendre en charge, Google et Facebook en tête, cette sous-traitance étant porteuse d’une dépendance économique et technique gravement préjudiciable à l’économie numérique européenne.

Quant aux acteurs associatifs et collaboratifs à but non lucratif, ils n’auront d’autres choix que de cesser leurs activités.

Ce règlement appauvrira donc radicalement la diversité numérique européenne et soumettra ce qu’il en reste à une poignée d’entreprises qui sont déjà en situation de quasi-monopole et dont il faudrait au contraire remettre en cause l’hégémonie (lire notre dernière analyse).

Enfin, ce règlement conduirait à une surveillance généralisée de nos échanges en ligne et une censure privée et automatisée de l’information.

Pour l’ensemble de ces raisons, La Quadrature du Net, avec 58 autres acteurs de cet écosystème et défenseurs des libertés fondamentales, avons déjà demandé à Emmanuel Macron de renoncer à son projet de règlement de censure antiterroriste.

Nous vous demandons donc de rejeter ce rapport pour mettre dès maintenant un frein à cette volonté absurde de déléguer la censure de l’Internet aux géants du Web et de permettre à toutes les polices de l’Union européenne de contourner les juges nationaux.

Les parlementaires qui refuseront de protéger les libertés fondamentales et l’écosystème numérique européen seront affichés publiquement.

]]> Not Safe For (sex)Workhttps://www.laquadrature.net/?p=12592http://streisand.me.thican.net/laquadrature.net/index.php?20181210_133207_Not_Safe_For__sex_WorkMon, 10 Dec 2018 12:32:07 +0000Tribune de okhin

Les dirigeants de Tumblr ont publié le 3 Décembre 2018 un communiqué de presse annonçant une mise à jour de leurs conditions générales d’utilisation, signifiant qu’ils retirent tout contenu classifié comme adulte. Ils justifient leur décision par la décision unilatérale et sans appel d’Apple de supprimer l’application de leur AppStore. Décision motivée par le fait que Tumblr n’ait pas réussi à détecter des images de pédopornographie, en dépit des filtres automatisés déjà existant.

J’ai voulu rédiger quelque chose de construit, essayant de donner le contexte dans lequel cette suppression de contenu s’opère, hors de tout cadre légal (autre que celui des conditions générales d’utilisation d’Apple). J’ai voulu essayer de donner des arguments, de faire les liens entre sexualité, pornographie et identité de genre, mais au final ce n’est pas ce qui est important. Et énormément de monde — y compris sur Tumblr — a déjà écrit à ce sujet, et bien mieux que je ne pourrais le faire ici. Je vous invite d’ailleurs à aller lire ce que les premières concernées en disent comme, par exemple, cette Lettre d’amour à Tumblr écrite par Vex ou ce coup de gueule par Romy Alizée.

Voilà Tumblr qui supprime le contenu qui a fait son intérêt, sa spécificité, détruisant le travail fait par de nombreuses personnes minorisées, que ce soit par racisme, homophobie, misogynie, transphobie et/ou un mélange de tout cela. Ce travail permet à ces communautés d’exister, de vivre, de s’éduquer et d’échanger dans un cadre dans lequel elles ne sont pas mises en danger (notamment grâce au pseudonymat et au multi compte). Il permet aussi à de nombreuses personnes de travailler, qu’il s’agisse d’acteurs ou d’actrices cherchant à faire ce qu’elles ont envie hors des gros studios de porno hétéronormés, d’escort ou d’autres formes de travail sexuel. Il permet enfin de parler de sexualité, de permettre aux personnes en questionnement de se poser ces questions, d’essayer de comprendre comment se positionner dans ce monde, d’explorer leur corps, leur sexualité ou de poser des questions pratiques. Ou juste de se faire des amies qui partagent un bout de leurs galères quotidiennes… face à tout ce que Tumblr s’apprête à détruire, je me suis naïvement dit que cela ferait réagir, que le débat irait plus loin que la seule question du porno.

Mais la plupart des sites d’informations, quand ils en parlent, ne parlent pas de sexualité. Ou de travail sexuel. Le porno y est indiqué comme étant scanné pour lutter contre la pédopornographie. Reprenant donc les arguments de Christine Albanel en 2005, lors des débats HADOPI, ou ceux des associations familiales catholiques voulant défendre et protéger les enfants du grand méchant pornographe, celui-ci étant de toutes façons lié au puissant lobby LGBT d’après elles.
Pas de remise en contexte. Pas de liens effectués avec des actions similaires menées par Alphabet, Patreon, Kickstarter ou la plupart des plateformes de financement participatif qui, sous couvert de lutter contre la pornographie, empêchent des actrices de financer des soins dont elles ont besoin et qui n’ont aucun rapport avec leur travail, les mettant ainsi délibérément en danger.

Et quand, avec La Quadrature, on essaye de dire que l’on ne peut pas traiter les plateformes géantes telles que Tumblr de la même manière que les initiatives libres et distribuées, parce qu’elles effectuent de fait une sélection éditoriale et suppriment de l’espace public toute forme d’expression ne correspondant pas à leurs cibles commerciales ou à leur vision puritaine du monde — les deux étant apparemment compatibles, nous ne sommes pas à un paradoxe près — on nous dit que l’on veut abandonner les utilisateur·rice·s de ces plateformes.

Pourtant ce sont ces plateformes qui, non seulement invisibilisent et suppriment de l’espace public ces utilisateur·rice·s que nous « abandonnons », utilisant des systèmes arbitraires et ayant de nombreux faux positifs, tout en empêchant tout recours effectif contre la suppression de contenus, ou en coupant une source de revenus pour certaines activistes queer, féministe ou afroféministes. Ce sont ces plateformes qui nous imposent leur ordre moral hétérosexuel, patriarcal, blanc.
À en lire la presse, c’est juste un problème de filtrage d’Internet.

Et j’en ai marre. Je suis énervé. Je suis énervé de devoir justifier que j’existe, que mes ami·e·s existent, que nous avons le droit d’exister dans l’espace public. Je suis fatigué de devoir encore et toujours expliquer l’effet de réseau rendant socialement impossible la migration vers d’autres plateformes et donc l’importance de pouvoir socialiser sur ces plateformes pour des personnes souvent isolé·e·s dans un milieu hostile. Je suis fatigué que l’obligation de s’identifier, avec une seule identité, correspondant à votre état civil, ne soit pas débattue et que l’on se contente de vouloir distribuer. Je suis fatigué de lire « t’as qu’à aller sur mastodon » ou que c’est juste un effet de bord pour lutter contre la pédophilie, assimilant éducation sexuelle et pédophilie.

Après tout si, pour protéger les enfants, il est acceptable de taper un peu large et de supprimer toute forme de contenu parlant de sexualité, il devrait être acceptable de supprimer tout le contenu d’incitation à la haine raciale, au génocide, à l’appel aux meurtres de femmes et de queers, quitte à ce que tout contenu politique disparaisse ? Au delà du fait qu’il reste à prouver que la suppression de contenu est effectivement une méthode efficace de lutte contre la pédocriminalité organisée, ou du fait qu’on ne parle que des enfants victimes de ces crimes, et non de n’importe quelle personne victimes de violence sexuelle, s’il est acceptable de supprimer automatiquement tout contenu adulte pour lutter contre la pédophilie, alors il est acceptable de supprimer tout contenu politique pour lutter contre la haine de l’autre, non ?

C’est d’ailleurs ce qui se produit sur de nombreuses plateformes. Les comptes de personnes minorisées et militantes sont régulièrement fermés alors qu’elles sont victimes de harcèlement, les auteurs de ces harcèlement profitant d’une impunité de fait fournie par ces plateformes. Ces plateformes qui s’excusent régulièrement, promis, la prochaine fois, elles feront tout pour que leur communauté puisse s’exprimer sereinement. Quitte à récupérer sans aucune gène les luttes de ces personnes afin de se donner une image cool, respectable. Alphabet qui empêche les queers de monétiser leur contenu mais qui, dans le même temps, lors des marches des fiertés, affiche son soutien à la communauté LGBT en est l’exemple parfait.

Suppressions justifiées, une fois encore, non pas par des décisions de justice, mais par un principe de précaution. Suppressions effectuées en amont, par des filtres à l’upload, donnant à ces plateformes un rôle éditorial. Suppressions effectuées par des machines, entraînées à distinguer les tétons d’apparence féminine des autres. Suppressions qui, inévitablement, amènent à la disparition du corps des femmes de l’espace public. Suppressions qui, à cause des biais sexistes et racistes, se fera en utilisant une référence définissant ce qu’est une femme, ce qui est une représentation acceptable d’une femme en ligne, effaçant encore et toujours les femmes non blanches, ou ne correspondant pas au canon établi par ces filtres pseudo-intelligents.

On entend beaucoup de gens dire qu’il est inacceptable de supprimer du contenu incitant à la haine, du contenu posté par des personnes se définissant elles-mêmes comme des nazis. Je suis d’accord, parce que supprimer ce contenu est une tâche complexe, nécessitant entre autre des mises en contexte rigoureuses de propos tenus. C’est un travail nécessitant aussi une part d’archivage, et encore une fois, il n’est pas prouvé que la suppression du contenu seul ait un effet quelconque sur la diffusion des idées.

Les néo nazis, les réacs, les pro-BREXIT ou la Manif Pour Tous ont le droit aussi d’exister en ligne. Oui. Absolument. Notamment parce que cela facilite le travail de la police et de la justice. Mais ce que font les GAFAMs et les principaux sites de médias en ligne, n’est pas assimilable au simple fait d’exister. Ce que font les GAFAMs, c’est choisir quels contenus sont mis en avant, permettant même à chaque personne de les sponsoriser pour les diffuser vers un plus grand nombre de personnes. Ce que font les GAFAMs, ce n’est pas vivre et laisser vivre. C’est s’assurer que certains contenus soient vus par le plus grand nombre. C’est s’assurer que certains contenus ne soient jamais vus par personne. Ces entreprises, qui récupèrent petit à petit le contrôle sur l’ensemble des infrastructures, des contenus, des standards de communication, qui n’ont aucune légitimité pour décider du contenu qui a le droit d’exister, n’ont pas un simple rôle passif d’hébergement, mais un rôle actif d’éditorialisation du contenu.

Ces décisions de supprimer tel ou tel contenu, de classifier, d’empêcher certaines personnes de financer leurs projets ou de gagner un peu mieux leur vie, ces décisions sont politiques. Elles définissent le discours acceptable, elles définissent la seule culture devant exister, leur positions hégémonique empêchant toute existence hors de leur sphère d’influence. Ces décisions politiques doivent être considérées comme telles, et ces entreprises doivent etre responsables de leurs décisions, de même qu’un journal, et non ses auteurs individuels, est responsable du contenu qu’il publie.

Donc je suis énervé. Pas tellement contre Tumblr ou Apple au final, ils ne sont que le reflet de notre société. J’entends des « Apple protège ma vie privée ». Mais uniquement si vous ne parlez pas de cul, de sexualité, que vous ne travaillez pas autour de le sexualité, que vous n’êtes pas queer. Parce qu’à ce moment-là, vous n’existez plus.

Je vais donc le dire, encore une fois : le problème ce n’est pas le filtrage automatisé. Le problème ce n’est pas qu’aucun juge ne prenne plus de décisions, permettant au moins de contextualiser le contenu. Le problème c’est de considérer l’invisibilisation des minorités sexuelles, des femmes, des noirs, des musulmans, etc … du simple point de vue du filtrage et de la responsabilité des plateformes sans remettre tout cela dans un contexte politique.

Du coup, que faire ? est-ce qu’on a des choses à proposer ? En l’état des choses, pas vraiment. La solution de la distribution est un premier pas, mais ne résout pas le problème sous-jacent de la gestion d’un espace public commun. Au lieu de déléguer le pouvoir à une entreprise multinationale, on le délègue à une communauté de personnes. Effectivement, n’importe qui peut monter un service ActivityPub, mais tout le monde ne le fait pas. Et est-ce que vous pouvez vraiment faire confiance à des « amis » sur le fait qu’ils résisteront à toute forme de pression policière ? La réponse est non, même si ils sont les mieux intentionnés. Au mieux, ils suspendront le service, vous forçant à trouver une autre plateforme et recommençant encore une fois le même cycle.

D’autant qu’avoir un nom de domaine identifié, public, connoté, associé à une activité peut poser plus de problèmes qu’aller sur facebook et peut, dans malheureusement trop d’endroits, avoir des conséquences très concrètes sur notre sécurité. Et la plupart des alternatives nécessitent en plus une identification forte. Prenons le cas de Signal par exemple. Si je ne veux pas que quelqu’un puisse me joindre au-delà d’une conversation, je suis obligé de changer de numéro de téléphone. Et donc de devoir prévenir tous mes contacts avec qui je veux maintenir un contact que j’ai changé de numéro de téléphone.

Il n’y a pas, à ce jour, de plateformes logicielles et grand public permettant à des enfants, adolescents, jeunes adultes et adultes de se questionner sur leur orientation sexuelle sans être immédiatement détectés soit par leur FAI, soit par l’hébergeur de l’application — et donc Amazon, étant donné qu’une part de plus en plus grande d’applications et de systèmes de communications est hébergée chez eux. Il n’existe aucune plateforme ne nécessitant pas de compte ou d’informations pouvant identifier l’utilisateur·ice, aucune plateforme permettant d’effectuer des transactions bancaires entre deux personnes sans intermédiaire technique ou sans révéler l’identité des deux parties, il n’existe pas non plus d’applications sur lesquelles on peut envoyer des photos de nus et garantir que l’image ne soit pas facilement republiable en ligne.

Il y a du travail dans cette direction, mais on en est au stade de la recherche, encore loin d’avoir quelque chose de fonctionnel. Des applications telles que Briar, ou Cwtch, vont dans la bonne direction à mon sens, mais j’aimerais que les personnes qui développent les futures infrastructures de communications qui remplaceront les GAFAMs quand on aura fini par les mettre à terre, se posent la question de pouvoir répondre aux problèmes auxquels nous, membres de minorités, faisont face quotidiennement pour avoir simplement eu l’outrecuidance d’exister.

]]>
Une loi européenne pour censurer les mouvements sociaux sur Internet ?https://www.laquadrature.net/?p=12674http://streisand.me.thican.net/laquadrature.net/index.php?20181207_143832_Une_loi_europeenne_pour_censurer_les_mouvements_sociaux_sur_Internet___Fri, 07 Dec 2018 13:38:32 +0000Alors que la contestation nourrie par le mouvement des gilets jaunes grandit, alors qu’enflent les rumeurs d’une possible censure du mouvement par Facebook1Précision : nous n’avons actuellement connaissance d’aucun élément factuel indiquant que Facebook mettrait ou non en œuvre une censure visant spécifiquement les gilets jaunes. Cet article est une simple analyse juridique., livrons-nous à un peu de politique-fiction : comment la future loi de censure antiterroriste que la France cherche à imposer à l’Union européenne s’appliquerait-elle à des mouvement sociaux tels que celui des gilets jaunes ?

C’est un texte dont personne ne parle ou presque, et il est pourtant fondamental pour l’avenir des libertés publiques à l’échelle de l’Europe entière. Présenté au mois de septembre, il s’agit du règlement européen dédié à « la prévention de la diffusion de contenus à caractère terroriste en ligne ».

L’article 4 du règlement permet aux autorités publiques de demander directement à n’importe quel hébergeur le retrait d’un contenu relevant de l’apologie du terrorisme. En pratique, cela entérine la situation qui prévaut dans tous les pays réprimant l’apologie ou la provocation au terrorisme. Ainsi en France, depuis 2015, le ministère de l’Intérieur est compétent pour censurer la provocation ou l’apologie du terrorisme sur Internet (si l’hébergeur n’empêche pas l’accès au contenu visé sous 24 heures, alors le blocage de l’ensemble du site peut être mis en place par les fournisseurs d’accès à Internet français). Le tout sans aucun contrôle judiciaire préalable, dans le cadre d’une procédure secrète. Ainsi, en 2015, la France est devenue (devant l’Inde et la Turquie) le pays qui a obtenu le plus grand nombre de suppressions de pages Facebook (38 000 suppressions en un an, pendant que l’Allemagne ou Israël n’en obtenaient que 500).

Là où le règlement européen « innove » radicalement, c’est qu’il impose qu’un tel retrait par les hébergeurs intervienne en un délai record de une heure, sous peine de sanctions financières. Il prévoit aussi de passer par une voie encore plus discrète pour censurer ces contenus : les « mesures proactives », ces outils de censure automatique déjà développés par les grandes plateformes comme Facebook ou YouTube et qui pourront être paramétrés en concertation avec les autorités (article 6 du règlement). Comme nous l’avons déjà expliqué (lire notre analyse plus complète), le futur règlement européen prévoit de généraliser ces outils à l’ensemble des acteurs du Web (non seulement Facebook et YouTube mais aussi OVH, Gandi, NextCloud, Mastodon, etc.), voire même aux outils de messagerie (WhatsApp, Signal, Télégram, Protonmail, etc.)2Notons ici une légère évolution depuis notre dernière analyse concernant les risques pour la confidentialité de nos communications. Dans la version du règlement actée hier par le Conseil de l’UE, le considérant 10 a été modifié et semble tenter d’exclure du champ d’application de ce texte les services de communications interpersonnelles : « Interpersonal communication services that enable direct interpersonal and interactive exchange of information between a finite number of persons, whereby the persons initiating or participating in the communication determine its recipient(s), are not in scope ».
Cette précision est toutefois particulièrement hasardeuse et n’a rien de rassurante. D’abord, la précision n’est nullement reprise à l’article 2 du règlement qui définit les différentes notions du texte. Surtout, cette précision n’est pas cohérente : les « service de communications interpersonnelles » sont déjà définis par le code européen des communications électroniques (article 2 et considérant 17), comme pouvant alors couvrir certains services de Cloud (où un nombre limité d’utilisateurs peuvent échanger des documents, typiquement). Pourtant, la version du règlement actée aujourd’hui indique explicitement s’appliquer aux services de Cloud, tout en prétendant ne pas s’appliquer aux communications interpersonnelles. La confusion est totale.
. Concrètement, tous les acteurs du numérique devront développer des « mesures proactives pour protéger leurs services contre la diffusion de contenus à caractère terroriste ».

Mais du coup, c’est quoi, un « contenu à caractère terroriste » ?

L’article 2 du règlement explique que les contenus auxquels le texte s’appliquera sont des textes, images ou vidéos qui « provoquent à la commission », « font l’apologie », « encouragent la participation » ou « fournissent des instructions sur des méthodes ou techniques en vue de la commission d’infractions terroristes ». Tout repose donc sur ces « infractions terroristes », définies par le droit de l’Union à l’article 3 de la directive 2017/541.

La liste est longue. On y retrouve évidemment les meurtres visant à terroriser la population. Mais aussi des actes plus éloignés et moins attendus, tels que le fait de « provoquer une perturbation grave ou une interruption » d’un système informatique (un ordinateur, un site Web…) ou de « causer des destructions massives […] à un lieu public ou une propriété privée, susceptible […] de produire des pertes économiques considérables ». Pour être qualifiés d’infractions terroristes, ces actes doivent être commis dans le but de « contraindre indûment des pouvoirs publics ou une organisation internationale à accomplir ou à s’abstenir d’accomplir un acte quelconque » (retirer un projet de loi, par exemple) ou dans le but de « gravement déstabiliser […] les structures politiques, constitutionnelles, économiques ou sociales fondamentales d’un pays ». La simple menace de commettre de tels actes entre aussi dans la définition.

Bref, en droit européen, le piratage ou la destruction massive de biens, ou la menace de le faire, sont des « infractions terroristes » dès lors qu’il s’agit d’influencer une décision politique ou de déstabiliser des institutions.

Maintenant que le cadre est posé, commençons la politique-fiction. Parmi les contenus susceptibles d’être publiés sur Internet par des gilets jaunes, quels sont ceux qui pourraient être considérés comme relevant du « terrorisme » (selon les très larges définitions européennes) par Facebook et Google (soumis à la menace de sanctions en cas d’échec) ou par la police ? Par exemple :

  • un appel à manifester sur les Champs-Élysées, alors que le rassemblement précédent a conduit à d’importantes détériorations matérielles et enfonce le gouvernement dans une crise politique ;
  • une vidéo qui, prise depuis le balcon d’en face, filmerait la destruction d’une banque ou d’un fast-food, accompagnée d’un commentaire audio du spectateur surpris, du type « ahahah, c’est bien fait pour eux » ;
  • une vidéo d’altercations agressives entre manifestants et CRS au prétexte qu’elle serait diffusée par une personne se réjouissant que les autorités publiques soient ainsi remises en cause ;
  • un texte menaçant le gouvernement de blocage généralisé de l’économie ou de grève générale ;
  • une invective orale du type « si Macron ne démissionne pas, on va venir mettre le feu à l’Élysée » ;
  • un communiqué justifiant le fait d’avoir détruit un véhicule de police ;
  • etc.

En appliquant le droit à la lettre, on pourrait se demander lequel de ces contenus ne devrait pas être censuré automatiquement par les plateformes du Web une fois que le règlement anti-terroriste sera entré en application. De même, en théorie, ces contenus pourraient être censurés sur simple demande de la police.

Même si, pour l’heure, il s’agit encore de politique-fiction, le droit actuel en France va déjà en ce sens, comme l’illustre le type de discours qui ont pu passer pour de l’« apologie du terrorisme » ces dernières années. Par exemple, des peines de prison ferme pour des provocations lancées par certain·es au sujet des attentats de janvier 2015, ou l’injonction faite par le gouvernement fin 2016 à deux sites participatifs pour qu’ils censurent un article revendiquant l’incendie d’un hangar de gendarmerie commis en solidarité avec des personnes poursuivies en justice dans le cadre des manifestations contre la loi travail.

Censure privée, censure totale

Une censure de tels contenus pourrait donc intervenir de deux manières. C’est en quelque sorte « ceinture et bretelles » : quand les « mesures proactives » prises par un réseau social comme Facebook n’auront pas suffi à bloquer les contenus visés, la police pourra prendre le relais, pouvant exiger des services défaillants la suppression d’un contenu dans un délai d’une heure. Tout cela sans l’autorisation préalable d’un juge. Les acteurs concernés s’exposeront à des sanctions s’ils échouent trop souvent à censurer dans le délai d’une heure (article 18).

Bref, pour éviter d’avoir à répondre toute la journée aux demandes des polices des 28 États membres de l’Union européenne, et de subir des sanctions en cas d’échecs à y répondre dans l’heure, les services Web auront franchement intérêt à détecter à l’avance et le plus strictement possible tout ce qui ressemblera de près ou de loin à un « contenu à caractère terroriste », défini de façon extrêmement large.

Or, il est clair que les outils mis au point par Facebook et Google s’imposeront à l’ensemble du Web, même en dehors de leur plateforme, où certains pourraient chercher refuge. De ce que nous ont clairement expliqué des gens du gouvernement (revoir notre compte-rendu) et de ce qui apparaît dès 2017 dans les publications de la Commission européenne3Dès juin 2017, la Commission européenne
se félicite publiquement
d’« avoir travaillé depuis deux ans avec les plateformes clefs du Web au sein du Forum européen de l’Internet », qui regroupe Google, Facebook, Twitter et Microsoft depuis 2015, « pour s’assurer du retrait volontaire de contenus terroristes en ligne », notamment grâce à « l’initiative menée par l’industrie de créer une « base de données d’empreintes numériques » [« database of hashes »] qui garantit qu’un contenu terroriste retiré sur une plateforme ne soit pas remis en ligne sur une autre plateforme ».
Pour la Commission, déjà, « l’objectif est que les plateformes en fassent davantage, notamment en mettant à niveau la détection automatique de contenus terroristes, en partageant les technologies et les outils concernés avec de plus petites entreprises et en utilisant pleinement la « base de données d’empreintes numériques » » (toutes ces citations sont des traductions libres de l’anglais). Cette base de données est ce que nous appelons « listes noires » dans notre analyse.
, l’objectif de ce texte est au final d’imposer les filtres automatiques mis au point par les grosses plateformes à tous les acteurs du Web, petits ou grands, européens ou non. Ces derniers devront automatiquement respecter une large « liste noire » de contenus considérés comme illicites par les prétendues intelligences artificielles de Facebook et Google, qui décideront seuls et selon leurs propres critères s’il est autorisé ou non d’appeler à tel mouvement ou d’applaudir telle action contestataire.

Soyons clairs : notre analyse ne cherche pas à savoir quels propos devraient ou non être tenus en ligne, ni quelles revendications seraient ou non légitimes. Notre question est de savoir si nous acceptons de déléguer à la police et à une poignée d’entreprises privées hégémoniques, qui ne sont soumises à aucun contrôle démocratique, le rôle de juger nos actes et nos opinions, et de modeler le débat public en conséquence. Nous répondons résolument que non : seul un juge, indépendant des pouvoirs politiques et économiques, doit pouvoir censurer les propos qui, d’après des lois adoptées en bonne et due forme, seraient susceptibles de nuire de manière disproportionnée à autrui.

C’est tout l’inverse que propose Macron, principal promoteur du futur règlement européen : en cédant les pouvoirs de l’État aux géants du Web, il s’imagine pouvoir échapper à toute responsabilité politique en cas de censure abusive et massive du Web.

Ce règlement européen est une loi de censure que les gouvernements français et allemands souhaitent faire adopter d’ici aux prochaines élections européennes, en mai. Ils ont déjà réussi à faire accepter hier leur projet aux autres gouvernements européens, à une vitesse jamais vue au sein de l’Union européenne. Les eurodéputés et toutes celles et ceux qui entendent se présenter aux prochaines élections européennes doivent faire connaitre leur opposition à ce texte scélérat.

Nos autres articles sur le sujet :

References   [ + ]

1. Précision : nous n’avons actuellement connaissance d’aucun élément factuel indiquant que Facebook mettrait ou non en œuvre une censure visant spécifiquement les gilets jaunes. Cet article est une simple analyse juridique.
2. Notons ici une légère évolution depuis notre dernière analyse concernant les risques pour la confidentialité de nos communications. Dans la version du règlement actée hier par le Conseil de l’UE, le considérant 10 a été modifié et semble tenter d’exclure du champ d’application de ce texte les services de communications interpersonnelles : « Interpersonal communication services that enable direct interpersonal and interactive exchange of information between a finite number of persons, whereby the persons initiating or participating in the communication determine its recipient(s), are not in scope ».
Cette précision est toutefois particulièrement hasardeuse et n’a rien de rassurante. D’abord, la précision n’est nullement reprise à l’article 2 du règlement qui définit les différentes notions du texte. Surtout, cette précision n’est pas cohérente : les « service de communications interpersonnelles » sont déjà définis par le code européen des communications électroniques (article 2 et considérant 17), comme pouvant alors couvrir certains services de Cloud (où un nombre limité d’utilisateurs peuvent échanger des documents, typiquement). Pourtant, la version du règlement actée aujourd’hui indique explicitement s’appliquer aux services de Cloud, tout en prétendant ne pas s’appliquer aux communications interpersonnelles. La confusion est totale.
3. Dès juin 2017, la Commission européenne
se félicite publiquement
d’« avoir travaillé depuis deux ans avec les plateformes clefs du Web au sein du Forum européen de l’Internet », qui regroupe Google, Facebook, Twitter et Microsoft depuis 2015, « pour s’assurer du retrait volontaire de contenus terroristes en ligne », notamment grâce à « l’initiative menée par l’industrie de créer une « base de données d’empreintes numériques » [« database of hashes »] qui garantit qu’un contenu terroriste retiré sur une plateforme ne soit pas remis en ligne sur une autre plateforme ».
Pour la Commission, déjà, « l’objectif est que les plateformes en fassent davantage, notamment en mettant à niveau la détection automatique de contenus terroristes, en partageant les technologies et les outils concernés avec de plus petites entreprises et en utilisant pleinement la « base de données d’empreintes numériques » » (toutes ces citations sont des traductions libres de l’anglais). Cette base de données est ce que nous appelons « listes noires » dans notre analyse.
]]>
[Libération] Lionel Maurel : « On doit pouvoir quitter Facebook sans perdre les liens qu’on y a créés »https://www.laquadrature.net/?p=12548http://streisand.me.thican.net/laquadrature.net/index.php?20181207_110000__Liberation__Lionel_Maurel________On_doit_pouvoir_quitter_Facebook_sans_perdre_les_liens_qu___on_y_a_crees____Fri, 07 Dec 2018 10:00:00 +0000Pour le juriste Lionel Maurel, l’approche individualiste de la protection des données personnelles ne permet pas d’appréhender la dimension sociale qu’exploitent les grandes plateformes du Net. Il appelle à la mise en place d’un droit à la migration collective.

En 1978, la loi informatique et libertés introduisait dans le droit français la notion de « donnée à caractère personnel ». Quarante ans plus tard, l’entrée en application, en mai dernier, du règlement général sur la protection des données (RGPD) a marqué un renforcement des droits des citoyens européens en la matière. Mais nos données dites « personnelles » le sont-elles vraiment, surtout à l’ère du numérique ubiquitaire, des réseaux sociaux, de la puissance d’une poignée de grandes plateformes centralisées qui structurent largement nos vies en ligne ? A tout le moins, il est grand temps de les envisager aussi comme des données « sociales » et de trouver les instruments pour les défendre en tant que telles, répond le juriste Lionel Maurel, membre de l’association de défense des libertés la Quadrature du Net et du comité de prospective de la Commission nationale de l’informatique et des libertés (Cnil). Il intervient ce vendredi à 20 heures [NDLRP, le vendredi 30/11/2018], à la Gaîté lyrique à Paris, lors d’une table ronde au festival Persona non data, dont Libération est partenaire. […]

https://www.liberation.fr/debats/2018/11/29/lionel-maurel-on-doit-pouvoir-quitter-facebook-sans-perdre-les-liens-qu-on-y-a-crees_1695042

]]>
Soutenons notre Internet contre la censure sécuritairehttps://www.laquadrature.net/?p=12648http://streisand.me.thican.net/laquadrature.net/index.php?20181206_163655_Soutenons_notre_Internet_contre_la_censure_securitaireThu, 06 Dec 2018 15:36:55 +0000Il y a une semaine, nous faisions un point sur les dons récoltés depuis le lancement de notre campagne de soutien.
Pour rappel, pour continuer notre activité l’an prochain, nous avons besoin de 320.000€.
Aujourd’hui nous avons atteint 41% de cette somme, ce qui signifie que nous avons encore besoin de vous. Il est essentiel que toutes celles et ceux qui nous suivent parlent de La Quadrature autour d’eux.

Nous avions placé cette campagne de dons sous le signe des constellations, pour évoquer notre Internet, celui qui est libre, partagé et décentralisé. Nous voulions être positifs et faire rêver. Ironiquement, c’est maintenant qu’un règlement de censure sécuritaire s’abat sur l’Europe et menace notre Internet. Macron et les dirigeants des États de l’Union européenne veulent un Internet bien cadré, facile à surveiller et comptent confier cet encadrement à Google et Facebook, qui ne se priveront pas de confirmer ainsi leur position de monopole.

Se battre pour notre Internet, c’est se battre contre ce règlement liberticide. Pour que La Quadrature continue son combat, faites un don sur laquadrature.net/donner.

]]>
Les gouvernements européens s’accordent pour confier la censure du Web à Google et Facebookhttps://www.laquadrature.net/?p=12625http://streisand.me.thican.net/laquadrature.net/index.php?20181206_124300_Les_gouvernements_europeens_s___accordent_pour_confier_la_censure_du_Web_a_Google_et_FacebookThu, 06 Dec 2018 11:43:00 +0000Nous n’aurons jamais vu un règlement européen être accepté aussi rapidement par les gouvernements européens (en moins de 3 mois !), et ce malgré les inquiétudes exprimées par divers États1Se sont notamment opposés à la version actuelle du texte la Finlande, la Slovaquie, la République Tchèque, la Pologne, le Danemark. Macron les a manifestement convaincu que, les élections européennes approchant, ils pourraient maintenir leur pouvoir en agitant l’inaltérable prétexte terroriste. En résulte une censure et une surveillance généralisée de l’Internet.

Le Conseil de l’Union européenne vient donc d’acter, à l’instant et sans le moindre débat sérieux, un projet de loi qui obligera tous les acteurs du Web à se soumettre aux outils de surveillance et de censure automatisés fournis par Facebook et Google2Dès juin 2017, la Commission européenne se félicite publiquement « avoir travaillé depuis deux ans avec les plateformes clefs du Web au sein du Forum européen de l’Internet », qui regroupe Google, Facebook, Twitter et Microsoft depuis 2015, « pour s’assurer du retrait volontaire de contenus terroristes en ligne », notamment grâce à « l’initiative menée par l’industrie de créer une « base de données d’empreintes numériques » [« database of hashes »] qui garantit qu’un contenu terroriste retiré sur une plateforme ne soit pas remis en ligne sur une autre plateforme ».
Pour la Commission, déjà, « l’objectif est que les plateformes en fassent davantage, notamment en mettant à niveau la détection automatique de contenus terroristes, en partageant les technologies et les outils concernés avec de plus petites entreprises et en utilisant pleinement la « base de données d’empreintes numériques » » (toutes ces citations sont des traductions libres de l’anglais).
, tout en permettant à la police d’exiger le retrait en une heure des contenus qu’elle jugera « terroriste », sans l’autorisation d’un juge.

Deux mesures aussi délirantes qu’inédites, qui conduiront à soumettre tout l’écosystème numérique européen à une poignée de géants que l’Union prétend cyniquement vouloir combattre (lire notre analyse), tout en risquant de remettre en cause la confidentialité de nos correspondances3Notons ici une légère évolution depuis notre dernière analyse concernant les risques pour la confidentialité de nos communications. Dans la version du règlement actée aujourd’hui par le Conseil de l’UE, le considérant 10 a été modifié et semble tenter d’exclure du champ d’application de ce texte les services de communications interpersonnelles : « Interpersonal communication services that enable direct interpersonal and interactive exchange of information between a finite number of persons, whereby the persons initiating or participating in the communication determine its recipient(s), are not in scope ».
Cette précision est toutefois particulièrement hasardeuse et n’a rien de rassurante. D’abord, la précision n’est nullement reprise à l’article 2 du règlement qui définit les différentes notions du texte. Surtout, cette précision n’est pas cohérente : les « service de communications interpersonnelles » sont déjà définis par le code européen des communications électroniques (article 2 et considérant 17), comme pouvant alors couvrir certains services de Cloud (où un nombre limité d’utilisateurs peuvent échanger des documents, typiquement). Pourtant, la version du règlement actée aujourd’hui indique explicitement s’appliquer aux services de Cloud, tout en prétendant ne pas s’appliquer aux communications interpersonnelles. La confusion est totale.
… Et tout ça alors que ni la Commission européenne ni les gouvernements n’ont jamais réussi à démontrer en quoi cette loi serait utile pour lutter contre le terrorisme4En 2017, l’UNESCO publiait un rapport analysant 550 études publiées sur la question de la radicalisation en ligne. Le rapport conclut que « l’état actuel des preuves sur le lien entre Internet, les médias sociaux et la radicalisation violente est très limité et toujours pas conclusif » et qu’il n’y a « pas de preuves suffisantes pour conclure qu’il existe un lien de causalité entre la propagande extrémiste ou le recrutement sur les réseaux sociaux et la radicalisation violente des jeunes ». Le rapport souligne que « les tentatives pour empêcher la radicalisation des jeunes sur les aspects Internet n’ont pas prouvé leur efficacité mais, d’autre part, peuvent clairement nuire aux libertés en ligne, particulièrement la liberté d’expression » (notre traduction de l’anglais)..

Le débat sur ce texte se poursuivra maintenant devant le Parlement européen. Celui-ci votera mercredi prochain, le 12 décembre, un premier « rapport sur la lutte anti-terroriste » qui, sans avoir l’effet d’une loi, promeut peu ou prou les mêmes mesures absurdes que celles prévues dans le « règlement de censure anti-terroriste », que le Parlement examinera dans les semaines suivantes.

Ce premier vote de mercredi sera l’occasion pour chaque député européen de révéler sa position face au projet totalitaire d’Emmanuel Macron, et ils devront en rendre compte alors que s’amorce la campagne électorale pour les élections européennes de 2019.

References   [ + ]

1. Se sont notamment opposés à la version actuelle du texte la Finlande, la Slovaquie, la République Tchèque, la Pologne, le Danemark
2. Dès juin 2017, la Commission européenne se félicite publiquement « avoir travaillé depuis deux ans avec les plateformes clefs du Web au sein du Forum européen de l’Internet », qui regroupe Google, Facebook, Twitter et Microsoft depuis 2015, « pour s’assurer du retrait volontaire de contenus terroristes en ligne », notamment grâce à « l’initiative menée par l’industrie de créer une « base de données d’empreintes numériques » [« database of hashes »] qui garantit qu’un contenu terroriste retiré sur une plateforme ne soit pas remis en ligne sur une autre plateforme ».
Pour la Commission, déjà, « l’objectif est que les plateformes en fassent davantage, notamment en mettant à niveau la détection automatique de contenus terroristes, en partageant les technologies et les outils concernés avec de plus petites entreprises et en utilisant pleinement la « base de données d’empreintes numériques » » (toutes ces citations sont des traductions libres de l’anglais).
3. Notons ici une légère évolution depuis notre dernière analyse concernant les risques pour la confidentialité de nos communications. Dans la version du règlement actée aujourd’hui par le Conseil de l’UE, le considérant 10 a été modifié et semble tenter d’exclure du champ d’application de ce texte les services de communications interpersonnelles : « Interpersonal communication services that enable direct interpersonal and interactive exchange of information between a finite number of persons, whereby the persons initiating or participating in the communication determine its recipient(s), are not in scope ».
Cette précision est toutefois particulièrement hasardeuse et n’a rien de rassurante. D’abord, la précision n’est nullement reprise à l’article 2 du règlement qui définit les différentes notions du texte. Surtout, cette précision n’est pas cohérente : les « service de communications interpersonnelles » sont déjà définis par le code européen des communications électroniques (article 2 et considérant 17), comme pouvant alors couvrir certains services de Cloud (où un nombre limité d’utilisateurs peuvent échanger des documents, typiquement). Pourtant, la version du règlement actée aujourd’hui indique explicitement s’appliquer aux services de Cloud, tout en prétendant ne pas s’appliquer aux communications interpersonnelles. La confusion est totale.
4. En 2017, l’UNESCO publiait un rapport analysant 550 études publiées sur la question de la radicalisation en ligne. Le rapport conclut que « l’état actuel des preuves sur le lien entre Internet, les médias sociaux et la radicalisation violente est très limité et toujours pas conclusif » et qu’il n’y a « pas de preuves suffisantes pour conclure qu’il existe un lien de causalité entre la propagande extrémiste ou le recrutement sur les réseaux sociaux et la radicalisation violente des jeunes ». Le rapport souligne que « les tentatives pour empêcher la radicalisation des jeunes sur les aspects Internet n’ont pas prouvé leur efficacité mais, d’autre part, peuvent clairement nuire aux libertés en ligne, particulièrement la liberté d’expression » (notre traduction de l’anglais).
]]>
[Numerama] Géolocalisation : 7 associations se dressent contre Google et ses « pratiques déloyales »https://www.laquadrature.net/?p=12549http://streisand.me.thican.net/laquadrature.net/index.php?20181206_110000__Numerama__Geolocalisation____7_associations_se_dressent_contre_Google_et_ses_____pratiques_deloyales____Thu, 06 Dec 2018 10:00:00 +0000Sept associations ont saisi les autorités de protection des données pour dénoncer les pratiques de Google en matière de géolocalisation. Elles se basent sur une enquête norvégienne pointant les stratagèmes de l’entreprise pour forcer l’activation de cette option.

Google s’attendait-il à ce que le Règlement général sur la protection des données personnelles entraîne une telle activité contre lui ? Depuis le 25 mai, de nombreux fronts ont été ouverts : on compte deux actions collectives (l’une de La Quadrature du Net, l’autre de NOYB), mais aussi une initiative de l’UFC-Que Choisir dénonçant les stratagèmes de manipulation de l’internaute.

À cette liste, non-exhaustive, il faut ajouter une action coordonnée de sept associations de consommateurs du Vieux Continent qui, chacune dans leur pays, alertent leur autorité de protection des données. Ces signalements ont lieu en Grèce, en Norvège, aux Pays-Bas, en Pologne, en République tchèque, en Slovénie et en Suède. Elles dénoncent les pratiques de Google en matière de localisation des utilisateurs. […]

https://www.numerama.com/politique/443725-geolocalisation-7-associations-se-dressent-contre-google-et-ses-pratiques-deloyales.html

]]>
[FranceCulture] Faut-il avoir peur des GAFA chinois ?https://www.laquadrature.net/?p=12550http://streisand.me.thican.net/laquadrature.net/index.php?20181205_110000__FranceCulture__Faut-il_avoir_peur_des_GAFA_chinois___Wed, 05 Dec 2018 10:00:00 +0000Méconnus en France, les géants du web chinois, Baidu, Alibaba, Tencent, Xiaomu (les « BATX ») inquiètent. Comment appréhender l’arrivée de tels mastodontes numériques en Europe ? Leurs pratiques sont-elles plus problématiques que celles de Google, Apple, Facebook et Amazon (les « GAFA ») ? […]

Les Baidu, Tencent, Alibaba et autres Xiaomi restent encore peu connus en dehors de leur pays d’origine. Mais que se passera-t-il quand les géants chinois de l’internet s’éveilleront ? Leur proximité (c’est un euphémisme) avec le pouvoir politique a de quoi inquiéter, du point de vue des libertés publiques. Car derrière leur puissance économique, c’est un modèle politique qui est véhiculé par ces entreprises. […]

Intervenants :

  • Julien Nocetti : Chercheur à l’Institut français des relations internationales (IFRI) où il est membre du Centre Russie/NEI et responsable des recherches sur les sujets numériques internationaux
  • Stéphanie Balme : Professeure de la faculté permanent de Sciences Po
  • Benjamin Bayart : Cofondateur de la Quadrature du Net, co-président de la fédération des Fournisseur d’Accès à Internet associatifs (FFDN)

https://www.franceculture.fr/emissions/du-grain-a-moudre/faut-il-avoir-peur-des-gafa-chinois

]]>
[Planet] Surveillance du fisc sur les réseaux sociaux : est-ce vraiment légal ?https://www.laquadrature.net/?p=12551http://streisand.me.thican.net/laquadrature.net/index.php?20181204_110000__Planet__Surveillance_du_fisc_sur_les_reseaux_sociaux____est-ce_vraiment_legal___Tue, 04 Dec 2018 10:00:00 +0000Police fiscale, surveillance sur la toile… Le trésor public a annoncé la mise en place de nouveaux outils jugés plutôt intrusifs pour en finir avec la fraude et vérifier que vous déclarez bien ce qu’il faut […]

Contactée par la rédaction de Planet, la CNIL a fait parvenir plusieurs éléments de réponse relatifs à ce projet. Elle assure, dans un premier temps, ne pas avoir été saisie. Elle explique aussi que le « fait que les données soient accessibles publiquement ne leur ôte pas leur caractère de données personnelles et l’exigence de protection de la vie privée qui s’applique« . Dans un deuxième temps, la commission s’inquiète : « La lutte contre la fraude constitue en soi un objectif légitime, mais un projet de ce type soulève, par nature, d’importantes questions de proportionnalité compte tenu de son caractère intrusif dans la vie privée des personnes et du caractère potentiellement massif de la collecte.« 

Car la surveillance généralisée, c’est bien ce qui inquiète plusieurs spécialistes du web et des libertés individuelles, à l’instar d’Alexis Fitzjean, avocat spécialisé du numérique et membre de l’association La Quadrature du Net. « En 2015, lorsque la loi sur le renseignement a été votée, on nous a agité le spectre du terrorisme et de la pédopornographie pour justifier la surveillance de masse. Aujourd’hui, avec cette future expérimentation, l’Etat semble glisser de l’excuse de la menace terroriste à celle du problème de la fraude fiscale. La question se pose en terme de légitimité« , confie-t-il. […]

https://www.planet.fr/societe-surveillance-du-fisc-sur-les-reseaux-sociaux-est-ce-vraiment-legal.1670096.29336.html

]]>
58 organisations demandent à Macron de renoncer à son projet de censure anti-terroristehttps://www.laquadrature.net/?p=12524http://streisand.me.thican.net/laquadrature.net/index.php?20181203_111412_58_organisations_demandent_a_Macron_de_renoncer_a_son_projet_de_censure_anti-terroristeMon, 03 Dec 2018 10:14:12 +000058 associations de défense des libertés, professionnels, hébergeurs et FAI associatifs demandent à Emmanuel Macron de renoncer à son projet de règlement européen de censure sécuritaire, dont il est le principal promoteur.

Les gouvernements européens se réuniront le 6 décembre pour décider de leur position sur ce texte. Ce règlement instrumentalise la crainte terroriste pour museler tout Internet, mais ne servira à rien d’autre qu’à renforcer Google et Facebook (relire notre analyse) et à remettre en cause la confidentialité de nos communications (relire notre analyse).

Mise à jour (4 décembre) : notre lettre commune est toujours ouverte à signature par des organisations (les individus sont vivement encouragés à se l’approprier et à la diffuser autour d’eux). Pour signer, écrivez-nous à contact@laquadrature.net avec « Signature lettre censure » en objet, puis en précisant le nom de votre organisation dans le mail. Merci !

La lettre en PDF ou ci-dessous :

Monsieur le Président,

Au nom de la lutte contre la radicalisation terroriste en ligne, vous défendez un projet de règlement européen imposant de nouvelles obligations à l’ensemble des acteurs de l’Internet : hébergeurs de site, de blog et de vidéo, forum et réseaux sociaux, sites de presse, fournisseurs de mail et de messagerie, etc.

Alors que la Commission européenne et votre gouvernement ne démontrent de façon étayée ni l’efficacité ni la nécessité de ces obligations pour lutter contre le terrorisme, vous souhaitez imposer aux acteurs d’Internet d’agir sur des contenus dont la dangerosité n’aura été évaluée par aucun juge et ce dans des délais extrêmement courts.

Ces obligations sont porteuses de graves dangers pour l’ensemble de l’écosystème numérique européen. En effet, les moyens économiques, humains et techniques requis pour exécuter les obligations envisagées sont tout simplement hors de portée de la quasi-totalité des acteurs : très peu sont ceux qui seront en mesure de répondre 24h/24h, 7j/7 et en moins d’une heure aux demandes de retrait de contenu provenant de n’importe quelle autorité d’un État membre de l’Union. De la même manière, les mesures de surveillance et de censure automatisées que les autorités nationales pourraient imposer en vertu du texte seront totalement impraticables.

Ainsi, pour se plier à ces nouvelles contraintes, les acteurs économiques de petites et moyennes tailles ne pourront que sous-traiter l’exécution des demandes de retrait et la censure automatisée aux quelques grandes entreprises qui, en raison de leur puissance financière, seront capables de les prendre en charge, Google et Facebook en tête, cette sous-traitance étant porteuse d’une dépendance économique et technique gravement préjudiciable à l’économie numérique européenne.

Quant aux acteurs associatifs et collaboratifs à buts non lucratifs, ils n’auront d’autres choix que de cesser leurs activités.

Ce règlement appauvrira donc radicalement la diversité numérique européenne et soumettra ce qu’il en reste à une poignée d’entreprises qui sont déjà en situation de quasi-monopole et dont il faudrait au contraire remettre en cause l’hégémonie.

Enfin, ce règlement conduirait à une surveillance généralisée de nos échanges en ligne et une censure privée et automatisée de l’information, parfaitement contraires au projet humaniste que vous entendez porter au niveau européen.

Nous, acteurs de cet écosystème et défenseurs des libertés fondamentales, vous demandons de renoncer à ce projet.

Signataires :

Mise à jour du 6 décembre, passant les signataires de 44 à 58

]]>
[LeMonde] Comment Linux est devenu un enjeu stratégique majeur pour la Silicon Valleyhttps://www.laquadrature.net/?p=12552http://streisand.me.thican.net/laquadrature.net/index.php?20181203_110000__LeMonde__Comment_Linux_est_devenu_un_enjeu_strategique_majeur_pour_la_Silicon_ValleyMon, 03 Dec 2018 10:00:00 +0000L’emblématique système d’exploitation libre est devenu un outil-clé de tous les grands groupes du Web, comme l’illustre le rachat de Red Hat. […]

Au-delà des considérations stratégiques, le rachat de Red Hat « montre la viabilité du modèle économique » du logiciel libre, juge Lionel Maurel, juriste et membre du bureau de l’association La Quadrature du Net. « Tout le monde a répété cette phrase : “Le logiciel libre a déjà gagné, mais personne ne le sait.” Le modèle est déjà dominant dans les serveurs ; IBM va pouvoir utiliser ce rachat pour développer des solutions de cloud [informatique dématérialisée], un domaine très concurrentiel. » Car si Linux reste très minoritaire sur les ordinateurs individuels, loin derrière Windows de Microsoft et Mac OS d’Apple, le système d’exploitation libre est le leader dans les serveurs qui font tourner les grands services du Web. D’Amazon à Facebook en passant par Google, dont une version modifiée du noyau Linux est au cœur d’Android, tous les géants du Web ont recours à Linux pour leurs gigantesques infrastructures. […]

https://www.lemonde.fr/long-format/article/2018/11/11/comment-linux-est-devenu-un-enjeu-strategique-majeur-pour-la-silicon-valley_5382061_5345421.html

]]>
[LeMagIT] Projet de règlement anti-terroriste : une énième attaque contre le chiffrement ?https://www.laquadrature.net/?p=12515http://streisand.me.thican.net/laquadrature.net/index.php?20181129_110000__LeMagIT__Projet_de_reglement_anti-terroriste____une_enieme_attaque_contre_le_chiffrement___Thu, 29 Nov 2018 10:00:00 +0000La Quadrature du Net s’alarme de la manière dont est formulé le texte, définissant des obligations pour les contenus mis à disposition de tiers et pas uniquement du public. De quoi, selon elle, attaquer les communications privées. […]

« De tiers ». Pour la Quadrature du Net, toute la subtilité tient à l’utilisation de ce terme, qui décrit quelque chose de distinct « du public ». Car « tiers » ne décrit pas forcément un destinataire public ; il peut être privé. Alors pour l’association, le texte recouvre les contenus « qui sont transmis à tout tiers, cela signifie qu’il peut s’appliquer à des services de courriers électroniques, comme les mails et les messageries instantanées […] Ces derniers, au moins jusqu’à la consultation du message, stockent en effet un contenu fourni par un utilisateur afin de le mettre à disposition d’un ou plusieurs tiers ».

Pour la Quadrature du Net, les services de communications personnelles « seront alors, comme les autres acteurs de l’Internet (forums, réseaux sociaux, blogs…), soumis aux obligations de retrait et de censure automatisée prévues par le règlement ». Une approche difficilement conciliable avec le chiffrement de bout en bout de ces échanges, tel que beaucoup le pratiquent aujourd’hui. […]

https://www.lemagit.fr/actualites/252453257/Projet-de-reglement-anti-terroriste-un-enieme-attaque-contre-le-chiffrement

]]>
Campagne de dons, premier point d’étapehttps://www.laquadrature.net/?p=12501http://streisand.me.thican.net/laquadrature.net/index.php?20181128_152927_Campagne_de_dons__premier_point_d___etapeWed, 28 Nov 2018 14:29:27 +0000À la mi-novembre, nous avons lancé notre campagne de dons annuelle, avec un objectif de 320 000 € de collecte, comme l’an dernier. À ce jour nous en avons réuni environ 35% (en comptant les dons récurrents pré-existants à cette campagne et qui se poursuivent actuellement). Nous avons donc besoin de votre aide pour pouvoir continuer nos actions l’an prochain. 

D’autant que l’actualité est chargée pour La Quadrature : entre les suites de notre action de groupe contre les GAFAM, le passage de notre procédure à propos de la surveillance française devant la Cour de Justice de l’Union Européenne et la lutte contre le futur règlement européen sur la prévention des contenus à caractère anti-terroriste en ligne, notre équipe (salariée comme bénévole) ne chôme pas pour protéger nos droits fondamentaux !


Et pendant ce temps, notre campagne autour de l’Internet de nos rêves poursuit son chemin. Nous avons déjà publié les deux premières vidéos : 

Nous avons aussi organisé plusieurs évènements en lien avec divers sujets d’actualité pour nous. Le premier de ces évènements a été un riche débat sur le statut juridique des hébergeurs :


Et retrouvez le programme complet de notre campagne ici.

Pour mieux défendre cet Internet qu’on aime face aux lois liberticides qui se multiplient, La Quadrature du Net a plus que jamais besoin de vous !

N’hésitez pas à mettre en place un don récurrent, ce sont ceux qui nous offrent une meilleure visibilité sur le long terme, et vous pouvez les arrêter très facilement sur demande.
]]>
Procédure contre le renseignement français devant les juges de l’UE : aidez-nous à finaliser !https://www.laquadrature.net/?p=12483http://streisand.me.thican.net/laquadrature.net/index.php?20181127_140848_Procedure_contre_le_renseignement_fran__ais_devant_les_juges_de_l___UE____aidez-nous_a_finaliser___Tue, 27 Nov 2018 13:08:48 +0000Grace aux procédures engagées par La Quadrature du Net, FFDN, Igwan et FDN, la Cour de justice de l’Union européenne doit évaluer la validité du régime de surveillance français. Il nous reste encore une semaine pour lui envoyer nos arguments : aidez-nous à finaliser notre dossier !

Le 26 juillet dernier, après trois ans de procédure (en lire notre résumé), le Conseil d’État avait enfin accepté de poser à la Cour de justice de l’Union européenne cinq questions susceptibles de remettre en cause la compatibilité du droit français au droit de l’Union. Ces questions concernent deux pans majeurs de la surveillance française :

  • les activités de renseignement réalisées par l’État (voir la décision du Conseil d’État, qui pose trois questions à ce sujet) ;
  • l’obligation pour les acteurs de l’Internet de conserver pendant un an les données de connexion concernant l’ensemble de la population (voir la seconde décision du Conseil d’État, qui pose deux questions).

Le 26 septembre dernier, la Cour de justice nous a indiqué qu’elle répondrait à l’ensemble de ces questions au sein d’une même procédure, nous laissant jusqu’au 6 décembre pour présenter nos arguments sur la façon dont elle devrait y répondre. Nous avons rédigé ces arguments au cours des deux derniers mois et nous vous invitons aujourd’hui à y participer à votre tour, avant de les envoyer la semaine prochaine. Nous avons divisé notre dossier en deux parties :

Chaque paragraphe de ces documents est numéroté : si une phrase vous semble peu claire ou pas assez incisive, ou qu’un mot est mal orthographié, indiquez le numéro du paragraphe que vous souhaitez modifier sur ce document collaboratif en ligne, prévu à cet effet. Vous pouvez aussi nous faire vos retours par email à contact@laquadrature.net (même si c’est plus sympa de travailler à plusieurs !).

Vous nous aviez déjà grandement aidé à finaliser notre dossier contre la loi renseignement devant le Conseil constitutionnel il y a trois ans, notre procédure contre le fichier TES il y a deux ans, ainsi que nos plaintes contre les GAFAM en mai dernier. Donc merci encore pour l’aide que vous apporterez aujourd’hui ! Nous reviendrons la semaine prochaine plus en détail sur les arguments que nous aurons envoyés.

Merci !

Contribuez ici

]]>
[Zdnet.Fr] 10 ans au compteur mais la Quadrature a toujours besoin de vos donshttps://www.laquadrature.net/?p=12476http://streisand.me.thican.net/laquadrature.net/index.php?20181127_120000__Zdnet.Fr__10_ans_au_compteur_mais_la_Quadrature_a_toujours_besoin_de_vos_donsTue, 27 Nov 2018 11:00:00 +0000La Quadrature a donné jeudi 15 novembre le coup d’envoi à sa campagne annuelle de collecte de dons. L’association entend revenir à une organisation plus horizontale et entame « un nouveau chapitre » pour marquer les dix ans de son existence.

La Quadrature du net a 10 ans et entend bien poursuivre sur sa lancée. L’association donnait jeudi dernier le coup d’envoi de sa collecte de dons annuels à la maison du libre et des communs, située à Strasbourg Saint-Denis, et en profitait pour faire le point sur l’évolution de l’association de défense des libertés numériques qui avait émergé à l’époque des combats autour de la loi Hadopi. Depuis ces premiers pas remarqués, la Quadrature s’est illustrée à travers de nombreux combats sur des sujets variés touchant aux libertés à l’heure du numérique et à la protection des données personnelles. […]

« L’assemblée générale a été l’occasion de revoir notre organisation et d’adopter une structure plus horizontale et moins hiérarchique » explique Arthur Messaud, membre de la Quadrature, qui se défend d’être porte-parole de l’association, mais qui a tout de même accepté de répondre à nos questions. Si jusqu’alors, l’organisation avait choisi de réserver certains postes spécifiques à ses membres, les sujets abordés par la Quadrature sont aujourd’hui plus vastes et l’association espère que cette nouvelle organisation lui permettra d’être plus en phase avec ces sujets. […]

https://www.zdnet.fr/actualites/10-ans-au-compteur-mais-la-quadrature-a-toujours-besoin-de-vos-dons-39876641.htm

]]>
Le règlement antiterroriste détruira-t-il Signal, Telegram et ProtonMail ?https://www.laquadrature.net/?p=12457http://streisand.me.thican.net/laquadrature.net/index.php?20181126_124056_Le_reglement_antiterroriste_detruira-t-il_Signal__Telegram_et_ProtonMail___Mon, 26 Nov 2018 11:40:56 +0000Il y a deux semaines, nous faisions le point sur le projet de règlement européen de censure antiterroriste. Pour rappel, ce texte imposera à l’ensemble des acteurs de l’Internet des obligations de censure irréalistes : retrait en une heure des contenus signalés par la police, surveillance de tous les contenus conduisant à une censure automatisée…

Aujourd’hui, nous revenons sur un autre danger de ce texte : en visant non seulement les contenus diffusés au public, mais également ceux échangés dans un cadre privé (comme les mails et les messageries instantanées), ce texte risque de mettre fin à la possibilité de protéger nos échanges par le chiffrement de bout en bout.

Une lecture attentive des dispositions du règlement révèle en effet que ce dernier ne se limite pas aux contenus diffusés au public.

L’article 2 précise que les acteurs soumis aux obligations de censure sont les « fournisseur de services de la société de l’information qui consistent à stocker des informations fournies par le fournisseur de contenus à la demande de celui-ci et à mettre ces informations à la disposition de tiers ». Le considérant 10 du même texte donne comme exemple, outre les réseaux sociaux, « les services de partage de fichiers vidéo, audio et images, les services de partage de fichiers et autres services en nuage, dans la mesure où ils mettent ces informations à la disposition de tiers […] ».

Cette notion de « mise à disposition de tiers » est bien différente de la notion plus habituelle de « mise à disposition du public » qui apparait, par exemple, dans la LCEN de 2004 où les hébergeurs sont définis comme ceux « qui assurent, même à titre gratuit, pour mise à disposition du public par des services de communication au public en ligne, le stockage de signaux, d’écrits, d’images, de sons ou de messages de toute nature » (article 6, 2). Les contenus hébergés sur les « services en nuage » (qu’on comprend renvoyer à des services comme Nextcloud ou Dropbox) ne sont généralement pas « mis à disposition du public » mais uniquement accessibles par un nombre restreint d’utilisateurs. Le nouveau règlement européen les vise pourtant.

Or, si le texte du règlement ne se limite pas aux contenus diffusés au public, mais englobe ceux qui sont transmis à tout tiers, cela signifie qu’il peut s’appliquer à des services de courriers électroniques, comme les mails et les messageries instantanées (Whatsapp, Signal, Telegram…). Ces derniers, au moins jusqu’à la consultation du message, stockent en effet un contenu fourni par un utilisateur afin de le mettre à disposition d’un ou plusieurs tiers1Voir par exemple les conditions d’utilisation de Signal, qui indiquent bien conserver les messages le temps de leur réception..

Ils seront alors, comme les autres acteurs de l’Internet (forums, réseaux sociaux, blogs…), soumis aux obligations de retrait et de censure automatisée prévues par le règlement.

Des obligations incompatibles avec le chiffrement de bout en bout

Pourtant, certains de ces services protègent nos échanges privés grâce à des technologies de chiffrement de bout en bout, c’est-à-dire des systèmes de communications « où seules les personnes qui communiquent peuvent lire les messages échangés », l’objectif étant de « résister à toute tentative de surveillance ou de falsification ».

Comme nous l’expliquions dans nos positions communes avec l’Observatoire de Libertés et du Numérique (OLN), cette capacité de chiffrement « est une condition indispensable à la préservation des droits et libertés fondamentales, et l’un des derniers remparts, individuels et collectifs, aux intrusions arbitraires et illégales de nombreux acteurs, étatiques, privés, ou criminels ».

Comment alors les services de messageries et de mails qui prévoient ce type de protection (Signal, ProtonMail…) pourront respecter les obligations de surveillance et de censure prévues dans le texte si l’ensemble des messages stockés sont chiffrés et leur sont donc indisponibles ?

Le silence du règlement laisse entrevoir le pire : le chiffrement de bout en bout, c’est-à-dire la protection de nos échanges privés, serait contraire aux obligations prévues par ce texte et ne pourrait donc que disparaitre.

En effet, il est difficile d’imaginer comment ces services, comme tous les autres acteurs de l’Internet, pourront survivre à ces nouvelles obligations : il est peu probable qu’ils acceptent d’abandonner ce chiffrement de bout en bout et de sous-traiter la surveillance de leurs services à un géant du Web – ce qui est la solution que le gouvernement français semble espérer déjà au moins en matière d’hébergement de contenus publics.

Quant à Facebook lui-même, il est étonnant qu’il ait laissé passer ce texte sans voir ni comprendre le danger qu’il pourrait comporter pour son service de messagerie Whatsapp, lui aussi protégé par le chiffrement. La pire des situations serait que Facebook soit en train de renoncer à cette technologie pour s’allier, avec les gouvernements, à la surveillance de l’ensemble de nos échanges, qu’ils soient privés et publics. Il y a quelques semaines, Mark Zuckerberg expliquait d’ailleurs que le chiffrement compliquait l’automatisation de la censure.

Par ce texte, le gouvernement pourrait trouver une manière détournée de gagner un combat qu’il mène depuis longtemps et qui le frustre particulièrement : celui de la lutte contre le chiffrement de nos conversations.

Le règlement, en cours d’examen devant le Parlement européen, remettrait ainsi en cause un droit pourtant essentiel pour garantir nos libertés fondamentales face aux possibilités d’arbitraire de l’État et de la surveillance généralisée d’acteurs privés.

De nouveau, nous en demandons le rejet.

Rappelons que les délais pour agir sont extrêmement brefs : les gouvernements européens (en tête, la France) veulent faire adopter le texte le plus rapidement possible, au détriment de tout débat démocratique. Le Conseil de l’Union européenne se réunit ainsi à Bruxelles dès les 6 et 7 décembre en vue de parvenir à une position commune.

References   [ + ]

1. Voir par exemple les conditions d’utilisation de Signal, qui indiquent bien conserver les messages le temps de leur réception.
]]>
[EN DIRECT] ! Débat sur le statut des hébergeurs, La Paillasse, Paris.https://www.laquadrature.net/?p=12106http://streisand.me.thican.net/laquadrature.net/index.php?20181121_190044__EN_DIRECT_____Debat_sur_le_statut_des_hebergeurs__La_Paillasse__Paris.Wed, 21 Nov 2018 18:00:44 +0000Suivez en direct Le débat sur le statut des hébergeurs, à la Paillasse, Paris



Si vous n’avez pas de navigateur compatible HTML5, vous pouvez aussi voir directement le flux live en faisant pointer votre player habituel (tel VLC ou MPlayer) à l’adresse suivante :

https://radio.octopuce.fr/ts1/stream.m3u8

]]>
[RFI] Les GAFAM, géants du Net, sont-ils en règle sur la protection des données ?https://www.laquadrature.net/2018/11/16/rfi-les-gafam-geants-du-net-sont-ils-en-regle-sur-la-protection-des-donnees/http://streisand.me.thican.net/laquadrature.net/index.php?20181116_185953__RFI__Les_GAFAM__geants_du_Net__sont-ils_en_regle_sur_la_protection_des_donnees___Fri, 16 Nov 2018 17:59:53 +0000[RFI] Les GAFAM, géants du Net, sont-ils en règle sur la protection des données ?

Après avoir été reçu à l’Elysée par Emmanuel Macron, le PDG d’Apple s’exprime ce mercredi au Parlement européen lors d’une conférence sur la confidentialité. L’occasion pour Tim Cook d’évoquer le nouveau RGPD, le règlement général sur la protection des données. Présenté comme une révolution en matière de droits numériques, il contraint les entreprises à obtenir le consentement des internautes européens pour utiliser leurs données personnelles mais les géants du Net sont accusés de ne pas le respecter.

Entré en vigueur le 25 mai dernier, le RGPD n’a pas tardé à produire ses premiers effets. La CNIL, la Commission nationale de l’informatique et des libertés, a publié un premier bilan sur les quatre premiers mois d’application du texte. Sur cette période, le gendarme français des données personnelles a reçu 3767 plaintes soit une hausse de 64%, signe d’une prise de conscience du grand public sur cette question. Par ailleurs, la CNIL a été saisie de plusieurs plaintes collectives. Ce type de procédure est l’une des grandes nouveautés introduites par le RGPD.

En France, l’association de défense des libertés sur la toile, la Quadrature du Net, a ainsi déposé cinq plaintes collectives regroupant 12 000 personnes contre Google, Amazon, Apple, Facebook et Microsoft. Principal reproche fait à ces entreprises américaines : la tactique du « à prendre ou à laisser ». Soit l’utilisateur accepte les conditions d’utilisation et donc cède ses données personnelles, soit il n’a plus accès au service, ce qui est interdit par le RGPD. […]

[RFI] Les GAFAM, géants du Net, sont-ils en règle sur la protection des données ?

]]>
Soutenons notre Internet !https://www.laquadrature.net/?p=12174http://streisand.me.thican.net/laquadrature.net/index.php?20181115_170410_Soutenons_notre_Internet___Thu, 15 Nov 2018 16:04:10 +0000Depuis 10 ans, vos dons nous permettent de défendre notre vision d’un Internet idéal — un idéal que nous espérons avoir en commun avec vous. Nous lançons aujourd’hui notre campagne de dons annuelle, avec un objectif de 320 000 € de collecte, comme l’an dernier.

Nous voulons surtout profiter de ce moment pour aborder un sujet qui nous tient à cœur, mais dont nous parlons peu tant nous croulons chaque jour sous de nouvelles menaces contre nos libertés. C’est pourtant ce sujet qui nous anime au quotidien, qui nous fait veiller tard le soir et inspire chacune des phrases que nous écrivons aux juges ou aux parlementaires, ou à vous, pour partager nos inquiétudes et proposer des façons de se défendre.

Cette année, nous prendrons donc l’occasion de notre campagne de dons pour vous parler de l’internet de nos rêves, de « notre Internet ». Certes il y a les GAFAM, Macron, la Technopolice galopante, mais l’espace d’un instant au moins, ayons la sagesse de rêver — de nous rappeler que nous ne luttons pas seulement contre un futur terrible mais, surtout, pour un monde idéal.

Notre Internet idéal est dans les mains de toutes les personnes qui l’utilisent. Il n’a pas de centre ni de maître mais se construit et s’invente collectivement. Pour nous, la meilleure façon d’en parler a donc été de donner la parole à celles et à ceux qui le construisent au quotidien : qui posent des câbles et maintiennent une infrastructure collective face aux FAI géants ; qui développent des logiciels permettant une répartition plus juste des pouvoirs de modérations sur Internet ; qui font tout pour permettre à chaque personne de construire son petit bout d’Internet autogéré ; qui se battent devant les juges pour que les lois ne nous empêchent pas de façonner Internet à notre façon, en nous imposant censure et surveillance.

Au cours de l’année dernière, nous avons eu l’honneur d’accueillir nombre de ces personnes en tant que membres de notre association. Nous espérons que cette campagne de dons reflétera la nouvelle diversité de tons, d’expériences et d’idéaux offerte par cette ouverture, si propre à l’Internet de nos rêves.

Nous avons aussi donné la parole au-delà, à nos alliés de longue date, pour réunir au final une quinzaine de personnes sur quatre vidéos. Une pour chaque facette de notre idéal : un Web où nos règles sont décidées collectivement, sans censure imposée par l’État ou des entreprises ; une infrastructure physique gérée par la population ; un monde libre de toute surveillance généralisée ; le développement de services ne reposant pas sur l’exploitation commerciale de notre identité.

Nous diffuserons ces vidéos au cours des semaines à venir, après la publication dès ce soir, lors de notre soirée de lancement de campagne, d’une première vidéo plus poétique, reprenant en dessins l’histoire de l’Internet telle que nous la voyons aujourd’hui. La diffusion de ces vidéos s’accompagnera d’un ou deux événements publics par semaine (voir le programme).

Exprimer nos rêves apparaît aussi comme une forme de bilan : l’occasion appropriée pour saluer notre bon vieux site Internet, qui nous aura longtemps accompagné·es malgré son âge vieillissant, et d’en accueillir un tout nouveau, tel que vous le voyez !

Merci à toutes les personnes qui partagent ces rêves, que nous espérons encore défendre une année de plus, grâce à vous.

]]>
Censure antiterroriste : Macron se soumet aux géants du Web pour instaurer une surveillance généraliséehttps://www.laquadrature.net/?p=11968http://streisand.me.thican.net/laquadrature.net/index.php?20181114_161459_Censure_antiterroriste____Macron_se_soumet_aux_geants_du_Web_pour_instaurer_une_surveillance_generaliseeWed, 14 Nov 2018 15:14:59 +0000Il y a deux mois, la Commission européenne a publié sa proposition de règlement « censure antiterroriste ». Nous le dénoncions, expliquant que ce projet aura pour effet de détruire l’ensemble du Web décentralisé. Depuis, nous avons rencontré les ministères français en charge du dossier : nos craintes se sont amplifiées.

La France, avec le soutien de l’Allemagne et du Parlement européen, va tout faire pour empêcher un débat démocratique sur ce texte : le gouvernement n’en parle pas dans la presse, veut forcer son adoption urgente et invoque le secret-défense pour empêcher tout débat factuel.

Pourquoi tant de secret ? Probablement parce que ce texte, écrit en collaboration avec Google et Facebook, aura pour effet de soumettre l’ensemble du Web à ces derniers, à qui l’État abandonne tout son rôle de lutte contre les contenus terroristes. La collaboration annoncée lundi par Macron entre l’État et Facebook n’en est que le prémice, aussi sournois que révélateur.

Pour rappel, le texte, poussé par la France et l’Allemagne, utilise le prétexte de la lutte contre le terrorisme pour soumettre l’ensemble des hébergeurs (et pas seulement les grandes plateformes) à des obligations extrêmement strictes :

  • retrait en une heure de contenus qualifiés de terroristes par une autorité nationale (en France, ce sera l’OCLCTIC, le service de la police chargé de la cybercriminalité) ;
  • la mise en place d’un « point de contact » disponible 24h/24 et 7j/7 ;
  • l’instauration de « mesures proactives » pour censurer les contenus avant même leur signalement ; si ces mesures sont jugées insatisfaisantes par les États, ces derniers peuvent imposer des mesures spécifiques telles que la surveillance généralisée de tous les contenus.

D’un point de vue humain, technique et économique, seules les grandes plateformes qui appliquent déjà ces mesures depuis qu’elles collaborent avec les polices européennes seront capables de respecter ces obligations : Google, Facebook et Twitter en tête. Les autres acteurs n’auront d’autres choix que de cesser leur activité d’hébergement ou (moins probable, mais tout aussi grave) de sous-traiter aux géants l’exécution de leurs obligations.

Ce texte consacre l’abandon de pouvoirs régaliens (surveillance et censure) à une poignée d’acteurs privés hégémoniques. Pourtant, la Commission et les États membres, en 146 pages d’analyse d’impact, ne parviennent même pas à expliquer en quoi ces obligations pourraient réellement être efficaces dans la lutte contre le terrorisme.

Voir notre analyse (PDF, 1 page).

Un débat impossible

Ces dernières semaines, nous avons fait le tour des ministères chargés de la rédaction et de la négociation de ce texte au niveau européen. Il en résulte que le gouvernement français, chef de file sur ce dossier, veut convaincre les autres États membres et les institutions de l’Union européenne d’adopter le texte tel qu’il est écrit aujourd’hui, et dans un calendrier très serré (adoption avant les élections européennes de mai 2019) afin d’empêcher tout débat démocratique sur le sujet.

Tout montre que le Parlement européen est prêt à collaborer avec les États membres pour faire adopter ce règlement sans débat. Helga Stevens (Belgique, ECR – conservateurs), rapporteure principale sur ce texte, a déjà publié en juin, et de sa propre initiative, un rapport qui présente les mêmes idées reprises dans ce règlement.

Les « rapporteurs fictifs » (les députés désignés par leur parti politique pour négocier le texte) sont en majorité tout aussi alignés sur ces positions, à l’image de Rachida Dati (France, PPE – droite européenne) et de Maite Pagazaurtundua (Espagne, ALDE – libéraux) qui défendent depuis longtemps l’idée d’une telle censure. Eva Joly (France, Verts) avait pour sa part accepté sans souci la censure privée dans la directive terroriste, finalement adoptée début 2017. Il semblerait que, cette fois, le texte aille trop loin pour elle et nous espérons qu’elle saura se battre contre.

Toutefois, dans la perspective des élections européennes, aucun parti politique du Parlement européen ne semble prêt à combattre la stratégie sécuritaire du gouvernement français, en lien avec l’Allemagne et d’autres États membres. Alors que ce texte semble directement inspiré par les politiques autoritaires mises en place par le gouvernement chinois pour contrôler Internet, Emmanuel Macron et Angela Merkel démontrent que leur « axe humaniste » mis en exergue dans le cadre de la campagne des européennes n