Vidéosurveillance
Jusqu’où ?

Raphaël Brun
-

Vidéosurveillance, reconnaissance faciale, intelligence artificielle, algorithmes… Alors que les avancées technologiques accompagnent les besoins sécuritaires des Etats, les questions d’éthiques et de respect de la vie privée refont surface. Jusqu’où peut-on aller à Monaco ?

L’exemple a choqué et a fait la “une” de la presse. La Chine a déployé un réseau de 20 millions de caméras dirigé par des intelligences artificielles à Shenzhen, dans la région du Guangdong, un territoire de 100 millions d’habitants. Baptisé “réseau céleste”, il est capable d’analyser plusieurs millions de visages, jour et nuit. « Le système peut identifier en temps réel avec exactitude le type de voiture, l’habillement, le sexe et même l’âge d’un passant… Ces informations sur les passants s’affichent automatiquement à l’écran. Quand il s’agit d’un criminel recherché, l’alarme du système se déclenche en montrant les données le concernant sur l’écran », explique l’Apple Daily, un journal de Hong Kong cité par Courrier International. Rien qu’à Shenzhen, 1,3 million de caméras ont été installées. « Nous savons découper une image et analyser chacun de ses éléments, séparément. A chaque piéton, chaque cycliste, chaque automobiliste, chaque passager correspond son algorithme de recherche et d’identification par reconnaissance faciale », explique Chai Zhu, l’un des concepteurs du système chez l’équipementier Huawei, à nos confrères de L’Obs’. Or, après les Etats-Unis, la France et la Grande-Bretagne suspectent Huawei d’espionnage. Ses équipements de télécommunication sont interdits à la vente aux Etats-Unis, qui rappelle que son fondateur est un ancien ingénieur militaire, ce qui crée une trop grande proximité avec l’armée chinoise, estime-t-on du côté américain. De plus, Huawei a continué de travailler avec l’Iran, et ce, malgré l’embargo. Dans une interview accordée au magazine Foreign Policy, Michael Chertoff, l’ancien ministre américain de la sécurité territoriale, a estimé qu’il y avait « une véritable suspicion que Huawei agisse au service de l’Etat chinois. Lorsque vous construisez les réseaux, vous pouvez facilement y installer des accès masqués pour contrôler les flux de données qui y transitent ».

PEACE

Bloquée aux Etats-Unis, Huawei mise sur l’Afrique, où ils détiennent 15 % du marché de la téléphonie mobile. Présents dans une vingtaine de pays, Huawei est aussi impliqué dans le projet de câble sous-marin de télécommunication entre l’Asie et l’Afrique, le Pakistan East Africa Cable Express (PEACE). En parallèle, d’autres professionnels chinois spécialisés dans ces technologies percent aussi en Afrique. Notamment CloudWalk Technology, une entreprise de Canton, qui vient d’être chargée par le gouvernement zimbabwéen, via un contrat de coopération, de lancer la reconnaissance faciale dans ce pays. De son côté, Huawei se défend, et assure qu’il ne diffuse pas les données personnelles de ses clients auprès du gouvernement chinois. Huawei rappelle aussi qu’aucune preuve concrète ne vient étayer ces soupçons. En tout cas, Monaco ne semble pas partager ces craintes. En effet, Huawei travaille avec Monaco Telecom depuis 2013. Un partenariat qui a notamment permis à la principauté de développer son réseau mobile 4G, ouvert en avril 2017, commercialisé comme étant « le premier réseau commercial mobile au monde offrant jusqu’à 1 Gigabit/s ». Et ce partenariat va même plus loin, puisqu’en mars 2018, Monaco Telecom a annoncé qu’il travaillerait en collaboration avec Huawei pour le développement de la Smart City en principauté. La Chine surfe donc sur ce marché prometteur, notamment avec des fabricants comme Hikvision et Dahua Technology, installés à Hangzhou, dans l’est du pays. Ou encore SenseTime, une start-up spécialisée dans la reconnaissance faciale, qui a le gouvernement chinois pour client. Mais, désormais, ces réussites économiques se heurtent à la méfiance qui prévaut à l’international, chaque pays étant soucieux de conserver sa souveraineté. Si rien n’a été démontré à ce jour, les caméras d’Hikvision sont sur la sellette aux Etats-Unis, où l’on redoute des fuites, volontaires ou non, au profit de la Chine.

« Crédit social »

Au total, la Chine compte 170 millions de caméras, dont beaucoup à reconnaissance faciale. Et le pays devrait en avoir installé 680 millions d’ici 2020. Selon le South China Morning Post, plus de 30 agences militaires et gouvernementales chinoises utiliseraient des drones high-tech qui ressemblent et se déplacent comme des oiseaux, d’où leur nom, « Dove » [colombe — N.D.L.R.]. Chaque « Dove » embarquerait une caméra haute définition, un système de contrôle de vol, une antenne GPS, une liaison de données avec communication par satellite et une intelligence artificielle. À terme, l’objectif est de surveiller le quotidien de 1,4 milliard de Chinois et d’instaurer ce que certains appellent déjà une « contrôlocratie ». Le système, qui ne devrait entrer en vigueur qu’en 2020, fonctionnera sur la base d’un « crédit social ». Le régime chinois devrait alors disposer de suffisamment d’informations collectées au fil du temps, que l’on soit dans la rue, à l’école, au travail, à l’hôpital, en train de faire du sport… En analysant ces données, chacun se verra alors donner un degré « d’honnêteté ». Ce qui permettra également d’évaluer le potentiel de dangerosité de chaque citoyen chinois pour la société. Ensuite, selon les notations obtenues, différentes sanctions sont prévues : interdiction d’obtenir une carte de crédit ou un prêt bancaire, interdiction de prendre l’avion ou le train, d’accéder à une bonne école pour ses enfants, de faire des achats sur internet, de réserver une chambre dans un bon hôtel, d’obtenir un emploi dans le secteur public… Chaque « incivilité » fait plonger la note et limite les droits et les libertés de la personne concernée. On pense forcément à la série Black Mirror et son épisode Chute libre, le premier épisode de la troisième saison, dans lequel les gens se notent les uns les autres, les moins bien notés finissant par être totalement exclus. Sauf que la fiction est désormais rattrapée par la réalité. Ce modèle très orwellien est donc déjà sur les rails en Chine, où un Etat hypertechnologique est en train de naître. Depuis son arrivée en 2012 à la tête du Parti et de l’Etat, Xi Jinping, matérialise ainsi, peu à peu, son désir de contrôle absolu.

 

Videosurveillance-@-Kristian

 

« Vidéo intelligente »

À des milliers de kilomètres de la Chine, à Monaco, la sûreté publique s’appuie pour sa part sur un réseau de 740 caméras réparties sur les 2 km2 du territoire. Avec une caméra pour 51 personnes et 550 fonctionnaires de police, le maillage est serré. Et il devrait l’être encore un peu plus dans les années à venir, comme l’avait expliqué en janvier 2018 le directeur de la sûreté publique, Richard Marangoni, à Monaco Hebdo : « On a installé nos premières caméras en 1982. On était des précurseurs. A l’époque, c’était mal perçu. Le prince Rainier III a été visionnaire : aujourd’hui, une grande ville sans caméra, c’est inenvisageable. On cherche donc à développer la capacité de la caméra. » Et parmi les pistes envisagées, on trouve la vidéosurveillance « intelligente » : « C’est un développement fort de notre plan, sûreté publique 2020. Avec la vidéo traditionnelle, la caméra observe, elle filme. Avec la vidéo intelligente, la caméra cherche. » Quant à la reconnaissance faciale, Richard Marangoni estime qu’il s’agit d’une « piste de réflexion. Peu de pays l’ont, car ça coûte très cher. Mais s’il y a une pertinence à l’installer en Principauté, pourquoi pas ? » Pour tenter d’aller un peu plus loin, et mieux comprendre ce que sont les positions du gouvernement sur ce sujet, notamment sur le volet éthique et respect de la vie privée, nous avons questionné le gouvernement. Il n’a pas souhaité donner suite à notre demande.

« Sécurité numérique »

Toujours du côté des politiques, Monaco Hebdo a interrogé les trois groupes élus au Conseil national. Horizon Monaco (HM) et Union Monégasque (UM) n’ont pas répondu à nos questions avant le bouclage de ce numéro d’été, le 31 août 2018. Seule la majorité Priorité Monaco (Primo!) a pris position, par l’intermédiaire de Thomas Brezzo. Le président de la commission de législation du Conseil national, estime que la principauté « poursuit une politique ambitieuse de sécurité nationale et de sécurité numérique, adaptée aux enjeux du contexte actuel, à laquelle le Conseil national est très attaché et participe, notamment par le vote des crédits qui lui sont dédiés ». L’attractivité de Monaco passe aussi par la sécurité, donc pas question de lésiner sur les moyens. Lors du vote du budget primitif 2018, suite au vote de la loi n° 1430 du 13 juillet 2016, évoquant une série de mesures concernant la « préservation de la sécurité nationale », un article dédié à la sécurité nationale, « doté de plusieurs millions d’euros » a d’ailleurs été créé pour regrouper toutes les dépenses de ce type. Ce qui vient s’ajouter à l’article consacré à la sécurité numérique. Notant que certaines dépenses de la sûreté publique sont à la hausse en 2018, notamment en ce qui concerne le développement de la télésurveillance, Thomas Brezzo juge cela cohérent : « Dans un contexte international à risque, une priorité est donnée à la poursuite du renforcement des moyens en matière de sécurité nationale et de sécurité numérique, avec notamment des projets destinés à la sécurisation de sites publics dits « sensibles » et aux systèmes d’information. » Alors, faut-il en faire encore plus avec la vidéosurveillance en principauté ? La réponse est « oui » pour cet élu Primo! : « Dans ce contexte, la vidéoprotection est plus que jamais nécessaire et joue un rôle essentiel. Elle est aujourd’hui un moyen de protection contre des actes malveillants. Les services de lutte contre la délinquance ne peuvent pas ne pas avoir recours aux nouvelles technologies, en tant qu’outil pouvant servir à la prévention, comme à la répression des actes délictueux, dans le but de protéger la population. »

CCIN

Mais pas question pour autant d’éluder les questions d’éthiques et de respect de la vie privée. Surtout en principauté, un pays où, si l’on est très attaché à la sécurité, on l’est tout autant sur l’anonymat et la discrétion. Et les questions ne manquent pas. Qui doit surveiller la vidéosurveillance ? Qui contrôle la masse des données ? Qui peut garantir que cette surveillance ne viendra pas servir les intérêts de l’Etat ? Pour éviter les dérapages, Thomas Brezzo rappelle l’intérêt de la loi n° 1430 votée récemment, et qui a pour objectif de « concilier les impératifs liés à la sécurité avec les droits de la population ». Pour l’essentiel, les textes disent que « les autorités administratives compétentes ne peuvent recourir à des moyens de vidéoprotection en vue de capter, transmettre, enregistrer et exploiter des images prises sur la voie publique ou dans des lieux ouverts au public, que dans les cas limitativement énumérés à l’article 5 de la loi n° 1430 du 13 juillet 2016 portant diverses mesures relatives à la préservation de la sécurité nationale, et notamment pour la préservation des atteintes à la sécurité des personnes et des biens, ainsi que pour la sécurité des manifestations ouvertes au public », rappelle le président de la commission de législation. Ce texte précise aussi que, pour protéger la vie privée, « les opérations de vidéoprotection de la voie publique sont réalisées de telle sorte qu’elles ne permettent pas la visualisation des images de l’intérieur privatif des immeubles d’habitation ». De plus, l’installation d’un système de vidéoprotection nécessite une autorisation du ministre d’État. Quant aux personnes privées qui souhaiteraient installer des caméras, pas question, là encore, de faire n’importe quoi. La commission de contrôles des informations nominatives (CCIN) indique clairement que les systèmes de vidéosurveillance ne doivent pas être utilisés pour contrôler le travail ou le temps de travail des salariés. Quant aux caméras installées dans les immeubles, la CCIN rappelle que ces systèmes doivent être exclusivement destinés à assurer la sécurité des personnes et des biens. En revanche, la vidéosurveillance est interdite dans les couloirs d’accès aux appartements, dans les bureaux ou près des postes de travail des salariés et en direction de la voie publique. Quant à la durée de conservation des images, la CCIN estime qu’elle devrait être d’un mois.

« Science-fiction »

Alors, faudrait-il en faire plus à Monaco pour protéger la vie privée des Monégasques et des résidents ? En France, en plus de la commission nationale de l’informatique et des libertés (CNIL) qui possède des pouvoirs d’enquête et de sanctions si nécessaire, des comités d’éthique ont été créés dans certaines villes, à partir de 2010. Si Paris dispose d’un comité d’éthique de la vidéoprotection, Nice, dont la municipalité a mis en place un parc de 950 caméras, soit 27 au km2, n’en a pas. Il faut dire que ces comités d’éthique ne sont pas obligatoires. Et aujourd’hui, leur fonctionnement et leurs moyens d’action sont remis en cause. Dans une majorité de villes, leurs membres sont issus de la majorité élue aux municipales, ce qui pose la question de l’indépendance réelle de ces structures. Enfin, leur activité reste extrêmement faible, à la fois par manque de budget et par manque de visibilité, la CNIL étant prioritairement saisie. D’après Le Monde, le comité d’éthique de Lyon n’avait reçu en 2012 que deux courriers en 11 ans d’existence. Et encore, ces recours concernaient des caméras privées. Du coup, si la question de la mise en place d’un comité d’éthique indépendant se posait un jour à Monaco, ces interrogations sur les moyens financiers et l’indépendance, mais aussi la visibilité de ce type de structure, se feront jour. En attendant, c’est l’Europe qui vient peser sur ces problématiques d’éthique et de respect de la vie privée. « L’entrée en vigueur du règlement européen sur la protection des données (RGPD) et les prochaines évolutions de la législation monégasque qui devront en découler, appelleront probablement un renforcement du rôle de la CCIN », estime Thomas Brezzo. Avant d’ajouter : « Il ne faut pas non plus tomber dans les excès auxquels pourrait conduire l’utilisation à outrance de cette technologie. Le contrôle par le citoyen de ses propres données est sans doute l’enjeu crucial auquel seront confrontées les démocraties modernes. » Pourrait-on toutefois imaginer un système identique en principauté, avec des Monégasques surveillés et sanctionnés en cas d’incivilités, privés d’aides sociales, d’emplois dans la fonction publique, ou de logements domaniaux ? Pour Thomas Brezzo, la réponse est claire : « On peut rappeler que tout cela relevait jusqu’alors de la science-fiction, à l’image de la série Black Mirror. Il n’est évidemment nullement question d’importer de telles méthodes en principauté, pays où la liberté individuelle est une valeur essentielle à laquelle nous sommes tous attachés ». Un attachement et une vigilance politique qui placent Monaco loin de la Chine et de son système de « crédit social ». Pour que la science-fiction reste de la science-fiction en principauté.

 

« Notre vigilance doit être constante »

Laurent Mucchielli est directeur de recherche au CNRS, au laboratoire méditerranéen de sociologie d’Aix-en-Provence (1). Alors qu’il vient de publier Vous êtes filmés ! Enquête sur le bluff de la vidéosurveillance, il a répondu aux questions de Monaco Hebdo.

Laurent-Mucchielli-0003-@-DR

Pourquoi avoir publié cette enquête sur la vidéosurveillance ?

D’abord parce que c’est typiquement une façon de pratiquer mon métier de chercheur au CNRS, spécialisé depuis 20 ans dans les questions de sécurité. Ensuite, parce que je crois essentiel d’évaluer réellement les politiques publiques, et non de s’en tenir à des discours et à des postures, comme c’est trop souvent le cas sur ces questions très politisées et très médiatisées. Enfin, parce que j’ai réalisé à plusieurs reprises des enquêtes de terrain dans des villes de toute taille, de la petite ville de 7 000 habitants à la grande de 870 000, et que j’ai pu observer en détail le fonctionnement la vidéosurveillance en ayant accès à des informations qui ne sont jamais rendues publiques. En résumé, j’essaye de faire mon métier de chercheur, en venant mettre un peu de transparence et d’objectivité dans un univers souvent dominé par l’émotion et la démagogie.

Quelle a été votre méthode de travail ?

Dans chaque ville où j’ai enquêté, j’ai appliqué les méthodes classiques des sciences sociales. J’ai interviewé tous les acteurs concernés : policiers, magistrats, techniciens, élus… J’ai analysé toute la documentation disponible : rapports et bilans d’activité, budgets, registres divers et variés. J’ai aussi observé les professionnels en train de travailler.

Comment ?

Par exemple, en m’enfermant une semaine entière dans un centre de vidéosurveillance pour voir les opérateurs au travail du matin au soir. J’ai dépouillé des archives, des archives municipales, des dossiers de police ou de gendarmerie. Enfin, à plusieurs reprises, j’ai même réalisé des enquêtes en population générale, des sortes de sondages, sur les habitants de ces villes.

L’objectif de ces enquêtes ?

Connaître à la fois leurs éventuelles expériences de la victimation ainsi que leurs représentations et leurs attentes. Par ailleurs, depuis plusieurs années, j’ai constitué une revue de presse nationale, afin de vérifier que mes conclusions sont généralisables. Et j’ai bien entendu lu les recherches équivalentes produites par mes collègues chercheurs dans d’autres pays occidentaux, en particulier l’Angleterre, les États-Unis et la Canada.

Vos principales conclusions ?

J’ai constaté fondamentalement cinq choses. D’abord, enregistrer des images utilisables ensuite par les policiers ou les gendarmes dans leurs enquêtes a une efficacité parfois avérée, mais en réalité très rare. Si on adopte une vue globale, la présence d’images utiles n’est avérée que dans 1 à 3 % du total des enquêtes réalisées dans l’année entière sur chaque commune. On peut alors penser que « c’est toujours ça de pris », et c’est ce que disent légitimement les policiers. Mais on peut aussi reconnaître que c’est très peu et s’interroger sur le rapport coût-avantage.

Le second point ?

Ensuite, j’ai constaté que chercher à sécuriser un lieu précis à l’aide de la vidéo, comme le parking d’une gare où ont lieu beaucoup de vols dans les voitures, ou bien un square où a lieu du deal de drogues, conduit effectivement à réduire le problème à cet endroit précis. Mais cela ne le fait pas disparaître. Ça le déplace vers un autre endroit de la ville.

Quoi d’autre ?

Troisièmement, je montre clairement qu’employer des agents municipaux, policiers ou agents de surveillance de la voie publique (ASVP), pour regarder les écrans dans un centre de supervision urbain (CSU) est à peu près inutile du point de vue de la lutte contre la délinquance. Cette « détection en direct » étant très faible, cela conduit en réalité à un détournement du système vers d’autres usages, le plus rentable étant la vidéoverbalisation.

Mais les autorités peuvent décider d’utiliser la vidéo dans ce but ?

Une ville peut bien entendu faire ce choix. Mais, dans ce cas, il faut dire la vérité à la population : les caméras ne la protègent pas des vols ou des agressions, elle accroissent la répression des infractions routières.

Et votre cinquième point ?

Je montre que la construction d’un CSU et l’emploi d’agents municipaux coûte cher et réduit les effectifs disponibles sur le terrain. Or, dans toutes les villes où j’ai enquêté, les élus et les chefs de police disent regretter de ne pas pouvoir faire de la police de proximité faute d’effectifs. C’est une contradiction majeure.

Beaucoup d’élus parlent aussi de la protection face au risque terroriste, surtout depuis l’attentat contre Charlie Hebdo, en janvier 2015 ?

Oui, c’est ma cinquième conclusion. Dire que la vidéosurveillance aide à nous protéger du terrorisme est pourtant au mieux une sottise, au pire un mensonge. Il faut hélas se souvenir du 14 juillet 2016 à Nice. C’est la grande ville la plus vidéosurveillée, avec un réseau de près de 2 000 caméras et 125 fonctionnaires territoriaux affectés au CSU. Un investissement énorme, qui a lourdement endetté la ville. Après Charlie Hebdo, le maire de Nice avait déclaré devant le Conseil municipal que, chez lui, « les frères Kouachi n’auraient pas passé trois carrefours avant d’être neutralisés et interpelés ».

Le résultat ?

Le résultat, c’est que le terroriste a fait une douzaine de repérages sur la Promenade des Anglais, avec son camion, dont le tonnage est interdit de circulation à cet endroit, et que personne ne l’a jamais remarqué. Dans tous les cas d’attentats survenus ces dernières années, quand le terroriste a survécu, ce qui est assez rare, beaucoup d’attentats étant en même temps des suicides, on retrouve des images de lui, après coup. Quand tout le monde est déjà mort. Cela ne sert donc à rien. Et c’est même, au contraire, utilisé par nos ennemis dans leur stratégies d’endoctrinement des jeunes.

Que faire alors contre la menace terroriste ?

Ce qui nous protège réellement du terrorisme, c’est le travail invisible des services de renseignement de l’État, qui peuvent repérer des réseaux se préparant à passer à l’action et les interpeller avant. Quant aux polices municipales, si elles étaient de vraies polices de proximité au contact de la population, elles pourraient contribuer fortement au recueil des renseignements de terrain. Mais au lieu de cela, elles s’évertuent en France à vouloir imiter les polices d’État, en laissant croire que la seule « vraie » police est la police du flagrant délit, c’est-à-dire, en fin de compte, la police de « l’intervention musclée ».

C’est une erreur ?

C’est une erreur terrible, qui fait que la police finit par devenir comme la cavalerie : elle arrive toujours en retard. Au contraire, la force de toute police est avant tout intellectuelle. C’est la qualité de son renseignement qui lui permet d’anticiper, de prévenir puis d’intervenir avec discernement, et non à l’aveugle. C’est vrai aussi bien en police judiciaire, en maintien de l’ordre et en police de proximité, que dans la lutte contre le terrorisme.

Monaco dispose d’un réseau de vidéosurveillance très resserré sur son territoire de 2 km2 : quelle efficacité peut-on en espérer, en termes de sécurité pour les résidents ?

Je ne peux sincèrement pas vous répondre, car Monaco est un territoire particulier et que je n’y ai jamais travaillé. Mais je peux vous dire comment j’y réfléchirais, si on me le demandait. Et la première chose que je ferais, serait d’établir un diagnostic très précis des besoins. Quels sont exactement les problèmes qui se posent ? Qui ? Combien ? Où ? Comment ? Et pourquoi ? Ensuite, et seulement ensuite, je réfléchirais à la façon la plus efficace d’adapter la politique de sécurité.

Des caméras partout, sur un territoire de 2 km2, c’est vraiment dissuasif ?

Mon éthique professionnelle m’interdit de répondre sur un cas particulier que je n’ai pas étudié. Ce que je peux vous dire, en revanche, parce que c’est une vérité générale, c’est que si les petits délinquants pas très malins se font généralement prendre, les délinquants expérimentés et organisés savent préparer leurs coups. Ils s’adaptent aux systèmes de protection qu’ils rencontrent. Rien n’est plus facile pour eux que de voler une voiture ou des plaques d’immatriculation, d’enfiler une cagoule, de s’être procuré à l’avance un code de sécurité, de savoir où sont implantées les caméras, de changer de vêtements et de voiture après un coup, d’utiliser un système de fuite minutieusement préparé, etc.

Que change le développement de la vidéosurveillance, couplé à l’intelligence artificielle, à la biométrie et aux algorithmes ?

Pas grand chose. Cette mode actuelle est essentiellement la conséquence du fort marketing des industriels, de la crédulité générale que provoquent les imaginaires des technologies et de la démagogie des élus. Aux États-Unis, la vidéosurveillance soi-disant « intelligente », notamment le programme « Behavior Detection and Analysis », qui a coûté environ 1,5 milliard de dollars, a été expérimentée dans les aéroports, après les attentats du 11 septembre 2001.

Et ça marche ?

Les évaluations concluent, d’une part, qu’elle est inefficace à prévenir les risques. Et, d’autre part, qu’elle conduit à des pratiques de discriminations. Ensuite, les technologies comme la vidéosurveillance et la reconnaissance faciale fonctionnent avec le citoyen lambda qui ignore qu’il est surveillé ou qui consent à l’être. Elles fonctionnent aussi avec le petit délinquant qui n’est pas malin. Mais pas avec le criminel qui a pensé son action et intégré la technologie dans les paramètres. Et rien n’est plus facile que de dissimuler son visage et de tromper les algorithmes. Enfin, ce que les politiciens et les industriels oublient toujours de dire en France, c’est que qui dit « reconnaissance », dit donc connaissance préalable.

Cela suppose quoi ?

Autrement dit, la reconnaissance faciale pose la question du fichage en amont. Et cette question du fichage est double. D’abord, de la qualité du fichier de personnes recherchées dépend la capacité de la machine à reconnaître. Ensuite, une question de principe : qui est fiché ? Seulement les personnes potentiellement terroristes comme les « fichés S » ? Toutes les personnes ayant un jour été condamnées ? Toute la population ? C’est une question de principe et de droit, qui est importante pour une démocratie.

Justement, la Chine a développé l’identification en temps réel des personnes par des réseaux de caméras de rue (3) ?

Certains, en Europe, crient au Big Brother dès qu’ils voient l’ombre d’une caméra. Ce n’est pas raisonnable. Le droit peut protéger la vie privée et les libertés publiques. Par contre, il est clair que la situation de la Chine actuelle ressemble de plus en plus au cauchemar orwellien. On oublie souvent que, dans son célèbre 1984 publié en 1949, Orwell décrit une dictature, et non une démocratie. Une dictature dans laquelle le gouvernement cherche à contrôler les faits et gestes, ainsi que les pensées des citoyens. C’est bien la pente suivie par l’État en Chine, où les industries de sécurité sont parmi les plus puissantes du monde.

Il faut donc rester vigilant ?

Prenons garde à ce que ce repoussoir ne nous interdise pas de bien réfléchir à ce que nous faisons. Par exemple, veillons à ce que l’arrivée de fichiers, comme celui baptisé « Titres Electroniques Sécurisés » (TES) et qui ambitionne de réunir les données biométriques de la totalité de la population, ne soit pas un jour utilisé pour autre chose que pour délivrer les cartes d’identité et les passeports…

Dans une démocratie, comment accepter l’arrestation d’une personne avant même qu’elle n’ait commis le moindre délit, seulement parce que des machines l’ont repérée, identifiée et analysée de façon prédictive, comme étant une future fauteuse de troubles ?

Attention à ne pas confondre la science-fiction et le réel. Les films à succès sont une chose, le droit français en est une autre. Nul ne peut être puni pour un crime qu’il n’a pas commis, c’est un principe fondamental de l’Etat de droit et de la démocratie. En revanche, rien n’interdit à la police d’user des technologies pour faire du « profilage » en tous genres, chercher à repérer les comportements suspects ou à surveiller les personnes déjà condamnées, par exemple.

L’intelligence artificielle et la reconnaissance faciale semblent prendre de plus en plus de poids aujourd’hui ?

Le principe est ancien, mais les technologies dite d’intelligence artificielle, comme la reconnaissance faciale, donnent à ces discours une nouvelle force de nos jours. On le voit bien dans des déclarations récentes, en juin 2018, du ministre de l’intérieur français, Gérard Collomb, qui fonde apparemment quelques espoirs sur cette reconnaissance, pour repérer notamment ceux que les dirigeants politiques appellent généralement les « casseurs » dans les manifestations. Le marketing des industriels a sans doute bien fonctionné, là encore. Le risque est et sera toujours que ces technologies soient installées au départ pour des objectifs de sécurité légitimes, mais soient, par la suite, détournées à d’autres fins. On l’a bien vu avec l’état d’urgence et ses mesures dérogatoires d’assignation à résidence. Prévu pour lutter contre le terrorisme, en novembre 2015, le dispositif a été utilisé par le gouvernement pour empêcher un certain nombre de militants écologistes de manifester pendant la COP21. C’est le même problème avec les technologies.

Des instances, comme la commission nationale de l’informatique et des libertés (CNIL) en France ou la commission de contrôle des informations nominatives (CCIN) à Monaco, sont-elles suffisantes pour éviter tout dérapage ?

Le problème des autorités administratives de contrôle est triple. Primo, elles interviennent généralement après coup, quand le système est déjà implanté. Secondo, elles manquent cruellement de moyens pour remplir leurs missions. Le cas de la CNIL en France est éloquent. Cette autorité de contrôle est totalement sous-dimensionnée par rapport aux besoins de contrôle des usages des nouvelles technologies. Je pense qu’elle n’a même pas les moyens de contrôler 5 % des dispositifs existant. Tertio, le problème classique des autorités administratives est qu’elles n’ont guère de moyens juridiques de contrainte, et encore moins de sanction. Ceci est un vrai problème. Car la loi est une chose, mais son application, parfois, une autre. La démocratie est garantie d’abord par la loi, mais n’est effective que si, sur le terrain, la loi est totalement appliquée. Et pour le savoir, il faut aller vérifier sur place.

Comment résoudre la problématique entre notre besoin de liberté et une demande de sécurité de plus en plus forte, dans un contexte de menace terroriste ? Des caméras capables d’identifier tout le monde, n’importe où : l’opinion publique est-elle capable d’accepter ça aujourd’hui ?

C’est une autre dimension de mon enquête que j’explicite dans le livre. La connaissance de l’« opinion publique » se limite en fait à des sondages simplistes, interrogeant une population tenue dans l’ignorance et la peur. On nous dit, en substance : « Vous êtes en danger. Nous voulons vous protéger avec la vidéosurveillance. Vous êtes pour ou contre ? ». Immanquablement, 85 % des personnes interrogées répondent qu’elles sont pour. Mieux, quand les élus répètent depuis des années à leurs concitoyens que la vidéosurveillance est un outil indispensable à leur sécurité, ils finissent par créer à certains endroits une véritable demande de caméras. Je l’ai observé sur certains territoires où les élus sont en quelque sorte pris à leur propre piège. Mais il existe aussi d’autres réalités qu’il faut connaître.

Lesquelles ?

Il existe des communes où les élus ont choisi de demander sérieusement leur avis à leurs concitoyens, en leur donnant les informations importantes pour réfléchir. Notamment l’état de la délinquance sur leur commune et le coût budgétaire de la vidéosurveillance ainsi que ses conséquences globales. Si on investit là, on ne pourra pas le faire ici. Le résultat est alors généralement l’opposé. C’est arrivé encore en mars 2018, à Aigues-Vives, petite commune du Gard de 3 200 habitants. Après réunion publique, et forts d’un dossier d’information, les habitants se sont exprimés dans un référendum local et une large majorité a dit non à la vidéosurveillance, considérant probablement qu’il y avait mieux à faire pour améliorer leur vie quotidienne.

Aujourd’hui, les frontières entre privé et public, entre sécurité et liberté sont remises en cause : de quelle façon et jusqu’où ?

Je ne pense pas que nous ferons machine arrière, puisque les opposants à cette évolution sont trop minoritaires dans le débat public. Au mieux le développement des technologies de surveillance ralentira pour des raisons financières, si l’argent public vient par moments à manquer vraiment. Et encore, les industriels pourront peut-être l’anticiper et proposer des solutions “low-cost”, en quelque sorte. Pour contrer l’effet de déplacement, par exemple, il faudrait vidéosurveiller la totalité des rues de nos villes, ce qui est financièrement impossible. Mais les industriels ont déjà la réponse. Ce sont les drones. L’Association nationale de la vidéoprotection (AN2V) — principal lobby de la vidéosurveillance en France — ne cache pas cette nouvelle stratégie. En 2016, dans le journal Sud Ouest, son président évoquait notamment « un essaim de drones […] pour suivre un rodéo nocturne ».

Désormais, dans ce débat, business et l’éthique se confrontent ?

Depuis le milieu des années 2000, les industriels mènent une promotion de plus en plus active en ce domaine. Le business n’a généralement pas de limite éthique. « Business is business », disent en cœur beaucoup d’entre eux… Et beaucoup de politiciens sont également un peu prêts à tout pour se faire élire ou réélire. L’alliance entre les deux est une réelle menace potentielle pour certains principes fondamentaux de la démocratie, ainsi que pour une certaine conception du vivre-ensemble que l’on peut continuer à avoir. C’est pourquoi notre vigilance doit être constante.

 

1) Laurent Mucchielli a dirigé pendant 7 ans un observatoire régional de la délinquance et des contextes sociaux dans la région PACA. Il enseigne la sociologie de la délinquance et des politiques publiques de sécurité et de prévention à l’université d’Aix-Marseille.
2) Vous êtes filmés ! Enquête sur le bluff de la vidéosurveillance, de Laurent Mucchielli (Armand Collin, hors collection), 232 pages, 12,99 euros (eBook), 17,90 euros.
3) Le système de vidéosurveillance chinois utilise une technologie à base d’intelligence artificielle. Le ministère de la sécurité publique serait en train de monter une base de données de reconnaissance faciale de plus d’un milliard de personnes.

 

« Il n’y a pas de retour en arrière possible »

Jean-Christophe Le Toquin, président de l’association d’experts en cybersécurité CyAN, explique pour Monaco Hebdo ce que les techniques de vidéosurveillance rendent aujourd’hui possible.

Jean-Christophe-Le-Toquin-IMG_8349-@-Jogood-

Comment ont évolué les techniques de vidéosurveillance sur les 20 dernières années ?

Côté matériel, la vidéosurveillance a naturellement suivi les mêmes évolutions que pour la photo et la vidéo : en 20 ans, les caméras se sont considérablement miniaturisées, ont augmenté leur qualité d’image, et sont passées au numérique. Mais c’est du côté du traitement de la vidéo que la vraie révolution se situe : depuis 10 ans, les fournisseurs de solutions s’appliquent à automatiser l’analyse des images, en permettant de créer des alertes. L’enjeu financier est énorme : un agent ne peut guère analyser plus de 20 écrans en simultané, il ne travaille en principe que 35 heures par semaine. Or, une ville comme Nice possède à elle seule plus de 1 250 caméras, qui filment la voie publique 24 heures sur 24. Cela nécessiterait trois équipes de 63 agents chaque jour.

Aujourd’hui, la vidéosurveillance et la technique disponibles permettent d’atteindre quel niveau de performance ?

Le fantasme ultime est que la vidéosurveillance permettrait de reconnaître en temps réel un terroriste recherché par la police et qui se promènerait dans la rue. On n’y est pas encore, et ce n’est même pas pour demain. Car un terroriste recherché et sur lequel on aurait les informations les plus précises, ne va pas se promener tête nue, sans lunettes, comme sur la photo d’identité officielle de son passeport. Pour le reste, tous les mouvements, toutes les couleurs et les dessins des vêtements peuvent être convertis en données mathématiques. Le tout est de savoir ce que les caméras doivent chercher, et quelle action doit être accomplie lorsque l’action ou l’objet recherché a été trouvé.

Un exemple ?

Une même caméra qui filme un feu rouge peut ainsi alimenter plusieurs systèmes d’analyse. Elle peut observer la congestion du trafic, détecter les infractions au code de la route, en sachant distinguer les vélos — qui peuvent passer au rouge — des scooters qui ne le peuvent pas. Elle peut aussi repérer une situation de danger, comme un vol à l’arraché, un piéton étendu à terre etc. A chaque type de danger correspondra un traitement informatique unique, qui alertera la voirie, les pompiers, la police…

La Chine a développé l’identification en temps réel des personnes par des réseaux de caméras de rue fonctionnant avec une technologie à base d’intelligence artificielle : ça marche vraiment ?

Il y a nécessairement un taux d’erreur. Ce taux est inversement proportionnel à la qualité de l’information initiale dont vous disposez et à la qualité de l’information récoltée en direct. Dans les aéroports, les portiques électroniques de douanes remplacent le contrôle humain car l’information initiale sur le citoyen (photo et empreinte digitale ont été fournies pour le passeport) est excellente. Tout comme le recueil de l’information sur le vif : le voyageur fournit son empreinte digitale et se fait prendre en photo dans des conditions similaires. Si un pays souhaite pouvoir reconnaître de manière fiable et en temps réel ses citoyens dans la rue, la photo de face est insuffisante. Il lui faudra prendre une image de chaque individu sur tous les côtés, en 3D. Voire encore mieux enregistrer sa démarche. Tout est affaire de collecter une bonne information initiale, et de la convertir en données mathématiques.

Que pensez-vous de l’utilisation de l’intelligence artificielle dans la vidéosurveillance ?

Vous visualisez à quoi ressemblaient les standards téléphoniques des années 1950, où des opératrices vous passaient le 22 à Asnières, ou le 34 à Antibes ? Impensable aujourd’hui n’est-ce pas ? Il sera rapidement aussi inimaginable d’installer un système de vidéosurveillance avec des agents qui sont assis devant des écrans, sans assistance à l’analyse. Trop d’images, trop d’informations à rechercher.

L’intelligence artificielle présente quels avantages et quels inconvénients ?

L’intelligence artificielle est un mot à la mode, qui inclut tout, de l’analyse automatisée fonctionnant par algorithmes, à la capacité d’un système informatique à acquérir du savoir par lui-même. Pour le sujet qui nous intéresse, la vidéosurveillance sans assistance automatisée n’a juste pas de sens. Son avantage est, bien sûr, de ne pas connaître les limites humaines de mémorisation et de vitesse. Son inconvénient est qu’elle n’apprend pas seule, et qu’il faut beaucoup de connaissances humaines, à commencer par des connaissances informatiques, pour qu’elle puisse être mise en œuvre. Tout cela coûte cher, très cher. Car les développeurs informatiques sont extrêmement recherchés et sont mieux payés que d’autres métiers à compétence égale. Cela freine donc les possibilités d’équipement.

L’intelligence artificielle permettra de repérer et d’arrêter des suspects, avant même que des actes violents ne soient commis ?

La réponse est « oui, bien sûr », si vous savez précisément le type de comportement suspect que vous recherchez. Et que vous avez défini la marge d’erreur judiciaire que vous êtes prêts à accepter.

Un exemple ?

Imaginons que vous êtes dans votre ville où il fait beau temps : les immeubles ont des balcons agréablement plantés et les habitants laissent leurs baies vitrées ouvertes. Pour se protéger des voleurs et permettre aux résidents de vivre sans crainte, des systèmes de vidéosurveillance sont installés pour détecter toute tentative d’escalade des immeubles par la façade. Toute tentative d’escalade qui ne correspond pas à un scénario connu, comme l’intervention des pompiers, typiquement, déclenche un système sonore ou électrique paralysant. Système imparable et intelligent, mais qui se déclenchera probablement si un homme courageux et incroyablement athlétique effectue l’escalade pour sauver un enfant suspendu au 4ème balcon. C’est ce que le jeune Mamadou Gassama a fait à Paris, le 27 mai 2018. Si une ville est prête à se protéger au prix d’empêcher un Mamadou Gassama, même une fois dans un siècle, de sauver un enfant, alors l’intelligence artificielle n’a pas de limite.

Comment résoudre le problème principal qui est aujourd’hui le trop plein d’information, « l’infobésité », qui peut paralyser l’outil de renseignement ?

Il faut prendre le temps de réfléchir, avec bon sens, et en abordant le problème depuis plusieurs angles, et de bout en bout. Du temps, de la réflexion, du bon sens, de la diversité, ce sont les quatre éléments fondamentaux qui manquent le plus aujourd’hui dans la conduite de projets informatiques.

Comment garantir à la population que les données biométriques de chacun ne serviront pas à des fins de prévention ou de répression, dans la mesure où la sécurisation parfaite et totale n’existe pas, d’un point de vue technique ?

Les données biométriques sont déjà collectées pour précisément assurer la protection des populations, et donc la prévention et la répression des crimes. Et cela ne choque personne en vérité, ou du moins pas grand monde. Evidemment, ces données peuvent être utilisées à des fins répressives qui n’étaient pas prévues initialement. La réalité est qu’il n’y a pas de retour en arrière possible : si un pays devient totalitaire, il utilisera toutes les données en sa possession pour assurer sa suprématie.

C’est extrêmement dangereux !

A l’heure où des entreprises comme Google et Facebook et leurs homologues chinois Baidu et WeChat, disposent de plus de données sur leurs utilisateurs que les Etats totalitaires auraient rêvé d’en avoir, la question est de savoir qui finalement nous protégera demain ? Les Etats démocratiques ? Les géants de la technologie ? Ou pourquoi pas l’Europe et son tout nouveau Règlement de Protection des Données Personnelles (RGPD), dont on voit qu’il a un effet d’entraînement salutaire de prise de conscience, notamment chez les grandes entreprises américaines ?

Peut-on ficher une population et laisser des outils numériques traiter les données biométriques qui lui correspondent ?

Sans problème. Il suffit de réunir la volonté politique, la capacité de financement, la capacité technologique et le régime juridique adéquat. Mais aucun pays au monde ne me semble absolument réunir ces quatre conditions. En tout cas de manière durable.

Ces techniques posent des problèmes éthiques : quelle est votre position ?

Il faut que les développeurs informatiques aillent à la rencontre de la société, et que les autres parties prenantes, les juristes, les sociologues, les politiques, les philosophes, prennent le temps d’aller à la rencontre des techniciens pour les aider à sortir de leur bulle informatique. Il est plus confortable et immédiatement plus valorisant de se réunir entre gens ayant les mêmes affinités. Mais au sein du réseau CyAN, nous pensons que se confronter à la diversité des points de vue est autrement plus essentiel.

Aujourd’hui, les frontières entre privé et public, entre sécurité et liberté sont profondément remises en cause : jusqu’où faut-il aller ?

Avant l’arrivée d’internet, l’information était relativement statique, un peu comme un lac. Aujourd’hui, elle déferle sur nous, comme des rouleaux de vagues. Si vous avez une âme de surfeur, toujours à l’affût de la plus grosse vague, et pas peur de boire la tasse, le monde d’aujourd’hui est fantastique pour vous. Si vous aimez la stabilité, les frontières claires, les choses bien rangées, cela va être plus difficile. Mais ce sentiment de déstabilisation est transitoire : regardez comme les jeunes générations sont à l’aise. Tout ça n’a pas l’air de leur poser de problèmes. Et surtout, aucun n’aspire à revenir au monde de leurs parents.

Quels sont les projets à l’étude pour le futur de la vidéosurveillance ?

Revaloriser le métier d’opérateurs de vidéosurveillance, pour en faire un des plus beaux métiers du monde, à côté de celui de gardien de la paix, de secouriste ou de pompier.

 

 

journalistRaphaël Brun