La robadministration

La CNIL vient de tirer un signal d’alarme concernant l’invasion des algorithmes dans notre quotidien https://www.acteurspublics.com/La Cnil exhorte l’humain à garder la main sur les algorithmes et en général lorsque la CNIL s’alarme, j’ai moi-même tendance à m’inquiéter puisque chaque foi que cette désormais vénérable autorité indépendante a joué son rôle de lanceur d’alerte, c’est qu’il y avait péril pour nos libertés publiques ou individuelles. Certains ont en mémoire des tentatives de création de fichiers numérisés avec des jolis noms, je suppose.

Mais pour moi, comme pour beaucoup les algorithmes c’était des machins incompréhensibles mis au point par des matheux un peu allumés pour permettre à des jeunes gens encore plus allumés et brûlant pour l’argent facile d’une passion dévorante https://fr.wikipedia.org/Trading algorithmique et qui parfois provoquaient des flash-krach dont le seul intérêt, en ce qui me concerne, serait de faire vieillir prématurément le muscle cardiaque de ces traders, dépassés provisoirement par les machines qu’ils ont créés. Dans une version plus sophistiquée , via ce qu’ils appellent entre eux des block-chains, cela servait même à créer de la fausse monnaie et le plus drôle est que via d’autres algorithmes plus pervers encore, cette pseudo-monnaie vient d’être l’objet d’un « braquage » en bonne et due forme https://www.lesechos.fr/Une plateforme de minage de bitcoins piratée, butin de 64 millions de dollars Grand mal leur fasse !

Oui mais et c’est là où était mon erreur, les algorithmes ne sont pas que là, ils sont partout, surtout et y compris dans notre belle et grande administration qui n’est pas si vétuste que cela. A ceci près que si les outils numériques les plus sophistiqués ont réussi à franchir les murs séculaires des palais de la République, il n’en va pas de même des esprits qui y travaillent d’où la nécessité de ce cri d’alarme de la CNIL dont l’objet est précisé dans l’article ci-après https://www.acteurspublics.com/Les algorithmes doivent apporter une aide à la décision mais pas en être les prescripteurs” En effet rien de pire qu’un outil d’aide à la décision qui rend des avis incompréhensibles parce que l’algorithme qui est à sa base a été mal conçu, mal calibré, mal conformé, mal foutu en d’autres mots. Et quand cet article parle de l’application APB, il parle d’un outil qui s’adresse essentiellement à des adolescents donc à ceux qui sont nés avec un clavier au bout des doigts. Quant à l’autre exemple pris, l’aide à la décision judiciaire, il est évident que sa seule utilité est de mettre à la disposition d’un cerveau humain, une capacité de collecte, de tri et mémorisation d’informations cohérentes entre elles qu’aucun cerveau humain, même celui du plus brillant juriste ne pourra jamais avoir. En faire un outil de décision, ce serait faire la même erreur que firent les grands pères de nos brillantes têtes d’oeuf, lorsque au début des années 60, ils crurent que la Rationalisation des Choix Budgétaires (universellement connue sous l’acronyme de RCB) permettrait une prise de décision automatique dans l’allocation des ressources publiques. Ils avaient juste oublié que toute décision est une affaire de choix, que tout choix est une affaire d’appréciation subjective des risques et des gains possibles et que les probabilités qu’on accorde aux uns comme aux autres varient d’un individu à l’autre.

Donc ce que nous dit la CNIL est d’être prudent dans la mise en place d’une robadministration car les effets non anticipés peuvent produire une désadministration catastrophique, d’autant plus catastrophique qu’un nombre croissant de nos concitoyens sont devenus analphabètes face à ces algorithmes ou sont en passe de le devenir car pour eux l’absurdité de certains choix que leur propose ces algorithmes les font douter de la compréhension qu’ils ont de l’administration à laquelle ils s’adressent. Et le plus souvent, cela vient de ce que le langage des uns est devenu hermétique à la compréhension des autres.

L’avertissement vaut bien sûr pour l’administration mais il est également valable pour toutes les applications privées, qui sont autant d’algorithmes très complexes, dont la mise à disposition de publics non éduqués à leur compréhension peuvent constituer un danger pour la cohésion de nos sociétés. Ce n’est pas moi qui le dit mais les concepteurs même de ces outils http://info.economie.lefigaro.fr/Un ancien cadre de Facebook: «Nous avons créé des outils qui déchirent le tissu social» Ah si Oppenheimer avait eu son instant de lucidité suffisamment tôt, peut-être n’y aurait-il jamais eu d’Iroshima. Ici, nous avons la chance que des acteurs concernés tirent pendant qu’il est encore temps, le signal d’alarme. Il faudra les écouter. C’est aussi ce message qu’a relayé la CNIL.

C’est également le message que reprend à son compte le ministre du numérique qui, non seulement à renforcer le champ d’intervention du Conseil National du Numérique https://www.legifrance.gouv.frDécret n° 2017-1677 du 8 décembre 2017 relatif au Conseil national du numérique mais encore a décidé, après quelques autres ministres depuis l’apparition des ordinateurs individuels, de réduire cette nouvelle « fracture numérique » https://www.ouest-france.fr/Le gouvernement veut aider les gens qui ont du mal avec internet

L’ambition est grande et la volonté louable mais comme le titre Le Monde, jamais en reste de commentaires acides, Un plan mais pas encore de financement pour les exclus du numérique Ce jugement est tempéré par cet autre article, beaucoup plus favorable à la démarche ministérielle : https://www.acteurspublics.com/Mounir Mahjoubi, stratège de l’inclusion numérique Après tout, s’il ne s’agit que de trouver 1 milliard d’euros par an, ce doit être possible, surtout si plus de la moitié vient des opérateurs eux-mêmes. Si parmi ces derniers, il y a ces mastodontes du net connu sous l’acronyme des GAFAM, le raisonnement se tient : si 20% de la population arrivent à apprivoiser l’outil Internet, ce sont autant de cerveaux potentiels pour leur emprise. Mais faute des outils éthiques chez ces gens-là, on aura peut-être réduit la « fracture numérique » mais on aura contribué un peu plus à « déchirer le tissu social ».

Le CNNum doit donc vite se mettre au travail en liaison avec la CNIL. Ça ,ça ne coûte pas cher, juste un peu de volonté politique et beaucoup de persévérance.

Publicités
Cet article, publié dans administration publique, est tagué , , , , . Ajoutez ce permalien à vos favoris.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

w

Connexion à %s