{"version":1,"type":"rich","provider_name":"Libsyn","provider_url":"https:\/\/www.libsyn.com","height":90,"width":600,"title":"#6.12 Mauvaise gouvernance : Faut-il interdire ou emp\u00eacher ?","description":"Interdire ou emp\u00eacher : deux logiques de gouvernance \u00e0 l\u2019\u00e9preuve des donn\u00e9es et de l\u2019IA De passage sur TikTok pour y \u00e9couter parler de philosophie (si, si, on parle de philo sur TikTok\u2026 abonnez-vous par exemple au compte de @philo_sophia_) l\u2019algorithme m\u2019a conduit \u00e0 une comparaison argument\u00e9e entre l\u2019interdiction et l\u2019emp\u00eachement. Faisant le parall\u00e8le avec les contextes de gouvernance des donn\u00e9es et de l\u2019intelligence artificielle, qui semblent si difficiles \u00e0 faire accepter aux op\u00e9rationnels, il m\u2019a sembl\u00e9 porteur de poser quelques r\u00e9flexions sur le th\u00e8me : faut-il imposer ou proposer une gouvernance des donn\u00e9es\u2009? Faut-il interdire ou emp\u00eacher une mauvaise, ou l\u2019absence de gouvernance\u2009? Une distinction conceptuelle aux implications politiques majeures La distinction entre interdire et emp\u00eacher para\u00eet, au premier abord, triviale\u2009; elle structure pourtant en profondeur les deux grands r\u00e9gimes de r\u00e9gulation possibles dans une soci\u00e9t\u00e9 technologis\u00e9e. Interdire est un acte normatif. La r\u00e8gle s\u2019adresse \u00e0 un sujet suppos\u00e9 libre, capable de comprendre la norme, d\u2019en d\u00e9lib\u00e9rer et, le cas \u00e9ch\u00e9ant, d\u2019y contrevenir. L\u2019interdiction pr\u00e9suppose la possibilit\u00e9 mat\u00e9rielle de la transgression : c\u2019est pr\u00e9cis\u00e9ment cette possibilit\u00e9 qui ouvre l\u2019espace de la responsabilit\u00e9, du jugement, de la sanction et corr\u00e9lativement de la contestation. Lawrence Lessig identifie ainsi la loi comme l\u2019une des quatre modalit\u00e9s de r\u00e9gulation, qui contraint par la menace de la sanction, aux c\u00f4t\u00e9s des normes sociales, du march\u00e9 et de l\u2019architecture. Emp\u00eacher, \u00e0 l\u2019inverse, rel\u00e8ve d\u2019un dispositif factuel : la conduite n\u2019est pas r\u00e9prouv\u00e9e, elle est rendue impossible. Aucun sujet n\u2019a \u00e0 d\u00e9lib\u00e9rer, aucun juge n\u2019a \u00e0 trancher, aucun contrevenant n\u2019a \u00e0 r\u00e9pondre. Dans le cyberespace, cette modalit\u00e9 est port\u00e9e par le code informatique lui-m\u00eame. Lessig d\u00e9montre que le code, et l\u2019architecture, d\u00e9finissent la mani\u00e8re dont nous vivons le cyberespace, et d\u00e9termine s\u2019il est facile ou non de prot\u00e9ger sa vie priv\u00e9e, ou de censurer la parole. L\u2019architecture remplace la d\u00e9lib\u00e9ration par la configuration. La port\u00e9e critique de cette distinction a \u00e9t\u00e9 remarquablement d\u00e9velopp\u00e9e par Alain Supiot dans La Gouvernance par les nombres (Fayard, 2015). Il y montre comment la loi c\u00e8de la place au programme et la r\u00e9glementation \u00e0 la r\u00e9gulation, dans un imaginaire institutionnel o\u00f9 l\u2019on viserait la r\u00e9alisation efficace d\u2019objectifs mesurables plut\u00f4t que l\u2019ob\u00e9issance \u00e0 des lois justes. L\u2019enjeu, pour Supiot, n\u2019est pas seulement technique : en envisageant les hommes comme des ordinateurs programmables, la gouvernance par les nombres sape le r\u00e8gne de la loi et fait ressurgir un syst\u00e8me d\u2019all\u00e9geance quasi f\u00e9odal. L\u00e0 o\u00f9 la loi suppose un sujet juridique responsable, le programme suppose un comportement \u00e0 conditionner. Mon opinion : pour une primaut\u00e9 de l\u2019interdiction sur l\u2019emp\u00eachement Au terme de cette analyse, je d\u00e9fends la th\u00e8se suivante : dans la gouvernance des donn\u00e9es et de l\u2019IA, l\u2019interdiction doit \u00eatre premi\u00e8re, l\u2019emp\u00eachement instrumental. Mais c\u2019est \u00e0 vous de me dire dans les commentaires si vous \u00eates en accord avec cette vision\u2026 ou pas. Cette hi\u00e9rarchie repose sur trois raisons. D\u2019abord, une raison de principe d\u00e9mocratique. L\u2019interdiction \u00e9mane d\u2019une d\u00e9lib\u00e9ration publique\u2009; elle peut \u00eatre discut\u00e9e, amend\u00e9e, abrog\u00e9e. L\u2019emp\u00eachement, lorsqu\u2019il est inscrit dans le code, \u00e9chappe \u00e0 cette publicit\u00e9 : il est d\u00e9fini par les concepteurs, souvent priv\u00e9s, et son fonctionnement est opaque pour la majorit\u00e9. Substituer syst\u00e9matiquement le dispositif \u00e0 la norme, c\u2019est d\u00e9placer la souverainet\u00e9 politique vers les architectes techniques, ce que Supiot identifie comme une r\u00e9gression institutionnelle majeure. Ensuite, une raison anthropologique. L\u2019interdiction maintient ouvert l\u2019espace dans lequel l\u2019agent peut choisir d\u2019ob\u00e9ir ou de transgresser, et donc peut \u00eatre tenu pour responsable. Un monde de pure pr\u00e9vention technique est un monde sans sujets moraux. Or, comme le rappellent Rouvroy et Berns, sans cet espace, c\u2019est la possibilit\u00e9 m\u00eame de la subjectivation politique qui s\u2019efface et avec elle, paradoxalement, toute critique du syst\u00e8me. Big Brother et George Orwell ne sont plus tr\u00e8s loin\u2026 Enfin, une raison d\u2019efficacit\u00e9 r\u00e9flexive. Les dispositifs techniques sont faillibles, biais\u00e9s, contournables, et leurs erreurs se diffusent \u00e0 grande \u00e9chelle. La norme, parce qu\u2019elle s\u2019applique \u00e0 des cas concrets via le jugement, conserve une plasticit\u00e9 que le code ne poss\u00e8de pas. R\u00e9server \u00e0 la loi le r\u00f4le de fixer ce qui doit \u00eatre interdit, et au dispositif celui de rendre cette interdiction mat\u00e9riellement effective lorsque les asym\u00e9tries d\u2019\u00e9chelle l\u2019exigent, permet de cumuler les avantages des deux r\u00e9gimes sans en payer tous les co\u00fbts. Cela ne signifie pas qu\u2019il faille rejeter l\u2019emp\u00eachement technique. Face au passage \u00e0 l\u2019\u00e9chelle des syst\u00e8mes d\u2019IA, \u00e0 la rapidit\u00e9 des traitements automatis\u00e9s, \u00e0 l\u2019asym\u00e9trie d\u2019information entre op\u00e9rateurs et personnes concern\u00e9es, l\u2019interdiction seule serait souvent purement d\u00e9claratoire. Le RGPD et l\u2019AI Act ont raison de combiner les deux registres. Mais l\u2019ordre de priorit\u00e9 importe : le dispositif doit servir la norme, et non la remplacer. Concr\u00e8tement, cela impose trois crit\u00e8res \u00e0 tout emp\u00eachement by design : Tra\u00e7abilit\u00e9 juridique : le dispositif doit pouvoir \u00eatre r\u00e9f\u00e9r\u00e9 \u00e0 une norme publique, d\u00e9battue et amendable. Contestabilit\u00e9 effective : la personne emp\u00each\u00e9e doit pouvoir comprendre qu\u2019elle l\u2019est, savoir pourquoi, et disposer d\u2019un recours humain r\u00e9el, au sens de l\u2019article 22 du RGPD. R\u00e9versibilit\u00e9 politique : aucun dispositif ne doit verrouiller \u00e0 un degr\u00e9 tel qu\u2019un changement d\u00e9mocratique de la r\u00e8gle deviendrait techniquement impraticable. Sans ces garde-fous, l\u2019emp\u00eachement par le code n\u2019est pas le prolongement de l\u2019\u00c9tat de droit : il en est la sortie silencieuse\u2009! ","author_name":"Decideo - Data Science, Big Data, Intelligence Augment\u00e9e","author_url":"https:\/\/sites.libsyn.com\/85569\/decideo","html":"