Système technicien

|

|

Controverse

Depuis une quinzaine d’années, l’essayiste américain Nicholas Carr nous livre régulièrement son analyse de l’influence des technologies de l’information sur nos modes de vie. Après The Shallows en 2010, qui tente de comprendre comment l’utilisation d’Internet altère nos façons de penser, The Glass Cage: Automation end Us, publié en 2014, étend son enquête au phénomène plus général de l’automatisation, dont les conséquences négatives sur l’individu et la société ne peuvent être quantifiées en temps ou en dollars.

Vers une automatisation intégrale et généralisée de la société

« Nous vivons le temps de l’automatisation généralisée.01 » Dans une société régie par l’ordre du calcul et la logique mathématique, l’automatisation se concrétise par une systématisation du traitement numérique des opérations humaines et non humaines. L’architecture réticulaire d’Internet est le terreau de notre société automatisée. Nicholas Carr établit la distinction entre un ensemble d’objets et une réelle infrastructure. Ce réseau quasi-neuronal02 assure l’émergence et l’interconnexion des systèmes automatisés. Assisté par ces commandes automatiques et aides à la prise de décision, l’humain croit se prémunir contre le caractère faillible de son propre choix, substituant le rationnel algorithmique au rationnel psychique.

Bien qu’il soit souhaitable de déléguer certains labeurs aux automates, ce glissement vers une automatisation systématique provoque des séquelles cognitives chez l’individu. Carr dénonce le mythe de la substitution : le remplacement de l’homme par la machine sur une tâche donnée n’est pas neutre et influence le processus global. « L’automatisation tend à nous faire passer de l’acteur à l’observateur. Au lieu de tenir le manche, nous regardons l’écran.03 » Dans l’aviation, l’automatisation s’incarne par la substitution du pilote. Carr illustre son concept de « cage de verre » en s’appuyant sur la description du cockpit comme interface entre l’homme et le ciel. Le pilote, peu sollicité durant le vol, voit son expertise subtilisée par la commande automatique. Son rôle se cantonne aux phases d’atterrissage et de décollage, le reste du temps il adopte la posture d’opérateur chargé de la surveillance de l’automate. Les cas de dysfonctionnement du système – considéré infaillible – peuvent donner lieu à un désemparement du soi-disant maître à bord. L’environnement du cockpit saturé d’informations transforme structurellement le savoir-piloter.

« Toutes nos inventions et tous nos progrès semblent consister à doter les forces matérielles d’une vie intellectuelle et abêtir la vie humaine en force matérielle.04 »
Karl Marx

Nicholas Carr critique le paradoxe de notre aspiration prométhéenne. Il questionne la propension de l’humain à vouloir façonner le robot à son image en le dotant d’une intentionnalité propre. Un tel transfert ne constitue-t-il pas une fuite des compétences et des savoirs humains vers la machine ? « Et si le prix à payer pour des machines qui pensent était des hommes qui ne pensent pas ?05 ». Le traitement automatique des tâches composant le processus de production a dans un premier temps contribué à destituer le travailleur de son savoir-faire métier : au sens de Marx, le processus de prolétarisation. Désormais, on constate que l’automatisation généralisée engendre un délitement progressif de nos facultés cognitives et de notre position d’acteur autonome.

Quand la machine « nous libère de ce qui nous fait sentir libre »

En 2005, un rapport de la RAND Corporation préconisait à l’administration Bush l’introduction de technologies de l’information dans le milieu médical (gestion informatisée et aides au diagnostic) permettant une coupe franche dans le budget de la santé. Plutôt que de rendre les soins plus sûrs et efficaces, l’automatisation médicale a provoqué une cascade d’effets indésirables : appauvrissement des diagnostics, perte de spécificité des traitements, augmentation des coûts et prestations, dégradation de la valeur scientifique des rapports médicaux, enrayement de la curiosité et de l’éducation. In fine, les seuls bénéficiaires sont les firmes technologiques – financeurs de l’étude – faisant du contribuable le grand perdant. Carr alerte sur une mutation des praticiens comme « senseurs humains collectant des informations pour une machine chargée de la décision06 ».

Vers quelle automatisation s’oriente-t-on ? Celle qui soulage l’humain des tâches pénibles ou celle qui réduit le temps, les coûts (énergie ou argent) au détriment de la mobilisation des compétences ? L’automatisation de la production révèle une confrontation de paradigmes : la société au service de l’économie ou l’entreprise au service de l’individu. Adam Smith résolvait le dilemme de l’automatisation d’une prophétie fataliste : « la dégradation des compétences comme un déplorable mais inévitable sous-produit d’une production industrielle efficace.07 » Pour Carr, l’érosion des talents, au sens des savoir-faire, a commencé avec celle du travail. Au XXe siècle, la réglementation et la standardisation tayloristes ont structuré l’usine mécanisée « dans laquelle l’ouvrier et la machine se fondent en une parfaite unité de production étroitement contrôlée.08 » S’en est suivi un sacrifice « de compétences et d’indépendance » du travailleur.

L’automaticité est une « automatisation intériorisée », soit la faculté neuronale
qui « nous permet une rapide et inconsciente perception, interprétation puis action ».
« Ce qui ressemble à de l’instinct est en réalité du talent durement gagné. »

Nicholas Carr

Quand la machine « nous libère de ce qui nous fait sentir libre »09. Ou comment l’automatisation sabote la subjectivation, c’est-à-dire notre capacité à nous réaliser comme être singulier. Selon William Morris, l’émancipation de l’individu ne peut se réduire au travail comme moyen de production. Toutes activités de mobilisation intense des savoirs participent à cet accomplissement10, notre relation au monde par l’expérience et l’apprentissage perpétuel construit une « expertise » source de la subjectivation. En ce sens, Carr considère que l’automatisation (procédé artificiel) menace l’automaticité (procédé naturel). L’automaticité est une « automatisation intériorisée », soit la faculté neuronale qui « nous permet une rapide et inconsciente perception, interprétation puis action ». « Ce qui ressemble à de l’instinct est en réalité du talent durement gagné.11 » The Glass Cage introduit l’impérieuse question d’une éthique de l’automatisation en interrogeant le devenir de l’humain dans son rapport aux systèmes automatisés.

De la dégénérescence d’une génération

Autrefois capables de se repérer dans la toundra arctique sans instrument de mesure, les Inuits peuplant le Nord canadien s’en remettent aujourd’hui au système GPS pour guider leurs traversées périlleuses. Ces « maîtres de la perception12 » ont vu fondre un savoir millénaire de navigation quasi-instinctif en quelques générations. Un système automatisé s’interpose dorénavant entre les Inuits et leur environnement, amoindrissant l’attention et l’effort cognitif nécessaires pour trouver la route la plus sûre : ils n’ont plus besoin de se forger une représentation mentale de leur territoire. Cet effet de génération est pourtant au cœur de notre fonctionnement cognitif : un cerveau qui génère un mot ou une image renforcera sa capacité à mémoriser. La raréfaction de ce processus, amplifiée par la délégation de nos activités intellectuelles et manuelles aux machines, amoindrit notre vivacité cognitive. Carr parle de degeneration effect13.

À travers de nombreux cas d’école14, The Glass Cage témoigne de la passivité de nos esprits, comme notre confiance démesurée dans les algorithmes (automation complacency) et notre tendance à nous laisser influencer par les dispositifs techniques (automation bias). Ainsi, le GPS transporte son passager d’un point A à un point B, le commandant de bord cède le pilotage à l’automate, le praticien se laisse guider par son prompteur lors de l’auscultation : l’automatisation nous isole des « frictions » du monde réel et des « feedbacks négatifs ». Le sens critique s’émousse et les savoirs de l’individu s’écartent devant « la sagesse des algorithmes ». « L’outil qui était à l’origine utilisé à notre dessein commence à nous imposer ses intentions.15 »

L’outil auparavant « cristallisation matérielle d’un schème opératoire et d’une pensée16 » est devenu autonome, abandonnant son rôle de médiation entre l’Homme et la nature pour court-circuiter notre expérience du monde. L’extériorisation de fonctions, qui jusqu’alors sous-tendait l’hominisation, se retourne contre elle. Serait-il temps de concevoir à nouveau des outils empreints de nos aspects les plus civilisés, favorables à la subjectivation collective ? Nicholas Carr – et son équipe de chercheurs – nous incitent à repenser l’équation homme-machine sous la forme d’une symbiose17 et non d’une relation maître-esclave qui attise le clivage stérile progressistes contre luddites. Dans cette optique, revendiquer « nos outils comme des parties de nous-mêmes, comme des instruments d’expérience plutôt que des moyens de production18 » est la condition sine qua none d’une technologie émancipatrice.

Références   [ + ]

01. Bernard Stiegler, « La société automatique », in La métamorphose numérique, Alternatives, 2013, p. 84
02. « Les circuits d’information innervent l’ensemble du processus […] Biologiquement on pourra comparer cela à une cérébralisation. » Jacques Ellul, Le Système Technicien, 1977, p. 15
03. Nicholas Carr, The Glass Cage: Automation and Us, 2014, p. 72
04. Karl Marx cité dans Nicholas Carr, op. cit., p. 24
05. George Dyson cité dans Nicholas Carr, op. cit., p. 113
06. Nicholas Carr, op. cit., p. 115
07. Nicholas Carr, op. cit., p. 106
08. Nicholas Carr, op. cit., pp. 107-108
09. Nicholas Carr, op. cit., p.17
10. « On doit, autant que possible, pouvoir se passer de tout travail qui ne permet ni l’art ni le plaisir ; un tel travail doit être regardé comme une nuisance dont il faut se débarrasser, une maladie pour la société. Il doit autant que faire se peut, être accompli par des machines ; on ne devrait jamais recourir aux machines pour un travail auquel les hommes sont susceptibles de prendre du plaisir. » William Morris, « De l’origine des arts décoratifs » (1886), in La civilisation et le travail, 2013, p. 91
11. Nicholas Carr, The Glass Cage: Automation and Us, p. 82
12. Nicholas Carr, op. cit., p. 125
13. Nicholas Carr, op. cit., p. 82
14. Nicholas Carr, op. cit., p. 84
15. Nicholas Carr, op. cit., p. 204
16. Gilbert Simondon, Du mode d’existence des objets techniques, 1958, p. 335
17. Joseph Carl Robnett Licklider, Man-Computer Symbiosis, 1960
18. Nicholas Carr, The Glass Cage: Automation and Us, p. 232

Commentaires (0)

Votre message sera publié après modération.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

dix-neuf − deux =