À Propos de Singularité Technologique

La singularité technologique

Je n’ai jamais pris très au sérieux la théorie de la singularité¹. Toutefois, je ne néglige pas qu’elle le soit par des esprits informés. De quoi s’agit-il ? Pour résumer, les machines finiraient par échapper au contrôle de leurs constructeurs, deviendraient plus intelligentes qu’eux, et inverseraient finalement le rapport de domination.

Je ne prends pas cette théorie au sérieux d’abord parce que je ne prends pas au pied de la lettre l’image d’intelligence artificielle. Je dirais que cette intelligence artificielle ne peut se situer, ni dans le hard, ni dans le soft, mais seulement entre la chaise et le clavier. Cette intelligence peut certes être renforcée quantitativement par le hard et le soft, mais comme elle peut l’être par l’encre et le papier, et certainement pas changée dans son essence, et moins encore remplacée.

Dans le même ordre d’idée, on peut considérer une langue naturelle comme de l’intelligence artificielle². Cet exemple est intéressant dans la mesure où il permet de comprendre comment la langue, dans une certaine mesure, est plus « intelligente » que son locuteur – dans le sens où elle lui permet de dire ce qu’il n’aurait pas conçu sans elle – et comment elle peut aussi le dominer – dans le sens où elle lui inspire des idées qui ne sont pas les siennes, et induit même ses comportements.

Si l’on voit les choses ainsi, il est probable que ce point de singularité n’est pas à attendre dans un futur proche, mais qu’il a déjà eu lieu dans un lointain passé, au fin fond de la préhistoire. Pour autant, je ne dirais pas que des pierres taillées ou des peintures rupestres seraient devenues plus « intelligentes » que les hommes et les auraient dominés. Si quelque-chose alors a dominé des hommes, ce serait plutôt un système social, un système des objets.

En somme, cette théorie de la singularité et de l’intelligence artificielle me conduirait à celle de l’intelligence collective. Voilà encore une théorie que je ne prends pas très au sérieux.

Si j’admets que ces sociétés humaines agglomérées autour de systèmes d’objets, paraissent dotées d’une intelligence autonome, distincte de celle de chacun de leurs membres, il me semble alors qu’elle leur est très inférieure, à peine comparable à celle d’un animal primitif. Reste à savoir si des systèmes d’objets plus perfectionnés parviendraient à donner à ces collectivités une forme d’intelligence supérieure à celle des organismes humains qui les composent.

Cette question n’est peut-être pas la bonne si l’on se place dans la longue perspective de l’évolution de l’espèce. Dans cette perspective, la question est plutôt de comprendre comment les hommes sont toujours parvenu à s’émanciper de ces sortes de « possessions » que génèrent les systèmes d’objets sous la forme hallucinée d’entités « intelligentes », « sociales », voire « divines » ou « démoniaques ».

La question qui se pose derrière la singularité est celle de savoir si les hommes pourront devenir, si ce n’est demeurer, les véritables artisans de leurs outils, des hackers disons, ou risquer que leurs technologies leur explose encore une fois à la figure, comme il arrive au fil des temps et des civilisations disparues.

Une singularité peut en cacher une autre

Le film de Kubrick, 2001 l’Odysée de l’espace³, montre l’enthousiasme du premier primate qui inventa l’outil (et par la même occasion, l’arme). Il est après tout réjouissant que quelques millions d’années plus tard, cet enthousiasme soit intact.

Le même film montre, dans un futur proche, aujourd’hui déjà passé, 2001, la singularité : le vaisseau spatial qui conduit des astronautes sur Jupiter, tente de s’en débarrasser quand ils mettent en péril sa mission. Soit, mais n’oublions pas combien de primates se sont blessés ou même tués avec leurs propres outils ; combien même se sont laissés collectivement mener à leur perte, conduits par la logique de leur système d’objets.

Que le programme du vaisseau dise « j’ai peur » au moment où il va être effacé, est certes un saut qualitatif, mais cette scène me rappelle aussi combien d’hommes ont parlé à des idoles de bois ou de pierre, et en ont même obtenu des réponses ; elle me rappelle combien on peut voir encore dans les églises et sur les places, des Madones de pierre pleurer.

Après tout, ce sont des hommes qui ont écrit les commandes qui se retournent contre des hommes. Le film Alien⁴donne une version plus classiste d’un événement comparable. L’officier scientifique robot ne cesse d’exécuter les ordres de la compagnie en sacrifiant le personnel pour ramener sur terre leur découverte, et mettre même en danger le genre humain. Il n’y a là pas plus de singularité technologique que dans le roman de Raymond Jean, l’Or et la soie⁵, où les marchands marseillais introduisent la peste pour ne pas perdre leur marchandise en quarantaine.

On ne peut ignorer non plus que les progressions technologiques sont souvent utilisées à des pratiques régressives. L’internet en est un exemple ; les usagers ont passé le cap des deux milliards en même temps que la moitié utilisait le même serveur privé pour leurs échanges. La montée en puissance des processeurs et des mémoires (doublant à peu près tous les ans) est principalement utilisée pour faire circuler des vidéos. Il en résulte notamment un retour à la communication ex cathedraau détriment de l’écrit. Il est remarquable que ce progrès quantitatif (doublement annuel) semble massivement renvoyer à des usages et des problèmes d’un autre âge (communication de masse, droits de copie, etc.).

Pour autant, le véritable progrès a été la structure non hiérarchique de l’internet, et il est probablement irréversible, les différents aspects technologiques en étant à la fois les conséquences et les moyens. Cependant, l’immense majorité des utilisations, promues notamment par les institutions économiques et gouvernementales, tendent à compliquer ces techniques si inextricablement qu’elles deviennent proprement incontrôlables par quiconque, dans le but de maintenir des modes de communication que l’internet a rendus caduques.

On peut deviner là deux symptômes d’une singularité : une technologie plus intelligente que les usages sociaux auxquels on la destine ; une technologie suffisamment irréversible pour qu’elle soit en mesure de modifier les usages contre la volonté des institutions économiques et politiques qui tentent de la contrôler.⁶

D’un autre côté, on peut y déceler un point de vue qui tend à considérer les institutions et les compagnies comme plus « humaines », et donc comme moins « humaines » les techniques (et donc peut-être les ingénieurs ?). Ce point de vue inverse est pour le moins tout aussi recevable. En tout cas, cette singularité serait moins celle d’un retournement du pouvoir des « hommes » à celui des « machines » que celui des décideurs aux ingénieurs, de l’autorité à l’ingéniosité.

Pouvoir sur les hommes et pouvoir sur les choses

Il n’est pas nécessaire, on a dû le remarquer, de triturer beaucoup cette théorie de la singularité pour penser aux écrits du jeune Marx, ceux de 1844⁷, et dont on retrouve les échos chez des auteurs bien plus récents, comme Henri Lefebvre et Jean Baudrillard, ou encore l’IS.

Curieusement, ces Manuscrits de 1844 n’ont été publiés qu’en 1932 en langue allemande, puis plus tard encore en français et en anglais, précisément au moment où l’on pouvait les comprendre, ou du moins où ils pouvaient entrer en résonance avec les théories de l’intelligence artificielle et de la singularité technologique. Ceci fait de Karl Marx un être étrangement double, leader d’un mouvement ouvrier du dix-neuvième siècle, et penseur de la fin du vingtième. Il a dans une large mesure sacrifié son œuvre de philosophe à son engagement, mais il a nourri celle-ci à l’expérience du mouvement ouvrier, expérience plus anticipée qu’observée par ailleurs. Sa philosophie a donc ce curieux caractère d’être inspirée par un mouvement qui lui est postérieur, de tirer en quelque sorte les conclusions de ce dont il serait à la source, ou du moins dont il parait fonder les prémisses et être l’inspirateur, mais dont il a été en réalité presque complètement ignoré.

Ce n’est évidemment pas ce qui facilite la lecture d’une œuvre presque entièrement inédite, manuscrite, raturée et désordonnée. C’est pourquoi il vaut mieux ne pas trop se presser de revenir aux thèses marxistes sur le sujet, du moins sans précaution, tout en sachant qu’on finira bien par les retrouver.

Nous pourrions dire que cette prise du pouvoir de la machine sur l’homme est la forme aliénée de la prise de pouvoir par les travailleurs sur ceux qui possèdent les moyens de production ; mais si elle est aliénée, elle en est le contraire : la perte du pouvoir des travailleurs au profit de leurs machines, et donc, formellement, des possesseurs des machines. Dans ce cas, le renversement n’est pas dans le futur, mais dans un lointain passé.⁸

Nous sommes donc dans une lutte entre les hommes pour le pouvoir ; le pouvoir de l’homme sur l’homme. Mais réfléchissons : qu’est-ce que l’homme a à faire d’un tel pouvoir ? Bien sûr, s’il y a rapport de domination, il est normal que chacun se batte pour être dominant et non dominé, mais le rapport de domination lui-même, il répond à quoi ? À quoi sert un pouvoir sur d’autres hommes ? Probablement à mettre leur propre pouvoir à son service, et en avoir plus, mais un pouvoir sur quoi ? Un pouvoir sur les choses, un vrai pouvoir en somme, non ?

À moins qu’un pouvoir sur les hommes ne soit la forme aliénée de celui sur les choses. Or, s’il est aliéné, il n’en est plus un : se renverse-t-il en un pouvoir des choses sur l’homme ?

C’est précisément ce qui, dans la philosophie de Marx, (je dis bien : sa philosophie), ne pouvait être entendu que longtemps après sa mort : que sous la forme d’une lutte des classes, c’est en réalité le pouvoir de l’homme sur les choses qui est en jeu ; une lutte pour l’essence de l’homme.

C’est ainsi qu’il nous a offert une vision récursive sur les grands renversements révolutionnaires de la fin du dix-neuvième siècle et du vingtième, avant même qu’ils aient eu lieu. Cette vision est à la fois lucide et obscure comme le sont les oracles.

Dans une telle lutte, la victoire d’un camp ne saurait être seulement celle sur un autre, mais celle de l’homme tout entier. Or une telle victoire est en un sens impossible, et en un autre, inévitable, comme l’histoire ne cesse de le montrer.

La stupidité artificielle

Nous parlons d’un point de singularité où les machines prendraient la main sur les hommes qui les ont construites. Dans une telle théorie, les machines prendraient la place des hommes parce qu’elles seraient devenues plus intelligentes.

Cette dernière proposition pose un réel problème. On a bien déjà vu des hommes s’incliner devant des idoles de pierre, des titres de propriété, des couronnes, des mitres ou même des képis, mais il s’agirait là de bien autre chose : les hommes auraient construits des machines intelligentes, et pourraient même en construire de plus intelligentes qu’eux.

Je veux bien admettre qu’une machine soit plus intelligente que moi, si l’on me montre d’abord une machine intelligente. Il va sans dire que je ne me contenterai pas d’une machine qui sache me battre aux échecs.

Les tenants de la théories ont bien compris que l’intelligence ne se limite pas à l’exécution d’un programme. Deux caractères supplémentaires au moins sont nécessaires : le premier est l’aptitude à apprendre et donc à se reprogrammer ; le second, la faculté de se reproduire de façon autonome.

Nous devons bien admettre que la question devient ici troublante. Nous sommes bien capables d’écrire des programmes qui apprennent et se modifient seuls, mais dans une mesure bien moindre cependant qu’on veut se le laisser croire. La chose est en tout cas concevable, et dans ces conditions, rien ne nous empêche d’imaginer que ces programmes seraient capables de s’émanciper de tout contrôle et de produire les moyens de leur reproduction. Admettons-le, mais quel rapport cela a-t-il avec l’intelligence ? En quoi serait-ce de l’intelligence et non une mécanique stupide, qualitativement en-deçà de l’organisme le plus primitif ?

On nous répondra qu’elles ont une puissance de calcul bien supérieure à celle du cerveau humain. Quel rapport alors avec le vivant ? Les ingénieurs japonais parviennent tout juste avec de telles puissances de calcul à imiter le déplacement d’organismes vivants, alors qu’un ver, sans cerveau ni organe de perception ou de proprioception bien identifiables, y parvient avec plus de succès.

Cette improbable intelligence supérieure à celle de l’homme ne serait-elle pas plutôt un automate stupide ? N’importe quel phénomène physique sait aussi bien se reproduire à travers des algorithmes complexes. Il est même possible d’affirmer que plus le phénomène est basique, plus il est mathématiquement complexe, et proche du chaos.

Et si en réalité la complexification des machines, plutôt que de l’intelligence, produisait de la stupidité artificielle ?

Cette dernière intuition, que l’intelligence va plus vers la simplification que la complexification, mérite qu’on s’y arrête. Poincaré disait que les mathématiques consistent à donner un même nom à des choses différentes, ce qui est incontestablement une simplification, une manière simplifiée de les penser, du moins. Le système décimal et le zéro sont une simplification du calcul, et l’hexadécimal une manière bien plus simple de manipuler de très grands nombres.

Il n’est pas de grands progrès qui n’aient été des simplifications de techniques antérieures. Bien sûr, il n’est pas bien aisé de distinguer toujours nettement une simplification d’une complication. Il s’agit toujours de décomposer le complexe en des éléments plus simples, mais dont la multiplication engendre de nouvelles complexités, jusqu’à ce qu’ils soient synthétisés en un élément plus simple, etc. Mais attendre de machines qu’elles gèrent la complexité à la place de l’esprit humain, n’est probablement pas la voie à suivre.

Pour une critique technique de la technique

Je ne prends pas la notion de « stupidité artificielle » davantage au sérieux que celle d’intelligence artificielle, ou plutôt, je la comprends exactement de la même façon : le siège de cette stupidité, comme de cette intelligence, ne saurait se situer ailleurs qu’entre la chaise et le clavier. Il s’agit en réalité d’outils ou de prothèses qui accroissent des aptitudes humaines. Les uns ont pour fonction d’accroître les capacités cognitives de leurs utilisateurs, les autres de les diminuer.

Il semblerait que les expériences que nous faisons de l’intelligence artificielle soient difficiles à partager. Il ne m’est jamais arrivé qu’on me parle d’un système ou d’un programme dans les termes d’un accroissement de nos facultés intellectuelles, mentales ou cognitives, et j’ai même du mal à imaginer à quoi ça ressemblerait. On parle pourtant volontiers des meilleures performances que permettent des chaussures de sport, la conception d’un nouvel instrument de musique, etc.

Je suppose qu’il serait peut-être plus facile de parler de nos expériences d’une stupidité artificielle. Une certaine critique d’inspiration marxiste nous y a préparés. On regrette pourtant que Marx ne soit pas allé plus loin dans une critique de la technique, ni ses successeurs. Je ne pense pas ici à une critique de la technique en soi, comme le firent par exemple Heidegger ou d’autres penseurs réactionnaires, je pense plutôt à une critique technique de la technique.

Karl Marx lui-même, qui était philosophe et non pas ingénieur, était mal préparé à cette critique. Il ne manquait pourtant pas de bons ingénieurs parmi ceux qu’il avait presque directement inspirés, notamment Joseph Dietzgen⁹ ou Georges Sorel. Pour autant, ils ne sont pas non plus allés très loin dans cette voie. On peut citer quand même deux ouvrages de Dietzgen : Excursions of a Socialist into the Domain of Epistemology (1887) et The Limits of Cognition (1877)¹⁰. Les Illusions du progrèset Matériaux pour une théorie de prolétariat¹¹, de Sorel, ne manquent pas non plus de remarques intéressantes sur la technique et les outils.

Il se passe quelque-chose de remarquable autour de la programmation depuis la fin du siècle dernier dans le monde des hackers. Pour la première fois dans l’histoire, à ma connaissance du moins, on parle de problèmes techniques d’un point de vue à la fois politique et éthique, et surtout philosophique. On en parle principalement du point de vue de l’aliénation ; et on parle de l’aliénation du point de vue de la technique.

Il y avait certainement eu bien des rencontres entre technique et philosophie, notamment depuis l’Encyclopédie, mais pas au point de porter la dispute dans les questions techniques elles-mêmes, et surtout au point d’apporter des réponses techniques. L’ouvrage d’Eric S. Raymond, The Art of Unix Programming, constitue dans cette perspective, un événement remarquable¹². Les nouvelles techniques de la programmation apportent un éclairage radicalement nouveau.

Elles inspirent aussi des théories fantaisistes – théorie de la singularité technique, de l’intelligence artificielle, du transhumanisme, etc. – mais qui peuvent devenir heuristiques si elles sont replacées dans la perspective de profonds et lointains problèmes qu’elles prolongent.

Des illusions du progrès

Il vaut mieux se méfier par les temps qui courent lorsqu’on entend parler d’une théorie. On doit se demander d’où elle vient et le but qu’elle vise. Ces questions sont si évidentes qu’on s’attend à ce que les réponses coulent de source, mais on risque de les avoir oubliées avant de trouver réponse.

La plupart du temps, les théories dont on fait battage viennent de gens en quête de financements. Il n’y a rien d’étonnant à ce que des chercheurs et des penseurs cherchent des subsides, et espèrent les obtenir en faisant connaître leurs travaux et leurs projets. Pourtant, jusqu’à une époque récente, l’expression d’une théorie et les demandes de financement étaient distinctes. Le financement recherché avait d’ailleurs pour but de permettre ces recherches, ces théories ou ces projets, alors que les finalités paraissent toujours plus s’inverser.

Non seulement les producteurs de théories paraissent vouloir avant tout satisfaire les demandes de donateurs, mais ces théories qu’ils leur proposent ressemblent à des arguments qui leur serviront à leur tour à demander des subventions ou à attirer le chaland. On discerne donc comme une sorte de respirations entre de grandes théories et des discours publicitaires qui alimentent les apparentes évidences qui font la tapisserie des idéologies dominantes.

Le Transhumanisme correspond fortement à une telle description, justifiant les recherches et les produits de nanotechnologies.

La nature de l’homme a pourtant été très sensiblement augmentée, mais cela au cours de dizaines, de centaines de milliers d’années. Je ne pense pas seulement ici aux outils qui prolongent nos performances physiques, comme une hache de pierre ou un arc. Je pense par exemple à la conception nouvelle de l’espace et du temps que peuvent produire l’observation et l’indexation des mouvements célestes.

Quoi qu’il en soit, les hommes ne sont plus depuis longtemps, seuls ou en hordes, à la merci de leurs seules aptitudes physiques. Cela veut dire notamment que la robustesse et la force, comme les infirmités ou la faiblesse de l’âge, sont toujours moins déterminantes. Voilà qui est justement bien plus important que de pouvoir réparer les corps, prolonger la vie, etc, et que le transhumanisme en particulier, paraît négliger.

C’est très bien si, comme dans le film la Guerre des étoiles, ou peut remplacer la main que j’aurais perdue par une parfaite prothèse plutôt que par un crochet, et c’est mieux encore que si j’avais dû en mourir d’hémorragie ou d’infection ; mais le plus déterminant est que l’usage de deux mains soit devenue moins vital que pour mes ancêtres. Je veux dire que la nature humaine a été augmentée d’abord par des aptitudes cognitives, et non par des gadgets techno-corporels.

Les manifestes transhumanistes croient à la proximité de sauts qualitatifs car ils s’imaginent qu’ils dépendent seulement de quelques technologies brevetées. On comprend alors que ce qu’ils appellent « l’homme » se résume à quelques sociétés ou institutions plus ou moins privées ou publiques, mais dans tous les cas propriétaires de ces brevets. L’homme réel, lui, ne serait que plus soumis, dépendant de façon toujours plus critique de ces sociétés qui auraient alors des pouvoirs démesurés sur sa vie et sur sa survie.

De véritables bonds dépendraient plutôt de la diffusion, et surtout de l’intériorisation de ces techniques par un nombre significatif d’hommes. Cela seulement produirait une humanité augmentée. Même si l’on admet que les techniques progressent à une vitesse toujours croissante, celle-ci resterait de toute façon limitée par le rythme des générations et la transmission de l’une à l’autre.

L’humain augmenté

La théorie de la singularité technologique implique que les techniques deviennent « vivantes » ou du moins qu’elles acquièrent les principaux caractères du vivant. Elle suppose donc qu’elles se reproduisent. Or, les techniques se reproduisent déjà à travers l’entendement humain, et pour cela, il est nécessaires et suffisant qu’elles en soient connues.

La théorie de la singularité ne supposerait-elle pas alors plutôt qu’elles pourraient se reproduire sans avoir besoin d’être connues par des hommes ? Dans ce cas, nous sortons allègrement de la science fiction pour le fantastique, genre Seigneur des Anneaux et École des sorciers, et la plongée vers le futur prend un ton de retour à du passé légendaire, lointain et indéfini.

En attendant, je considère que les techniques se reproduisent à travers l’intelligence humaine. Pour cela elles doivent être connues, et il est probable que leur vitalité dépende principalement de la manière dont elles le sont. Le critère essentiel n’est sans doute pas d’ailleurs qu’elles soient connues par le plus grand nombre, mais qu’elles le soient le plus complètement possible par un nombre significatif. Le critère le plus décisif est au fond moins qu’elles soient « connues » que « connaissables ».

En consultant l’entrée « travail d’une force » récemment sur Wikipédia¹³, j’ai été surpris par la complexité des définitions proposée pour la simplicité du paradigme. Je préfère la définition de l’Office québécois de la langue française : « Produit d'une force, mesurée dans la direction du déplacement de son point d'application, par la distance parcourue par ce dernier. » Quel que soit l’intérêt de la page entière de Wikipédia, rien n’autorise à faire l’économie d’une telle définition simple, intuitive et synthétique.

On considère non sans raison que la mécanique classique est plus intuitive que la mécanique quantique, mais on ne se demande pas assez si la cause en est bien dans leur nature intrinsèque. Il n’est finalement pas si évident que les phénomènes qu’observe la mécanique classique soit si accessibles aux sens et à l’expérience, si l’on tient compte de ce qu’elle doit à la gravitation céleste. Il n’est pas non plus évident que la mécanique quantique se consacre à des phénomènes au contraire peu commodes à observer et à produire. On pourrait aussi bien conclure que l’intuitivité de la mécanique classique doive tout au souci de ses auteurs d’être accessibles au plus grand nombre, et que, à l’inverse, la non-intuitivité de la mécanique quantique doive beaucoup aux brevets et aux secrets industriels.

Je maintiens que dans l’ensemble tout progrès significatif consiste en une simplification et une synthèse des états antérieurs, et donc une plus grande facilité pour un même esprit à embrasser l’ensemble du savoir humain, c’est-à-dire le contraire d’une spécialisation, même si la spécialisation est pratiquement inévitable et l’a toujours été.

J’en conclus qu’on surestime certainement la fonction de vérité dans les sciences et les techniques au détriment de celle d’intuitivité. On surestime aussi celle plus pragmatique d’efficacité. On devrait plutôt considérer que la qualité déterminante d’une invention technique est la facilité avec laquelle elle peut être assimilée par l’esprit humain ; avec laquelle elle permet, en quelque sorte, « d’augmenter » celui-ci.

Ce que cachent et contiennent les mythes modernes

L’histoire récente de l’internet est instructive. Selon les apparences, l’internet a été initié, au moins partiellement, par le complexe militaro-industriel US, soit la structure au monde la moins prête à laisser respirer le plus petit souffle de liberté. Selon de tout autres apparences, l’internet a été mis au point par de jeunes chercheurs et ingénieurs à l’esprit des plus libertaires, à grand renfort de psychédéliques. Il y a du vrai dans ces deux apparences inconciliables, et cette vérité ne se situe probablement pas dans un moyen terme.

Peut-être l’internet s’est-il construit seul. Peut-être est-il parvenu à mettre à son service les acteurs les plus opposés et les ressources les plus difficilement conciliables. Les différentes instances qui l’ont mis au point, l’organisent, définissent ses standards, entreprises privées, institutions universitaires, commissions intergouvernementales, commissions ad hoc, organisations non gouvernementales, etc, constituent d’improbables ramassis aussi dépourvus les uns que les autres de pouvoirs décisifs. En auraient-ils eu, et aurait-ils su seulement se mettre d’accord, que l’internet n’aurait probablement jamais existé.

« Nous rejetons les rois, les présidents et les votes. Nous croyons en un consensus approximatif et un code fonctionnel »¹⁴ Ces phrases de David Clark¹⁵ en 1992 sont révélatrices de la façon dont s’est construit l’internet. Il s’est construit seul, si l’on assimile les ingénieurs et les chercheurs à un simple capital humain, un capital travail, propriété de ceux qui l’achètent, simples exécutants de ceux qui ont pour fonction de décider pour les autres hommes, et à ce titre se prennent, si ce n’est pour « l’homme », au moins pour ses « représentants ». Il n’est donc pas si étonnant finalement de voir alors ce « capital travail » devenir plus intelligents que « l’homme ». (Mais évidemment, David Clark et les autres ingénieurs et chercheurs sont des hommes réels, et non des machines, des programmes ou du capital – voilà qui aurait plu à Karl Marx.)

Le principe qu’énonce David Clark, ne consiste pas à obéir à une autorité « humaine », dictatoriale ou démocratique, mais à répondre à des nécessités techniques. En un sens, c’est plus que dictatorial, comme les règles d’une langue, plus ou moins arbitraires et qu’on applique comme des réflexes conditionnés ; en un autre sens, c’est plus que libertaire, au point que ça n’exige aucune mesure coercitive, aucune peine, en cas de non-respect. En cas de non-respect, ça ne marche pas c’est tout. Ou bien, ça marche quand même, et dans ce cas, pourquoi pas ?… (Consensus approximatif.)

Voilà ce que m’inspirent cette théorie de la singularité technologique, et quelques autres. Plutôt que comme théories, j’aurais tendance à les prendre comme des mythes, et comme tels, ils ne sont pas dépourvus d’intérêt. Comme tous les mythes, ils réussissent particulièrement bien dans des œuvres de fiction, de science fiction en l’occurrence. Ils sont finalement plus sérieux comme mythes que comme théories.

À Propos de Singularité Technologique et autres mythes modernes