Pierre de Lauzun | Le blog officiel

Réseaux sociaux : priorité à la responsabilisation. Ni censure, ni anonymat, ni algorithmes opaques.

Pierre de Lauzun — 2025-01-16T17:15:00Z

Encore stupéfaits par la victoire de Trump et l'activisme d'Elon Musk, nos gardiens du temple politiquement correct découvrent le ralliement de Mark Zuckerberg et Meta à la méthode Musk : pas de censure sur les réseaux sociaux sauf cas très spécifiques.

La liberté d'expression est en soi une bonne cause.

Reste que la réalité des réseaux sociaux soulève de vraies interrogations si on ne veut pas devoir naviguer dans des égouts, ou subir des dérives de viralité. Cela pose en effet deux grandes familles de questions.

Du côté des utilisateurs, la responsabilité à l'égard de ce qu'on écrit et publie. Du côté des réseaux, l'opacité plus ou moins manipulatrice et intéressée de leurs algorithmes.

Les usagers sont responsables de ce qu'ils disent

On souligne à raison la prolifération sur les réseaux sociaux d'informations fausses, de paroles haineuses, ou même d'images truquées, ce qui devient à la portée de tout un chacun avec ChatGPT et autres. En soi, il n'y a là rien de nouveau sous le soleil. Il suffit de rappeler les gravures diffamatoires visant Marie-Antoinette juste avant la Révolution. La grande nouveauté, outre la facilité de fabrication de faux, est surtout l'énorme diffusion qu'il est possible d'atteindre, par l'existence même du réseau, et ensuite si on crée un effet de viralité.

C'est par cela qu'ont été justifiées les procédures de filtrage ou censure, souvent traitées sous l'euphémisme de vérification des faits (fact-checking). Avec le résultat d'une part d'une efficacité douteuse, et d'autre part de tomber sous l'accusation de contrôle idéologique. Chacun sait que le terme de « discours de haine » vise en pratique prioritairement toute remise en cause un peu vive de l'immigration, de l'islam, ou de l'idéologie woke, entre autres. Mais censurer la critique de l'immigration sous prétexte de messages ‘haineux' ou ‘sulfureux' n'est pas acceptable (sauf violence). Et même, Mark Zuckerberg a confirmé qu'il avait reçu des instructions précises de l'administration américaine de filtrer toutes les critiques de la politique de vaccination massive à l'époque Covid, ou des données sur le fils Biden. Tout cela n'est pas transparent, et franchement inacceptable dans un contexte légal où la liberté d'expression est supposée garantie. Et quand le filtrage est fait par Libé, on ne peut qu'en rire.

Reste inversement que la question existe. N'importe quel abruti peut prendre un pseudonyme et diffuser tout ce qui lui passe par la tête sans le moindre risque. Or dans la vraie vie, c'est différent. Celui qui énonce ce genre de chose dans la rue ou au café peut avoir une réaction plus ou moins vigoureuse, et peut être reconnu. Et celui qui l'écrit est connu soit du public soit au minimum de l'éditeur ou du média. Ce qui est juste. La liberté suppose la responsabilité.

Deux choses s'imposent donc. D'un côté, l'interdiction des pseudonymes - ou en cas d'utilisation régulière de l'un d'entre eux, l'enregistrement de la personne sous son vrai nom, avec preuve, auprès du réseau. D'où entre autre l'élimination des robots et faux comptes. D'un autre côté, la responsabilité de celui qui publie sur ses écrits, comme pour une publication.

A ce moment-là, le besoin de filtrage ne subsiste que pour ce qui est manifestement illégal (pédopornographie, harcèlement, produits illicites, appels au terrorisme, contenus violents etc.). Plus le contrôle par la communauté des utilisateurs, car cela correspond à ce qui se passe par ailleurs dans la société. X et Meta se réclament de cette approche : il faut vérifier la qualité de la mise en œuvre, mais le principe en est a priori plus sain qu'une censure idéologique. Ou que les ‘signaleurs de confiance', chers à la règlementation européenne (DSA), et en fait militants.

Les algorithmes de recommandation des réseaux sont anormalement opaques

Les réseaux sociaux présentent ensuite une différence majeure par rapport à tout autre support d'édition et de communication : les algorithmes par lesquels ils décident, dans une opacité parfaite, de ce qui va être présenté au client, du déroulé des posts, images ou messages, et des publicités. Cela vise tous les réseaux sociaux (Facebook, Instagram, Tiktok et autres), mais aussi à leur façon les moteurs de recherche (type Google). En un sens, c'est une nécessité : une présentation purement chronologique ou aléatoire ne serait en général pas satisfaisante. Mais en réalité, les algorithmes de nos réseaux vont bien au-delà d'un rôle de recommandation qui serait purement affinitaire et bienveillant.

Le point central est que nous avons affaire à des sociétés commerciales, qui vivent de publicité (et de la vente de bases de données, point important mais allant au-delà de notre sujet ici). Qui dit rémunération de la publicité dit probabilité que quelqu'un les regardera. D'où l'intérêt des réseaux de maximiser ce regard, ce temps de présence et d'attention. On va donc traiter les posts en calculant la probabilité qu'ils ont d'attirer l'attention (les critères pouvant varier selon les réseaux : durée de visionnage, nombre de ‘j'aime' ou de commentaires, inscription dans une tendance, nombre de suiveurs etc.). Outre les cas où ils sont payants (publicités), cela vise la viralité, au motif que ce qui est beaucoup vu par certains a toutes chances de l'être plus encore par d'autres.

Or ce système est parfaitement opaque. Et les utilisateurs sont en revanche totalement démunis par rapport à l'algorithme. Si autrefois vous lisiez une journal marxiste, vous saviez comment ils analysaient les choses, leur grille idéologique. Là ce n'est pas accessible. Certes, les utilisateurs astucieux s'adaptent et tentent d'influencer les algorithmes, en lui offrant ce qui lui parle le plus, et pour cela on adapte son discours. Ce que trie l'algorithme n'est donc pas une matière première neutre : elle est organisée pour être sélectionnée par lui. Mais de ce fait, lui doit de son côté en permanence s'adapter. Or on ne connait pas plus ces changements que le système de départ.

Pourtant, les utilisateurs restent et subissent, car l'utilité du produit (l'usage gratuit du système, l'effet distractif, et surtout le fait de se sentir dans le coup) est bien trop grande - d'autant plus que chaque réseau social a une sorte de monopole naturel sur son créneau. Ce choix se fait sans appréciation suffisante de ce que contient réellement ce qui est offert. Et surtout l'utilisateur n'a que très peu de moyens de le réguler.

On pourrait imaginer que cela implique une certaine individualisation, fonction de ce que le système a pu percevoir des centres d'intérêt de celui qui regarde. Mais en réalité, cela aboutit surtout à faire regrouper ces utilisateurs par classe d'affinités. Ces algorithmes replient chacun sur un modèle statistique moyen, en constituant des petits groupes relativement homogènes, plutôt consensuels mais mutuellement hermétiques. Cela joue un rôle indéniable dans la polarisation des opinions, mais aussi dans leur antagonisation. En même temps, ce que le système retient de chacun est en fait une image très réduite, orientée en fonction des besoins dudit système.
Comme dans d'autres domaines comme la mode, la recherche de l'individualité aboutit à une image très réductrice, opaque à l'individualité elle-même.

Par ailleurs, le système cultive le buzz permanent et donc un mouvement apparent ; dès lors celui qui passe du temps sur ces réseaux et y investit affectivement est constamment balloté en fonction du flux qui lui arrive. Ces algorithmes de réseaux sociaux régissent une bonne partie des interactions entre les personnes dans nos sociétés, parfois pendant plusieurs heures par jour. Par là même ils contribuent à façonner nos sociétés, mais sans aucune forme de responsabilité, ni de recul.

Par ailleurs, les algorithmes peuvent rendre certains contenus pratiquement invisibles sans les supprimer explicitement, en les reléguant en bas de la file -ce qui n'est pas immédiatement perceptible.

Transparence et responsabilité : que faire ?

Cela ne condamne pas les réseaux sociaux dans leur principe. Mais cela conduit à prendre du recul par rapport à leur fonctionnement. Et à rechercher les moyens d'en réduire l'opacité et d'instaurer plus de responsabilité.

Tout d'abord, l'opacité totale de ces algorithmes quasi-monopolistes est anormale. Ils devraient donc publier explicitement et en détails la méthode : ce qui fait qu'un post est privilégié dans le déroulé.

Ensuite il devrait être possible pour l'utilisateur de sélectionner réellement ce qui lui est présenté – quitte à ce que ce service ne soit pas gratuit. Avec en outre la possibilité de revisiter les posts plus anciens, comme des articles de journaux qui gardent leur intérêt.

Par ailleurs, les réseaux devraient être responsabilisés sur les effets de buzz. Cela existe ou a existé sur les marchés financiers : quand un cours de bourse ou de valeur évolue trop vite de façon délirante, on arrête pendant un temps les transactions. De même, un buzz suspect devrait conduire à un coupe-feu d'une durée raisonnable, répété si nécessaire.

Enfin, il serait souhaitable que des réseaux alternatifs nouveaux, moins obsédés par la publicité et donc financés autrement, offrent une vraie possibilité de rencontres et d'échanges, basés sur des affinités reconnues et choisies par les utilisateurs, avec des algorithmes qui soient à leur service et non à celui du buzz et par là de la maximisation du profit publicitaire.

Restera bien sûr toujours l'effet d'addiction et de divertissement sur l'utilisateur. Mais là, c'est à chacun de se discipliner…

Algorithmes et personnalité humaine

Pierre de Lauzun — 2024-09-03T16:11:00Z

Notre monde est de plus en plus dominé par le numérique, et cela en inquiète beaucoup. Mais ma question ne sera pas ici la numérisation comme telle. En effet, transformer un message quelconque en une suite de nombres (un des sens de numériser) ne change en soi pas les choses et leur signification : tout poème peut être numérisé puis restitué dans le texte d'origine. De même un tableau ou la Bible. Ce qui importe est leur traitement ; c'est-à-dire le fonctionnement des algorithmes, et notamment de l'IA (Intelligence artificielle). Dans quelle mesure leur fonctionnement change-t-il le traitement même de la personne (ou des groupes humains) du fait qu'elle est appréhendée au moyen de chiffres puis saisie par des procédés divers mais essentiellement probabilistes ?

Certains désirent ou craignent l'émergence d'une intelligence qui serait supérieure à l'intelligence humaine. Ce qui repose comme on le verra sur une perspective fausse, car le mot intelligence recouvre dans les deux cas des réalités complétement différentes. Mais justement un des dangers est là : la réduction de l'intelligence humaine ou son conditionnement.

On mettra ici plus particulièrement l'accent sur un cas spécifique de numérisation et d'IA, celui des algorithmes utilisés par les géants du web : réseaux sociaux comme Facebook, mais aussi Google, Instagram et Amazon, ou encore Netflix (films), Spotify (musique) ou YouTube (vidéos). Dans ces cas, il s'agit en un sens d'utiliser la statistique pour gérer l'individualité, mais pour un but précis, qui est d'ordre marchand. Ce faisant on ne gère pas l'individualité de façon neutre. Il y a inévitablement une philosophie sous-jacente, et pas seulement commerciale. D'ailleurs le commercial est déjà une forme de philosophie, qui façonne la société.

Une telle évolution a supposé d'une part la tendance historique (depuis deux siècles) au rôle croissant de la statistique. Et d'autre part, les outils et la puissance de calcul de l'IA. Nous commencerons par rappeler le point de départ, qui est la statistique elle-même, pour évoquer ensuite la question générale de l'IA, et en venir enfin au cas spécifique des réseaux sociaux et du web.

L'expansion de la statistique et sa corrélation avec l'individualisme

Olivier Rey montre les développements de la statistique au cours du XIXe siècle, au début au sein de ce qu'on appellera ensuite les sciences sociales, commençant par un pur exercice de dénombrement. Puis s'est développée petit à petit sa théorisation mathématique. Plus significatif est son développement prodigieux vers un rôle scientifique, notamment en physique avec les analyses sur les gaz de Boltzmann, puis sa fonction centrale dans la physique quantique et la mécanique ondulatoire. Parallèlement bien sûr, le rôle de la statistique dans la connaissance de l'homme et de la société a pris lui-même une extension gigantesque.

Rey fait un lien direct entre ceci et l'évolution de la société démocratique, à partir de la Révolution française. Car le principe d'égalité et l'ouverture de toutes les voies à tous implique aussi à la fois une compétition maximale, et une difficulté à se distinguer et même à se définir. Mais d'un autre côté, poursuit-il, l'idée, d'origine chrétienne, que la personne humaine est unique, et donc la recherche de la singularité, se maintiennent dans une société incapable de le satisfaire. « C'est l'incommensurabilité radicale des singularités qui conduit au calcul ; c'est le principe selon lequel personne n'est là pour faire nombre qui finit par appeler le règne du nombre ». Et il ajoute : « Néanmoins la subjectivité renâcle, se plaint. Elle reproche à la statistique d'ignorer les nuances du réel, de se montrer inattentive au détail des situations, d'être ‘impersonnelle'. D'un côté on lui demande de rendre compte des faits de façon objective et impartiale, de l'autre on lui fait grief de son insensibilité, de s'en tenir à ce qui se mesure et, ce faisant, de laisser échapper l'essentiel ».

Ces remarques éclairent singulièrement cet usage particulièrement innovant et puissant des nombres qu'on appelle Intelligence Artificielle ou IA.

Rappel de données de base sur l'IA

De quoi parle-t-on ?

Comme on sait, le terme intelligence est compris de multiples façons. Dans les milieux traitant de l'IA, et de façon cohérente avec le matérialisme diffus de nos sociétés, on la comprend comme une capacité à résoudre des problèmes ou au minimum à agir par rapport à des situations. D'où ce terme d' ‘intelligence artificielle'. Comprise, ainsi l'intelligence humaine peut être dépassée. On parle même de la possibilité pour l'IA d'atteindre un jour un niveau de ‘superintelligence', comportant une intelligence générale très supérieure à celle de l'homme, et notamment la capacité de construire elle-même des machines encore supérieures.

Je ne me situe pas dans cette ligne. Tant du point de vue de la philosophie classique que de la foi chrétienne, on ne peut réduire l'esprit et notamment l'intelligence à la solution technique de problèmes. Dans cette perspective, on peut même envisager que des machines aient une capacité de traitement très supérieure à celle de l'homme, sans conclure que ce dernier est inférieur. C'est que l'esprit humain possède une supériorité ontologique radicale de par sa capacité à penser consciemment, ainsi que par sa liberté et sa créativité ; c'est en outre un être relationnel. En bref, c'est une personne. Et une telle personne, créée à l'image de Dieu, est seule ouverte à l'infini de la transcendance divine. Quant à l'intelligence, c'est une capacité à voir le vrai, le beau et le bien, dont un élément clef est la contemplation, qui sert bien sûr aussi à trouver des solutions au besoin, c'est-à-dire à agencer le réel, mais ce n'est qu'une de ses applications.

Concrètement, l'IA est une machine qui soit explore systématiquement des solutions préenregistrées, soit traite des masses de données à l'aide d'algorithmes basés sur des calculs de probabilité, enrichis de techniques d'apprentissage. Cela lui permet de battre des êtres humains aux échecs ou au go, souvent par des moyens non prévus à l'avance par les concepteurs. Mais si l'exploration systématique ou la combinaison probabiliste de données permettent de définir une stratégie gagnante au jeu, c'est par une puissance extraordinaire d'exploration de la combinatoire de données déterminées, par une capacité de calcul : il n'y a pas là de pensée. Encore moins une capacité à déceler le sens possible des choses et leur signification morale, en termes de bien et de mal. Et encore moins d'agir librement en engageant sa responsabilité.

Mais bien entendu cette extraordinaire puissance peut bouleverser nos existences, même sans aller jusqu'à la ‘superintelligence' en supposant que cela ait un sens. Les services que l'IA rend sont déjà considérables (moteur de recherche, traduction, diagnostics de tout type etc., sans parler de l'IA générative de type ChatGPT) et ils le seront plus encore à l'avenir. Mais inversement, on peut craindre le développement d'une capacité considérablement supérieure de contrôle social, comme en Chine. Ou le risque de pertes d'emplois massives. Ou le développement d'armements terrifiants. Etc.

Ou encore, plus profondément, une réduction de l'humain lui-même, compris à travers l'IA et par là selon une idée fausse de l'intelligence humaine et de la personne.

Les questions posées

Le caractère essentiellement statistique de toute IA implique un triple questionnement. Sur les données utilisées d'abord, qui peuvent être insuffisamment fiables ou contenir des biais implicites, et relever de la vie privée des personnes concernées. De toute façon, par nature même, des données numérisées ne reflètent qu'une partie du réel.

Un questionnement sur les algorithmes ensuite, dont comme on l'a dit on en connaît pas exactement le cheminement et qui peuvent conduire à des résultats surprenants ou inattendus. La littérature évoque ici les cas de discrimination, par exemple raciale, soit présente dans les données, soit induite par l'algorithme par corrélation (avec la délinquance, la pauvreté, ou la résidence géographique par exemple). Mais l'IA ne le verra pas, car elle ne pense pas.

Ces deux questionnements posent à leur tour des questions centrales de responsabilisation face à ces effets indésirables. Or une telle responsabilité ne peut échoir qu'à des êtres humains, qui ne peuvent se cacher derrière la machine. Cette responsabilité doit donc être clairement identifiée, là où elle se situe, au niveau humain.

Il est donc essentiel de réfléchir, en général et cas par cas, sur l'encadrement possible de l'IA, tant au niveau de l'éthique de ceux qui sont en charge de la créer et de l'utiliser, et éventuellement, à celui de la réglementation. Mais en l'occurrence cela implique surtout en l'espèce une démarche originale, allant au-delà des intentions des acteurs, et qui vise le contrôle de son fonctionnement et de ses effets, c'est-à-dire ce que produisent effectivement les algorithmes, au-delà du dessin initial du système et de ses concepteurs. Cela suppose de façon vitale des tests réguliers et des études d'impact. Trop souvent en effet l'IA apparaît comme une ‘boîte noire'.

Le pape François a bien vu ces questions, dans plusieurs interventions depuis 9 mois.

Algorithmes et Internet

Venons-en maintenant aux algorithmes utilisés par les nouveaux géants qui dominent Internet, souvent de façon monopoliste ou presque.

Les effets de tromperie

Un premier élément nouveau est les capacités nouvelles de circulation d'informations tendancieuses ou manipulées. Ou la possibilité technique de créer des messages (des images) trompeuses de vérité, mais artificiellement : on fera une photo compromettante de quelqu'un (ou un film) criants de vérité, mais faux. Certes, cela retrouve une possibilité ancienne : voir les gravures diffamatoires visant Marie-Antoinette juste avant la Révolution. Mais la tromperie est massivement surmultipliée tant dans sa facilité de production, sa crédibilité apparente, que dans sa diffusion instantanée. Et notamment dans la création de mouvements de foule immenses et apparemment incontrôlés (viralité). Ces problèmes sont bien connus et ont conduit les opérateurs concernés à mettre en place des formes de filtrage ou de censure, utilisant eux aussi des algorithmes. Ce qui n'est pas sans poser à son tour des problèmes considérables : les uns critiquent l'efficacité médiocre de ce genre de filtrage ; les autres au contraire critiquent la censure, assez arbitraire, ou s'inspirant d'une idéologie latente.

Les algorithmes de recommandation des réseaux sociaux

Mais ce qui est plus intrinsèque au fonctionnement de ces systèmes est la manière dont ils conçoivent le produit présenté au client. Comme on sait, les réseaux sociaux (Facebook, Instagram, TikTok et autres) ou à leur façon les moteurs de recherche (type Google), mais aussi les sociétés commerciales de type Amazon ont pour cela une fonction vitale à assurer : le classement des informations à fournir. Prenons les réseaux sociaux : cela vise le déroulé de ce qui va être présenté à celui qui les regarde. En un sens, c'est une nécessité : une présentation purement chronologique serait neutre, mais peu satisfaisante ; une pêche aléatoire dans l'océan des possibles et notamment en l'espèce des producteurs de posts serait frustrante et peu productive ; la limitation aux vrais amis un peu étroite. D'une certaine façon, un algorithme de recommandation a donc son sens. Mais les algorithmes de nos réseaux vont bien au-delà d'un rôle de recommandation purement affinitaire et bienveillante.

Il s'agit en effet de sociétés commerciales, vivant de publicité. Facebook et les autres utilisent des probabilités de regard pour gagner de l'argent avec de la publicité. De même Google d'ailleurs, selon des modalités un peu différentes. Il est donc vital pour eux de maximiser le temps de présence et d'attention. Cela conduit notamment à favoriser la viralité, car ce qui est beaucoup vu a toutes chances de l'être plus encore. On va donc le plus possible marquer les posts, puis les classer selon un calcul de la probabilité qu'ils ont d'attirer l'attention. Cela comporte donc une certaine individualisation, fonction de ce que le système a pu percevoir des centres d'intérêt de celui qui regarde ; mais elle est intéressée et orientée. Même dans le cas de Google, qui est un outil de recherche, le but n'est donc pas la vérité, mais une forme de performativité : faire en sorte que le classement optimise le flux de regards, et par là le flux publicitaire. Cela suppose bien sûr de donner un certain rôle à la réalité des sources, mais le plus important n'est pas leur justesse intrinsèque.

Certes, le conditionnement pouvait exister autrefois. Mais il passait la plupart du temps par des interactions avec des personnes, et non pas par la rationalisation intéressée d'un système, fondée sur des corrélations à base numérique. Lequel, point essentiel ici, possède en outre une opacité presque intrinsèque. Si vous aviez à faire à de la propagande marxiste, vous pouviez étudier le marxisme et la littérature correspondante. Là ce n'est pas accessible.

A cela s'ajoute le comportement des utilisateurs eux-mêmes, et notamment de ceux qui veulent faire passer leur message et pour cela tentent d'influencer les algorithmes. Comme les systèmes trient ce qui leur apparaît pertinent selon leur jeu de critères, la question pour les porteurs de message est alors d'offrir à l'algorithme ce qui lui parle le plus. Non seulement donc l'algorithme n'est pas neutre, mais il suscite une transformation de la matière première qu'il utilise : ce que trie Google n'est pas une matière première neutre : elle est dans une certaine mesure organisée pour être sélectionnée par lui. Mais cela ne correspond pas nécessairement à ses propres objectifs, et il doit donc en permanence s'adapter, et il réarrange constamment son algorithme. Or on ne connait pas plus ces changements que le système de départ – d'autant que cela permettrait aux utilisateurs de s'adapter eux aussi. D'où d'ailleurs un argument supplémentaire de ces entreprises pour justifier leur opacité.

Et cela finit par influencer même la production artistique, même en musique, peinture ou photo, car pour percer, il faut vite être perçu par le système.

Par ailleurs, la capacité des utilisateurs (clients) d'échapper à ce conditionnement est pour l'essentiel illusoire : d'abord, personne ne lit les conditions d'utilisation ; ensuite et surtout, l'utilité du produit (l'échange de données sur soi contre un usage gratuit du système) est bien trop grande. Et donc on est soumis à une forme hyperbolique de ce que fait déjà le marketing. Le libéral pur a peu d'objection à faire à cela ; il regarde le seul consentement de l'individu, supposé sans interférence. Mais il est clair que ce choix se fait sans véritable appréciation de ce que contient réellement ce qui est offert. Et la régulation du contenu est difficile à définir, surtout si les gens désirent vraiment quelque chose. L'action du consommateur ne suffit donc pas : il faut des régulations. Il faudrait donc un regard extérieur capable d'analyser les biais réels du système. D'abord de transparence. Puis de responsabilité.

Effet sur l'individualité

C'est que l'effet sur la personne est considérable et met directement en jeu la question de l'individualité. Le rôle culturel des réseaux sociaux est désormais majeur, mais il est difficile de le considérer comme globalement positif, notamment sur les jeunes générations (Tiktok, Instagram etc.). En particulier, les algorithmes tendent en pratique à replier chacun sur un modèle statistique moyen et par là uniformisant. Cela peut se faire au niveau général du public, mais plus fréquemment niche par niche, aboutissant à ce que les utilisateurs se parquent dans de petits mondes homogènes, consensuels et mutuellement hermétiques, voire hostiles. En tout cas, cela joue un rôle indéniable dans la polarisation des opinions, et leur antagonisation. En outre, les choix faits par l'algorithme peuvent susciter à la longue un sentiment d'insignifiance, puisqu'on n'a plus la stimulation de la recherche ; c'est finalement l'impression que tout se vaut.

Du côté de l'utilisateur, l'effet principal est une personnalisation relative apparente, mais en réalité compatible avec la massification : ce que le système retient de moi est une image très réduite et orientée en fonction de ses besoins à lui. En outre, on ne teste pas en permanence nos préférences pour les corriger : une fois intégrées dans le système, elles sont difficiles à modifier par la suite. D'où le paradoxe que la recherche de l'individualité aboutit non seulement à une image très réductrice, mais qu'elle est opaque à l'individualité elle-même.

Ajoutons enfin, que la vie personnelle de celui qui passe du temps sur ces réseaux et y investit affectivement est de ce fait constamment ballotée en fonction du flux de ce qui lui arrive ainsi que des réactions qu'il obtient à ses propres productions, le tout conditionné et orienté par les algorithmes. Au lieu de personnes en chair et en os, et a fortiori de relations stables au sein de communautés humaines véritables, où un minimum d'engagement réciproque est attendu.

Nous retrouvons un point central déjà évoqué à propos du risque qu'il y a à voir l'intelligence humaine comme purement instrumentale, sur le modèle de l'IA. Trop se mettre dans les mains de ce genre d'outils, c'est risquer une forme de mutilation, de réduction de l'humain en général et de la vraie intelligence humaine en particulier.

Notons ici une différence majeure par rapport à un autre usage possible d'Internet : un tel fonctionnement est très différent de celui qu'expérimente par exemple quelqu'un qui cherche un livre rare, même à travers Google ou Amazon. Car dans ce cas, même si le mécanisme de recherche peut utiliser des jeux de probabilité, le ciblage est individualisé et donc très différent. L'effet d'Internet n'est plus uniformisant. Mais cela suppose que j'ai des idées claires sur ce que je cherche et de ne pas me laisser porter par le système.

Conclusion

Comme nous le voyons, l'usage des algorithmes sur Internet pousse encore plus loin l'effet simplificateur qu'implique l'usage de la numérisation pour représenter le réel, et constitue une nouveauté considérable pour deux raisons majeures. D'une part, parce que l'outil qui y préside est opaque et entend bien le rester. D'autre part, parce que ces outils régissent une part appréciable de l'interaction entre les êtres humains dans nos sociétés, parfois pendant plusieurs heures par jours, comme les adolescents sur Tiktok. Par là même ils contribuent à façonner une des dimensions culturelles (au sens large du terme) de nos sociétés, mais sans aucune forme ni d'examen externe, ni de responsabilité, ni évidemment de recul.

En particulier ils distillent une conception très particulière de l'individualité : d'un côté, ils paraissent l'exalter dans sa spécificité, et de fait tendent à en exacerber certaines dimensions. Et d'un autre côté, ils la réduisent et surtout l'agglomèrent dans une approche statistique qui conduisent à constituer des grumeaux plus ou moins homogènes ou tribalisés. Certes, cela prolonge des réalités déjà présentes, dans le marketing par exemple, qui donne le sentiment d'un choix personnel et original à ce qui est en réalité une mode largement partagée (à l'exemple du jeans depuis les années 60). Mais le processus est ici bien plus systématique, et donc englobant pour la personne, et en outre opaque.

Cela ne condamne pas le principe même de ces réseaux sociaux. Mais cela implique deux lignes de conduite. L'une, personnelle, va dans le sens d'une juste distance par rapport à ces outils qui peuvent être utiles mais sont bien ambigus.

L'autre est plus collective. Elle vise d'abord à contrôler et expertiser les effets réels de ces algorithmes. Elle conduit ensuite à encadrer réglementairement leur action, tant pour en réduire l'effet de monopole que pour en réduire l'opacité, et pour instaurer plus de responsabilité.

Enfin, dans l'idéal, des réseaux nouveaux alternatifs moins obsédés par la publicité offriraient dès lors une vraie possibilité de rencontres et d'échanges basés sur des affinités authentifiées par les utilisateurs.

Au-delà encore, l'effet positif de ce genre de développement est par contraste d'avancer dans la prise de conscience de la spécificité véritable de l'humain à travers cet attribut essentiel qu'est l'intelligence, question de philosophie fondamentale qui devient vite une question de spiritualité.

Texte basé sur une intervention au colloque annuel de l'AIESC -Association Internationale pour l'Enseignement Social Chrétien (31 août 2024)

Intelligence artificielle : le défi

Pierre de Lauzun — 2023-03-26T15:55:00Z

Ce qu'on appelle Intelligence artificielle ou IA est une ensemble varié de techniques informatiques effectuant des opérations complexes d'analyse et de traitement de données, présentées un peu vite comme analogues à l'intelligence humaine ou capables de la simuler. C'est donc une formidable machine de traitement de données, renforcée par une capacité d'apprentissage automatique et donc d'auto-perfectionnement. Et le progrès technique va multiplier ces possibilités, notamment avec les ordinateurs quantiques lorsqu'ils seront pleinement fiables.

Il est clair que la fiabilité et l'efficacité de l'IA dépendent directement de deux séries de facteurs : la richesse et la pertinence des bases de données d'une part, la qualité des algorithmes de l'autre.

Certains des résultats de l'IA sont particulièrement visibles et spectaculaires. Ainsi le fait de pouvoir battre les plus grands champions aux échecs puis au go ou même au poker. Ou plus récemment la capacité de ChatGPT à produire des textes en langage courant en réponse à une question quelconque, et d'engager un dialogue que rien ne distingue en apparence de la réponse d'une personne : des élèves ont pu ainsi faire rédiger leur devoir par le système, de façon superficiellement méconnaissable (sauf l'absence de fautes d'orthographe…). Parallèlement l'IA est utilisée massivement dans de multiples applications plus spécialisées très efficaces, dont on se sert tous les jours : moteurs de recherche, itinéraire, traduction, reconnaissance faciale, pilotage automatique, diagnostic médical etc.

En sens inverse, les interrogations pratiquées ici ou là de ce même ChatGPT en ont montré les limites : des erreurs matérielles - quand il ne sait pas bien, il extrapole allégrement et invente. Et des incohérences logiques : le système ne raisonne pas, mais combine des données de façon probabiliste ; bien sûr elles-mêmes contiennent des raisonnements, mais ChatGPT ne fait que les regrouper. Personnellement je l'ai interrogé sur mon propre cas, et j'ai été stupéfait de voir le système me donner avec un total aplomb et de façon répétée des informations factuelles parfaitement fausses, et ne ressemblant que de loin à la réalité (date de naissance, profil de carrière, appartenance à des organisations etc.). On nous promet moins d'erreurs avec GPT-4 (nouvelle version qui sort) ; mais il reste qu'on ne peut confondre un outil probabiliste avec une recherche directe de faits.

C'est en résumé un ensemble d'outils très puissants dans des domaines spécialisés, où la probabilité obtenue peut être très forte, même s'ils ont besoin de surveillance humaine compte tenu des ratés - et beaucoup moins convaincants lorsque le champ s'élargit au-delà de ses zones de validité.

Mais les zones de succès sont suffisamment larges pour qu'on puisse prévoir que le développement de son rôle à l'avenir sera massif. Si vous tapez Intelligence artificielle sur Google vous tombez en majorité sur des publicités de services expliquant aux entreprises comme s'assurer de ses bienfaits. Ce qui pose d'ailleurs pour ces utilisateurs de nombreuses et importantes interrogations : d'ordre technique car ces bases de données sont coûteuses et très sensibles aux perturbations (y compris malveillantes) et que la démarche IA n'a de sens que sur une échelle et dans des conditions suffisantes ; et d'ordre éthique, notamment sur la qualité des données utilisées et sur celle des algorithmes.

Mais plus largement, l'IA suscite deux séries de questions : impacts sur la société, et questions philosophiques.

Questions portant sur ses impacts sur la société

Impact sur l'emploi d'abord, et notamment par disparition emplois jusqu'ici valorisants : juristes, comptables, soignants, gestionnaires de tout type, contrôleurs, enseignants, programmateurs etc. voient et surtout verront une partie appréciable de leur travail effectué plus rapidement et beaucoup moins cher par des machines. Si d'un côté cela permettra un enrichissement des tâches de certains, et permettra de nouveaux services, d'un autre côté cela menacera directement bien des emplois, l'effet final algébrique étant inconnu. D'ailleurs Internet a plus créé d'emplois de livreurs que d'informaticiens, et détruit bien des emplois de libraires et autres commerçants. Au minimum en tout cas, ce devrait être un facteur de bouleversement appréciable. Un risque étant notamment une division toujours croissante entre des tâches encore plus nobles mais peu nombreuses, et des emplois plus banalisés, là où la machine ne peut pas aller (travail physique), ou à son service (ainsi pour la collecte de données, dans ce qu'on appelle micro-travail).

Impact en termes de responsabilité : la relative autonomie des machines, dont les processus peuvent être opaques même à leurs auteurs, la facilité d'utilisation, et l'autorité de ces outils puissants et supposés neutres, peuvent entraîner une formidable déresponsabilisation. Or jusqu'à plus ample informé, seul l'homme est capable de responsabilité morale, et donc la véritable décision devrait idéalement rester humaine, tant au niveau du concepteur que de l'utilisateur qui décide, ou pas, de s'en remettre à la machine. Mais la facilité ira en sens inverse…

Impact sur la question de l'information sociale et du débat public. Le pape François avait alerté sur l'utilisation de l'IA pour « faire circuler des opinions tendancieuses et de fausses données, empoisonner les débats publics et même manipuler les opinions de millions de personnes », « au point de mettre en danger les institutions à même de garantir une coexistence civile pacifique ». De fait ChatGPT par exemple, outre sa propension à inventer là où il n'a pas de réponse, et l'absence complète d'indication de ses sources, est manifestement programmé pour être politiquement correct. Et on peut encore raffiner. La recherche de fiabilité peut même par un paradoxe apparent renforcer cette tendance.

Impact sur le contrôle social, comme nous le rappelle l'exemple chinois (crédit social, contrôle généralisé etc.). En l'état il peut apparaître répulsif, mais on peut trouver des manières de justifier de telles pratiques qui soient plus cohérentes avec les préoccupations de nos sociétés, notamment en termes de de sécurité. Ou de politiquement correct…

Impact enfin sur la compétition économique entre pays. Une avance marquée en termes d'IA donnera au pays concerné un avantage considérable sur ses concurrents, et cela dans bien des domaines (économique, militaire, médical etc.). Or cela repose à la fois sur la qualité des algorithmes et sur la taille et la qualité des bases de données. De ce point de vue, un grand pays, surtout sans inhibition sur la collecte de données, peut avoir un avantage considérable. De même pour ceux capables de développer sur large échelle la recherche algorithmique. Plus généralement, il paraît que l'IA donne une prime à la taille et à la puissance. Au stade actuel, les Etats-Unis d'abord, la Chine ensuite, ont une nette avance, qu'ils ont des chances de garder, et ils ne sont suivis que d'assez loin par l'Europe et le Japon. Un sérieux effort serait ici indispensable dans nos pays.

Questions philosophiques

Dans quelle mesure cette recherche, censément d'une forme d'intelligence, peut-elle déboucher sur l'acquisition d'attributs actuellement vus comme le propre de la personne humaine ? La puissance de calcul est une chose ; la rationalité, l'imagination, la recherche du sens, la responsabilité, la capacité de relation avec d'autres personnes et plus largement la conscience et la liberté, en sont d'autres, jugés caractéristiques de la personne humaine. Rien ne dit à ce stade que la machine puisse en être dotée un jour : plus que penser, elle fonctionne, déroulant ses algorithmes programmés, qui, même s'ils ne sont plus toujours analysables du dehors, restent strictement déterministes. Relier statistiquement des concepts est tout autre chose que réfléchir dessus.

Mais les tenants de la technologie conquérante pensent que ce stade sera dépassé, et qu'au bout du processus émergera une véritable conscience avec tous ses attributs, en tout cas largement l'équivalent de ceux de la personne humaine, et bien plus performants. Nous ne connaissons pas l'avenir. Mais en fin de compte, la question est fondamentalement philosophique, et recouvre l'opposition entre matérialistes et non-matérialistes. Si vous considérez que la pensée et la conscience ne sont que le résultat de processus matériels, vous devez conclure qu'il y a toutes chances qu'un processus puisse les dupliquer un jour, et l'IA est alors un candidat prometteur.

Dans le cas contraire, le fait que l'IA puisse être à même de battre dans de très nombreux domaines ce qu'on attribuait à l'intelligence humaine ne change pas la différence de nature entre celle-ci et une supposée intelligence artificielle qui ne fait que la mimer mais ne comporte pas de pensée, encore moins consciente. Cela ressemble aux réflexions sur le transhumanisme, avec son rêve d'une immortalité obtenue en transposant sur une machine le logiciel qu'est supposé être l'esprit d'une personne : ici aussi, l'enjeu de l'innovation technologique porte sur une question philosophique majeure.

Cela dit, il ne sera sans doute pas aisé de distinguer entre un système très perfectionné et dressé pour mimer un comportement humain et un vrai être humain. En d'autres termes, le test de Turing (la possibilité de distinguer un ordinateur et une personne par les réponses qu'ils donnent) pourrait ne pas ne fournir de réponse. Comment savoir en effet s'il y a conscience, ou simple simulation de conscience ? En termes pratiques, il sera probablement difficile dans quelques années de distinguer le comportement de notre cher Emmanuel Macron, pour prendre un exemple qui s'y prête, d'un bon programme d'IA. Si en revanche vous croyez en la réalité de l'esprit, et plus encore en Dieu, l'IA ne devrait pas trop vous inquiéter, en tout cas sur rien de fondamental.

En définitive, à côté du renforcement des inégalités, au sein des sociétés et entre Etats, mais aussi d'une offre enrichie de services, la conséquence la plus claire de l'IA sera sans doute une accentuation du brouillage des repères qui caractérise nos sociétés pour la grande majorité des gens. Soit dans leurs valeurs fondamentales, toute forme de religion ayant disparu de leur vie. Soit plus concrètement dans leur travail, leur autonomie, leur capacité critique face à l'information ou au contrôle etc. - ne leur laissant dans le pire des cas que la dissidence intérieure ou la jacquerie anarchique. Sauf à utiliser astucieusement les limites du système… Mais on s'éloignera plus encore de l'utopie démocratique.

Paru dans Politique magazine https://politiquemagazine.fr/civili...

Transhumanisme et financement de la recherche scientifique : les enjeux

Pierre de Lauzun — 2019-05-07T15:51:00Z

Cadre : technologie et succès financier

Tout développement technologique suppose un financement : au stade de la recherche puis à celui du développement. Il peut être public ou privé, et en général combine les deux. On pense que c'est parfaitement rationnel. C'est en un sens vrai a priori, dans l'objectif que se proposent les acteurs ; mais ce l'est en tout cas beaucoup moins dans le résultat.

En effet, comme le montre l'histoire, le lien entre l'objectif initial de la recherche et ses effets peut être très ténu et souvent inattendu. Par exemple il faut souligner la dimension importante de la recherche militaire. Non seulement quantitativement, mais aussi qualitativement, et dans de nombreux domaines. Mais en même temps, elle peut avoir des effets totalement imprévisibles, comme le montre l'exemple spectaculaire de l'Internet, qui dérive de recherches de l'US Army. Dans un tel cas d'ailleurs, même si l'investissement initial a trouvé ensuite une rémunération, ce n'est pas en proportion de son effet : la valeur réelle de la découverte de l'Internet n'a d'ailleurs jamais fait l'objet d'une rémunération. L'investissement privé est en principe plus contraint en termes de rémunération de son résultat – mais là aussi l'inventeur ne tire pas toujours le plein profit de son invention : le PC a été inventé par IBM, mais développé par d'autres, et sur une échelle qu'IBM n'avait pas prévue.

Si on remonte dans l'histoire, on constate un rôle massivement croissant de l'innovation scientifique. Sans parler de la révolution technique médiévale, la première révolution industrielle était peu scientifique et surtout technique, à la limite d'une artisanat astucieux (machine à vapeur, textile etc.). Mais la situation a évolué en profondeur avec la deuxième révolution industrielle et des découvertes comme la chimie, l'électricité, puis le téléphone, la voiture, l'électro-ménager, l'avion etc. Investisseurs et industriels ont alors compris l'intérêt stratégique de la recherche. Mais à nouveau ce ne sont pas toujours les inventeurs ou les premiers industriels qui ont accumulé des fortunes massives. Celles-ci apparaissent surtout au stade de l'industrialisation de la découverte, et encore pas toujours. Et certains secteurs n'ont pas rentabilisé l'argent investi pendant plusieurs générations (ainsi le transport aérien). En outre et surtout il faut souligner le rôle très important de la recherche sous fonds publics, et notamment comme on l'a vu, militaire.

Toutefois, à ces diverses époques, le fait est que la recherche restait financièrement relativement peu gourmande et demandait donc relativement peu aux organismes qui la finançaient. La situation a massivement changé depuis. Internet notamment a massivement frappé les imaginations, du fait des énormes fortunes amassées en moins de 20 ans par les fondateurs des GAFAM (Google, Amazon, Facebook, Apple et Microsoft), et plus encore du fait des énormes profits de ces entreprises, notamment liés à la possibilité de créer un effet de monopole et de rente qui est unique. En effet la plupart des innovations du passé créaient une effet de monopole ou de rente dans un premier temps, mais il disparaissait assez vite avec la concurrence. La situation est différente ici. C'est en effet un jeu où celui qui impose sa norme rafle tout le marché (par acceptation générale du standard et non par une décision publique) et met ce faisant la main sur des ressources colossales. Les marges sont énormes pour le gagnant, car le marché est immense et les coûts faibles : c'est en un sens un profit de rente (comme une rente foncière ou minière), quoique d'origine différente. Dans ce cas, la rareté vient en effet du standard (en outre entretenu par la recherche) et non d'une rente physique. Mais il est vrai aussi qu'elle est plus fragile que celle-ci, car à la merci de nouveaux développements technologiques, le risque pour la firme dominante étant de voir une nouvelle invention lui faire perdre sa position centrale ; ou même le produit être surclassé par autre chose. En même temps, dans l'intervalle, les autorités de concurrence sont assez démunies face à ce phénomène. Un tel fait est probablement sans précédent dans l'histoire, même toutes proportions gardées.

Il en résulte en outre une formidable capacité d'investissement de ces firmes, et donc espèrent-elles la possibilité de réédition de leur exploit. Ce qui subsiste en revanche est la grande incertitude sur les succès non seulement techniques, mais surtouts financiers de ces recherches. On voit notamment des investissements massifs dans deux domaines : l'informatique/électronique au sens large (y compris l'intelligence artificielle) ainsi que l'Internet ; et les biotechnologies. On investit massivement parce qu'on sait (depuis 20 ans) que ce qui marche peut être formidablement payant, dans le cas des réussites, à côté d'une très grande majorité des recherches dont on sait qu'elles rendront peu ou pas. L'incertitude sur l'avenir est maximale, seule subsiste l'espérance de résultats massifs quand cela marche, sachant que c'est rare. Si donc l'économie pilote la science ou la technique, ce n'est pas de façon sûre : on joue à une roulette où les martingales larges peuvent espérer être gagnantes ; mais où le résultat vraiment payant n'est pas paramétrable.

A nouveau, de tels investissements sont par nature très différents du modèle de recherche planifié qu'on a naturellement en tête.

De telles recherches, qui sont comme on l'a vu loin d'être prévisibles dans leur effet, peuvent avoir un impact collectif majeur sur la société. D'où des inquiétudes que manifestent plusieurs ouvrages d'anticipation . On peut imaginer le rôle de tels systèmes branchés devenir central dans la vie des gens, tout en restant la propriété d'entreprises commerciales qui restent telles (et donc sans devenir un pouvoir politique au sens propre). Cela peut glisser vers une capacité de surveillance universelle, notamment de la santé et des mœurs, qui peut jouer une rôle important dans ce qu'on appelle le transhumanisme au sens large. Car cela veut dire concrètement qu'une firme peut être amenée à définir des mœurs et une forme d'éthique. Selon Carlo D'Asaro Biondo l'éthique de Google (dont il est un dirigeant) consiste à être contre toute violence, toute attaque sur les mineurs, etc. Cela peut paraître aller de soi ; mais ce même dirigeant ajoute en outre qu'il y a un fort attachement des fondateurs au respect de la diversité, au refus de discrimination raciale, sexuelle etc. Facebook fait signer une charte aux annonceurs, où domine l'idée de comportement non-haineux et du refus de toute discrimination. Là on entre dans le politique et le moral. Mais on le notera, ces objectifs éthiques sont assez conformistes : ils reflètent des thèmes déjà dominants idéologiquement. A ce stade, ces firmes ne génèrent donc pas une vision propre en la matière ; elles prennent dans la société ce qu'elles y trouvent. Mais elles lui donnent une force bien supérieure.

Ajoutons un fait apparemment trivial mais important : ces firmes sont dirigées par des personnes jeunes, sans spécificité au départ, sans formation ni expérience politique ou philosophique, a fortiori religieuse, qui ont réussi dans des proportions radicalement inimaginables au départ sur la base d'un idée géniale d'algorithme, et qui n'ont pas connu d'échec majeur dans leur vie. Cette situation est elle-même sans précédent. Dit en un mot, ce sont logiquement des gens qui spontanément ne doutent de rien. Mais qui sont très décontenancés devant les questions qui émergent, comme on l'a vu récemment avec Facebook.

Transhumanisme : l'homme augmenté

Quel rôle cela peut-il jouer en faveur du transhumanisme ? Il est dans cette perspective un mythe très puissant, car il est peut-être le seul à la dimension de l'Internet (qu'on peut décrire comme la connexion généralisée de l'humanité). Sous ses formes diverses, il attire donc des sommes énormes. Il est possible que la rentabilité finale en soit faible, mais même alors cela n'exclura pas des effets appréciables, tant financiers que sociaux. Là plus encore qu'ailleurs on cherche tous azimuts, sachant que le gros des efforts est perdu mais que le peu qui gagne est très rémunérateur.

Mais quand on dit transhumanisme il faut savoir de quoi on parle. Selon les cas le débat sera très différent. Il y a d'abord un transhumanisme ‘modéré', type « homme augmenté ». Mais tout homme utilisant un outil, montant sur un véhicule, regardant un télescope etc., est un homme augmenté. Cela ne remet donc pas en cause la conception métaphysique de l'homme. En un sens même cela la fonde : l'homme a pour propre d'être capable d'augmentation, parce qu'il est un esprit qui dans son opération échappe en partie aux contraintes de la matière. Un être humain qui par effet biologique ou prothèse technique verrait bien mieux, courrait plus vite, calculerait beaucoup plus vite etc., resterait dans ce champ. Nous avons déjà des gens plus intelligents, plus rapides, plus beaux etc. que d'autres. Naturellement, le fait que cette capacité d'augmentation soit caractéristique de l'homme ne signifie pas qu'elle soit toujours bonne pour lui, loin de là.

Mais désormais on pourra acheter cette augmentation, et elle peut devenir cumulative. Les plus riches risquent alors d'avoir sans cesse plus de succès. Cela ne changerait rien d'essentiel à la nature de l'homme, mais poserait d'énormes problèmes sociaux. Et naturellement et surtout, ce serait un énorme marché. Ce qui accroît massivement la rationalité économique des investissements faits en la matière. On s'offusque des inégalités actuelles, mais si ces recherches débouchent (et a priori un nombre non négligeable d'entre elles le feront) on n'a donc encore rien vu. Bien sûr il pourra y avoir démocratisation ensuite - comme on l'a constaté dans le passé pour l'automobile : jugée être une provocation en 1900 car privilège des très riches, elle est devenue le symbole de la consommation de masse trois générations après. Mais rien ne dit que ce schéma se reproduira automatiquement. C'est d'autant plus vrai que contrairement aux époques antérieures nous sommes dans une économie qui prend de plus en plus conscience du fait que ses ressources sont limitées ; ce qui implique une compétition croissante pour l'accès à ces ressources rares, ce qui à son tour est un puissant facteur d'inégalité. Il peut dès lors y avoir distance croissante entre une minorité ultra performante (qui pourra alors se sentir d'une autre nature que la masse) et le reste. Inutile de dire qu'il y a là des enjeux financiers majeurs : puissance des sens, capacité intellectuelle, résistance aux maladies, performances physiques, etc. tout cela est très prometteur.

Quel peut être le sens de tels développements ? Il faut prendre en compte ici la puissance de ces mythes, leur force de fascination. On a évoqué avec le Pr Weizmann les mutations biologiques. Comme il nous l'a rappelé, un pas supplémentaire a été franchi avec le CRISPR : cela pourrait même permettre que les modifications héréditaires soient transmises aux générations suivantes. Mais c'est une technique peu coûteuse et facile à réaliser – avec le risque que cela perpétue une erreur. Et les obstacles juridiques sont minces : ces barrières sont sans poids face à la facilité d'utilisation de la technique. On peut donc considérer comme une quasi-certitude qu'elle sera activement développée. Et de façon très décentralisée, dans de vraies start-ups. En d'autres termes, à côté des mastodontes, les jeunes mammifères ont leurs chances dans la course à la richesse.

Mais comme on sait d'autres hybridations sont concevables. Le cyborg est par exemple l'idée d'une fusion de l'homme et de la machine, et l'intelligence artificielle peut être une tentative de reproduction du fonctionnement du cerveau humain à l'intérieur d'un ordinateur. Dans ces deux cas, il s'agit d'une sorte d'intrusion de l'univers mécanique et numérique à l'intérieur de la chair et de l'esprit. Mais comme la pensée, l'âme ou la conscience de l'homme utilisent des supports matériels, de tels projets sont, dans une certaine mesure, concevables même dans une perspective philosophique non matérialiste. Ils représentent alors une menace pour notre humanité dans la mesure où ils pourraient modifier notre rapport aux autres et au monde, outre bien sûr l'effet d'inégalité qu'on a relevé, qui est sans doute le plus significatif. Nos perceptions, nos sentiments, notre expérience charnelle de la réalité à travers nos sens seraient susceptibles d'être profondément transformés. Si cet interfaçage homme/machine semble enthousiasmer les partisans les plus radicaux de l'ère digitale, il suscite l'appréhension d'une très grande part de nos contemporains.

A nouveau, cela ne change pas la condition ultime de l'homme comme tel (un cyborg reste en un sens un homme avec ses vulnérabilités) mais cela peut bouleverser la société en en accentuant les traits existants. Ce n'est pas l'idée d'amélioration qui est en soi le problème, car par définition, rechercher une amélioration (un mieux, et donc quelque chose qui va plus loin dans le sens du bien) est en soi un bien ; mais à condition évidemment de savoir ce qu'est le bien. Or la sagesse chrétienne (et d'autres) nous enseigne que notre bien ultime n'est pas dans la matière et sa maitrise, qui ne sont qu'instrumentaux. Comme on voit donc, la question de fond est anthropologique. Comme le rappelle le P. Thierry Magnin , il y a ici la source d'une illusion majeure, issue de la croyance grandissante que les technologies vont libérer l'homme de ses difficultés ou même de ses limites ; ou même de dépasser toutes ses limites. L'image du cyborg invulnérable est parfaitement utopique ; car il y aura toujours des grains de sable. Mais elle offre l'illusion de sortir de la condition humaine, ce qui est propre à attirer les amateurs, et donc les budgets. Ce qui aura inévitablement certains résultats, bons ou mauvais.

Un risque existe, autre que celui de l'inégalité ; c'est celui de l'appauvrissement de l'humain. Le P. Thierry Magnin souligne par exemple que la croyance transhumaniste nous parle « d'une humain certes augmenté dans certaines fonctionnalités mais plutôt simplifié, robotisé et finalement diminué car quelque peu standardisé à partir de fonctions à optimiser ». Tout contrôler rend la vie triste. La douleur n'est pas qu'une effet physique, elle dépend de la focalisation. Quel serait l'impact des implants cérébraux sur la personnalité des hommes ainsi augmentés ? Quelle serait sa liberté ? Il n'y a pas de réponse. Mais dans la psychologie qui nous domine aujourd'hui, c'est très attractif. Et donc il y aura des budgets de recherche ; et si cela débouche, des clients.

Plus profondément, dans la réalité la mort sert à renouveler le vivant (les cellules meurent en permanence). Une société immortelle se figerait bien vite. Lacan disait que si la vie était sans fin, l'homme deviendrait fou. La mort n'est donc pas une défaite de l'humain. Dans le rôle indispensable des limites, une place est donc à faire à cette limite suprême, la mort. La sagesse conduirait donc a priori à ne pas désirer une société où elle disparaîtrait. Mais il est évident qu'en revanche il y aurait des clients.

Transhumanisme : l'homme transcendé

Mais cette importance de la perspective anthropologique est encore plus grande quand on passe au deuxième niveau du transhumanisme, car l'enjeu devient alors métaphysique. En effet, si on pousse à son terme la logique du transhumanisme, son objectif en fin de compte (son mythe) est une forme d'immortalité, en tout cas de maîtrise radicalement différente de l'homme sur lui-même et par exemple un être post-humain qui ne serait plus dépendant de son corps biologique actuel. L'hypothèse sous-jacente limite est que par la technologie on puisse donner un support différent à l'âme d'une personne, donc qu'on puisse l'appréhender comme un programme informatique au sens large et la restituer sur une base physique ou biologique. Ce transhumanisme radical est fondamentalement matérialiste. En effet, selon les conceptions spiritualistes au sens large, il est exclu qu'un procédé matériel puisse s'emparer de l'âme ou de l'esprit, notamment afin de refabriquer un être dont elle serait la mémoire et la volonté. Si donc les transhumanistes radicaux réussissaient leur opération, ce serait la preuve indiscutable que le matérialisme a raison et que les conceptions spirituelles sont fausses. Ce serait un cas exceptionnel où une réalisation scientifique trancherait de façon définitive un débat philosophique majeur.

Naturellement, même si on se situe dans un cadre de pensée matérialiste, le succès n'est en rien assuré. Rappelons tout simplement que par exemple la physique quantique nous rappelle que le réel est fondamentalement voilé : la nature n'est pas réifiable. Il y a donc semble-t-il une limite à ce qu'il est possible de faire, même en restant au niveau matérialiste. Ce qui nous est donné dépasse tout ce que nous pouvons espérer construire. Peut-être que le match entre matérialistes et croyants n'aura jamais de réponse en ce monde.
Cela dit, inversement, même dans le cas où l'opération réussirait, on ne sortirait pas de la matière. L'homme augmenté même potentiellement ‘immortel' resterait un simple dispositif technique ; il le serait même plus encore que l'homme d'autrefois, car il serait désormais démontré qu'il n'est que cela, avec la vulnérabilité que cela implique. La vulnérabilité de la matière (car la vulnérabilité ultime n'est pas celle de l'homme ou de la vie, mais celle de la matière) subsisterait intégralement : un programme ça s'efface, une machine, ça se casse – d'où la terrible angoisse qui hanterait ses bénéficiaires (erreur techniques, astéroïde malencontreux etc.). Cela n'a rien à voir avec la vie éternelle et la contemplation de Dieu…

Il en est de même de l'IA (intelligence artificielle au sens radical du terme). Fabriquer un être qui réellement penserait supposerait qu'il ait une forme de conscience. Une machine de traitement du langage ou de traduction ne connaît pas véritablement ce qu'est le sens. La conscience suppose une première personne. Une telle IA suppose qu'on ferait de la 1ère personne à partir de la 3e : on ne voit pas comment cela est possible. Sauf à nouveau si le matérialisme a raison. Mais c'est qu'alors la personne n'est pas une personne, mais un simple algorithme. Et donc en définitive, même s'ils gagnaient, en regard de leurs rêves nos matérialistes auraient perdu. Mais encore une fois, il y aura de l'argent pour explorer ces voies, beaucoup d'argent.

Enjeux et possibilités d'action

Le fait est donc que beaucoup d'argent s'investit dans ces recherches diverses…et en outre qu'elles ont des chances d'avoir certains débouchés, même s'ils diffèrent des objectifs initiaux. Il y a donc ici un enjeu majeur pour ceux qui ne partagent pas la philosophie implicite de ces recherches, qui est d'abord d'ordre politique et collectif : comme il est exclu d'aligner des investissements de cette amplitude dans un sens plus humaniste, c'est d'abord la question de la surveillance et de l'orientation de cette recherche qui est posée. Or les moyens publics (étatiques) pour ce faire sont limités, tardifs et souvent assez aveugles : pas inutiles mais partiels. Inévitablement donc, ces recherches avancerons. Et donc des entités privées (les firmes qu'on a citées) ou sous contrôle public mais dans des pays autoritaires à philosophie différente (Chine) se trouvent désormais dotées d'une capacité de bouleversement de nos sociétés qui est sans précédent en termes non seulement quantitatifs, mais qualitatifs. Sans parler des sous-produits de la recherche militaire. Nous ne pourrons dans une mesure très importante pas les en empêcher… Et ils auront beaucoup plus d'argent et de moyens intellectuels que nous.

En revanche nous pouvons tenter d'agir au niveau de la culture collective, car on l'a vu la philosophie sous-jacente en est assez pauvre ; pour faire un peu de Gramsci, la question de l'hégémonie culturelle est posée. Qui peut d'ailleurs se traduire en termes financiers, car les marchés sont très sensibles. Si en effet s'accrédite publiquement l'idée que tel ou tel comportement est répréhensible, et que les cours (de bourse) en pâtissent, les entreprises en tiennent compte ; cela peut déboucher sur une forme de pression coercitive, soit par la loi, soit par les marchés.

Ce serait encore plus vrai s'il existait à un niveau suffisant une finance sensible à ces valeurs collectives, et construite pour cela : une variable d'ISR (investissement socialement responsable), mais bien plus exigeante, car basée sur une anthropologie étoffée et solide. Notamment celle de la Doctrine sociale de l'Eglise. Une des objectifs naturels en serait de capter assez d'argent pour orienter une partie des recherches dans le bon sens. Ou au moins, surveiller les recherches des autres. Naturellement on l'a dit, la probabilité est qu'il y aurait beaucoup moins de ressources que dans la recherche dominante, et de façon écrasante. Mais moralement, ce qui compte est de faire ce qu'on a à faire. Car la leçon finale est que ces évolutions dantesques ne sont ni prévisibles ni même véritablement pilotées. Il apparaît donc que plus que jamais notre faiblesse est notre principale force, car elle nous conduit à reconnaître que nous sommes entre les mains de Dieu. Qui tire toujours un bien d'un mal et a déjà vaincu le mal… adjutorium nostrum in nomine Domini, qui fecit coelum et terram. Du pain sur la planche pour les catholiques, et plus généralement les hommes de bonne volonté.

Intervention à l'Académie d'études et de sciences sociales le 14 mars 2019, un peu abrégée.

Finance, technologie et enjeux de société

Pierre de Lauzun — 2018-05-28T13:53:00Z

Cadre : technologie et succès financier

Tout développement technologique suppose un financement : au stade de la recherche puis à celui du développement. Il peut être public ou privé, et en général combine les deux. Mais le lien entre l'objectif initial de la recherche et ses effets peut être très ténu et souvent inattendu. Par exemple il faut souligner la dimension importante de la recherche militaire. Non seulement quantitativement, mais qualitativement, et avec des effets totalement imprévisibles, comme le montre l'exemple spectaculaire de l'Internet qui dérive de recherches de l'US Army. Dans un tel cas, même si l'investissement est rémunéré ensuite, il ne l'est pas en proportion de son effet (la valeur réelle de la découverte de l'Internet n'a d'ailleurs jamais fait l'objet d'une rémunération). L'investissement privé est en principe plus contraint en termes de rémunération de son résultat – mais là aussi l'inventeur ne tire pas toujours le plein profit de son invention : le PC a été inventé par IBM mais développé par d'autres.

Si on remonte dans l'histoire, on constate un rôle massivement croissant de l'innovation scientifique. Sans parler de la révolution technique médiévale, la première révolution industrielle était peu scientifique et surtout technologique (machine à vapeur, textile etc.). La situation a évolué avec la deuxième révolution industrielle et des découvertes comme la chimie, l'électricité, puis le téléphone, la voiture, l'électro-ménager, l'avion etc. On a compris alors l'intérêt stratégique de la recherche. Mais à nouveau ce ne sont pas toujours les inventeurs ou les premiers industriels qui ont accumulé des fortunes massives. En outre certains secteurs n'ont pas rentabilisé l'argent investi pendant plusieurs générations (ainsi le transport aérien).

La situation a massivement changé depuis. Internet notamment a massivement frappé les imaginations, du fait des énormes fortunes amassées en moins de 20 ans par les fondateurs des GAFAM (Google, Amazon, Facebook, Apple et Microsoft), et plus encore les énormes profits de ces entreprises, avec un effet de monopole et de rente unique. Il en résulte en outre une formidable capacité d'investissement de ces firmes, et donc espèrent-elles de réédition de leur exploit. Un tel fait est probablement sans précédent dans l'histoire, même toutes proportions gardées. En outre, l'effet en est planétaire - avec cependant l'exception chinoise (et un peu russe). C'est un jeu où celui qui impose sa norme rafle tout le marché (par acceptation générale du standard et non par une décision publique) et met ce faisant la main sur des ressources colossales. Les marges énormes car le marché est immense et les coûts faibles : c'est en un sens un profit de rente, quoique de nature différente. La rareté vient de ce standard et non d'une rente physique. Mais elle est plus fragile car à la merci de nouveaux développements technologiques, avec le risque de voir une nouvelle invention faire perdre sa position centrale au leader actuel. Les autorités de concurrence sont assez démunies face à ce phénomène.

Ce qui subsiste en revanche est la grande incertitude sur les succès non seulement techniques, mais surtouts financiers de ces recherches. On voit notamment des investissements massifs dans deux domaines : l'informatique/électronique au sens large (y compris l'intelligence artificielle) ainsi que l'Internet ; et les biotechnologies. On investit massivement parce qu'on sait que ce qui marche est formidablement payant, à côté d'une très grande majorité qui rend peu ou pas. L'incertitude sur l'avenir est maximale, seule subsiste l'espérance de résultats massifs quand cela marche, ce qui est rare. Et donc la dimension financière ne sert pas de guide pour orienter l'investissement dans la recherche (au-delà du souci de méthode). Ses promesses sont générales et statistiques. Même la discipline du marché financier ne joue que de façon lointaine, et elle est atténuée par la vue de la masse des profits réalisés dans l'intervalle : une fois la firme lancée sur sa trajectoire dominante, elle n'a alors plus besoin de lever des fonds ; il ne reste que la sensibilité au cours de bourse des propriétaires.

L'économie Internet au niveau des GAFAM

Notons d'abord que l'emploi direct induit est très faible : les emplois créés sont essentiellement dans le transport (livraison) et donc assez bas de gamme et extérieurs à la firme. Soulignons ensuite l'importance stratégique de la publicité dans le modèle. Elle assure une proportion considérable de leurs profits. Selon lesechos.fr (07/06/2017) Google et Facebook contrôlent 20 % du total des investissements publicitaires mondiaux (11 % en 2012).

A la différence toutefois des media classiques, outre les sommes en question ces nouveaux supports sont beaucoup plus intrusifs, car une dimension essentielle de leur activité est l'accumulation des données sur les gens, qui sont ensuite revendues. En un sens on a ici un problème fondamental de droits : qui devrait être propriétaire de ces informations ? quel droit a-t-on d'en faire usage, et de les revendre ? D'où une fragilité liée à l'opacité du modèle financier : l'essentiel du profit est fait non par la vente du produit (recherche sur Google ou utilisation de Facebook) car il est gratuit ; mais de l'exploitation par le fournisseur des données personnelles que le client du réseau transmet sur lui-même par le seul fait qu'il y entre. Quoiqu'il en soit ces pompes financières ont un effet puissant sur les imaginations. Cela pousse naturellement l'argent à chercher à s'investir dans la nouvelle entreprise de ce type qui éclora demain ; et notamment cela les pousse elles à investir leur argent, abondant comme on l'a vu. A nouveau, de tels investissements sont par nature très différents du modèle de recherche planifié qu'on a naturellement en tête : cela suppose de très gros efforts mais une mobilité maximale pour saisir l'idée qui marche (et elle le fait alors massivement), au milieu de centaines d'autres qui ne donnent rien.

Farhad Manjoo (New York Times du 17 mai 2017) précise que les GAFAM dépensent près de 60 milliards de dollars par an en R&D, tandis que les dépenses de l'Etat fédéral américain s'établissent à 67 milliards (si l'on retire les recherches militaires). Si l'on prend la seule intelligence artificielle (I.A.) le gouvernement fédéral n'a dépensé que 1,1 milliard de dollars de recherche non classifiée en 2015. Lors du salon de l'année dernière, Sundar Pichai, directeur général de Google, a inauguré ce qu'il appelle une nouvelle ère pour Google. La compagnie de recherche serait dorénavant une société « d'avant-garde » - c'est-à-dire que la plupart de ses progrès seraient guidés par des techniques d'intelligence artificielle. Il s'agit notamment d' ‘enseigner' les ordinateurs afin de comprendre le langage, de voir et d'entendre, de diagnostiquer des maladies et même de créer de l'art. En outre ces investissements s'étendent à des domaines très hétérogènes (biologie notamment).

De telles recherches peuvent avoir un impact collectif majeur sur la société, qui sont comme on l'a vu loin d'être prévisibles dans leur nature. D'où des inquiétudes que manifestent plusieurs ouvrages d'anticipation . On peut imaginer le rôle de tels systèmes branchés devenir central dans la vie des gens, tout en restant la propriété d'entreprises commerciales qui restent telles (et donc sans devenir un pouvoir politique au sens propre). Cela peut glisser vers une capacité de surveillance universelle, notamment de la santé et des mœurs, qui peut aller vers le transhumanisme. Cela veut dire concrètement qu'une firme peut être amenée à définir des mœurs et une forme d'éthique. Selon Carlo D'Asaro Biondo l'éthique de Google (dont il est un dirigeant) consiste à être contre toute violence, toute attaque sur les mineurs, etc. ce qui peut aller de soi ; mais qu'en outre il y a un fort attachement des fondateurs au respect de la diversité, au refus de discrimination raciale, sexuelle etc. Là on entre dans le politique et le moral. Mais on le notera, ces objectifs éthiques sont assez conformistes. Ces firmes ne génèrent pas une vision propre en la matière ; elles prennent dans la société ce qu'elles y trouvent.

Transhumanisme

Quel rôle cela peut-il jouer en faveur du transhumanisme ? Il est dans cette perspective un mythe très puissant car il est peut-être le seul à la dimension de l'Internet (qu'on peut décrire comme la connexion généralisée de l'humanité). Sous ses formes diverses, il attire donc des sommes énormes. Il est possible que la rentabilité finale en soit faible, mais même alors cela n'exclura pas des effets appréciables, tant financiers que sociaux. A nouveau, la rationalité des investissements n'est en effet jamais acquise. Là plus encore qu'ailleurs on cherche tous azimuts, sachant que le gros des efforts est perdu mais que le peu qui gagne est lui très rémunérateur.

Mais quand on dit transhumanisme il faut savoir de quoi on parle. Selon les cas le débat sera très différent. Il y a d'abord un transhumanisme modéré, type « homme augmenté ». Mais tout homme utilisant un outil, montant sur un véhicule, regardant un télescope etc., est un homme augmenté. Cela ne remet donc pas en cause la conception métaphysique de l'homme. En un sens même cela la fonde : l'homme a pour propre d'être capable d'augmentation, parce qu'il est un esprit qui dans son opération échappe en partie aux contraintes de la matière. Un être humain qui par effet biologique ou prothèse technique verrait bien mieux, courrait plus vite, calculerait beaucoup plus vite etc., resterait dans ce champ. Nous avons déjà des gens plus intelligents, plus rapides, plus beaux etc. que d'autres. Sauf que désormais on pourra acheter cette augmentation, qui serait donc cumulative. Les plus riches risquent d'avoir sans cesse plus de succès. Cela ne changerait rien d'essentiel à la nature de l'homme, mais poserait d'énormes problèmes sociaux. Et naturellement ce sera un énorme marché. On s'offusque des inégalités actuelles, mais si ces recherches débouchent (et beaucoup d'entre elles le feront) on n'a donc encore rien vu. Bien sûr il pourra y avoir démocratisation ensuite (comme on l'a vu pour l'automobile, jugée être une provocation en 1900 car privilège des très riches, mais symbole de la consommation de masse trois générations après). Mais il peut aussi y avoir distance croissante entre une minorité ultra performante (qui pourra se sentir d'une autre nature) et le reste.

En particulier des hybridations sont concevables. Le cyborg est par exemple l'idée d'une fusion de l'homme et de la machine, et l'intelligence artificielle peut être une tentative de reproduction du fonctionnement du cerveau humain à l'intérieur d'un ordinateur. Dans ces deux cas, il s'agit d'une sorte d'intrusion de l'univers mécanique et numérique à l'intérieur de la chair et de l'esprit. Mais comme la pensée, l'âme ou la conscience de l'homme utilisent des supports matériels, de tels projets sont, dans une certaine mesure, concevables même dans une perspective philosophique non matérialiste. Ils représentent alors une menace pour notre humanité dans la mesure où ils pourraient modifier notre rapport aux autres et au monde, outre bien sûr l'effet d'inégalité qu'on a relevé, qui est sans doute le plus significatif. Nos perceptions, nos sentiments, notre expérience charnelle de la réalité à travers nos sens seraient susceptibles d'être profondément transformés. Si cet interfaçage homme/machine semble enthousiasmer les partisans les plus radicaux de l'ère digitale, il suscite l'appréhension d'une très grande part de nos contemporains.

A nouveau cela ne change pas la condition ultime de l'homme comme tel (u cyborg reste en un sens un homme avec ses vulnérabilités) mais cela peut bouleverser la société en en accentuant les traits existants. Ce n'est pas l'idée d'amélioration qui est en soi le problème, car par définition, rechercher une amélioration (un mieux, et donc quelque chose qui va plus loin dans le sens du bien) est plutôt en soi un bien ; mais à condition évidemment de savoir ce qu'est le bien. Or la sagesse chrétienne (et d'autres) nous enseigne que notre bien ultime n'est pas dans la matière et sa maitrise. Comme on voit donc, la question de fond est anthropologique.

Mais cette importance de la perspective anthropologique est encore plus grande quand on passe au deuxième niveau du transhumanisme, car l'enjeu devient alors métaphysique. En effet, si on pousse à son terme la logique du transhumanisme, son objectif en fin de compte (son mythe) est une forme d'immortalité, en tout cas de maîtrise radicalement différente de l'homme sur lui-même et par exemple un être post-humain qui ne serait plus dépendant de son corps biologique actuel. L'hypothèse sous-jacente limite est que par la technologie on puisse donner un support différent à l'âme d'une personne, donc qu'on puisse l'appréhender comme un programme informatique au sens large et la restituer sur une base physique ou biologique. Ce transhumanisme radical est fondamentalement matérialiste. Selon les conceptions spiritualistes au sens large il est en effet exclu qu'un procédé matériel puisse s'emparer de l'âme, notamment afin de refabriquer un être dont elle serait la mémoire et la volonté. Si donc les transhumanistes radicaux réussissaient leur opération, ce serait la preuve indiscutable que le matérialisme a raison et que les conceptions spirituelles sont fausses. Ce serait un cas exceptionnel où une réalisation scientifique trancherait de façon définitive un débat philosophique majeur. Cela dit, même dans ce cas on ne sortirait pas de la matière. L'homme augmenté même potentiellement ‘immortel' resterait un simple dispositif technique. La vulnérabilité de la matière (car la vulnérabilité ultime n'est pas celle de l'homme ou de la vie, mais celle de la matière) subsisterait : un programme ça s'efface, une machine, ça se casse – d'où la terrible angoisse qui hanterait ses bénéficiaires (erreur techniques, astéroïde malencontreux etc.). Cela n'a rien à voir avec la vie éternelle et la contemplation de Dieu…

Le fait est que beaucoup d'argent s'investit dans ces recherches diverses…et donc elles ont des chances d'avoir certains débouchés. Il y a donc ici un enjeu majeur, qui est d'abord d'ordre politique et collectif : comme il est exclu d'aligner des investissements de cette amplitude dans un sens plus humaniste, c'est d'abord la question de la surveillance et de l'orientation de cette recherche qui est posée. Or les moyens publics (étatiques) pour ce faire sont limités, tardifs et souvent assez aveugles : pas inutiles mais partiels. Inévitablement donc, des entités privées (les firmes qu'on a citées) ou sous contrôle public dans des pays autoritaires (Chine) se trouvent désormais dotées d'une capacité de bouleversement de nos sociétés qui est sans précédent en termes non seulement quantitatifs, mais qualitatifs. Sans parler des sous-produits de la recherche militaire. Nous ne pourrons dans une mesure importante pas les en empêcher…

En revanche nous pouvons agir au niveau de la culture collective, car on l'a vu la philosophie sous-jacente en est assez pauvre ; pour faire un peu de Gramsci, la question de l'hégémonie culturelle est posée. Qui peut d'ailleurs se traduire en termes financiers car les marchés sont très sensibles. Si en effet s'accrédite publiquement l'idée que tel ou tel comportement est répréhensible, et que les cours (de bourse) en pâtissent, les entreprises en tiennent compte ; et plus encore s'il existe une finance sensible à ces valeurs collectives, et construite pour cela : une variable d'ISR (investissement socialement responsable), mais bien plus exigeante, car basée sur une anthropologie étoffée et solide. Du pain sur la planche pour les catholiques, et plus généralement les hommes de bonne volonté.

Mais retenons la leçon finale, qui est que ces évolutions dantesques ne sont ni prévisibles ni même véritablement pilotées. Il apparaît donc que plus que jamais notre faiblesse est notre principale force, car elle nous conduit à reconnaître que nous sommes entre les mains de Dieu. Qui tire toujours un bien d'un mal et a déjà vaincu le mal… adjutorium nostrum in nomine Domini, qui fecit coelum et terram.

Petite philosophie du transhumanisme

Pierre de Lauzun — 2018-02-06T13:57:00Z

Petite philosophie du transhumanisme

Paru dans L'Incorrect N° 6 Février 2018

Transhumanisme : il faut savoir de quoi on parle. Selon les cas le débat sera très différent. Il y a d'abord un transhumanisme modéré, type « homme augmenté ». Mais tout homme utilisant un outil, montant sur un véhicule, regardant un télescope etc., est un homme augmenté. Cela ne remet donc pas en cause la conception métaphysique de l'homme. En un sens même cela la fonde : l'homme a pour propre d'être capable d'augmentation, parce qu'il est un esprit qui dans son opération échappe en partie aux contraintes de la matière. Un être humain qui par effet biologique ou prothèse technique verrait bien mieux, courrait plus vite, calculerait beaucoup plus vite etc. resterait dans ce champ. Nous avons déjà des gens plus intelligents, plus rapides, plus beaux etc. que d'autres. Sauf que désormais on pourra acheter cette augmentation, qui serait donc cumulative. Les plus riches auraient sans cesse plus de succès Cela ne changerait rien d'essentiel, mais poserait d'énormes problèmes sociaux. On s'offusque des inégalités, mais on n'a encore rien vu.

Mais poussée à son terme, la logique du transhumanisme va plus loin ; son objectif en fin de compte est une forme d'immortalité : un être post-humain qui ne serait plus dépendant de son corps biologique actuel. L'hypothèse sous-jacente est que par la technologie on puisse donner un support différent à ce qu'on appelle ailleurs l'âme d'une personne, donc qu'on puisse l'appréhender comme un programme informatique au sens large et la restituer sur une base physique ou biologique.

D'un point de vue philosophique cela donne à ces recherches une importance toute particulière. Ce transhumanisme radical est fondamentalement matérialiste. En regard, les conceptions spiritualistes au sens large disent que l'âme humaine n'est pas réductible à une réalité matérielle, physicochimique, biologique ou autre. L'immortalité de l'âme est alors intrinsèque à cette nature spirituelle. Même si pour le thomiste, l'âme est la forme du corps et lui est liée d'une façon irréductible - car c'est elle qui fait de ce corps ce qu'il est et que seul l'ensemble des deux est pleinement un être humain-, en soi c'est une réalité non matérielle, immortelle, éventuellement séparable du corps (ainsi avant le jugement dernier). Il est alors exclu qu'un procédé matériel (autre que la naissance ou la résurrection) puisse s'emparer de cette réalité, notamment afin de refabriquer un être dont elle serait la mémoire et la volonté.

Si donc les transhumanistes radicaux réussissaient leur opération, ce serait la preuve indiscutable que le matérialisme a raison et que les conceptions spirituelles sont fausses. En d'autres termes ce serait un cas exceptionnel où une réalisation scientifique trancherait de façon définitive un débat philosophique majeur. Le match est donc intéressant à suivre….

En outre dans l'ambition du transhumanisme la partie importante est ce ‘trans'. Mais transcender l'humain dans cette conception n'est que passer à la version 2.0 d'un « appareil » resté 1.0 pendant des millénaires, et qui resterait un simple dispositif technique. Ce qui veut donc dire qu'en réalité on ne transcenderait rien. Même si ça marchait. En outre, on pourrait espérer être immortel, mais ce ne serait toujours pas par nature, car la vulnérabilité de la amtière subsisterait : un programme ça s'efface – d'où la terrible angoisse qui hanterait ses bénéficiaires. La foi chrétienne elle vous dit que vous êtes ‘capax Dei', capable de recevoir l'infini absolu de Dieu. On ne joue donc pas dans la même cour…

Transhumanisme : à quoi joue-t-on ?

Pierre de Lauzun — 2018-01-07T14:01:00Z

On parle de transhumanisme pour désigner l'utilisation future de technologies récentes et en plein développement afin de transformer l'homme lui-même ; ces technologies relèvent de la biologie, de l'informatique, des sciences de l'information ou d'autres, en général comprises comme combinées entre elles. Quant au but du transhumanisme, il faut distinguer plusieurs niveaux de signification et de portée assez différente. La principale distinction est entre ce qu'on peut appeler ‘homme augmenté', et l'homme ‘immortel' ou le ‘post-humain'.

L'homme augmenté

Il y a en effet d'abord un transhumanisme modéré, visant à ‘augmenter' l'homme. Cela peut se faire en renforçant ses capacités dans des domaines variés, physiques, intellectuelles, cognitives etc. Un individu ainsi doté pourrait par exemple par effet biologique ou par une forme de prothèse technique voir bien mieux et la nuit, courir beaucoup plus vie, calculer et traiter l'information comme un ordinateur, brancher son cerveau sur Internet etc. au point que la différence entre l'individu et son ‘augmentation' finirait par ne plus apparaître, en tout cas extérieurement.

On pourrait expliquer ici que si on en reste là, le changement apporté par un tel transhumanisme reste limité. Car tout homme utilisant un outil, un véhicule, un instrument etc., est en un sens un homme augmenté, à commencer par des lunettes ou une bicyclette. On pourrait alors dire que ces transformations ne remettent donc pas en cause la conception métaphysique de l'homme. Et même qu'un tel progrès technique est caractéristique de l'homme. En effet dès ses origines l'homme a pour propre d'être capable d'augmentation. Cela résulte du fait qu'il est aussi un esprit, et que donc dans son opération il échappe en partie aux contraintes de la matière, est capable de comprendre assez de celle-ci pour imaginer des moyens d'accroître sa capacité à agir sur elle. Nous avons déjà des gens qui sont plus intelligents, plus rapides, plus beaux etc. que d'autres. Cela ne ferait qu'accroître ce phénomène. Sauf que cela pose plusieurs problèmes...

Le premier est que désormais on pourra et devra acheter cette augmentation ; elle ne sera pas d'emblée disponible à tous. Et ceux qui y auront accès auront un avantage compétitif, dans une société où la compétition est encore plus importante que dans les sociétés précédentes. Ils auront donc tendance à gagner de plus en plus systématiquement. Leur succès sera donc cumulatif. Les plus riches seront les plus dotés techniquement, et ils auront sans cesse plus de succès. D'un côté l'égalité dans la compétition subsistera, au moins en apparence, mais d'un autre côté il sera de plus en plus manifeste que seuls certains en profitent. On s'offusque des inégalités, mais on n'a donc encore rien vu.

Ce sera d'autant plus net que la manipulation génétique permettra de sélectionner les individus les plus aptes, et surtout d'enrichir leur potentiel génétique. De tels individus seront alors par excellence, et pourra-t-on prétendre avec justice, les maîtres de la société. Ils organiseront même le jeu de l'évolution à leur profit et surtout de leur descendance.

S'y ajouterait le fait que ces systèmes nouveaux, au-delà de l'augmentation directe de certains hommes, ont toutes chances d'éliminer les humains ordinaires d'un grand nombre de fonctions que des robots assureront beaucoup mieux. En outre on peut imaginer que des systèmes experts, des algorithmes beaucoup plus perfectionnés, sauront non seulement effectuer bien plus efficacement des fonctions que les humains accomplissent aujourd'hui, mais pourront prendre en charge le guidage généralisé de la société et des personnes. A commencer par la conduite de véhicule, le diagnostic médical et les soins, une bonne partie de l'enseignement, etc. Même si on met de côté le phantasme d'une prise de pouvoir par les robots, le risque est réel d'une société où une grande partie des humains reste largement oisifs et inutiles, entretenus par des machines 'intelligentes' et donc surveillés par elles. Voire manipulés dans leurs désirs mêmes. Tandis qu'une minorité assez faible restera en état de contrôler le mécanisme ; même si bien sûr elle sera plus que jamais à sous la menace de forces hostiles, à commencer par des hackers venant joyeusement perturber le beau programme de ces surhommes…

Le dépassement de l'homme

Il y a cependant au-delà une deuxième conception du transhumanisme, qui va beaucoup plus loin dans sa logique. Son objectif en fin de compte est un être allant bien au-delà de l'humain tel qu'il existe, et notamment disposant d'une forme d'immortalité. Cela suppose l'émergence d'un être en un sens post-humain, et non plus humain augmenté, et qui ne serait plus dépendant des limites de notre corps biologique actuel. Mais pour qu'on puisse encore parler de post-humain, il faut imaginer qu'il y ait une forme de continuité entre un individu humain et un tel être, mais que ce qui fait la personnalité y compris la conscience de cet individu (et sa mémoire) échappe à son support biologique (ou à ses limites). L'idée est donc que ce qu'on appelle ailleurs l'âme d'une personne puisse être saisi par une forme de technologie en l'abstrayant de ce support biologique tel qu'il est. Mais cela suppose évidemment que cette âme, ou esprit, puisse être appréhendée comme un programme informatique au sens large. Ce qui permet ensuite de la restituer sur une base matérielle différente, qu'elle soit physique ou biologique.

Bien évidemment cela accroît massivement les effets d'inégalité qu'on a relevés. Mais en même temps cela conduit d'un point de vue philosophique à un saut qualitatif majeur. Car pour que cela marche, il faut qu'on puisse traiter par des moyens matériels ce qu'on appelle esprit, âme, personnalité, etc. Ce qui veut dire qu'un tel transhumanisme radical est fondamentalement matérialiste : il suppose vraie la conception matérialiste du monde – ce qui n'était pas nécessairement le cas pour l'homme augmenté. En regard, toutes les conceptions spiritualistes, au sens large du terme, pensent que l'âme humaine n'est pas réductible à une réalité matérielle, qu'elle soit physico-chimique, biologique ou autre. Et beaucoup d'entre elles en déduisent l'immortalité de l'âme, y compris quand ils pensent que l'âme et le corps sont liés dans une seule notion de la personne humaine. Pour un philosophe d'inspiration thomiste par exemple, l'âme est ce qu'il appelle la forme du corps et lui est liée d'une façon irréductible : c'est elle qui fait de ce corps un corps humain et seul l'ensemble des deux est pleinement un être humain. Mais il n'en pense pas moins que l'âme est en soi une réalité non matérielle, éventuellement séparable du corps (c'est pour le catholique ce qui se passe pour l'âme des morts ainsi avant le jugement dernier). Dans tous ces cas, il est exclu qu'un procédé matériel puisse s'emparer de cette réalité, qui n'est pas de l'ordre matériel même si elle a besoin de la matière comme support.

Ce qui veut dire une chose simple : si les transhumanistes radicaux réussissaient leur opération, ce serait la preuve que le matérialisme avait raison, et que les conceptions spirituelles sont fausses. Ce serait donc un cas, rare, où une réalisation scientifique trancherait de façon semble-t-il définitive un débat philosophique majeur. Mais du coup la dignité humaine volerait en éclat. Le devenir essentiel d'un être humain ne serait plus une question de dignité intrinsèque, mais de purs moyens. Aurait droit à une forme d'immortalité celui qui pourrait se le permettre ; les autres étant renvoyés au néant, à un nouveau Schéol. Entre autres victimes collatérales, la démocratie serait alors une farce sans signification.

Mais du coup aussi, même pour les gagnants le résultat resterait métaphysiquement assez dérisoire. Car ce qu'on appelle transcender l'humain dans une telle conception resterait quelque chose de modeste. Au fond cela équivaudrait à passer à la version 2.0 d'un « appareil » qui est resté 1.0 pendant des millénaires, mais qui resterait un simple dispositif technique. En réalité donc même si ça marchait on ne transcenderait rien. Et il y a pire : car si dans le meilleur des cas, on pourrait espérer être ‘immortel', ce ne serait qu'en ce sens qu'on ne serait pas certain de mourir. Mais ce ne serait pas par nature, car la vulnérabilité de la matière subsisterait. Et donc la vulnérabilité des intéressés : après tout, un programme informatique ça s'efface, une machine, ça se casse. D'où la terrible angoisse qui hanterait ses bénéficiaires : ils pourraient peut-être survivre, mais ils pourraient aussi être liquidés. Notamment par les sous-hommes. Ou les hackers.

Ce qui frappe donc est au fond la grande médiocrité métaphysique de telles aspirations. Comparons avec la foi chrétienne par exemple, qui vous dit que vous êtes ‘capax Dei', capable de recevoir Dieu (qui Se donne à nous, si nous L'acceptons). Un réel infini, éternel de surcroît. Un tout autre programme !