Pierre de Lauzun | Le blog officiel

Réseaux sociaux : priorité à la responsabilisation. Ni censure, ni anonymat, ni algorithmes opaques.

Pierre de Lauzun — 2025-01-16T17:15:00Z

Encore stupéfaits par la victoire de Trump et l'activisme d'Elon Musk, nos gardiens du temple politiquement correct découvrent le ralliement de Mark Zuckerberg et Meta à la méthode Musk : pas de censure sur les réseaux sociaux sauf cas très spécifiques.

La liberté d'expression est en soi une bonne cause.

Reste que la réalité des réseaux sociaux soulève de vraies interrogations si on ne veut pas devoir naviguer dans des égouts, ou subir des dérives de viralité. Cela pose en effet deux grandes familles de questions.

Du côté des utilisateurs, la responsabilité à l'égard de ce qu'on écrit et publie. Du côté des réseaux, l'opacité plus ou moins manipulatrice et intéressée de leurs algorithmes.

Les usagers sont responsables de ce qu'ils disent

On souligne à raison la prolifération sur les réseaux sociaux d'informations fausses, de paroles haineuses, ou même d'images truquées, ce qui devient à la portée de tout un chacun avec ChatGPT et autres. En soi, il n'y a là rien de nouveau sous le soleil. Il suffit de rappeler les gravures diffamatoires visant Marie-Antoinette juste avant la Révolution. La grande nouveauté, outre la facilité de fabrication de faux, est surtout l'énorme diffusion qu'il est possible d'atteindre, par l'existence même du réseau, et ensuite si on crée un effet de viralité.

C'est par cela qu'ont été justifiées les procédures de filtrage ou censure, souvent traitées sous l'euphémisme de vérification des faits (fact-checking). Avec le résultat d'une part d'une efficacité douteuse, et d'autre part de tomber sous l'accusation de contrôle idéologique. Chacun sait que le terme de « discours de haine » vise en pratique prioritairement toute remise en cause un peu vive de l'immigration, de l'islam, ou de l'idéologie woke, entre autres. Mais censurer la critique de l'immigration sous prétexte de messages ‘haineux' ou ‘sulfureux' n'est pas acceptable (sauf violence). Et même, Mark Zuckerberg a confirmé qu'il avait reçu des instructions précises de l'administration américaine de filtrer toutes les critiques de la politique de vaccination massive à l'époque Covid, ou des données sur le fils Biden. Tout cela n'est pas transparent, et franchement inacceptable dans un contexte légal où la liberté d'expression est supposée garantie. Et quand le filtrage est fait par Libé, on ne peut qu'en rire.

Reste inversement que la question existe. N'importe quel abruti peut prendre un pseudonyme et diffuser tout ce qui lui passe par la tête sans le moindre risque. Or dans la vraie vie, c'est différent. Celui qui énonce ce genre de chose dans la rue ou au café peut avoir une réaction plus ou moins vigoureuse, et peut être reconnu. Et celui qui l'écrit est connu soit du public soit au minimum de l'éditeur ou du média. Ce qui est juste. La liberté suppose la responsabilité.

Deux choses s'imposent donc. D'un côté, l'interdiction des pseudonymes - ou en cas d'utilisation régulière de l'un d'entre eux, l'enregistrement de la personne sous son vrai nom, avec preuve, auprès du réseau. D'où entre autre l'élimination des robots et faux comptes. D'un autre côté, la responsabilité de celui qui publie sur ses écrits, comme pour une publication.

A ce moment-là, le besoin de filtrage ne subsiste que pour ce qui est manifestement illégal (pédopornographie, harcèlement, produits illicites, appels au terrorisme, contenus violents etc.). Plus le contrôle par la communauté des utilisateurs, car cela correspond à ce qui se passe par ailleurs dans la société. X et Meta se réclament de cette approche : il faut vérifier la qualité de la mise en œuvre, mais le principe en est a priori plus sain qu'une censure idéologique. Ou que les ‘signaleurs de confiance', chers à la règlementation européenne (DSA), et en fait militants.

Les algorithmes de recommandation des réseaux sont anormalement opaques

Les réseaux sociaux présentent ensuite une différence majeure par rapport à tout autre support d'édition et de communication : les algorithmes par lesquels ils décident, dans une opacité parfaite, de ce qui va être présenté au client, du déroulé des posts, images ou messages, et des publicités. Cela vise tous les réseaux sociaux (Facebook, Instagram, Tiktok et autres), mais aussi à leur façon les moteurs de recherche (type Google). En un sens, c'est une nécessité : une présentation purement chronologique ou aléatoire ne serait en général pas satisfaisante. Mais en réalité, les algorithmes de nos réseaux vont bien au-delà d'un rôle de recommandation qui serait purement affinitaire et bienveillant.

Le point central est que nous avons affaire à des sociétés commerciales, qui vivent de publicité (et de la vente de bases de données, point important mais allant au-delà de notre sujet ici). Qui dit rémunération de la publicité dit probabilité que quelqu'un les regardera. D'où l'intérêt des réseaux de maximiser ce regard, ce temps de présence et d'attention. On va donc traiter les posts en calculant la probabilité qu'ils ont d'attirer l'attention (les critères pouvant varier selon les réseaux : durée de visionnage, nombre de ‘j'aime' ou de commentaires, inscription dans une tendance, nombre de suiveurs etc.). Outre les cas où ils sont payants (publicités), cela vise la viralité, au motif que ce qui est beaucoup vu par certains a toutes chances de l'être plus encore par d'autres.

Or ce système est parfaitement opaque. Et les utilisateurs sont en revanche totalement démunis par rapport à l'algorithme. Si autrefois vous lisiez une journal marxiste, vous saviez comment ils analysaient les choses, leur grille idéologique. Là ce n'est pas accessible. Certes, les utilisateurs astucieux s'adaptent et tentent d'influencer les algorithmes, en lui offrant ce qui lui parle le plus, et pour cela on adapte son discours. Ce que trie l'algorithme n'est donc pas une matière première neutre : elle est organisée pour être sélectionnée par lui. Mais de ce fait, lui doit de son côté en permanence s'adapter. Or on ne connait pas plus ces changements que le système de départ.

Pourtant, les utilisateurs restent et subissent, car l'utilité du produit (l'usage gratuit du système, l'effet distractif, et surtout le fait de se sentir dans le coup) est bien trop grande - d'autant plus que chaque réseau social a une sorte de monopole naturel sur son créneau. Ce choix se fait sans appréciation suffisante de ce que contient réellement ce qui est offert. Et surtout l'utilisateur n'a que très peu de moyens de le réguler.

On pourrait imaginer que cela implique une certaine individualisation, fonction de ce que le système a pu percevoir des centres d'intérêt de celui qui regarde. Mais en réalité, cela aboutit surtout à faire regrouper ces utilisateurs par classe d'affinités. Ces algorithmes replient chacun sur un modèle statistique moyen, en constituant des petits groupes relativement homogènes, plutôt consensuels mais mutuellement hermétiques. Cela joue un rôle indéniable dans la polarisation des opinions, mais aussi dans leur antagonisation. En même temps, ce que le système retient de chacun est en fait une image très réduite, orientée en fonction des besoins dudit système.
Comme dans d'autres domaines comme la mode, la recherche de l'individualité aboutit à une image très réductrice, opaque à l'individualité elle-même.

Par ailleurs, le système cultive le buzz permanent et donc un mouvement apparent ; dès lors celui qui passe du temps sur ces réseaux et y investit affectivement est constamment balloté en fonction du flux qui lui arrive. Ces algorithmes de réseaux sociaux régissent une bonne partie des interactions entre les personnes dans nos sociétés, parfois pendant plusieurs heures par jour. Par là même ils contribuent à façonner nos sociétés, mais sans aucune forme de responsabilité, ni de recul.

Par ailleurs, les algorithmes peuvent rendre certains contenus pratiquement invisibles sans les supprimer explicitement, en les reléguant en bas de la file -ce qui n'est pas immédiatement perceptible.

Transparence et responsabilité : que faire ?

Cela ne condamne pas les réseaux sociaux dans leur principe. Mais cela conduit à prendre du recul par rapport à leur fonctionnement. Et à rechercher les moyens d'en réduire l'opacité et d'instaurer plus de responsabilité.

Tout d'abord, l'opacité totale de ces algorithmes quasi-monopolistes est anormale. Ils devraient donc publier explicitement et en détails la méthode : ce qui fait qu'un post est privilégié dans le déroulé.

Ensuite il devrait être possible pour l'utilisateur de sélectionner réellement ce qui lui est présenté – quitte à ce que ce service ne soit pas gratuit. Avec en outre la possibilité de revisiter les posts plus anciens, comme des articles de journaux qui gardent leur intérêt.

Par ailleurs, les réseaux devraient être responsabilisés sur les effets de buzz. Cela existe ou a existé sur les marchés financiers : quand un cours de bourse ou de valeur évolue trop vite de façon délirante, on arrête pendant un temps les transactions. De même, un buzz suspect devrait conduire à un coupe-feu d'une durée raisonnable, répété si nécessaire.

Enfin, il serait souhaitable que des réseaux alternatifs nouveaux, moins obsédés par la publicité et donc financés autrement, offrent une vraie possibilité de rencontres et d'échanges, basés sur des affinités reconnues et choisies par les utilisateurs, avec des algorithmes qui soient à leur service et non à celui du buzz et par là de la maximisation du profit publicitaire.

Restera bien sûr toujours l'effet d'addiction et de divertissement sur l'utilisateur. Mais là, c'est à chacun de se discipliner…

Intelligence artificielle : le défi

Pierre de Lauzun — 2023-03-26T15:55:00Z

Ce qu'on appelle Intelligence artificielle ou IA est une ensemble varié de techniques informatiques effectuant des opérations complexes d'analyse et de traitement de données, présentées un peu vite comme analogues à l'intelligence humaine ou capables de la simuler. C'est donc une formidable machine de traitement de données, renforcée par une capacité d'apprentissage automatique et donc d'auto-perfectionnement. Et le progrès technique va multiplier ces possibilités, notamment avec les ordinateurs quantiques lorsqu'ils seront pleinement fiables.

Il est clair que la fiabilité et l'efficacité de l'IA dépendent directement de deux séries de facteurs : la richesse et la pertinence des bases de données d'une part, la qualité des algorithmes de l'autre.

Certains des résultats de l'IA sont particulièrement visibles et spectaculaires. Ainsi le fait de pouvoir battre les plus grands champions aux échecs puis au go ou même au poker. Ou plus récemment la capacité de ChatGPT à produire des textes en langage courant en réponse à une question quelconque, et d'engager un dialogue que rien ne distingue en apparence de la réponse d'une personne : des élèves ont pu ainsi faire rédiger leur devoir par le système, de façon superficiellement méconnaissable (sauf l'absence de fautes d'orthographe…). Parallèlement l'IA est utilisée massivement dans de multiples applications plus spécialisées très efficaces, dont on se sert tous les jours : moteurs de recherche, itinéraire, traduction, reconnaissance faciale, pilotage automatique, diagnostic médical etc.

En sens inverse, les interrogations pratiquées ici ou là de ce même ChatGPT en ont montré les limites : des erreurs matérielles - quand il ne sait pas bien, il extrapole allégrement et invente. Et des incohérences logiques : le système ne raisonne pas, mais combine des données de façon probabiliste ; bien sûr elles-mêmes contiennent des raisonnements, mais ChatGPT ne fait que les regrouper. Personnellement je l'ai interrogé sur mon propre cas, et j'ai été stupéfait de voir le système me donner avec un total aplomb et de façon répétée des informations factuelles parfaitement fausses, et ne ressemblant que de loin à la réalité (date de naissance, profil de carrière, appartenance à des organisations etc.). On nous promet moins d'erreurs avec GPT-4 (nouvelle version qui sort) ; mais il reste qu'on ne peut confondre un outil probabiliste avec une recherche directe de faits.

C'est en résumé un ensemble d'outils très puissants dans des domaines spécialisés, où la probabilité obtenue peut être très forte, même s'ils ont besoin de surveillance humaine compte tenu des ratés - et beaucoup moins convaincants lorsque le champ s'élargit au-delà de ses zones de validité.

Mais les zones de succès sont suffisamment larges pour qu'on puisse prévoir que le développement de son rôle à l'avenir sera massif. Si vous tapez Intelligence artificielle sur Google vous tombez en majorité sur des publicités de services expliquant aux entreprises comme s'assurer de ses bienfaits. Ce qui pose d'ailleurs pour ces utilisateurs de nombreuses et importantes interrogations : d'ordre technique car ces bases de données sont coûteuses et très sensibles aux perturbations (y compris malveillantes) et que la démarche IA n'a de sens que sur une échelle et dans des conditions suffisantes ; et d'ordre éthique, notamment sur la qualité des données utilisées et sur celle des algorithmes.

Mais plus largement, l'IA suscite deux séries de questions : impacts sur la société, et questions philosophiques.

Questions portant sur ses impacts sur la société

Impact sur l'emploi d'abord, et notamment par disparition emplois jusqu'ici valorisants : juristes, comptables, soignants, gestionnaires de tout type, contrôleurs, enseignants, programmateurs etc. voient et surtout verront une partie appréciable de leur travail effectué plus rapidement et beaucoup moins cher par des machines. Si d'un côté cela permettra un enrichissement des tâches de certains, et permettra de nouveaux services, d'un autre côté cela menacera directement bien des emplois, l'effet final algébrique étant inconnu. D'ailleurs Internet a plus créé d'emplois de livreurs que d'informaticiens, et détruit bien des emplois de libraires et autres commerçants. Au minimum en tout cas, ce devrait être un facteur de bouleversement appréciable. Un risque étant notamment une division toujours croissante entre des tâches encore plus nobles mais peu nombreuses, et des emplois plus banalisés, là où la machine ne peut pas aller (travail physique), ou à son service (ainsi pour la collecte de données, dans ce qu'on appelle micro-travail).

Impact en termes de responsabilité : la relative autonomie des machines, dont les processus peuvent être opaques même à leurs auteurs, la facilité d'utilisation, et l'autorité de ces outils puissants et supposés neutres, peuvent entraîner une formidable déresponsabilisation. Or jusqu'à plus ample informé, seul l'homme est capable de responsabilité morale, et donc la véritable décision devrait idéalement rester humaine, tant au niveau du concepteur que de l'utilisateur qui décide, ou pas, de s'en remettre à la machine. Mais la facilité ira en sens inverse…

Impact sur la question de l'information sociale et du débat public. Le pape François avait alerté sur l'utilisation de l'IA pour « faire circuler des opinions tendancieuses et de fausses données, empoisonner les débats publics et même manipuler les opinions de millions de personnes », « au point de mettre en danger les institutions à même de garantir une coexistence civile pacifique ». De fait ChatGPT par exemple, outre sa propension à inventer là où il n'a pas de réponse, et l'absence complète d'indication de ses sources, est manifestement programmé pour être politiquement correct. Et on peut encore raffiner. La recherche de fiabilité peut même par un paradoxe apparent renforcer cette tendance.

Impact sur le contrôle social, comme nous le rappelle l'exemple chinois (crédit social, contrôle généralisé etc.). En l'état il peut apparaître répulsif, mais on peut trouver des manières de justifier de telles pratiques qui soient plus cohérentes avec les préoccupations de nos sociétés, notamment en termes de de sécurité. Ou de politiquement correct…

Impact enfin sur la compétition économique entre pays. Une avance marquée en termes d'IA donnera au pays concerné un avantage considérable sur ses concurrents, et cela dans bien des domaines (économique, militaire, médical etc.). Or cela repose à la fois sur la qualité des algorithmes et sur la taille et la qualité des bases de données. De ce point de vue, un grand pays, surtout sans inhibition sur la collecte de données, peut avoir un avantage considérable. De même pour ceux capables de développer sur large échelle la recherche algorithmique. Plus généralement, il paraît que l'IA donne une prime à la taille et à la puissance. Au stade actuel, les Etats-Unis d'abord, la Chine ensuite, ont une nette avance, qu'ils ont des chances de garder, et ils ne sont suivis que d'assez loin par l'Europe et le Japon. Un sérieux effort serait ici indispensable dans nos pays.

Questions philosophiques

Dans quelle mesure cette recherche, censément d'une forme d'intelligence, peut-elle déboucher sur l'acquisition d'attributs actuellement vus comme le propre de la personne humaine ? La puissance de calcul est une chose ; la rationalité, l'imagination, la recherche du sens, la responsabilité, la capacité de relation avec d'autres personnes et plus largement la conscience et la liberté, en sont d'autres, jugés caractéristiques de la personne humaine. Rien ne dit à ce stade que la machine puisse en être dotée un jour : plus que penser, elle fonctionne, déroulant ses algorithmes programmés, qui, même s'ils ne sont plus toujours analysables du dehors, restent strictement déterministes. Relier statistiquement des concepts est tout autre chose que réfléchir dessus.

Mais les tenants de la technologie conquérante pensent que ce stade sera dépassé, et qu'au bout du processus émergera une véritable conscience avec tous ses attributs, en tout cas largement l'équivalent de ceux de la personne humaine, et bien plus performants. Nous ne connaissons pas l'avenir. Mais en fin de compte, la question est fondamentalement philosophique, et recouvre l'opposition entre matérialistes et non-matérialistes. Si vous considérez que la pensée et la conscience ne sont que le résultat de processus matériels, vous devez conclure qu'il y a toutes chances qu'un processus puisse les dupliquer un jour, et l'IA est alors un candidat prometteur.

Dans le cas contraire, le fait que l'IA puisse être à même de battre dans de très nombreux domaines ce qu'on attribuait à l'intelligence humaine ne change pas la différence de nature entre celle-ci et une supposée intelligence artificielle qui ne fait que la mimer mais ne comporte pas de pensée, encore moins consciente. Cela ressemble aux réflexions sur le transhumanisme, avec son rêve d'une immortalité obtenue en transposant sur une machine le logiciel qu'est supposé être l'esprit d'une personne : ici aussi, l'enjeu de l'innovation technologique porte sur une question philosophique majeure.

Cela dit, il ne sera sans doute pas aisé de distinguer entre un système très perfectionné et dressé pour mimer un comportement humain et un vrai être humain. En d'autres termes, le test de Turing (la possibilité de distinguer un ordinateur et une personne par les réponses qu'ils donnent) pourrait ne pas ne fournir de réponse. Comment savoir en effet s'il y a conscience, ou simple simulation de conscience ? En termes pratiques, il sera probablement difficile dans quelques années de distinguer le comportement de notre cher Emmanuel Macron, pour prendre un exemple qui s'y prête, d'un bon programme d'IA. Si en revanche vous croyez en la réalité de l'esprit, et plus encore en Dieu, l'IA ne devrait pas trop vous inquiéter, en tout cas sur rien de fondamental.

En définitive, à côté du renforcement des inégalités, au sein des sociétés et entre Etats, mais aussi d'une offre enrichie de services, la conséquence la plus claire de l'IA sera sans doute une accentuation du brouillage des repères qui caractérise nos sociétés pour la grande majorité des gens. Soit dans leurs valeurs fondamentales, toute forme de religion ayant disparu de leur vie. Soit plus concrètement dans leur travail, leur autonomie, leur capacité critique face à l'information ou au contrôle etc. - ne leur laissant dans le pire des cas que la dissidence intérieure ou la jacquerie anarchique. Sauf à utiliser astucieusement les limites du système… Mais on s'éloignera plus encore de l'utopie démocratique.

Paru dans Politique magazine https://politiquemagazine.fr/civili...