Implcit

Étiquette : réseaux sociaux

  • Les politiciens victimes consentantes des algorithmes

    Les politiciens victimes consentantes des algorithmes

    J’ai déjà parlé de l’impact des algorithmes des réseaux sociaux sur la société. De nombreux autres ont listé l’effet de silo des réseaux, et leur amplification des extrêmes.

    Je vais aller plus loin ici, et pour une fois me mêler de ce qui ne me regarde pas, la politique. Ce blog est une plateforme professionnelle où j’exprime des réflexions sur l’industrie publicitaire, ses technologies, et indirectement, ses impacts sur la société. C’est donc dans cet esprit qu’il faut lire ces lignes, et non dans celui de l’expression d’un point de vue personnel, qui n’a rien à faire ici.

    C’est un fait, les extrêmes montent partout. Et ce mouvement est plus qu’accompagné, il est même accéléré, voire généré, par les réseaux sociaux. Cela fait des années qu’on le sait.

    Je vais ici m’intéresser à quel type d’extrême est promu par les réseaux sociaux.
    Politiquement, sur l’échelle droite-gauche qui a longtemps défini les différents mouvements, on peut, en simplifiant à dessein, caricaturer l’extrême droite comme une pensée inégalitaire. Certains valent plus que d’autres, d’où une recherche permanente de bouc-émissaires.
    A l’autre bout de l’échiquier, la gauche extrême prône l’égalité absolue, avec notamment la vision marxiste qui a sévi au 20ème siècle.

    Sous cet angle, l’effet de silo a les conséquences suivantes :

    • je ne vois que des gens qui pensent comme moi
    • je me radicalise dans mes opinions
    • j’exclue ceux qui ne pensent pas comme moi de mon silo
    • j’exclue ceux qui ne sont pas comme moi de mon silo
    • je considère que ceux qui ne sont pas dans mon silo sont mes ennemis
    • je me sens supérieur à mes ennemis
    • je pense être supérieur à ceux qui ne sont pas comme moi

    En d’autres termes, l’abus de réseaux sociaux mène surtout à un type d’extrême, l’extrême inégalitaire, l’extrême droite.

    Je pense donc sincèrement que la montée de l’extrême droite dans nos démocraties est fondamentalement une conséquence des algorithmes des réseaux sociaux !

    Pour l’ingénieur que je suis, celui signifie que les ingénieurs ont pris le pouvoir ! A force de bichonner leurs algorithmes, ils ont réussi à avoir un impact profond et historique sur la société, et sur le monde.
    Le problème, c’est que les ingénieurs n’ont pas fait ça par motivation politique. Ils ont bêtement cherché des solutions à des problèmes qu’on leur posait (augmenter la rétention, favoriser la participation, etc.). Et comme souvent pour les ingénieurs, ils n’ont pas réfléchi aux conséquences de leurs actions.
    Les hommes les plus puissants du monde, les ingénieurs, ne sont que les idiots utiles d’un système qui leur a échappé.

    Y a-t-il une réelle volonté de certains à modifier le monde en ce sens ? Peut-être, mais je pense que c’est marginal. Les théoriciens de l’extrême droite n’ont jamais eu le pouvoir d’influer sur les algorithmes des réseaux sociaux.

    La situation dans laquelle on se trouve est la conséquence involontaire d’une classique recherche de profit (rétention, participation, engagement, publicité).

    La « liberté d’expression » chère à Musk n’a au départ qu’une visée de création d’audience et donc de revenus publicitaires. Il y avait bien un terreau fertile (libertarisme et apartheid dans son cas), mais si la liberté d’expression avait freiné ses affaires, il ne l’aurait pas autant promue.

    Si cela touche le grand public, que dire des politiciens ?
    Leur job est de se faire élire. Ecouter son électorat fait partie du boulot. Leur dire ce qu’ils veulent entendre aussi.
    Avant les réseaux sociaux, on pouvait plus dire ce que l’électorat n’a pas envie d’entendre. Il n’avait pas le choix, un long discours (écrit ou oral) devrait couvrir toute la base électorale. Aujourd’hui, un homme ou une femme politique n’a droit qu’à quelques phrases. Il ou elle doit aller à fond sur un thème, pour toucher une population sur chez un influenceur, à fond sur un autre thème chez un autre influenceur.

    L’effet de silo se trouve donc démultiplié chez les politiques.

    Tous ces auto-déclarés génies (Musk et Trump en tête) sont maintenant piégés dans le monstre que les réseaux sociaux ont construit, et que donc ils ont construit, et qui a échappé à ses créateurs.

    Leur absence du moindre sens moral, de la moindre empathie prouve selon moi que les algorithmes les ont coupés d’une pensée humaine rationnelle. Entre nettoyage ethnique proposé à Gaza, arrêt brutal de toute subvention aux plus faibles (aux USA et dans le reste du monde), assimilation aveugle de tous les migrants à des terroristes (donc parqués à Guantanamo pour la symbolique ), on ne peut que constater que ces gens n’ont plus la moindre conscience des conséquences leurs actes, autres que celles de leur intérêt propre.

    A force de silotage, les réseaux sociaux poursuivent leur entreprise de déshumanisation de la partie de l’humanité qui ne pense pas comme ceux qui se croient supérieurs. Et la déshumanisation de ses ennemis, cela a conduit dans le passé à l’extermination desdits ennemis. Les nazis et les hutus par exemple ne voyaient pas leurs victimes comme des humains.

    Le prochain génocide ou la prochaine guerre sera une conséquence des réseaux sociaux.

  • Platon, la République et les algorithmes

    Platon, la République et les algorithmes

    Si vous m’avez connu avant Implcit, vous savez peut-être que j’ai cofondé Alenty en 2007. Et même si vous connaissez Alenty, vous ne savez certainement pas sur quelle base Alenty a été créée.

    En 2007, le javascript transformait le navigateur en véritable système d’exploitation et ouvrait de nouvelles possibilités. Nous avions passé un an à explorer tout ce qu’il était possible de faire, avec comme fil directeur une autre nouveauté de l’époque : les communautés.

    Nous avons donc développé une technologie de mesure des échanges dans les communautés. Pour mesurer ces échanges, nous avons développé une technologie d’analyse des blocs d’information dans les pages : les commentaires sont-ils lus ?
    C’est cette technologie qui, appliquée aux publicités au lieu des commentaires, a donné la première mesure de la visibilité publicitaire au monde !

    Mais revenons à l’autre partie de la technologie, qui a donné lieu à un brevet. Nous avons modélisé les échanges entre les membres d’une communauté. Un échange consiste à :

    • écrire un contenu
    • lire un contenu
    • noter un contenu…

    Notre système enregistrait des millions de signaux : « l’individu 1 lit un commentaire écrit par un individu 2, dans un article écrit par 3 ». La combinaison de ces signaux permettait de détecter les experts parmi une communauté.

    Comme vous insistez, voici l’algo, amusez-vous bien ! 🤓

    Une façon de résumer l’algorithme en langage humain revient à dire : si je suis expert sur un sujet, en passant du temps à lire ton contenu, je te donne un peu de mon poids d’expert. En commentant j’en donne un peu plus, en notant (positivement) encore un peu plus, et en notant (négativement) j’en retire.

    Le système mettait alors automatiquement en avant les avis des experts, et permettait rapidement d’avoir une idée de la pertinence d’une information.

    Fin 2007, Alenty a été sélectionné pour le grand prix de l’innovation de la ville de Paris. Comme le jury était composé d’élus, j’ai choisi une présentation originale de la solution.

    En me basant sur la République de Platon, j’ai comparé les média à des systèmes politiques. Ce que j’ai résumé dans ce tableau :

    Adjointe au maire, la présidente du jury, qui connaissait ses classiques, m’a dit que Socrate n’était pas un fan de la démocratie, qui selon lui, menait à l’anarchie puis à la dictature. Je lui ai répondu que je faisais l’hypothèse que pour nous, la démocratie était préférable à l’anarchie.

    Revenons-en à nos algos. Le succès de Google est venu de l’invention par Brin et Page du pageRank. Avant Google, le classement des résultats de recherche n’était pas pertinent. Notre algorithme suivait la même logique que le pageRank.

    Or, les réseaux sociaux, qui sont quelque part les successeurs des communautés de 2007, n’ont pas mis en place de méthode de qualification de la pertinence des contributions et de leurs auteurs.
    L’étalon de mesure est le nombre de followers. Tout le monde se vaut, y compris les bots, y compris les faux profils, y compris les indonésiens payés au clic, y compris les haters qui sont souvent les plus actifs, et donc les plus suivis.

    Les réseaux sociaux actuels sont ce qui s’apparente le plus à l’anarchie. Sans contrôle, autre que des armées de modérateurs, la seule règle qui s’applique est la chasse au volume. Et pour avoir du volume, l’outrance et la violence sont bien plus efficaces que la modération et l’empathie.

    Dans la page Wikipedia de la République de Platon, on peut lire « Au milieu de l’anarchie qui s’installe, le tyran va apparaître, se présentant tout d’abord comme un protecteur. Se sentant soutenu par la masse, et le pouvoir lui montant à la tête, il s’assure le soutien des classes moyennes en promettant de redistribuer les richesses en leur faveur. »

    Je n’ai jamais lu d’études au sujet du lien entre les algorithmes et la démocratie. Mais pour moi, la montée des extrêmes, la fascination croissante pour les dictateurs, la violence des réseaux sociaux, tous ces maux proviennent d’un mauvais choix d’algorithmes.

    Un algorithme donne le ton des usages. Je ne dis pas qu’avec notre algorithme, il y aurait moins d’extrémistes sur terre (je ne suis pas devenu brutalement mégalo), mais je pense qu’avec d’autres méthodes que des comptages de followers, les réseaux sociaux auraient pu faire naître des « représentants » au sein des communautés.
    Sans parler de réelles élections, ces représentants seraient certainement plus modérés. Leur donner de la visibilité aurait permis de garder les conditions au dialogue. Un peu de démocratie au lieu de l’anarchie.

    Internet a ouvert l’accès à la connaissance infinie. Les réseaux sociaux ont permis à chacun de s’exprimer. Mais faute de volonté d’organisation (qui est possible, on peut le voir dans l’exemple de Wikipedia), ils permettent, au mieux, de voir des vidéos de chats, au pire, d’appeler au meurtre de ceux qui ne pensent pas comme nous.

    D’un point de vue publicitaire, je ne comprends toujours pas comment les marques peuvent autant investir dans ces plateformes. Elles savent ce qui s’y passent, mais elles ne peuvent souvent pas vérifier dans quel contexte leurs publicités sont diffusées. Ou elles ferment les yeux sur leur responsabilité sociétale.

    En ces temps électoraux, quand on voit la facilité avec laquelle des contenus mensongers sont partagés, il faut absolument comprendre les mécanismes et les algorithmes qui orchestrent ce nouveau « média ».

    L’histoire jugera de la responsabilité de ces réseaux sociaux qui influent tellement sur nos vies.

  • Les Illusions Perdues des réseaux sociaux

    Les Illusions Perdues des réseaux sociaux

    A 14 ans, j’ai eu une « crise » Balzac, et j’ai enchaîné ses romans : Le Père Goriot, Les Chouans, Le Chef d’Œuvre Inconnu… Bizarrement je suis passé à côté des Illusions Perdues. Mon fils de 14 ans n’a pas fait la même erreur, et l’a lu avant que nous allions voir le film éponyme de Xavier Giannoli ce week-end.

    Balzac était un génie de la peinture sociale, soit. Mais l’adaptation de Xavier Giannoli donne à l’œuvre du romancier une contemporanéité incroyable.

    Lucien de Rubempré, jeune poète plein d’espoirs, utilise ses talents pour porter aux nues ou vilipender artistes ou puissants selon les besoins du journal qui le paie. Le tableau peint par Balzac vous glace le sang : les journaux de l’époque sont sans foi ni loi, les journalistes n’ont aucune conscience professionnelle. Tout le monde entre dans un jeu morbide pour des raisons personnelles que Balzac analyse et pousse à leur paroxysme.

    Certains me diront que les choses n’ont pas changé, que les journaux ne servent toujours qu’à enrichir leurs actionnaires, que les journalistes écrivent dans le sens de celui qui les paie. Je ne le crois pas.

    Les journaux ne sont plus la machine à cash qu’ils étaient au début du XIXème siècle. Au contraire, la plupart ont coulé, et ceux qui survivent ne doivent leur salut qu’à des investissements à perte de l’état ou de particuliers.

    Le journalisme s’est aussi moralisé et organisé. La déontologie qui faisait défaut dans le roman de Balzac est aujourd’hui enseignée dans les écoles de journalisme. OK tous ne l’appliquent pas (par manque de moyens ou par idéologie), mais les grands journalistes la mettent sur un piédestal.

    Non, les journaux d’aujourd’hui ne ressemblent pas au tableau noir dépeint par Balzac.

    Alors qu’est-ce qui donne ce sentiment de modernité lorsqu’on voit ce film ?

    Ce n’est pas dans les journaux qu’il faut chercher l’analogie, mais dans les réseaux sociaux d’aujourd’hui.

    Les influenceurs ne cherchent qu’à faire parler d’eux. En bien, en mal, peu importe du moment qu’il y a des views, des likes, ou des clics. « Comment voulez-vous que je vende des livres s’il n’y a pas de polémique ? » dit à peu près Nathan dans le film. Et les algorithmes des réseaux sociaux offrent une caisse de résonance aux posts les plus extrêmes. Le but n’est plus d’enrichir l’actionnaire d’un journal, mais celui de Google ou Facebook.

    Les influenceurs sont parfois rémunérés pour faire la promotion d’un produit, sans même daigner en informer leur lecteur. La trop connue Nabilla a même été condamnée pour publicité trompeuse. Comme Lucien se vendait au plus offrant, les instagramers, youtubeurs et tiktokeurs mélangent contenus et promotions sans la moindre retenue déontologique.

    La publicité n’est pas oubliée par Bazac non plus. Mais il ne me semble pas avoir vu dans le film ce mélange des genres qui fleurit aujourd’hui et qu’on euphémise sous le nom de « publicité native ». Pour moi, ce n’est rien de plus que de la publicité qui cherche à se faire passer pour du contenu, pas si loin de la publicité trompeuse qui a plombé les comptes de Nabilla.

    Enfin, le chauffeur de salle, Singali. Dans le film, des quidams sont entrainés et payés par Singali pour applaudir ou huer des acteurs, leur jeter des fleurs ou des tomates.
    D’après mon fils, il n’apparait pas dans le livre. C’est donc un ajout du réalisateur, mais quelle idée lumineuse !

    Ces meutes capables de se ruer sur n’importe qui et de le mettre en pièces, symbolisent parfaitement les commentateurs de nos réseaux sociaux. La haine gratuite qui s’y déverse, et l’anonymat dont ils jouissent ressemblent en tous points aux sbires de Singali.

    Ils sont payés me direz-vous. Et alors ? Vous n’avez pas entendu parler des restaurants qui achètent des commentaires positifs, ou qui dénigrent leurs concurrents ? Ou les fermes à trolls sur Facebook ?

    Lisez Les Illusions Perdues, repaissez-vous de la bassesse de l’humanité décrite par Balzac. Et retournez votre regard sur ce que les réseaux sociaux rendent possible aujourd’hui : donner à nos plus vils penchants un espace d’expression et un écho dont Lucien de Rubempré n’aurait même pas rêvé !

  • Platon et les algorithmes

    Platon et les algorithmes

    2007. Ça ne nous rajeunit pas !
    Alenty est sélectionnée pour la finale du concours de start-ups de la ville de Paris.  Nous avons développé une méthode de détection d’expertise dans les communautés, et déposé un brevet.

    En 2007, à l’Hôtel de Ville de Paris, je présente notre innovation : «  Google a développé une forme d’oligarchie en hiérarchisant l’intérêt des contenus. Les réseaux sociaux qui commencent à apparaître [en 2007, c’était les blogs] posent les fondements d’une démocratie en ligne. » Une élue du conseil municipal m’interrompt : « Vous savez que dans la République de Platon, l’oligarchie est suivie par la démocratie, qui se dévoie en anarchie, pour finir en tyrannie ? ».
    Une politique ! Pas la même culture que les ingénieurs que je fréquente habituellement ! Je me rattrape aux branches «  Justement, c’est pour cela que notre algorithme a été développé, éviter l’anarchie ! ».

    Séance de Walk and Talk vers 520 avant JC

    Sans rentrer dans le détail, notre algorithme appliquait le Page Rank de Google (la publication par Brin et Page en 1998 de leur thèse) aux individus. Chez Alenty, nous créions une matrice de personnes, reliées par des actions (écriture de contenus, lecture de contenus, votes, etc.). 
    Par exemple, si je passe 10 minutes à lire un article sur Borges écrit par un spécialiste de Borges, je prends un peu de son poids, et je lui donne un peu du mien.  Le système converge et donne des poids aux individus et aux contenus.  On pouvait ainsi par exemple sélectionner les commentaires les plus intéressants dans un blog qui parle de Borges. 

    Fin 2007, quand on a trouvé que la technologie de mesure des lectures pouvait mesurer la visibilité des publicités, on a vite compris où on pouvait gagner un peu d’argent et la détection d’expertise a été abandonnée en 2008…

    Pourquoi je vous parle de ça ?  Parce qu’on voit les ravages que des algorithmes peuvent faire dans nos démocraties.

    Les réseaux sociaux se sont développés sur la mise en avant des contenus générés par leurs utilisateurs. 
    Il y a quelques années, j’avais été surpris de découvrir que Google n’utilisait pas l’algorithme qui a fait le succès de son moteur de recherche pour suggérer des vidéos sur Youtube. A la place, il semblerait (au conditionnel car c’est un secret bien gardé) que les vidéos présentées soient les plus cliquées par ceux qui ont vu la même vidéo que vous. C’est certainement réducteur mais ce n’est en tous cas pas la vidéo la plus intéressante (au sens du moteur de recherche).

    Ça a changé (ou alors Google me connaît bien ?), mais il fut un temps où les vidéos recommandées après une vidéo platiste (la Terre est plate) étaient elles-mêmes platistes !
    En 2019, un sociologue américain (impossible de retrouver l’article) a décrit comment il s’est retrouvé à regarder des vidéos de combat de rue après avoir vu un match de boxe, suivi (automatiquement) par un match de MMA, suivi par du free fight, etc. 
    Dans cet autre article, on lit : «  Videos about vegetarianism led to videos about veganism. Videos about jogging led to videos about running ultramarathons. »

    On peut faire la même remarque à Facebook, qui présente ses contenus de façon à faire rester ses membres le plus longtemps possible. 

    Il y a plein de raisons qui expliquent pourquoi on clique plus sur des contenus un peu plus extrêmes que sur des contenus plus mainstream. Ces micro-choix ne sont pas dictés par notre rationalité. Ils suivent notre coeur, nos émotions. Et malheureusement, notre cerveau est piquousé à la dopamine, l’hormone du plaisir. Il en veut toujours plus. 

    Les réseaux sociaux sont-ils l’expression de la démocratie ? 
    Le Page Rank de Google et notre « people rank » d’Alenty s’apparentaient à des oligarchies, où certains individus ont plus de poids que d’autres. Ou à une démocratie participative, où le temps qu’on passe « élit » des représentants.
    Si les algorithmes étaient démocratiques, tous les individus auraient le même poids au départ. Les recommandations seraient liées à l’audience (nombre de lecteurs) des contenus. Cet algorithme simpliste poserait des problèmes d’amorçage (un contenu nouveau ne serait jamais mis en avant). Mais la démocratie ce n’est jamais simple !

    Mais aujourd’hui, c’est carrément l’inverse : les contenus les plus extrêmes ont la priorité. Tous les individus ne sont pas égaux. Les plus extrémistes, les plus manipulateurs ont plus de poids ! 

    Les événements du Capitole de Washington en sont l’illustration. La montée du complotisme également. La remise en question de la parole scientifique aussi. La perte de confiance en la démocratie est en la plus triste des conséquences. 

    Les réseaux sociaux ne sont pas la démocratie. 

    Platon avait raison : après l’oligarchie, puis la démocratie, vient l’anarchie. 
    Les algorithmes des réseaux sociaux nous ont fait sauter une étape, l’étape démocratique malheureusement. 

    Espérons que la tyrannie, l’ultime étape que Platon a prédite, ne nous concernera pas…

    Et vous, ça vous inquiète ?