Platon et les algorithmes

2007. Ça ne nous rajeunit pas !
Alenty est sélectionnée pour la finale du concours de start-ups de la ville de Paris.  Nous avons développé une méthode de détection d’expertise dans les communautés, et déposé un brevet.

En 2007, à l’Hôtel de Ville de Paris, je présente notre innovation : «  Google a développé une forme d’oligarchie en hiérarchisant l’intérêt des contenus. Les réseaux sociaux qui commencent à apparaître [en 2007, c’était les blogs] posent les fondements d’une démocratie en ligne. » Une élue du conseil municipal m’interrompt : « Vous savez que dans la République de Platon, l’oligarchie est suivie par la démocratie, qui se dévoie en anarchie, pour finir en tyrannie ? ».
Une politique ! Pas la même culture que les ingénieurs que je fréquente habituellement ! Je me rattrape aux branches «  Justement, c’est pour cela que notre algorithme a été développé, éviter l’anarchie ! ».

Séance de Walk and Talk vers 520 avant JC

Sans rentrer dans le détail, notre algorithme appliquait le Page Rank de Google (la publication par Brin et Page en 1998 de leur thèse) aux individus. Chez Alenty, nous créions une matrice de personnes, reliées par des actions (écriture de contenus, lecture de contenus, votes, etc.). 
Par exemple, si je passe 10 minutes à lire un article sur Borges écrit par un spécialiste de Borges, je prends un peu de son poids, et je lui donne un peu du mien.  Le système converge et donne des poids aux individus et aux contenus.  On pouvait ainsi par exemple sélectionner les commentaires les plus intéressants dans un blog qui parle de Borges. 

Fin 2007, quand on a trouvé que la technologie de mesure des lectures pouvait mesurer la visibilité des publicités, on a vite compris où on pouvait gagner un peu d’argent et la détection d’expertise a été abandonnée en 2008…

Pourquoi je vous parle de ça ?  Parce qu’on voit les ravages que des algorithmes peuvent faire dans nos démocraties.

Les réseaux sociaux se sont développés sur la mise en avant des contenus générés par leurs utilisateurs. 
Il y a quelques années, j’avais été surpris de découvrir que Google n’utilisait pas l’algorithme qui a fait le succès de son moteur de recherche pour suggérer des vidéos sur Youtube. A la place, il semblerait (au conditionnel car c’est un secret bien gardé) que les vidéos présentées soient les plus cliquées par ceux qui ont vu la même vidéo que vous. C’est certainement réducteur mais ce n’est en tous cas pas la vidéo la plus intéressante (au sens du moteur de recherche).

Ça a changé (ou alors Google me connaît bien ?), mais il fut un temps où les vidéos recommandées après une vidéo platiste (la Terre est plate) étaient elles-mêmes platistes !
En 2019, un sociologue américain (impossible de retrouver l’article) a décrit comment il s’est retrouvé à regarder des vidéos de combat de rue après avoir vu un match de boxe, suivi (automatiquement) par un match de MMA, suivi par du free fight, etc. 
Dans cet autre article, on lit : «  Videos about vegetarianism led to videos about veganism. Videos about jogging led to videos about running ultramarathons. »

On peut faire la même remarque à Facebook, qui présente ses contenus de façon à faire rester ses membres le plus longtemps possible. 

Il y a plein de raisons qui expliquent pourquoi on clique plus sur des contenus un peu plus extrêmes que sur des contenus plus mainstream. Ces micro-choix ne sont pas dictés par notre rationalité. Ils suivent notre coeur, nos émotions. Et malheureusement, notre cerveau est piquousé à la dopamine, l’hormone du plaisir. Il en veut toujours plus. 

Les réseaux sociaux sont-ils l’expression de la démocratie ? 
Le Page Rank de Google et notre « people rank » d’Alenty s’apparentaient à des oligarchies, où certains individus ont plus de poids que d’autres. Ou à une démocratie participative, où le temps qu’on passe « élit » des représentants.
Si les algorithmes étaient démocratiques, tous les individus auraient le même poids au départ. Les recommandations seraient liées à l’audience (nombre de lecteurs) des contenus. Cet algorithme simpliste poserait des problèmes d’amorçage (un contenu nouveau ne serait jamais mis en avant). Mais la démocratie ce n’est jamais simple !

Mais aujourd’hui, c’est carrément l’inverse : les contenus les plus extrêmes ont la priorité. Tous les individus ne sont pas égaux. Les plus extrémistes, les plus manipulateurs ont plus de poids ! 

Les événements du Capitole de Washington en sont l’illustration. La montée du complotisme également. La remise en question de la parole scientifique aussi. La perte de confiance en la démocratie est en la plus triste des conséquences. 

Les réseaux sociaux ne sont pas la démocratie. 

Platon avait raison : après l’oligarchie, puis la démocratie, vient l’anarchie. 
Les algorithmes des réseaux sociaux nous ont fait sauter une étape, l’étape démocratique malheureusement. 

Espérons que la tyrannie, l’ultime étape que Platon a prédite, ne nous concernera pas…

Et vous, ça vous inquiète ?

Laisser un commentaire