Dans ce post, je vais raconter une petite anecdote qui m'est arrivée cette semaine alors que je tentais avec quelques amis de me (re)mettre au sport et comment cette anecdote est illustrative d'une possible modification rapide de notre capacité à faire confiance aux informations qui circulent aujourd'hui dans les environnements informationnels numériques.
IA et colonisation des environnements numériques par des médias automatisés
Pour tirer les fils de cette anecdote, quelques préalables sont nécessaires.
Le premier est que le développement des IA conversationnelles et autres outils de génération automatique de contenu mais surtout la démocratisation très rapide de leurs usages par différents acteurs plus ou moins bien intentionnés amène tout une série de questions et de craintes liées au bon fonctionnement des environnements informationnels.
Une de ces craintes est que le web, et plus généralement les environnements informationnels numériques, sont petit à petit en train de se remplir de slop, c'est-à-dire d'informations fausses ou de mauvaise qualité générées automatiquement au moyen d'outils d'IA. En corollaire, il est possible de penser que devoir naviguer quotidiennement dans un environnement numérique saturé de slop pourrait accentuer les désordres informationnels déjà identifiés : désinformation, mal-information, mésinformation, ect.
Une seconde dimension de cette crainte est que dans un environnement informationnel numérique où les contenus sont de plus en plus produits par ce que mes collègues Jerry Jacques et Antonin Descampe appellent des "médias automatisés", il deviendra de plus en plus difficile d'évaluer tant la fiabilité des sources que la facticité des contenus auxquels nous sommes confrontés.
Avec la généralisation des médias automatisés, c'est en effet les notions mêmes d'auteur et de source qui se transforment. L'automatisation croissante de la production de contenus médiatiques numériques pourrait alors non seulement accentuer les phénomènes de désordres informationnels, mais surtout, et c'est, je pense, ce que va montrer mon anecdote de cette semaine, remodeler notre rapport à l'information jugée comme fiable ou de qualité.
Pour naviguer dans un environnement numérique rempli de "slop", nous devons (ou du moins devrions) en effet en permanence nous poser les questions suivantes :
- l'article de presse ou du journal scientifique que je consulte a-t-il bien été publié dans le journal qui m'intéresse ou bien s'agit-il d'une copie factice destinée à me tromper ?
- L'email que je reçois provient-il bien de mon patron ou est-il une tentative de phishing très réaliste imitant un message de mon patron ?
- L'émetteur de ce message sur Instagram est-il une vraie personne, ou bien un bot ?
- La réponse à la question que j'ai posée à Grok ou Gemini est-elle bien valide, ou repose-t-elle sur des informations inexactes voire sur une vision idéologiquement tronquée de la réalité ?
- Le blog de jardinage que je consulte (oui, à 40 ans on consulte des blogs de jardinage...) a-t-il été rédigé par un expert du sujet ou bien a-t-il été généré en deux minutes par une IA qui dit n'importe quoi...
Bref, la colonisation en cours de l'environnement numérique par un nouveau type de médias - les médias automatisés - pourrait bien déstabiliser le fonctionnement de cet environnement dans sa qualité d'environnement informationnel, c'est-à-dire d'espace collectif où nous formons notre rapport au monde via l'acquisition de connaissances et d'informations que nous jugeons fiables.
Réception et confiance dans les environnements informationnels
Le second préalable à poser est que l'effet d'un nouveau média et de ses contenus sur la société et les individus, n'est jamais direct. Si cet effet est mesurable, il se mesure en grande partie en prenant en compte les activités de réception des contenus de ce média par les personnes qui l'utilisent pour communiquer.
Si l'on s'intéresse à l'effet de la colonisation en cours des environnements numériques par des médias automatisés, il est donc pertinent de poser la question de la modification possible des pratiques de réception qu'ils vont peut-être provoquer.
Face à une production médiatique, nous ne sommes en effet jamais passifs, mais dans une posture interprétative active. Nous essayons de faire sens des messages reçus, des contenus lus ou visionnés et c'est dans cette activité interprétative continue (souvent très rapide, voire inconsciente) que se constitue finalement le sens des contenus diffusés et par là leur possible "effet" sur nos perceptions, attitudes ou activités.
Nous pouvons poser comme hypothèse que dans un environnement informationnel fonctionnel il est relativement facile (quels que soient les critères utilisés par la personne qui y participe) d'évaluer la qualité et la fiabilité tant d'une source que d'une information. Dans tous les cas, il doit être possible de savoir si oui ou non nous pouvons faire confiance à la source de l'information.
En 2025, notre environnement informationnel est constitué de différentes sources tant physiques ou analogiques que numériques : des amis, des parents, des collègues, des enseignants, des livres, des médias d'information traditionnels (presse, TV, radio), des blogs, des influenceurs sur les réseaux sociaux, des revues scientifiques, des newsletters professionnelles, des journaux locaux, etc.
Ces sources sont relativement stables dans le temps et nous avons appris que nous pouvions leur faire confiance ou au contraire qu'elles n'étaient pas fiables. Cette opération est principalement personnelle et le résultat d'un acte interprétatif. Par exemple une personne pourra juger que le journal de la RTBF est extrêmement fiable et une autre qu'il s'agit d'une accumulation de mensonge, en fonction de cette première évaluation, son contenu ne sera pas interprété de la même manière et il n'aura pas le même "effet" sur nous. Cette activité comporte cependant également une dimension sociale importante, il est par exemple généralement admis en Belgique que la RTBF (média public belge audiovisuel) est une source de qualité à laquelle on peut se fier.
Une fois cette confiance acquise, stabilisée, plus besoin de la ré-évaluer à chaque nouvelle interaction avec la source. Cette stabilité de la confiance médiatique est sans doute une des conditions de possibilité d'un environnement informationnel fonctionnel. L'existence d'un environnement informationnel fonctionnel et relativement stable est sans doute une des conditions de possibilités de la vie dans les sociétés démocratiques au XXIe siècle.
De ce point de vue, la numérisation des environnements informationnels causée par le développement du web dans les années 1990, puis surtout du web 2.0. de 2000 à 2020 a eu des conséquences importantes. De nouveaux types de source médiatique sont apparus tels que des encyclopédies écrites par des non professionnels (Wikipédia), des journaux en ligne, des blogs, des comptes de réseaux sociaux, etc. Ces sources numériques ont presque toutes comme point commun d'être produites par des non professionnels aux compétences très diverses et leur fiabilité ne pouvait donc plus être automatiquement déduite du caractère spécialisé (journalistes, scientifiques, experts) de leur auteur. La centralité de l'activité d'évaluation de la fiabilité des sources s'en est trouvée renforcée et sans doute aussi la centralité de processus collectifs d'attribution de confiance à certaines sources, jugées plus fiables que d'autres.
Ce qui est intéressant c'est que nous avons petit à petit appris collectivement, cela à pris presque 30 ans, si et comment nous pouvions (ou non) faire confiance à ces nouvelles sources et comment elles pouvaient participer à la composition de notre mix informationnel. Ce processus à pris du temps, n'est toujours pas terminé et suscite de nombreux débats.
Une fois ces préalables posés, je peux en venir à ma tentative avortée de faire du sport et montrer en quoi elle est un bon exemple d'une possible déstabilisation en cours des structures de confiance des environnements informationnels numériques et comment cette déstabilisation peut poser des problèmes très concrets dans notre vie de tous les jours.
Ma (non)participation à un trail et débat entre amis sur la facticité d'un email
Il y a quelques semaines je me suis donc inscrit avec trois amis à un trail qui devait se passer fin mai dans une ville proche de Bruxelles. Rien de bien particulier. L'événement était organisé pour la première fois par une entreprise expérimentée et de manière très professionnelle. Site web parfait en français et flamand propulsé par Odoo, comptes de réseaux sociaux nickels : Facebook, Instagram et Tik Tok proposant des vidéos promotionnelles léchées, etc.
La semaine dernière, de manière surprenante, nous avons tous les quatre reçu un email annonçant que, faute d'inscriptions suffisantes, l'événement allait être annulé et que nous allions donc être recontactés pour le remboursement des frais d'inscription. Grosse déception de notre part, mais surtout, grosse surprise.
Les réactions à cet email au sein de notre groupe ont été très diverses. Pour deux d'entre nous, il n'y avait aucun doute, cet email était un spam, une tentative de phishing destinée à récupérer nos données bancaires. L'événement allait bien avoir lieu et il fallait continuer à s'y préparer. Le troisième à l'inverse y voyait un mail authentique et donc une simple annonce d'annulation et la quatrième personne n'arrivait pas à se prononcer mais penchait davantage pour le spam que pour l'email authentique. Pas moyen de nous mettre d'accord donc.
Les éléments utilisés pour justifier le fait que cet email ne pouvait pas être jugé comme fiable étaient les suivants :
- l'adresse d'envoi de l'email était une adresse de type "info@45698122.xxx.com". Pas de doute, l'expéditeur du mail n'avait rien à voir avec l'organisateur de la course. Le domaine de l'adresse n'était pas celui du site web de l'événement et l'adresse n'était d'ailleurs pas la même que celle utilisée dans les précédents emails reçus. Surtout, la série de chiffres dans l'adresse mail était un indice certain d'automatisation de l'envoi. Un robot avait dû participer d'une manière ou d'une autre à cet envoi.
- Le mail mentionnait la phrase suivante : "Nous reviendrons rapidement vers vous concernant les modalités de remboursement de votre inscription." Signe d'une possible arnaque destinée à collecter nos données bancaires.
- Enfin, après vérification, aucun des autres canaux de communication de l'événement (site web, comptes Facebook, Instagram ou Tik Tok) ne mentionnait son annulation.
A l'inverse, pour le troisième d'entre nous, pas de doute :
- l'email était formaté avec un logiciel de type Mailchimp très professionnel ce qui était consistant avec les autres outils de communication utilisés par les organisateurs.
- Il était rédigé en français et en néerlandais de manière parfaite, sans faute et de manière très concise, pas de trace de traduction automatisée approximative.
- Surtout il ne demandait aucune action directe de notre part. Pas de lien sur lequel cliquer qui nous ferait sortir des médias connus de l'événement, ou qui nous demanderait d'encoder quelque part nos données bancaires.
- De plus l'email avait clairement été envoyé uniquement aux personnes inscrites à l'événement. S'il s'agissait d'un spam, cela aurait voulu dire que les pirates auraient eu accès à la base de données des organisateurs, ce qui n'est pas impossible mais quand même assez peu probable, et surtout beaucoup d'énergie dépensée de la part des pirates pour un événement de si petite taille. Bref pas de raison de douter de son authenticité.
Au final, après cinq jours de débats entre nous, et lassés d'attendre la publication d'informations parallèles sur le site web ou les RS de l'événement qui n'arrivaient pas (soit l'événement était annulé et ils auraient dû publier l'information, soit leur base de données avait été corrompue et ils auraient dû nous en informer), nous avons trouvé une adresse mail de contact à laquelle nous adresser et une personne de l'entreprise organisatrice nous a bien confirmé que l'événement était annulé. Fin du suspense.
L'élément déclencheur du doute dans notre cas a été l'identification d'un processus d'automatisation de l'envoi de l'email (l'adresse mail constituée de numéros étant un indice d'automatisation, et donc de possible facticité que nous avons appris à reconnaître). Ce qui m'a le plus intrigué est le caractère extrêmement rapide et stable de cette évaluation pour deux d'entre nous (et par après d'une troisième personne externe à notre groupe à qui nous avons demandé un avis). Il n'y avait aucun doute, il s'agissait d'un spam (alors même que les filtres antispam de nos boîtes mail ne l'avait pas flagué comme tel). Le fait que le travail de vérification n'ait pas non plus pu aboutir (l'information n'était pas disponible de manière redondante sur les autres médias de l'entreprise, ce qui est pourtant une des caractéristiques de la communication numérique que, là aussi, nous avons appris à reconnaître au fil du temps) était la confirmation claire de la facticité. Malgré un travail critique de recherche, nous ne pouvions pas lever le doute qui nous avait assailli.
Je pense qu'il y a un ou deux ans, avant l'accélération du développement des médias automatisés et de leur colonisation des environnements numériques, nous n'aurions pas eu le réflexe presque automatique de douter de la fiabilité de cet email.
Ce petit épisode est illustratif du fait que cette mutation rapide des environnements informationnels numériques a peut-être comme conséquence une transformation rapide de notre rapport à l'information et de notre capacité à discerner les sources numériques fiables des sources non fiables. Il est possible que ces nouveaux médias automatisés, davantage que les précédents, compliquent les activités de réception des contenus et donc déstabilise, peut-être fortement, le fonctionnement de nos espaces informationnels par la complication du travail interprétatif qu'ils nous imposent.
À cette automatisation des médias, pourrait donc correspondre une automatisation du doute dans le processus de réception des contenus médiatiques et cette automatisation du doute pourrait être un problème en soi.
Heureusement, au final, ce n'est pas ce petit événement communicationnel qui nous a empêchés de nous remettre au sport et de sortir nos têtes des environnements numériques dans lesquels nous sommes plongés une grande partie de nos journées.
