Temps de lecture : 6 min

Google face aux fake news IA : le correctif très attendu pour Discover

Google promet un correctif pour son fil Discover, envahi par une vague de fake news générées par IA. Des millions d’utilisateurs au Royaume-Uni ont été exposés à des histoires frauduleuses sur des allocations sociales imaginaires, conçues pour les tromper et générer des revenus publicitaires faciles.

Cette crise révèle une faille majeure dans l’algorithme de Google Discover, qui recommande du contenu sans supervision humaine. Une seule fausse histoire a atteint près de 3 millions de personnes avant d’être supprimée. L’ampleur du problème est colossale : un chercheur a déjà identifié plus de 8 600 sites frauduleux exploitant cette technique. Mais comment une telle manipulation est-elle possible ?

Contenu IA frauduleux : l’arnaque qui a piégé des millions de personnes

Au cœur du scandale, des articles entièrement inventés ont dominé les classements de Google Discover. Ces contenus, créés par des intelligences artificielles, ciblaient des sujets sensibles pour attirer un maximum de clics, notamment auprès des personnes âgées.

Voici ce qui s’est passé :

• Une fausse histoire sur des allocations télévisées gratuites pour les plus de 60 ans, hébergée sur un site nommé ‘mountainbrooksolarproject’, a été vue par 2,95 millions de personnes.
• Un article similaire sur de prétendus changements des règles des bus britanniques a atteint une audience de 1,85 million de personnes. Aucune de ces règles n’existe.
• Les spammeurs exploitent des noms de domaine expirés qui avaient autrefois une bonne réputation pour tromper plus facilement l’algorithme de Google.

Selon Press Gazette, qui a révélé l’affaire, le détecteur d’IA Pangram a confirmé que l’article sur les allocations était 100% généré par une machine. Le modèle économique est simple et pervers : Google gagne de l’argent publicitaire grâce à ce trafic, tout comme les éditeurs frauduleux, créant une forte incitation à poursuivre ces arnaques.

L’algorithme de Discover : une faille systémique exploitée

Comment des sites sortis de nulle part peuvent-ils tromper l’un des algorithmes les plus puissants au monde ? La réponse réside dans une technique de manipulation simple mais redoutablement efficace, combinée à la nature même de Google Discover.

Les spammeurs utilisent une méthode appelée « spark » : ils génèrent manuellement des clics pour faire croire à Google que leurs histoires sont soudainement très populaires. Cette popularité artificielle propulse le contenu en haut du fil Discover, qui privilégie l’engagement des utilisateurs sans vérification humaine de la véracité des faits. Le journaliste français spécialiste des données, Jean-Marc Manach, explique le mécanisme :

« L’algorithme de Discover repose, entre autres caractéristiques, sur le fait que les gens cliquent sur des liens. Pour faire croire à Google que beaucoup de gens cliquent dessus, certains éditeurs publient leurs liens sur des groupes Facebook et/ou achètent du faux trafic sur des fermes dédiées à cliquer artificiellement sur des liens. »

— Jean-Marc Manach, journaliste spécialiste des données

Le véritable enjeu est la vulnérabilité d’un système entièrement automatisé. Discover fonctionne sans éditeur humain, ce qui le rend aveugle aux contenus sophistiqués conçus pour émouvoir et manipuler, comme ces fausses promesses d’aides sociales ciblant spécifiquement les préoccupations des seniors.

Google promet un « correctif », les éditeurs restent prudents

Face au scandale, les réactions ne se sont pas fait attendre. Google a officiellement reconnu le problème et a promis de prendre des mesures, sans toutefois donner de calendrier précis.

« Nous travaillons activement sur un correctif qui traitera mieux le type spécifique de spam auquel il est fait référence ici, en maintenant notre barre de qualité élevée dans Discover. »

— Porte-parole de Google, déclaration officielle

Du côté des médias traditionnels, la frustration est palpable. Un commentateur de Press Gazette a exprimé sa déception : « Considérant les normes élevées que les éditeurs doivent respecter […] il est extrêmement décourageant de voir ce type de contenu totalement trompeur passer ». De nombreux éditeurs considèrent désormais ce type de fraude comme un « coût » inévitable du métier et se concentrent sur la création de communautés fidèles pour contourner la dépendance aux plateformes.

Pendant ce temps, le travail de documentation se poursuit. Jean-Marc Manach a compilé une base de données stupéfiante de plus de 8 300 sites frauduleux en français, 300 en anglais et 150 en allemand, démontrant l’ampleur mondiale du phénomène.

Questions Fréquentes

Combien de personnes ont été exposées aux fausses histoires ?

Plusieurs millions : une histoire a atteint 2,95 millions de personnes, une autre 1,85 million, mais l’exposition globale dépasse les dizaines de millions. Press Gazette a documenté des fausses histoires atteignant des millions d’utilisateurs en une seule semaine. Une fausse histoire sur les allocations télévisées gratuites a été vue par 2,95 millions de personnes, tandis qu’une autre sur les changements des règles des bus a atteint 1,85 million de lecteurs. Ces chiffres représentent seulement les cas documentés : l’exposition totale est probablement bien plus grande.

Comment fonctionnent exactement ces arnaques ?

Les spammeurs achètent des domaines expirés autrefois fiables, les remplissent de contenus générés par IA, puis achètent des clics artificiels pour tromper l’algorithme. Ils exploitent une technique appelée ‘spark’ : ils achètent des clics manuellement via des fermes de clics en ligne ou des groupes Facebook pour faire croire à Google que de vraies personnes cliquent sur leurs histoires. Cela trompe l’algorithme de Discover qui repose fortement sur le nombre de clics pour classifier le contenu comme populaire. Les domaines expirés autrefois fiables conservent une autorité de domaine établie, facilitant ainsi le classement des contenus frauduleux.

Quand Google va-t-il corriger le problème ?

Google n’a pas donné de calendrier précis, uniquement une promesse de travailler activement sur un correctif. La société a déclaré travailler sur « un correctif spécifique » adressant ce type de spam, mais n’a fourni aucune date limite ni détails sur la nature technique de la solution. La déclaration officielle indique que Google maintient « une barre élevée pour la qualité » sans expliquer pourquoi cette qualité a permis à des millions d’utilisateurs d’être exposés à du contenu manifestement frauduleux.

Quel est le vrai problème systémique révélé ?

Google Discover fonctionne entièrement par algorithme sans supervision humaine, ce qui le rend vulnérable à la manipulation de contenu de haut niveau. La plateforme recommande du contenu uniquement basé sur les clics et activités des utilisateurs, sans vérification éditoriale humaine. Cette approche entièrement algorithmique s’est avérée insuffisante face à des contenus IA sophistiqués. De plus, l’incitation économique persiste : les spammeurs gagnent de l’argent publicitaire rapidement et simplement remplacent les sites supprimés, créant un cycle de renouvellement continu.

À Retenir

La prolifération de fake news IA sur Google Discover a exposé les limites d’une modération 100% algorithmique. Les 3 points essentiels à retenir sont :

• Manipulation massive : Des millions d’utilisateurs, notamment des seniors, ont été ciblés par des arnaques sur les allocations sociales générées par IA.
• Faille algorithmique : Les spammeurs exploitent des fermes de clics et des domaines expirés pour tromper l’algorithme de Discover, qui manque de supervision humaine.
• Réponse de Google : Google a promis un « correctif » mais reste vague sur le calendrier, tandis que les éditeurs s’adaptent à cette nouvelle menace.

La promesse de Google suffira-t-elle à endiguer cette vague de Google Discover fake news IA, ou assisterons-nous simplement à la prochaine évolution de la manipulation algorithmique ?