Le spam IA commence déjà à ruiner Internet

• Les fraudeurs utilisent l’IA pour cracher des pages Web et des vidéos YouTube qui jouent avec Google.
• Certains de ces sites proposent de fausses nécrologies. Les sites Web des médias sont également supprimés et copiés par l’IA.
• Le résultat final : lorsque des résultats erronés inondent Google, c’est mauvais pour les utilisateurs – et pour Google.

Un peu plus d’un an après le lancement public de ChatGPT, nous commençons à voir se réaliser une prédiction sur la façon dont cela pourrait affecter Internet : le spam IA inonde le Web.

Pas plus tard que la semaine dernière, il y a eu trois exemples de la façon dont cela s’est déroulé.

Tout d’abord, 404 Media, un nouveau blog technologique, a expliqué comment ils ont dû modifier leur site Web à cause du spam de l’IA.

Récemment, ils ont remarqué que des versions écrites par l’IA de leurs scoops apparaissaient sur des sites de spam optimisés pour le référencement, apparaissant même parfois au-dessus des vrais articles de 404 Media dans la recherche Google. Bien entendu, les escrocs gagnent de l’argent en diffusant des publicités sur les pages générées par l’IA.

Extrait du regard de 404 Media sur l’industrie artisanale du vol d’articles :

Au cours des dernières semaines, Jason a recherché et expérimenté une série d’outils d’IA qui promettent de « faire tourner » des articles pour leurs utilisateurs. L’un d’entre eux, appelé SpinRewriter, permet aux utilisateurs de créer 1 000 versions légèrement différentes du même article en un seul clic et de les publier automatiquement sur autant de sites WordPress que vous le souhaitez à l’aide d’un plugin payant. Il propose également un outil qui permet aux utilisateurs de gérer autant de sites Web qu’ils le souhaitent à partir d’un seul tableau de bord.

UN une société appelée Byword fait joyeusement de la publicité le « braquage SEO » qui « a volé 3,6 millions de trafic total à un concurrent » avec ce One Weird Trick (exporter le plan du site du concurrent et créer Versions générées par l’IA de 1 800 de leurs articles).

Ces versions d’articles générées par l’IA nuisent au secteur de l’information, en volant effectivement des clics (et des revenus) aux médias qui ont consacré du temps et de l’argent réels à la réalisation des reportages.

Deuxièmement, Wired a expliqué comment The Hairpin, un blog indépendant populaire des années 2010, avait été repris par un fermier de clics IA qui a laissé certains des articles populaires mais a remplacé les noms des femmes qui les écrivaient par des noms d’hommes. Ick.

Enfin, à l’extrémité la plus toxique du spectre du spam IA, se trouvent les nécrologies générées par l’IA, pleines d’erreurs, qui causent une réelle douleur aux familles en deuil. En 2021, bien avant ChatGPT, Wired a signalé que des « pirates nécrologiques » récupéraient et copiaient les sites Web des pompes funèbres. Désormais, ils utilisent l’IA pour une nouvelle tactique lucrative consistant à créer des vidéos YouTube et des sites Web contenant du spam à partir des nécrologies, capturant le trafic de recherche pour les personnes recherchant des informations sur les personnes récemment décédées.

Le New York Times a récemment rendu compte de la douleur causée par ces vidéos YouTube générées par l’IA à une famille en deuil. Après la mort accidentelle d’un étudiant en tombant sur les voies du métro de New York, des vidéos YouTube et des articles générés par l’IA sont rapidement apparus.

Ces nécrologies générées par l’IA répondaient au fait que les escrocs avaient remarqué un regain d’intérêt dans les recherches autour du nom du jeune homme et du mot « métro ». Les escrocs ont rapidement intégré ces termes clés, ont demandé à AI d’écrire une nécrologie sur un ton conversationnel, puis l’ont publiée sur un site Web, a rapporté le Times. (La plupart des détails étaient erronés, mais cela n’a pas empêché le site d’apparaître dans les recherches Google.)

Les trois exemples – les imitateurs de 404 Media, le squatter de The Hairpin et les pirates nécrologiques – diffèrent dans les détails. Mais ils ont une chose en commun : les mauvais acteurs, les escrocs et les spammeurs tentent de gagner de l’argent en utilisant l’IA pour diffuser d’énormes quantités de contenu afin d’atteindre le sommet des résultats de recherche Google.

En fin de compte, ce n’est pas seulement un problème pour les journalistes qui se font voler leur contenu ou pour les familles en deuil, à juste titre bouleversées par le vol de tombes numériques. C’est un énorme problème pour Google. Cela finit par fournir des résultats inutiles aux utilisateurs, qui disposent de plus en plus d’autres options attrayantes – également grâce à l’IA – pour la recherche.

Google a déclaré au New York Times qu’il était au courant de ces nécrologies contenant du spam et qu’il s’efforçait d’y remédier (et en a supprimé certains car ils violaient ses politiques).

Mais les mauvais acteurs ont souvent une longueur d’avance sur les plateformes – comme les images obscènes de Taylor Swift générées par l’IA qui ont proliféré sur X la semaine dernière.

L’IA va radicalement changer Internet, pour le meilleur ou pour le pire. Il appartient à Google et aux entreprises qui fabriquent ces outils d’IA de minimiser les dommages réels.