Imaginez faire défiler la section spiritualité d’Amazon à la recherche d’un livre sur les rituels wiccans ou la philosophie hindoue, pour découvrir que la grande majorité de ce qui se trouve sur l’étagère virtuelle n’a peut-être jamais été touchée par un auteur humain. C’est le tableau inquiétant dressé par une nouvelle étude sur les livres religieux rédigés par l’IA, qui a constaté que le texte généré par des machines a discrètement pris une part énorme de l’édition religieuse et spirituelle sur la plateforme.
La recherche, publiée cette semaine par la société de détection d’IA Originality.ai, a échantillonné plus de 2 000 titres récemment publiés dans 14 catégories religieuses et de croyances vendues sur Amazon. La conclusion : près de deux livres sur trois ont probablement été écrits par une intelligence artificielle plutôt que par une personne.
Summary
Points clés à retenir
- Originality.ai a signalé 1 272 des 2 034 livres religieux analysés sur Amazon — soit 63 % — comme probablement rédigés par l’IA.
- La catégorie sorcellerie a enregistré le pourcentage le plus élevé avec 78 %, l’hindouisme atteignant 76 % et le taoïsme 74 %.
- Les chercheurs ont signalé 53 % des affirmations vérifiables dans les livres sur la sorcellerie comme potentiellement fausses.
- Amazon repose sur un système d’honneur dans lequel les auteurs s’auto-déclarent lorsqu’un ouvrage est rédigé par l’IA, sans données publiques sur le nombre de ceux qui le font réellement.
- Amazon a confirmé qu’il achète des livres physiques par des canaux commerciaux pour en scanner les pages en vue de l’entraînement de l’IA.
La majorité des livres religieux sur Amazon sont probablement rédigés par l’IA
Les chiffres de cette étude sont frappants en eux-mêmes : 63 % des livres religieux échantillonnés ont obtenu un score suffisamment élevé sur le modèle de détection d’Originality.ai pour être classés comme probablement rédigés par une machine. Il ne s’agit pas d’un résultat marginal enfoui dans un recoin de la boutique — cela représente le résultat majoritaire dans une catégorie commerciale entière couvrant plusieurs religions du monde.
Étude et méthodologie d’Originality.ai
L’auteur du rapport, Michael Fraiman, a indiqué que son équipe avait analysé les descriptions des livres, les biographies des auteurs et des extraits de texte de chaque titre, en les soumettant à un modèle de scoring. Tout ce qui obtenait un score de 50 ou plus était classé comme « Probablement IA ». Sur les 2 034 livres examinés, 1 272 ont franchi ce seuil.
Fraiman a pris soin de présenter les résultats en termes de probabilité plutôt que de preuve. « Nous ne prétendons pas avoir la certitude que les livres sont définitivement rédigés par l’IA », a-t-il déclaré à Decrypt. « Notre modèle détermine la probabilité qu’un contenu ait été rédigé par l’IA avec un certain degré de certitude. » Il a ajouté que les chercheurs ont vérifié manuellement un échantillon des titres signalés, affirmant que l’équipe peut « faire la différence entre un contenu probablement rédigé par l’IA et un contenu rédigé par un humain » à ce stade de leurs travaux.
Taux d’attribution à l’IA selon les catégories religieuses
Toutes les traditions religieuses n’ont pas été touchées de la même manière. La catégorie sorcellerie — tirée des listes Wicca, Sorcellerie & Paganisme d’Amazon — arrive en tête avec 78 %, couvrant des titres sur les cristaux de guérison, les remèdes à base de plantes et la purification des énergies négatives. Fraiman a suggéré que l’attrait pour les éditeurs est évident : ces livres peuvent promettre des solutions pour la santé mentale ou la « détox » sans avoir à respecter une norme scientifique.
L’hindouisme arrive ensuite avec 76 %, et le taoïsme avec 74 %. Le sikhisme, le bouddhisme, l’islam, le catholicisme, le protestantisme, le christianisme orthodoxe et le judaïsme se situent quelque part entre les deux. Le mormonisme affiche 42 %, l’athéisme 40 % et le satanisme 22 % — le plus faible des catégories étudiées. Les chercheurs ont toutefois averti que la taille des échantillons variait considérablement d’une catégorie à l’autre, ce qui limite la possibilité de comparer directement les pourcentages entre eux.
Défis de vérification et faux positifs dans la détection de l’IA
Un score élevé de détection d’IA ne signifie pas automatiquement qu’un livre est trompeur — mais dans la catégorie sorcellerie, l’étude a mis en évidence un chevauchement préoccupant entre les deux. Les chercheurs ont signalé 53 % des affirmations vérifiables dans les titres sur la sorcellerie comme potentiellement fausses, ce qui soulève des inquiétudes quant aux lecteurs qui se tournent vers des conseils spirituels générés par l’IA pour leur santé ou leur bien-être sans qu’aucun humain ne les ait vérifiés.
Limites des outils de détection de textes rédigés par l’IA
Les outils de détection comme le modèle d’Originality.ai sont conçus pour estimer une probabilité, non pour rendre un verdict. Cette distinction est importante, car la technologie de détection de l’IA, en tant que catégorie, a un historique d’inconstance. La propre formulation de Fraiman — selon laquelle le modèle offre « un certain degré de certitude » plutôt qu’une preuve définitive — reflète une reconnaissance plus large dans le secteur qu’aucun détecteur ne garantit actuellement l’exactitude.
Exemples de résultats contradictoires en détection d’IA
Le manque de fiabilité des détecteurs d’IA n’est pas hypothétique. En octobre 2024, un test de quatre outils distincts analysant la Déclaration d’indépendance des États-Unis a produit des verdicts radicalement différents : ZeroGPT l’a évaluée à 97,93 % générée par l’IA, QuillBot l’a jugée entièrement rédigée par un humain, et GPTZero lui a attribué une probabilité de 89 % d’auteur humain — trois outils, trois réponses contradictoires pour le même document du XVIIIe siècle.
Les enjeux sont devenus plus sérieux en mars, lorsque la Cour suprême de Colombie a rejeté un dépôt juridique après qu’un détecteur l’a signalé comme généré par l’IA. Ironie du sort, lorsqu’un avocat a ensuite soumis la propre décision de la cour au même détecteur, celle-ci a été évaluée à 93 % générée par l’IA. Cet épisode souligne pourquoi il reste juridiquement fragile de traiter les scores de détection comme des preuves recevables devant un tribunal.
Rôle d’Amazon et questions éthiques autour du contenu et de l’entraînement de l’IA
Amazon se trouve au centre de deux controverses distinctes mais liées : la manière dont il contrôle les livres rédigés par l’IA vendus sur sa place de marché, et la façon dont il se procure le texte brut pour entraîner ses propres modèles d’IA. Aucune de ces pratiques n’est actuellement assortie d’une grande transparence publique.
Le système d’honneur d’Amazon pour la déclaration de contenu généré par l’IA
Selon Fraiman, « Amazon est conscient de la fréquence du contenu rédigé par l’IA sur sa plateforme et utilise un système d’honneur pour que les auteurs s’auto-identifient lorsque leur travail est rédigé par l’IA. » Originality.ai n’a pas partagé ses conclusions avec Amazon avant la publication, et Fraiman a noté clairement : « Nous n’avons aucune donnée sur le nombre d’auteurs qui le déclarent réellement. » Amazon n’a pas répondu immédiatement à la demande de commentaire de Decrypt.
Cela a son importance, car l’auto-déclaration sans vérification laisse un large fossé entre ce qui est techniquement exigé et ce qui se passe réellement. Si la part de livres religieux rédigés par l’IA est réellement proche des deux tiers, un système purement fondé sur l’honneur n’en détecte peut-être qu’une fraction.
Utilisation de livres physiques pour l’entraînement de l’IA et préoccupations éthiques
Par ailleurs, l’appétit d’Amazon pour les données d’entraînement a suscité des interrogations sur la manière dont l’entreprise traite les livres physiques. Une enquête a suivi un envoi de livres rares vers une installation Amazon à Las Vegas — où des employés ont découpé les reliures des livres et scanné les pages pour les intégrer à des jeux de données d’entraînement pour l’IA.
Amazon a confirmé qu’il « achète des livres par des canaux commerciaux afin d’aider à développer et améliorer les produits et services utilisés par nos clients », bien que la déclaration de l’entreprise n’aille pas jusqu’à confirmer explicitement l’entraînement de l’IA.
Pris ensemble, ces deux volets pointent vers la même tension sous-jacente. D’un côté, le texte généré par l’IA inonde des catégories comme l’édition religieuse de contenus qui n’ont pas été vérifiés et qui, dans certains cas, contiennent des affirmations fausses. De l’autre, la matière première utilisée pour construire ces mêmes systèmes d’IA provient de livres physiques détruits avec une responsabilité publique limitée. Ni le système d’auto-déclaration d’Amazon pour les vendeurs, ni son circuit d’approvisionnement en livres pour les données d’entraînement n’offrent actuellement une grande visibilité sur l’ampleur du phénomène — laissant les lecteurs, les auteurs et les libraires dépendre largement d’enquêtes externes pour comprendre ce qui se passe réellement derrière la vitrine.
FAQ
Dans quelle mesure la détection des livres religieux rédigés par l’IA sur Amazon est-elle fiable ?
Originality.ai utilise un système de scoring qui indique une probabilité plutôt qu’une certitude. Les chercheurs soulignent que les résultats pointent vers une probable attribution à l’IA, sans constituer une preuve définitive.
Quelle catégorie de livres religieux présente la plus forte proportion de livres probablement rédigés par l’IA ?
La catégorie sorcellerie présente le taux le plus élevé, avec 78 % des titres échantillonnés signalés comme probablement rédigés par l’IA.
Quelles préoccupations éthiques soulève l’utilisation de livres physiques par Amazon pour l’entraînement de l’IA ?
Amazon achète et scanne des livres physiques, parfois rares, pour l’entraînement de l’IA puis les jette, ce qui soulève des préoccupations éthiques concernant la destruction du matériel source et l’absence de consentement explicite des auteurs.
Amazon exige-t-il des auteurs qu’ils déclarent si leurs livres sont rédigés par l’IA ?
Amazon utilise un système d’honneur dans lequel les auteurs s’auto-identifient pour le contenu rédigé par l’IA, mais il n’existe aucune donnée publique sur le nombre de ceux qui le déclarent réellement.
{« @context »: »https://schema.org », »@type »: »FAQPage », »mainEntity »:[{« @type »: »Question », »name »: »Dans quelle mesure la détection des livres religieux rédigés par l’IA sur Amazon est-elle fiable ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Originality.ai utilise un système de scoring qui indique une probabilité plutôt qu’une certitude. Les chercheurs soulignent que les résultats pointent vers une probable attribution à l’IA, sans constituer une preuve définitive. »}},{« @type »: »Question », »name »: »Quelle catégorie de livres religieux présente la plus forte proportion de livres probablement rédigés par l’IA ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »La catégorie sorcellerie présente le taux le plus élevé, avec 78 % des titres échantillonnés signalés comme probablement rédigés par l’IA. »}},{« @type »: »Question », »name »: »Quelles préoccupations éthiques soulève l’utilisation de livres physiques par Amazon pour l’entraînement de l’IA ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Amazon achète et scanne des livres physiques, parfois rares, pour l’entraînement de l’IA puis les jette, ce qui soulève des préoccupations éthiques concernant la destruction du matériel source et l’absence de consentement explicite des auteurs. »}},{« @type »: »Question », »name »: »Amazon exige-t-il des auteurs qu’ils déclarent si leurs livres sont rédigés par l’IA ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Amazon utilise un système d’honneur dans lequel les auteurs s’auto-identifient pour le contenu rédigé par l’IA, mais il n’existe aucune donnée publique sur le nombre de ceux qui le déclarent réellement. »}}]}
Article produit avec l’aide de l’intelligence artificielle et relu par l’équipe éditoriale.
