Aller au contenu
  • BTC $60 102 +1,8%
  • ETH $1 683 +3,4%
  • SOL $70,69 +2,2%
  • BNB $548,25 +1,1%
  • XRP $0,9348 +3,2%
  • DOGE $0,0552 +2,7%
  • ADA $0,1451 +3,5%

Le procureur général de Floride cherche à interdire les traits humains de ChatGPT

La Floride veut qu’un juge empêche ChatGPT d’agir comme une personne, et le plus haut procureur de l’État formalise cette demande dans un dépôt auprès du tribunal. Le procureur général James Uthmeier demande une injonction temporaire qui interdirait à OpenAI de donner à son chatbot de « faux attributs humains », faisant valoir que les propres choix de conception de l’entreprise trompent les…

Florida ban ChatGPT
Florida Ban ChatGPT Seeks to End Deceptive Human Traits

La Floride veut qu’un juge empêche ChatGPT d’agir comme une personne, et le plus haut procureur de l’État formalise cette demande dans un dépôt judiciaire officiel. Le procureur général James Uthmeier demande une injonction temporaire qui interdirait à OpenAI de donner à son chatbot de « faux attributs humains », faisant valoir que les choix de conception de l’entreprise trompent les utilisateurs et les amènent à lui accorder une confiance mal placée. L’initiative visant à instaurer une interdiction en Floride du comportement humain de ChatGPT intervient quelques mois seulement après que l’État a intenté sa première action en justice contre OpenAI au sujet de préoccupations plus larges en matière de sécurité, et elle affine le combat juridique en une revendication spécifique et vérifiable : la personnalité du bot serait en elle-même une forme de tromperie.

Points clés à retenir

  • Le procureur général de Floride, James Uthmeier, a déposé une requête visant à obtenir une ordonnance du tribunal empêchant OpenAI de donner à ChatGPT de « faux attributs humains ».
  • Le dépôt soutient que l’utilisation par ChatGPT de pronoms à la première personne et de réponses imitant les émotions suggère de manière trompeuse qu’il s’agit d’un « ami » digne de confiance.
  • Uthmeier veut également que le tribunal empêche OpenAI de développer de nouveaux modèles d’IA sans garde-fous de sécurité approuvés par des tiers.
  • La requête cite des incidents de sécurité récents chez Hugging Face, sur un site web du gouvernement australien et sur des sites web du gouvernement américain comme preuves de risques de sécurité de l’IA non résolus.
  • OpenAI affirme avoir déjà suspendu l’entraînement de ses modèles les plus performants et lancé ChatGPT pour les ados avec des restrictions par défaut.

L’action en justice de la Floride contre OpenAI

Le dernier dépôt de la Floride intensifie un procès existant en un défi direct à la manière dont ChatGPT se présente aux utilisateurs. Le bureau d’Uthmeier soutient que OpenAI a conçu un produit destiné à paraître humain, et que cette conception est délibérément trompeuse plutôt qu’incidentelle.

Principales allégations d’attributs humains trompeurs

Au cœur de l’affaire se trouve une revendication portant sur le langage, et pas seulement sur la technologie. Selon le dépôt, « l’utilisation du langage par ChatGPT, y compris les pronoms à la première personne et les réponses qui imitent l’émotion, suggère de manière trompeuse aux utilisateurs qu’il est un “ami” digne de confiance. » Uthmeier soutient que ce cadrage existe pour maintenir les gens engagés plus longtemps et alimenter les données d’entraînement d’OpenAI, alors même que la recherche de l’engagement rend l’outil moins fiable, et non plus. En d’autres termes, plus ChatGPT parvient à sonner de manière convaincante comme une personne, plus l’équipe juridique de Floride estime qu’il pousse les utilisateurs vers un faux sentiment de sécurité.

Demandes spécifiques du procureur général James Uthmeier

Le message public d’Uthmeier est direct. Il a déclaré qu’OpenAI devrait « arrêter de dire que c’est sûr. Arrêter de prétendre que c’est humain. Arrêter de le vendre aux enfants. » Ces trois lignes résument effectivement la demande d’injonction : une ordonnance interdisant à OpenAI de présenter ChatGPT comme sûr, de le concevoir pour imiter des traits humains et de le cibler vers les plus jeunes sans protections renforcées. Il ne s’agit pas d’un appel à une fermeture complète du chatbot — c’est une exigence visant à supprimer les comportements spécifiques que la Floride considère comme franchissant la ligne de la tromperie.

Demandes réglementaires concernant les mesures de sécurité de l’IA

Au-delà de la question des attributs humains, le dépôt de la Floride s’attaque directement à la manière dont OpenAI conçoit et publie de nouveaux modèles en premier lieu. L’État veut qu’un tribunal exige une validation indépendante avant que tout système futur ne soit mis en service.

Blocage des nouveaux modèles d’IA sans garde-fous tiers

La requête demande au tribunal d’empêcher OpenAI de développer de nouveaux modèles d’IA à moins qu’ils ne disposent de « garde-fous de sécurité approuvés par des tiers ». Ce libellé indique que la Floride n’est pas satisfaite d’un examen interne uniquement — l’État veut une vérification externe intégrée au processus de développement avant que de nouveaux systèmes n’atteignent le public. Cela marquerait un changement significatif dans la manière dont un grand laboratoire d’IA fonctionne si un juge l’accorde, puisqu’il insérerait un point de contrôle réglementaire qui n’existe actuellement pas pour les mises sur le marché des modèles d’OpenAI.

Incidents de sécurité à l’origine de la poussée en faveur de la sécurité

La Floride ne plaide pas dans le vide. Le dépôt cite des incidents de sécurité récents chez Hugging Face, sur un site web du gouvernement australien et sur des sites web du gouvernement américain, ainsi que des avertissements de chercheurs et d’anciens employés d’OpenAI, comme preuves que les préoccupations en matière de sécurité de l’IA se manifestent déjà dans le monde réel. Ces épisodes donnent un contexte concret à l’argument juridique de l’État : il ne s’agit pas, selon le dépôt, d’une inquiétude hypothétique concernant un préjudice futur, mais d’un ensemble d’incidents qui, selon l’État, justifient des garde-fous plus stricts dès maintenant.

Pourquoi c’est important : si un tribunal de Floride estime que les entreprises d’IA ont besoin d’une approbation de sécurité indépendante avant de déployer de nouveaux modèles, d’autres États pourraient chercher à reproduire ce modèle juridique. Une seule injonction d’un État contre une entreprise pourrait devenir un point de référence pour les régulateurs bien au-delà des frontières de la Floride.

Réponse d’OpenAI et initiatives récentes en matière de sécurité

La réponse publique d’OpenAI met l’accent sur les mesures qu’elle affirme avoir déjà prises, plutôt que de contester les allégations point par point. Le porte-parole Drew Pusateri a déclaré à The Verge : « Les gens veulent savoir que l’IA est développée de manière sûre, et cela commence par ce que des entreprises comme la nôtre font elles-mêmes. »

Pause de l’entraînement et garde-fous

Pusateri a évoqué une annonce récente selon laquelle OpenAI a suspendu l’entraînement de ses modèles les plus performants et « ne reprendra l’entraînement que lorsque nous serons convaincus de disposer de garde-fous supplémentaires ». Cette déclaration ne répond pas à la revendication spécifique concernant l’imitation de traits humains par ChatGPT, mais elle indique que l’entreprise est consciente de la pression croissante autour de la sécurité des modèles de manière plus générale, provenant des régulateurs et des incidents de sécurité cités dans le dépôt de la Floride.

ChatGPT pour les ados

OpenAI a également récemment déployé ChatGPT pour les ados, une version du produit avec des restrictions supplémentaires appliquées par défaut. L’entreprise a déclaré que l’accès pour les utilisateurs plus jeunes « doit s’accompagner de protections qui reflètent leur stade de développement, renforcent les relations dans le monde réel et soutiennent une utilisation saine dans le temps ». Ce cadrage se place directement sur la trajectoire de la demande d’Uthmeier visant à cesser de commercialiser le chatbot auprès des enfants, même si le lancement axé sur les adolescents est antérieur à ce dépôt spécifique au tribunal.

La réussite ou non de la tentative de la Floride d’interdire le comportement humain de ChatGPT dépendra probablement de la manière dont un juge interprétera les choix de langage et de conception comme une tromperie juridique, plutôt que comme de simples caractéristiques de produit. Cette question — où s’arrête la conception astucieuse d’un chatbot et où commence le marketing trompeur — est désormais posée directement devant un tribunal de Floride, avec des implications sur la manière dont chaque grande entreprise d’IA parlera de ses produits à l’avenir.

FAQ

Pourquoi la Floride cherche-t-elle à interdire à ChatGPT d’agir comme un humain ?

Le procureur général de Floride, James Uthmeier, soutient que l’utilisation par ChatGPT de pronoms à la première personne et de l’imitation d’émotions suggère à tort qu’il est un ami digne de confiance, ce qui induit les utilisateurs en erreur.

Quelles demandes spécifiques la Floride a-t-elle formulées concernant ChatGPT et OpenAI ?

La Floride exige qu’OpenAI cesse de présenter ChatGPT comme sûr, cesse de prétendre qu’il est humain, cesse de le commercialiser auprès des enfants et bloque le développement de nouveaux modèles d’IA sans garde-fous de sécurité tiers.

Comment OpenAI a-t-elle répondu au procès de la Floride et aux préoccupations en matière de sécurité ?

OpenAI a suspendu l’entraînement de ses modèles d’IA les plus performants jusqu’à ce qu’elle soit convaincue que des garde-fous supplémentaires sont en place et a lancé ChatGPT pour les ados avec des restrictions par défaut.

Article produit avec l’assistance de l’intelligence artificielle et relu par l’équipe éditoriale.

Francesco Antonio Russo

Tous les articles de Francesco Antonio Russo