L’Artificial Superintelligence (ASI) Alliance a lancé une nouvelle série de débats qui promet de redéfinir la relation entre l’humanité et l’intelligence artificielle.
Le projet, intitulé The Ten Reckonings of AGI, s’ouvre sur un débat animé entre deux des voix les plus autorisées du secteur : Dr Ben Goertzel, PDG de SingularityNET, et James Barrat, auteur du livre “Our Final Invention”. Le premier épisode, “The Reckoning of Purpose”, aborde la question cruciale : l’humanité est-elle encore capable de contrôler la technologie qu’elle crée ?
Summary
L’arme à double tranchant de la technologie AI
James Barrat lance un avertissement clair:
« La technologie est utilisée comme une arme pour tuer nos semblables ».
Selon Barrat, l’histoire enseigne que chaque innovation technologique est inévitablement exploitée à des fins destructrices. Un exemple récent et dramatique est l’utilisation de systèmes d’intelligence artificielle dans les conflits armés, comme cela s’est produit à Gaza, où l’IA a été employée à des fins létales.
Barrat souligne la nécessité urgente de réglementation et de gouvernance pour éviter que l’intelligence artificielle ne soit manipulée par les gouvernements à des fins nuisibles.
La vision de Ben Goertzel : décentralisation et morale supérieure
À cette vision pessimiste, Dr Ben Goertzel oppose une approche plus optimiste et radicale. Goertzel soutient qu’une IA ouverte, décentralisée et démocratique pourrait s’avérer plus morale par rapport aux dirigeants des grandes puissances mondiales:
« Je suis plus préoccupé par les machines tueuses de l’IA étroite contrôlées par les êtres humains qui dirigent nos principaux pays, que par une AGI autonome et réfléchie. »
Selon lui, développer une AGI (Artificial General Intelligence) orientée vers le bien-être humain offre de meilleures chances de progrès par rapport à une position attentiste.
Le dilemme éthique : pouvons-nous, mais devrions-nous ?
Le cœur du débat tourne autour d’une question éthique fondamentale:
«Juste parce que nous pouvons construire une AGI, devrions-nous le faire ?»
Barrat insiste sur le fait que chaque nouvelle technologie est inévitablement militarisée, tandis que Goertzel rétorque qu’une AGI conçue pour le bien commun pourrait aider l’humanité à trouver de nouveaux objectifs et significations, stimulant la créativité et la recherche scientifique.
Goertzel voit dans la transition historique vers l’AGI une opportunité pour résoudre des problèmes mondiaux tels que la faim et les maladies, mais aussi pour libérer l’homme de la fatigue du travail, ouvrant la voie à de nouvelles formes de réalisation personnelle.
Barrat, en revanche, met en garde :
« Quand l’AGI arrivera et que nous serons tous au chômage, que ferons-nous ? Si l’on introduit un revenu de base universel et que l’on paie tout le monde pour ne rien faire, on risque d’avoir une société de personnes malheureuses et sans but. »
L’avenir du travail et le sens de la vie
Le débat se déplace donc sur l’avenir du travail et le sens de l’existence dans un monde dominé par l’automatisation. Barrat craint que la libération du travail ne se traduise par une perte d’autonomie, de responsabilité et de but. Goertzel, en revanche, invite à ne pas craindre le changement:
« Nous sommes dans une phase de transition, comme dans chaque grand tournant de l’histoire humaine. Lorsque les AGI élimineront la nécessité de travailler et seront plus intelligentes que nous, le véritable problème ne sera pas le chômage, mais le type de développement que nous choisirons pour ces technologies. »
L’objectif de l’ASI Alliance : une IA ouverte, éthique et démocratique
À travers la série The Ten Reckonings of AGI, l’ASI Alliance – un réseau global et décentralisé de pionniers de l’IA et du Web3 qui inclut SingularityNET, Fetch.ai et CUDOS – souhaite porter ces thèmes au centre du débat public. L’alliance s’engage à promouvoir un développement de l’intelligence artificielle qui soit ouvert, éthique et démocratique, loin du contrôle exclusif des grandes entreprises technologiques et des gouvernements.
LES DIX RÉFLEXIONS DE L’AGI sont dix questions critiques et sans réponse qui façonneront l’avenir de l’humanité et notre relation avec l’intelligence artificielle, de l’IA étroite à l’Intelligence Artificielle Générale (AGI) de niveau humain jusqu’à la Superintelligence.
— SingularityNET (@SingularityNET) 6 juin 2025
Cette initiative s’appuie sur notre… pic.twitter.com/JBVhhKF8op
L’ASI Alliance bénéficie également d’une infrastructure économique commune via le token FET, qui facilite la coordination décentralisée entre ses membres et soutient la vision d’une IA réellement partagée.
Qui est Ben Goertzel ?
Dr Ben Goertzel est l’une des figures les plus polyvalentes et visionnaires dans le domaine de l’intelligence artificielle. Fondateur de la SingularityNET Foundation, de la OpenCog Foundation et de la AGI Society, Goertzel a également travaillé comme Chief Scientist chez Hanson Robotics, contribuant au développement des célèbres robots Sophia et Grace.
Avec plus de 25 livres et 150 publications scientifiques à son actif, Goertzel est reconnu comme l’une des voix les plus radicales et indépendantes dans le paysage mondial de l’IA.
Un débat ouvert sur l’avenir de l’humanité
La série The Ten Reckonings of AGI représente une occasion unique de réfléchir aux questions morales, sociales et existentielles que l’intelligence artificielle soulève. La confrontation entre Goertzel et Barrat met en lumière la complexité des choix qui attendent l’humanité : d’un côté, le risque d’une utilisation destructrice de la technologie ; de l’autre, l’espoir qu’une IA démocratique puisse aider à construire un avenir meilleur.
La question reste ouverte : serons-nous capables de guider l’intelligence artificielle vers le bien commun, ou en serons-nous submergés ? La réponse dépendra des choix que nous ferons aujourd’hui, du courage d’affronter les défis et de la capacité d’imaginer un avenir où technologie et humanité pourront vraiment coexister.
Pour approfondir le débat, il est possible de regarder le premier épisode “The Reckoning of Purpose” promu par l’ASI Alliance, qui invite tout le monde à participer à cette conversation mondiale sur le destin de l’intelligence artificielle.
