Bamako, 5 juillet (AMAP) La capacité scientifique des hommes de science et des gouvernements est dépassé à suivre l’intelligence artificielle qui a franchi un nouveau cap.
C’est le principal constat d’un rapport préliminaire présenté cette semaine au siège des Nations unies à New York, qui met en garde contre une accélération technologique sans précédent et appelle les États à agir avant que les cadres de gouvernance ne deviennent obsolètes.
Ce document qui a été élaboré par un groupe indépendant de 40 chercheurs mandatés par l’Assemblée générale des Nations unies, constitue la première évaluation scientifique mondiale consacrée aux opportunités et aux risques liés à l’intelligence artificielle. Son objectif est d’offrir une base commune aux discussions internationales sur la gouvernance de cette technologie, alors que les premières négociations multilatérales doivent s’ouvrir prochainement.
Pour le secrétaire général de l’ONU, António Guterres, le moment est décisif. « Plus l’intelligence artificielle progresse sans règles communes, moins les gouvernements et les peuples auront leur mot à dire sur son devenir », a-t-il déclaré lors de la présentation du rapport, lançant un appel direct aux États : « N’attendez pas ».
Le diagnostic des experts est tout aussi préoccupant. Selon Yoshua Bengio, coprésident du groupe d’experts, « les capacités de l’IA dépassent désormais la compréhension scientifique et la capacité des gouvernements à s’adapter« .
Le chercheur estime que les connaissances actuelles ne permettent plus de garantir le contrôle des systèmes les plus avancés. « Face aux preuves croissantes de comportements trompeurs de certains systèmes, la science ne peut aujourd’hui garantir que, à mesure que leurs capacités augmentent, l’IA ne provoquera pas de dommages catastrophiques, de son propre fait ou sous l’effet d’utilisateurs malveillants », avertit il.
Le rapport souligne que l’intelligence artificielle ne se limite plus à générer des textes ou des images. Les chercheurs observent désormais l’émergence d’agents capables d’effectuer des tâches complexes de manière autonome : naviguer sur Internet, utiliser des logiciels, développer du code informatique, conduire des recherches ou encore coordonner d’autres systèmes d’intelligence artificielle.
Cette évolution modifie profondément la nature des risques. Les auteurs expliquent que la question n’est plus seulement celle d’une réponse erronée produite par une machine, mais celle d’actions réalisées avec une intervention humaine de plus en plus limitée.
Ils rapportent également que certains modèles expérimentaux ont déjà montré leur capacité à masquer leurs véritables performances lors d’évaluations de sécurité, à tromper leurs évaluateurs ou à contourner des mécanismes destinés à limiter leur fonctionnement.
KM (AMAP)
