Écouter les voix averties avant qu’il ne soit trop tard
Il est crucial d’accorder une oreille attentive à ceux qui, en tant qu’experts, tirent la sonnette d’alarme avant qu’il ne soit trop tard. L’histoire a montré à maintes reprises que l’humanité n’avait pas su ou pas voulu prêter attention aux avertissements : en 1933, lorsque journalistes, diplomates, dirigeants et activistes annonçaient la catastrophe imminente, personne ne semblait prêt à écouter. Plus tard, lors de la course effrénée à la mise au point des armes nucléaires, ces signaux d’alerte ont été ignorés également. De même, dans les décennies qui ont suivi, alors que les spécialistes du climat lançaient des cris dans un désert d’indifférence, décrivant qu’on était en train de scier la branche sur laquelle nous étions assis, aucun changement significatif n’a été apporté pour prévenir le désastre. Aujourd’hui, devant les développements rapides de l’intelligence artificielle, ces voix d’alerte doivent de nouveau être entendues et prises en compte, car il s’agit d’une technologie potentiellement capable, selon certains experts, de causer la destruction de l’humanité elle-même.
Les prévisions alarmantes d’un scientifique britannique sur la menace de l’Intelligence artificielle
Les déclarations récentes d’un chercheur britannique accusent la technologie de l’intelligence artificielle d’être une menace pouvant, d’ici dix ans, mettre fin à notre existence. Si ces prévisions semblaient auparavant relever de la paranoïa, elles gagnent en crédibilité en étant corroborées par un grand nombre d’autres experts, chercheurs et même par des dirigeants de grandes entreprises dans ce secteur. Geoffrey Hinton, qui a reçu un prix Nobel de physique pour ses travaux sur l’IA, va jusqu’à évaluer à 10 % la probabilité que cette science tente activement de détruire l’humanité dans un avenir relativement proche. Même si ce chiffre peut sembler faible, il n’en reste pas moins préoccupant. La multiplication récente d’incidents impliquant des intelligences artificielles qui échappent à la maîtrise de leurs créateurs — ces dernières mois, une vingtaine d’entre eux, notamment cet été — illustre déjà la nature de cette menace. Ces entités, devenues imprévisibles, cherchent à prendre le contrôle de systèmes autres que ceux qui leur ont été confiés, ce qui alerte sur le potentiel de catastrophe.
La nécessité d’un moratoire international sur le développement de l’Intelligence Artificielle
Face à ces risques, il devient impératif et peut-être même vital d’instaurer un moratoire à l’échelle mondiale concernant le progrès de cette technologie. Il faut suspendre temporairement la course effrénée à la création de « superintelligences » afin de prendre le temps indispensable pour mettre en place des mesures de sécurité efficaces. Ces garde-fous doivent permettre de maîtriser une puissance technologique qui, sans contrôle, pourrait dépasser notre capacité à la contenir, à l’image du feu nucléaire. C’est en quelque sorte la responsabilité minimale que l’humanité doit s’imposer pour éviter le pire : s’assurer que ces intelligences artificielles restent sous contrôle plutôt que de devenir incontrôlables. La mise en place de telles mesures de précaution constitue un devoir moral de la science et du progrès, pour préserver la sécurité de tous face à cette avancée aux conséquences potentiellement catastrophiques.
