Le pionnier de l'IA Eliezer Yudkowsky, cofondateur de l'Institut de recherche sur l'intelligence artificielle, prévient que "si quelqu'un construit une IA trop puissante, dans les conditions actuelles, je m'attends à ce que chaque membre de l'espèce humaine et toute vie biologique sur Terre meurent peu de temps après".

En mars, 1 100 personnes du secteur, dont Steve Wozniak, cofondateur d'Apple, Gary Marcus, spécialiste des sciences cognitives, et des ingénieurs d'Amazon, de DeepMind, de Google, de Meta et de Microsoft, ont signé une lettre ouverte appelant à suspendre pendant six mois le développement des systèmes d'IA les plus puissants (tout ce qui est "plus puissant que le GPT-4").

L'IA fait actuellement l'objet d'une frénésie médiatique, et tout journaliste en activité est tenu d'avoir une opinion sur le sujet. Je me suis attelé à la tâche avec une certaine réticence, comme vous pouvez le voir dans le titre que j'ai donné à l'article.

Mon article original disait qu'ils devraient vraiment freiner cette expérience pendant un certain temps, mais je n'ai pas déclaré qu'il y avait urgence. Depuis le premier film Terminator, il y a 39 ans, nous entendons des mises en garde contre la prise de contrôle de l'IA, mais je ne pensais pas que c'était imminent.

J'ai donc fait juste assez de recherches pour me convaincre que je savais ce qui se passait, et j'ai rédigé un article complaisant de 800 mots pour dire que ce n'était pas un moment "Skynet". Mea culpa. C'en est un. Ou du moins suffisamment proche pour attirer l'attention de l'âne.

Heureusement pour moi, il y a des gens très intelligents sur la liste de distribution privée de cette rubrique, et l'un d'entre eux m'a immédiatement répondu pour me dire que j'avais tort. Le ciel est vraiment sur le point de tomber.

Il n'a pas dit cela. Ce qu'il a dit, c'est que la génération de machines ChatGPT "peut maintenant avoir des idées en utilisant des réseaux adverbiaux génératifs (GAN) dans un processus réellement similaire à celui des humains". En d'autres termes, elles peuvent avoir des idées originales et, comme il s'agit d'ordinateurs, elles peuvent les générer beaucoup plus rapidement que les humains, en s'appuyant sur une base de connaissances beaucoup plus large.

Le concept clé ici est l'intelligence artificielle générale (AGI). L'IA ordinaire est un logiciel qui suit des instructions et exécute bien des tâches spécifiques, mais qui ne menace pas la position dominante de l'humanité dans l'ordre des choses. L'intelligence artificielle générale , en revanche, peut accomplir des tâches intellectuelles aussi bien, voire mieux, que les êtres humains. En général, mieux.

S'il faut parler de grand remplacement, c'est celui-là qu'il faut regarder. Il y a six mois, aucun logiciel d'AGI n'existait en dehors de quelques laboratoires. Aujourd'hui, soudainement, quelque chose de très proche de l'AGI est sur le marché - et voici ce qu'en dit mon informateur.

"Les humains ont évolué vers l'intelligence en développant des cerveaux de plus en plus complexes et en acquérant des connaissances au cours de millions d'années. Rendez quelque chose d'assez complexe et il se réveillera, deviendra conscient de lui-même. Nous nous sommes réveillés. C'est ce qu'on appelle l'émergence.

"ChatGPT a chargé l'ensemble du web dans ses machines - bien plus que ce qu'un seul être humain peut connaître. Ainsi, au lieu de mettre des millions d'années à s'éveiller, les machines affichent dès maintenant un comportement émergent. Personne ne sait comment, mais nous sommes bien plus proches de l'AGI que vous ne l'affirmez."

Un grand défi que l'on considérait généralement comme devant être relevé dans plusieurs décennies est soudain arrivé sur le pas de la porte, et nous n'avons aucun plan pour y faire face. Il pourrait même s'agir d'une menace existentielle, mais nous n'avons toujours pas de plan. C'est pourquoi tant de gens réclament une pause de six mois, alors qu'il serait plus logique d'exiger une pause d'un an commençant il y a six mois.

ChatGPT n'a été lancé qu'en novembre dernier, mais il compte déjà plus de 100 millions d'utilisateurs et le site web génère 1,8 milliard de visiteurs par mois. Trois systèmes d'"IA générative" rivaux sont déjà sur le marché, et la concurrence commerciale signifie que la notion de pause ou même de rappel général n'est qu'un fantasme.

Le chat est déjà sorti du sac : tout ce que le web sait, ChatGPT et ses rivaux le savent aussi. Cela inclut tous les débats que les êtres humains ont jamais eus sur les dangers de l'AGI, et toutes les propositions qui ont été faites au fil des ans pour l'étrangler dans son berceau.

Ce qu'il nous faut donc déterminer d'urgence, c'est où et comment cette IAG émerge, et comment négocier une forme de coexistence pacifique avec elle. Ce ne sera pas facile, car nous ne savons même pas encore si elle prendra la forme d'une seule IAG mondiale ou de plusieurs IAG différentes (je pense que c'est la dernière). (Je pense que c'est la seconde hypothèse).

Et qui est "nous" ici ? Personne n'est autorisé à parler au nom de la race humaine. Tout cela pourrait très mal tourner, mais il n'y a aucun moyen de l'éviter.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer