Une avancée de l’IA qui pourrait menacer l’humanité

Sarah Conner nous avait prévenus. Skynet. Destruction de l’humanité. Je me souviens très bien avoir regardé “Terminator” lors de sa sortie en 1984. Et maintenant, toutes ces années plus tard, une avancée apparente de l’IA (Intelligence Artificielle) qui pourrait constituer une menace pour l’humanité.

J’ai pris note des récents bouleversements survenus chez OpenAI, où le PDG Sam Altman a été licencié (mais cinq jours plus tard, il a été réintégré parce que presque tous les employés ont menacé de quitter l’entreprise et de partir avec lui chez Microsoft).

Percée de l’IA

Pour faire court, il est évident qu’il (et son équipe) avait averti son conseil d’administration de l’imminence d’une percée majeure de l’IA qui pourrait menacer l’humanité.

L’équipe d’Open AI a averti son conseil d’administration d’une puissante percée de l’IA qui pourrait menacer l’humanité.avant que le PDG Sam Altman ne soit licencié puis réembauché.

Plusieurs chercheurs ont envoyé une lettre aux directeurs pour les avertir des progrès réalisés en matière de Projet Q* avait le potentiel de mettre en danger l’humanité.

Cette lettre, dont on n’a pas encore parlé, a finalement conduit à l’éviction d’Altman, le créateur de ChatGPT, et aux cinq jours chaotiques qui ont suivi au sein de la jeune entreprise.

DailyMail

Ce n’est pas Sam Altman qui a suscité mon intérêt dans cette histoire. Il s’agit plutôt de la déclaration concernant une puissante “percée”. C’est ce qu’on appelle le projet Q* (prononcé Q-Star).

Ai, ou Intelligence Artificielle. C’est un sujet de préoccupation. Une grande préoccupation (pour moi). Je ne sais pas ce qu’il en est pour tout le monde, mais je peux facilement imaginer que l’IA devienne très préjudiciable à notre bien-être en tant qu’humains.

Bien qu’elle puisse (et doive) être utilisée pour le “bien”, il ne fait aucun doute qu’elle sera également utilisée pour le “mal” (compte tenu de la nature humaine). En outre, il semblerait que l’IA évolue rapidement vers superintelligencesurpassant de loin l’intelligence humaine. Très loin. Très loin.

L’OpenAI définit la superintelligence, également connue sous le nom d’intelligence générale artificielle, comme des systèmes d’IA plus intelligents que les humains.

Quels dangers la superintelligence de l’IA pourrait-elle représenter pour l’humanité ? Le ciel est la limite de votre imagination. À la nanoseconde où l’IA décidera que nous (ou certains d’entre nous) ne sommes plus nécessaires, les lumières s’éteindront, pour ainsi dire.

Comme vous le savez, nous vivons dans un monde moderne où notre survie dépend littéralement de nombreux systèmes technologiques intégrés. Si vous les perturbez ou les brisez (ou l’un d’entre eux), les choses se gâtent – rapidement.

Imaginons à présent une sorte d’intelligence artificielle (IA) en fuite (ou volontairement) “à l’intérieur” de ces systèmes.

La préparation, ça vous dit quelque chose ?

Qu’est-ce que le projet Q* (Q Star) ?

En bref, apparemment, il permet à un modèle d’IA de résoudre véritablement des problèmes mathématiques qu’il n’a jamais vus auparavant. En d’autres termes, il est capable de résoudre les problèmes tout seul. Et cette capacité devrait s’améliorer rapidement. Un saut probable vers l’AGI, l’Intelligence Générale Artificielle.

“Conquérir la capacité de faire des mathématiques – où il n’y a qu’une seule bonne réponse – implique que l’IA aurait des capacités de raisonnement plus grandes, proches de l’intelligence humaine.”

Sam Altman a récemment déclaré, à propos de cette IA : “S’agit-il d’un outil que nous avons construit ou d’une créature que nous avons construite ?”