Selon des sources citées par Reuters, plusieurs chercheurs d’OpenAI ont écrit une lettre au conseil consultatif de l’entreprise afin de les avertir d’une “découverte puissante” dans le domaine de l’intelligence artificielle qui pourrait menacer l’humanité, quelques jours seulement avant le retour du PDG de l’entreprise, Sam Altman.

Les principales innovations ayant conduit au licenciement d’Altman, le gourou de la propagande de l’IA derrière ChatGPT, étaient la carte et l’algorithme d’IA. Plus de 700 employés d’OpenAI ont menacé de démissionner et de rejoindre Microsoft en solidarité avec leur dirigeant exempté de tout blâme avant son retour triomphant le mercredi (21).

Analyse

Microsoft ignore la crise d’OpenAI et devrait en sortir vainqueur.

Les grandes entreprises technologiques ont réagi rapidement pour éviter que leurs investissements ne soient entachés par l’impasse.

Selon des sources, le licenciement d’Altman pourrait être en partie attribué au contenu de la lettre, qui faisait part de préoccupations concernant la commercialisation des avancées en IA avant une compréhension des conséquences de leur utilisation. Aucune copie de la lettre n’était disponible pour que Reuters puisse l’analyser. Les employés ayant rédigé le contenu ont ignoré les demandes de commentaires.

Selon une source, après avoir été contacté par Reuters, OpenAI a refusé de commenter mais a ensuite admis l’existence d’un projet appelé “Q*” dans une note interne destinée aux employés et dans une lettre à la direction avant les événements du week-end. Un porte-parole d’OpenAI a déclaré que le message, envoyé par l’exécutif Mira Murati, informait l’équipe de certains rapports médiatiques sans préciser leur importance.

Certains employés d’OpenAI pensent que le projet “Q*” (prononcé Q-Star) pourrait être une avancée dans les recherches de l’entreprise dans ce qu’on appelle l’intelligence artificielle générale (AGI, en anglais). OpenAI définit l’intelligence artificielle générale comme des systèmes qui surpassent les humains dans la plupart des tâches économiquement valorisées.

Selon la source, le nouveau modèle était capable de résoudre certains problèmes mathématiques grâce à son accès à de vastes ressources informatiques. Les chercheurs sont optimistes quant à l’avenir du projet “Q*” malgré le fait que le modèle n’ait été testé qu’en utilisant des calculs mathématiques d’école élémentaire.

“L’ignorance disparaît”

Les chercheurs voient les mathématiques comme la frontière du développement de l’IA créative. Les réponses à la même question peuvent varier considérablement en raison de l’état actuel de l’IA générative, qui est douée pour l’écriture et la traduction entre les langages en prédisant statistiquement le mot suivant. Cependant, maîtriser les tâches comptables, pour lesquelles il n’y a qu’une seule réponse correcte, impliquerait que l’IA ait des capacités de raisonnement comparables à celles des humains. Les chercheurs en intelligence artificielle pensent que cela pourrait être utilisé dans de nouvelles études scientifiques.

L’intelligence artificielle générale (AGI) a la capacité de généraliser, d’apprendre et de comprendre, contrairement à une calculatrice qui ne peut effectuer qu’un certain nombre d’opérations.

Selon des sources, les chercheurs ont souligné les dangers potentiels de l’IA dans une lettre au conseil, mais n’ont pas précisé les problèmes de sécurité exacts soulevés. Les informaticiens débattent depuis longtemps de la menace posée par les machines surpuissantes, comme la question de savoir si elles choisiraient ou non de détruire l’humanité si elles en avaient l’occasion.

Les chercheurs ont également mentionné le travail d’une “équipe de scientifiques en IA”, dont l’existence a été confirmée par de nombreuses sources. L’équipe, qui a été constituée en fusionnant les équipes “Code Gen” et “Math Gen” précédentes, travaille à l’optimisation des modèles IA existants pour renforcer leur raisonnement et, en fin de compte, mener des travaux scientifiques, comme l’a déclaré l’un d’eux.

Altman a dirigé l’effort visant à faire de ChatGPT l’une des applications à la croissance la plus rapide de tous les temps, attirant les investissements et les ressources informatiques dont Microsoft avait besoin pour se rapprocher de l’AGI.

En plus de présenter une multitude de nouveaux outils lors d’une démonstration ce mois-ci, Altman a déclaré à un groupe de dirigeants mondiaux à San Francisco la semaine dernière qu’il croyait que des avancées significatives dans la technologie de l’intelligence artificielle étaient à l’horizon.

“Pouvoir faire cela est l’honneur professionnel d’une vie”, a-t-il déclaré devant le Comité de coopération d’OpenAI. “Quatre fois dans l’histoire d’OpenAI, dont la plus récente remonte aux deux dernières semaines, j’ai pu être présent dans la pièce lorsque nous avons repoussé le voile de l’ignorance derrière nous et la frontière de la découverte devant nous”, a-t-il déclaré.

Le lendemain, les dirigeants d’OpenAI ont licencié Altman.