L’éviction d’Altman montre que l’organisation vise à aligner l’IA superintelligente sur l’humanité et ne parvient pas à aligner les valeurs de ses propres membres du conseil d’administration et de sa direction. L’ajout d’un élément de recherche de profit à un projet à but non lucratif en a fait une centrale d’IA. Les lancements de produits peuvent apporter non seulement des bénéfices, mais aussi la possibilité d’apprendre à mieux contrôler et développer une IA rentable. Il n’est pas clair maintenant si les dirigeants actuels croient que cela peut être fait sans rompre la promesse initiale du projet de créer AGI en toute sécurité.
Le défi de Murat est de convaincre le personnel et les bailleurs de fonds d’OpenAI qu’ils ont une philosophie viable pour développer l’IA. Il devrait également nourrir l’appétit de liquidités de l’entreprise pour gérer l’infrastructure en expansion derrière des projets comme ChatGPT. Alors qu’il tombait dans le rouge, Altman recherchait des milliards de nouveaux investissements dans le cadre d’un cycle de financement mené par Thrive Capital. L’entreprise est certainement moins attractive pour les financiers qu’elle ne l’était il y a à peine 24 heures. (Joshua Kushner, PDG de Thrive, n’a pas répondu à un e-mail.)
De plus, ceux dont le nom de PDG comporte la mention « intérimaire » seront confrontés à des obstacles supplémentaires dans tout ce qu’ils entreprendront. Plus tôt OpenAI nommera un leader permanent, mieux ce sera.
depuis
Quel que soit le nouveau leader d’OpenAI, soit il soutiendra les dirigeants actuels Satskever et Murati, soit il héritera de l’équipe formée par les défunts patrons Altman et Brockman. L’un des trois chercheurs, le directeur de recherche Jakub Pachoki, l’un Co-inventeur de GPT-4– Une perte importante et on peut s’attendre à davantage.
OpenAI pourrait désormais être sérieusement désavantagé dans la course acharnée aux talents en IA. Les meilleurs chercheurs obtiennent des rémunérations de plusieurs millions de dollars, mais pour les plus passionnés, l’argent est secondaire par rapport à la question de savoir dans quelle mesure une IA plus puissante devrait être développée et déployée. Si OpenAI est considéré comme un lieu rempli d’intrigues de palais qui empêchent de décider comment créer et diffuser les inventions les plus marquantes de l’humanité, les meilleurs talents seront réticents à s’engager. Au lieu de cela, les chercheurs d’élite pourraient se tourner vers Anthropic, un développeur d’IA lancé par d’anciens employés d’OpenAI en 2021, ou vers tout nouveau projet qu’Altman et Brockman pourraient lancer.
Jusqu’à présent, le voyage d’Altman a été celui d’un héros classique au sens de Joseph Campbell. Depuis le moment où je l’ai rencontré, quand il est venu vers moi semaine de nouvelles En assumant le rôle de PDG d’une startup appelée Loopt en 2007, il fait également preuve d’humilité personnelle et de passion pour résoudre les plus grands défis technologiques. Lorsque je l’ai rejoint à Londres cette année lors de sa tournée éclair visant à promouvoir une IA « humainement positive » (et j’ai même recommandé qu’elle soit réglementée pour éviter les catastrophes), je l’ai vu s’adresser à la foule, prendre des selfies et inviter certains manifestants à écouter. Dissiper vos soucis. Mais je sentais aussi que la tâche était stressante, peut-être un déclencheur d’une de ses migraines périodiques, comme celle dont il souffrait lors de son témoignage devant le Sénat.
La semaine dernière, Altman semblait avoir maîtrisé les défis extraordinaires liés à son nouveau pouvoir et à sa notoriété. Lors de la journée des développeurs d’OpenAI le 6 novembre, il est apparu confiant et studieux en dévoilant une série de nouveaux produits, revendiquant la position de paon ultime de la technosphère : un showman révélant des avancées époustouflantes en mode Steve Jobs. Il semble qu’Altman se sente enfin chez lui sous les projecteurs. Mais ensuite les lumières se sont éteintes. Sam Altman doit créer une AGI quelque part. OpenAI est peut-être encore à la chasse, mais seulement après avoir ramassé les morceaux.
Be First to Comment