Oui, Sam Altman est de retour en tant que PDG d’OpenAI, mais nous avons encore beaucoup de questions sans réponse

• Cela a été une semaine folle à OpenAI. En fait, la nature ne commence pas à le couvrir.
• Nous savons désormais que Sam Altman reviendra dans l’entreprise après avoir été licencié, mais nous sommes toujours très confus.
• En effet, de nombreuses questions, notamment la raison pour laquelle il a été licencié, restent sans réponse.

Sam Altman devrait revenir en tant que PDG d’OpenAI après l’une des semaines les plus confuses de l’histoire de la Silicon Valley.

L’éviction surprise d’Altman s’est produite vendredi lorsque le conseil d’administration d’OpenAI l’a démis de ses fonctions de PDG avec effet immédiat, citant comme raisonnement ses communications peu franches.

Les choses ont pris une tournure vertigineuse à partir de là après que son collègue cofondateur et ancien président de l’entreprise, Greg Brockman, ait suivi Altman hors d’OpenAI et chez Microsoft.

Lundi, presque tous les employés d’OpenAI avaient signé une lettre menaçant de démissionner à moins qu’Altman ne revienne et que le conseil d’administration ne démissionne. Un jour plus tard, Altman était de retour au poste de PDG et le conseil d’administration était en grande partie remplacé.

Ce désordre sans précédent a amené les commentateurs à se demander ce qui aurait pu pousser l’une des plus importantes sociétés d’IA à se tirer une balle dans le pied.

Le langage vague et le manque général d’explications fournis par le conseil d’administration – même à ses investisseurs les plus importants – ont laissé libre cours à la spéculation.

Nous ne saurons peut-être jamais pourquoi Altman a été évincé

C’est la question à un million – ou 86 milliards de dollars – qui préoccupe tout le monde.

Pourquoi Sam Altman a-t-il été soudainement licencié de son poste de PDG d’OpenAI ?

L’explication initiale du conseil comprenait une déclaration cinglante sur la communication d’Altman. Dans un article de blog, le conseil d’administration a déclaré :

« Le départ de M. Altman fait suite à un processus d’examen délibératif du conseil d’administration, qui a conclu qu’il n’était pas toujours franc dans ses communications avec le conseil d’administration, ce qui entrave sa capacité à exercer ses responsabilités. Le conseil d’administration n’a plus confiance en sa capacité à continuer à diriger OpenAI. « .

La déclaration impliquait qu’Altman avait été malhonnête ou avait même menti au conseil d’administration dans une certaine mesure. Si tel est le cas, comme le souligne Alistair Barr de Trading Insider, le public mérite de savoir sur quoi il a menti, le cas échéant.

Des initiés d’OpenAI ont déclaré à Kali Hays de BI que Sutskever avait proposé aux employés deux explications pour l’éviction d’Altman concernant des problèmes de personnel. Mais les salariés ne sont pas convaincus.

Y a-t-il eu un conflit sur la sécurité de l’IA ?

Le drame d’OpenAI a mis en lumière l’un des plus grands débats technologiques : la sécurité du développement avancé de l’IA.

Certains experts du secteur ont émis des avertissements extrêmes concernant le danger potentiel de cette technologie, notamment le risque qu’elle puisse un jour anéantir l’humanité. Récemment, la légitimité de ces préoccupations a été remise en question, plusieurs poids lourds de l’IA – dont le parrain de l’IA Yann LeCun – accusant les Big Tech d’avoir d’autres raisons d’exacerber les craintes autour de l’IA.

Ilya Sutskever, le scientifique en chef d’OpenAI qui aurait joué un rôle central dans l’éviction de Sam Altman, s’est engagé en faveur de la sécurité de l’IA. Sutskever et Altman se sont souvent affrontés sur des divergences sur les moyens de réduire les dommages potentiels de l’IA à l’humanité, a rapporté Bloomberg.

Alors qu’Altman a exprimé ses inquiétudes quant à la sécurité de l’IA, il a également poussé la commercialisation de ChatGPT – peut-être à un rythme avec lequel le conseil d’administration soucieux de la sécurité n’était pas d’accord.

OpenAI a semblé repousser les spéculations sur le rôle de la sécurité de l’IA dans le départ d’Altman. Les employés ont été informés ce week-end que son licenciement n’avait rien à voir avec « un malversation ou quoi que ce soit lié à nos pratiques financières, commerciales, de sûreté ou de sécurité/confidentialité », selon un message consulté par le New York Times.

OpenAI va-t-il changer sa structure complexe ?

L’une des théories les plus populaires sur l’éviction d’Altman est que les tensions entre le conseil d’administration à but non lucratif et la branche à but lucratif d’OpenAI ont finalement atteint leur paroxysme.

Le conseil d’administration à but non lucratif, qui comprenait le scientifique en chef Ilya Sutskever, a finalement eu le pouvoir de licencier Altman en raison de la structure inhabituelle de l’entreprise.

Des sources au sein d’OpenAI ont déclaré à l’époque à The Atlantic que la publication de ChatGPT avait mis en évidence des conflits idéologiques sous-jacents entre le conseil d’administration à but non lucratif et la branche à but lucratif.

Les pressions exercées pour commercialiser le chatbot ont créé des divisions au sein des dirigeants, ont-ils déclaré. Alors que les équipes de sécurité d’OpenAI voulaient ralentir les choses, les équipes produit ont insisté pour tirer parti du battage médiatique. Le lancement d’autres produits, y compris un niveau premium de ChatGPT alimenté par GPT-4, n’a fait qu’exaspérer les problèmes, ont déclaré des sources au média.

Mardi, le conseil d’administration avait été pratiquement remplacé, seul le PDG de Quora, Adam D’Angelo, occupant un siège dans la nouvelle équipe.

Qu’en pense Microsoft ?

OpenAI a évincé Altman sans consulter son principal investisseur, Microsoft.

Cela n’aurait apparemment pas été bien accueilli par son PDG, Satya Nadella. Après avoir mené des discussions pour tenter de réintégrer Altman chez OpenAI, Nadella l’a ensuite embauché, ainsi que Brockman, pour diriger une équipe d’IA chez Microsoft.

Nadella a clairement indiqué qu’il ne voulait pas être pris au dépourvu par des remaniements majeurs au sein de la direction d’OpenAI à l’avenir.

En apparaissant sur un podcast avec la journaliste Kara Swisher, Nadella a déclaré qu’OpenAI aurait dû consulter Microsoft avant de licencier l’ancien PDG. Il a ajouté que cela aurait été « le moins » que le conseil d’administration aurait pu faire.

Apparemment, il ne sait toujours pas pourquoi Altman a été licencié, racontant Bloomberg : « Le conseil d’administration n’a parlé de rien de ce que Sam a fait, à part une panne de communication. »

Les commentateurs avaient émis l’hypothèse que Microsoft rechercherait un siège au conseil d’administration d’OpenAI – ou du moins un système de communication plus formel – à la suite des retombées.

Que se passe-t-il avec la lettre suspecte des « anciens employés » ?

Jamais laissé à l’écart du drame, Elon Musk a également pesé sur le chaos mardi. en partageant une lettre soi-disant d’anciens employés d’OpenAI.

BI n’a pas encore vérifié l’authenticité de la lettre. Il n’était notamment pas signé et la source originale avait été supprimée.

La lettre contenait des affirmations non vérifiées sur Alman et Brockman concernant leur gestion chez OpenAI.

La lettre disait : « Tout au long de notre séjour chez OpenAI, nous avons été témoins d’un schéma inquiétant de tromperie et de manipulation de la part de Sam Altman et Greg Brockman, motivés par leur quête insatiable de réalisation de l’intelligence artificielle générale (AGI). »

Plusieurs employés d’OpenAI ont toutefois rejeté les allégations concernant X.

« Les attaques contre les personnages de Greg et Sam en disent plus sur les accusateurs. Totalement fausses », a déclaré Peter Welinder, vice-président de OpenAI, dit sur X. « Je veux dire, nous discutons tout le temps à propos de l’allocation du GPU ! Le travail de Sam est de décider. Bien souvent, quelqu’un sera déçu. Grandissez. »

Les représentants d’OpenAI n’ont pas immédiatement répondu à la demande de commentaires d’Insider.