Le drame d'OpenAI a été balayé sous le tapis, mais apparemment, quelqu'un a de nouvelles saletés. Un ancien membre du conseil d'administration d'OpenAI a expliqué pourquoi Sam Altman avait été temporairement licencié de son poste.
Pour vous rafraîchir la mémoire, un coup d'État massif s'est produit en novembre 2023 et a vu le licenciement du PDG de l'entreprise, Sam Altman. Ce fut un week-end dramatique qui a vu Microsoft presque embaucher Altman, un éventuel débrayage massif des employés, plusieurs PDG par intérim et un nouveau conseil d'administration à but non lucratif au sein de l'entreprise. Nous avons également reçu une astuce intéressante sur quelque chose appelé Q*, quelque chose qui, craignaient les chercheurs, mettrait en danger la race humaine.
Tout ce drame a fini par s’apaiser quelques jours seulement après son début. Alors que la semaine de travail suivante commençait, la majeure partie de la tempête était passée et nous avons tous continué notre vie. Mais il y avait encore des questions en suspens. Sur quoi Sam Altman n’était-il pas complètement franc ? Les tensions actuelles au sein de l’entreprise sont-elles le produit du coup d’État ? Plus important encore, qu’est-ce que Q* et l’entreprise l’a-t-elle déjà lancé ?
Un ancien membre du conseil d'administration explique pourquoi Sam Altman a été licencié
Malheureusement, la plupart des questions en suspens ne toucheront pas le sol de si tôt, mais les commentaires de l'ancienne membre du conseil d'administration, Helen Toner, nous montrent que le drame est peut-être loin d'être terminé. Elle a récemment parlé sur le podcast TED AI Show avec Bilawal Sidhu. L'épisode de 41 minutes portait principalement sur l'IA en général, mais au début du podcast, Toner a expliqué pourquoi le conseil d'administration avait accepté de licencier Altman.
Le conseil d'administration à but non lucratif dont faisait partie Toner était chargé de veiller à ce que l'entreprise reste sur la bonne voie dans sa mission consistant à profiter au public plutôt qu'aux profits. Une grande partie du drame du coup d'État a concerné les interactions d'Altman avec le conseil d'administration, selon son récit. Elle a dit qu'il n'était pas tout à fait honnête sur certains détails importants, et elle a dit qu'il avait carrément menti sur certaines choses également.
Elle a déclaré que ses actions rendaient difficile l’accomplissement du travail du conseil d’administration. Elle comptait sur des informations solides de sa part sur l'entreprise et son fonctionnement interne pour pouvoir mener à bien sa mission, mais il semblait leur cacher beaucoup d'informations.
Lancement de ChatGPT et fonds de démarrage OpenAI
Un bon exemple qu'elle a donné est le fait que le conseil d'administration n'a pas été informé au préalable du lancement de ChatGPT. « Nous avons entendu parler de ChatGPT sur Twitter », a-t-elle déclaré. Cela a dû ressembler à une gifle, mais les choses sont plus profondes que cela.
Un autre exemple qu'elle a donné est le fait que Sam a omis de mentionner qu'il possédait le fonds OpenAI Startup. En tant que PDG, on s'attendrait à ce qu'il ait un certain intérêt dans l'entreprise, mais Sam a déclaré qu'il était un membre indépendant du conseil d'administration et qu'il n'avait aucun intérêt financier dans l'entreprise. Eh bien, il semblerait que ce ne soit pas vrai.
Protocoles de sécurité
Ensuite, selon Toner, Altman n'était pas parfaitement honnête quant au nombre de protocoles de sécurité en place au sein de l'entreprise. « À plusieurs reprises, il nous a donné des informations inexactes sur le petit nombre de processus formels de sécurité mis en place par l’entreprise. »
C'est quelque chose que nous ne pouvons pas confirmer à 100 %, mais des rapports récents sur l'entreprise lui donnent un certain poids. Selon Jan Leike, ancien chercheur, « au cours des dernières années, la culture et les processus de sécurité ont cédé le pas aux produits brillants ». Apparemment, OpenAI avait réduit au fil du temps le nombre de ressources allouées à son ancienne équipe de sécurité. De plus, l’entreprise a récemment mis en place une nouvelle équipe de sécurité. Il est donc évident que l’approche d’OpenAI en matière de sécurité de ses produits n’est pas stable. Il est probable que l’entreprise n’ait pas mis en place trop de protocoles de sécurité.
Le papier
Enfin, Toner a fait référence à un document de recherche qu'elle a co-écrit et destiné aux décideurs politiques à l'automne 2023. Le document lui-même semblait critiquer les pratiques d'OpenAI et favoriser celles d'Anthorpic. De toute évidence, c’est quelque chose qui ne convenait pas à Altman. Cela a conduit à une véritable tempête de drames pour l’entreprise, car c’était au moment où la FCC enquêtait sur la manière dont elle collectait et utilisait les données. L’entreprise n’avait donc pas bonne mine aux yeux du public à ce moment-là.
Après la publication du journal, selon Toner, Altman a commencé à raconter des histoires au conseil d'administration dans son dos afin de la faire expulser. Cependant, il semblait que le conseil d’administration n’était pas tout à fait de son côté. Toner a déclaré qu'à la fin du mois d'octobre de l'année dernière, le conseil d'administration « discutait assez sérieusement » de l'opportunité de le licencier ou non.
Problèmes de confiance
Donc, d'après le récit de Toner, il semble qu'Altman avait juste un faible pour mentir pour obtenir ce qu'il voulait. Encore une fois, nous ne pouvons pas le confirmer complètement, mais les rapports publiés au moment du drame corroborent ces affirmations. Après que Sam Altman ait été évincé, le conseil d'administration s'est réuni et a déclaré qu'il n'était pas « toujours franc » avec le conseil d'administration.
Il semble donc que le conseil d'administration ait eu vent de son comportement, et c'est l'une des raisons de son licenciement. « Le résultat final a été qu'après des années de ce genre de chose, nous tous les quatre qui l'avons viré sommes arrivés à la conclusion que nous ne pouvions tout simplement pas croire ce que Sam nous disait. » Elle a poursuivi en disant que c'était « un endroit totalement irréalisable pour un conseil d'administration ».
Jetant une lumière plus dure sur Sam, d'autres dirigeants se sont manifestés devant le conseil d'administration pour exprimer qu'ils ne pouvaient pas non plus lui faire confiance. Ils ont également mentionné qu'il créait une atmosphère toxique et pensaient qu'il n'était pas la bonne personne pour diriger l'entreprise.
Le débrayage de masse
Si vous vous en souvenez, lors du drame survenu chez OpenAI, de nombreux employés ont menacé de quitter l'entreprise si Sam n'était pas réintégré en tant que PDG. Toner a mentionné qu'il y avait beaucoup de fausses informations à ce sujet. Elle a dit que plusieurs éléments étaient en jeu lors de ce scénario. Premièrement, les travailleurs semblaient n’avoir que deux options : soit ils se mobilisent pour ramener Sam, soit ils risquent qu’OpenAI soit complètement détruit.
Ensuite, et cela ne décrit PAS Altman comme une bonne personne, Toner a déclaré que beaucoup de gens avaient peur des représailles de Sam contre eux. Si Altman a créé un environnement de travail toxique, il est naturel de croire que beaucoup de gens ne voulaient pas se mettre en colère contre lui.
Emplois passés
L’une des plus grosses bombes de toute cette situation concerne les emplois précédents qu’Altman aurait occupés… et dont il aurait été licencié. Encore une fois, nous ne pouvons pas confirmer complètement cette information, nous devrons donc attendre plus d'informations pour le faire. Cependant, nous nous basons sur le compte de Toner,
Selon elle, Altman a de mauvais antécédents en matière de licenciement d'autres postes. Apparemment, il a été licencié de son travail chez Y Combinator. C'est une entreprise qui aide les startups à décoller. Il a une longue liste d'entreprises notables à son actif, notamment Twitch, DoorDash, Airbnb, etc.
Nous ne connaissons pas les raisons pour lesquelles il a été licencié, mais il y a un autre travail qui semble avoir évincé Altman. Auparavant, il dirigeait une startup appelée Loopt. Selon Toner, l'équipe de direction s'est plainte auprès du conseil d'administration pour demander son licenciement. Ils se sont plaints de son « comportement trompeur et chaotique ». Si cela est vrai, cela correspond à ce qui l'a fait virer d'OpenAI.
La réponse d'OpenAI
Le président du conseil d'administration d'OpenAI, Bret Taylor, a répondu aux propos de Toner, déclarant que la société est « déçue que Mme Toner continue de revenir sur ces questions ». Il a continué en déclarant que « la décision du conseil d'administration précédent n'était pas fondée sur des préoccupations concernant la sûreté ou la sécurité des produits, le rythme de développement, les finances d'OpenAI ou ses déclarations aux investisseurs, clients ou partenaires commerciaux ». Malheureusement, en dehors du rejet de ces affirmations, la déclaration ne donne aucun aperçu supplémentaire des raisons pour lesquelles il a été licencié. Il est donc un peu difficile de prendre Taylor au mot. « En outre, plus de 95 pour cent des employés, y compris les hauts dirigeants, ont demandé la réintégration de Sam en tant que PDG et la démission de l'ancien conseil d'administration. »
La déclaration se termine en déclarant que « notre objectif reste d'aller de l'avant et de poursuivre la mission d'OpenAI visant à garantir que l'AGI profite à toute l'humanité. » Ne mâchons pas nos mots ici, la déclaration fournie par Taylor semble être une déclaration très scénarisée et axée sur les relations publiques. Il est donc un peu difficile de le prendre au pied de la lettre.
Qui croire ?
Helen Toner a fourni une tonne d'informations sur le baseball que le public ne connaissait pas auparavant, et la déclaration de Bret Taylor n'a nié catégoriquement aucune des informations sur l'environnement de travail toxique, les mensonges, les emplois antérieurs ou les pratiques trompeuses. Il est donc beaucoup plus facile de croire sur parole de Toner par rapport à tout ce qui vient d'OpenAI.
De plus, nous devons nous rappeler qu'Helen Toner n'est actuellement pas associée à OpenAI alors que Bret Taylor l'est. Que va faire Taylor, parler du PDG de la société pour laquelle il siège actuellement au conseil d'administration ? Il est bien plus incité à balayer les détails sous le tapis et à défendre OpenAI. Cependant, puisque Toner n'est plus associé à OpenAI, nous pouvons nous attendre à ce que ses commentaires soient plus véridiques.
En toute honnêteté, il est possible que Toner elle-même ne soit pas honnête à 100%, car nous attendons plus d'informations sur ce drame. Cependant, le génie est sorti de la bouteille à ce stade. Nous devrions, espérons-le, inciter davantage de personnes à se manifester et à renverser davantage de thé.
