Jusqu’à vendredi soir, Greg Brockman, le cofondateur, président et président d’OpenAI, était au milieu de cinq orages. Il doit revenir sur ce qui s’est passé au cours des dernières 24 heures.
"Coup d’Etat » arrive
La semaine dernière, San Francisco et la région de la baie de San Francisco ont été remplies d’une atmosphère animée du sommet de l’APEC, en particulier de la rencontre entre les chefs d’État des deux grands pays.
Le cofondateur et PDG d’OpenAI, Sam Altman, est apparu au sommet des affaires de l’APEC jeudi et a assisté à un événement Burning Man dans la soirée pour parler de l’IA et de l’art.
Il a reçu un SMS d’un autre cofondateur, le scientifique en chef Ilya Sutskever, sur le point de parler de vendredi à midi.
Vendredi midi, Altman a ouvert le lien Google Meet envoyé par Sutskovo et a découvert qu’en plus de Brockman, il y avait trois autres administrateurs indépendants. Sutskovo a dit à Altman qu’il avait été licencié et que la nouvelle serait bientôt publiée.
Selon un communiqué officiel, Altman a été démis de ses fonctions de PDG et d’administrateur en raison de son manque d’honnêteté avec le conseil d’administration. Altman a annoncé son départ d’OpenAI une heure plus tard, et a déclaré qu’il annoncerait sa prochaine étape plus tard.
À 12 h 19, Brockman a reçu un message texte de Sutskovo lui demandant de l’appeler. Quatre minutes plus tard, il a également reçu un lien Google Meet, et lorsqu’il a cliqué dessus, on lui a immédiatement dit qu’il avait été retiré du conseil d’administration, mais qu’il avait conservé son poste de président en raison de son importance pour l’entreprise. Il a également été informé qu’Ultraman avait été licencié, ce qui avait été annoncé sur le site officiel.
Selon un communiqué officiel, Brockman rendra compte à la PDG par intérim Mira Murati, qui a été promue au poste de directrice technique de la société en mai de l’année dernière. Mais lorsque Brockman apprit la nouvelle, il annonça immédiatement sa démission.
Cette nouvelle explosive a choqué toute l’entreprise, à l’exception de Mira. Elle savait déjà jeudi soir qu’elle succéderait à Ultraman en tant que PDG par intérim. OpenAI est comme une poêle à frire à l’intérieur, et Mira doit rassurer toute l’entreprise sur le fait que la coopération avec Microsoft se poursuivra. Elle a relayé les déclarations du PDG de Microsoft, Nadella, et du directeur technique, Kevin Scott, selon lesquelles ils maintiennent toujours une « confiance extrême » dans OpenAI.
Ce soir-là, trois cadres supérieurs ont démissionné, à savoir Jakub Pachocki, directeur de recherche de l’entreprise, Aleksander Madry, chef d’équipe chargé d’évaluer les risques potentiels de l’IA, et Szymon Sidor, chercheur en poste depuis sept ans. OpenAI devrait également connaître un grand nombre de démissions ce week-end.
OpenAI, qui bat son plein, traverse la plus grande crise depuis sa création il y a huit ans.
De gauche à droite : Mira, Ultraman, Brockman, Sutskovo
Conflit entre sécurité et rentabilité
Ce « coup d’État » au sein d’OpenAI, Microsoft n’a en fait rien su à l’avance jusqu’à quelques minutes avant l’annonce de la nouvelle. Comme vous pouvez l’imaginer, tous les autres investisseurs sont également dans le noir.
Cela expose la contradiction potentielle entre l’architecture à deux niveaux d’OpenAI, à but non lucratif et à but lucratif. Les investisseurs les plus importants ne sont pas en mesure de jouer un rôle dans la gouvernance de l’entreprise. Cependant, la partie à but non lucratif du conseil d’administration n’a pas d’actions, et les six administrateurs adoptent un système « une personne, une voix », ce qui masque le risque d’instabilité.
La conférence des développeurs d’OpenAI qui vient de se tenir a accéléré l’éclosion de contradictions. La relation entre le « non-profit » et le « profiteur » au sein d’OpenAI a été tendue ces derniers temps. Sutskovo, qui dirige l’équipe de recherche et développement de l’entreprise, représente un groupe à but non lucratif qui met l’accent sur la sécurité et les valeurs fondamentales d’OpenAI, tandis que le groupe à but lucratif d’Altman met l’accent sur l’accélération du développement, le lancement d’un magasin GPT personnalisé lors de la journée des développeurs et la fourniture d’assistants API pour les développeurs, le lancement d’un modèle de monétisation commerciale qui partage les revenus avec les développeurs.
Mais l’augmentation du nombre d’utilisateurs a rapidement dépassé la capacité d’OpenAI, et Ultraman a dû annoncer la suspension des nouvelles inscriptions d’utilisateurs de ChatGPT Plus. Cela a encore accru les craintes de Sutskovo quant à la sécurité.
En fait, au sein du conseil d’administration, avec Altman et Brockman d’une part, et Sutskovo et Helen Toner d’autre part, il y avait un désaccord croissant sur le rythme de développement, et les deux parties se sont éloignées.
Les autres membres du conseil d’administration étaient également en désaccord avec Altman sur certaines questions stratégiques majeures. Par exemple, Altman veut lever des dizaines de milliards de dollars auprès de fonds souverains du Moyen-Orient pour développer des puces afin de défier NVIDIA. Il a également approché Masayoshi Son, qui souhaitait utiliser l’investissement d’un milliard de dollars de SoftBank pour s’associer à l’ancien designer d’Apple, Johny Ive, afin de créer une société de matériel natif de l’IA.
Selon des personnes familières avec la question, les Sutskwers sont mécontents de la tentative d’Altman de lever des fonds avec la réputation d’OpenAI, et ils craignent que la nouvelle entreprise n’adopte pas un modèle de gouvernance approprié.
Vers 10 heures du matin jeudi, Sutskovo aurait approché trois autres directeurs et demandé à deux techniciens d’expliquer aux directeurs les graves risques de sécurité et de stabilité auxquels le système était confronté, et la réunion, qui représentait les deux tiers du conseil d’administration, aurait immédiatement pris la décision de licencier Altman.
Les partisans d’Ultraman l’ont qualifié de « coup d’État ».
Membres du conseil d’administration « inexpérimentés"
Le conseil d’administration a voté à la majorité des deux tiers des voix, et après que Sutskovo et les trois administrateurs indépendants se soient mis d’accord, la décision a été prise de licencier Altman. Cependant, il n’y a pas eu de réunion du conseil d’administration, et Brockman, en tant que président, n’a pas été avisé d’une telle réunion. Les deux fondateurs les plus importants de l’entreprise, le PDG et le président, ont été expulsés de l’entreprise lors d’une réunion Google Meet.
« Si je laisse tomber, le conseil d’administration d’OpenAI me poursuivra pour la valeur totale de toutes mes actions. "
OpenAI est probablement l’entreprise privée la plus importante aujourd’hui, et jetons un coup d’œil aux membres du conseil d’administration qui ont pris une telle décision :
Administrateur indépendant Adam D’Angelo, fondateur et PDG de Quora. Il s’est joint au conseil d’administration en avril 2018. Il pense qu’OpenAI devrait s’en tenir aux organisations à but non lucratif et contrôler la limite supérieure de la rentabilité pour s’assurer qu’elle ne devienne pas un autre géant de la technologie dans la Silicon Valley.
Tasha McCauley, une administratrice indépendante, n’a commencé son mandat en tant que scientifique principale à temps partiel à la RAND Corporation que cette année. Elle avait auparavant eu deux start-ups infructueuses, mariée à Joseph Gorden-Levitt, un acteur et entrepreneur juif bien connu. Elle est activement impliquée dans le mouvement de l’altruisme efficace.
Helen Toner, une administratrice indépendante qui a rejoint le conseil d’administration en septembre 2021, est directrice des subventions de recherche stratégique et fondamentale au Center for Security and Emerging Technologies (CSET) de l’Université de Georgetown. Elle était auparavant chercheuse en politiques chez Open Philanthropy, une organisation qui a fait des dons à OpenAI, et avant de rejoindre le CSET, un groupe de réflexion qui a joué un rôle important dans la recherche sur l’IA et la politique géopolitique entre les États-Unis et la Chine, elle a vécu à Pékin et a étudié l’écosystème d’innovation en IA de la Chine.
Helen et Tasha ont également rejoint le Centre for Artificial Intelligence Governance (GovAI) du Royaume-Uni, qui se concentre sur les menaces que les systèmes d’IA généraux peuvent faire peser sur la sécurité.
Sutskovo est devenu le seul cofondateur restant de l’entreprise. Né en Russie et ayant immigré au Canada en provenance d’Israël, il est un étudiant au doctorat de Geoffrey Hinton, le père de l’apprentissage profond, et a travaillé avec DeepMind, Google AI, OpenAI, et au cours de la dernière décennie, il a été à l’avant-garde de l’apprentissage par renforcement et de l’apprentissage profond, poussant l’intelligence artificielle générale dans un tout nouveau domaine.
Il a préconisé l’établissement d’un superalignement avec les humains dans le processus de construction d’une super-intelligence artificielle. Il dirige l’équipe pour utiliser 20 % de la puissance de calcul d’OpenAI afin d’établir un mécanisme de surveillance intégré avant que l’IA ne devienne plus intelligente que les humains. S’exprimant récemment sur les réseaux sociaux, il a averti : « Si vous prenez la valeur de l’intelligence au-dessus de toutes les autres qualités de la race humaine, vous subirez de terribles conséquences. » "
Au sein du conseil d’administration, Altman et Sutskovo ont eu un vif conflit sur la façon dont OpenAI devrait équilibrer la sécurité et gagner de l’argent. Altman préconise de promouvoir des applications commerciales, d’essayer d’étendre la portée commerciale d’OpenAI et demande le prochain tour de financement, tandis que Sutskovo estime qu’il est impossible de se précipiter pour faire du profit en insistant sur la recherche sur l’intelligence artificielle générale qui soit sûre et bénéfique pour l’humanité.
Ce sont ces quatre directeurs d’OpenAI qui ont chassé les deux autres directeurs en même temps, et ils étaient des cofondateurs très reconnus, ce qui a été critiqué par de nombreux entrepreneurs et institutions d’investissement de la Silicon Valley.
Ils ont commencé par s’interroger sur le manque d’expérience d’un membre du conseil d’administration pour siéger au conseil d’administration d’une entreprise aussi importante. Comparé aux premiers membres du conseil d’administration d’OpenAI, tels que Musk, le fondateur de LinkedIn Hoffman, l’investisseur en hard tech Vinod Khosla et d’autres fondateurs classiques de la Silicon Valley, le conseil d’administration actuel est faible et est également décrit par les médias de la Silicon Valley comme ayant un certain « altruisme efficace ».
Deuxièmement, pour un événement d’une telle ampleur, les anciens dirigeants d’OpenAI et les investisseurs les plus importants ont été tenus dans l’ignorance. En particulier, Microsoft a investi des dizaines de milliards de dollars dans OpenAI, qui n’était connu que quelques minutes avant la publication de la nouvelle. Sans parler des autres investisseurs, qui comprennent presque toutes les grandes institutions d’investissement de la Silicon Valley et du monde entier.
Le PDG de Microsoft, Nadella, a immédiatement fait une déclaration sur son blog : Microsoft a un accord à long terme avec OpenAI et peut tout utiliser (technologie) et continuera à travailler avec Mira pour faire progresser la stratégie d’IA.
Contradictions inhérentes à la structure de gouvernance
Quelle qu’en soit la raison, Altman et Brockman sont les fondateurs les plus importants d’OpenAI, et ils ont été victimes de la structure de gouvernance qu’ils ont conçue.
OpenAI a été fondée en 2015 en tant qu’organisation à but non lucratif. Son objectif est de construire un système général d’IA qui respecte et dépasse le niveau humain, qui soit ouvert et qui profite à l’humanité.
Plus tard, en raison des fonds d’un milliard de dollars promis par Musk et d’autres, seuls plus de 100 millions de dollars étaient en place, le coût de la puissance de calcul avancée et des talents de première classe était énorme, et la recherche et les opérations de l’entreprise n’étaient pas viables, il a donc été décidé de créer une filiale à but lucratif, OpenAI Global LLC, qui est entièrement contrôlée par l’organisation à but non lucratif OpenAI.
OpenAI Global peut lever des fonds à l’extérieur, mais il fixe un plafond de distribution des bénéfices pour les investisseurs. Selon les révélations des médias, la distribution des bénéfices d’OpenAI peut être divisée en quatre étapes : une fois le bénéfice généré, les premiers investisseurs tels que Musk seront retirés, 75 % du bénéfice suivant sera alloué à Microsoft jusqu’à ce que Microsoft récupère son investissement de 13 milliards de dollars, et une fois que le bénéfice aura atteint 92 milliards de dollars, la participation de Microsoft tombera à 49 % Les bénéfices restants seront partagés entre d’autres investisseurs en capital-risque et les employés d’OpenAI, et lorsque les bénéfices atteindront 150 milliards de dollars, les capitaux propres de Microsoft et d’autres investisseurs en capital-risque seront transférés gratuitement au fonds à but non lucratif d’OpenAI.
Parmi eux, l’investisseur le plus important est, bien sûr, Microsoft, qui a investi dans OpenAI à trois reprises en 2019, 2021 et 2023, avec un investissement cumulé de plusieurs dizaines de milliards de dollars. Mais en fin de compte, Microsoft ne possède aucune participation dans OpenAI, mais ressemble plus à un partenaire commercial, y compris Microsoft a un accès exclusif à toute la technologie d’OpenAI, OpenAI utilise le cloud Azure de Microsoft pour entraîner ses modèles de base, et les services fournis via son API utilisent tous le cloud de Microsoft et ainsi de suite.
Le financement de Microsoft, les services cloud et la coopération commerciale entre Microsoft et OpenAI dans les applications ont tous joué un rôle clé dans la capacité d’OpenAI à se concentrer sur la recherche de grands modèles de langage pendant une période allant jusqu’à huit ans, et enfin à faire des percées.
Mais le partenariat d’OpenAI avec Microsoft a également été critiqué par beaucoup comme un écart par rapport à ses intentions initiales, le transformant d’un institut de recherche indépendant et à but non lucratif sur l’intelligence artificielle en un pion stratégique d’un géant de la technologie, promettant d’ouvrir ses modèles sous-jacents, mais depuis GPT-3, il est devenu de plus en plus fermé. En tant que donateur majeur du cofondateur d’OpenAI, Musk a été vivement critiqué. Les principaux employés d’OpenAI sont également partis pour créer de nouvelles entreprises, comme Anthropic, le principal concurrent d’OpenAI.
ChatGPT d’OpenAI, lancé il y a un an, a stupéfié le monde en perçant la fenêtre de l’intelligence artificielle générale, mais les risques qu’il peut comporter ont également suscité une énorme controverse et accéléré la recherche et la formulation de systèmes de gouvernance nationaux et transnationaux.
Selon l’architecture d’OpenAI, les six membres du conseil d’administration peuvent « déterminer quand nous avons atteint l’intelligence artificielle générale (AGI) ».
Bien qu’il y ait beaucoup de controverse sur l’intelligence artificielle générale, OpenAI a proposé une définition : l’intelligence artificielle générale fait référence à un système hautement autonome qui surpasse les humains dans la plupart des emplois économiquement précieux. Altman et d’autres croyaient autrefois que d’ici dix ans, l’humanité atteindrait l’intelligence artificielle générale.
Et une fois que ce conseil d’administration aura déterminé qu’OpenAI a atteint l’intelligence artificielle générale, il retirera son utilisation exclusive et sa coopération avec les institutions commerciales et l’utilisera pour l’ensemble de la race humaine. Parmi eux, il est mentionné dans la clause concernant Microsoft : « Un tel système n’est pas inclus dans la licence de propriété intellectuelle et les autres conditions commerciales avec Microsoft, qui ne s’appliquent qu’aux technologies antérieures à l’IA générale. » "
Du point de vue de l’architecture de conception, le conseil d’administration d’OpenAI, une organisation à but non lucratif, a le pouvoir suprême.
OpenAI est toujours dans le rouge, mais son chiffre d’affaires augmente rapidement, avec un chiffre d’affaires annualisé de 1,3 milliard de dollars et peut-être des milliards de dollars l’année prochaine. Lors de ce tour de financement au début de l’année, OpenAI était évalué à 29 milliards de dollars.
À l’heure actuelle, OpenAI mène un nouveau cycle de financement d’une valorisation de 86 milliards de dollars pour préparer des fonds pour sa formation de GPT-5, dans laquelle la formation à l’alignement deviendra plus importante.
Les startups abandonnent leurs fondateurs et sont une histoire récurrente dans la Silicon Valley. Apple a licencié Steve Jobs en 1985 et Twitter a licencié le cofondateur Jack Dorsey en 2008. Finalement, ils sont tous revenus pour mener leurs entreprises à la gloire.
Mais le départ d’Altman pourrait avoir un impact plus important sur l’industrie qu’il représente. L’IA générative pourrait-elle être frustrée par cela ? Pas nécessairement !
L’impact de l’IA générative va bien au-delà du développement de modèles plus grands, plus avancés et plus sûrs. La révolution qu’elle a déclenchée ne fait que commencer.
Peut-être que la mission d’Altman et Brockman chez OpenAI a été accomplie. L’IA générative passe du laboratoire à un large éventail d’industries. Ils auront toujours les meilleurs talents, y compris les employés d’OpenAI, et il y aura toujours des milliards, voire des dizaines de milliards de dollars d’investissements de la Silicon Valley dans le monde. La porte de l’IA générative s’ouvre.
OpenAI s’en tiendra à son intention initiale et recherchera une intelligence artificielle générale sûre pour l’humanité. Il n’a peut-être plus l’imagination commerciale qu’apporte Ultraman, mais il a encore besoin de beaucoup d’investissements pour soutenir ses recherches. Après tout, la valeur d’OpenAI n’est peut-être pas de devenir un autre géant de la technologie, mais de devenir une entreprise à impact social qui se tient aux côtés des géants de la technologie, ouvrant le potentiel de l’IA générative à d’innombrables chercheurs, entrepreneurs, développeurs et utilisateurs. Il devrait être agréable de voir la structure de gouvernance unique d’OpenAI aller plus loin.
« Merci de nous rapprocher de l’avenir. Brockman a reçu une telle réponse sur les médias sociaux.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Le « coup d’État » d’OpenAI a commencé et s’est terminé
Source : Compte public « Recherche inachevée »
Jusqu’à vendredi soir, Greg Brockman, le cofondateur, président et président d’OpenAI, était au milieu de cinq orages. Il doit revenir sur ce qui s’est passé au cours des dernières 24 heures.
"Coup d’Etat » arrive
La semaine dernière, San Francisco et la région de la baie de San Francisco ont été remplies d’une atmosphère animée du sommet de l’APEC, en particulier de la rencontre entre les chefs d’État des deux grands pays.
Le cofondateur et PDG d’OpenAI, Sam Altman, est apparu au sommet des affaires de l’APEC jeudi et a assisté à un événement Burning Man dans la soirée pour parler de l’IA et de l’art.
Il a reçu un SMS d’un autre cofondateur, le scientifique en chef Ilya Sutskever, sur le point de parler de vendredi à midi.
Vendredi midi, Altman a ouvert le lien Google Meet envoyé par Sutskovo et a découvert qu’en plus de Brockman, il y avait trois autres administrateurs indépendants. Sutskovo a dit à Altman qu’il avait été licencié et que la nouvelle serait bientôt publiée.
Selon un communiqué officiel, Altman a été démis de ses fonctions de PDG et d’administrateur en raison de son manque d’honnêteté avec le conseil d’administration. Altman a annoncé son départ d’OpenAI une heure plus tard, et a déclaré qu’il annoncerait sa prochaine étape plus tard.
À 12 h 19, Brockman a reçu un message texte de Sutskovo lui demandant de l’appeler. Quatre minutes plus tard, il a également reçu un lien Google Meet, et lorsqu’il a cliqué dessus, on lui a immédiatement dit qu’il avait été retiré du conseil d’administration, mais qu’il avait conservé son poste de président en raison de son importance pour l’entreprise. Il a également été informé qu’Ultraman avait été licencié, ce qui avait été annoncé sur le site officiel.
Selon un communiqué officiel, Brockman rendra compte à la PDG par intérim Mira Murati, qui a été promue au poste de directrice technique de la société en mai de l’année dernière. Mais lorsque Brockman apprit la nouvelle, il annonça immédiatement sa démission.
Cette nouvelle explosive a choqué toute l’entreprise, à l’exception de Mira. Elle savait déjà jeudi soir qu’elle succéderait à Ultraman en tant que PDG par intérim. OpenAI est comme une poêle à frire à l’intérieur, et Mira doit rassurer toute l’entreprise sur le fait que la coopération avec Microsoft se poursuivra. Elle a relayé les déclarations du PDG de Microsoft, Nadella, et du directeur technique, Kevin Scott, selon lesquelles ils maintiennent toujours une « confiance extrême » dans OpenAI.
Ce soir-là, trois cadres supérieurs ont démissionné, à savoir Jakub Pachocki, directeur de recherche de l’entreprise, Aleksander Madry, chef d’équipe chargé d’évaluer les risques potentiels de l’IA, et Szymon Sidor, chercheur en poste depuis sept ans. OpenAI devrait également connaître un grand nombre de démissions ce week-end.
OpenAI, qui bat son plein, traverse la plus grande crise depuis sa création il y a huit ans.
De gauche à droite : Mira, Ultraman, Brockman, Sutskovo
Conflit entre sécurité et rentabilité
Ce « coup d’État » au sein d’OpenAI, Microsoft n’a en fait rien su à l’avance jusqu’à quelques minutes avant l’annonce de la nouvelle. Comme vous pouvez l’imaginer, tous les autres investisseurs sont également dans le noir.
Cela expose la contradiction potentielle entre l’architecture à deux niveaux d’OpenAI, à but non lucratif et à but lucratif. Les investisseurs les plus importants ne sont pas en mesure de jouer un rôle dans la gouvernance de l’entreprise. Cependant, la partie à but non lucratif du conseil d’administration n’a pas d’actions, et les six administrateurs adoptent un système « une personne, une voix », ce qui masque le risque d’instabilité.
La conférence des développeurs d’OpenAI qui vient de se tenir a accéléré l’éclosion de contradictions. La relation entre le « non-profit » et le « profiteur » au sein d’OpenAI a été tendue ces derniers temps. Sutskovo, qui dirige l’équipe de recherche et développement de l’entreprise, représente un groupe à but non lucratif qui met l’accent sur la sécurité et les valeurs fondamentales d’OpenAI, tandis que le groupe à but lucratif d’Altman met l’accent sur l’accélération du développement, le lancement d’un magasin GPT personnalisé lors de la journée des développeurs et la fourniture d’assistants API pour les développeurs, le lancement d’un modèle de monétisation commerciale qui partage les revenus avec les développeurs.
Mais l’augmentation du nombre d’utilisateurs a rapidement dépassé la capacité d’OpenAI, et Ultraman a dû annoncer la suspension des nouvelles inscriptions d’utilisateurs de ChatGPT Plus. Cela a encore accru les craintes de Sutskovo quant à la sécurité.
En fait, au sein du conseil d’administration, avec Altman et Brockman d’une part, et Sutskovo et Helen Toner d’autre part, il y avait un désaccord croissant sur le rythme de développement, et les deux parties se sont éloignées.
Les autres membres du conseil d’administration étaient également en désaccord avec Altman sur certaines questions stratégiques majeures. Par exemple, Altman veut lever des dizaines de milliards de dollars auprès de fonds souverains du Moyen-Orient pour développer des puces afin de défier NVIDIA. Il a également approché Masayoshi Son, qui souhaitait utiliser l’investissement d’un milliard de dollars de SoftBank pour s’associer à l’ancien designer d’Apple, Johny Ive, afin de créer une société de matériel natif de l’IA.
Selon des personnes familières avec la question, les Sutskwers sont mécontents de la tentative d’Altman de lever des fonds avec la réputation d’OpenAI, et ils craignent que la nouvelle entreprise n’adopte pas un modèle de gouvernance approprié.
Vers 10 heures du matin jeudi, Sutskovo aurait approché trois autres directeurs et demandé à deux techniciens d’expliquer aux directeurs les graves risques de sécurité et de stabilité auxquels le système était confronté, et la réunion, qui représentait les deux tiers du conseil d’administration, aurait immédiatement pris la décision de licencier Altman.
Les partisans d’Ultraman l’ont qualifié de « coup d’État ».
Membres du conseil d’administration « inexpérimentés"
Le conseil d’administration a voté à la majorité des deux tiers des voix, et après que Sutskovo et les trois administrateurs indépendants se soient mis d’accord, la décision a été prise de licencier Altman. Cependant, il n’y a pas eu de réunion du conseil d’administration, et Brockman, en tant que président, n’a pas été avisé d’une telle réunion. Les deux fondateurs les plus importants de l’entreprise, le PDG et le président, ont été expulsés de l’entreprise lors d’une réunion Google Meet.
« Si je laisse tomber, le conseil d’administration d’OpenAI me poursuivra pour la valeur totale de toutes mes actions. "
OpenAI est probablement l’entreprise privée la plus importante aujourd’hui, et jetons un coup d’œil aux membres du conseil d’administration qui ont pris une telle décision :
Administrateur indépendant Adam D’Angelo, fondateur et PDG de Quora. Il s’est joint au conseil d’administration en avril 2018. Il pense qu’OpenAI devrait s’en tenir aux organisations à but non lucratif et contrôler la limite supérieure de la rentabilité pour s’assurer qu’elle ne devienne pas un autre géant de la technologie dans la Silicon Valley.
Tasha McCauley, une administratrice indépendante, n’a commencé son mandat en tant que scientifique principale à temps partiel à la RAND Corporation que cette année. Elle avait auparavant eu deux start-ups infructueuses, mariée à Joseph Gorden-Levitt, un acteur et entrepreneur juif bien connu. Elle est activement impliquée dans le mouvement de l’altruisme efficace.
Helen Toner, une administratrice indépendante qui a rejoint le conseil d’administration en septembre 2021, est directrice des subventions de recherche stratégique et fondamentale au Center for Security and Emerging Technologies (CSET) de l’Université de Georgetown. Elle était auparavant chercheuse en politiques chez Open Philanthropy, une organisation qui a fait des dons à OpenAI, et avant de rejoindre le CSET, un groupe de réflexion qui a joué un rôle important dans la recherche sur l’IA et la politique géopolitique entre les États-Unis et la Chine, elle a vécu à Pékin et a étudié l’écosystème d’innovation en IA de la Chine.
Helen et Tasha ont également rejoint le Centre for Artificial Intelligence Governance (GovAI) du Royaume-Uni, qui se concentre sur les menaces que les systèmes d’IA généraux peuvent faire peser sur la sécurité.
Sutskovo est devenu le seul cofondateur restant de l’entreprise. Né en Russie et ayant immigré au Canada en provenance d’Israël, il est un étudiant au doctorat de Geoffrey Hinton, le père de l’apprentissage profond, et a travaillé avec DeepMind, Google AI, OpenAI, et au cours de la dernière décennie, il a été à l’avant-garde de l’apprentissage par renforcement et de l’apprentissage profond, poussant l’intelligence artificielle générale dans un tout nouveau domaine.
Il a préconisé l’établissement d’un superalignement avec les humains dans le processus de construction d’une super-intelligence artificielle. Il dirige l’équipe pour utiliser 20 % de la puissance de calcul d’OpenAI afin d’établir un mécanisme de surveillance intégré avant que l’IA ne devienne plus intelligente que les humains. S’exprimant récemment sur les réseaux sociaux, il a averti : « Si vous prenez la valeur de l’intelligence au-dessus de toutes les autres qualités de la race humaine, vous subirez de terribles conséquences. » "
Au sein du conseil d’administration, Altman et Sutskovo ont eu un vif conflit sur la façon dont OpenAI devrait équilibrer la sécurité et gagner de l’argent. Altman préconise de promouvoir des applications commerciales, d’essayer d’étendre la portée commerciale d’OpenAI et demande le prochain tour de financement, tandis que Sutskovo estime qu’il est impossible de se précipiter pour faire du profit en insistant sur la recherche sur l’intelligence artificielle générale qui soit sûre et bénéfique pour l’humanité.
Ce sont ces quatre directeurs d’OpenAI qui ont chassé les deux autres directeurs en même temps, et ils étaient des cofondateurs très reconnus, ce qui a été critiqué par de nombreux entrepreneurs et institutions d’investissement de la Silicon Valley.
Ils ont commencé par s’interroger sur le manque d’expérience d’un membre du conseil d’administration pour siéger au conseil d’administration d’une entreprise aussi importante. Comparé aux premiers membres du conseil d’administration d’OpenAI, tels que Musk, le fondateur de LinkedIn Hoffman, l’investisseur en hard tech Vinod Khosla et d’autres fondateurs classiques de la Silicon Valley, le conseil d’administration actuel est faible et est également décrit par les médias de la Silicon Valley comme ayant un certain « altruisme efficace ».
Deuxièmement, pour un événement d’une telle ampleur, les anciens dirigeants d’OpenAI et les investisseurs les plus importants ont été tenus dans l’ignorance. En particulier, Microsoft a investi des dizaines de milliards de dollars dans OpenAI, qui n’était connu que quelques minutes avant la publication de la nouvelle. Sans parler des autres investisseurs, qui comprennent presque toutes les grandes institutions d’investissement de la Silicon Valley et du monde entier.
Le PDG de Microsoft, Nadella, a immédiatement fait une déclaration sur son blog : Microsoft a un accord à long terme avec OpenAI et peut tout utiliser (technologie) et continuera à travailler avec Mira pour faire progresser la stratégie d’IA.
Contradictions inhérentes à la structure de gouvernance
Quelle qu’en soit la raison, Altman et Brockman sont les fondateurs les plus importants d’OpenAI, et ils ont été victimes de la structure de gouvernance qu’ils ont conçue.
OpenAI a été fondée en 2015 en tant qu’organisation à but non lucratif. Son objectif est de construire un système général d’IA qui respecte et dépasse le niveau humain, qui soit ouvert et qui profite à l’humanité.
Plus tard, en raison des fonds d’un milliard de dollars promis par Musk et d’autres, seuls plus de 100 millions de dollars étaient en place, le coût de la puissance de calcul avancée et des talents de première classe était énorme, et la recherche et les opérations de l’entreprise n’étaient pas viables, il a donc été décidé de créer une filiale à but lucratif, OpenAI Global LLC, qui est entièrement contrôlée par l’organisation à but non lucratif OpenAI.
OpenAI Global peut lever des fonds à l’extérieur, mais il fixe un plafond de distribution des bénéfices pour les investisseurs. Selon les révélations des médias, la distribution des bénéfices d’OpenAI peut être divisée en quatre étapes : une fois le bénéfice généré, les premiers investisseurs tels que Musk seront retirés, 75 % du bénéfice suivant sera alloué à Microsoft jusqu’à ce que Microsoft récupère son investissement de 13 milliards de dollars, et une fois que le bénéfice aura atteint 92 milliards de dollars, la participation de Microsoft tombera à 49 % Les bénéfices restants seront partagés entre d’autres investisseurs en capital-risque et les employés d’OpenAI, et lorsque les bénéfices atteindront 150 milliards de dollars, les capitaux propres de Microsoft et d’autres investisseurs en capital-risque seront transférés gratuitement au fonds à but non lucratif d’OpenAI.
Parmi eux, l’investisseur le plus important est, bien sûr, Microsoft, qui a investi dans OpenAI à trois reprises en 2019, 2021 et 2023, avec un investissement cumulé de plusieurs dizaines de milliards de dollars. Mais en fin de compte, Microsoft ne possède aucune participation dans OpenAI, mais ressemble plus à un partenaire commercial, y compris Microsoft a un accès exclusif à toute la technologie d’OpenAI, OpenAI utilise le cloud Azure de Microsoft pour entraîner ses modèles de base, et les services fournis via son API utilisent tous le cloud de Microsoft et ainsi de suite.
Le financement de Microsoft, les services cloud et la coopération commerciale entre Microsoft et OpenAI dans les applications ont tous joué un rôle clé dans la capacité d’OpenAI à se concentrer sur la recherche de grands modèles de langage pendant une période allant jusqu’à huit ans, et enfin à faire des percées.
Mais le partenariat d’OpenAI avec Microsoft a également été critiqué par beaucoup comme un écart par rapport à ses intentions initiales, le transformant d’un institut de recherche indépendant et à but non lucratif sur l’intelligence artificielle en un pion stratégique d’un géant de la technologie, promettant d’ouvrir ses modèles sous-jacents, mais depuis GPT-3, il est devenu de plus en plus fermé. En tant que donateur majeur du cofondateur d’OpenAI, Musk a été vivement critiqué. Les principaux employés d’OpenAI sont également partis pour créer de nouvelles entreprises, comme Anthropic, le principal concurrent d’OpenAI.
ChatGPT d’OpenAI, lancé il y a un an, a stupéfié le monde en perçant la fenêtre de l’intelligence artificielle générale, mais les risques qu’il peut comporter ont également suscité une énorme controverse et accéléré la recherche et la formulation de systèmes de gouvernance nationaux et transnationaux.
Selon l’architecture d’OpenAI, les six membres du conseil d’administration peuvent « déterminer quand nous avons atteint l’intelligence artificielle générale (AGI) ».
Bien qu’il y ait beaucoup de controverse sur l’intelligence artificielle générale, OpenAI a proposé une définition : l’intelligence artificielle générale fait référence à un système hautement autonome qui surpasse les humains dans la plupart des emplois économiquement précieux. Altman et d’autres croyaient autrefois que d’ici dix ans, l’humanité atteindrait l’intelligence artificielle générale.
Et une fois que ce conseil d’administration aura déterminé qu’OpenAI a atteint l’intelligence artificielle générale, il retirera son utilisation exclusive et sa coopération avec les institutions commerciales et l’utilisera pour l’ensemble de la race humaine. Parmi eux, il est mentionné dans la clause concernant Microsoft : « Un tel système n’est pas inclus dans la licence de propriété intellectuelle et les autres conditions commerciales avec Microsoft, qui ne s’appliquent qu’aux technologies antérieures à l’IA générale. » "
Du point de vue de l’architecture de conception, le conseil d’administration d’OpenAI, une organisation à but non lucratif, a le pouvoir suprême.
OpenAI est toujours dans le rouge, mais son chiffre d’affaires augmente rapidement, avec un chiffre d’affaires annualisé de 1,3 milliard de dollars et peut-être des milliards de dollars l’année prochaine. Lors de ce tour de financement au début de l’année, OpenAI était évalué à 29 milliards de dollars.
À l’heure actuelle, OpenAI mène un nouveau cycle de financement d’une valorisation de 86 milliards de dollars pour préparer des fonds pour sa formation de GPT-5, dans laquelle la formation à l’alignement deviendra plus importante.
Les startups abandonnent leurs fondateurs et sont une histoire récurrente dans la Silicon Valley. Apple a licencié Steve Jobs en 1985 et Twitter a licencié le cofondateur Jack Dorsey en 2008. Finalement, ils sont tous revenus pour mener leurs entreprises à la gloire.
Mais le départ d’Altman pourrait avoir un impact plus important sur l’industrie qu’il représente. L’IA générative pourrait-elle être frustrée par cela ? Pas nécessairement !
L’impact de l’IA générative va bien au-delà du développement de modèles plus grands, plus avancés et plus sûrs. La révolution qu’elle a déclenchée ne fait que commencer.
Peut-être que la mission d’Altman et Brockman chez OpenAI a été accomplie. L’IA générative passe du laboratoire à un large éventail d’industries. Ils auront toujours les meilleurs talents, y compris les employés d’OpenAI, et il y aura toujours des milliards, voire des dizaines de milliards de dollars d’investissements de la Silicon Valley dans le monde. La porte de l’IA générative s’ouvre.
OpenAI s’en tiendra à son intention initiale et recherchera une intelligence artificielle générale sûre pour l’humanité. Il n’a peut-être plus l’imagination commerciale qu’apporte Ultraman, mais il a encore besoin de beaucoup d’investissements pour soutenir ses recherches. Après tout, la valeur d’OpenAI n’est peut-être pas de devenir un autre géant de la technologie, mais de devenir une entreprise à impact social qui se tient aux côtés des géants de la technologie, ouvrant le potentiel de l’IA générative à d’innombrables chercheurs, entrepreneurs, développeurs et utilisateurs. Il devrait être agréable de voir la structure de gouvernance unique d’OpenAI aller plus loin.
« Merci de nous rapprocher de l’avenir. Brockman a reçu une telle réponse sur les médias sociaux.