Pourquoi Google a-t-il perdu son avance dans la vague de la révolution de l’IA ? Récemment, Jim Fan, scientifique de NVIDIA, a retweeté un article de blog du fondateur de Socratic, qui donne un aperçu rare du fonctionnement interne de Google.
Dans la vague actuelle de l’intelligence artificielle, des entreprises émergentes comme OpenAI sont à la pointe de la révolution.
Certains des éléments clés de GPT, Transformer, l’apprentissage par renforcement (AlphaGo) et la multimodalité (Flamingo) ont tous été inventés par Google.
Alors pourquoi Google, le géant de la technologie, est-il un peu obscurci dans le monde étoilé d’aujourd’hui ?
Récemment, Jim Fan a retweeté un article de blog du fondateur de Socratic, Shryans Bhansali, et nous pourrions être en mesure d’avoir un aperçu de la raison pour laquelle Shryans l’a fait.
Socratic a été fondée en 2013 et son produit principal est une application de « recherche de photos », qui a été acquise par Google en 2018.
À cette époque de prospérité sans précédent de l’industrie de l’Internet, d’innombrables entrepreneurs se sont lancés dans la vague avec des rêves et des ambitions. Shryans est l’un d’entre eux, et l’un des gagnants.
Aujourd’hui, on parle davantage de la situation économique, des attentes du marché et de la recherche d’emploi.
De même, lorsque Socratic a été racheté par Google et que Shryans est devenu un employé, comment a-t-il vu son travail et fait avancer ses rêves ?
Monologue d’un entrepreneur
En 2017, lorsque nous avons commencé à lever des fonds de série B pour Socratic, nous avons rapidement réalisé que nous allions perdre de l’utilisation au détriment des revenus.
Toutes les sociétés de capital-risque nous ont demandé un plan de monétisation, nous avons donc conclu qu’une application éducative axée sur les lycéens sans carte de crédit ne serait pas une grosse affaire.
Le cofondateur de l’entreprise, Chris Pedregal, qui travaillait auparavant chez Google, a renoué avec ses anciens managers, et notre vision d’une gouvernante axée sur l’apprentissage et alimentée par l’IA était une coïncidence complète.
Peut-être était-ce parce que nous venions de remporter le prix de la « meilleure application » de Google en 2017, et peu de temps après cette réunion, nous avons entamé un processus qui a abouti à l’acquisition de Socratic par Google en mars 2018.
Nous avons fusionné avec une équipe existante de la même taille, composée de plusieurs employés de longue date de Google. Chris et moi sommes devenus responsables des produits et de l’ingénierie, responsables de la création de mentors alimentés par l’IA et de l’intégration de ces fonctionnalités au plus grand produit de Google.
Au cours des trois années suivantes, nous avons reconstruit Socratic, l’avons rebaptisé « Socratic by Google » et l’avons rendu disponible dans la recherche et Lens, ainsi que des fonctionnalités telles qu’un solveur mathématique et un prototype de didacticiel mathématique étape par étape.
Travailler chez Google
En cours de route, j’ai appris plusieurs choses :
Travailler chez Google, c’est comme avoir un deuxième passeport. Rendez-vous dans n’importe quelle grande ville du monde et votre badge ouvrira un magnifique bureau avec de la nourriture délicieuse, un bureau et des connexions haut débit à tous les membres du réseau Google de plus de 200 000 personnes.
Y compris l’accès à leur monorepo géant, qui contient des milliards de lignes de code couvrant la quasi-totalité de leurs produits. État en temps réel des centres de données dans le monde. Un document stratégique qui s’étend sur deux décennies.
Google fait les choses à la manière de Google. La quasi-totalité des logiciels et de l’infrastructure utilisés par Google ont été construits chez Google, ce qui est une conséquence naturelle de la confrontation avec les problèmes d’ingénierie les plus difficiles plus tôt que la plupart des entreprises.
À l’échelle de Google, le monde extérieur n’existe plus, et ce n’est qu’en de rares occasions qu’il est soigneusement autorisé à entrer dans leurs murs.
Cela signifie qu’il nous est impossible de conserver la base de code existante. Nous devions repartir de zéro, redévelopper notre produit avec une nouvelle équipe, puis reconstruire notre application sur la pile de Google.
La mascotte de notre application, Ceebo, brise le moule de Google. Jetez un coup d’œil à l’ensemble d’icônes de l’application Google et vous verrez qu’il n’y a que quatre couleurs et formes simples. C’est faisable pour eux, mais c’est inintéressant pour nous.
Ils étaient contre (« Nous n’allons pas anthropomorphiser »), et nous étions contre (« Vous allez anthropomorphiser Android ! »), jusqu’à ce que nous l’obtenions finalement parce que nous étions trop petits pour être importants.
Ceebo continue d’exister en tant qu’icône de notre application et brille au sein de Google, qui a conçu des dizaines de variantes pour elle, et Ceebo est également apparu dans les documents et le site Web de Google.
Des choses simples peuvent sembler incroyables lorsque vous les faites à plusieurs reprises. La refonte de l’architecture de notre système de classification des requêtes avec des vétérans de la recherche nous a permis de mieux comprendre le processus de création de la recherche elle-même.
D’une part, la profondeur des outils de recherche d’informations est incroyable, et la capacité de calculer et d’ajouter de nouveaux signaux à chaque page sur Internet est incroyable.
D’autre part, nous avons constaté que la plupart des améliorations apportées à la recherche ont été apportées par des ingénieurs comparant les anciens et les nouveaux résultats « côte à côte »... Révision manuelle sur une feuille de calcul !
On pourrait penser que l’ingénierie de Google consiste principalement à mettre en œuvre des algorithmes de niveau doctorat, et bien que cela soit parfois vrai, une grande partie du travail d’un ingénieur en recherche ou en IA consiste à examiner des exemples, à repérer des modèles, à annoter des données à la main et à les analyser dans un fouillis de données. Cela semble être une représentation universellement vraie des meilleures équipes d’IA.
L’une des tendances que j’ai remarquées est que les bons chercheurs en IA sont prêts à examiner manuellement de grandes quantités de données. Non seulement cela, mais ils ont également construit une infrastructure qui leur a permis de vérifier rapidement et manuellement les données. L’examen manuel des données, bien qu’il ne soit pas glamour, peut fournir une intuition précieuse sur le problème.
La plupart des problèmes avec 10 à 50 millions d’utilisateurs ne valent pas le temps de Google et ne correspondent pas à leur stratégie. Mais pour les problèmes qui correspondent à leur essence, à leur stratégie et aux objectifs de promotion de quelqu’un, ils se donnent beaucoup de mal pour les résoudre.
Un exemple de ceci est que la vision par ordinateur est une partie importante de l’interface de Socratic, en particulier la capacité de lire du texte et des mathématiques dans des images.
En tant que start-up, nous utilisions un outil tiers, mais il était trop difficile à utiliser dans Google en raison de données sensibles, d’attentes en matière d’évolutivité et d’un processus complexe de vérification des fournisseurs.
Parfois, il est plus facile d’acquérir une entreprise et d’internaliser la technologie. D’autres fois, comme dans notre cas, nous avons embauché un doctorant de haut niveau pour travailler sur le problème et avons livré une API de reconnaissance mathématique de classe mondiale dans les 6 mois.
Google est un site Web avec des objectifs et des efforts en constante évolution. Chez Google, il est possible de réaliser des choses étonnantes avec les bonnes personnes sur leur radar.
Un vice-président qui le comprend, une équipe de recherche avec une charte ou quelqu’un qui s’aligne sur les objectifs de l’organisation. S’occuper de ces intérêts déroutants est la moitié du travail d’un chef de projet. Ensuite, vous devrez également être pris en charge par des approbateurs pour des éléments tels que la confidentialité, la confiance, la sécurité et l’infrastructure. Il faut des dizaines de conversations pour savoir si une idée est viable, et des centaines de conversations pour la concrétiser, mais le processus est joyeux.
Les objectifs de l’équipe peuvent changer d’un trimestre à l’autre, et des équipes entières peuvent disparaître lors d’une réorganisation, un phénomène si courant que les Googlers peuvent voir la comédie à travers la tragédie.
En supposant que vous ayez résolu tous ces problèmes et que vous vous réveilliez, vous constaterez peut-être que pendant que vous travaillez sur votre propre projet, deux équipes éloignées travaillent sur la même idée, et qu’il est maintenant temps de se battre, car il ne reste qu’une seule équipe pour continuer à travailler.
Les Googleurs veulent faire du bon travail, mais ne le peuvent souvent pas. Il y a sans aucun doute des gens qui travaillent 3 heures par jour pour manger à leur faim, puis profiter d’une retraite anticipée, mais toutes les personnes que j’ai rencontrées étaient des gens sérieux, travailleurs et qui voulaient faire du bon travail.
Ce qui les vainc, c’est l’enroulement de la censure, les révisions fréquentes, les cicatrices institutionnelles des échecs passés et la complexité de faire des choses simples sur la scène mondiale. Il y a beaucoup de problèmes que les startups peuvent ignorer, et peu de Googlers peuvent le faire.
Les gens sont aussi un problème en eux-mêmes – toutes les personnes intelligentes peuvent réfuter n’importe quoi mais ne pas soutenir quelque chose, tous les dirigeants n’ont pas le courage de dire des vérités inconfortables, toutes les personnes embauchées n’ont pas de projet de travail clair, mais elles doivent toujours être retenues par des emplois fictifs qui ont la valeur d’une promotion.
Il est difficile de s’y retrouver dans une organisation de haut niveau : une équipe de plusieurs cofondateurs et vétérans qui travaillent chez Google depuis 10 à 20 ans peut sembler être une recette pour de grandes choses, mais c’est aussi une recette pour l’impasse.
S’il y a plusieurs domaines à explorer, des objectifs clairs et un fort sentiment d’autonomie pour poursuivre ces voies, alors cette structure peut fonctionner.
Mais si vous voulez développer un produit unifié, vous devez avoir un leader clair, une direction claire et plus d’acteurs que de penseurs. De manière contre-intuitive, l’ajout de personnel à un projet en phase de démarrage ne le fait pas avancer plus rapidement.
De plus, la dette technique est réelle. Une bonne équipe fait régulièrement le ménage les jours calmes pour rembourser ses dettes.
Il en va de même pour la dette de processus : surveillance accrue en raison d’erreurs de publication, nouvelles vérifications juridiques pour se protéger contre d’éventuels litiges et ajout d’une section au modèle de document. Au fil des ans, les couches se sont accumulées jusqu’à ce qu’une nouvelle fonctionnalité soit prête depuis des mois et ne puisse toujours pas être publiée parce qu’elle était coincée entre les critiques et qu’il n’y avait pas d’issue.
Google a récemment modifié son processus fastidieux d’évaluation des performances, passant de deux fois par an à une fois par an, et de long à court, dans l’espoir de le réduire de plus de 30 % du temps d’un manager en un an à moins de 10 %.
Parfois, des menaces externes peuvent forcer une entreprise à apporter des changements ou la pousser au déclin. Google a inventé la technologie derrière ChatGPT, mais ce n’est pas la société qui a lancé le produit. Aujourd’hui, Google veut retrouver sa position de leader dans le domaine de l’intelligence artificielle, tout en se prémunissant contre tous les problèmes possibles.
Le « jeu » de Google
Chez Google, il est possible d’obtenir des résultats incroyables si vous jouez au bon jeu.
Google avait l’habitude d’avoir un ensemble de valeurs internes qu’ils appelaient les « trois respects » : le respect des utilisateurs, le respect des autres et le respect des opportunités. Les deux premiers sont faciles à comprendre, mais le troisième confond la plupart des gens.
Mon explication est la suivante : vous êtes chez Google, qui est une entreprise lucrative et remplie de talents. Vous avez un bon revenu, vous n’avez pas à vous soucier de la nourriture et des vêtements, et vous vivez dans la Silicon Valley, le paradis de l’éternel printemps. Quelle est la meilleure chose que vous puissiez faire avec cette chance folle ?
Vous devez trouver le problème le plus important dans votre domaine et le résoudre à tout prix.
En pratique, cela signifie qu’il faut d’abord vous faire le travail. Une fois que vous aurez pris le contrôle, vous devrez vous plonger profondément dans le vaste réseau de Google, comprendre ce qui est planifié et inventé, condenser une image claire de l’avenir, la façonner grâce à de la documentation et des présentations, trouver des dirigeants qui correspondent à cette image et vendre vos idées de la manière la plus cohérente possible.
À un moment donné, nous avons tous les trois passé quelques mois à faire une démonstration de didacticiel mathématique étape par étape basée sur le nouveau solveur mathématique. Cette démo donne une forme concrète à notre vision du coaching intelligent – elle a un lien qui peut être utilisé, qui peut être partagé. Cela a permis d’ancrer la conversation, de permettre aux gens de faire des réponses spécifiques, et de passer à l’extérieur de notre équipe, de discuter de manière indépendante, puis de nous guider.
De nombreuses acquisitions ont échoué. L’histoire de Socratic est mitigée. D’une part, nous avons réussi à fusionner deux cultures très différentes, notre produit s’est poursuivi et s’est développé pour répondre à environ 5 milliards de requêtes par an, et l’activité de l’équipe Socratic a prospéré.
D’autre part, Chris et moi avons tous les deux quitté Google pour créer des startups, et ni l’équipe Socratic ni l’ensemble de l’équipe Google n’ont encore développé d’outil de coaching IA qui corresponde aux capacités de Google. Pourtant, quelques employés de Google de l’équipe Socratic pourraient y arriver.
Ressources:
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Pourquoi Google a-t-il perdu face à OpenAI ?
Source : Nouveau Zhiyuan
Pourquoi Google a-t-il perdu son avance dans la vague de la révolution de l’IA ? Récemment, Jim Fan, scientifique de NVIDIA, a retweeté un article de blog du fondateur de Socratic, qui donne un aperçu rare du fonctionnement interne de Google.
Dans la vague actuelle de l’intelligence artificielle, des entreprises émergentes comme OpenAI sont à la pointe de la révolution.
Alors pourquoi Google, le géant de la technologie, est-il un peu obscurci dans le monde étoilé d’aujourd’hui ?
Socratic a été fondée en 2013 et son produit principal est une application de « recherche de photos », qui a été acquise par Google en 2018.
À cette époque de prospérité sans précédent de l’industrie de l’Internet, d’innombrables entrepreneurs se sont lancés dans la vague avec des rêves et des ambitions. Shryans est l’un d’entre eux, et l’un des gagnants.
Aujourd’hui, on parle davantage de la situation économique, des attentes du marché et de la recherche d’emploi.
De même, lorsque Socratic a été racheté par Google et que Shryans est devenu un employé, comment a-t-il vu son travail et fait avancer ses rêves ?
Monologue d’un entrepreneur
En 2017, lorsque nous avons commencé à lever des fonds de série B pour Socratic, nous avons rapidement réalisé que nous allions perdre de l’utilisation au détriment des revenus.
Toutes les sociétés de capital-risque nous ont demandé un plan de monétisation, nous avons donc conclu qu’une application éducative axée sur les lycéens sans carte de crédit ne serait pas une grosse affaire.
Le cofondateur de l’entreprise, Chris Pedregal, qui travaillait auparavant chez Google, a renoué avec ses anciens managers, et notre vision d’une gouvernante axée sur l’apprentissage et alimentée par l’IA était une coïncidence complète.
Peut-être était-ce parce que nous venions de remporter le prix de la « meilleure application » de Google en 2017, et peu de temps après cette réunion, nous avons entamé un processus qui a abouti à l’acquisition de Socratic par Google en mars 2018.
Au cours des trois années suivantes, nous avons reconstruit Socratic, l’avons rebaptisé « Socratic by Google » et l’avons rendu disponible dans la recherche et Lens, ainsi que des fonctionnalités telles qu’un solveur mathématique et un prototype de didacticiel mathématique étape par étape.
Travailler chez Google
En cours de route, j’ai appris plusieurs choses :
Travailler chez Google, c’est comme avoir un deuxième passeport. Rendez-vous dans n’importe quelle grande ville du monde et votre badge ouvrira un magnifique bureau avec de la nourriture délicieuse, un bureau et des connexions haut débit à tous les membres du réseau Google de plus de 200 000 personnes.
Y compris l’accès à leur monorepo géant, qui contient des milliards de lignes de code couvrant la quasi-totalité de leurs produits. État en temps réel des centres de données dans le monde. Un document stratégique qui s’étend sur deux décennies.
Google fait les choses à la manière de Google. La quasi-totalité des logiciels et de l’infrastructure utilisés par Google ont été construits chez Google, ce qui est une conséquence naturelle de la confrontation avec les problèmes d’ingénierie les plus difficiles plus tôt que la plupart des entreprises.
À l’échelle de Google, le monde extérieur n’existe plus, et ce n’est qu’en de rares occasions qu’il est soigneusement autorisé à entrer dans leurs murs.
Cela signifie qu’il nous est impossible de conserver la base de code existante. Nous devions repartir de zéro, redévelopper notre produit avec une nouvelle équipe, puis reconstruire notre application sur la pile de Google.
Ils étaient contre (« Nous n’allons pas anthropomorphiser »), et nous étions contre (« Vous allez anthropomorphiser Android ! »), jusqu’à ce que nous l’obtenions finalement parce que nous étions trop petits pour être importants.
Ceebo continue d’exister en tant qu’icône de notre application et brille au sein de Google, qui a conçu des dizaines de variantes pour elle, et Ceebo est également apparu dans les documents et le site Web de Google.
D’une part, la profondeur des outils de recherche d’informations est incroyable, et la capacité de calculer et d’ajouter de nouveaux signaux à chaque page sur Internet est incroyable.
D’autre part, nous avons constaté que la plupart des améliorations apportées à la recherche ont été apportées par des ingénieurs comparant les anciens et les nouveaux résultats « côte à côte »... Révision manuelle sur une feuille de calcul !
On pourrait penser que l’ingénierie de Google consiste principalement à mettre en œuvre des algorithmes de niveau doctorat, et bien que cela soit parfois vrai, une grande partie du travail d’un ingénieur en recherche ou en IA consiste à examiner des exemples, à repérer des modèles, à annoter des données à la main et à les analyser dans un fouillis de données. Cela semble être une représentation universellement vraie des meilleures équipes d’IA.
L’une des tendances que j’ai remarquées est que les bons chercheurs en IA sont prêts à examiner manuellement de grandes quantités de données. Non seulement cela, mais ils ont également construit une infrastructure qui leur a permis de vérifier rapidement et manuellement les données. L’examen manuel des données, bien qu’il ne soit pas glamour, peut fournir une intuition précieuse sur le problème.
Un exemple de ceci est que la vision par ordinateur est une partie importante de l’interface de Socratic, en particulier la capacité de lire du texte et des mathématiques dans des images.
En tant que start-up, nous utilisions un outil tiers, mais il était trop difficile à utiliser dans Google en raison de données sensibles, d’attentes en matière d’évolutivité et d’un processus complexe de vérification des fournisseurs.
Parfois, il est plus facile d’acquérir une entreprise et d’internaliser la technologie. D’autres fois, comme dans notre cas, nous avons embauché un doctorant de haut niveau pour travailler sur le problème et avons livré une API de reconnaissance mathématique de classe mondiale dans les 6 mois.
Google est un site Web avec des objectifs et des efforts en constante évolution. Chez Google, il est possible de réaliser des choses étonnantes avec les bonnes personnes sur leur radar.
Les objectifs de l’équipe peuvent changer d’un trimestre à l’autre, et des équipes entières peuvent disparaître lors d’une réorganisation, un phénomène si courant que les Googlers peuvent voir la comédie à travers la tragédie.
En supposant que vous ayez résolu tous ces problèmes et que vous vous réveilliez, vous constaterez peut-être que pendant que vous travaillez sur votre propre projet, deux équipes éloignées travaillent sur la même idée, et qu’il est maintenant temps de se battre, car il ne reste qu’une seule équipe pour continuer à travailler.
Les Googleurs veulent faire du bon travail, mais ne le peuvent souvent pas. Il y a sans aucun doute des gens qui travaillent 3 heures par jour pour manger à leur faim, puis profiter d’une retraite anticipée, mais toutes les personnes que j’ai rencontrées étaient des gens sérieux, travailleurs et qui voulaient faire du bon travail.
Ce qui les vainc, c’est l’enroulement de la censure, les révisions fréquentes, les cicatrices institutionnelles des échecs passés et la complexité de faire des choses simples sur la scène mondiale. Il y a beaucoup de problèmes que les startups peuvent ignorer, et peu de Googlers peuvent le faire.
Les gens sont aussi un problème en eux-mêmes – toutes les personnes intelligentes peuvent réfuter n’importe quoi mais ne pas soutenir quelque chose, tous les dirigeants n’ont pas le courage de dire des vérités inconfortables, toutes les personnes embauchées n’ont pas de projet de travail clair, mais elles doivent toujours être retenues par des emplois fictifs qui ont la valeur d’une promotion.
S’il y a plusieurs domaines à explorer, des objectifs clairs et un fort sentiment d’autonomie pour poursuivre ces voies, alors cette structure peut fonctionner.
Mais si vous voulez développer un produit unifié, vous devez avoir un leader clair, une direction claire et plus d’acteurs que de penseurs. De manière contre-intuitive, l’ajout de personnel à un projet en phase de démarrage ne le fait pas avancer plus rapidement.
De plus, la dette technique est réelle. Une bonne équipe fait régulièrement le ménage les jours calmes pour rembourser ses dettes.
Il en va de même pour la dette de processus : surveillance accrue en raison d’erreurs de publication, nouvelles vérifications juridiques pour se protéger contre d’éventuels litiges et ajout d’une section au modèle de document. Au fil des ans, les couches se sont accumulées jusqu’à ce qu’une nouvelle fonctionnalité soit prête depuis des mois et ne puisse toujours pas être publiée parce qu’elle était coincée entre les critiques et qu’il n’y avait pas d’issue.
Google a récemment modifié son processus fastidieux d’évaluation des performances, passant de deux fois par an à une fois par an, et de long à court, dans l’espoir de le réduire de plus de 30 % du temps d’un manager en un an à moins de 10 %.
Parfois, des menaces externes peuvent forcer une entreprise à apporter des changements ou la pousser au déclin. Google a inventé la technologie derrière ChatGPT, mais ce n’est pas la société qui a lancé le produit. Aujourd’hui, Google veut retrouver sa position de leader dans le domaine de l’intelligence artificielle, tout en se prémunissant contre tous les problèmes possibles.
Le « jeu » de Google
Chez Google, il est possible d’obtenir des résultats incroyables si vous jouez au bon jeu.
Google avait l’habitude d’avoir un ensemble de valeurs internes qu’ils appelaient les « trois respects » : le respect des utilisateurs, le respect des autres et le respect des opportunités. Les deux premiers sont faciles à comprendre, mais le troisième confond la plupart des gens.
Mon explication est la suivante : vous êtes chez Google, qui est une entreprise lucrative et remplie de talents. Vous avez un bon revenu, vous n’avez pas à vous soucier de la nourriture et des vêtements, et vous vivez dans la Silicon Valley, le paradis de l’éternel printemps. Quelle est la meilleure chose que vous puissiez faire avec cette chance folle ?
En pratique, cela signifie qu’il faut d’abord vous faire le travail. Une fois que vous aurez pris le contrôle, vous devrez vous plonger profondément dans le vaste réseau de Google, comprendre ce qui est planifié et inventé, condenser une image claire de l’avenir, la façonner grâce à de la documentation et des présentations, trouver des dirigeants qui correspondent à cette image et vendre vos idées de la manière la plus cohérente possible.
À un moment donné, nous avons tous les trois passé quelques mois à faire une démonstration de didacticiel mathématique étape par étape basée sur le nouveau solveur mathématique. Cette démo donne une forme concrète à notre vision du coaching intelligent – elle a un lien qui peut être utilisé, qui peut être partagé. Cela a permis d’ancrer la conversation, de permettre aux gens de faire des réponses spécifiques, et de passer à l’extérieur de notre équipe, de discuter de manière indépendante, puis de nous guider.
D’autre part, Chris et moi avons tous les deux quitté Google pour créer des startups, et ni l’équipe Socratic ni l’ensemble de l’équipe Google n’ont encore développé d’outil de coaching IA qui corresponde aux capacités de Google. Pourtant, quelques employés de Google de l’équipe Socratic pourraient y arriver.
Ressources: