Hasta el viernes por la noche, Greg Brockman, cofundador, presidente y presidente de OpenAI, estaba en medio de cinco tormentas eléctricas. Necesita mirar hacia atrás y ver lo que sucedió en las últimas 24 horas.
Ocurre un "golpe de Estado"
La semana pasada, San Francisco y el Área de la Bahía de San Francisco se llenaron de un ambiente animado de la cumbre de APEC, especialmente la reunión entre los jefes de Estado de los dos principales países.
El cofundador y CEO de OpenAI, Sam Altman, apareció en la cumbre empresarial de APEC el jueves y asistió a un evento de Burning Man por la noche para hablar sobre IA y arte.
Recibió un mensaje de texto de otro cofundador, el científico jefe Ilya Sutskever, a punto de hablar sobre el viernes al mediodía.
Al mediodía del viernes, Altman abrió el enlace de Google Meet enviado por Sutskovo y descubrió que, además de Brockman, había otros tres directores independientes. Sutskovo le dijo a Altman que había sido despedido y que la noticia se daría a conocer pronto.
Según un comunicado oficial, Altman fue destituido de su cargo como CEO y director debido a su falta de honestidad con la junta directiva. Altman anunció su salida de OpenAI una hora después, y dijo que anunciaría su próximo paso más tarde.
A las 12:19, Brockman recibió un mensaje de texto de Sutskovo pidiéndole una llamada telefónica rápida. Cuatro minutos después, también recibió un enlace de Google Meet, y cuando hizo clic en él, inmediatamente le dijeron que había sido destituido de la junta directiva, pero que había conservado su puesto como presidente debido a su importancia para la empresa. También se le dijo que Ultraman había sido despedido, lo que se había anunciado en el sitio web oficial.
Según un comunicado oficial, Brockman reportará a la directora ejecutiva interina Mira Murati, quien fue ascendida a directora de tecnología de la compañía en mayo del año pasado. Pero cuando Brockman escuchó la noticia, inmediatamente anunció su renuncia.
Esta explosiva noticia conmocionó a toda la empresa, excepto a Mira. Ya sabía el jueves por la noche que sucedería a Ultraman como directora ejecutiva interina. OpenAI es como una sartén por dentro, y Mira tiene que asegurar a toda la empresa que la cooperación con Microsoft continuará. Transmitió las declaraciones del CEO de Microsoft, Nadella, y del CTO, Kevin Scott, de que todavía mantienen una "confianza extrema" en OpenAI.
Esa noche, tres altos cargos dimitieron, a saber, Jakub Pachocki, director de investigación de la empresa, Aleksander Madry, jefe del equipo responsable de evaluar los riesgos potenciales de la IA, y Szymon Sidor, investigador que trabaja desde hace siete años. También se espera que OpenAI vea un gran número de renuncias este fin de semana.
OpenAI, que está en pleno apogeo, se encuentra en la mayor crisis desde su creación hace ocho años.
De izquierda a derecha: Mira, Ultraman, Brockman, Sutskovo
Conflicto entre seguridad y rentabilidad
Este "golpe" dentro de OpenAI, Microsoft en realidad no sabía nada de antemano hasta unos minutos antes de que se anunciara la noticia. Como puedes imaginar, todos los demás inversores también están a oscuras.
Esto expone la contradicción potencial entre la arquitectura de dos niveles sin fines de lucro y con fines de lucro de OpenAI. Los inversores más importantes no son capaces de desempeñar un papel en el gobierno de la empresa. Sin embargo, la parte no lucrativa existente de la junta directiva no tiene acciones, y los seis directores adoptan un sistema de una persona, un voto, que oculta el riesgo de inestabilidad.
La conferencia de desarrolladores de OpenAI que acaba de celebrarse aceleró el estallido de contradicciones. La relación entre la "organización sin fines de lucro" y el "creador de ganancias" dentro de OpenAI se ha tensado últimamente. Sutskovo, quien lidera el equipo de investigación y desarrollo de la compañía, representa a un grupo sin fines de lucro que enfatiza la seguridad y enfatiza los valores fundamentales de OpenAI, mientras que el grupo con fines de lucro de Altman enfatiza la aceleración del desarrollo, el lanzamiento de una tienda GPT personalizada en el día del desarrollador y el suministro de asistentes API para desarrolladores, lanzando un modelo de monetización comercial que comparte los ingresos con los desarrolladores.
Pero el aumento de usuarios pronto superó la capacidad de OpenAI, y Ultraman tuvo que anunciar la suspensión de los nuevos registros de usuarios de ChatGPT Plus. Esto aumentó aún más los temores de Sutskovo sobre la seguridad.
De hecho, en el consejo de administración, con Altman y Brockman por un lado, y Sutskovo y Helen Toner por el otro, había un creciente desacuerdo sobre el ritmo de desarrollo, y las dos partes se distanciaron.
Los otros miembros de la junta directiva también estuvieron en desacuerdo con Altman en algunas cuestiones estratégicas importantes. Por ejemplo, Altman quiere recaudar decenas de miles de millones de dólares de fondos soberanos de Oriente Medio para desarrollar chips que desafíen a NVIDIA. También se acercó a Masayoshi Son, quien quería usar la inversión de mil millones de dólares de SoftBank para unir fuerzas con el ex diseñador de Apple, Johny Ive, para construir una empresa de hardware nativa de IA.
Según personas familiarizadas con el asunto, los Sutskwer no están contentos con el intento de Altman de recaudar dinero con la reputación de OpenAI, y les preocupa que el nuevo negocio no adopte un modelo de gobernanza adecuado.
Alrededor de las 10 a.m. del jueves, Sutskovo se acercó a otros tres directores y pidió a dos técnicos que explicaran a los directores los graves riesgos de seguridad y estabilidad que enfrenta el sistema, y la reunión, que representaba a dos tercios de la junta directiva, tomó inmediatamente la decisión de despedir a Altman.
Los partidarios de Ultraman lo llamaron un "golpe de Estado".
Miembros de la junta directiva "inexpertos"
La junta directiva votó por dos tercios de los votos, y después de que Sutskovo y los tres directores independientes estuvieron de acuerdo, se tomó la decisión de despedir a Altman. Sin embargo, no hubo reunión de la junta directiva, y Brockman, como presidente, no fue notificado de dicha reunión. Los dos fundadores más importantes de la compañía, el CEO y el presidente, fueron expulsados de la compañía durante una reunión de Google Meet.
"Si lo dejo pasar, la junta directiva de OpenAI me perseguirá por el valor total de todas mis acciones. "
OpenAI es probablemente la empresa privada más importante en la actualidad, y echemos un vistazo a los miembros de la junta directiva que tomaron tal decisión:
Director Independiente Adam D'Angelo, Fundador y CEO de Quora. Se incorporó a la Junta Directiva en abril de 2018. Cree que OpenAI debería ceñirse a las organizaciones sin ánimo de lucro y controlar el límite superior de rentabilidad para asegurarse de que no se convierta en otro gigante tecnológico de Silicon Valley.
Tasha McCauley, una directora independiente, comenzó su mandato como científica de alta gerencia a tiempo parcial en RAND Corporation este año. Anteriormente había tenido dos start-ups sin éxito, casada con Joseph Gorden-Levitt, un conocido actor y empresario judío. Participa activamente en el movimiento Altruismo Efectivo.
Helen Toner, directora independiente que se unió a la Junta en septiembre de 2021, es la directora de Subvenciones de Investigación Estratégica y Básica en el Centro de Seguridad y Tecnologías Emergentes (CSET) de la Universidad de Georgetown. Anteriormente fue investigadora de políticas en Open Philanthropy, una organización que donó a OpenAI, y antes de unirse a CSET, un grupo de expertos que desempeñó un papel importante en la investigación de políticas geopolíticas y de IA entre Estados Unidos y China, vivió en Pekín y estudió el ecosistema de innovación en IA de China.
Helen y Tasha también se han unido al Centro para la Gobernanza de la Inteligencia Artificial (GovAI) del Reino Unido, que se centra en las amenazas que los sistemas generales de IA pueden suponer para la seguridad.
Sutskovo se convirtió en el único cofundador que quedaba de la empresa. Nacido en Rusia y emigrado a Canadá desde Israel, es estudiante de doctorado de Geoffrey Hinton, el padre del aprendizaje profundo, y ha trabajado a través de DeepMind, Google AI, OpenAI, y durante la última década, ha estado a la vanguardia del aprendizaje por refuerzo y el aprendizaje profundo, impulsando la inteligencia artificial general en un campo completamente nuevo.
Abogó por el establecimiento de la superalineación con los humanos en el proceso de construcción de la superinteligencia artificial. Está liderando el equipo para utilizar el 20% de la potencia informática de OpenAI para establecer un mecanismo de supervisión integrado antes de que la IA se vuelva más inteligente que los humanos. Hablando en las redes sociales recientemente, advirtió: "Si tomas el valor de la inteligencia por encima de todas las demás cualidades de la raza humana, sufrirás terribles consecuencias". "
En la junta directiva, Altman y Sutskovo tuvieron un fuerte conflicto sobre cómo OpenAI debería equilibrar la seguridad y ganar dinero. Altman aboga por promover aplicaciones comerciales, tratando de expandir el alcance comercial de OpenAI y está pidiendo la próxima ronda de financiamiento, mientras que Sutskovo cree que es imposible apresurarse a obtener ganancias insistiendo en la investigación sobre inteligencia artificial general que sea segura y beneficiosa para la humanidad.
Fueron estos cuatro directores de OpenAI los que expulsaron a los otros dos directores al mismo tiempo, y eran cofundadores muy reconocidos, lo que fue criticado por muchos empresarios e instituciones de inversión en Silicon Valley.
Comenzaron cuestionando la falta de experiencia de algún miembro del consejo de administración para formar parte del consejo de administración de una empresa tan importante. En comparación con los primeros miembros de la junta directiva de OpenAI, como Musk, el fundador de LinkedIn, Hoffman, y el inversor en tecnología dura Vinod Khosla y otros fundadores clásicos de Silicon Valley, la junta actual es débil y también es descrita por los medios de comunicación de Silicon Valley como alguien que tiene cierto "altruismo efectivo".
En segundo lugar, para un evento tan importante, los ex directores de OpenAI y los inversores más importantes se mantuvieron en la oscuridad. En particular, Microsoft invirtió decenas de miles de millones de dólares en OpenAI, que solo se conocía minutos antes de que se publicara la noticia. Por no hablar de los demás inversores, entre los que se encuentran casi todas las principales instituciones de inversión de Silicon Valley y de todo el mundo.
El CEO de Microsoft, Nadella, inmediatamente hizo una declaración en su blog: Microsoft tiene un acuerdo a largo plazo con OpenAI y puede usar todo (tecnología) y continuará trabajando con Mira para avanzar en la estrategia de IA.
Contradicciones inherentes a la estructura de gobierno
Cualquiera que sea la razón, Altman y Brockman son los fundadores más importantes de OpenAI, y han sido víctimas de la estructura de gobierno que han diseñado.
OpenAI se fundó en 2015 como una organización sin fines de lucro. Su objetivo es construir un sistema general de IA que cumpla y supere el nivel humano, sea abierto y beneficie a la humanidad.
Más tarde, debido a los 1.000 millones de dólares en fondos prometidos por Musk y otros, solo había más de 100 millones de dólares, el coste de la potencia informática avanzada y los talentos de primera clase era enorme, y la investigación y el funcionamiento de la empresa eran insostenibles, por lo que se decidió establecer una filial con ánimo de lucro, OpenAI Global LLC, que está totalmente controlada por la organización sin ánimo de lucro OpenAI.
OpenAI Global puede recaudar fondos externamente, pero establece un límite de distribución de ganancias para los inversores. Según las revelaciones de los medios, la distribución de ganancias de OpenAI se puede dividir en cuatro etapas: después de que se genere la ganancia, se retirarán los primeros inversores como Musk, el 75% de las ganancias posteriores se asignarán a Microsoft hasta que Microsoft recupere su inversión de $ 13 mil millones, y después de que las ganancias alcancen los $ 92 mil millones, la participación accionaria de Microsoft caerá al 49% Las ganancias restantes se compartirán entre otros capitalistas de riesgo y empleados de OpenAI, y cuando las ganancias alcancen los 150.000 millones de dólares, el capital de Microsoft y otros capitalistas de riesgo se transferirá al fondo sin fines de lucro de OpenAI de forma gratuita.
Entre ellos, el inversor más importante es, por supuesto, Microsoft, que invirtió en OpenAI tres veces en 2019, 2021 y 2023, con una inversión acumulada de decenas de miles de millones de dólares. Pero en el sentido final, Microsoft no posee ninguna participación en OpenAI, sino que es más como un socio comercial, incluido Microsoft tiene acceso exclusivo a toda la tecnología de OpenAI, OpenAI usa la nube Azure de Microsoft para entrenar sus modelos base, y los servicios proporcionados a través de su API utilizan la nube de Microsoft, etc.
La financiación de Microsoft, los servicios en la nube y la cooperación comercial entre Microsoft y OpenAI en aplicaciones han desempeñado un papel clave en la capacidad de OpenAI para centrarse en la investigación de grandes modelos de lenguaje durante un máximo de ocho años y, finalmente, lograr avances.
Pero la asociación de OpenAI con Microsoft también ha sido criticada por muchos como una desviación de sus intenciones originales, convirtiéndola de un instituto de investigación de inteligencia artificial independiente y sin fines de lucro en un peón estratégico de un gigante tecnológico, que promete abrir el código de sus modelos subyacentes, pero desde GPT-3, se ha vuelto cada vez más cerrado. Como uno de los principales donantes del cofundador de OpenAI, Musk ha sido duramente criticado. Los empleados principales de OpenAI también se han ido para iniciar nuevas empresas, como Anthropic, el principal competidor de OpenAI.
ChatGPT de OpenAI, lanzado hace un año, ha sorprendido al mundo al perforar el papel de la ventana de la inteligencia artificial general, pero los riesgos que puede traer también han provocado una gran controversia y han acelerado la investigación y la formulación de sistemas de gobernanza nacionales y transnacionales.
De acuerdo con la arquitectura de OpenAI, los seis miembros de la junta pueden "determinar cuándo hemos alcanzado la Inteligencia General Artificial (AGI)".
Aunque existe mucha controversia sobre la inteligencia artificial general, OpenAI ha llegado a una definición: la inteligencia artificial general se refiere a un sistema altamente autónomo que supera a los humanos en la mayoría de los trabajos económicamente valiosos. Altman y otros alguna vez creyeron que dentro de diez años, la humanidad alcanzaría la inteligencia artificial general.
Y una vez que esta junta directiva determine que OpenAI ha logrado la inteligencia artificial general, retirará su uso exclusivo y cooperación con instituciones comerciales y la utilizará para toda la raza humana. Entre ellas, se menciona en la cláusula relativa a Microsoft: "Dicho sistema no está incluido en la licencia de propiedad intelectual y otros términos comerciales con Microsoft, que se aplican solo a tecnologías anteriores a la IA general". "
Desde la perspectiva de la arquitectura de diseño, la junta directiva de OpenAI, una organización sin fines de lucro, tiene un poder supremo.
OpenAI todavía está en números rojos, pero sus ingresos están creciendo rápidamente, con ingresos anualizados de $ 1.3 mil millones y posiblemente miles de millones de dólares el próximo año. En esa ronda de financiación a principios de año, OpenAI estaba valorada en 29.000 millones de dólares.
En la actualidad, OpenAI está llevando a cabo una nueva ronda de financiación con una valoración de 86.000 millones de dólares para preparar fondos para su entrenamiento de GPT-5, en el que el entrenamiento de alineación cobrará más importancia.
Las startups abandonan a sus fundadores y son una historia recurrente en Silicon Valley. Apple despidió a Steve Jobs en 1985 y Twitter despidió al cofundador Jack Dorsey en 2008. Eventualmente, todos regresaron para llevar a sus compañías a la gloria.
Pero la salida de Altman puede tener un mayor impacto en la industria que representa. ¿Podría la IA generativa verse frustrada por esto? ¡No necesariamente!
El impacto de la IA generativa va mucho más allá del desarrollo de modelos más grandes, avanzados y seguros. La revolución que ha provocado no ha hecho más que empezar.
Quizás, la misión de Altman y Brockman en OpenAI se haya cumplido. La IA generativa se está trasladando del laboratorio a una amplia gama de industrias. Seguirán teniendo a los mejores talentos, incluidos los empleados de OpenAI, y seguirá habiendo miles de millones o incluso decenas de miles de millones de dólares de inversión de Silicon Valley para el mundo. La puerta a la IA generativa se está abriendo.
OpenAI se apegará a su intención original e investigará inteligencia artificial general segura para la humanidad. Puede que ya no tenga la imaginación comercial que aporta Ultraman, pero todavía necesita mucha inversión para respaldar su investigación. Al fin y al cabo, puede que el valor de OpenAI no sea convertirse en otro gigante tecnológico, sino convertirse en una empresa de impacto social que esté hombro con hombro con los gigantes tecnológicos, abriendo el potencial de la IA generativa a innumerables investigadores, empresarios, desarrolladores y usuarios. Debería ser bueno ver que la estructura de gobernanza única de OpenAI va más allá.
"Gracias por acercarnos al futuro. Brockman recibió una respuesta de este tipo en las redes sociales.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
El "golpe" de OpenAI comenzó y terminó
Fuente: Cuenta pública "Investigación inacabada"
Hasta el viernes por la noche, Greg Brockman, cofundador, presidente y presidente de OpenAI, estaba en medio de cinco tormentas eléctricas. Necesita mirar hacia atrás y ver lo que sucedió en las últimas 24 horas.
Ocurre un "golpe de Estado"
La semana pasada, San Francisco y el Área de la Bahía de San Francisco se llenaron de un ambiente animado de la cumbre de APEC, especialmente la reunión entre los jefes de Estado de los dos principales países.
El cofundador y CEO de OpenAI, Sam Altman, apareció en la cumbre empresarial de APEC el jueves y asistió a un evento de Burning Man por la noche para hablar sobre IA y arte.
Recibió un mensaje de texto de otro cofundador, el científico jefe Ilya Sutskever, a punto de hablar sobre el viernes al mediodía.
Al mediodía del viernes, Altman abrió el enlace de Google Meet enviado por Sutskovo y descubrió que, además de Brockman, había otros tres directores independientes. Sutskovo le dijo a Altman que había sido despedido y que la noticia se daría a conocer pronto.
Según un comunicado oficial, Altman fue destituido de su cargo como CEO y director debido a su falta de honestidad con la junta directiva. Altman anunció su salida de OpenAI una hora después, y dijo que anunciaría su próximo paso más tarde.
A las 12:19, Brockman recibió un mensaje de texto de Sutskovo pidiéndole una llamada telefónica rápida. Cuatro minutos después, también recibió un enlace de Google Meet, y cuando hizo clic en él, inmediatamente le dijeron que había sido destituido de la junta directiva, pero que había conservado su puesto como presidente debido a su importancia para la empresa. También se le dijo que Ultraman había sido despedido, lo que se había anunciado en el sitio web oficial.
Según un comunicado oficial, Brockman reportará a la directora ejecutiva interina Mira Murati, quien fue ascendida a directora de tecnología de la compañía en mayo del año pasado. Pero cuando Brockman escuchó la noticia, inmediatamente anunció su renuncia.
Esta explosiva noticia conmocionó a toda la empresa, excepto a Mira. Ya sabía el jueves por la noche que sucedería a Ultraman como directora ejecutiva interina. OpenAI es como una sartén por dentro, y Mira tiene que asegurar a toda la empresa que la cooperación con Microsoft continuará. Transmitió las declaraciones del CEO de Microsoft, Nadella, y del CTO, Kevin Scott, de que todavía mantienen una "confianza extrema" en OpenAI.
Esa noche, tres altos cargos dimitieron, a saber, Jakub Pachocki, director de investigación de la empresa, Aleksander Madry, jefe del equipo responsable de evaluar los riesgos potenciales de la IA, y Szymon Sidor, investigador que trabaja desde hace siete años. También se espera que OpenAI vea un gran número de renuncias este fin de semana.
OpenAI, que está en pleno apogeo, se encuentra en la mayor crisis desde su creación hace ocho años.
De izquierda a derecha: Mira, Ultraman, Brockman, Sutskovo
Conflicto entre seguridad y rentabilidad
Este "golpe" dentro de OpenAI, Microsoft en realidad no sabía nada de antemano hasta unos minutos antes de que se anunciara la noticia. Como puedes imaginar, todos los demás inversores también están a oscuras.
Esto expone la contradicción potencial entre la arquitectura de dos niveles sin fines de lucro y con fines de lucro de OpenAI. Los inversores más importantes no son capaces de desempeñar un papel en el gobierno de la empresa. Sin embargo, la parte no lucrativa existente de la junta directiva no tiene acciones, y los seis directores adoptan un sistema de una persona, un voto, que oculta el riesgo de inestabilidad.
La conferencia de desarrolladores de OpenAI que acaba de celebrarse aceleró el estallido de contradicciones. La relación entre la "organización sin fines de lucro" y el "creador de ganancias" dentro de OpenAI se ha tensado últimamente. Sutskovo, quien lidera el equipo de investigación y desarrollo de la compañía, representa a un grupo sin fines de lucro que enfatiza la seguridad y enfatiza los valores fundamentales de OpenAI, mientras que el grupo con fines de lucro de Altman enfatiza la aceleración del desarrollo, el lanzamiento de una tienda GPT personalizada en el día del desarrollador y el suministro de asistentes API para desarrolladores, lanzando un modelo de monetización comercial que comparte los ingresos con los desarrolladores.
Pero el aumento de usuarios pronto superó la capacidad de OpenAI, y Ultraman tuvo que anunciar la suspensión de los nuevos registros de usuarios de ChatGPT Plus. Esto aumentó aún más los temores de Sutskovo sobre la seguridad.
De hecho, en el consejo de administración, con Altman y Brockman por un lado, y Sutskovo y Helen Toner por el otro, había un creciente desacuerdo sobre el ritmo de desarrollo, y las dos partes se distanciaron.
Los otros miembros de la junta directiva también estuvieron en desacuerdo con Altman en algunas cuestiones estratégicas importantes. Por ejemplo, Altman quiere recaudar decenas de miles de millones de dólares de fondos soberanos de Oriente Medio para desarrollar chips que desafíen a NVIDIA. También se acercó a Masayoshi Son, quien quería usar la inversión de mil millones de dólares de SoftBank para unir fuerzas con el ex diseñador de Apple, Johny Ive, para construir una empresa de hardware nativa de IA.
Según personas familiarizadas con el asunto, los Sutskwer no están contentos con el intento de Altman de recaudar dinero con la reputación de OpenAI, y les preocupa que el nuevo negocio no adopte un modelo de gobernanza adecuado.
Alrededor de las 10 a.m. del jueves, Sutskovo se acercó a otros tres directores y pidió a dos técnicos que explicaran a los directores los graves riesgos de seguridad y estabilidad que enfrenta el sistema, y la reunión, que representaba a dos tercios de la junta directiva, tomó inmediatamente la decisión de despedir a Altman.
Los partidarios de Ultraman lo llamaron un "golpe de Estado".
Miembros de la junta directiva "inexpertos"
La junta directiva votó por dos tercios de los votos, y después de que Sutskovo y los tres directores independientes estuvieron de acuerdo, se tomó la decisión de despedir a Altman. Sin embargo, no hubo reunión de la junta directiva, y Brockman, como presidente, no fue notificado de dicha reunión. Los dos fundadores más importantes de la compañía, el CEO y el presidente, fueron expulsados de la compañía durante una reunión de Google Meet.
"Si lo dejo pasar, la junta directiva de OpenAI me perseguirá por el valor total de todas mis acciones. "
OpenAI es probablemente la empresa privada más importante en la actualidad, y echemos un vistazo a los miembros de la junta directiva que tomaron tal decisión:
Director Independiente Adam D'Angelo, Fundador y CEO de Quora. Se incorporó a la Junta Directiva en abril de 2018. Cree que OpenAI debería ceñirse a las organizaciones sin ánimo de lucro y controlar el límite superior de rentabilidad para asegurarse de que no se convierta en otro gigante tecnológico de Silicon Valley.
Tasha McCauley, una directora independiente, comenzó su mandato como científica de alta gerencia a tiempo parcial en RAND Corporation este año. Anteriormente había tenido dos start-ups sin éxito, casada con Joseph Gorden-Levitt, un conocido actor y empresario judío. Participa activamente en el movimiento Altruismo Efectivo.
Helen Toner, directora independiente que se unió a la Junta en septiembre de 2021, es la directora de Subvenciones de Investigación Estratégica y Básica en el Centro de Seguridad y Tecnologías Emergentes (CSET) de la Universidad de Georgetown. Anteriormente fue investigadora de políticas en Open Philanthropy, una organización que donó a OpenAI, y antes de unirse a CSET, un grupo de expertos que desempeñó un papel importante en la investigación de políticas geopolíticas y de IA entre Estados Unidos y China, vivió en Pekín y estudió el ecosistema de innovación en IA de China.
Helen y Tasha también se han unido al Centro para la Gobernanza de la Inteligencia Artificial (GovAI) del Reino Unido, que se centra en las amenazas que los sistemas generales de IA pueden suponer para la seguridad.
Sutskovo se convirtió en el único cofundador que quedaba de la empresa. Nacido en Rusia y emigrado a Canadá desde Israel, es estudiante de doctorado de Geoffrey Hinton, el padre del aprendizaje profundo, y ha trabajado a través de DeepMind, Google AI, OpenAI, y durante la última década, ha estado a la vanguardia del aprendizaje por refuerzo y el aprendizaje profundo, impulsando la inteligencia artificial general en un campo completamente nuevo.
Abogó por el establecimiento de la superalineación con los humanos en el proceso de construcción de la superinteligencia artificial. Está liderando el equipo para utilizar el 20% de la potencia informática de OpenAI para establecer un mecanismo de supervisión integrado antes de que la IA se vuelva más inteligente que los humanos. Hablando en las redes sociales recientemente, advirtió: "Si tomas el valor de la inteligencia por encima de todas las demás cualidades de la raza humana, sufrirás terribles consecuencias". "
En la junta directiva, Altman y Sutskovo tuvieron un fuerte conflicto sobre cómo OpenAI debería equilibrar la seguridad y ganar dinero. Altman aboga por promover aplicaciones comerciales, tratando de expandir el alcance comercial de OpenAI y está pidiendo la próxima ronda de financiamiento, mientras que Sutskovo cree que es imposible apresurarse a obtener ganancias insistiendo en la investigación sobre inteligencia artificial general que sea segura y beneficiosa para la humanidad.
Fueron estos cuatro directores de OpenAI los que expulsaron a los otros dos directores al mismo tiempo, y eran cofundadores muy reconocidos, lo que fue criticado por muchos empresarios e instituciones de inversión en Silicon Valley.
Comenzaron cuestionando la falta de experiencia de algún miembro del consejo de administración para formar parte del consejo de administración de una empresa tan importante. En comparación con los primeros miembros de la junta directiva de OpenAI, como Musk, el fundador de LinkedIn, Hoffman, y el inversor en tecnología dura Vinod Khosla y otros fundadores clásicos de Silicon Valley, la junta actual es débil y también es descrita por los medios de comunicación de Silicon Valley como alguien que tiene cierto "altruismo efectivo".
En segundo lugar, para un evento tan importante, los ex directores de OpenAI y los inversores más importantes se mantuvieron en la oscuridad. En particular, Microsoft invirtió decenas de miles de millones de dólares en OpenAI, que solo se conocía minutos antes de que se publicara la noticia. Por no hablar de los demás inversores, entre los que se encuentran casi todas las principales instituciones de inversión de Silicon Valley y de todo el mundo.
El CEO de Microsoft, Nadella, inmediatamente hizo una declaración en su blog: Microsoft tiene un acuerdo a largo plazo con OpenAI y puede usar todo (tecnología) y continuará trabajando con Mira para avanzar en la estrategia de IA.
Contradicciones inherentes a la estructura de gobierno
Cualquiera que sea la razón, Altman y Brockman son los fundadores más importantes de OpenAI, y han sido víctimas de la estructura de gobierno que han diseñado.
OpenAI se fundó en 2015 como una organización sin fines de lucro. Su objetivo es construir un sistema general de IA que cumpla y supere el nivel humano, sea abierto y beneficie a la humanidad.
Más tarde, debido a los 1.000 millones de dólares en fondos prometidos por Musk y otros, solo había más de 100 millones de dólares, el coste de la potencia informática avanzada y los talentos de primera clase era enorme, y la investigación y el funcionamiento de la empresa eran insostenibles, por lo que se decidió establecer una filial con ánimo de lucro, OpenAI Global LLC, que está totalmente controlada por la organización sin ánimo de lucro OpenAI.
OpenAI Global puede recaudar fondos externamente, pero establece un límite de distribución de ganancias para los inversores. Según las revelaciones de los medios, la distribución de ganancias de OpenAI se puede dividir en cuatro etapas: después de que se genere la ganancia, se retirarán los primeros inversores como Musk, el 75% de las ganancias posteriores se asignarán a Microsoft hasta que Microsoft recupere su inversión de $ 13 mil millones, y después de que las ganancias alcancen los $ 92 mil millones, la participación accionaria de Microsoft caerá al 49% Las ganancias restantes se compartirán entre otros capitalistas de riesgo y empleados de OpenAI, y cuando las ganancias alcancen los 150.000 millones de dólares, el capital de Microsoft y otros capitalistas de riesgo se transferirá al fondo sin fines de lucro de OpenAI de forma gratuita.
Entre ellos, el inversor más importante es, por supuesto, Microsoft, que invirtió en OpenAI tres veces en 2019, 2021 y 2023, con una inversión acumulada de decenas de miles de millones de dólares. Pero en el sentido final, Microsoft no posee ninguna participación en OpenAI, sino que es más como un socio comercial, incluido Microsoft tiene acceso exclusivo a toda la tecnología de OpenAI, OpenAI usa la nube Azure de Microsoft para entrenar sus modelos base, y los servicios proporcionados a través de su API utilizan la nube de Microsoft, etc.
La financiación de Microsoft, los servicios en la nube y la cooperación comercial entre Microsoft y OpenAI en aplicaciones han desempeñado un papel clave en la capacidad de OpenAI para centrarse en la investigación de grandes modelos de lenguaje durante un máximo de ocho años y, finalmente, lograr avances.
Pero la asociación de OpenAI con Microsoft también ha sido criticada por muchos como una desviación de sus intenciones originales, convirtiéndola de un instituto de investigación de inteligencia artificial independiente y sin fines de lucro en un peón estratégico de un gigante tecnológico, que promete abrir el código de sus modelos subyacentes, pero desde GPT-3, se ha vuelto cada vez más cerrado. Como uno de los principales donantes del cofundador de OpenAI, Musk ha sido duramente criticado. Los empleados principales de OpenAI también se han ido para iniciar nuevas empresas, como Anthropic, el principal competidor de OpenAI.
ChatGPT de OpenAI, lanzado hace un año, ha sorprendido al mundo al perforar el papel de la ventana de la inteligencia artificial general, pero los riesgos que puede traer también han provocado una gran controversia y han acelerado la investigación y la formulación de sistemas de gobernanza nacionales y transnacionales.
De acuerdo con la arquitectura de OpenAI, los seis miembros de la junta pueden "determinar cuándo hemos alcanzado la Inteligencia General Artificial (AGI)".
Aunque existe mucha controversia sobre la inteligencia artificial general, OpenAI ha llegado a una definición: la inteligencia artificial general se refiere a un sistema altamente autónomo que supera a los humanos en la mayoría de los trabajos económicamente valiosos. Altman y otros alguna vez creyeron que dentro de diez años, la humanidad alcanzaría la inteligencia artificial general.
Y una vez que esta junta directiva determine que OpenAI ha logrado la inteligencia artificial general, retirará su uso exclusivo y cooperación con instituciones comerciales y la utilizará para toda la raza humana. Entre ellas, se menciona en la cláusula relativa a Microsoft: "Dicho sistema no está incluido en la licencia de propiedad intelectual y otros términos comerciales con Microsoft, que se aplican solo a tecnologías anteriores a la IA general". "
Desde la perspectiva de la arquitectura de diseño, la junta directiva de OpenAI, una organización sin fines de lucro, tiene un poder supremo.
OpenAI todavía está en números rojos, pero sus ingresos están creciendo rápidamente, con ingresos anualizados de $ 1.3 mil millones y posiblemente miles de millones de dólares el próximo año. En esa ronda de financiación a principios de año, OpenAI estaba valorada en 29.000 millones de dólares.
En la actualidad, OpenAI está llevando a cabo una nueva ronda de financiación con una valoración de 86.000 millones de dólares para preparar fondos para su entrenamiento de GPT-5, en el que el entrenamiento de alineación cobrará más importancia.
Las startups abandonan a sus fundadores y son una historia recurrente en Silicon Valley. Apple despidió a Steve Jobs en 1985 y Twitter despidió al cofundador Jack Dorsey en 2008. Eventualmente, todos regresaron para llevar a sus compañías a la gloria.
Pero la salida de Altman puede tener un mayor impacto en la industria que representa. ¿Podría la IA generativa verse frustrada por esto? ¡No necesariamente!
El impacto de la IA generativa va mucho más allá del desarrollo de modelos más grandes, avanzados y seguros. La revolución que ha provocado no ha hecho más que empezar.
Quizás, la misión de Altman y Brockman en OpenAI se haya cumplido. La IA generativa se está trasladando del laboratorio a una amplia gama de industrias. Seguirán teniendo a los mejores talentos, incluidos los empleados de OpenAI, y seguirá habiendo miles de millones o incluso decenas de miles de millones de dólares de inversión de Silicon Valley para el mundo. La puerta a la IA generativa se está abriendo.
OpenAI se apegará a su intención original e investigará inteligencia artificial general segura para la humanidad. Puede que ya no tenga la imaginación comercial que aporta Ultraman, pero todavía necesita mucha inversión para respaldar su investigación. Al fin y al cabo, puede que el valor de OpenAI no sea convertirse en otro gigante tecnológico, sino convertirse en una empresa de impacto social que esté hombro con hombro con los gigantes tecnológicos, abriendo el potencial de la IA generativa a innumerables investigadores, empresarios, desarrolladores y usuarios. Debería ser bueno ver que la estructura de gobernanza única de OpenAI va más allá.
"Gracias por acercarnos al futuro. Brockman recibió una respuesta de este tipo en las redes sociales.