Hingga Jumat malam, Greg Brockman, salah satu pendiri, ketua dan presiden OpenAI, berada di tengah-tengah lima badai petir. Dia perlu melihat kembali apa yang terjadi dalam 24 jam terakhir.
"Kudeta d'état" terjadi
San Francisco dan Bay Area pekan lalu dipenuhi dengan suasana KTT APEC yang meriah, terutama pertemuan antara kepala negara dari dua negara besar.
Co-founder dan CEO OpenAI, Sam Altman, muncul di KTT bisnis APEC pada hari Kamis dan menghadiri acara Burning Man di malam hari untuk berbicara tentang AI dan seni.
Dia menerima pesan teks dari salah satu pendiri lainnya, Kepala Ilmuwan Ilya Sutskever, yang akan berbicara tentang Jumat siang.
Pada Jumat siang, Altman membuka tautan Google Meet yang dikirim oleh Sutskovo dan menemukan bahwa selain Brockman, ada tiga direktur independen lainnya. Sutskovo mengatakan kepada Altman bahwa dia telah dipecat, dan berita itu akan segera dirilis.
Menurut pernyataan resmi, Altman dicopot dari posisinya sebagai CEO dan direktur karena kurangnya kejujuran dengan dewan direksi. Altman mengumumkan kepergiannya dari OpenAI satu jam kemudian, dan mengatakan bahwa dia akan mengumumkan langkah selanjutnya nanti.
Pada pukul 12:19, Brockman menerima pesan teks dari Sutskovo yang meminta panggilan telepon cepat. Empat menit kemudian, dia juga menerima tautan Google Meet, dan ketika dia mengkliknya, dia langsung diberitahu bahwa dia telah dikeluarkan dari dewan direksi, tetapi dia telah mempertahankan posisinya sebagai presiden karena pentingnya dia bagi perusahaan. Dia juga diberitahu bahwa Ultraman telah dipecat, yang telah diumumkan di situs resmi.
Menurut pernyataan resmi, Brockman akan melapor kepada CEO sementara Mira Murati, yang dipromosikan menjadi CTO perusahaan pada Mei tahun lalu. Namun ketika Brockman mendengar kabar tersebut, ia langsung mengumumkan pengunduran dirinya.
Berita ledakan ini mengejutkan seluruh perusahaan, kecuali Mira. Dia sudah tahu pada Kamis malam bahwa dia akan menggantikan Ultraman sebagai CEO sementara. OpenAI seperti wajan di dalamnya, dan Mira harus meyakinkan seluruh perusahaan bahwa kerja sama dengan Microsoft akan terus berlanjut. Dia menyampaikan pernyataan CEO Microsoft Nadella dan CTO Kevin Scott bahwa mereka masih mempertahankan "kepercayaan ekstrim" pada OpenAI.
Malam itu, tiga personel senior mengundurkan diri, yaitu Jakub Pachocki, direktur riset perusahaan, Aleksander Madry, pemimpin tim yang bertanggung jawab untuk menilai potensi risiko AI, dan Szymon Sidor, seorang peneliti yang telah bekerja selama tujuh tahun. OpenAI juga diperkirakan akan melihat sejumlah besar pengunduran diri akhir pekan ini.
OpenAI, yang sedang berjalan lancar, berada dalam krisis terbesar sejak didirikan delapan tahun lalu.
Dari kiri ke kanan: Mira, Ultraman, Brockman, Sutskovo
Konflik antara keamanan dan profitabilitas
"Kudeta" dalam OpenAI ini, Microsoft sebenarnya tidak tahu apa-apa sebelumnya sampai beberapa menit sebelum berita diumumkan. Seperti yang dapat Anda bayangkan, semua investor lain juga dalam kegelapan.
Ini memperlihatkan potensi kontradiksi antara arsitektur dua tingkat nirlaba dan nirlaba OpenAI. Investor yang paling penting tidak dapat berperan dalam tata kelola perusahaan. Namun, bagian nirlaba dewan direksi yang ada tidak memiliki saham, dan enam direktur mengadopsi sistem satu orang satu suara, yang menyembunyikan risiko ketidakstabilan.
Konferensi pengembang OpenAI yang baru saja diadakan mempercepat pecahnya kontradiksi. Hubungan antara "nirlaba" dan "pembuat laba" dalam OpenAI telah tegang akhir-akhir ini. Sutskovo, yang memimpin tim R&D perusahaan, mewakili kelompok nirlaba yang menekankan keamanan dan menekankan nilai-nilai fundamental OpenAI, sementara kelompok penghasil laba Altman menekankan percepatan pengembangan, meluncurkan toko GPT khusus pada hari pengembang dan menyediakan asisten API pengembang, meluncurkan model monetisasi komersial yang berbagi pendapatan dengan pengembang.
Tetapi lonjakan pengguna segera melampaui kapasitas OpenAI, dan Ultraman harus mengumumkan penangguhan pendaftaran pengguna ChatGPT Plus baru. Hal ini semakin meningkatkan kekhawatiran Sutskovo tentang keselamatan.
Faktanya, di dewan direksi, dengan Altman dan Brockman di satu sisi, dan Sutskovo dan Helen Toner di sisi lain, ada ketidaksepakatan yang berkembang tentang laju pembangunan, dan kedua belah pihak terpisah.
Anggota dewan direksi lainnya juga tidak setuju dengan Altman tentang beberapa masalah strategis utama. Misalnya, Altman ingin mengumpulkan puluhan miliar dolar dari dana kekayaan negara Timur Tengah untuk mengembangkan chip untuk menantang NVIDIA. Dia juga mendekati Masayoshi Son, yang ingin menggunakan investasi miliaran dolar SoftBank untuk bergabung dengan mantan desainer Apple Johny Ive untuk membangun perusahaan perangkat keras asli AI.
Menurut orang-orang yang akrab dengan masalah ini, Sutskwers tidak senang dengan upaya Altman untuk mengumpulkan uang dengan reputasi OpenAI, dan mereka khawatir bahwa bisnis baru mungkin tidak mengadopsi model tata kelola yang sesuai.
Sekitar pukul 10 pagi pada hari Kamis, Sutskovo dilaporkan mendekati tiga direktur lain dan meminta dua teknisi untuk menjelaskan kepada direktur risiko keamanan dan stabilitas serius yang dihadapi sistem, dan pertemuan, yang mewakili dua pertiga dari dewan direksi, segera membuat keputusan untuk memecat Altman.
Pendukung Ultraman menyebutnya sebagai "kudeta".
Anggota dewan "tidak berpengalaman"
Dewan direksi memberikan suara dengan dua pertiga suara, dan setelah Sutskovo dan tiga direktur independen setuju, keputusan dibuat untuk memecat Altman. Namun, tidak ada rapat dewan direksi, dan Brockman, sebagai ketua, tidak diberitahu tentang rapat dewan tersebut. Dua pendiri perusahaan yang paling penting, CEO dan ketua, dikeluarkan dari perusahaan selama pertemuan Google Meet sama sekali.
"Jika saya melepaskannya, dewan direksi OpenAI akan mengejar saya untuk nilai penuh dari semua saham saya. "
OpenAI mungkin adalah perusahaan swasta paling penting saat ini, dan mari kita lihat anggota dewan yang membuat keputusan seperti itu:
Direktur Independen Adam D'Angelo, Pendiri dan CEO Quora. Beliau bergabung dengan Dewan Direksi pada April 2018. Dia percaya bahwa OpenAI harus tetap berpegang pada nirlaba dan mengendalikan batas atas profitabilitas untuk memastikan bahwa itu tidak menjadi raksasa teknologi lain di Silicon Valley.
Tasha McCauley, seorang direktur independen, baru memulai masa jabatannya sebagai ilmuwan manajemen senior paruh waktu di RAND Corporation tahun ini. Dia sebelumnya memiliki dua start-up yang gagal, menikah dengan Joseph Gorden-Levitt, seorang aktor dan pengusaha Yahudi terkenal. Dia secara aktif terlibat dalam gerakan Altruisme Efektif.
Helen Toner, direktur independen yang bergabung dengan Dewan pada September 2021, adalah Direktur Hibah Penelitian Strategis dan Dasar di Center for Security and Emerging Technologies (CSET) Universitas Georgetown. Dia sebelumnya adalah peneliti kebijakan di Open Philanthropy, sebuah organisasi yang menyumbang ke OpenAI, dan sebelum bergabung dengan CSET, sebuah think tank yang memainkan peran penting dalam penelitian AI dan kebijakan geopolitik AS-China, dia tinggal di Beijing dan mempelajari ekosistem inovasi AI China.
Helen dan Tasha juga telah bergabung dengan Pusat Tata Kelola Kecerdasan Buatan Inggris (GovAI), yang berfokus pada ancaman yang dapat ditimbulkan oleh sistem AI umum terhadap keamanan.
Sutskovo menjadi satu-satunya pendiri perusahaan yang tersisa. Lahir di Rusia dan berimigrasi ke Kanada dari Israel, ia adalah mahasiswa PhD Geoffrey Hinton, bapak pembelajaran mendalam, dan telah bekerja melalui DeepMind, Google AI, OpenAI, dan selama dekade terakhir, ia telah berada di garis depan pembelajaran penguatan dan pembelajaran mendalam, mendorong kecerdasan umum buatan ke bidang yang sama sekali baru.
Dia menganjurkan pembentukan superalignment dengan manusia dalam proses membangun kecerdasan super-buatan. Dia memimpin tim untuk menggunakan 20% dari kekuatan komputasi OpenAI untuk membangun mekanisme pengawasan bawaan sebelum AI menjadi lebih pintar daripada manusia. Berbicara di media sosial baru-baru ini, ia memperingatkan: "Jika Anda mengambil nilai kecerdasan di atas semua kualitas lain dari umat manusia, Anda akan menderita konsekuensi yang mengerikan." "
Di dewan direksi, Altman dan Sutskovo memiliki konflik tajam tentang bagaimana OpenAI harus menyeimbangkan keamanan dan menghasilkan uang. Altman menganjurkan mempromosikan aplikasi komersial, mencoba memperluas ruang lingkup bisnis OpenAI, dan meminta putaran pembiayaan berikutnya, sementara Sutskovo percaya bahwa tidak mungkin terburu-buru untuk mendapat untung dengan bersikeras pada penelitian tentang kecerdasan buatan umum yang aman dan bermanfaat bagi umat manusia.
Keempat direktur OpenAI inilah yang mengusir dua direktur lainnya pada saat yang sama, dan mereka adalah salah satu pendiri yang sangat diakui, yang dikritik oleh banyak pengusaha dan lembaga investasi di Silicon Valley.
Mereka mulai dengan mempertanyakan kurangnya pengalaman dari setiap anggota dewan untuk melayani di dewan direksi perusahaan yang begitu penting. Dibandingkan dengan anggota dewan awal OpenAI, seperti Musk, pendiri LinkedIn Hoffman, dan investor teknologi keras Vinod Khosla dan pendiri Silicon Valley klasik lainnya, dewan saat ini lemah, dan juga digambarkan oleh media Silicon Valley memiliki beberapa "altruisme efektif".
Kedua, untuk peristiwa besar seperti itu, mantan direktur OpenAI dan investor terpenting tidak tahu apa-apa. Secara khusus, Microsoft menginvestasikan puluhan miliar dolar di OpenAI, yang hanya diketahui beberapa menit sebelum berita itu dirilis. Belum lagi investor lain, yang mencakup hampir semua lembaga investasi top di Silicon Valley dan di seluruh dunia.
CEO Microsoft Nadella segera membuat pernyataan di blognya: Microsoft memiliki perjanjian jangka panjang dengan OpenAI dan dapat menggunakan segalanya (teknologi) dan akan terus bekerja dengan Mira untuk memajukan strategi AI.
Kontradiksi Inheren dalam Struktur Pemerintahan
Apa pun alasannya, Altman dan Brockman adalah pendiri OpenAI yang paling penting, dan mereka telah menjadi korban struktur tata kelola yang telah mereka rancang.
OpenAI didirikan pada tahun 2015 sebagai organisasi nirlaba. Tujuannya adalah untuk membangun sistem AI umum yang memenuhi dan melampaui tingkat manusia, terbuka dan bermanfaat bagi umat manusia.
Kemudian, karena dana $1 miliar yang dijanjikan oleh Musk dan lainnya, hanya ada lebih dari $100 juta, biaya daya komputasi canggih dan talenta kelas satu sangat besar, dan penelitian serta operasi perusahaan tidak berkelanjutan, sehingga diputuskan untuk mendirikan anak perusahaan nirlaba, OpenAI Global LLC, yang sepenuhnya dikendalikan oleh OpenAI nirlaba.
OpenAI Global dapat mengumpulkan dana secara eksternal, tetapi menetapkan batas distribusi keuntungan bagi investor. Menurut pengungkapan media, distribusi keuntungan OpenAI dapat dibagi menjadi empat tahap: setelah keuntungan dihasilkan, investor pertama seperti Musk akan ditarik, 75% dari keuntungan berikutnya akan dialokasikan ke Microsoft sampai Microsoft memulihkan investasi $ 13 miliar, dan setelah keuntungan mencapai $ 92 miliar, kepemilikan saham Microsoft akan turun menjadi 49% Keuntungan yang tersisa akan dibagi antara pemodal ventura lain dan karyawan OpenAI, dan ketika keuntungan mencapai $ 150 miliar, ekuitas Microsoft dan pemodal ventura lainnya akan ditransfer ke dana nirlaba OpenAI secara gratis.
Di antara mereka, investor terpenting adalah, tentu saja, Microsoft, yang berinvestasi di OpenAI tiga kali pada 2019, 2021, dan 2023, dengan investasi kumulatif puluhan miliar dolar. Tetapi dalam arti utama, Microsoft tidak memiliki ekuitas apa pun di OpenAI, tetapi lebih seperti mitra komersial, termasuk Microsoft memiliki akses eksklusif ke semua teknologi OpenAI, OpenAI menggunakan cloud Azure Microsoft untuk melatih model dasarnya, dan layanan yang disediakan melalui API-nya semuanya menggunakan cloud Microsoft dan sebagainya.
Pendanaan Microsoft, layanan cloud, dan kerja sama komersial antara Microsoft dan OpenAI dalam aplikasi semuanya memainkan peran kunci dalam kemampuan OpenAI untuk fokus pada penelitian model bahasa besar hingga delapan tahun, dan akhirnya membuat terobosan.
Tetapi kemitraan OpenAI dengan Microsoft juga telah dikritik oleh banyak orang sebagai keberangkatan dari niat aslinya, mengubahnya dari lembaga penelitian kecerdasan buatan nirlaba independen menjadi pion strategis raksasa teknologi, berjanji untuk membuka sumber model yang mendasarinya, tetapi sejak GPT-3, itu menjadi semakin tertutup. Sebagai donor utama untuk salah satu pendiri OpenAI, Musk telah dikritik tajam. Karyawan inti OpenAI juga telah pergi untuk memulai perusahaan baru, seperti Anthropic, pesaing utama OpenAI.
ChatGPT OpenAI, diluncurkan setahun yang lalu, telah mengejutkan dunia dengan menembus kertas jendela kecerdasan buatan umum, tetapi risiko yang mungkin ditimbulkannya juga memicu kontroversi besar dan mempercepat penelitian dan perumusan sistem pemerintahan nasional dan transnasional.
Menurut arsitektur OpenAI, enam anggota dewan dapat "menentukan kapan kita telah mencapai Artificial General Intelligence (AGI)."
Meskipun ada banyak kontroversi tentang kecerdasan umum buatan, OpenAI telah datang dengan definisi: kecerdasan umum buatan mengacu pada sistem yang sangat otonom yang mengungguli manusia dalam pekerjaan yang paling bernilai ekonomis. Altman dan yang lainnya pernah percaya bahwa dalam sepuluh tahun, umat manusia akan mencapai kecerdasan buatan umum.
Dan begitu dewan direksi ini menentukan bahwa OpenAI telah mencapai kecerdasan umum buatan, ia akan menarik penggunaan eksklusif dan kerja samanya dengan lembaga komersial dan menggunakannya untuk seluruh umat manusia. Di antara mereka, disebutkan dalam klausul tentang Microsoft: "Sistem seperti itu tidak termasuk dalam lisensi kekayaan intelektual dan persyaratan komersial lainnya dengan Microsoft, yang hanya berlaku untuk teknologi sebelum AI umum." "
Dari perspektif arsitektur desain, dewan direksi OpenAI nirlaba memiliki kekuatan tertinggi.
OpenAI masih merah, tetapi pendapatannya berkembang pesat, dengan pendapatan tahunan sebesar $ 1,3 miliar dan mungkin miliaran dolar tahun depan. Dalam putaran pendanaan di awal tahun, OpenAI bernilai $ 29 miliar.
Saat ini, OpenAI sedang melakukan putaran pembiayaan baru dengan penilaian $ 86 miliar untuk menyiapkan dana untuk pelatihan GPT-5, di mana pelatihan penyelarasan akan menjadi lebih penting.
Startup meninggalkan pendiri mereka dan merupakan kisah yang berulang di Silicon Valley. Apple memecat Steve Jobs pada tahun 1985 dan Twitter memecat co-founder Jack Dorsey pada tahun 2008. Akhirnya, mereka semua kembali untuk memimpin perusahaan mereka menuju kejayaan.
Tetapi kepergian Altman mungkin memiliki dampak yang lebih besar pada industri yang diwakilinya. Bisakah AI generatif frustrasi dengan ini? Belum tentu!
Dampak AI generatif jauh melampaui pengembangan model yang lebih besar, lebih maju, dan lebih aman. Revolusi yang dipicunya baru saja dimulai.
Mungkin, misi Altman dan Brockman di OpenAI telah tercapai. AI Generatif bergerak dari laboratorium ke berbagai industri. Mereka masih akan memiliki talenta terbaik, termasuk karyawan OpenAI, dan masih akan ada miliaran atau bahkan puluhan miliar dolar investasi dari Silicon Valley ke dunia. Pintu menuju AI generatif terbuka.
OpenAI akan tetap berpegang pada niat awalnya dan meneliti kecerdasan buatan umum yang aman bagi umat manusia. Mungkin tidak lagi memiliki imajinasi komersial yang dibawa Ultraman, tetapi masih membutuhkan banyak investasi untuk mendukung penelitiannya. Bagaimanapun, nilai OpenAI mungkin bukan untuk menjadi raksasa teknologi lain, tetapi untuk menjadi perusahaan dampak sosial yang berdiri bahu-membahu dengan raksasa teknologi, membuka potensi AI generatif kepada banyak peneliti, pengusaha, pengembang, dan pengguna. Seharusnya menyenangkan melihat struktur tata kelola OpenAI yang unik melangkah lebih jauh.
"Terima kasih telah membawa kami lebih dekat ke masa depan. Brockman menerima balasan seperti itu di media sosial.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
"Kudeta" OpenAI dimulai dan berakhir
Sumber: Akun publik "Penelitian Belum Selesai"
Hingga Jumat malam, Greg Brockman, salah satu pendiri, ketua dan presiden OpenAI, berada di tengah-tengah lima badai petir. Dia perlu melihat kembali apa yang terjadi dalam 24 jam terakhir.
"Kudeta d'état" terjadi
San Francisco dan Bay Area pekan lalu dipenuhi dengan suasana KTT APEC yang meriah, terutama pertemuan antara kepala negara dari dua negara besar.
Co-founder dan CEO OpenAI, Sam Altman, muncul di KTT bisnis APEC pada hari Kamis dan menghadiri acara Burning Man di malam hari untuk berbicara tentang AI dan seni.
Dia menerima pesan teks dari salah satu pendiri lainnya, Kepala Ilmuwan Ilya Sutskever, yang akan berbicara tentang Jumat siang.
Pada Jumat siang, Altman membuka tautan Google Meet yang dikirim oleh Sutskovo dan menemukan bahwa selain Brockman, ada tiga direktur independen lainnya. Sutskovo mengatakan kepada Altman bahwa dia telah dipecat, dan berita itu akan segera dirilis.
Menurut pernyataan resmi, Altman dicopot dari posisinya sebagai CEO dan direktur karena kurangnya kejujuran dengan dewan direksi. Altman mengumumkan kepergiannya dari OpenAI satu jam kemudian, dan mengatakan bahwa dia akan mengumumkan langkah selanjutnya nanti.
Pada pukul 12:19, Brockman menerima pesan teks dari Sutskovo yang meminta panggilan telepon cepat. Empat menit kemudian, dia juga menerima tautan Google Meet, dan ketika dia mengkliknya, dia langsung diberitahu bahwa dia telah dikeluarkan dari dewan direksi, tetapi dia telah mempertahankan posisinya sebagai presiden karena pentingnya dia bagi perusahaan. Dia juga diberitahu bahwa Ultraman telah dipecat, yang telah diumumkan di situs resmi.
Menurut pernyataan resmi, Brockman akan melapor kepada CEO sementara Mira Murati, yang dipromosikan menjadi CTO perusahaan pada Mei tahun lalu. Namun ketika Brockman mendengar kabar tersebut, ia langsung mengumumkan pengunduran dirinya.
Berita ledakan ini mengejutkan seluruh perusahaan, kecuali Mira. Dia sudah tahu pada Kamis malam bahwa dia akan menggantikan Ultraman sebagai CEO sementara. OpenAI seperti wajan di dalamnya, dan Mira harus meyakinkan seluruh perusahaan bahwa kerja sama dengan Microsoft akan terus berlanjut. Dia menyampaikan pernyataan CEO Microsoft Nadella dan CTO Kevin Scott bahwa mereka masih mempertahankan "kepercayaan ekstrim" pada OpenAI.
Malam itu, tiga personel senior mengundurkan diri, yaitu Jakub Pachocki, direktur riset perusahaan, Aleksander Madry, pemimpin tim yang bertanggung jawab untuk menilai potensi risiko AI, dan Szymon Sidor, seorang peneliti yang telah bekerja selama tujuh tahun. OpenAI juga diperkirakan akan melihat sejumlah besar pengunduran diri akhir pekan ini.
OpenAI, yang sedang berjalan lancar, berada dalam krisis terbesar sejak didirikan delapan tahun lalu.
Dari kiri ke kanan: Mira, Ultraman, Brockman, Sutskovo
Konflik antara keamanan dan profitabilitas
"Kudeta" dalam OpenAI ini, Microsoft sebenarnya tidak tahu apa-apa sebelumnya sampai beberapa menit sebelum berita diumumkan. Seperti yang dapat Anda bayangkan, semua investor lain juga dalam kegelapan.
Ini memperlihatkan potensi kontradiksi antara arsitektur dua tingkat nirlaba dan nirlaba OpenAI. Investor yang paling penting tidak dapat berperan dalam tata kelola perusahaan. Namun, bagian nirlaba dewan direksi yang ada tidak memiliki saham, dan enam direktur mengadopsi sistem satu orang satu suara, yang menyembunyikan risiko ketidakstabilan.
Konferensi pengembang OpenAI yang baru saja diadakan mempercepat pecahnya kontradiksi. Hubungan antara "nirlaba" dan "pembuat laba" dalam OpenAI telah tegang akhir-akhir ini. Sutskovo, yang memimpin tim R&D perusahaan, mewakili kelompok nirlaba yang menekankan keamanan dan menekankan nilai-nilai fundamental OpenAI, sementara kelompok penghasil laba Altman menekankan percepatan pengembangan, meluncurkan toko GPT khusus pada hari pengembang dan menyediakan asisten API pengembang, meluncurkan model monetisasi komersial yang berbagi pendapatan dengan pengembang.
Tetapi lonjakan pengguna segera melampaui kapasitas OpenAI, dan Ultraman harus mengumumkan penangguhan pendaftaran pengguna ChatGPT Plus baru. Hal ini semakin meningkatkan kekhawatiran Sutskovo tentang keselamatan.
Faktanya, di dewan direksi, dengan Altman dan Brockman di satu sisi, dan Sutskovo dan Helen Toner di sisi lain, ada ketidaksepakatan yang berkembang tentang laju pembangunan, dan kedua belah pihak terpisah.
Anggota dewan direksi lainnya juga tidak setuju dengan Altman tentang beberapa masalah strategis utama. Misalnya, Altman ingin mengumpulkan puluhan miliar dolar dari dana kekayaan negara Timur Tengah untuk mengembangkan chip untuk menantang NVIDIA. Dia juga mendekati Masayoshi Son, yang ingin menggunakan investasi miliaran dolar SoftBank untuk bergabung dengan mantan desainer Apple Johny Ive untuk membangun perusahaan perangkat keras asli AI.
Menurut orang-orang yang akrab dengan masalah ini, Sutskwers tidak senang dengan upaya Altman untuk mengumpulkan uang dengan reputasi OpenAI, dan mereka khawatir bahwa bisnis baru mungkin tidak mengadopsi model tata kelola yang sesuai.
Sekitar pukul 10 pagi pada hari Kamis, Sutskovo dilaporkan mendekati tiga direktur lain dan meminta dua teknisi untuk menjelaskan kepada direktur risiko keamanan dan stabilitas serius yang dihadapi sistem, dan pertemuan, yang mewakili dua pertiga dari dewan direksi, segera membuat keputusan untuk memecat Altman.
Pendukung Ultraman menyebutnya sebagai "kudeta".
Anggota dewan "tidak berpengalaman"
Dewan direksi memberikan suara dengan dua pertiga suara, dan setelah Sutskovo dan tiga direktur independen setuju, keputusan dibuat untuk memecat Altman. Namun, tidak ada rapat dewan direksi, dan Brockman, sebagai ketua, tidak diberitahu tentang rapat dewan tersebut. Dua pendiri perusahaan yang paling penting, CEO dan ketua, dikeluarkan dari perusahaan selama pertemuan Google Meet sama sekali.
"Jika saya melepaskannya, dewan direksi OpenAI akan mengejar saya untuk nilai penuh dari semua saham saya. "
OpenAI mungkin adalah perusahaan swasta paling penting saat ini, dan mari kita lihat anggota dewan yang membuat keputusan seperti itu:
Direktur Independen Adam D'Angelo, Pendiri dan CEO Quora. Beliau bergabung dengan Dewan Direksi pada April 2018. Dia percaya bahwa OpenAI harus tetap berpegang pada nirlaba dan mengendalikan batas atas profitabilitas untuk memastikan bahwa itu tidak menjadi raksasa teknologi lain di Silicon Valley.
Tasha McCauley, seorang direktur independen, baru memulai masa jabatannya sebagai ilmuwan manajemen senior paruh waktu di RAND Corporation tahun ini. Dia sebelumnya memiliki dua start-up yang gagal, menikah dengan Joseph Gorden-Levitt, seorang aktor dan pengusaha Yahudi terkenal. Dia secara aktif terlibat dalam gerakan Altruisme Efektif.
Helen Toner, direktur independen yang bergabung dengan Dewan pada September 2021, adalah Direktur Hibah Penelitian Strategis dan Dasar di Center for Security and Emerging Technologies (CSET) Universitas Georgetown. Dia sebelumnya adalah peneliti kebijakan di Open Philanthropy, sebuah organisasi yang menyumbang ke OpenAI, dan sebelum bergabung dengan CSET, sebuah think tank yang memainkan peran penting dalam penelitian AI dan kebijakan geopolitik AS-China, dia tinggal di Beijing dan mempelajari ekosistem inovasi AI China.
Helen dan Tasha juga telah bergabung dengan Pusat Tata Kelola Kecerdasan Buatan Inggris (GovAI), yang berfokus pada ancaman yang dapat ditimbulkan oleh sistem AI umum terhadap keamanan.
Sutskovo menjadi satu-satunya pendiri perusahaan yang tersisa. Lahir di Rusia dan berimigrasi ke Kanada dari Israel, ia adalah mahasiswa PhD Geoffrey Hinton, bapak pembelajaran mendalam, dan telah bekerja melalui DeepMind, Google AI, OpenAI, dan selama dekade terakhir, ia telah berada di garis depan pembelajaran penguatan dan pembelajaran mendalam, mendorong kecerdasan umum buatan ke bidang yang sama sekali baru.
Dia menganjurkan pembentukan superalignment dengan manusia dalam proses membangun kecerdasan super-buatan. Dia memimpin tim untuk menggunakan 20% dari kekuatan komputasi OpenAI untuk membangun mekanisme pengawasan bawaan sebelum AI menjadi lebih pintar daripada manusia. Berbicara di media sosial baru-baru ini, ia memperingatkan: "Jika Anda mengambil nilai kecerdasan di atas semua kualitas lain dari umat manusia, Anda akan menderita konsekuensi yang mengerikan." "
Di dewan direksi, Altman dan Sutskovo memiliki konflik tajam tentang bagaimana OpenAI harus menyeimbangkan keamanan dan menghasilkan uang. Altman menganjurkan mempromosikan aplikasi komersial, mencoba memperluas ruang lingkup bisnis OpenAI, dan meminta putaran pembiayaan berikutnya, sementara Sutskovo percaya bahwa tidak mungkin terburu-buru untuk mendapat untung dengan bersikeras pada penelitian tentang kecerdasan buatan umum yang aman dan bermanfaat bagi umat manusia.
Keempat direktur OpenAI inilah yang mengusir dua direktur lainnya pada saat yang sama, dan mereka adalah salah satu pendiri yang sangat diakui, yang dikritik oleh banyak pengusaha dan lembaga investasi di Silicon Valley.
Mereka mulai dengan mempertanyakan kurangnya pengalaman dari setiap anggota dewan untuk melayani di dewan direksi perusahaan yang begitu penting. Dibandingkan dengan anggota dewan awal OpenAI, seperti Musk, pendiri LinkedIn Hoffman, dan investor teknologi keras Vinod Khosla dan pendiri Silicon Valley klasik lainnya, dewan saat ini lemah, dan juga digambarkan oleh media Silicon Valley memiliki beberapa "altruisme efektif".
Kedua, untuk peristiwa besar seperti itu, mantan direktur OpenAI dan investor terpenting tidak tahu apa-apa. Secara khusus, Microsoft menginvestasikan puluhan miliar dolar di OpenAI, yang hanya diketahui beberapa menit sebelum berita itu dirilis. Belum lagi investor lain, yang mencakup hampir semua lembaga investasi top di Silicon Valley dan di seluruh dunia.
CEO Microsoft Nadella segera membuat pernyataan di blognya: Microsoft memiliki perjanjian jangka panjang dengan OpenAI dan dapat menggunakan segalanya (teknologi) dan akan terus bekerja dengan Mira untuk memajukan strategi AI.
Kontradiksi Inheren dalam Struktur Pemerintahan
Apa pun alasannya, Altman dan Brockman adalah pendiri OpenAI yang paling penting, dan mereka telah menjadi korban struktur tata kelola yang telah mereka rancang.
OpenAI didirikan pada tahun 2015 sebagai organisasi nirlaba. Tujuannya adalah untuk membangun sistem AI umum yang memenuhi dan melampaui tingkat manusia, terbuka dan bermanfaat bagi umat manusia.
Kemudian, karena dana $1 miliar yang dijanjikan oleh Musk dan lainnya, hanya ada lebih dari $100 juta, biaya daya komputasi canggih dan talenta kelas satu sangat besar, dan penelitian serta operasi perusahaan tidak berkelanjutan, sehingga diputuskan untuk mendirikan anak perusahaan nirlaba, OpenAI Global LLC, yang sepenuhnya dikendalikan oleh OpenAI nirlaba.
OpenAI Global dapat mengumpulkan dana secara eksternal, tetapi menetapkan batas distribusi keuntungan bagi investor. Menurut pengungkapan media, distribusi keuntungan OpenAI dapat dibagi menjadi empat tahap: setelah keuntungan dihasilkan, investor pertama seperti Musk akan ditarik, 75% dari keuntungan berikutnya akan dialokasikan ke Microsoft sampai Microsoft memulihkan investasi $ 13 miliar, dan setelah keuntungan mencapai $ 92 miliar, kepemilikan saham Microsoft akan turun menjadi 49% Keuntungan yang tersisa akan dibagi antara pemodal ventura lain dan karyawan OpenAI, dan ketika keuntungan mencapai $ 150 miliar, ekuitas Microsoft dan pemodal ventura lainnya akan ditransfer ke dana nirlaba OpenAI secara gratis.
Di antara mereka, investor terpenting adalah, tentu saja, Microsoft, yang berinvestasi di OpenAI tiga kali pada 2019, 2021, dan 2023, dengan investasi kumulatif puluhan miliar dolar. Tetapi dalam arti utama, Microsoft tidak memiliki ekuitas apa pun di OpenAI, tetapi lebih seperti mitra komersial, termasuk Microsoft memiliki akses eksklusif ke semua teknologi OpenAI, OpenAI menggunakan cloud Azure Microsoft untuk melatih model dasarnya, dan layanan yang disediakan melalui API-nya semuanya menggunakan cloud Microsoft dan sebagainya.
Pendanaan Microsoft, layanan cloud, dan kerja sama komersial antara Microsoft dan OpenAI dalam aplikasi semuanya memainkan peran kunci dalam kemampuan OpenAI untuk fokus pada penelitian model bahasa besar hingga delapan tahun, dan akhirnya membuat terobosan.
Tetapi kemitraan OpenAI dengan Microsoft juga telah dikritik oleh banyak orang sebagai keberangkatan dari niat aslinya, mengubahnya dari lembaga penelitian kecerdasan buatan nirlaba independen menjadi pion strategis raksasa teknologi, berjanji untuk membuka sumber model yang mendasarinya, tetapi sejak GPT-3, itu menjadi semakin tertutup. Sebagai donor utama untuk salah satu pendiri OpenAI, Musk telah dikritik tajam. Karyawan inti OpenAI juga telah pergi untuk memulai perusahaan baru, seperti Anthropic, pesaing utama OpenAI.
ChatGPT OpenAI, diluncurkan setahun yang lalu, telah mengejutkan dunia dengan menembus kertas jendela kecerdasan buatan umum, tetapi risiko yang mungkin ditimbulkannya juga memicu kontroversi besar dan mempercepat penelitian dan perumusan sistem pemerintahan nasional dan transnasional.
Menurut arsitektur OpenAI, enam anggota dewan dapat "menentukan kapan kita telah mencapai Artificial General Intelligence (AGI)."
Meskipun ada banyak kontroversi tentang kecerdasan umum buatan, OpenAI telah datang dengan definisi: kecerdasan umum buatan mengacu pada sistem yang sangat otonom yang mengungguli manusia dalam pekerjaan yang paling bernilai ekonomis. Altman dan yang lainnya pernah percaya bahwa dalam sepuluh tahun, umat manusia akan mencapai kecerdasan buatan umum.
Dan begitu dewan direksi ini menentukan bahwa OpenAI telah mencapai kecerdasan umum buatan, ia akan menarik penggunaan eksklusif dan kerja samanya dengan lembaga komersial dan menggunakannya untuk seluruh umat manusia. Di antara mereka, disebutkan dalam klausul tentang Microsoft: "Sistem seperti itu tidak termasuk dalam lisensi kekayaan intelektual dan persyaratan komersial lainnya dengan Microsoft, yang hanya berlaku untuk teknologi sebelum AI umum." "
Dari perspektif arsitektur desain, dewan direksi OpenAI nirlaba memiliki kekuatan tertinggi.
OpenAI masih merah, tetapi pendapatannya berkembang pesat, dengan pendapatan tahunan sebesar $ 1,3 miliar dan mungkin miliaran dolar tahun depan. Dalam putaran pendanaan di awal tahun, OpenAI bernilai $ 29 miliar.
Saat ini, OpenAI sedang melakukan putaran pembiayaan baru dengan penilaian $ 86 miliar untuk menyiapkan dana untuk pelatihan GPT-5, di mana pelatihan penyelarasan akan menjadi lebih penting.
Startup meninggalkan pendiri mereka dan merupakan kisah yang berulang di Silicon Valley. Apple memecat Steve Jobs pada tahun 1985 dan Twitter memecat co-founder Jack Dorsey pada tahun 2008. Akhirnya, mereka semua kembali untuk memimpin perusahaan mereka menuju kejayaan.
Tetapi kepergian Altman mungkin memiliki dampak yang lebih besar pada industri yang diwakilinya. Bisakah AI generatif frustrasi dengan ini? Belum tentu!
Dampak AI generatif jauh melampaui pengembangan model yang lebih besar, lebih maju, dan lebih aman. Revolusi yang dipicunya baru saja dimulai.
Mungkin, misi Altman dan Brockman di OpenAI telah tercapai. AI Generatif bergerak dari laboratorium ke berbagai industri. Mereka masih akan memiliki talenta terbaik, termasuk karyawan OpenAI, dan masih akan ada miliaran atau bahkan puluhan miliar dolar investasi dari Silicon Valley ke dunia. Pintu menuju AI generatif terbuka.
OpenAI akan tetap berpegang pada niat awalnya dan meneliti kecerdasan buatan umum yang aman bagi umat manusia. Mungkin tidak lagi memiliki imajinasi komersial yang dibawa Ultraman, tetapi masih membutuhkan banyak investasi untuk mendukung penelitiannya. Bagaimanapun, nilai OpenAI mungkin bukan untuk menjadi raksasa teknologi lain, tetapi untuk menjadi perusahaan dampak sosial yang berdiri bahu-membahu dengan raksasa teknologi, membuka potensi AI generatif kepada banyak peneliti, pengusaha, pengembang, dan pengguna. Seharusnya menyenangkan melihat struktur tata kelola OpenAI yang unik melangkah lebih jauh.
"Terima kasih telah membawa kami lebih dekat ke masa depan. Brockman menerima balasan seperti itu di media sosial.