OpenAI menggunakan AI untuk mengenali "anak kecil", apakah sistem ini dapat diandalkan

OpenAI正式部署了一套AI年龄预测系统，用来识别未满18岁的ChatGPT用户。根据最新消息，该系统已在ChatGPT消费者计划中上线，预计未来几周将在欧盟地区推出。这套系统的出现，既反映了全球对AI应用中青少年保护的日益重视，也暴露了技术识别的内在矛盾。

Sistem bagaimana cara kerjanya

OpenAI ini sistem prediksi usia bukan sekadar melihat tanggal lahir yang diisi saat pendaftaran, tetapi melalui analisis beberapa sinyal perilaku untuk menilai usia pengguna yang sebenarnya. Secara spesifik meliputi:

• Durasi keberadaan akun
• Pola waktu aktif penggunaan
• Ciri perilaku sehari-hari

Begitu sistem mengenali pengguna sebagai remaja, akun tersebut secara otomatis akan dikenai pembatasan konten, terutama akses terhadap konten yang mengandung kekerasan dan sensitif secara seksual akan dikontrol secara ketat.

Fitur orang tua yang baru

Selain pengenalan usia, OpenAI juga meluncurkan fitur kontrol orang tua yang mendukung, termasuk:

• Orang tua dapat mengatur periode diam untuk akun anak
• Sistem mendeteksi jika anak mengalami gangguan emosional serius, dan mengirimkan notifikasi ke orang tua

Ini berarti tidak hanya membatasi konten, tetapi juga melibatkan dimensi penggunaan waktu dan pemantauan kesehatan mental.

Risiko salah deteksi dan mekanisme penanggulangan

Masalah utama dari sistem ini adalah: risiko salah pengenalan usia oleh AI. Pengguna dewasa mungkin salah dikenali sebagai remaja karena pola perilaku tertentu (misalnya waktu penggunaan yang tidak teratur, konten pencarian yang cenderung edukatif).

Solusi OpenAI adalah memperkenalkan layanan verifikasi pihak ketiga Persona. Pengguna dewasa yang salah dikenali dapat mengunggah selfie atau dokumen identitas, melalui verifikasi identitas untuk mengembalikan akses normal. Meskipun proses ini menyediakan saluran penanggulangan, tetapi juga berarti pengguna harus mengunggah data biometrik ke pihak ketiga, yang tentu melibatkan masalah privasi.

Mengapa diluncurkan sekarang

Secara permukaan, ini menunjukkan perhatian OpenAI terhadap perlindungan remaja. Tapi secara mendalam, ada beberapa latar belakang yang perlu diperhatikan:

Pertama, tekanan regulasi. Wilayah seperti Uni Eropa semakin ketat dalam menuntut perlindungan remaja dalam aplikasi AI, dan OpenAI harus mengambil langkah agar tidak menghadapi risiko kepatuhan.

Kedua, pertimbangan bisnis. Berdasarkan informasi, OpenAI saat ini menghadapi tekanan keuangan—meskipun pendapatan tahunan mencapai 20B+, biaya komputasi yang tinggi membuat prospek keuntungan perusahaan diragukan. Dalam konteks ini, mengeluarkan biaya untuk kepatuhan adalah pilihan yang terpaksa, tetapi juga penting.

Ketiga, memperbaiki kepercayaan. Elon Musk baru-baru ini menuntut OpenAI sebesar 134 miliar dolar dengan tuduhan “penipuan”, inti sengketa adalah bahwa OpenAI menyimpang dari misi non-profit saat didirikan. Meluncurkan langkah perlindungan remaja, dalam beberapa hal, adalah sinyal kepada publik bahwa OpenAI tetap peduli terhadap tanggung jawab sosial.

Isu utama

Meskipun sistem ini bertujuan melindungi, ada beberapa hal yang perlu dipikirkan:

• Apakah AI mampu mengenali usia secara akurat? Berapa tingkat kesalahan yang masih dapat diterima?
• Apakah meminta pengguna mengunggah data biometrik benar-benar lebih aman daripada pembatasan usia saja?
• Jika sistem terlalu sensitif, apakah akan mengganggu pengalaman pengguna dewasa yang normal?

Kesimpulan

Sistem prediksi usia AI dari OpenAI ini adalah produk kompromi yang realistis: harus memenuhi regulasi sekaligus meminimalkan dampak terhadap pengguna dewasa. Teknologi inti tidak inovatif, yang penting adalah efektivitas pelaksanaan. Dalam beberapa minggu ke depan, peluncuran di UE dan data umpan balik pengguna akan lebih jelas menunjukkan keandalan sistem ini. Bagi OpenAI, ini bukan hanya sebuah implementasi teknologi, tetapi juga langkah proaktif dalam mengatasi krisis kepercayaan.