تم تفعيل التنبؤ بالعمر باستخدام الذكاء الاصطناعي على ChatGPT، وسيتم حماية المستخدمين القُصّر تلقائيًا

تعمل OpenAI على تعزيز آليات أمان المحتوى في ChatGPT. وفقًا لأحدث التقارير، تم تطبيق وظيفة التنبؤ بالعمر عالميًا (سيتم إطلاقها في منطقة الاتحاد الأوروبي خلال الأسابيع المقبلة)، والتي تُستخدم للتعرف تلقائيًا على ما إذا كان الحساب ينتمي إلى مستخدمين دون سن 18، ومن ثم تفعيل تصفية المحتوى والقيود على الاستخدام ذات الصلة. هذا يمثل تطبيقًا عمليًا لتقنية الذكاء الاصطناعي في إدارة المنصات، ويعكس استجابة نشطة لمنتجات الذكاء الاصطناعي التوليدي تحت ضغط التنظيم.

كيف يعمل نظام التنبؤ بالعمر

مبدأ التعرف

يقوم النظام بتحليل عدة إشارات سلوكية لتقدير عمر المستخدم، بما في ذلك مدة نشاط الحساب، أنماط الاستخدام، وخصائص التفاعل وغيرها من الأبعاد. تعتمد هذه الطريقة على الاستنتاج السلوكي لتجنب عمليات التحقق من الهوية المعقدة، مع الحفاظ على مساحة معينة من الخصوصية.

آلية الحماية

عند اكتشاف أن المستخدم قاصر، يتم تفعيل طبقتين من الحماية تلقائيًا:

• تصفية المحتوى الملائم للعمر، لتقييد الوصول إلى المحتوى الذي قد لا يناسب القاصرين
• قيود على الاستخدام، والتي قد تشمل تعديل صلاحيات الوصول إلى الوظائف

معالجة الأخطاء في التعرف

إذا تم التعرف على مستخدم بالغ بشكل خاطئ على أنه قاصر، يمكنه استعادة الصلاحيات الكاملة من خلال عملية التحقق من الهوية في الإعدادات. يوازن هذا التصميم بين الحماية والسهولة.

لماذا هذا مهم

خلفية تنظيمية

تواجه منتجات الذكاء الاصطناعي التوليدي تدقيقًا تنظيميًا عالميًا، وحماية القاصرين تعتبر من الأولويات الأساسية. تفرض قوانين مثل “قانون الخدمات الرقمية” في الاتحاد الأوروبي، ولوائح خصوصية الأطفال في الولايات المتحدة، متطلبات واضحة على المنصات بشأن حماية المستخدمين. مبادرة OpenAI تأتي استجابة نشطة لهذه الضغوط التنظيمية.

أهمية الصناعة

يمثل نظام التعرف على العمر المدفوع بالذكاء الاصطناعي تحولًا من الرقابة السلبية إلى الوقاية النشطة في إدارة المنصات. بالمقارنة مع المراجعة اليدوية التقليدية أو تصفية القواعد، فإن هذه الطريقة أكثر قابلية للتوسع. إذا حققت النتائج المتوقعه، فمن المحتمل أن تصبح معيارًا صناعيًا، وتدفع منصات الذكاء الاصطناعي التوليدي الأخرى إلى اتباعها.

نقاط الابتكار التقنية

استخدام التحليل السلوكي بدلاً من التحقق من الهوية لاستنتاج العمر يعكس أيضًا التعاون بين Tinder وWorldcoin. كلاهما يسعى لإيجاد توازن بين حماية خصوصية المستخدم وضمان الأمان، لكن المسارات التقنية تختلف — أحدهما يعتمد على بيانات السلوك، والآخر على التعرف البيولوجي.

القضايا التي يجب الانتباه لها

الدقة والعدالة

دقة تحليل السلوك تؤثر مباشرة على تجربة المستخدم. إذا كانت معدلات الخطأ مرتفعة، قد يتطلب الأمر من العديد من البالغين إعادة التحقق مرارًا وتكرارًا، وإلا قد يتم التغاضي عن بعض المستخدمين القاصرين. كما أن بيانات التدريب والخوارزميات قد تتأثر بالتحيز، مما يؤثر على نتائج التعرف في مناطق وفئات سكانية مختلفة.

اعتبارات الخصوصية

على الرغم من أن النظام لا يتطلب التحقق المباشر من الهوية، إلا أن تحليل سلوك الحساب ينطوي على جمع البيانات. يتعين على OpenAI توضيح كيفية استخدام وتخزين وحماية هذه البيانات السلوكية بشكل واضح.

الخلاصة

يمثل نظام التنبؤ بالعمر من OpenAI محاولة مبتكرة في إدارة الأمان على منصات الذكاء الاصطناعي التوليدي. من خلال التعرف على المستخدمين بواسطة الذكاء الاصطناعي، يعالج الحاجة الواقعية لحماية القاصرين، ويبرز إمكانيات التقنية في التنظيم الذاتي. لكن القيمة الحقيقية لهذا النظام تعتمد في النهاية على دقته وقبول المستخدمين له في التطبيق العملي. مع تصاعد جهود التنظيم العالمي للذكاء الاصطناعي، قد تصبح التدابير الوقائية النشطة معيارًا أساسيًا للمنتجات الجديدة.