OpenAI використала AI для розпізнавання "дитини", чи ця система надійна

OpenAI正式部署了一套AI вікових прогнозів системи, яка використовується для ідентифікації користувачів ChatGPT, що не досягли 18 років. За останніми новинами, ця система вже запущена в рамках програми для споживачів ChatGPT і очікується, що найближчими тижнями вона буде впроваджена в регіоні ЄС. Виникнення цієї системи відображає зростаючу увагу до захисту підлітків у застосуванні ШІ, а також виявляє внутрішні протиріччя технологічної ідентифікації.

Як працює система

Ця система вікових прогнозів OpenAI не просто базується на даті народження, вказаній при реєстрації, а аналізує кілька поведінкових сигналів для оцінки реального віку користувача. Зокрема:

• тривалість існування облікового запису
• модель активності під час використання
• щоденні поведінкові характеристики

Якщо система визначає користувача як підлітка, цей обліковий запис автоматично підлягає обмеженням контенту, особливо щодо доступу до насильницького та сексуально чутливого контенту.

Нові інструменти для батьків

Крім ідентифікації віку, OpenAI також запустила додаткові функції батьківського контролю, зокрема:

• можливість батькам встановлювати режим мовчання для облікових записів дітей
• система виявляє серйозні емоційні труднощі у дитини та надсилає сповіщення батькам

Це означає не лише обмеження контенту, а й контроль за часом використання та моніторинг психологічного стану.

Ризики помилкової ідентифікації та механізми виправлення

Головна проблема цієї системи — ризик помилкової ідентифікації віку ШІ. Повнолітні користувачі можуть бути неправильно визначені як підлітки через особливості поведінки (наприклад, нерегулярний час використання, переважання освітнього контенту).

Рішення OpenAI — залучення сторонніх сервісів верифікації Persona. Помилково визначені дорослі користувачі можуть завантажити селфі або документи для підтвердження особи та відновлення нормального доступу. Хоча цей процес дає можливість виправлення, він також вимагає від користувачів передавати біометричні дані стороннім сервісам, що піднімає питання приватності.

Чому саме зараз

Зовні це виглядає як прояв уваги OpenAI до захисту підлітків. Однак глибше аналізуючи, є кілька важливих контекстів:

По-перше, регуляторний тиск. В ЄС та інших регіонах вимоги до захисту підлітків у застосуванні ШІ стають все жорсткішими, і відсутність відповідних заходів може призвести до правових ризиків.

По-друге, комерційний аспект. За даними, OpenAI наразі стикається з фінансовим тиском — хоча річний дохід перевищує 20 мільярдів доларів, високі витрати на обчислювальні ресурси ставлять під сумнів прибутковість компанії. В таких умовах інвестиції у відповідність регуляторним вимогам є вимушеним, але необхідним кроком.

По-третє, відновлення довіри. Нещодавно Ілон Маск подав позов проти OpenAI на суму 134 мільярди доларів за нібито шахрайство, головний спір — відхилення OpenAI від своєї некомерційної місії при створенні. Впровадження заходів захисту підлітків частково демонструє зовнішньому світу, що OpenAI все ще дбає про соціальну відповідальність.

Ключові питання

Хоча ця система має на меті захист, вона викликає кілька питань:

• Чи може ШІ точно визначити вік? Який рівень помилковості є прийнятним?
• Чи безпечніше вимагати від користувачів завантажувати біометричні дані, ніж просто обмежувати вік?
• Якщо система буде надто чутливою, чи не вплине це на нормальне використання дорослими користувачами?

Висновок

Ця вікова прогнозуюча система OpenAI — практичний компроміс: вона намагається задовольнити регуляторні вимоги і мінімізувати вплив на дорослих користувачів. Саме технологія не є новою, важливий результат її впровадження. У найближчі тижні, з огляду на запуск у ЄС та зворотний зв’язок користувачів, стане зрозуміло, наскільки ця система є надійною. Для OpenAI це не лише технічне впровадження, а й активний жест у кризі довіри.