Віталік виступає за штучний інтелект, який доповнює людство, а не прагне до повної автономії

Засновник Ethereum Віталік зробив переконливий аргумент щодо того, чому розвиток штучного інтелекту слід пріоритетно орієнтувати на людське підсилення, а не на досягнення повної автономії. Згідно з недавніми заявами, опублікованими наприкінці грудня, він стверджує, що будь-яка нова ініціатива в галузі ШІ має ставити за основну мету «покращення людства». Ця точка зору кидає виклик поширеній тенденції в індустрії ШІ, де багато організацій змагаються за створення повністю автономних систем, незважаючи на нерозв’язані питання безпеки.

Проблема необмежених автономних систем

Попередження Віталіка торкається суті критичної проблеми сучасного розвитку ШІ. Він зазначає, що організації, які прагнуть створити повністю автономний Вищий Надінтелект (ASI), стають все більш поширеними, але ця гонка за повну незалежність піднімає фундаментальні питання контролю та безпеки. Його позиція особливо вражає тим, що він дотримується її незалежно від теоретичних дебатів навколо безпеки ШІ — натякаючи, що навіть якщо всі питання безпеки будуть вирішені, прагнення до повної автономії залишається проблематичним з стратегічної та філософської точок зору.

Основна тривога полягає у ризиках систем, здатних приймати рішення автономно протягом тривалого часу без людського контролю. Віталік явно закликає обмежити роботу систем ШІ, щоб вони не могли діяти незалежно більше ніж один хвилину, встановлюючи жорстку межу між корисним підсиленням і потенційно небезпечною автономією.

Підсилений ШІ: недоразвинена альтернатива

На відміну від поширення проектів автономного ASI, Віталік зазначає, що підсилений ШІ — технологія, створена спеціально для «побудови механізму для людського мозку», — залишається значно недофінансованою та недоразвиненою. Такий тип ШІ виступає як продовження людських можливостей, покращуючи когнітивні функції та процеси прийняття рішень, а не замінюючи людське судження. Незважаючи на потенціал, ця стратегія залучила набагато менше інвестицій і уваги, ніж автономні системи.

Розрив між цими двома шляхами розвитку свідчить про провал ринку у сфері інновацій ШІ. Компанії та інвестори здебільшого ігнорують величезний потенціал створення систем ШІ, які справді підсилюють людську агентність, а не зменшують її.

Прозорість через відкритий код

Щоб просувати відповідальний розвиток ШІ, Віталік наполягає на максимальній прозорості проектів підсиленого ШІ через практики відкритого коду. Публічний доступ до коду та моделей дозволяє ширшій дослідницькій спільноті аналізувати заходи безпеки, виявляти вразливості та вносити покращення. Такий колаборативний підхід різко контрастує з закритими середовищами розробки, поширеними у сфері автономного ASI.

Підкреслюючи принципи відкритого коду, Віталік наголошує на важливості громадського контролю для забезпечення того, щоб розвиток ШІ служив інтересам людства. Цей заклик до прозорості відображає фундаментальну віру в те, що трансформативні технології потребують публічної відповідальності та колективного управління.