Багато експертів вважають, що величезний прогрес, досягнутий у сфері штучного інтелекту, допомагає Кремнієвій долині розпочати момент сингулярності, і ми ось-ось розпочнемо кардинальні, експоненціальні та незворотні зміни.
Курцвейл, найбільший прихильник теорії сингулярності, передбачає, що до 2030 року комп’ютерні системи пройдуть тест Тюрінга і їх неможливо буде відрізнити від людей. Через п’ятнадцять років настане справжня сингулярність, коли «обчислювальна техніка стане частиною нас, а наш інтелект зросте в мільйон разів».
Опозиційні критики стверджують, що навіть приголомшливий прогрес великих мовних моделей далекий від безсмертної, тривалої світової мудрості, обіцяної теорією сингулярності.
Кредит зображення: створено інструментами Unbounded AI
Роками Силіконова долина чекала появи нової технології, яка все змінить. Він об’єднає людей і машини у вищий інтелект і підкреслить межу історії. Цей етапний момент відомий як «сингулярність».
Це може статися кількома способами. Один із ризиків полягає в тому, що люди можуть додати обчислювальну потужність ПК до свого власного вродженого інтелекту, перетворивши їх на самих себе супермутантів. Або комп’ютерні системи можуть стати настільки складними, що вони можуть фактично припустити, створюючи світовий розум.
В обох випадках наступні зміни можуть бути різкими, експоненціальними та незворотними. Надлюдська машина з самосвідомістю може розробити власні вдосконалення швидше, ніж будь-яка група вчених, викликавши вибух інтелекту. Століття прогресу можуть бути досягнуті за роки чи навіть місяці.
Штучний інтелект робить безпрецедентні хвилі в технологіях, бізнесі та політиці. Зважаючи на гіперболічні твердження та дикі прогнози Кремнієвої долини, здається, що давно обіцяний цифровий рай нарешті доступний.
Сундар Пічаї, зазвичай стриманий виконавчий директор Google, сказав, що вплив штучного інтелекту «набагато глибший, ніж вогонь, електрика чи щось, що ми робили раніше».
«Здатність здійснювати конструктивні зміни на цій планеті незабаром отримає значний поштовх, як ніколи раніше», — сказав інвестор-мільярдер Рейд Хоффман.
Співзасновник Microsoft Білл Гейтс (Інвойс Гейтс) заявив, що штучний інтелект «змінить те, як люди працюють, навчаються, подорожують, отримують медичне обслуговування та найкращий спосіб спілкування один з одним».
Однак тут є темний поворот. Це ніби технологічні компанії випустили безпілотні автомобілі та попередили, що вони можуть вибухнути на вашому шляху до Walmart.
**Глава Twitter і Tesla Ілон Маск сказав в інтерв’ю минулого місяця: «Появу загального штучного інтелекту називають сингулярністю, тому що важко передбачити, що станеться після цього». Але він сказав, що вважає «еру достатку» прийде, але що AGI також «має потенціал знищити людство». **
У світі технологій найбільшим прихильником штучного інтелекту є Сем Альтман, виконавчий директор OpenAI, стартапу, чий чат-бот ChatGPT викликав нинішнє божевілля. Альтман сказав, що штучний інтелект цілком може бути «найкращим фінансовим інструментом і збагаченням для багатьох людей, які ми коли-небудь бачили», однак він також сказав, що Маск може бути правий. Маск критично ставиться до штучного інтелекту, а також створив організації, які займаються розробкою інтерфейсів мозок-комп’ютер.
Минулого місяця Альтман підписав відкритий лист, спонсорований некомерційною організацією Center for Artificial Intelligence Safety, у якому говорилося, що «зменшення ризику зникнення штучного інтелекту має бути глобальним пріоритетом» і що це має бути пов’язане з «пандеміями та ядерною війною». Серед інших підписантів — колеги Альтмана з OpenAI, а також вчені з Microsoft і Google.
Тема «кінця світу» стала звичною в Силіконовій долині, і це навіть тема, яку багато людей охоче обговорюють. Кілька років тому здавалося, що кожен великий технічний хлопець мав добре укомплектований бункер кінця світу у віддаленому, але все ще доступному місці. У 2016 році Альтман заявив, що збирає «зброю, золото, йодид калію, антибіотики, батареї, воду, протигази та район Біг-Сур, до якого можна дістатися літаком». Нехай ці люди відчують, що вони роблять. це правильна річ. Зараз вони готуються до приходу сингулярності.
Коріння сингулярності
Коріння ідеї сингулярності можна простежити до Джона фон Неймана, піонера в галузі комп’ютерних технологій, який у 1950-х роках говорив про те, як «постійно прискорений прогрес технологій» породить «деякі з найважливіших сингулярностей у історія людства».
Британський математик Ірвінг Джон Гуд, який допоміг зламати німецьку кодову систему Enigma в Блетчлі-парку під час Другої світової війни, також був прихильником теорії сингулярності. «Виживання людства залежатиме від раннього розвитку надрозумних машин», — писав він у 1964 році. Режисер Стенлі Кубрик консультувався щодо штучного інтелекту HAL у фільмі «2001: Будинок Одіссея» Гуда, це ранній приклад розмитості меж між інформатики та наукової фантастики.
Ханс Моравек, ад’юнкт-професор Інституту робототехніки Університету Карнегі-Меллона, вважає, що штучний інтелект є не лише великим благом для людей, але й неживі речі можна переробити в сингулярності. У книзі Mind Children: The Future of Robot and Human Intelligence він пише: «Ми матимемо можливість відтворити минуле та взаємодіяти з ним реальним і миттєвим способом».
Підприємець і винахідник Рей Курцвейл завжди був найбільшим прихильником теорії сингулярності. Він написав багато книг про сингулярність, у тому числі «The Age of Intelligent Machines», опубліковану в 1990 році, «The Singularity Is Near» у 2005 році, і зараз пише «The Singularity Is Closer».
**Курцвейл прогнозує, що до 2030 року комп’ютерні системи пройдуть тест Тюрінга і їх неможливо буде відрізнити від людських. Через п’ятнадцять років, за його оцінками, настане справжня сингулярність, коли «обчислювальна техніка стане частиною нас, а наш інтелект зросте в мільйон разів». На той час Курцвейлу може виповнитися 97 років. За допомогою харчових вітамінів і дієтичних добавок він сподівається продовжувати бачити, що буде далі. **
Для деяких критиків теорії сингулярності відтворення перцептивних систем у сфері програмування є інтелектуально сумнівною спробою. Родні Брукс, колишній директор лабораторії комп’ютерних наук і штучного інтелекту Массачусетського технологічного інституту, сказав: «Всі вони хочуть жити вічно, не відчуваючи незручностей віри в бога».
Нововведенням, яке нині викликає дебати про сингулярність, є поява великих мовних моделей, типу систем штучного інтелекту, які працюють у чат-ботах. У процесі спілкування з цими великими мовними моделями він може знайти рішення швидко й узгоджено.
«Коли ви задаєте запитання, ці моделі пояснюють, що воно означає, визначають, що воно має дати відповідь, а потім перекладають це словами. Якщо це не природний інтелект, що таке?»
Каплан сказав, що він скептично ставиться до таких розрекламованих чудес, як безпілотні автомобілі та криптовалюта. Він має подібні побоювання щодо останнього розвитку штучного інтелекту, але каже, що його переконали. «Якщо це не «сингулярність», то, безсумнівно, революційний технологічний вибух, який значно прискорить цілу низку мистецтв, наук і людських знань, водночас створюючи безліч запитань», — сказав він.
Критики заперечують, що навіть дивовижний прогрес великих мовних моделей далекий від безсмертної, тривалої світової мудрості, яку обіцяє теорія сингулярності. Недоліком точного відокремлення ажіотажу від реальності є те, що механізм, який рухає цією технологією, прихований. Критики кажуть, що OpenAI, який починався як некомерційна організація з відкритим вихідним кодом, а тепер є комерційним бізнесом, успішно перетворився на чорну скриньку. Google і Microsoft також пропонують обмежену видимість.
Більшість аналізу штучного інтелекту проводять компанії, і від результатів можна багато чого отримати. Дослідники Microsoft, яка інвестувала 13 мільярдів доларів у OpenAI, дійшли висновку в статті, опублікованій у квітні, що останні моделі OpenAI «виявляють багато характеристик інтелекту», включаючи «абстракцію, розуміння, бачення, кодування» та «розуміння людської мотивації та емоцій». .
Райлан Шеффер, доктор філософії в галузі інформатики зі Стенфордського університету, каже, що деякі дослідники штучного інтелекту неправильно характеризують те, як ці великі мовні моделі демонструють «новий талант», незрозумілі здібності в менших варіантах, неочевидно.
Шафер разом із двома колегами зі Стенфорду, Брандо Мірандою та Санмі Коєджо, досліджували це питання в аналітичній статті, опублікованій минулого місяця. Вони прийшли до висновку, що виникаючий бум був «міражем», викликаним помилками вимірювань. У IMPACT дослідники побачили те, що очікували побачити.
Вічне життя і вічний прибуток
У Вашингтоні, Лондоні та Брюсселі законодавці обговорюють альтернативи та проблеми ШІ та починають говорити про регулювання. Альтман зараз у глобальному турі, сподіваючись відвернути ранню критику та представити OpenAI пастухом сингулярності.
Це включає в себе відкритість для регулювання, хоча досі немає чітких рамок, як це зробити. Силіконова долина часто стверджує, що уряди рухаються надто повільно, щоб контролювати швидкий технологічний розвиток. Колишній генеральний директор Google Ерік Шмідт сказав у нещодавньому інтерв’ю, що ніхто в уряді не може отримати це право, і що він вважає, що ШІ повинен регулювати сам себе.
ШІ, подібний до сингулярності, описується як незворотна технологічна тенденція. «Щоб зупинити це, знадобиться щось подібне до глобального регуляторного режиму, і навіть це не гарантовано спрацює», — написали минулого місяця Альтман і кілька його колег, додавши, що якщо Кремнієва долина не зможе це зробити, можливо, в іншому місці. успіх.
Ще менше згадується величезний дохід від цієї тенденції. Незважаючи на всі розмови про те, що штучний інтелект є гігантською машиною для створення багатства, багатими стають лише ті, хто вже багаті. Цього року ринкова вартість Microsoft зросла на 500 мільярдів доларів. Nvidia вважається однією з найпопулярніших державних компаній у США завдяки стрімкому зростанню попиту на мікросхеми штучного інтелекту.
«Штучний інтелект — це технологія, якої світ завжди хотів», — написав Альтман у Twitter. Дійсно, це точно та технологія, якої технічний світ прагнув увесь час, наставши найкращі часи. Минулого року Кремнієва долина постраждала від звільнень і зростання процентних ставок, а раніше зростаючий простір криптовалюти загруз у шахрайстві та розчаруванні.
Чарльз Стросс є співавтором роману «Ботанова манія», комедії про сингулярність. «Справжня обіцянка полягає в тому, що компанії матимуть можливість замінити свої недоліки, дорогі, мляві підмоделі ручної обробки інформації на певні програмні програми, які допомагають вирішити проблеми та зменшити накладні витрати», — сказав він.
Сингулярність завжди уявлялася як велика «космічна мить», яка захоплює. Однак причиною, чому люди зараз обговорюють сингулярність, може бути головним чином те, що американські компанії хочуть скоротити робочу силу та одержимі збільшенням прибутку. Говорячи гіперболічними словами, навіть (недосяжний) рай може чекати вічно, коли ви (маючи на увазі підприємців) поспішаєте збільшити свою ринкову капіталізацію на трильйони доларів. (Текст / Jinlu)
посилання:
Переглянути оригінал
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Штучний інтелект допомагає Кремнієвій долині розпочати момент «сингулярності»? У 2045 році людський інтелект можна збільшити в 1 мільйон разів
Роками Силіконова долина чекала появи нової технології, яка все змінить. Він об’єднає людей і машини у вищий інтелект і підкреслить межу історії. Цей етапний момент відомий як «сингулярність».
Це може статися кількома способами. Один із ризиків полягає в тому, що люди можуть додати обчислювальну потужність ПК до свого власного вродженого інтелекту, перетворивши їх на самих себе супермутантів. Або комп’ютерні системи можуть стати настільки складними, що вони можуть фактично припустити, створюючи світовий розум.
В обох випадках наступні зміни можуть бути різкими, експоненціальними та незворотними. Надлюдська машина з самосвідомістю може розробити власні вдосконалення швидше, ніж будь-яка група вчених, викликавши вибух інтелекту. Століття прогресу можуть бути досягнуті за роки чи навіть місяці.
Штучний інтелект робить безпрецедентні хвилі в технологіях, бізнесі та політиці. Зважаючи на гіперболічні твердження та дикі прогнози Кремнієвої долини, здається, що давно обіцяний цифровий рай нарешті доступний.
Сундар Пічаї, зазвичай стриманий виконавчий директор Google, сказав, що вплив штучного інтелекту «набагато глибший, ніж вогонь, електрика чи щось, що ми робили раніше».
«Здатність здійснювати конструктивні зміни на цій планеті незабаром отримає значний поштовх, як ніколи раніше», — сказав інвестор-мільярдер Рейд Хоффман.
Співзасновник Microsoft Білл Гейтс (Інвойс Гейтс) заявив, що штучний інтелект «змінить те, як люди працюють, навчаються, подорожують, отримують медичне обслуговування та найкращий спосіб спілкування один з одним».
Однак тут є темний поворот. Це ніби технологічні компанії випустили безпілотні автомобілі та попередили, що вони можуть вибухнути на вашому шляху до Walmart.
**Глава Twitter і Tesla Ілон Маск сказав в інтерв’ю минулого місяця: «Появу загального штучного інтелекту називають сингулярністю, тому що важко передбачити, що станеться після цього». Але він сказав, що вважає «еру достатку» прийде, але що AGI також «має потенціал знищити людство». **
У світі технологій найбільшим прихильником штучного інтелекту є Сем Альтман, виконавчий директор OpenAI, стартапу, чий чат-бот ChatGPT викликав нинішнє божевілля. Альтман сказав, що штучний інтелект цілком може бути «найкращим фінансовим інструментом і збагаченням для багатьох людей, які ми коли-небудь бачили», однак він також сказав, що Маск може бути правий. Маск критично ставиться до штучного інтелекту, а також створив організації, які займаються розробкою інтерфейсів мозок-комп’ютер.
Минулого місяця Альтман підписав відкритий лист, спонсорований некомерційною організацією Center for Artificial Intelligence Safety, у якому говорилося, що «зменшення ризику зникнення штучного інтелекту має бути глобальним пріоритетом» і що це має бути пов’язане з «пандеміями та ядерною війною». Серед інших підписантів — колеги Альтмана з OpenAI, а також вчені з Microsoft і Google.
Тема «кінця світу» стала звичною в Силіконовій долині, і це навіть тема, яку багато людей охоче обговорюють. Кілька років тому здавалося, що кожен великий технічний хлопець мав добре укомплектований бункер кінця світу у віддаленому, але все ще доступному місці. У 2016 році Альтман заявив, що збирає «зброю, золото, йодид калію, антибіотики, батареї, воду, протигази та район Біг-Сур, до якого можна дістатися літаком». Нехай ці люди відчують, що вони роблять. це правильна річ. Зараз вони готуються до приходу сингулярності.
Коріння сингулярності
Коріння ідеї сингулярності можна простежити до Джона фон Неймана, піонера в галузі комп’ютерних технологій, який у 1950-х роках говорив про те, як «постійно прискорений прогрес технологій» породить «деякі з найважливіших сингулярностей у історія людства».
Британський математик Ірвінг Джон Гуд, який допоміг зламати німецьку кодову систему Enigma в Блетчлі-парку під час Другої світової війни, також був прихильником теорії сингулярності. «Виживання людства залежатиме від раннього розвитку надрозумних машин», — писав він у 1964 році. Режисер Стенлі Кубрик консультувався щодо штучного інтелекту HAL у фільмі «2001: Будинок Одіссея» Гуда, це ранній приклад розмитості меж між інформатики та наукової фантастики.
Ханс Моравек, ад’юнкт-професор Інституту робототехніки Університету Карнегі-Меллона, вважає, що штучний інтелект є не лише великим благом для людей, але й неживі речі можна переробити в сингулярності. У книзі Mind Children: The Future of Robot and Human Intelligence він пише: «Ми матимемо можливість відтворити минуле та взаємодіяти з ним реальним і миттєвим способом».
Підприємець і винахідник Рей Курцвейл завжди був найбільшим прихильником теорії сингулярності. Він написав багато книг про сингулярність, у тому числі «The Age of Intelligent Machines», опубліковану в 1990 році, «The Singularity Is Near» у 2005 році, і зараз пише «The Singularity Is Closer».
**Курцвейл прогнозує, що до 2030 року комп’ютерні системи пройдуть тест Тюрінга і їх неможливо буде відрізнити від людських. Через п’ятнадцять років, за його оцінками, настане справжня сингулярність, коли «обчислювальна техніка стане частиною нас, а наш інтелект зросте в мільйон разів». На той час Курцвейлу може виповнитися 97 років. За допомогою харчових вітамінів і дієтичних добавок він сподівається продовжувати бачити, що буде далі. **
Для деяких критиків теорії сингулярності відтворення перцептивних систем у сфері програмування є інтелектуально сумнівною спробою. Родні Брукс, колишній директор лабораторії комп’ютерних наук і штучного інтелекту Массачусетського технологічного інституту, сказав: «Всі вони хочуть жити вічно, не відчуваючи незручностей віри в бога».
Нововведенням, яке нині викликає дебати про сингулярність, є поява великих мовних моделей, типу систем штучного інтелекту, які працюють у чат-ботах. У процесі спілкування з цими великими мовними моделями він може знайти рішення швидко й узгоджено.
«Коли ви задаєте запитання, ці моделі пояснюють, що воно означає, визначають, що воно має дати відповідь, а потім перекладають це словами. Якщо це не природний інтелект, що таке?»
Каплан сказав, що він скептично ставиться до таких розрекламованих чудес, як безпілотні автомобілі та криптовалюта. Він має подібні побоювання щодо останнього розвитку штучного інтелекту, але каже, що його переконали. «Якщо це не «сингулярність», то, безсумнівно, революційний технологічний вибух, який значно прискорить цілу низку мистецтв, наук і людських знань, водночас створюючи безліч запитань», — сказав він.
Критики заперечують, що навіть дивовижний прогрес великих мовних моделей далекий від безсмертної, тривалої світової мудрості, яку обіцяє теорія сингулярності. Недоліком точного відокремлення ажіотажу від реальності є те, що механізм, який рухає цією технологією, прихований. Критики кажуть, що OpenAI, який починався як некомерційна організація з відкритим вихідним кодом, а тепер є комерційним бізнесом, успішно перетворився на чорну скриньку. Google і Microsoft також пропонують обмежену видимість.
Більшість аналізу штучного інтелекту проводять компанії, і від результатів можна багато чого отримати. Дослідники Microsoft, яка інвестувала 13 мільярдів доларів у OpenAI, дійшли висновку в статті, опублікованій у квітні, що останні моделі OpenAI «виявляють багато характеристик інтелекту», включаючи «абстракцію, розуміння, бачення, кодування» та «розуміння людської мотивації та емоцій». .
Райлан Шеффер, доктор філософії в галузі інформатики зі Стенфордського університету, каже, що деякі дослідники штучного інтелекту неправильно характеризують те, як ці великі мовні моделі демонструють «новий талант», незрозумілі здібності в менших варіантах, неочевидно.
Шафер разом із двома колегами зі Стенфорду, Брандо Мірандою та Санмі Коєджо, досліджували це питання в аналітичній статті, опублікованій минулого місяця. Вони прийшли до висновку, що виникаючий бум був «міражем», викликаним помилками вимірювань. У IMPACT дослідники побачили те, що очікували побачити.
Вічне життя і вічний прибуток
У Вашингтоні, Лондоні та Брюсселі законодавці обговорюють альтернативи та проблеми ШІ та починають говорити про регулювання. Альтман зараз у глобальному турі, сподіваючись відвернути ранню критику та представити OpenAI пастухом сингулярності.
Це включає в себе відкритість для регулювання, хоча досі немає чітких рамок, як це зробити. Силіконова долина часто стверджує, що уряди рухаються надто повільно, щоб контролювати швидкий технологічний розвиток. Колишній генеральний директор Google Ерік Шмідт сказав у нещодавньому інтерв’ю, що ніхто в уряді не може отримати це право, і що він вважає, що ШІ повинен регулювати сам себе.
ШІ, подібний до сингулярності, описується як незворотна технологічна тенденція. «Щоб зупинити це, знадобиться щось подібне до глобального регуляторного режиму, і навіть це не гарантовано спрацює», — написали минулого місяця Альтман і кілька його колег, додавши, що якщо Кремнієва долина не зможе це зробити, можливо, в іншому місці. успіх.
Ще менше згадується величезний дохід від цієї тенденції. Незважаючи на всі розмови про те, що штучний інтелект є гігантською машиною для створення багатства, багатими стають лише ті, хто вже багаті. Цього року ринкова вартість Microsoft зросла на 500 мільярдів доларів. Nvidia вважається однією з найпопулярніших державних компаній у США завдяки стрімкому зростанню попиту на мікросхеми штучного інтелекту.
«Штучний інтелект — це технологія, якої світ завжди хотів», — написав Альтман у Twitter. Дійсно, це точно та технологія, якої технічний світ прагнув увесь час, наставши найкращі часи. Минулого року Кремнієва долина постраждала від звільнень і зростання процентних ставок, а раніше зростаючий простір криптовалюти загруз у шахрайстві та розчаруванні.
Чарльз Стросс є співавтором роману «Ботанова манія», комедії про сингулярність. «Справжня обіцянка полягає в тому, що компанії матимуть можливість замінити свої недоліки, дорогі, мляві підмоделі ручної обробки інформації на певні програмні програми, які допомагають вирішити проблеми та зменшити накладні витрати», — сказав він.
Сингулярність завжди уявлялася як велика «космічна мить», яка захоплює. Однак причиною, чому люди зараз обговорюють сингулярність, може бути головним чином те, що американські компанії хочуть скоротити робочу силу та одержимі збільшенням прибутку. Говорячи гіперболічними словами, навіть (недосяжний) рай може чекати вічно, коли ви (маючи на увазі підприємців) поспішаєте збільшити свою ринкову капіталізацію на трильйони доларів. (Текст / Jinlu)
посилання: