Людство стоїть "біля підніжжя сингулярності", і в нього залишилося лише кілька років, щоб підготуватися до появи загального штучного інтелекту (AGI). Про це на конференції для розробників Google заявив генеральний директор Google DeepMind Деміс Хассабіс.
Як передає "Хвиля", про це повідомляє Axios.
В інтерв'ю виданню після свого виступу на Google I/O Хассабіс сказав, що його прогноз про можливу появу AGI вже за чотири роки – або навіть раніше – відображає зростаючу впевненість галузі в тому, що вона знайшла правильний технічний шлях.
"Ми бачимо, як агенти реально працюють уже зараз, і можемо уявити, якими вони стануть ще за рік і наскільки корисними будуть", – сказав він.
За словами Хассабіса, він і далі загалом очікує появу AGI близько 2030 року, хоча тепер припускає, що це може статися й у 2029-му. Наступну хвилю ШІ-агентів він пропонує сприймати як суспільний стрес-тест для значно потужніших систем, які ще попереду.
"Можна уявити, що ера агентів у наступному році – це щось на кшталт пробного забігу", – пояснив керівник DeepMind.
Прикладом непідготовленості він назвав те, як потужність системи Mythos від Anthropic застала зненацька бізнес і уряди, показавши, наскільки швидко розвиваються ці технології. "Це був, мабуть, добрий попереджувальний постріл", – зазначив Хассабіс.
Він визнав, що навмисно добирав провокативні формулювання, щоб підштовхнути уряди, економістів і широку громадськість серйозніше готуватися до дедалі потужнішого ШІ. "Почасти саме тому я використовую деякі зі сказаних мною термінів, які були трохи провокативними", – сказав він.
Обережні кроки федерального уряду США в бік повернення до пріоритету безпеки Хассабіс назвав рухом у правильному напрямку. Він мав на увазі можливий указ про ШІ, який зобов'язав би тестувати нові моделі перед їх випуском. "Думаю, безпеку потрібно прискорити. Зараз вдалий момент, щоб кувати залізо, поки гаряче", – сказав він. За його словами, він обговорює можливі заходи безпеки з керівниками інших провідних ШІ-лабораторій, але конкретики не навів.
Водночас Хассабіс непокоїться, що розмова про здатність ШІ перекроїти суспільство досі точиться переважно в технологічних колах. "До цього треба ставитися серйозно. Мої друзі-економісти, відчуваю, досі сприймають це недостатньо серйозно", – сказав він Axios.
Окремою точкою відліку він назвав рекурсивне самовдосконалення – системи, здатні відчутно прискорювати власний розвиток. "Усі провідні лабораторії досить зосереджені на цьому. Будуть очевидні виграші у швидкості досліджень. Але є й ризики з таким типом систем", – сказав Хассабіс. За його словами, до повноцінного самовдосконалення ще не дійшло, проте темпи розвитку явно прискорюються. Нинішній етап він описав як "м'яке самовдосконалення", коли кодувальні агенти роблять інженерів значно продуктивнішими.