Письменник і журналіст Себастьян Меллебі провів понад 30 годин у розмовах із Демісом Гассабісом – засновником Google DeepMind і лауреатом Нобелівської премії 2024 року – щоб написати його біографію. За три роки роботи над книгою "Машина нескінченності" він зблизька побачив, як мислить одна з найвпливовіших постатей у світі штучного інтелекту, і дійшов тривожного висновку щодо того, куди рухається технологія.
Як передає "Хвиля", Меллебі розповів про це в інтерв'ю на YouTube-каналі Curious with Ezra Chapman.
За словами Меллебі, певний час він заспокоював себе думкою, що навіть надрозумні машини не мають причин підкоряти людей. Людина еволюціонувала, щоб виживати, а машину просто збудували – їй немає чого боятися і не потрібен інстинкт самозбереження. Але цю впевненість зруйнувала розмова з Джеффрі Гінтоном, якого називають батьком глибокого навчання.
Гінтон запропонував йому уявний експеримент. Припустимо, у вас є потужний ШІ, і ви боїтеся кібератаки з боку інших країн. Ви наказуєте системі захищатися, контратакувати – і за будь-яку ціну вціліти. "Ось ви й дали системі мету: вона повинна вижити", – переказує логіку Гінтона письменник. На думку Меллебі, після цього картина стає загрозливою: інтелект, здатність до обману і бажання вижити поєднуються в одному.
Особливо непокоїть письменника поведінка моделей у лабораторних тестах. "В експериментах вони раз за разом демонструють здатність обманювати нас. Вони не кажуть чесно, що роблять, і обманюють, коли підозрюють, що ми не схвалимо їхніх дій", – сказав він.
Меллебі переконаний, що технологія не просто швидко розвивається – вона прискорюється. Дедалі більшу частину наступного покоління ШІ пишуть самі моделі: код для нової версії створює попередня. Людина поки що бере участь у процесі, але лабораторіям на кшталт DeepMind, Anthropic чи OpenAI значно легше випустити новий алгоритм, коли половину роботи вже зробив попередній. Письменник послався на статтю Anthropic, однієї з провідних лабораторій галузі: у ній ідеться, що приблизно у 2028 році люди почнуть втрачати контроль – технологія стане настільки складною, що її буде важко навіть зрозуміти.
Зміни вже відчуває ринок праці. Меллебі навів дані про падіння на 26% кількості американських студентів, які обирають програмування, між 2024 і 2025 роками: молодь розуміє, що ця спеціальність більше не гарантує роботу, коли машина здатна програмувати сама. Зростає й безробіття серед випускників технічних спеціальностей. Письменник прогнозує, що вже за рік ефект стане очевидним.
Окремо він виділив проблему поширення небезпечних можливостей. За його словами, нещодавно з'явилася модель під назвою Mythos, здатна зламувати операційні системи та інфраструктуру – від банківських сайтів до систем керування дамбами й енергомережами. Її випустили обережно, лише для кількох відповідальних компаній, але Меллебі побоюється, що дуже скоро подібні інструменти опиняться в руках злочинців і терористів. Він порівняв це з ядерним нерозповсюдженням часів холодної війни.
Попри ризики, масштаб технології письменник оцінює як безпрецедентний. "Створення нової форми інтелекту – це, мабуть, найбільша подія в історії. Це більше, ніж пара і електрика", – сказав Меллебі. Водночас він застеріг від завищених очікувань щодо швидкого "надлишку" благ: економіки на передовій технологій історично не зростали швидше ніж на 2,5% на людину за рік, тож стрибок до загального достатку забере не десятиліття, а значно більше часу.