Anthropic за п'ять років перетворилася з аутсайдера на одну з найуспішніших компаній штучного інтелекту в США – і саме цей успіх зробив її мішенню для адміністрації Дональда Трампа. Вже вдруге за чотири місяці люди президента втрутилися в роботу компанії, наказавши закрити доступ до її найновіших моделей Fable 5 і Mythos 5 для всіх неамериканців, зокрема й для власних співробітників.
Як передає "Хвиля", про це йдеться у статті The Economist.
В основі конфлікту – різний погляд на технологію. Адміністрація Трампа бачить у ШІ інструмент, який має зміцнити позиції США у світі. Anthropic натомість вважає його силою, надто потужною, щоб роздавати її без запобіжників. Видання описує це протистояння як зіткнення церкви і держави, де на кону питання, хто врешті контролюватиме найпотужнішу технологію планети.
Комерційно справи у компанії йдуть чудово. Заснована 2021 року вихідцями з OpenAI, Anthropic зробила ставку не на чат-боти, а на корпоративних клієнтів та інструменти для програмістів. Випущений рік тому застосунок Claude Code виконує завдання, на які людині-кодеру потрібні години або дні. Чотири п'ятих доходу компанії дають бізнес-клієнти – у OpenAI ця частка близько 40 відсотків.
Цього місяця і Anthropic, і OpenAI подали заявки на IPO. Кожну компанію оцінюють приблизно в трильйон доларів. У травні Anthropic коштувала 965 мільярдів доларів проти 852 мільярдів у OpenAI у березні. Інвесторам компанія повідомила, що вийде на операційний прибуток уже в другому кварталі – першою серед усіх ШІ-лабораторій.
Конфлікт із владою почався не зараз. Глава Anthropic Даріо Амодеї постійно говорить про небезпеки ШІ й закликає до "серйозного й обов'язкового регулювання". Це дратує Білий дім. Радник уряду з питань ШІ Девід Сакс звинуватив компанію у "витонченій стратегії захоплення регуляторів, побудованій на залякуванні".
Перша публічна сварка сталася наприкінці лютого через використання Claude для масового стеження та автономної зброї. Тоді Трамп спробував змусити всі держустанови розірвати зв'язки з компанією, назвавши її керівників "лівацькими психами". Згодом Сакс попередив: якщо "експоненційне" зростання Anthropic триватиме, вона може отримати "безпрецедентний контроль над найважливішою технологією нашого часу". Він порівняв це з пануванням Рокфеллера у нафтовій галузі XIX століття.
Нинішнє загострення спалахнуло навколо моделі Mythos, яка надзвичайно добре зламує системи й знайшла вразливості у багатьох урядових мережах. Компанія створила захищенішу версію Fable, але Amazon виявив у ній діри, що дозволяли обійти запобіжники. Сакс звинуватив Амодеї у відмові "виправити джейлбрейк" – в Anthropic відмову заперечують і кажуть, що дали моделі владі на перевірку ще за тижні до релізу.
За лаштунками суперечки реальна регуляторна пастка. Обравши політику невтручання, адміністрація Трампа не має тонких інструментів впливу на ШІ-лабораторії. Тому в хід ідуть грубі: компанію оголосили "ризиком для ланцюга постачання", а потім зажадали окрему експортну ліцензію на кожен продаж іноземцям. Не маючи змоги відстежити, хто з іноземців користується моделями, Anthropic просто вимкнула їх повністю.
За словами колишнього чиновника адміністрації Діна Болла, без чітких правил є ризик, що Америка отримає урядове "панування над ШІ" замість американського "панування у ШІ". "Жодна компанія не може розхитувати основи державного суверенітету, безтурботно лишаючись над суворою реальністю політики", – додав він. The Economist зазначає, що поки Конгрес не напише нові правила, Амодеї фактично діятиме як невиборний арбітр безпеки, а конфлікт триватиме.