Фото: uifuture.org Вони скасували норми, які зобов'язували людину підтверджувати цілі для ударів, визначені штучним інтелектом.
Під час переговорів у Женеві дипломати США та росії об’єднали зусилля, щоб вилучити з проєкту глобальної угоди ООН ключове положення – обов'язковий людський контроль над автономною ШІ-зброєю перед завданням ударів.
Про це повідомляє газета The Washington Post із посиланням на власні джерела.
За даними видання, на закритому 15-годинному засіданні представники обох країн, залучивши близько 20 юристів, суттєво переробили документ, який мав стати першим міжнародним договором щодо регулювання смертоносної автономної зброї.
Ключові зміни, внесені дипломатами США та рф:
-
Вилучено людський контроль: Скасовано вимогу обов’язкової перевірки людиною військових цілей, визначених штучним інтелектом, перед їх ураженням.
-
Прибрано вимоги надійності: Втратили чинність пункти, що зобов'язували ШІ-системи працювати передбачуваним і надійним чином.
-
Скасовано етичні норми: З тексту повністю вилучили згадки про етичні міркування під час застосування автономних озброєнь.
Одне з джерел видання описало цей процес як "смерть [угоди] від тисячі дрібних порізів".
Правозахисники вже висловили занепокоєння. Заступниця директора з питань озброєнь Human Rights Watch Веріті Койл наголосила, що такі кроки фактично дають машинам право ухвалювати рішення про життя і смерть без участі людини, що суттєво підвищує ризики для цивільного населення та пришвидшує перехід до неконтрольованої автоматизованої війни.