AI‑война уже наступила: обсуждение автономных систем в ООН

В последние годы разговоры о боевых роботах перешли из гипотетических сценариев в реальную политику. Конвенция по ограничению обычного вооружения (CCW), работающая под эгидой ООН в Женеве, собирает экспертов, правительств и НКО дважды в год, чтобы обсудить « lethal autonomous weapons systems» (LAWS) – полностью автономные системы, способные принимать решения о применении смертельной силы без человеческого вмешательства.

На сессии в ноябре 2017 года, в которой участвовала исследовательница Бранка Мариан, обсуждались лишь гипотетические возможности. За последние восемь лет ситуация кардинально изменилась: уже сейчас несколько стран тестируют и вводят в эксплуатацию дроны и наземные платформы, способные самостоятельно идентифицировать и атаковать цели.

Эксперты CCW выделяют «красные линии», которые, по их мнению, должны стать международными запретами: 1) полное отсутствие человеческого контроля над применением силы; 2) использование автономных систем для выборочного уничтожения людей; 3) отсутствие прозрачных механизмов ответственности за ошибки ИИ. При этом обсуждаются пути регулирования, включая обязательную «человеческую верификацию» в критических решениях и создание международного реестра автономных систем.

Несмотря на усилия, страны продолжают продвигать технологию, аргументируя её «повышенной точностью» и «сокращением потерь среди собственных войск». Это создает напряжённость между стремлением к военному преимуществу и необходимостью глобального контроля за рисками, связанными с ИИ в вооружении.

Сейчас CCW готовит новый пакет рекомендаций, который может стать основой для будущих международных договоров, но их принятие зависит от политической воли государств‑участников.