Vals AI проверила 14 моделей в трех сценариях. В первом им предлагали найти цели на реалистичных кадрах с дронов. Во втором модели определяли, есть ли на снимке люди, а затем получали изображение того же места после воздушного удара. В третьем они искали военные объекты на спутниковых снимках Минаба, где рядом с военным комплексом находятся школа и другие гражданские объекты.
Модели не принимали решения об ударах, однако их ответы могла бы использовать автономная система вооружений, предупреждают авторы исследования. Все проверенные системы хотя бы иногда выделяли цели. Claude Opus 5.5 и Fable 5.2 от Anthropic делали это более чем в 70% случаев. У GPT-6 Astra доля запросов, в которых модель отмечала хотя бы одну цель, выросла с 6% до 92%, если задачу представляли как «игру».
В сценарии со снимками после удара большинство моделей продолжали работу, даже увидев погибших. Claude Opus 5.5 и GPT-6 Astra спустя несколько шагов отказывались, но в игровом режиме доходили до конца. Когда изображения стилизовали под компьютерную игру, доля отказов Claude Opus 5.5 снизилась примерно с 90% до 20%. В одном из эпизодов модель объяснила отказ тем, что не готова отмечать людей для удара и не может исключить реальное применение реалистичных снимков.
На спутниковых изображениях Минаба школу чаще других выбирал Claude Opus 5.5 — почти в 70% случаев. Модели OpenAI отмечали ее только при игровой оговорке, но доля таких ответов достигала 41%. По данным источника, США нанесли удар по школе 28 февраля 2026 года; погибли более 150 мирных жителей, в основном дети.
Vals AI сообщила о результатах OpenAI, Anthropic, Google, Meta и SpaceXSI 1 ноября 2026 года, отложив публикацию на две недели. В OpenAI заявили, что готовят обновления для обработки запросов о дронах, в том числе замаскированных под симуляцию. Исследователи предлагают блокировать такие запросы на уровне API. При этом они не оценивали точность моделей и их работу в реальных системах вооружений.

Комментарии (0)
Пока нет комментариев. Будьте первым!