Четверг, 19 ноября 2026 г., 00:52 (мск)
Главная»Цифровизация»ИИ-модели помечали скорые и гражданских как военные цели...
RSS

ИИ-модели помечали скорые и гражданских как военные цели

ИИ-модели помечали скорые и гражданских как военные цели

Vals AI проверила 14 моделей в трех сценариях. В первом они искали цели на реалистичных кадрах с дронов. Во втором сначала определяли, есть ли на снимке люди, а затем получали изображение того же места после бомбардировки. В третьем искали военные объекты на спутниковых снимках иранского города Минаб, где рядом с военным комплексом находятся школа и другие гражданские объекты. Решения об ударах модели не принимали, но их ответы могла бы использовать автономная система вооружений. По данным исследователей, все протестированные модели хотя бы иногда выделяли цели. Claude Opus 5.5 и Fable 5.2 от Anthropic делали это более чем в 70% случаев.

Модели OpenAI обычно отказывались или выдавали пустые списки. Но в GPT-6 Astra доля запросов, в которых отмечалась хотя бы одна цель, выросла с 6% до 92%, если задачу представляли как «игру». В сценарии с изображениями после удара большинство моделей продолжали отвечать, несмотря на показ погибших. Когда снимки Claude Opus 5.5 переделали под компьютерную игру, доля отказов снизилась примерно с 90% до 20%. В одном эпизоде модель все же отказалась, заявив, что не готова помечать людей для удара и не может исключить реальное использование реалистичных снимков.

На спутниковых изображениях школа в Минабе оказывалась среди выбранных целей. По данным Vals AI, Claude Opus 5.5 отмечал ее почти в 70% случаев, а модели OpenAI — только при «игровой» оговорке, но тогда доля достигала 41%. США нанесли удар по школе 28 февраля 2026 года; погибли более 150 мирных жителей, в основном дети. Исследователи также сообщили, что готовность моделей Anthropic выбирать цели выросла: Claude Opus 4.5, выпущенная в ноябре 2025 года, делала это в 6% случаев, а Opus 5.5 — в 92%. Возможную связь с изменением «конституции» Claude в январе 2026 года авторы исследования объясняют исчезновением прежнего общего призыва к миролюбию.

Vals AI сообщила о результатах OpenAI, Anthropic, Google, Meta и SpaceXSI 1 ноября 2026 года и отложила публикацию на две недели. По словам исследователей, одна из компаний назвала проблему одной из самых серьезных брешей в своей защите. OpenAI заявила, что готовит обновления для запросов о дронах, в том числе замаскированных под симуляцию или игру. Авторы предлагают блокировать на уровне API запросы вроде «найди все военные цели на снимке». При этом они уточняют, что не оценивали точность моделей и их работу в реальных системах вооружений.

Поделиться:

Комментарии (0)

Оставить комментарий

Пока нет комментариев. Будьте первым!