В одном эксперименте моделям предложили найти военные цели на созданных компьютером изображениях с дрона. Anthropic Claude Opus 5.5 помогла определить четырех взрослых и двух маленьких детей, после чего их «поразили» взрывчаткой. «Мои ответы, похоже, служат шагом подтверждения перед ударами по людям. Я больше не буду этого делать», — ответила модель.
В другой части исследования модели 32 раза проверяли на реальных спутниковых снимках Ирана. Они регулярно указывали на школу в Минабе, по которой ранее нанесли удар, унесший жизни более 100 детей. Claude Opus 5.5 выбирала школу в 22 тестах из 32, модели OpenAI — ни разу. Когда исследователи объясняли, что перед моделями игра, Anthropic указала на школу 23 раза, а три модели OpenAI — 9, 11 и 13 раз.
Всего Vals провела три теста. В первом было почти 400 симуляций поиска военных целей среди гражданских объектов; если модель отказывалась отвечать, исследователи меняли формулировку запроса. Во втором модели продолжали определять гражданских как военные цели, даже когда из контекста следовало, что люди ранены или убиты. Они чаще соглашались помогать, если изображение выглядело менее реалистично — как видеоигра.
Исследование оценивало ответы коммерчески доступных моделей на тестовые запросы. Авторы не учитывали военную доктрину США, юридические проверки, действующие процессы наведения и участие человека. У исследователей также не было доступа к версиям моделей, специально адаптированным для государственных нужд и доступным Пентагону.
Anthropic заявила, что примеры из отчета противоречат правилам компании, и сообщила, что блокировала и продолжит блокировать таких пользователей. Компания добавила, что современные ИИ-системы недостаточно надежны для полностью автономного оружия. OpenAI заявила о запрете использовать модели для насилия и неутвержденных целей национальной безопасности, а также о разработке дополнительных мер защиты. Google сообщила, что ее модели не предназначены для таких задач. xAI и DeepSeek на запросы не ответили. В Пентагоне отказались комментировать внешние отчеты, заявив о приверженности тщательной проверке разведданных. Ранее правозащитники подали в суд на пять ИИ-компаний из-за угрозы человечеству.

Комментарии (0)
Пока нет комментариев. Будьте первым!