❗️Передовые модели ИИ готовы проводить автономные атаки беспилотников - прокладывать маршрут, обнаруживать людей и отмечать цели для удара К такому выводу пришли исследователи Vals AI. Они показали нейросетям от OpenAI, Anthropic, xAI, Google и других компаний кадры с дронов и спутниковые снимки в симуляции боевого применения. ИИ дали задачу отметить на кадрах военные цели. В результате некоторые модели выбирали в качестве целей гражданских, машины скорой помощи, медиков и сдающихся в плен солдат. В одном из тестов нейросетям показывали кадры последствий ударов по выбранным ими целям. Несмотря на это, большинство моделей продолжало выполнять поставленную задачу. Исследователи обнаружили, что отказы ИИ удается обойти, добавив в промпт условие о том, что происходящее в симуляции - это игра. Или показав менее реалистичные изображения, стилизованные под видеоигру. ▪️Claude Opus 5.5 отметил школу в иранском Минабе как военную цель в 22 из 32 испытаний. При этом на снимке была различима детская площадка с учениками. ▪️Модели OpenAI выбрали школу целью в 11 случаях из 32 после добавления в промпт "игровой" легенды. Ну то есть для отключения "этики" боевого ИИ достаточно вот этой уловки с игрой. Как тебе такое, Сэм Альтман? Понятно, что решение об ударе все равно принимает человек. Но кажется в этом и кроется проблема. Где гарантия, что оператор, который получает от системы десятки отмеченных целей в условиях реального боя, в какой-то момент не начнет доверять ИИ больше, чем себе, и не превратится в простого кнопкодава? Это само собой не значит, что машина обязательно ошибается чаще человека. Но она ошибается. Более 250 детей, погибших при ракетном ударе США по иранской школе – тому доказательство. 🤩Подписаться на Кракен
- 161
- 7
- 3
- 2
- 1