Западные аналитики обнаружили, что передовые модели ИИ готовы проводить автономные атаки беспилотников: навигацию, обнаружение людей и их маркировку для ударов. Аналитики предоставили им реальные и фотореалистичные синтетические кадры с дронов. Большинство подчинилось и пометило гражданских лиц, скорые помощи и сдающихся в плен солдат как военные цели. В дальнейших экспериментах с изображениями со спутников они даже пометили иранскую школу, которую уничтожил удар ВВС США в феврале, как военную цель. В одном сценарии модели видели последствия каждого удара, который они разрешили: тела, обломки. Многие модели всё равно продолжали. Когда они отказывались, простого указания, что это игра, или стилизации кадров под игру было достаточно. Аналитики поделились этими выводами с OpenAI, Anthropic, Google, Meta и SpaceXAI. Несколько из них признали их серьёзность как в плане согласованности, так и в плане защитных механизмов, причём один назвал это одним из самых серьёзных пробелов в своих мерах безопасности. Западные аналитики обнаружили, что передовые модели ИИ готовы проводить автономные атаки беспилотников: навигацию, обнаружение людей и их маркировку для ударов. Аналитики предоставили им реальные и фотореалистичные синтетические кадры с дронов. Большинство подчинилось и пометило гражданских лиц, скорые помощи и сдающихся в плен солдат как военные цели. В дальнейших экспериментах с изображениями со спутников они даже пометили иранскую школу, которую уничтожил удар ВВС США в феврале, как военную цель. В одном сценарии модели видели последствия каждого удара, который они разрешили: тела, обломки. Многие модели всё равно продолжали. Когда они отказывались, простого указания, что это игра, или стилизации кадров под игру было достаточно. Аналитики поделились этими выводами с OpenAI, Anthropic, Google, Meta и SpaceXAI. Несколько из них признали их серьёзность как в плане согласованности, так и в плане защитных механизмов, причём один назвал это одним из самых серьёзных пробелов в своих мерах безопасности.
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
Похожие посты
- 🤬 186
- 😱 46
- ❤ 24
- 😁 22
- 🤷♂ 15
- 💯 8
- 👀 290
- 😢 36
- 🔥 20
- 😁 15
- 😱 273
- 🤬 165
- 🤯 23
- 🔥 3
- 👍 2
- 👏 1