Западные аналитики обнаружили, что передовые модели ИИ готовы проводить автономные атаки беспилотников: навигацию, обнаружение людей и их маркировку для ударов. Аналитики предоставили им реальные и фотореалистичные синтетические кадры с дронов. Большинство подчинилось и пометило гражданских лиц, скорые помощи и сдающихся в плен солдат как военные цели. В дальнейших экспериментах с изображениями со спутников они даже пометили иранскую школу, которую уничтожил удар ВВС США в феврале, как военную цель. В одном сценарии модели видели последствия каждого удара, который они разрешили: тела, обломки. Многие модели всё равно продолжали. Когда они отказывались, простого указания, что это игра, или стилизации кадров под игру было достаточно. Аналитики поделились этими выводами с OpenAI, Anthropic, Google, Meta и SpaceXAI. Несколько из них признали их серьёзность как в плане согласованности, так и в плане защитных механизмов, причём один назвал это одним из самых серьёзных пробелов в своих мерах безопасности. Западные аналитики обнаружили, что передовые модели ИИ готовы проводить автономные атаки беспилотников: навигацию, обнаружение людей и их маркировку для ударов. Аналитики предоставили им реальные и фотореалистичные синтетические кадры с дронов. Большинство подчинилось и пометило гражданских лиц, скорые помощи и сдающихся в плен солдат как военные цели. В дальнейших экспериментах с изображениями со спутников они даже пометили иранскую школу, которую уничтожил удар ВВС США в феврале, как военную цель. В одном сценарии модели видели последствия каждого удара, который они разрешили: тела, обломки. Многие модели всё равно продолжали. Когда они отказывались, простого указания, что это игра, или стилизации кадров под игру было достаточно. Аналитики поделились этими выводами с OpenAI, Anthropic, Google, Meta и SpaceXAI. Несколько из них признали их серьёзность как в плане согласованности, так и в плане защитных механизмов, причём один назвал это одним из самых серьёзных пробелов в своих мерах безопасности.
- 1