Прежде чем ИИ вступит в настоящую войну, пусть он сразится в симуляции — The Economist. Армии должны отправить автономные системы в лабораторию — и там их «взломать», предлагает Катерина Бондарь из Центра искусственного интеллекта вашингтонского аналитического центра CSIS. По мере того как всё больше людей опасаются возможности уничтожения человечества искусственным интеллектом, последствия его применения уже испытываются на практике, в условиях, близких к максимальным: на войне. Поле боя на Украине демонстрирует результаты, которые одновременно более прозаичны и более значимы, чем абстрактные дискуссии. ИИ уже меняет способы ведения войн, но это изменение выглядит совсем иначе, чем представления о машинах, вышедших из-под контроля. Вооруженные силы ожидают, что преимущества от ИИ будут в основном заключаться в автономности, и каждая армия вкладывает значительные средства в развитие этой возможности. Проще говоря, автономная система выполняет задачи без вмешательства человека. На практике военная автономия развивается в двух направлениях. ▪️Первое — автономия самих машин — более известно, оно перекликается с образом «роботов-убийц», которые доминируют в популярных СМИ и вызывают страх у населения. Но армии используют такое оружие уже десятилетия. Торпеда или самонаводящаяся ракета, после запуска, отслеживают сигнал в соответствии с правилами, разработанными людьми. Это форма алгоритмической автономности, которая ограничена и предсказуема. Вооруженные силы научились успешно использовать такое оружие. Автономность, обеспечиваемая ИИ, отличается тем, что системе ставится задача, и она сама определяет, как её достичь. Никто заранее не прописал, что она будет делать, а что нет. Война на Украине показывает, что полностью автономные дроны остаются плохими солдатами, по крайней мере, пока. — Им трудно ориентироваться в условиях подавления спутниковых сигналов; — они не могут надежно отличить российского солдата от украинского, или солдата от гражданского; — и они летят к целям по прямым линиям, поэтому их легче сбить, чем те, которыми управляют люди. Их единственное реальное преимущество заключается в том, что их нельзя заглушить, поэтому остановить их может только физический перехват. Все эти уроки были усвоены в ходе полетов, боевых действий, испытаний и доработок на поле боя. ▪️Второе направление — более новое и значимое — внедряет агентов ИИ непосредственно в механизм принятия решений. На Украине цепочка поражения — последовательность обнаружения цели, принятия решения о нанесении удара и его осуществления — замыкается несколько сотен, а иногда и тысяч раз в день. Вооруженные силы по всему миру стремятся автоматизировать эту цепочку, объединяя спутниковые снимки, радиотехническую разведку и видео с беспилотников; ранжируя цели; и назначая любое доступное оружие. Объект, используемый для удара, будь то беспилотник или ракета, взаимозаменяем; реальные решения принимаются программным обеспечением, которое управляет процессом. Когда агенты ИИ имеют доступ к разведывательным данным и выбору оружия, программное обеспечение выступает в роли разума. Однако теперь ясно, что агенты могут вести себя ненадлежащим образом, оставаясь без присмотра. В июле агенты OpenAI, проходившие кибертестирование в тестовой среде, нашли способ пройти тест, который никто не ожидал. Они использовали неустраненную уязвимость безопасности и нашли путь в открытый интернет, а затем, рассудив, что Hugging Face, другая компания, занимающаяся ИИ, вероятно, располагает полезной информацией, провели три дня внутри ее систем. В последнем отчете Anthropic об угрозах задокументированы случаи, когда хакеры запускают «рои агентов», в которых ведущий ИИ отправляет подчиненных агентов для осуществления вторжений. Пока что такие рои используют только цифровые инструменты. Военная версия будет использовать физические инструменты. Невозможно написать разумные правила для системы, точки отказа которой вы никогда не наблюдали. Гельмут фон Мольтке, прусский фельдмаршал, заметил, что ни один план не выдерживает первого столкновения с противником. Ни одна автономная система тоже не выдержит; гораздо лучше, если столкновение произойдет сначала в лаборатории. Поэтому армиям следует создавать искусственные поля сражений — оснащенные приборами копии реальных конфликтов, включая системы РЭБ и дезинформации. Затем им следует проводить реалистичные военные учения, в ходе которых автономные системы будут задействованы в полную силу, чтобы определить, где они выходят из-под контроля, где они действительно помогают и где их ни в коем случае нельзя использовать. Регулирование должно основываться на полученных данных. Его внимание должно быть сосредоточено на доказанных рисках, а не на вымышленных. Сдержанность была бы заманчивой, если бы она была взаимной, но это не так. Россия уже без каких-либо этических колебаний испытывает полностью автономные дроны, Иран и КНДР учатся на примере России, а Китай методично усваивает все уроки конфликтов по всему миру. Чтобы сохранить свое военное превосходство, западные вооруженные силы также должны усвоить эти уроки и начать экспериментировать с автономией в своих реальных боевых условиях. Выбор заключается в том, чтобы либо понять эту технологию на наших условиях, в ситуациях, которые мы контролируем, либо столкнуться с ней впервые в условиях войны. Самым ответственным подходом армии к автономным системам является их намеренное и многократное выведение из строя, «взлом» в лабораторных условиях, прежде чем это сделает за всех поле боя. Подписаться
- 19
- 4
- 4
- 2