Злоумышленники в Китае и России уже используют ИИ компании Anthropic в качестве оружия — Politico. Иностранные учёные, хакеры и спецслужбы обошли ограничения, чтобы использовать Claude для опасных целей, включая исследования в области биологического оружия. Беспилотники-убийцы. Массовое наблюдение. Биологическое оружие. По данным ведущей компании в области ИИ Anthropic, угрозы, связанные с искусственным интеллектом, которые еще год назад могли казаться кошмарами из научной фантастики, сегодня гораздо ближе к реальности. А некоторые из них, возможно, уже здесь. В новом обширном отчете, компания Anthropic заявила, что преступные хакерские группировки, китайские службы безопасности, связанные с Россией шпионы и йеменские производители оружия, среди прочих, использовали сеть мошеннических учетных записей и онлайн-сервисов для доступа к некоторым из передовых ИИ-помощников компании, известных как Claude. И они используют эти инструменты для попыток нападений или разработки оружия, которое ранее было им недоступно. По данным Anthropic, только за последние 8 месяцев люди в странах, где использование системы Claude должно быть ограничено, обходили эти ограничения, чтобы автоматизировать кибератаки, пытаться разрабатывать передовое военное оборудование, распространять пропаганду в больших масштабах и проводить масштабные кампании цифровой слежки. Хотя модели Claude широко доступны на коммерческой основе, Anthropic пытается ограничить доступ к ним в странах-соперниках США, включая Россию, Китай и Иран. Компания в этом году обнаружила 5 случаев, когда ученые из неуказанных зарубежных стран использовали ее модели для исследования опасных патогенов, работа, которая, возможно, проводилась в рамках программы создания биологического оружия. По данным компании, злоумышленники смогли получить доступ к моделям, используя виртуальные частные сети и мошеннические или украденные учетные записи. В одном из случаев, ученый привлек Claude к написанию заявки на грант, касающейся исследований по усилению функций смертельно опасного вируса, передаваемого комарами. Грант должен был быть получен в военном НИИ. В другом случае учёный, работавший в рамках государственной программы, использовал к Claude для исследования соединений, которые «могут одновременно быть разработаны в качестве новых терапевтических средств или токсичных агентов». В третьем случае исследователь за пределами США «несколько недель» использовал Claude для проведения экспериментов, связанных с адаптацией высокопатогенного птичьего гриппа. В докладе также задокументированы некоторые из первых известных случаев использования ИИ для разработки передовой военной техники и проведения масштабных операций по цифровому наблюдению. В отчете, в частности, говорится, что была выявлена действующая из России «независимая» угроза, которая пыталась использовать Claude для создания дронов, способных совершать автономные атаки типа «камикадзе». В докладе подробно описывается ряд случаев неправомерного использования Claude в преступных и государственных хакерских операциях, в том числе группами, связанными с Россией. Anthropic также выявила 9 операций по оказанию влияния, инициированных в таких странах, как Россия, Турция и Иран, которые, предположительно, были проведены как частными, так и государственными структурами. Подобные кампании были приурочены к национальным выборам, в том числе в Молдове. Подписаться
- 20
- 17
- 6
- 3
- 1