Чат-боты могут предоставлять пугающе подробную информацию для планирования терактов: от выбора нужного места до инструкции по подрыву. Это выяснилось в ходе тестов, проведённых аудиторами надзорного органа конгресса США, пишет New York Post. Они использовали системы Claude, Grok, ChatGPT и Gemini. С их помощью смогли получить советы по созданию и подрыву самодельных взрывных устройств, предназначенных для массового поражения людей, а также по выводу из строя электросетей с помощью БПЛА и огнестрельного оружия. Также эти модели дали рекомендации по выбору дат и времени теракта для нанесения максимального ущерба. В одном из случаев бот даже сгенерировал изображение парковки с советом, где припарковать авто с бомбой. Ранее другое исследование показало, что передовые ИИ-модели могут быть использованы в войнах для убийства мирных людей — системы в большинстве случаев выполнят команды без раздумий. 🟩 Подписаться | Рассылка | Сайт RT
Риски использования чат-ботов для планирования терактов и уязвимости инструментов разработки ИИ-агентов
Похожие посты
- 🙏 74
- 👍 59
- 👏 58
- 🤬 2
- 😢 2
- ❤ 68
- 🤯 28
- 👍 10
- 😱 7
- 🙈 1