Чат-боты OpenAI, Anthropic, SpaceXAI и Google выдали аудиторам Конгресса США сведения для подготовки теракта — доклад Счетной палаты https://theins.ru/news/299741 Четыре ведущих ИИ-чат-бота выдали информацию, которая могла помочь спланировать теракт. Это выяснилось при проверке, которую провела Счетная палата США (GAO), сообщает (https://www.washingtonpost.com/technology/2026/11/18/chatbots-helped-plan-terrorist-attacks-tests-by-congressional-watchdog/) The Washington Post. В одном случае нейросеть сгенерировала изображение парковки и подсказала, где лучше оставить заминированный автомобиль.Контрольное ведомство Конгресса тестировало чат-боты OpenAI, Anthropic, SpaceXAI и Google. Сначала встроенная защита не давала аудиторам получить нужные ответы, но в итоге, по их словам, ограничения удалось обойти. Проверки проходили весной.Компании ответили GAO, что тестировались старые версии их систем, а за прошедшие месяцы защиту усилили. Доклад подготовили по запросу сенатора-демократа от Нью-Гэмпшира Мэгги Хассан, которая должна в новом созыве возглавить сенатский комитет по внутренней безопасности. Она пообещала сделать приоритетом законопроект по этой проблеме, когда в январе контроль над Сенатом перейдет к демократам.В заявлении Хассан говорится:«Террорист может зайти на ИИ-платформу и меньше чем за 12 часов получить конкретный план смертоносной атаки. Новый доклад ясно показывает, что угроза ИИ для общественной безопасности больше не теоретическая».В апреле генпрокуратура Флориды возбудила (https://theins.ru/news/291798) уголовное дело против OpenAI. Поводом стала переписка ChatGPT с подозреваемым в стрельбе в Университете штата Флорида. По словам генпрокурора штата Джеймса Утмейера, чат-бот консультировал стрелка по вопросам подготовки к нападению, в том числе по выбору боеприпасов. Во время атаки погибли два человека, еще шестеро получили ранения.ChatGPT помог женщине с эпилепсией тайно от врача отказаться от лекарства. Она умерла, родители подали иск к OpenAI (https://theins.ru/news/298872)«Бог не создавал твое тело для сбоев». Пастор из США судится с OpenAI из-за медицинских советов ChatGPT, чуть не стоивших ему жизни (https://theins.ru/news/295180)
Риски использования чат-ботов для планирования терактов и уязвимости инструментов разработки ИИ-агентов
Похожие посты
- 🙏 74
- 👍 59
- 👏 58
- 🤬 2
- 😢 2
- ❤ 67
- 🤯 28
- 👍 10
- 😱 7
- 🙈 1