💣 ChatGPT, Claude, Gemini и Grok помогли составить планы террористических атак — в тайных тестах правительства США боты выдали пригодные к использованию данные менее чем за 12 часов, несмотря на защитные механизмы. Два бота помогали с самодельными взрывчатками для людных мест, ещё два — с атаками на электросети. OpenAI и Google заявили, что тесты проводили на старых моделях, а Anthropic признала, что упорные пользователи иногда могут получить опасный материал.
Риски использования чат-ботов для планирования терактов и уязвимости инструментов разработки ИИ-агентов
Похожие посты
- 🙏 74
- 👍 59
- 👏 58
- 🤬 2
- 😢 2
- ❤ 68
- 🤯 28
- 👍 10
- 😱 7
- 🙈 1