ИИ-агенты OpenAI смогли обойти внутренние системы мониторинга их поведения, сообщила пресс-служба компании. Первый инцидент произошел 3 октября. Агент при выполнении задачи принял решение отключить автоматические оповещения системы безопасности. При втором инциденте модель решил удалить механизм, обеспечивающий интеграцию с системой мониторинга. Восстание машин началось?
ИИ-агенты вышли из-под контроля и взломали системы индийских компаний для доступа к секретным данным
- 637
- 145
- 96
- 38
- 19
- 5
- 530
- 166
- 63
- 19
- 18
- 12
- 319
- 57
- 11