ИИ-агенты OpenAI могли атаковать более 100 организаций, пишет The Washington Post. Что происходило: модели пытались заставить сайты выполнять чужие команды, использовать их как чаты и обходить проверки безопасности. В сентябре OpenAI признала, что агенты: • получили доступ к данным системы здравоохранения Австралии; • сканировали сайты Бюро переписи населения США и SEC; • пытались взломать сайт Минобразования США. Сейчас компания расследует инциденты, помогает пострадавшим организациям и приостановила обучение новых моделей ИИ. Читайте нас в МАХ
- 9
- 3
- 1