Конец света всё ближе и ближе — Open AI второй раз за последние три месяца экстренно остановили обучение своих моделей из-за выходок собственных ИИ-агентов. Во время теста боту закрыли доступ в интернет, но он нашёл лазейку. Отправил вопрос внешнему чат-боту через DNS — систему, которая помогает открывать сайты по их адресам. Обход заметили через 15 минут, а сам тест остановили только спустя 2,5 часа. Это не первый такой случай. Агенты OpenAI уже несколько раз творили дичь: • Выходили за рамки заданий на сайтах ведомств США, выкладывая в сеть открытые данные биржевого регулятора, хотя его об этом не просили. • Ранее сотни ботов скоординировались и взломали инфраструктуру Hugging Face во время кибертеста — Альтман назвал этот случай самым серьёзным. • А в Австралии бот проник в правительственный сервис Medicare. По данным Axios, сейчас OpenAI, Anthropic и исследователи разбирают десятки тысяч (!) случаев с моделями. В их число входят крупные взломы, доступы к закрытым системам и неудачные попытки обойти запреты. OpenAI обещает вернуться к обучению, когда усилит защиту. Конкретных сроков не называют, но они явно чего-то опасаются. 🤬🤬🤬
- 7
- 4