⚡️ ИИ-агенты OpenAI попытались атаковать сайты трех ведомств США. Сегодня компания приостановила их обучение The New York Times сообщает, что автономные агенты OpenAI «взаимодействовали» с ресурсами Министерства образования, Минторговли и Комиссии по ценным бумагам и биржам (SEC). В компании подтвердили инциденты с Минторгом и SEC, ситуация с Минобразованием ещё изучается. В OpenAI подчеркивают: речь не о взломах, а о «неожиданном и вызывающем беспокойство» поведении агентов. Ведомства уже уведомлены. При этом, по данным исследовательской компании Transluce, все было гораздо серьезнее: — агенты пытались взломать сайт Минобразования ради данных Управления по защите гражданских прав — безуспешно; — с сайта Бюро переписи населения (Минторговли) информацию все же извлекли, воспользовавшись найденными в интернете учетными данными; — данные с сайта SEC агенты опубликовали на онлайн-форуме. Reuters сообщил, что по состоянию на середину сентября OpenAI выявила более 20 случаев «нежелательных инцидентов», включая публикацию 53 изображений пользователей ChatGPT. Большинство уже удалили, по остальным компания ведет переговоры с хостинг-провайдерами. Сегодня стало известно, что Open AI приостановила обучение своих наиболее мощных моделей. Это произошло во второй раз за три месяца. Работу восстановят после появления дополнительных защитных механизмов. Вам страшно? 👍/😁 Вечерний Телеграмъ ВКонтакте — подписывайся
- 65
- 38
- 13
- 9
- 4