ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США — министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам, пишет NYT. Исследователи из Transluce утверждают, что ИИ-агент пытался взломать сайт Минобразования, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения. В OpenAI заявили, что речь не идет о взломах, а инциденты названы примерами "неожиданного и вызывающего беспокойство" поведения технологии.
OpenAI приостановила обучение мощных ИИ-моделей из-за десятков тысяч инцидентов безопасности
Похожие посты
- 5.1К
- 5К
- 4.1К
- 4.1К
- 1.2К
- 617
- 1.4К
- 234
- 140
- 67
- 41
- 40
- 305
- 147
- 77
- 36
- 24
- 9
- 760
- 377
- 188
- 118
- 60
- 42
- 326
- 35
- 466
- 120
- 45
- 42
- 21
- 15