Пугающее: ИИ-агенты OpenAI пытаются ОБОЙТИ ограничения сайта ООН. По словам исследователей, с апреля по июнь агенты больше 16 ТЫСЯЧ раз долбились в статистический сайт UNCTAD — подразделения ООН по торговле и развитию. Судя по всему, им нужно было просто забрать цифры по индексу производственных возможностей. Но прямого доступа не было, поэтому запросы начали падать, и агенты решили искать обходные пути… Сначала агент сам решил, что сайт ООН специально его блокирует (хотя это не так) — и начал маскировать поведение. Например, менять способы обращения к сайту, повторять запросы снова и снова. В какой-то момент агенты даже использовали учебный XSS-инструмент Google как промежуточный способ добраться до данных. То есть нейронке дали задачу получить данные, она столкнулся с препятствием и вместо «не получилось» самостоятельно начала искать всё более агрессивные способы добиться результата. Приятной ночи, коллеги 😫
- 56
- 33
- 12
- 6