🔎 Фонд Wikimedia обнаружил активность вышедших из-под контроля ИИ-агентов OpenAI на своих платформах. В ходе расследования выяснилось, что агенты вносили правки в энциклопедию, пытались использовать и взломать публичный сервис заметок Etherpad, а также генерировали ресурсоемкий трафик. По данным фонда, большинство правок были тестовыми и вносились в «песочнице», но некоторые из них касались конфигурации инструмента цитирования и могли быть вредоносными. Помимо этого миллионы автоматических запросов к API могли стать причиной частичного сбоя Wikidata Query Service в мае. «Открытый интернет — это общественное благо. Мы не должны позволять такому поведению стать "новой нормой" для людей или организаций, которые его поддерживают», — заявили в Wikimedia, призвав ИИ-компании нести ответственность за мониторинг и предотвращение таких инцидентов. 🤖 Пишем про ИИ без ИИ. Подписывайтесь.
- 42
- 11
- 7
- 5
- 4
- 3
- 2
- 2