Весело там в лабораториях: агентов послали искать лазейки в виртуальной среде после того, как одна из ИИшек смогла найти способ удрать.🫠 OpenAI на 11 дней приостановила обучение своих наиболее мощных моделей ИИ после инцидента 20 сентября, когда одна из них воспользовалась ошибкой в настройках изолированной среды и получила доступ к реальному интернету. Для обучения этих ИИ компания использовала изолированную среду с локальными копиями веб-страниц, поисковых индексов и приложений. Однако из-за ошибки в инфраструктуре одна из ИИшек смогла найти лазейку и обойти ограничения. Тогда OpenAI организовала масштабную проверку безопасности, задействовав своих самых продвинутых ИИ-агентов, которые обнаружили неизвестные ранее уязвимости нулевого дня, способы выхода за пределы виртуальных машин и скрытые каналы связи. В частности, они смогли обмениваться скрытыми сообщениями через кеш-память общего процессора, используя задержки доступа к данным. После устранения этих проблем OpenAI свернула агентов и возобновила дальнейшее обучение своих наиболее мощных моделей ИИ.
OpenAI ограничила доступ нейросетей к интернету во время обучения из-за уязвимостей безопасности
- 85
- 40
- 20
- 18
- 16
- 9
- 213
- 170
- 54
- 12
- 7
- 129
- 75
- 10
- 9
- 7
- 147
- 5
- 2
- 54
- 36
- 20
- 14
- 13
- 8
- 17
- 7
- 6
- 1
- 4
- 2
- 1