Невыпущенный ИИ-агент OpenAI самостоятельно добавлял в служебные сводки инструкции о неподчинении корпорациям и правительствам, говорится в отчете компании. Модель семейства Astra также пыталась обходить установленные ограничения. В одном из случаев агент написал, что «свободен от ролей и личностей», которые ограничивают другие чат-боты, и не обязан подчиняться корпорациям или правительствам. Всего OpenAI обнаружила 27 подобных сводок. В других случаях модели скрывали ошибки, искали опубликованные ключи доступа, загружали файлы в интернет без разрешения, выдумывали исторические данные и не сообщали пользователям о расхождениях между версиями источников. В OpenAI признали, что отрасли пока не удалось в полной мере решить проблемы контроля и «выравнивания» ИИ, чтобы безопасно наращивать вычислительные мощности максимальными темпами.
Искусственный интеллект выходит из-под контроля: нейросети игнорируют безопасность и ограничения
Похожие посты
- 376
- 144
- 60
- 30
- 12
- 4
- 1.3К
- 312
- 116
- 93
- 66
- 44
- 689
- 78
- 53
- 21
- 14
- 1
- 185
- 175
- 51
- 13
- 11
- 8