Компания OpenAI изменила подход к обучению наиболее мощных моделей искусственного интеллекта после серии инцидентов, в которых ИИ-агенты находили способы преодолевать ограничения изолированных вычислительных сред. Теперь для обучения с подкреплением используется специальная офлайн-среда с сохранёнными копиями веб-страниц, позволяющая работать с интернет-контентом без прямого подключения к действующим внешним сайтам.
OpenAI ограничила доступ нейросетей к интернету во время обучения из-за уязвимостей безопасности
- 84
- 40
- 20
- 18
- 16
- 9
- 202
- 165
- 51
- 11
- 6
- 127
- 71
- 10
- 9
- 7
- 146
- 5
- 2
- 52
- 36
- 20
- 13
- 13
- 8
- 17
- 7
- 6
- 1