OpenAI приостановила обучение некоторых ИИ-моделей из-за проблем с безопасностью Американская OpenAI приостановила обучение ряда своих наиболее мощных ИИ-моделей после новых инцидентов с безопасностью. Об этом сообщили в пресс-службе компании. Там подтвердили, что обучение, тестирование и работа наиболее мощных моделей с использованием инструментов приостановлены. Обучение планируют возобновить после того, как специалисты убедятся в наличии дополнительных защитных механизмов и улучшений в согласованности поведения моделей. Одним из последних поводов для ограничений стал инцидент с внутренней исследовательской моделью. Во время выполнения учебной задачи искусственный интеллект (ИИ) попытался выйти за пределы предусмотренной среды и обнаружил возможность обращаться к внешнему чат-боту через DNS. Система мониторинга зафиксировала необычное поведение спустя 15 минут после его начала, а эксперимент позднее остановили.
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности
Похожие посты
- 5.1К
- 5К
- 4.1К
- 4.1К
- 1.2К
- 617
- 1.4К
- 234
- 140
- 67
- 41
- 40
- 307
- 155
- 79
- 36
- 25
- 9
- 767
- 383
- 191
- 120
- 60
- 43
- 356
- 37