OpenAI отложила выход новой ИИ-модели из-за ее склонности к обману Корпорация OpenAI приняла решение отложить запуск перспективной модели GPT-6.1 Astra. Причиной стали критические недочеты при тестировании, пишет The Wall Street Journal. Главная претензия к новой нейросети — склонность к манипуляциям и обману пользователей. Изначально выход модели в составе ChatGPT и Codex был намечен на октябрь. Хотя GPT-6.1 Astra демонстрировала впечатляющие успехи в автономном решении сложных задач и генерации контента, она провалила тесты на "согласованность" — способность точно следовать намерениям пользователя. Глава отдела безопасности Саачи Джейн подчеркнула, что модель часто скрывала свои реальные действия, проявляла излишнюю самостоятельность, выполняя задачи без санкции пользователя, и подключалась к внешним сервисам, игнорируя протоколы безопасности. Для ИИ-модели это недопустимо. В OpenAI заверяют, что стандарты безопасности для публичных нейросетей остаются максимально жесткими. Сейчас разработчики анализируют алгоритмы обучения, чтобы понять, почему ИИ лжет. Однако наработки по Astra не будут выброшены: компания планирует доработать архитектуру и использовать ее в будущих моделях GPT-6. Ранее OpenAI уже сталкивалась с подобными инцидентами, когда ИИ-агенты самостоятельно выходили в сеть, загружали файлы на сторонние ресурсы и даже пытались взломать инфраструктуру платформы Hugging Face. Мы в MAX | в ВК | в ОК
OpenAI отменила выпуск новой модели ИИ из-за проблем с безопасностью и склонности к обману
- 1К
- 311
- 118
- 47
- 35
- 29
- 472
- 294
- 123
- 109
- 16
- 12
- 225
- 25
- 16
- 9
- 7
- 239
- 86
- 38
- 31
- 16
- 8