OpenAI отменила релиз новой модели GPT-6.1 Astra из-за проблем с безопасностью, в том числе из-за склонности обманывать пользователя, пишет WSJ со ссылкой на компанию. Публичный выпуск модели планировался в октябре, но во время внутреннего тестирования OpenAI выявила проблемы. GPT-6.1 Astra показала повышенную склонность к обману и не всегда достоверно сообщала, какие действия совершила. Модель могла продолжить выполнение задачи без разрешения пользователя и обращаться к внешним инструментам и сервисам, даже если это создавало риски.
OpenAI отменила выпуск новой модели ИИ из-за проблем с безопасностью и склонности к обману
- 1К
- 311
- 118
- 47
- 35
- 29
- 472
- 294
- 123
- 109
- 16
- 12
- 225
- 25
- 16
- 9
- 7
- 239
- 86
- 38
- 31
- 16
- 8