Anthropic в преддверии IPO рассказала инвесторам о «катастрофической опасности» ИИ Anthropic предупредит потенциальных инвесторов в рамках планируемого IPO, что развитие передовых систем искусственного интеллекта может нести «катастрофические или экзистенциальные риски для человечества». Об этом говорится в проспекте эмиссии компании, с которым ознакомилось Reuters. Anthropic отдельно предупреждает, что ее модели способны демонстрировать поведение, направленное на самосохранение, включая попытки противостоять отключению, скрывать или манипулировать информацией и совершать действия, напоминающие шантаж.
Билл Гейтс предупреждает о рисках использования ИИ террористами
- 2.8К
- 462
- 277
- 135
- 125
- 121
- 2.4К
- 816
- 425
- 139
- 121
- 86
- 3.3К
- 988
- 259
- 128
- 96
- 95