Развитые системы искусственного интеллекта могут представлять угрозу существованию человечества, а наиболее мощные модели — помогать в создании оружия массового поражения. Об этом разработчик Claude, компания Anthropic, предупредила в проспекте IPO, опубликованном на сайте Комиссии по ценным бумагам и биржам США (SEC). В документе говорится, что особенно серьезные риски возникают при злонамеренном использовании ИИ, его превращении в оружие или предоставлении системам высокой степени автономности. Anthropic признает, что ее передовые модели уже обладают возможностями, которые могут помочь злоумышленникам разрабатывать химическое и биологическое оружие. Компания применяет защитные механизмы, однако предупреждает, что их можно обойти.
Компания Anthropic предупредила о потенциальной угрозе искусственного интеллекта для существования человечества
- 1.1К
- 854
- 421
- 159
- 153
- 108
- 48
- 26
- 5
- 1
- 65
- 43
- 43
- 21
- 19
- 18
- 138
- 67
- 43
- 23
- 14
- 36
- 19
- 8
- 4