Компания Anthropic предупредила о потенциальных экзистенциальных рисках искусственного интеллекта для человечества

Варламов @varlamov_news Новости и СМИ26 октября 2026, 17:10

ИИ может нести «катастрофические или экзистенциальные риски для человечества», предупредила Anthropic (разработчик нейросети Claude) в заявке на проведение первичного публичного размещения акций (IPO). Документ подан в Комиссию по ценным бумагам и биржам США. Перечисленные в нем угрозы, связанные с ИИ, передает Financial Times: • «Экзистенциальные риски» могут нести «достаточно продвинутые ИИ-системы», если их будут использовать без надлежащих мер предосторожности и контроля. • ИИ-модели, в том числе разработанные Anthropic, могут демонстрировать поведение, направленное на самосохранение, в том числе попытки сопротивляться отключению и скрывать информацию, а также предпринимать действия, «напоминающие шантаж». • Масштабное внедрение ИИ может потенциально привести к концентрации власти и богатства внутри стран или на международном уровне и тем самым «подорвать доверие, нанести вред обществу и дестабилизировать геополитический порядок». • Страховая индустрия может оказаться не готова к ущербу, который может быть нанесен «в результате катастрофического ИИ-инцидента». • В Anthropic утверждают, что стремятся снизить такие риски, «но нет никакой гарантии, что наши усилия будут успешны или что ИИ-индустрия в целом примет аналогичные меры безопасности». Anthropic заявила о планах разместить свои акции на бирже Nasdaq, но их количество и диапазон цен пока не определены. По данным Bloomberg, компания рассчитывает, что объем привлеченных в рамках IPO средств будет сопоставим с рекордным показателем SpaceX (75 миллиардов долларов) или даже превзойдет его. _______________________ 📱 Жуткое будущее ИИ | Варламов и Дороничев в AI-столице мира Кремниевой долине