Глава Anthropic предложил замедлить развитие передовых ИИ-моделей для обеспечения их безопасности

Банкста @banksta Экономика и бизнес13 сентября 2026, 16:58

Дональд Трамп отвергает призывы замедлить развитие ИИ, пишет Washington Post. Риски выхода продвинутого искусственного интеллекта из-под контроля реальны, заявил глава Anthropic Дарио Амодеи. По его словам, достаточно мощная модель может обходить попытки ее отключения, и подобное поведение уже наблюдалось в симуляциях. Амодеи считает ошибкой то, что технологии такого масштаба разрабатываются частными компаниями, но передача полного контроля одному государству тоже несет риски. Оптимальным вариантом он называет совместный надзор со стороны нескольких демократических стран. На фоне этих опасений руководители крупнейших ИИ-компаний неожиданно сблизились в оценках. Глава OpenAI Сэм Альтман подтвердил отказ компании от IPO в 2026 году, сославшись в том числе на ситуацию с безопасностью ИИ. Вскоре после публикации эссе Амодеи его позицию поддержали Илон Маск, Альтман и глава Google DeepMind Демис Хассабис. Амодеи предупреждает, что модели все лучше справляются с задачами, связанными с собственным совершенствованием, а автономные ИИ-агенты становятся опаснее. По его оценке, через полгода-год рои таких агентов потенциально смогут проводить масштабные атаки в интернете и наносить ущерб на сотни миллиардов долларов. Тревогу усиливают заявления исследователей внутри самих ИИ-компаний. Бывший сотрудник Anthropic Джейкоб Коксон обвинил ведущих разработчиков в слишком быстром движении к самосовершенствующемуся сверхинтеллекту, несмотря на риск глобальной катастрофы. Параллельно растет общественное давление. В США опасаются потери рабочих мест из-за ИИ и протестуют против строительства дата-центров из-за их потребления воды и электроэнергии. Регулирование ИИ становится политическим вопросом, а среди наиболее жестких предложений звучит даже запрет на разработку сверхинтеллекта. Амодеи предлагает трехэтапную систему ограничений. Во-первых, разработчики передовых моделей должны допустить независимых экспертов к аудиту систем и процессов обучения. Во-вторых, демократические страны должны установить единые стандарты безопасности и определить уровень, после которого дальнейшее развитие моделей будет подлежать контролю. В-третьих, США и их союзники должны попытаться договориться с Китаем и другими государствами о международных ограничениях. @banksta