Глава Anthropic предложил замедлить развитие передовых ИИ-моделей для обеспечения их безопасности

Политика Страны@stranauaПолитика и власть13 сентября 2026, 12:13

Гендиректор OpenAI Сэм Альтман вслед за руководителем другого ИИ-гиганта Anthropic Дарио Амодеи заявил, что необходимы срочные ограничения в развитии искусственного интеллекта. По мнению Альтмана из-за быстрого развития ИИ к концу десятилетия существует риск гибели человечества. Поэтому сейчас OpenAI будет сосредоточена на вопросах безопасности и контроля за ИИ пусть даже и в ущерб дальнейшему развитию продукта. "Я считаю неприемлемым рисковать тем, что к концу десятилетия мы все погибнем с вероятностью 10%. Я думаю, что сейчас мы вступаем в новую эру, и нам, скорее всего, придется – как мы поступали в другие эпохи в прошлом – действовать по-другому, чтобы гарантировать, что наша деятельность принесет пользу всему человечеству, но при этом никто не будет рисковать", - заявил Альтман. Напомним, глава Anthropic (модель Claude) Дарио Амодей ранее написал статью с призывом ограничить темпы совершенствования новых моделей искусственного интеллекта. «За последние несколько месяцев я убедился, что для полного решения проблем, связанных с рисками, требуется еще большая осмотрительность — не просто инвестиции в предотвращение рисков, но регулирование темпов развития возможностей, чтобы система предотвращения рисков не отставала», - считает глава Anthropic. Амодей говорит, что его тревога вызвана значительным ускорением развития ИИ, которое началось примерно этим летом и в первую очередь связано с возрастающей способностью ИИ создавать модели следующих поколений. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов», - пишет Амодей. Глава Anthropic предложил трехэтапный план, первым шагом которого должна стать внешняя экспертная проверка всех передовых компаний в сфере искусственного интеллекта. Второй этап — координация между компаниями для установления общих стандартов безопасности и ограничений, третий - глобальная координация на уровне правительств. Основатель xAI (Grok) Илон Маск согласился с этими идеями. «Дарио прав», - написал он в Х.