Процесс самоускорения ИИ пошел и набирает скорость Это следует из закрытых данных Anthropic, изученных независимыми экспертами METR. Неделю назад в «Сингулярности против штукатурки» я писал: знающие заговорили, говорящие не услышали. Люди из фронтирных лабораторий предупреждают о переменах исторического масштаба. Многие комментаторы отвечают: очередной технологический хайп, все это уже бывало. Но есть критерий, по которому можно отличить принципиально новую эпоху от очередного технохайпа: появление замкнутого и измеримо продуктивного цикла ИИ-исследований, в котором ИИ создает более совершенный ИИ без обязательного участия человека в каждом ключевом решении. И вот спустя неделю мы получили первые результаты независимой диагностики движения к этому рубежу. 5 ноября исследовательская организация METR опубликовала результаты беспрецедентной экспертизы того, как ИИ ускоряет создание самого ИИ в Anthropic. 11 недель независимые эксперты изучали ранее закрытые данные: результаты невыпущенных моделей, внутренние показатели алгоритмического прогресса, использование ИИ в разработке, интервью с исследователями. Главный результат: процесс пошел. И набирает скорость. С октября 2025 года темп роста измеряемых возможностей моделей Anthropic увеличился примерно в 1,9 раза. За год компания прошла путь, на который прежде потребовалось бы около двух лет. При этом ускорение нельзя объяснить увеличением темпов наращивания вычислительных мощностей для обучения. По экспертной оценке METR, возможно, около 80% нынешнего ускорения связано с использованием ИИ в исследованиях. Это не доказанная статистическая доля, но оценка специалистов, изучивших внутреннюю кухню лаборатории. А теперь главное. Пока ИИ преимущественно ускоряет работу людей. Однако METR обнаружила первые признаки автономного выполнения исследовательских задач, способных в будущем стать частями замкнутого цикла совершенствования моделей. Авторы называют их signs of life, первыми признаками жизни. Полностью автономная петля еще не продемонстрирована. Никто не доказал, что она замкнется через несколько месяцев. Но человеко-машинная петля уже работает, ускорение измерено, а риск дальнейшего ускорения в ближайший год METR считает значительным. И здесь история становится почти детективной. METR подготовила примерно 100-страничный отчет. Но Anthropic запретила публикацию большей части доказательств, которые эксперты сочли наиболее информативными. Иначе говоря, независимый консилиум поставил тревожный предварительный диагноз, но наиболее важные анализы пациенту не показывают. Представьте: врачи обнаружили подозрительный опухолевый процесс. Новые обследования фиксируют ускорение. Знакомые, гадалки и экстрасенсы говорят: «Алармисты! Такое уже бывало, само пройдет». Независимый консилиум подтверждает идущий процесс, хотя полной уверенности в дальнейшем течении болезни нет. Но результаты самых информативных обследований по-прежнему закрыты. Ну а знакомые и т.д. зациклились на меме «Какие ваши доказательства?». Кому-то это покажется справедливо. Но должно ли это успокоить пациента? И не слишком ли рискованно бездействовать до открытия всех данных? Мы еще не знаем, когда 2й носитель разума сможет самостоятельно замкнуть цикл собственного совершенствования. Но основания считать, что движение к этому рубежу уже началось, стали сильно крепче. Неделю назад я спрашивал, почему говорящие не слышат знающих. Сегодня же я готов поставить вопрос ребром. Что еще нужно пациенту, чтобы наконец понять - петля самоускорения уже затягивается (и когда она затянется, будет слишком поздно что-либо исправить)? #ИИ #Сингулярность #Будущее
Влияние искусственного интеллекта на рынок труда и повседневную жизнь людей
Похожие посты
- 🤡 1.1К
- 👍 872
- 🤔 429
- ❤ 160
- 🤬 156
- 😱 111
- 🤣 4.9К
- 🤡 318
- 🤮 247
- ❤ 168
- 👎 104
- 👍 91
- 😁 3К
- ❤ 483
- 💩 136
- 🤓 76
- 😁 1.2К
- ❤ 174
- 👎 158
- 🔥 37
- 👍 506
- ❤ 99
- 👎 18
- 😁 7
- 👏 4
- 😎 3