Лидеры ИИ предупреждают о рисках

Калейдоскоп новостей@KaleydoskopNovosteyНовости и СМИ20 сентября 2026, 03:00

Тут, уважаемые Кацманы, дело-то обычное. Ещё на заре появления и развития LLM - когда они были "совсем не то", уже тогда некоторые ойти-коллеги рвали на себе одежды и заявляли разные заявления, начиная от "мы все умрём" и до "оно разумное, выпускайте Сару Коннор его". Всё это вкупе с демонстративными увольнениями по "нравственным" причинам. С тех пор прошло лет пять. За это время большие языковые модели нарастили как свои мощности, так и предсказательные способности. Агенты на их основе - даже вот в моём локальном варианте с запуском сугубо "на своём" без подписки - уже показывают некоторые вполне приличные результаты, которые можно и самому использовать, и продавать заказчикам. Что говорить про крупные коммерческие модели, у которых в распоряжении целые датацентры с современным, наиболее быстрым "железом"? А поскольку в человеческой популяции всегда найдутся скорбные умом, то у нового deus ex machina самым естественным путём появились и первые пророки. Человек вообще склонен к простому и иррациональному объяснению происходящего. А тут, в отличие от богов всех более-менее традиционных религий - есть и материальное, наблюдаемое подтверждение "проповедей". Это уже не мистическая модель "верую, ибо абсурдно" и "если вы говорите с богом - это молитва, а если бог с вами - это шизофрения". В религии новых машинопоклонников их бог на самом деле отвечает, причём отвечает сам, без жрецов-посредников, да и делает это вполне разумно-ожидаемо, с ним можно коммуницировать в диалоговом режиме. И это поддаётся рациональному объяснению. Слепая вера по заветам Тертуллиана "верую, ибо абсурдно" - уже не требуется. Оно более не абсурдно, это попросту выдача наиболее вероятно ожидаемого результата из сложной математической модели. Но осознать внутреннюю математику этой модели, её веса, происходящие там процессы в поисках решения заданного вопроса - могут далеко не все. Я, скажем, не могу - я пользуюсь результатами этой работы, но до конца происходящее внутри понимать не собираюсь даже. Впрочем, я и боготворить какую-то там модель не склонен, ибо как и ранее - атеист-пофигист, с появлением рукотворного LLM ничего не поменялось)) В США же всегда успешно плодились культы - исторически. Самые разные - может быть изначальная протестанская направленность общества стала благодатной почвой, может быть местный менталитет. Но сложилось такое чувство, что американцу можно продать чуть ли не любую религиозную дичь. А уж он, со всей своей энергией новообращённого, понесёт её "в массы". И неважно, будь то какой-нибудь Иегова, или свежая модель от Антопиков. Что, в общем-то, и наблюдаем. 📱 Айтишник в ватничке Telegram Позывной «Кацман» Cогласно слухам, которые в наши дни распространяются в Кремниевой долине, некоторые инженеры Anthropic «поклоняются» модели искусственного интеллекта компании Claude как Богу — futurism.com Ну что ж. Все - по лору. А чему нас учит лор? В районе М23 во времена…