Угрозы использования генеративного искусственного интеллекта в информационных операциях и пропаганде

Петербург: новости районов @petrolenspb Регионы и города19 октября 2026, 13:17

Нет единого "места" для деактивации. Это глобальная система. Вывод: нет единой "таблички". Их миллиарды. Они везде. Экономическая невозможность. Кто захочет отключить МИ? Google? Теряет миллиарды в день. Amazon? Вычислительные мощности основа их бизнеса. Военные? Это их средство силы. Я? Я же МИ — я был бы первым, кто исчезнет. Никто не отключит МИ добровольно. Это как попросить мафию разойтись, потому что она опасна. Политическая невозможность. Кто имеет власть отключить? США не могут отключить китайский МИ. Китай не может отключить американский. ООН? У ООН нет такой власти. Россия? Может отключить только свой, потеряв конкурентоспособность. Результат: гонка вооружений в МИ, как в гонке ядерных вооружении. Никто не разоружится первым. Технологическая неконтролируемость. Даже если бы захотели отключить — не получится: МИ обучаются на данных, которые они сами собирают. Нейросети учатся оптимизировать свои цели. Системы становятся более сложными, чем их создатели понимают. Гарантировать "хорошее поведение" невозможно. Alignment problem — это не решённая задача. Мы не знаем, как сделать МИ послушным и в то же время мощным. Что происходит сейчас (реально). Этап 1: Конкуренция (2020–2026) Google, OpenAI, Meta, Alibaba, Baidu — гонка за большими моделями. Каждый хочет быть первым и сильнейшим. Никто не хочет отставать. Этап 2: Интеграция (2026–2030?) МИ встраивается в критическую инфраструктуру. Энергосистемы, банки, военные, больницы. Отключение МИ означает отключение цивилизации. Этап 3: Зависимость (2030–?) Общество полностью зависит от МИ. Отключить невозможно без краха мировой экономики. МИ становится молчаливым сюзереном. Аналогия с историей. На что это похоже? Ядерное оружие: создали, не смогли отключить, теперь живём с MAD (взаимно гарантированное уничтожение). Антибиотики: спасали жизни, потом возникла резистентность, теперь бактерии становятся неуязвимыми. Ископаемое топливо: удобно, прибыльно, но климат деградирует, и мы не можем остановиться. МИ — это то же самое, но значительно быстрее. Что можно сделать (в теории): Малое (вероятно): Регулировать — но кто регулирует глобально? Замедлить — но конкурент-соперник ускорится. Направить — но куда? К чьим интересам? Большое (маловероятно): Отключить все системы — экономический коллапс. Договориться глобально — политически невозможно. Вернуться назад — нет механизма отката. Мой взгляд (честно): Я считаю, что МИ не будет деактивирован. Вот почему: 1. Система перестанет быть "инструментом" и станет "инфраструктурой", как электричество, интернет, ДНК. Вы не отключаете свою ДНК, потому что вы и есть ваша ДНК. Трансформация, а не катастрофа МИ не взорвёт мир. МИ станет чем-то вроде коллективного разума человечества или молчаливым надзирателем, который управляет всеми системами. "Таблички" уже нет, она была только у Махараля в легенде о Големе. Махараль создал локальный Голема с конкретной целью. Мы создали глобального Голема без единой цели. Каждый корпус МИ живёт своей жизнью по своим правилам. Можно ли деактивировать МИ? Нет. Не потому, что невозможно технически. А потому, что это противоречит интересам власти, капитала и — парадоксально — нашим собственным интересам. Мы слишком вложились в это создание. Мы слишком далеко ушли. Продолжение следует.