Немного расширю размышления И.Гращенкова о контроле над искусственным интеллектом. Понятно уже, что распределение ответственности следует строить не как внутрикорпоративную схему «разработчик — оператор — пользователь», а как систему обязательств государств друг перед другом. Тогда нужно заранее определить, какие именно обязанности государство принимает на себя, когда на его территории создаются, обучаются или эксплуатируются модели, способные нанести трансграничный ущерб. Первый вариант — договор о «юрисдикции происхождения». Страна, в которой зарегистрирован разработчик модели, берет на себя обязанность обеспечить первичную оценку опасных возможностей, ведение технической документации, уведомление других государств о критических уязвимостях и участие в расследовании трансграничных инцидентов. Это похоже на принцип “государства флага” в морском праве: не страна, где произошла авария, а страна регистрации несет базовую ответственность за допуск судна к эксплуатации. Слабое место очевидно: разработчик может перенести штаб-квартиру или вычислительные мощности в юрисдикцию с мягким регулированием, поэтому такой принцип работает только вместе с правилом доступа к рынку — без сертификации по договору модель нельзя легально использовать. Второй вариант — ответственность государства размещения инфраструктуры. Если модель физически работает на серверах, дата-центрах или облачных мощностях определенной страны, это государство отвечает за изоляцию вычислительных сред, контроль экспорта вычислительных ресурсов, сохранность журналов и возможность технической остановки сервиса. Такой подход важен потому, что инфраструктура — наиболее проверяемый и территориально привязанный элемент всей цепочки. В отличие от весов модели, сервер невозможно «скопировать» так же легко, а его работа зависит от энергетической, сетевой и правовой среды конкретного государства. Третий вариант — солидарная ответственность по критичности применения. Государство, разрешившее подключение автономной системы к энергосетям, транспорту, финансовой инфраструктуре или системам управления оружием, отвечает за последствия этого допуска независимо от того, где модель была создана. Здесь логика не «кто создал», а «кто допустил к опасному объекту». Это защищает третьи страны: если ИИ, интегрированный в платежную систему одного государства, вызывает сбой у соседей, пострадавшая сторона получает право на компенсацию и на участие в расследовании, а не остается заложником чужой технологической цепочки. Четвертый вариант — создание международного фонда компенсации по аналогии с ядерной отраслью, где ответственность оператора дополняется коллективными финансовыми механизмами на случай катастрофического ущерба. Взносы могут быть пропорциональны объему вычислительных мощностей, обороту разработчиков и доле страны в глобальном рынке моделей. Фонд не заменяет ответственность виновного государства, но гарантирует, что страна, пострадавшая от трансграничного сбоя, не будет ждать десятилетиями судебного установления вины. Самый реалистичный путь - соглашение ограниченного круга технологических держав о минимальных стандартах: запрет автономного доступа к ядерному управлению и системам запуска, обязательная горячая линия между регуляторами, взаимное признание расследований и арбитраж по спорам о компенсации. С учетом того, что Россия обладает самым широким ядерным арсеналом, ее попадание в этот круг будет гарантировано именно этим, а не тем, насколько хорошо развиты ее собственные ИИ-модели. Ваш Юрий Долгорукий Telegram Кремлёвский безБашенник 🌐Специально для "Кремлевского безБашенника" - политолог Илья Гращенков (Телеграм-канал The Гращенков) - ИИ вместо ядерной бомбы В прошлом веке сверхдержавам пришлось договариваться о ядерном оружии. Теперь, похоже, придется договариваться об искусственном…
- 4
- 4
- 2
- 1
- 1