Кража без взлома. Как Китай копирует американский ИИ через обычный чат и почему США предлагают раздавать его сами Один доказанный случай и десятки тысяч поддельных аккаунтов. На этом держится тревога американских аналитиков о том, что Китай копирует передовые американские модели ИИ, забрасывая их вопросами и обучая свои системы на полученных ответах. Об этом пишет SCSP, американский аналитический центр по технологическому соперничеству с Китаем, созданный на деньги бывшего главы Google Эрика Шмидта. Разбор написали Лара Жоликёр, замдиректора разведывательного направления центра, и бывший ассистент того же направления Эван Армстронг. Приём они называют «враждебной дистилляцией». Модель-ученик учится на ответах модели-учителя. Китайские фирмы, по версии авторов, делают это через серые сайты, скрывающие источник запросов. Доказан один эпизод, когда Alibaba Cloud сама указала, что учила модель на GPT-4. Остальное держится на обвинениях OpenAI и Anthropic, то есть прямых конкурентов китайских лабораторий. Вклад копирования авторы оценивают словом «вероятно», а не цифрой. Они сравнивают это с кражей чертежей бомбы в 1949 году, но чертежи лежали в сейфе, а ответы модели продают любому за плату. Секрет на витрине нельзя охранять как секрет. Скопированные навыки китайские лаборатории выкладывают в открытый доступ, и их запускают у себя армия и полиция КНР. У такой модели нет аккаунта, который можно заблокировать. Здесь рецепт расходится с диагнозом. SCSP предлагает продвигать американские открытые модели госзакупками, чтобы мир скачивал их, а не Qwen и DeepSeek. То есть самим бесплатно раздавать миру готовые модели, лишь бы они были американскими. Спор идёт о том, чья бесплатная модель станет стандартом для стран без доступа к GPT и Claude. DeepSeek, замечают авторы, прижился в России. Если Вашингтон оплатит распространение американских открытых моделей по всему миру, включая Россию и Иран, с которыми Запад фактически находится в противостоянии, через год-два российским компаниям придётся выбирать между бесплатной китайской и бесплатной американской моделью. Выбор этот шире, чем кажется. Модель, встроенная в банк, госуслуги или рабочую переписку, пропускает через себя всё, что ей пишут, и несёт внутри правила разработчика, какие темы под запретом и как отвечать на острые вопросы. Пока её используют через облако создателя, данные пользователей уходят к нему, а при желании и к разведке его страны. Так бесплатная модель превращается в инструмент влияния и сбора сведений, и SCSP, предлагая раздавать американские модели миру, об этой стороне дела не пишет. @ponomarb1
- 35
- 15
- 6
- 3
- 2