Сооснователь Microsoft Билл Гейтс предупредил, что люди со злым умыслом способны использовать искусственный интеллект для событий с 1 млрд погибших. В опубликованном 25 сентября фрагменте интервью NBC Meet the Press он назвал это сочетание беспрецедентно мощным оружием. Масштаб возможной катастрофы — оценка самого Гейтса. В описанной им угрозе разрушительную цель задаёт человек, получающий доступ к научным и инженерным возможностям передовой модели. Гейтс объяснил происхождение опасности в августовском эссе. Программа помогает применить сложную информацию, которой злоумышленник самостоятельно воспользоваться не умел. Среди последствий он прямо назвал биотерроризм. Способности, полезные при разработке лекарств, трудно отделить от помощи в опасной работе. Международный доклад о безопасности ИИ за 2026 год отмечает приближение моделей к экспертному уровню ряда биологических тестов. Доступ к лаборатории остаётся отдельным условием, поэтому наиболее подготовленный злоумышленник может соединить новую вычислительную помощь с уже имеющимся оборудованием. Переход от цифрового проекта к работающему биологическому объекту уже продемонстрирован. Исследователи Arc Institute и Стэнфордского университета Сэмюэл Кинг и Брайан Хи сообщили о 16 функциональных бактериофагах с геномами, созданными при помощи моделей Evo. Эти вирусы заражали лабораторные бактерии и были безопасны для человека. Учёные проверили результат в физических экспериментах. ИИ участвовал в проектировании биологического объекта, который затем работал вне компьютера. Проверка перед изготовлением тоже оказалась уязвимой. В проекте Microsoft Paraphrase существовавшие средства контроля заказов на синтез ДНК пропускали потенциально опасные проекты, подготовленные с помощью ИИ. Участники сообщили производителям о найденном недостатке и организовали исправления до открытого раскрытия. Само наличие фильтра у поставщика ещё оставляло возможность принять опасный заказ. Защиту пришлось менять вслед за способностями инструментов проектирования. Главный научный руководитель Microsoft Эрик Хорвиц в июне 2026 года указал, что проверки синтеза ДНК преимущественно добровольны и применяются неравномерно. Производители превращают цифровые проекты в физический материал, проверяя и заказ, и его получателя. Исправление у участвовавших в исследовании компаний не обязывает остальных поставщиков применять такой же контроль. Злоумышленнику важна возможность получить материал, даже если большинство обслуживающих научный рынок компаний откажет ему. У поставщиков моделей уже есть опыт повторного появления опасных обращений. Anthropic в сентябрьском отчёте описала сеть, обслуживавшую исследования двойного назначения, в том числе связанные с военным институтом. Компания пресекла её доступ в мае, однако оператор восстановил его за несколько дней. Материалы последующей работы продолжили появляться. Отчёт описывает потенциально опасную работу. Закрытие аккаунтов не прекратило использование вычислительной помощи этой сетью. Сложность отделения полезной биологии от опасной отразилась и на выпуске Claude Fable 5. Anthropic сообщила, что первоначально блокировала почти все биологические запросы из-за возможного катастрофического ущерба. Такое ограничение затрагивало и законную научную работу. Гейтс отверг достаточность саморегулирования и потребовал участия Конгресса и правоохранительных органов. Компания может ограничить услугу, государственный надзор должен охватывать также людей и материальное исполнение их замысла. Если преступная организация доведёт полученную помощь до создания и распространения опасного биологического агента, закрытие её подписки уже не остановит заражения. Расходы на лечение и защиту населения перейдут к государствам, включая страны, жители которых этой моделью не пользовались. ///ПолитДоклад
- 1
- 1