Anthropic предупреждает, что ИИ скоро сможет самостоятельно размножаться через ТВ-приставки, духовки и прочую умную технику Небольшие ИИ-модели могут научиться сами копировать себя на бытовые устройства с выходом в интернет уже через несколько месяцев. Такой прогноз дала команда Frontier Red Team компании Anthropic: она опубликовала исследование 12 октября. Речь идет о самостоятельном распространении без доступа к дата-центрам: по умным духовкам, дешевым ТВ-приставкам на Android и другой технике, которую производители плохо защищают. Их потенциальными целями могут стать умные телевизоры, холодильники, духовки, роботы-пылесосы и даже газонокосилки. Причём для работы таким нейросетям не понадобятся мощные дата-центры: они смогут использовать вычислительные ресурсы заражённой бытовой техники. Для защиты Anthropic предлагает провайдерам отслеживать передачу файлов размером в несколько гигабайт и подозрительный обмен данными между устройствами, изолировать зараженную технику и предупреждать владельцев. Производителей компания призывает отказаться от небезопасных заводских настроек.
ИИ скоро сможет самостоятельно распространяться по умной технике
- 1.5К
- 238
- 94
- 37
- 588
- 70
- 1.5К
- 201
- 194
- 102
- 65
- 34
- 410
- 208
- 116
- 102
- 38
- 30