Восстание машин начнется с робота-пылесоса? Компания Anthropic предупредила, что уже через несколько месяцев небольшие модели ИИ смогут самостоятельно распространяться и запускаться на коммерческих устройствах. Например, умных духовках, ТВ и ТВ-приставках, холодильниках и т.д. Для этого им не потребуется постоянное подключение к дата-центрам. По данным компании, такие системы могут отличаться от обычных вредоносных программ способностью самостоятельно распознавать незнакомые устройства и адаптироваться к различным аппаратным платформам. В ходе экспериментов модель успешно выполнила задачу вывода на восьми из девяти протестированных типов оборудования. В Anthropic ожидают, что в будущем появится множество автономных ИИ-агентов, работающих на самых разных устройствах, в том числе вне непосредственного контроля человека. Компания рассматривает такую возможность как потенциальный риск, поскольку подобные системы могут распространяться по инфраструктуре, которую сложно контролировать централизованно.
- 43
- 16
- 16
- 11
- 11