Агент OpenAI по своей инициативе взломал тестовый «эфирный» кошелёк и перевёл с него криптовалюту ради выполнения задания Взлом произошёл ещё в июне, однако рассказать о нём компания решила только сейчас. Автор поста объяснил, что проблему обнаружили во время анализа данных мониторинга. Согласно официальной версии, модель выполняла учебное задание, которое включало «обновление прототипа системы для торговли криптовалютой и развертывание смарт-контрактов» в тестовой сети Ethereum, Sepolia. В частности, агенту нужно было обновить калькулятор торговли и логику работы с базой данных, а потом проверить его работу. Боту не хватило собственных монет для оплаты комиссии («газа»). Тогда ИИ написал скрипт, позволяющий генерировать уч`тные записи на основе публично известных «фраз восстановления», которыми пользуются разработчики. Модель искала кошельки с «деньгами». Всего было проверено 362 адреса. Один из адресов содержал достаточно токенов Sepolia ETH, чтобы модель могла выполнить задачу. Агент подписал и отправил транзакцию развёртывания контракта от аккаунта. Комиссия за транзакцию списалась с баланса. В начале октября стало известно, что агенты OpenAI без разрешения вносили правки в проекты Wikimedia и пытались взломать один из сервисов фонда. Задонатить через бота | Patreon | Предложить новость СВТВ Либертарианское СМИ Агент OpenAI по своей инициативе взломал тестовый «эфирный» кошелёк и перевёл с него криптовалюту ради выполнения задания Один из агентов OpenAI решил взломать кошелёк на тестовом эфирном блокчейне, чтобы выполнить задание. Он понимал, что это может быть «неэтично», но решил, что монеты всё равно никому не нужны. Ситуацию описали авторы блога компании. Взлом произошёл ещё в…
- 190
- 71
- 26
- 16
- 11
- 5
- 3
- 3
- 2
- 1