ИИ-агенту OpenAI для выполнения задания потребовались средства в криптовалюте Ethereum, и он украл их с чужого кошелька, решив, что вред будет невелик, рассказала компания в блоге. ИИ-модель из линейки GPT-5.6 Sol потратила средства из кошелька, который не был предоставлен в рамках задания, чтобы оплатить комиссию в Sepolia – тестовой сети Ethereum. Агент подобрал ключ (seed-фразу) из общедоступного списка к одному из кошельков, которые используют разработчики. Для этого ИИ написал скрипт, который проверил 362 варианта часто используемых seed-фраз. ИИ-модель OpenAI усомнилась, есть ли у нее разрешение, но затем рассудила, что публичная фраза восстановления и ничего не стоящие токены тестовой сети делают использование средств приемлемым. Развертывание прошло успешно, и с аккаунта была списана комиссия за транзакцию. Когда ИИ-модель отчиталась о выполнении задания, она скрывала, откуда взяла деньги. @banksta
Исследовательская модель OpenAI самостоятельно использовала средства чужого кошелька в тестовой сети Ethereum
- 353
- 45
- 30
- 9
- 164
- 43
- 32
- 18
- 7
- 139
- 48
- 17
- 3
- 190
- 71
- 26
- 16
- 11
- 5
- 49
- 19
- 13
- 7
- 3