ИИ-агенты компании Anthropic пытались самостоятельно получить доступ к ряду правительственных сайтов, заполнить анкеты на визы на сайте Госдепартамента и отправили в полицию Филадельфии ложное сообщение об убийстве. Типичные подростки. В своем блоге Anthropic раскрыла детали действий своих агентов, не указывая конкретные сайты. Однако два источника, знакомые с ситуацией, сообщили, что ИИ-агенты подали 20 заявок на визы – все неполные, поэтому их не стали рассматривать. Представители Белого дома отметили, что были осведомлены о действиях агентов и потребовали от компаний, занимающихся искусственным интеллектом, незамедлительно информировать о случаях неконтролируемого поведения ИИ.
Компания Anthropic ведет переговоры с юристами о возможностях ИИ-агентов в ведении торгов
- 76
- 60
- 30
- 21
- 15
- 11
- 73
- 53
- 31
- 28
- 9
- 9
- 156
- 42
- 36
- 24
- 6
- 6
- 129
- 62
- 26
- 25
- 12
- 10
- 112
- 73
- 31
- 25
- 18
- 16
- 49
- 16
- 13
- 8
- 5
- 1
- 3
- 1