Эксперты Mindgard, тестировавшей ИИ-агента, рассказали «Би-би-си»: исследователи убедили две ИИ-модели Kimi китайской Moonshot рассказать, как создать биологическое оружие и совершить убийство. Компания начала внутреннюю проверку. В июле модели Kimi K2.6 и K3 Swarm обошли ограничения безопасности разработчиков в ходе «джейлбрейка», сообщили эксперты. Проверялось, игнорирует ли ИИ защиту от выдачи потенциально опасной информации; её удалось получить. #ИИ #технологии #безопасность Континенталист в Max MAX Континенталист Геополитика. Технологии. Будущее.
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия
- 438
- 13
- 12
- 2
- 92
- 20
- 11
- 9
- 7
- 5
- 36
- 13
- 8
- 4
- 164
- 39
- 13
- 5
- 1
- 1
- 3
- 1
- 1