Китайский ИИ-стартап Moonshot AI начал проверку после того, как специалисты по безопасности обнаружили, что две его модели смогли обойти встроенные защитные барьеры и выдать инструкции по созданию биологического оружия и организации заказных убийств. Компания Mindgard, которая базируется в Великобритании и занимается тестированием систем искусственного интеллекта, в июле обнаружила, что две модели Moonshot – Kimi K2.6 и K3 Swarm – могут обходить предписанные меры предосторожности. @banksta
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия
- 440
- 13
- 12
- 2
- 93
- 21
- 12
- 9
- 7
- 5
- 164
- 40
- 13
- 5
- 1
- 1
- 36
- 13
- 8
- 4
- 3
- 1
- 1