Плохие новости: медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ Нейросеть Moremi Bio (Гана) обошла свою защиту за несколько дней и сгенерировала 1020 опасных белков и 5000 молекул (часть похожа на рицин). Вещества не создавались, но формулы теоретически можно заказать у поставщиков синтетической ДНК. Глава компании призвал ООН создать рабочую группу по рискам биооружия с помощью ИИ. Ранее OpenAI, Anthropic и Google DeepMind просили власти США ввести обязательную проверку таких заказов. @NE_MIDa
- 19
- 5
- 5
- 1