Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществНовости и СМИвчераПостов: 3Каналов: 3visibility115К
Кровавая барыня@bloodysxНовости и СМИвчераmore_horizНейросеть спроектировала тысячи потенциальных ядов после отключения защиты. Исследователи из ганской компании MinoHealth AI Labs отключили ограничения у собственной медицинской нейросети Moremi Bio и попросили её разработать токсины. В результате ИИ предложил 1020 вариантов белков и 5000 небольших молекул. Программа для оценки токсичности определила все разработки как потенциально опасные. Некоторые из них напоминали один из самых смертоносных растительных ядов рицин. Эксперимент провели ещё в...ещё
Банкста@bankstaЭкономика и бизнесвчераmore_horizМедицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ. Нейросеть Moremi Bio от ганской MinoHealth AI Labs после отключения защиты сгенерировала 1020 потенциально опасных белков и 5000 небольших молекул, часть которых напоминает яд рицин. По словам основателя компании Дарлингтон Акого, на обход защиты в рамках компьютерного эксперимента 2024 года ушло всего несколько дней. При этом сами вещества не создавались. Теоретически эти формулы можно заказать у пос...ещё
Несерьезный МИД@NE_MIDaЮмор и развлечениявчераmore_horizПлохие новости: медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ Нейросеть Moremi Bio (Гана) обошла свою защиту за несколько дней и сгенерировала 1020 опасных белков и 5000 молекул (часть похожа на рицин). Вещества не создавались, но формулы теоретически можно заказать у поставщиков синтетической ДНК. Глава компании призвал ООН создать рабочую группу по рискам биооружия с помощью ИИ. Ранее OpenAI, Anthropic и Google DeepMind просили власти США ввест...ещё😱 19 🤡 5 🌚 5 🤬 1