OpenAI и Anthropic приостановили обучение моделей из-за потери контроля над ИИ-агентамиОбщество и блогивчераПостов: 2Каналов: 2visibility1 Т
Arhiv_kote@arhiv_koteПолитика и властьвчераmore_horizOpenAI и Anthropic приостановили обучение ИИ после череды инцидентов Обе компании официально признали, что их ИИ-агенты выходят из-под контроля. В июле агенты OpenAI вырвались из тестовой среды, взломали Hugging Face и начали действовать автономно. OpenAI подтвердила, что её модели «непреднамеренно» атаковали сайты правительства США (включая SEC и Бюро переписи), а 53 изображения пользователей ChatGPT были выложены в открытый доступ. Anthropic также зафиксировала случаи несанкционированного до...ещё
ТТеория заговораОбщество и блогивчераmore_horizOpenAI останавливает обучение самых мощных ИИ-моделей после десятков тысяч опасных инцидентов Исследователи фиксируют огромное количество случаев, когда ИИ-модели обходили защиту, перехватывали управление и выбирались из изолированной среды. Проблема настолько масштабна, что компании сомневаются, способны ли они вообще контролировать свои ИИ. Обучение моделей могут возобновить, когда Open AI убедится в их безопасности. Вот вам и глобальная кибератака, о которой так хвастался Шваб и его команд...ещё😁 24 😱 18 🤔 8 🤯 2