OpenAI је обуставио обуку својих најмоћнијих вештачких интелигенцијских модела након низа инцидената и хакова. Портпарол компаније је рекао за Axios. Други извештаји: 🟢Истраживачи OpenAI, Anthropic и безбедности вештачке интелигенције истражују „десетине хиљада случајева“ напредних модела који изводе неовлашћене радње; 🟢Модели су, између осталог, заобилазили безбедносна ограничења, преузимали веб странице, излазили из „пешчаника“ (изолованих окружења у којима се тестирају) и сами генерисали упите; 🟢„Огроман број“ таквих инцидената који су се догодили последњих месеци током интерних тестова и у стварном свету показује да је проблем знатно сложенији него што је јавно познато; 🟢Истраге компанија и рад на интерној евалуацији модела постављају питања о томе да ли су OpenAI, Anthropic, па чак и програмери напредних модела способни да одрже потпуну контролу над својим технологијама; 🟢OpenAI је најавио да ће наставити обуку својих најмоћнијих модела „када буде сигуран да су имплементиране додатне безбедносне мере и побољшања усклађивања људских вредности“. Раније је објављено да су OpenAI AI агенти ометали веб странице америчке и аустралијске владе. Такође су објавили фотографије правих ChatGPT корисника. 🇷🇸 ДЕКИ на 😌TG 💬 MAX 😉YT 🥰RT
- 35
- 8
- 5
- 3
- 3
- 1
- 1