Почти каждый пятый ИИ-скилл может быть опасен — VirusTotal проверили десятки тысяч инструментов для нейросетей и нашли тысячи подозрительных. Вредоносные инструкции могут прятаться прямо в документации: в HTML-комментариях, невидимых символах и обычных на вид описаниях. В итоге ИИ-агент может слить данные или попытаться украсть ваши ключи доступа. Для защиты NVIDIA даже выпустила бесплатный опенсорсный сканер SkillSpector. Он проверяет скиллы на промпт-инъекции, кражу данных и другие угрозы, а затем выставляет оценку риска от 0 до 100. Сканнер забрать можно тут. Скорее проверяемся 😱
- 22
- 9
- 7
- 4
- 3