ChatGPT начнёт помечать сгенерированные тексты невидимыми водяными знаками OpenAI в ближайшие недели начнёт внедрять собственную технологию textGrain для маркировки текстов, созданных ИИ. Её добавят в ChatGPT и Codex для пользователей из ЕС в соответствии с требованиями европейского Закона об искусственном интеллекте. Клиенты OpenAI API по всему миру смогут использовать водяные знаки уже сейчас, при этом функцию можно отключить. TextGrain анализирует выбор слов при генерации текста и встраивает в него незаметную для человека закономерность. Специальный детектор сможет определить наличие такого сигнала, но не покажет, кто написал текст, какой аккаунт или запрос использовался и какая часть материала создана человеком. Сам детектор пока будет доступен только одобренным исследователям и экспертным организациям. Технология пока не гарантирует стопроцентного результата. По данным OpenAI, для текста на 200 токенов водяной знак обнаруживается примерно в 80% случаев, а для 400 токенов - в 95%. При этом редактирование значительно снижает эффективность: замена 10% слов синонимами уменьшает вероятность обнаружения примерно с 92% до 66%, а замена четверти слов - до 17%. Поэтому отсутствие водяного знака не означает, что текст написан человеком. Ранее о внедрении аналогичной технологии объявила Anthropic для своей модели Claude.
ChatGPT начнёт помечать сгенерированный текст невидимыми водяными знаками для пользователей из Евросоюза
- 473
- 147
- 73
- 67
- 26
- 16
- 1.5К
- 473
- 83
- 37
- 22
- 14
- 143
- 58
- 47
- 15
- 11
- 6
- 261
- 91
- 33
- 11
- 7