OpenAI пообещала, что тексты, сгенерированные ChatGPT, можно будет определить по «водяным знакам» Речь идёт не об использовании специальных символов, а о специфическом подборе определённых слов, благодаря которым по длинному тексту, как ожидается, можно будет понять, писал ли его человек. Для этого будет использоваться технология textGrain. Нововведение появится в ближайшее время, однако пока его можно будет отключить. Доступ к детектору, который определяет, сгенерирован ли текст, сначала получат лишь одобренные OpenAI исследователи и организации, которые помогут протестировать технологию. Программа не позволит определять конкретного пользователя, который сгенерировал текст, а также не будет показывать, что именно выдаёт в тексте его происхождение. Точность работы технологии определения ИИ-текста возрастает с его длиной, но не доходит до 100%, а даже небольшое редактирование этого текста снижает её эффективность в разы. Аналогичную технологию уже анонсировала компания Anthropic для своей модели Claude. В обоих случаях поводом для внедрения инновации стал закон ЕС об ИИ, в рамках которого разработчиков обязали маркировать сгенерированные тексты.
- 3