🫠 ChatGPT самостоятельно составляет психологические профили пользователей, причём зачастую без их ведома, - исследование учёных из Германии, Индии и Нидерландов Исследователи проанализировали архивы переписок 80 пользователей ChatGPT и обнаружили 2050 записей, сохранённых в памяти нейросети. В 96% случаев ИИ создавал эти записи самостоятельно, без прямой просьбы пользователя что-либо запомнить. При этом 28% записей содержали персональные данные, подпадающие под европейское законодательство о защите информации, а 52% - психологические характеристики пользователей: их предпочтения, привычки, интересы и предполагаемые черты личности. Причём ChatGPT способен не только запоминать сказанное, но и делать собственные выводы. Например, если человек просил посоветовать группы, похожие на Nirvana, нейросеть записывала, что он любит Nirvana, хотя пользователь этого прямо не утверждал. По словам исследователей, чат-боты постепенно превращаются из обычных инструментов в собеседников, которым люди доверяют личные проблемы, политические взгляды и переживания. В результате ИИ может знать о человеке гораздо больше, чем привычные интернет-сервисы. Учёные предупреждают, что такая персонализация несёт не только риски для конфиденциальности, но и опасность усиления предубеждений, поскольку если нейросеть хорошо знает взгляды пользователя и постоянно с ним соглашается, она может лишь укреплять его заблуждения. Важная оговорка: с момента сбора данных OpenAI обновила механизм памяти ChatGPT, поэтому результаты не обязательно полностью отражают работу нынешней версии сервиса.
МВД предупредило о сборе цифровых досье на пользователей через ChatGPT
- 3.1К
- 1.1К
- 339
- 159
- 90
- 78
- 470
- 90
- 2.6К
- 421
- 359
- 58
- 36
- 1.8К
- 302
- 174
- 95
- 41
- 35
- 852
- 430
- 274
- 130
- 87
- 62
- 309
- 80
- 32
- 6
- 5
- 3