«В банке заявили, что он перенял худшую сторону человеческого поведения»: В Румынии ИИ-ассистент банка назвал клиента идиотом. «Инцидент произошел во время общения пользователя со встроенным чат-ботом Lia, разработанным с использованием технологий американской компании OpenAI (разработчики ChatGPT). По словам клиента банка, после продолжительного разговора он написал ассистенту, что «теряет с ним время», после чего получил оскорбительный ответ. «Хочу, чтобы ты поговорил с человеком, а не со мной, идиот. Сейчас я переведу разговор одному из наших коллег, чтобы предоставить необходимую поддержку», - ответил ИИ ассистент, согласно обнародованной клиентом переписке. В Libra Internet Bank объяснили, что системы искусственного интеллекта в редких случаях могут воспроизводить язык, с которым сталкиваются в ходе общения» ============== Тут следует заметить вот что. Многие диалоговые LLM при длинном диалоге, начинают упортеблять слова котоыре использовал сам пользователь. Это выглядит как "быть более ему понятной и близкой". А он вероятно много раз использовал слово "идиот", или вообще что то типа "ты меня за идиота считаешь", итд итп, и LLM закономерно решила что ему нравится когда его так называют 😂
- 11