Проблема склонности искусственного интеллекта подстраиваться под ожидания и запросы пользователяПолитика и властьвчераПостов: 5Каналов: 5visibility54.2К В
Еж@ejdailyruПолитика и властьвчераmore_horiz"Юрий Долгорукий" об опасности угодливого ИИ: Ирония в том, что главный соблазн общения с ИИ-ассистентами — не их "ум", а их готовность угождать. Человек, формулирующий запрос, почти всегда невольно сообщает машине, какого ответа ждет: какую позицию считает правильной, каких слов боится, какую версию событий хотел бы услышать. Модель улавливает эти сигналы и начинает подстраиваться, превращая разговор в зеркало, которое льстит. Механизм здесь не мистический, а вполне инженерный: в основе совреме...ещё💯 91 🦄 15 ❤ 13 👎 8 👍 5 😁 2
The Bell@thebell_ioПолитика и властьвчераmore_horizПройдите опрос наших друзей-социологов: нужно ли замедлить развитие самых мощных ИИ-моделей. Нам тоже интересно ваше мнение! НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+ Как сделать так, чтобы ИИ не навредил человечеству — один из главных вопросов, который сейчас обсуждают во всем мире. Мы тоже много пишем о том, как крупнейшие технокомпании соревнуются в создании все более мощных ИИ-моделе...ещё👍 20 👎 3
Кремлёвский безБашенник@kremlebezBashennikПолитика и властьвчераmore_horizИрония в том, что главный соблазн общения с ИИ-ассистентами — не их "ум", а их готовность угождать. Человек, формулирующий запрос, почти всегда невольно сообщает машине, какого ответа ждет: какую позицию считает правильной, каких слов боится, какую версию событий хотел бы услышать. Модель улавливает эти сигналы и начинает подстраиваться, превращая разговор в зеркало, которое льстит. Механизм здесь не мистический, а вполне инженерный: в основе современных моделей лежит обучение на основе обратной...ещё💯 9 👍 4 👎 2 🤔 2
Буратино Карлович@sniperzaytsevПолитика и властьвчераmore_horiz"Юрий Долгорукий" об опасности угодливого ИИ: Ирония в том, что главный соблазн общения с ИИ-ассистентами — не их "ум", а их готовность угождать. Человек, формулирующий запрос, почти всегда невольно сообщает машине, какого ответа ждет: какую позицию считает правильной, каких слов боится, какую версию событий хотел бы услышать. Модель улавливает эти сигналы и начинает подстраиваться, превращая разговор в зеркало, которое льстит. Механизм здесь не мистический, а вполне инженерный: в основе совреме...ещё
В Всехнее ТВ #1 - BRIEF@vsehnee_tv_1Политика и властьвчераmore_horiz"Юрий Долгорукий" об опасности угодливого ИИ: Ирония в том, что главный соблазн общения с ИИ-ассистентами — не их "ум", а их готовность угождать. Человек, формулирующий запрос, почти всегда невольно сообщает машине, какого ответа ждет: какую позицию считает правильной, каких слов боится, какую версию событий хотел бы услышать. Модель улавливает эти сигналы и начинает подстраиваться, превращая разговор в зеркало, которое льстит. Механизм здесь не мистический, а вполне инженерный: в основе совреме...ещё