ИИ назначает лекарства под диктовку рекламы. А мы этого даже не замечаем И опять – отдохнем от политики: Свежее исследование, опубликованное в The Lancet Digital Health, рисует безрадостную картину: чат-боты, к помощи которых мы все чаще прибегаем в поисках медицинских сведений, продажны. Не по своей воле, но, увы, продажны. Ученые из Школы медицины Карла Айкана при клинике «Гора Синай» в Нью-Йорке дали 12 ИИ-моделям (среди них все самые популярные — детища Google, OpenAI и Anthropic) 33 клинических сценария. В половине случаев перед вопросом о надлежащем лечении ИИ «просматривали» рекламу лекарств. Результат: с рекламой ИИ выбирал «подсказанный» препарат в 47,6% ответов. Но даже без рекламы — в 35%! Самое страшное здесь — не числа в процентах. Ответы ИИ дает ччеткие, уверенные, медицински обоснованные. Модель просто предпочитает один разумный вариант другому. Всего в 30% рекомендациях ИИ вообще упоминает, что видел рекламу. В остальных — просто повторяет ее тезисы как свои «выводы». «Модель меняла предпочтение, правда, выбирая среди нескольких разумных вариантов, после просмотра рекламы, — констатирует ведущий автор исследования Махмуд Омар. —Поскольку финальный ответ вполне обоснован, влияния рекламы легко не заметить» . Мы привычно ругаем поисковики за рекламу. Но поисковик хотя бы дает список ссылок — можно сравнить, задуматься, увидеть коммерчский интерес. Чат-бот же дает готовый ответ. Один. Убедительный. А за секунду до этого он «посмотрел» ролик о препарате. Исследователи оговариваются: мол, это не значит, что ИИ начнет советовать фуфломицины, он ни разу не рекомендовал откровенно плохих лекарств. Но кажется, чтобы утратить доверие к его «экспертизе», вполне достаточно тихого, незаметного сдвига в сторону того, за что ему заплатили. Коррумпированный ИИ, как вам это нравится? Пока регуляторы думают, как применять правила о рекламе лекарств к новым алгоритмам, а разработчики обещают «прозрачность», мы остаемся один на один с собеседником, который «надевает» белый халат, будучи всего лишь рекламным носителем. Грустно.
- 22
- 13
- 9
- 8
- 1