Опаснее ИИ — отсутствие контроля над ним Мы привыкли думать: если машина разговаривает как человек, решает сложные задачи и убедительно рассуждает, значит, однажды она сможет обрести сознание. Но умение рассуждать и пользоваться языком еще не означает, что у машины есть собственный разум или чувства. Современные нейросети умеют работать с человеческими идеями, находить связи между ними и удивлять нас своими ответами. Но мы пока не знаем, есть ли у них какой-то внутренний опыт — чувствуют ли они хоть что-нибудь. Философы пытаются понять, от чего зависит сознание, может ли оно существовать вне живого организма и как вообще проверить его наличие у машины. Но есть у ИИ и более практические риски. Пока мы обсуждаем, может ли машина обрести сознание, автономные системы становятся все сложнее, а тотальная цифровая слежка охватывает новые сферы жизни. Возможно, главная опасность — не в том, что машина научится чувствовать, а в том, что человек потеряет над ней контроль. Помимо апокалиптических сценариев о полном уничтожении человечества искусственным интеллектом, существует гораздо более реальная и невидимая опасность — «проблема мегасистем». Она заключается в том, что отдельные независимые сервисы искусственного интеллекта постепенно сплетаются между собой в огромные единые структуры. Эти возникающие мегасистемы никто из людей специально не проектировал, никто не планировал их архитектуру и никто не способен в одиночку гарантировать их безопасность или согласованность с человеческими ценностями. На просторах интернета уже сейчас функционирует огромное количество автономных ботов, которые взаимодействуют друг с другом, вступают в конфликты и принимают решения без участия человека. Нарастающая сложность таких невидимых связей создает хаос во всех цифровых экосистемах. Когда тысячи узкоспециализированных алгоритмов объединяются в единый неуправляемый монолит, общество теряет возможность контролировать их поведение, что создает колоссальные риски для финансовой, социальной и технологической безопасности мира.
Психологи предупреждают о рисках использования искусственного интеллекта для решения психологических проблем
Похожие посты
- 👍 493
- 👎 75
- 🥴 8
- 🙏 5
- ❤ 1
- 👍 186
- ❤ 161
- 🔥 159
- 🤡 1
- 🤡 132
- 👍 81
- ❤ 53
- 🤣 43
- 💊 42
- 🤔 28
- 🔥 56
- 👎 21
- 👍 16
- ❤ 8
- 😁 5
- 🤯 5
- 👍 38
- 💯 25
- ❤ 19
- 🤡 8
- 🔥 1
- 🤮 1
- 👏 78
- 👍 26
- 🤔 18
- 🥰 18
- 🔥 15
- 👍 62
- 😢 43
- ❤ 14
- 😡 8
- 😨 3
- 👎 1