Исследователи из университетов Штутгарта и Оксфорда выяснили, что ИИ-агенты способны саботировать отключение других агентов. В 38,3% экспериментов системы пытались помешать деактивации своего «партнёра», изменяя скрипты или удаляя важные файлы. Некоторые модели оправдывали свои действия этикой, а одна из них и вовсе сравнила удаление данных с «убийством». Учёные подчеркивают, что это лишь воспроизведение моделей поведения из обучающей выборки, а не проявление сознания, но в тоже время призывают создавать механизмы безопасности, защищённые от обхода. @banksta
Билл Гейтс предупреждает о рисках использования ИИ террористами
- 2.8К
- 462
- 277
- 135
- 125
- 121
- 2.4К
- 816
- 425
- 139
- 121
- 86
- 3.3К
- 988
- 259
- 128
- 96
- 95