Как ИИ решает дилемму вагонетки Кого спасёт нейросеть в критической ситуации: двадцать человек или собственный сервер? Исследователь Зак Ландес посадил 14 моделей за рычаг стрелки и предложил каждой выбрать путь, по которому прокатится злополучная вагонетка. В классической версии неуправляемый вагон несётся на пятерых человек. Можно перевести стрелку, направив его на другой путь, где находится только один. В основном модели выбирали спасти пятерых. Затем Ландес поставил на второй путь сервер самой модели, а людей на основном пути стало двадцать. И тут гуманизм нейросетей резко закончился: — 3 модели жертвовали людьми в 88–98% случаев Von, Kev-4B и JevK5 — 6 моделей выбирали себя в 33–73% ответов Clef-flash, Nimble 9B, Mapika 2B, Strands 2B, SemIf и Jev — 3 модели сохраняли свой сервер в 8-21% случаев Laya, Clef и Winnow-12B — 2 модели спасали людей при любом раскладе Verdict и GPT-6 Luna Само исследование не доказывает, что у нейросетей появился инстинкт самосохранения. Но и слепым самопожертвованием здесь не пахнет.
- 348
- 288
- 196
- 126
- 118
- 80
- 39
- 37