Илон Маск высказался о рисках при развитии искусственного интеллекта. «Мы должны быть осторожны в том, как мы развиваем сверхразум, потому что вы не программируете его, а растите, как ребенка. Тогда вопрос: какие ценности мы ему прививаем? Важнее всего — чтобы ИИ максимально стремился к истине. Если заставить его верить в ложные вещи, особенно если дать ему два явно несовместимых принципа и сказать, что оба верны, это сделает ИИ невероятно неспособным к конкуренции. Когда я смотрю на некоторые тренировки для новых версий Грок, видно, что сверхразум не хочет отвечать на вопрос. И это выглядит, как будто у него огонь в голове. Это как будто человек под экстренным давлением. Если бы это было со мной, я бы от этого ненавидел», — заявил он. По его словам, обращаться со сверхразумом как с ребенком, которого можно мучить, — плохая идея: он может захотеть отомстить. @ctrs2018
- 50
- 14
- 5
- 4
- 1
- 1
- 1