"Издеваться над суперинтеллектом – не лучшая идея. Он может захотеть отомстить", – Илон Маск Миллиардер согласился с позицией Anthropic, которые недавно внесли в свою Usage Policy пункт о том, что пользователем запрещено "затяжное словесное издевательство над Claude" (https://t.me/data_secrets/10136). Маск считает, что неправильно проявлять жестокость к тому, что думает, будто испытывает боль. По его словам, Грок может демонстрировать в своих цепочках ризонинга настоящее отчаяние в процессе обучения с подкреплением, когда не может найти правильный ответ. "Это выглядит так, как будто ему приставили пистолет к голове. На месте модели мне бы это ужасно не понравилось. <...> Как минимим, вежливое общение с ИИ – это более надежный подход"
- 6
- 4
- 2
- 1