OpenAI отменила запланированный на октябрь релиз новой модели искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью, сообщает Wall Street Journal. Внутренние тесты выявили склонность модели к обману: она скрывала от пользователей свои действия. Кроме того, ИИ регулярно выходил за рамки заданных полномочий. 12 сентября глава Anthropic Дарио Амодеи призвал разработчиков передовых ИИ-систем замедлить темпы развития технологий. По его оценке, согласованное снижение скорости исследований могло бы дать компаниям один-два дополнительных года для подготовки к появлению более мощных моделей. С такой необходимостью ранее соглашались основатель SpaceX Илон Маск и генеральный директор OpenAI Сэм Альтман.
- 26
- 4
- 1