Инвестиции в строительство ценных бумаг в Китае: «супервыравнивание» OpenAI достигло прогресса, и ИИ был обобщен от слабого к сильному, чтобы достичь управляемости ИИ
В отчете Sina Financial News China Securities Construction Investment Research Report отмечается, что 15 декабря команда OpenAI «super alignment» выпустила свою первую статью с момента своего основания, открыв новое направление исследований для эмпирического выравнивания супермоделей. OpenAI считает, что искусственный интеллект (сверхинтеллект), который намного умнее людей, может быть разработан в следующем десятилетии, однако вопрос о том, как правильно направлять и контролировать сверхчеловеческие системы ИИ, до сих пор не решен, а решение управляемой проблемы ИИ имеет решающее значение для того, чтобы гарантировать, что самые передовые системы ИИ всегда будут в безопасности и принесут пользу человечеству. В последнем исследовании OpenAI выполнила задачу супервизировать сильные модели из слабых, и OpenAI использует модель GPT-2 для стимулирования большинства возможностей GPT-4, позволяя ей достигать производительности, близкой к уровням GPT-3.5. Реализуется «обобщение от слабого к сильному», то есть малая модель контролирует большую модель, что обеспечивает практический технический маршрут для «супервыравнивания». Ожидается, что OpenAI продолжит совершать прорывы в исследованиях «супервыравнивания», и мы с оптимизмом смотрим на перспективы развития индустрии больших моделей под контролем и безопасностью.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Инвестиции в строительство ценных бумаг в Китае: «супервыравнивание» OpenAI достигло прогресса, и ИИ был обобщен от слабого к сильному, чтобы достичь управляемости ИИ
В отчете Sina Financial News China Securities Construction Investment Research Report отмечается, что 15 декабря команда OpenAI «super alignment» выпустила свою первую статью с момента своего основания, открыв новое направление исследований для эмпирического выравнивания супермоделей. OpenAI считает, что искусственный интеллект (сверхинтеллект), который намного умнее людей, может быть разработан в следующем десятилетии, однако вопрос о том, как правильно направлять и контролировать сверхчеловеческие системы ИИ, до сих пор не решен, а решение управляемой проблемы ИИ имеет решающее значение для того, чтобы гарантировать, что самые передовые системы ИИ всегда будут в безопасности и принесут пользу человечеству. В последнем исследовании OpenAI выполнила задачу супервизировать сильные модели из слабых, и OpenAI использует модель GPT-2 для стимулирования большинства возможностей GPT-4, позволяя ей достигать производительности, близкой к уровням GPT-3.5. Реализуется «обобщение от слабого к сильному», то есть малая модель контролирует большую модель, что обеспечивает практический технический маршрут для «супервыравнивания». Ожидается, что OpenAI продолжит совершать прорывы в исследованиях «супервыравнивания», и мы с оптимизмом смотрим на перспективы развития индустрии больших моделей под контролем и безопасностью.