Anthropic выпускает «несмеющийся публиковать» модель Mythos: может находить нулевые дни уязвимостей, ее называют ИИ уровня сетевого оружия

ChainNewsAbmedia

Anthropic давно ходили слухи о передовой модели «Claude Mythos Preview» — и существование этого продукта наконец официально подтверждено. Однако, как утверждается, описываемая как самая сильная в мире модель AI, Anthropic решила не публиковать ее для широкой аудитории. Основатель AI-стартапа Matt Shumer прямо заявил в X, что эта модель «вышла за рамки бенчмарков», и в руках неправильных людей станет «сетевым оружием с возможностями массового уничтожения». Реакция профессора Этана Моллика из Университета Бейна была еще лаконичнее — фраза «Oh no.» получила более 1,300 лайков и точно передала коллективный шок всего AI-сообщества.

Project Glasswing:слишком мощная, чтобы ее выпускать

Согласно System Card, опубликованной Anthropic, модель Mythos имеет внутреннее кодовое название Project Glasswing. Самая поразительная ее способность относится к сфере кибербезопасности: в системной карточке указано, что Mythos может самостоятельно обнаруживать уязвимости нулевого дня (zero-day vulnerabilities) в популярных open-source проектах, таких как OpenBSD, FFmpeg и Linux — а это означает, что AI уже обладает атакующими возможностями, которые прежде были доступны лишь топовым хакерским командам.

Именно благодаря такой способности Anthropic приняла беспрецедентное решение: не выпускать модель публично. Это задает новый прецедент в индустрии AI — когда возможности модели превышают порог безопасного развертывания, само по себе «не выпускать» становится продуктовым решением.

Двоякая реакция AI-сообщества

Новость о Mythos быстро взорвала AI-сообщество. Реакция Shumer носила ярко выраженный предупреждающий оттенок — его твит набрал более 210 000 просмотров. Китайское AI-сообщество xiaohu также предоставило самый полный технический обзор, подробно описав границы возможностей Mythos и безопасностную рамку Project Glasswing.

Стоит отметить, что в последующем анализе Моллик указал, что даже у такой передовой модели, как Mythos, текст романов, который она создает, все равно содержит типичные недостатки LLM-писательства — это напоминает нам, что «самая сильная» не значит «всемогущая», а распределение возможностей AI остается крайне неравномерным.

Что означает «не выпускать» для индустрии

Промышленное значение кейса Mythos выходит далеко за рамки самой модели. Он означает, что индустрия AI официально входит в новый этап: потолок возможностей моделей больше не является чисто технической проблемой, а превращается в вопрос безопасности и управления (governance). Когда AI-модель способна самостоятельно находить уязвимости нулевого дня, традиционная модель «обучили — и сразу выпустили» очевидно больше не подходит.

Для тайваньской технологической индустрии, которая догоняет развитие AI, выводы из Mythos двоякие: с одной стороны, сетевые возможности кибербезопасности у передового AI переопределят расстановку сил в атаке и защите в сфере кибербезопасности; с другой стороны, «ответственное невыпускание» может стать нормой для будущих AI-компаний, что радикально изменит стратегии вывода AI-продуктов на рынок и бизнес-модели.

Эта статья о модели Mythos, которую Anthropic «не осмелилась публично представить»: умеет находить уязвимости нулевого дня, ее называют AI уровня сетевого оружия, впервые появилась в Chain News ABMedia.

Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к Отказу от ответственности.
комментарий
0/400
Нет комментариев