По данным мониторинга Beating, DeepSeek выпустил под лицензией MIT открытый исходный код TileKernels — библиотеку GPU-ядр, написанную на TileLang, предназначенную для обучения и вывода больших моделей. TileLang — это язык предметной области для выражения высокопроизводительных GPU-ядр на Python, разработанный командой tile-ai. DeepSeek утверждает, что большинство ядер в библиотеке приближаются к пределам аппаратной производительности по плотности вычислений и пропускной способности памяти, некоторые уже используются внутри для обучения и вывода.
Библиотека включает шесть основных типов ядер: управление MoE и маршрутизация (выбор Top-k экспертов для гибридной модели экспертов, отображение токенов на экспертов, объединение расширения/сжатия и нормализация весов); квантизация (поддержка квантизации по токенам, блокам и каналам в форматах FP8, FP4, E5M6, включая объединение операций SwiGLU+квантизация); батч-перестановка; управление Engram (включая объединение прямого и обратного распространения с RMSNorm и градиентами весов); Manifold HyperConnection (включая нормализацию Sinkhorn и смешанное разбиение/применение); а также обертка базовых ядер в обучаемые слои с интерфейсом autograd. Среди них Engram и Manifold HyperConnection — собственные компоненты архитектуры модели DeepSeek, детали реализации которых впервые раскрыты вместе с кодом.
Требования к запуску: GPU архитектуры NVIDIA SM90 или SM100 (соответствуют сериям H100/H200 или Blackwell), CUDA Toolkit 13.1 и выше, PyTorch 2.10 и выше.
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к
Отказу от ответственности.
Связанные статьи
Anker представляет первый AI-чип Compute-in-Memory Thus; гендиректор обещает неограниченные инвестиции в передовые технологии
Сообщение Gate News, 23 апреля — Anker Innovation, ведущий глобальный бренд потребительской электроники, представила свою первую нейросетевую AI-аудиочип Compute-in-Memory (CIM) под названием Thus™ 22 апреля. Генеральный директор и основатель Ян Мэн рассказал о трех ключевых технологических инициативах компании в edge AI: чипе Thus™
GateNews3м назад
Бывшие руководители Meta запускают Sooth Labs, стартап по прогнозированию событий на базе ИИ, привлекает $50M при оценке $335M
Сообщение Gate News, 23 апреля — Sooth Labs, исследовательская лаборатория по ИИ, основанная бывшими сотрудниками Meta, привлекает примерно $50 миллионов при оценке около $335 миллионов, при этом Felicis Ventures возглавляет раунд. Янн Лекун и Джефф Дин, главный научный сотрудник Google, участвуют в качестве инвесторов, а в то время как
GateNews14м назад
Компания по данным для ИИ Mercor столкнулась как минимум с 7 коллективными исками из-за утечки данных, компьютерного мониторинга
Сообщение Gate News, 23 апреля — компания по маркировке данных для ИИ Mercor, оцениваемая в $10 миллиардов и базирующаяся в Сан-Франциско, в последние недели сталкивается как минимум с семью коллективными исками из-за утечек данных третьих лиц. Компания работает с клиентами, включая OpenAI, Anthropic и Meta, предоставляя данные обратной связи
GateNews38м назад
SpaceX оценивает общую доступную рыночную нишу в $28.5 трлн, при этом $26.5T будет приходиться на сектор ИИ
Сообщение Gate News, 23 апреля — SpaceX оценивает свою общую доступную рыночную нишу (TAM) в $28.5 трлн, согласно внутренним документам. Компания прогнозирует, что более 90% рынка, примерно $26.5 трлн, будет приходиться на искусственный интеллект.
Ожидается, что корпоративный ИИ будет занимать основную часть возможностей рынка ИИ, представляя примерно $22.7 трлн от общего TAM.
GateNews1ч назад
«Книга Нэвала» Naval запускает AI-фонд USVC, розничные инвесторы тоже могут инвестировать в OpenAI, Anthropic до IPO
Известный венчурный инвестор Силиконовой долины Naval, под управлением которого работает AngelList, недавно запустил новый фонд под названием USVC. Фонд ориентирован на то, чтобы обычные инвесторы могли косвенно участвовать в OpenAI, Anthropic, xAI, Vercel, Crusoe, Sierra и Legora и других популярных непубличных технологических компаниях, при этом входной порог составляет всего минимум 500 долларов.
Официально его подают как «инвестиции в компании будущего до того, как всё станет очевидным», и подчеркивают, что это фонд, открытый для всех инвесторов, без необходимости иметь статус квалифицированного инвестора. Он пытается превратить венчурные активы, которые раньше были доступны только богатым и людям из круга, в продукт, к которому могут получить доступ и розничные инвесторы.
Инвестировать в ранние AI-компании можно уже за 500 долларов
Ключевая история USVC очень прямолинейна: когда всё больше звездных стартапов выбирают оставаться на частном рынке в течение длительного времени, по-настоящему взрывной рост оценок зачастую происходит в I
ChainNewsAbmedia1ч назад
Tesla приобретет компанию по оборудованию для ИИ на сумму до $2 миллиарда
Сообщение Gate News, 23 апреля — Tesla объявила 23 апреля, что договорилась приобрести компанию по аппаратному обеспечению для искусственного интеллекта на сумму до $2 миллиарда в виде обыкновенных акций Tesla и вознаграждений в акциях.
Приблизительно $1.8 миллиарда
GateNews1ч назад
