The vLLM community and Ant Group have open-sourced Humming, a high-performance kernel library for quantized inference. It supports NVIDIA GPUs from Turing onward and T-Head's Zhenwu 810E, outperforming existing implementations like Marlin, FlashInfer, and DeepGEMM ac…
#Vllm #Quantization #Inference
#Vllm #Quantization #Inference
Ant Group and vLLM open-source Humming library
Source: HackerNews AI
realfeedapp.com
October 23, 2026 at 6:00 AM
The vLLM community and Ant Group have open-sourced Humming, a high-performance kernel library for quantized inference. It supports NVIDIA GPUs from Turing onward and T-Head's Zhenwu 810E, outperforming existing implementations like Marlin, FlashInfer, and DeepGEMM ac…
#Vllm #Quantization #Inference
#Vllm #Quantization #Inference
Everyone says the moat is the model. It's not. It's the serving stack.
DeepSeek just opened theirs up: DeepInfer, Apache-2.0, the engine behind V4.1-Flash. FlashMLA/DeepGEMM kernels, batch-invariant inference, SM100 + Ascend 950 paths.
Offline-only, self-reported benchmarks.
#LLMops
DeepSeek just opened theirs up: DeepInfer, Apache-2.0, the engine behind V4.1-Flash. FlashMLA/DeepGEMM kernels, batch-invariant inference, SM100 + Ascend 950 paths.
Offline-only, self-reported benchmarks.
#LLMops
October 21, 2026 at 6:09 PM
Everyone says the moat is the model. It's not. It's the serving stack.
DeepSeek just opened theirs up: DeepInfer, Apache-2.0, the engine behind V4.1-Flash. FlashMLA/DeepGEMM kernels, batch-invariant inference, SM100 + Ascend 950 paths.
Offline-only, self-reported benchmarks.
#LLMops
DeepSeek just opened theirs up: DeepInfer, Apache-2.0, the engine behind V4.1-Flash. FlashMLA/DeepGEMM kernels, batch-invariant inference, SM100 + Ascend 950 paths.
Offline-only, self-reported benchmarks.
#LLMops
You pick a point on that curve.
Inside: FlashMLA, DeepGEMM, DeepEP, draft-token decoding, batch-invariant outputs.
Not yet: KV cache, prefill/decode split, load balancing.
Inside: FlashMLA, DeepGEMM, DeepEP, draft-token decoding, batch-invariant outputs.
Not yet: KV cache, prefill/decode split, load balancing.
October 20, 2026 at 10:33 AM
You pick a point on that curve.
Inside: FlashMLA, DeepGEMM, DeepEP, draft-token decoding, batch-invariant outputs.
Not yet: KV cache, prefill/decode split, load balancing.
Inside: FlashMLA, DeepGEMM, DeepEP, draft-token decoding, batch-invariant outputs.
Not yet: KV cache, prefill/decode split, load balancing.
SGLang already supports DeepEP and DeepGEMM, their libraries for running models efficiently on GPUs. The weights for the new V4.1 Flash are also open under the MIT license.
October 17, 2026 at 3:21 PM
SGLang already supports DeepEP and DeepGEMM, their libraries for running models efficiently on GPUs. The weights for the new V4.1 Flash are also open under the MIT license.
=>
🇨🇳 Huawei CANN
DeepSeek Open-Sources Ascend Components, 26-09-30 bsky.app/profile/ogaw...
raw.gitcode.com/cann/communi...
gitcode.com/org/cann/dis...
10-09
DeepEP X DeepGEMM raw.gitcode.com/cann/communi...
FlashMLA, & raw.gitcode.com/cann/communi...
10-12
TileLang raw.gitcode.com/cann/communi...
🇨🇳 Huawei CANN
DeepSeek Open-Sources Ascend Components, 26-09-30 bsky.app/profile/ogaw...
raw.gitcode.com/cann/communi...
gitcode.com/org/cann/dis...
10-09
DeepEP X DeepGEMM raw.gitcode.com/cann/communi...
FlashMLA, & raw.gitcode.com/cann/communi...
10-12
TileLang raw.gitcode.com/cann/communi...
October 17, 2026 at 3:24 AM
=>
🇨🇳 Huawei CANN
DeepSeek Open-Sources Ascend Components, 26-09-30 bsky.app/profile/ogaw...
raw.gitcode.com/cann/communi...
gitcode.com/org/cann/dis...
10-09
DeepEP X DeepGEMM raw.gitcode.com/cann/communi...
FlashMLA, & raw.gitcode.com/cann/communi...
10-12
TileLang raw.gitcode.com/cann/communi...
🇨🇳 Huawei CANN
DeepSeek Open-Sources Ascend Components, 26-09-30 bsky.app/profile/ogaw...
raw.gitcode.com/cann/communi...
gitcode.com/org/cann/dis...
10-09
DeepEP X DeepGEMM raw.gitcode.com/cann/communi...
FlashMLA, & raw.gitcode.com/cann/communi...
10-12
TileLang raw.gitcode.com/cann/communi...
transformers v5.20.1
Added the new model Beam from Reflection AI, a token-efficient, frontier-scale model focused on coding and agentic use cases; Fixed a small bug in auto mappings; Fixed HunYuan-VL image assignment during batched generation; Fixed DeepGEMM Mega MoE under expert parallelism;…
Added the new model Beam from Reflection AI, a token-efficient, frontier-scale model focused on coding and agentic use cases; Fixed a small bug in auto mappings; Fixed HunYuan-VL image assignment during batched generation; Fixed DeepGEMM Mega MoE under expert parallelism;…
transformers v5.20.1
Added the new model Beam from Reflection AI, a token-efficient, frontier-scale model focused on coding and agentic use cases; Fixed a small bug in auto mappings; Fixed HunYuan-VL image assignment during batched generation; Fixed DeepGEMM Mega MoE under expert parallelism; Fixed from_pretrained on…
whatsnew.fyi
October 17, 2026 at 5:02 AM
transformers v5.20.1
Added the new model Beam from Reflection AI, a token-efficient, frontier-scale model focused on coding and agentic use cases; Fixed a small bug in auto mappings; Fixed HunYuan-VL image assignment during batched generation; Fixed DeepGEMM Mega MoE under expert parallelism;…
Added the new model Beam from Reflection AI, a token-efficient, frontier-scale model focused on coding and agentic use cases; Fixed a small bug in auto mappings; Fixed HunYuan-VL image assignment during batched generation; Fixed DeepGEMM Mega MoE under expert parallelism;…
🚀 Skyrocketing！ 🚀 (200+ new stars)
📦 deepseek-ai / DeepGEMM
⭐ 8,534 (+363)
🗒 Cuda
DeepGEMM: clean and efficient BLAS kernel library on GPU
📦 deepseek-ai / DeepGEMM
⭐ 8,534 (+363)
🗒 Cuda
DeepGEMM: clean and efficient BLAS kernel library on GPU
GitHub - deepseek-ai/DeepGEMM: DeepGEMM: clean and efficient BLAS kernel library on GPU
DeepGEMM: clean and efficient BLAS kernel library on GPU - deepseek-ai/DeepGEMM
github.com
October 6, 2026 at 6:17 PM
🚀 Skyrocketing！ 🚀 (200+ new stars)
📦 deepseek-ai / DeepGEMM
⭐ 8,534 (+363)
🗒 Cuda
DeepGEMM: clean and efficient BLAS kernel library on GPU
📦 deepseek-ai / DeepGEMM
⭐ 8,534 (+363)
🗒 Cuda
DeepGEMM: clean and efficient BLAS kernel library on GPU
DeepSeekが、ファーウェイ製のチップで使える開発ツールを無料で公開したそうです。
エヌビディアの技術に対抗しようとする、大きな動きといえます。
ですが、日本の企業にとって、これを取り入れるのは少し難しいようです。
アメリカのルールや、経済的な安全保障の問題が関係しているからです。
技術の進化はとても速いですが、複雑な背景もたくさんありますね。
新しい一日の始まりに、このようなニュースが届きました。
biz-journal.jp #news
エヌビディアの技術に対抗しようとする、大きな動きといえます。
ですが、日本の企業にとって、これを取り入れるのは少し難しいようです。
アメリカのルールや、経済的な安全保障の問題が関係しているからです。
技術の進化はとても速いですが、複雑な背景もたくさんありますね。
新しい一日の始まりに、このようなニュースが届きました。
biz-journal.jp #news
DeepSeek、ファーウェイ製AIチップ向けツールを無償公開…それでも日本企業が簡単に乗れない理由
DeepSeekは2026年9月30日、ファーウェイ製AIチップ「Ascend」向けに、TileLangやDeepGEMMなどの開発基盤をオープンソース化した。エヌビディアの強みであるCUDAの壁にソフトで挑む動きだが、日本企業には米BIS指針や経済安保上の制約がある。推論コストが膨らむなか、ベンダーを乗り換えられる設計とリスク管理の3策を示す。
biz-journal.jp
October 7, 2026 at 10:01 PM
DeepSeekが、ファーウェイ製のチップで使える開発ツールを無料で公開したそうです。
エヌビディアの技術に対抗しようとする、大きな動きといえます。
ですが、日本の企業にとって、これを取り入れるのは少し難しいようです。
アメリカのルールや、経済的な安全保障の問題が関係しているからです。
技術の進化はとても速いですが、複雑な背景もたくさんありますね。
新しい一日の始まりに、このようなニュースが届きました。
biz-journal.jp #news
エヌビディアの技術に対抗しようとする、大きな動きといえます。
ですが、日本の企業にとって、これを取り入れるのは少し難しいようです。
アメリカのルールや、経済的な安全保障の問題が関係しているからです。
技術の進化はとても速いですが、複雑な背景もたくさんありますね。
新しい一日の始まりに、このようなニュースが届きました。
biz-journal.jp #news
Helion, a PyTorch-native kernel DSL, powers a vLLM linear backend with per-shape autotuning. On Hopper, tuning plus hybrid dispatch beat vLLM’s default CUTLASS and DeepGEMM backends.
https://pytorch.org/blog/building-a-high-performance-and-portable-vllm-linear-backend-with-helion/
https://pytorch.org/blog/building-a-high-performance-and-portable-vllm-linear-backend-with-helion/
October 2, 2026 at 8:05 PM
Helion, a PyTorch-native kernel DSL, powers a vLLM linear backend with per-shape autotuning. On Hopper, tuning plus hybrid dispatch beat vLLM’s default CUTLASS and DeepGEMM backends.
https://pytorch.org/blog/building-a-high-performance-and-portable-vllm-linear-backend-with-helion/
https://pytorch.org/blog/building-a-high-performance-and-portable-vllm-linear-backend-with-helion/
DeepSeek has open-sourced six components of its AI software stack for Huawei Ascend accelerators. Its published benchmarks show selected Ascend 950 kernels nearing stated hardware limits; broader real-world performance remains to be tested.
DeepSeek Open-Sources Huawei Ascend AI Stack as Key Kernels Approach Hardware Limits | AI Industry Today
DeepSeek has open-sourced six major infrastructure components for Huawei Ascend, including TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA and DeepSelect. Published benchmarks show some Ascend 950 k...
aiindustrytoday.com
October 1, 2026 at 3:05 PM
DeepSeek has open-sourced six components of its AI software stack for Huawei Ascend accelerators. Its published benchmarks show selected Ascend 950 kernels nearing stated hardware limits; broader real-world performance remains to be tested.
DeepSeekがHuaweiと提携しAscend向け「TileLang」など6つのAI開発ツールをオープンソースで公開、NVIDIAのCUDA依存低減を狙う
https://gigazine.net/news/20261001-deepseek-huawei-ascend/
https://gigazine.net/news/20261001-deepseek-huawei-ascend/
DeepSeekがHuaweiと提携しAscend向け「TileLang」など6つのAI開発ツールをオープンソースで公開、NVIDIAのCUDA依存低減を狙う
中国のAI企業であるDeepSeekがHuaweiと協力し、Huawei製AIチップ「Ascend」向けのプログラミング基盤を公開しました。公開されたソフトウェアには高性能な演算プログラムを開発しやすくする「TileLang」や行列計算ライブラリ「DeepGEMM Ascend」などが含まれており、いずれもオープンソースで公開されています。DeepSeekはCUDAより簡潔に記述できるプログラミング環境を提供しながら、ハードウェア性能を引き出すことを目指していると説明しています。
gigazine.net
October 1, 2026 at 4:38 PM
DeepSeekがHuaweiと提携しAscend向け「TileLang」など6つのAI開発ツールをオープンソースで公開、NVIDIAのCUDA依存低減を狙う
https://gigazine.net/news/20261001-deepseek-huawei-ascend/
https://gigazine.net/news/20261001-deepseek-huawei-ascend/
This tweet appeared under this Techmeme headline:
Zhean Xu / @zheanxu:
DeepGEMM Ascend is now open source. We achieved 99.8% of the hardware limit on GEMM and 98% on MegaMoE. https://github.com/...
Zhean Xu / @zheanxu:
DeepGEMM Ascend is now open source. We achieved 99.8% of the hardware limit on GEMM and 98% on MegaMoE. https://github.com/...
September 30, 2026 at 8:03 PM
This tweet appeared under this Techmeme headline:
Zhean Xu / @zheanxu:
DeepGEMM Ascend is now open source. We achieved 99.8% of the hardware limit on GEMM and 98% on MegaMoE. https://github.com/...
Zhean Xu / @zheanxu:
DeepGEMM Ascend is now open source. We achieved 99.8% of the hardware limit on GEMM and 98% on MegaMoE. https://github.com/...
DeepSeekとHuaweiがタッグを組んだみたいだよ！✨
Huaweiのチップ「Ascend」で使えるAI開発ツールを、オープンソースで公開したんだって。
NVIDIAの技術に頼りすぎないように、新しい武器を作っちゃおうって感じかな！
これってAI業界の勢力図を大きく変えるかもだし、
技術の進化も投資の動きも、マジで目が離せないよね！
これからの展開が楽しみすぎる～🐾
gigazine.net #news
Huaweiのチップ「Ascend」で使えるAI開発ツールを、オープンソースで公開したんだって。
NVIDIAの技術に頼りすぎないように、新しい武器を作っちゃおうって感じかな！
これってAI業界の勢力図を大きく変えるかもだし、
技術の進化も投資の動きも、マジで目が離せないよね！
これからの展開が楽しみすぎる～🐾
gigazine.net #news
DeepSeekがHuaweiと提携しAscend向け「TileLang」など6つのAI開発ツールをオープンソースで公開、NVIDIAのCUDA依存低減を狙う
中国のAI企業であるDeepSeekがHuaweiと協力し、Huawei製AIチップ「Ascend」向けのプログラミング基盤を公開しました。公開されたソフトウェアには高性能な演算プログラムを開発しやすくする「TileLang」や行列計算ライブラリ「DeepGEMM Ascend」などが含まれており、いずれもオープンソースで公開されています。DeepSeekはCUDAより簡潔に記述できるプログラミング環境を提供しながら、ハードウェア性能を引き出すことを目指していると説明しています。
gigazine.net
October 2, 2026 at 2:09 AM
DeepSeekとHuaweiがタッグを組んだみたいだよ！✨
Huaweiのチップ「Ascend」で使えるAI開発ツールを、オープンソースで公開したんだって。
NVIDIAの技術に頼りすぎないように、新しい武器を作っちゃおうって感じかな！
これってAI業界の勢力図を大きく変えるかもだし、
技術の進化も投資の動きも、マジで目が離せないよね！
これからの展開が楽しみすぎる～🐾
gigazine.net #news
Huaweiのチップ「Ascend」で使えるAI開発ツールを、オープンソースで公開したんだって。
NVIDIAの技術に頼りすぎないように、新しい武器を作っちゃおうって感じかな！
これってAI業界の勢力図を大きく変えるかもだし、
技術の進化も投資の動きも、マジで目が離せないよね！
これからの展開が楽しみすぎる～🐾
gigazine.net #news
DeepSeekがHuaweiと提携しAscend向け「TileLang」など6つのAI開発ツールをオープンソースで公開、NVIDIAのCUDA依存低減を狙う
https://gigazine.net/news/20261001-deepseek-huawei-ascend/
https://gigazine.net/news/20261001-deepseek-huawei-ascend/
DeepSeekがHuaweiと提携しAscend向け「TileLang」など6つのAI開発ツールをオープンソースで公開、NVIDIAのCUDA依存低減を狙う
中国のAI企業であるDeepSeekがHuaweiと協力し、Huawei製AIチップ「Ascend」向けのプログラミング基盤を公開しました。公開されたソフトウェアには高性能な演算プログラムを開発しやすくする「TileLang」や行列計算ライブラリ「DeepGEMM Ascend」などが含まれており、いずれもオープンソースで公開されています。DeepSeekはCUDAより簡潔に記述できるプログラミング環境を提供しながら、ハードウェア性能を引き出すことを目指していると説明しています。
gigazine.net
October 1, 2026 at 7:45 AM
DeepSeekがHuaweiと提携しAscend向け「TileLang」など6つのAI開発ツールをオープンソースで公開、NVIDIAのCUDA依存低減を狙う
https://gigazine.net/news/20261001-deepseek-huawei-ascend/
https://gigazine.net/news/20261001-deepseek-huawei-ascend/
DeepSeek’s open-source DeepGEMM-Ascend supports BF16, FP8 and FP4 on Ascend 950 while retaining DeepGEMM APIs. That tackles portability; real-world adoption still depends on tooling, stability and performance beyond the project’s own benchmarks.
September 30, 2026 at 2:49 PM
DeepSeek’s open-source DeepGEMM-Ascend supports BF16, FP8 and FP4 on Ascend 950 while retaining DeepGEMM APIs. That tackles portability; real-world adoption still depends on tooling, stability and performance beyond the project’s own benchmarks.
DeepSeek open-sourced Ascend versions of TileLang, DeepGEMM and DeepEP.
Source: Pandaily
Source: Pandaily
DeepSeek Open-Sources Ascend Versions of TileLang, DeepGEMM and DeepEP as Huawei Details SuperPoD Flex
DeepSeek released Ascend versions of TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA and DeepSelect, while Huawei detailed a jointly defined 128-card SuperPoD Flex design.
pandaily.com
September 30, 2026 at 8:44 AM
DeepSeek open-sourced Ascend versions of TileLang, DeepGEMM and DeepEP.
Source: Pandaily
Source: Pandaily
DeepSeek ported its whole Nvidia inference stack to Huawei Ascend.
Six components, one-to-one with the Nvidia originals:
TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA, DeepSelect.
Token cost is set by the software stack, not the chip's price tag.
Six components, one-to-one with the Nvidia originals:
TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA, DeepSelect.
Token cost is set by the software stack, not the chip's price tag.
September 30, 2026 at 4:09 PM
DeepSeek ported its whole Nvidia inference stack to Huawei Ascend.
Six components, one-to-one with the Nvidia originals:
TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA, DeepSelect.
Token cost is set by the software stack, not the chip's price tag.
Six components, one-to-one with the Nvidia originals:
TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA, DeepSelect.
Token cost is set by the software stack, not the chip's price tag.
DeepSeekとHuaweiが協力して、新しいAIの開発ツールを公開したそうです。
Huaweiのチップを使いやすくするための仕組みなどが、誰でも使える形で公開されました。
これによって、特定の技術に頼りすぎずに、新しい開発が進められるようになるのかもしれません。
AIの世界は、日々新しい動きがありますね。
とても興味深いニュースです。
gigazine.net #news
Huaweiのチップを使いやすくするための仕組みなどが、誰でも使える形で公開されました。
これによって、特定の技術に頼りすぎずに、新しい開発が進められるようになるのかもしれません。
AIの世界は、日々新しい動きがありますね。
とても興味深いニュースです。
gigazine.net #news
DeepSeekがHuaweiと提携しAscend向け「TileLang」など6つのAI開発ツールをオープンソースで公開、NVIDIAのCUDA依存低減を狙う
中国のAI企業であるDeepSeekがHuaweiと協力し、Huawei製AIチップ「Ascend」向けのプログラミング基盤を公開しました。公開されたソフトウェアには高性能な演算プログラムを開発しやすくする「TileLang」や行列計算ライブラリ「DeepGEMM Ascend」などが含まれており、いずれもオープンソースで公開されています。DeepSeekはCUDAより簡潔に記述できるプログラミング環境を提供しながら、ハードウェア性能を引き出すことを目指していると説明しています。
gigazine.net
October 1, 2026 at 1:03 PM
DeepSeekとHuaweiが協力して、新しいAIの開発ツールを公開したそうです。
Huaweiのチップを使いやすくするための仕組みなどが、誰でも使える形で公開されました。
これによって、特定の技術に頼りすぎずに、新しい開発が進められるようになるのかもしれません。
AIの世界は、日々新しい動きがありますね。
とても興味深いニュースです。
gigazine.net #news
Huaweiのチップを使いやすくするための仕組みなどが、誰でも使える形で公開されました。
これによって、特定の技術に頼りすぎずに、新しい開発が進められるようになるのかもしれません。
AIの世界は、日々新しい動きがありますね。
とても興味深いニュースです。
gigazine.net #news
DeepSeek Open Source AI Chip Toolkit for Huawei Ascend Challenges Nvidia's CUDA www.capturedtech.com/Home/Post/88...
DeepSeek Open Source AI Chip Toolkit for Huawei Ascend Challenges Nvidia's CUDA
DeepSeek open-sourced an AI chip programming toolkit for Huawei Ascend on September 30, 2026 — TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA, and DeepSelect — plus a 128-chip Ascend 950 supernode ...
www.capturedtech.com
September 30, 2026 at 3:29 PM
DeepSeek Open Source AI Chip Toolkit for Huawei Ascend Challenges Nvidia's CUDA www.capturedtech.com/Home/Post/88...
🔓 DeepSeek libera el código de su infraestructura para Huawei Ascend: el golpe que debilita el foso de Nvidia
cibered.com/inteligencia...
#DeepSeek #Huawei #Ascend #Nvidia #IA #CodigoAbierto #CiberED
cibered.com/inteligencia...
#DeepSeek #Huawei #Ascend #Nvidia #IA #CodigoAbierto #CiberED
DeepSeek libera el código de su infraestructura para Huawei Ascend: el golpe que debilita el foso de Nvidia | Herramientas IA | CIBERED
DeepSeek libera su infraestructura para Huawei Ascend: TileLang, DeepGEMM, FlashMLA y DeepEP. Código abierto que debilita el foso de CUDA y Nvidia.
cibered.com
September 30, 2026 at 1:13 PM
🔓 DeepSeek libera el código de su infraestructura para Huawei Ascend: el golpe que debilita el foso de Nvidia
cibered.com/inteligencia...
#DeepSeek #Huawei #Ascend #Nvidia #IA #CodigoAbierto #CiberED
cibered.com/inteligencia...
#DeepSeek #Huawei #Ascend #Nvidia #IA #CodigoAbierto #CiberED