2026-01

全部読む必要あるのか？全部読む必要あるのか？LLMは計算で遅いわけじゃない。HBMからの読み出しで死んでる。Transformer自体は速い。問題は最後。LM Head。hiddenを全部読んで、全vocabに対して最後まで計算する。しかも...

― Top-k出力型・確率閉域計算チップという設計思想 ―はじめに：この技術は「何を潰しに行くのか」生成AI・大規模推論における産業利用の支配項は、演算性能ではなく I/O（HBM / VRAM / 転送電力） に移りつつあります。本構想は...