[News!] One paper accepted to CVPR 2026 Findings!

3 月 6, 2026

恭喜欣迪、沃庭、家銘與共同作者!我們的 ELSA: Exact Linear-Scan Attention for Fast and Memory-Light Vision TransformersCVPR 2026 Findings 接受。

attention 是 Vision Transformer 和 long-context model 最容易吃掉記憶體的地方。ELSA 不做 approximation,也不需要重新訓練;它把 exact softmax attention 改寫成可平行的 prefix-scan 計算,讓高解析度 vision 和長序列推論在不同硬體上更有機會真正跑得動。這也是我們一直想做的 Efficient AI:有效,但不要把原本該有的結果弄壞。

[arXiv] [Code]