近8年后，谷歌Transformer继任者「Titans」来了，上下文记忆瓶颈被打破
在谈到推出 Titans 的初衷时，论文一作 Ali Behrouz 表示，「注意力机制一直是大多数 LLM 进展的重要组成部分，不过它无法扩展到长上下文。因此，Titans ...