21.04 RoPE

1 min

林剑苏的代表作,也是目前使用最多的 position embedding

其 blog 中详细记录了研究过程,可以阅读一下:苏剑林的 blog