#RoPE
2편
- 긴 문맥 — 위치는 왜 외삽되지 않는가학습에서 본 적 없는 길이를 주면 모델이 무너진다. 길이 64까지 배운 모델은 512에서 3.7%(무작위 2.2%)로 떨어졌고, 같은 길이를 추가 학습한 모델은 15.2%였다. 재학습 없이 기저 주파수만 늘려도 10.7%까지 되살아났지만, 흔히 같이 권하는 위치 보간은 오히려 2.5%로 더 나빠졌다 — 인접 관계를 구분할 해상도가 무너지기 때문이다
- 위치 인코딩 — 어텐션이 잃어버린 순서를 되돌려 놓는 법sin/cos 을 고른 진짜 이유는 'k칸 이동 = 고정 회전행렬 곱' 이다. 상대위치 편향과 RoPE 까지