#긴문맥
2편
- 긴 문맥 — 위치는 왜 외삽되지 않는가학습에서 본 적 없는 길이를 주면 모델이 무너진다. 길이 64까지 배운 모델은 512에서 3.7%(무작위 2.2%)로 떨어졌고, 같은 길이를 추가 학습한 모델은 15.2%였다. 재학습 없이 기저 주파수만 늘려도 10.7%까지 되살아났지만, 흔히 같이 권하는 위치 보간은 오히려 2.5%로 더 나빠졌다 — 인접 관계를 구분할 해상도가 무너지기 때문이다
- 상태공간모델·선형 어텐션 — 어텐션의 O(N²) 대안어텐션은 모든 쌍을 봐 계산이 O(N²)다. 순환 '상태' 하나로 요약하면 O(N)이 된다. FLOPs를 재니 N=4096에서 어텐션이 선형보다 64배 많았다. 선형 어텐션은 running 상태의 재귀와 오차 5e-7로 정확히 같아 상수 메모리로 돈다. SSM h_t=a·h_{t-1}+x_t의 기억 길이는 고유값 a가 정해, a=0.99면 100스텝을 기억했다