#위치인코딩

• 긴 문맥 — 위치는 왜 외삽되지 않는가학습에서 본 적 없는 길이를 주면 모델이 무너진다. 길이 64까지 배운 모델은 512에서 3.7%(무작위 2.2%)로 떨어졌고, 같은 길이를 추가 학습한 모델은 15.2%였다. 재학습 없이 기저 주파수만 늘려도 10.7%까지 되살아났지만, 흔히 같이 권하는 위치 보간은 오히려 2.5%로 더 나빠졌다 — 인접 관계를 구분할 해상도가 무너지기 때문이다2026-09-23

← 태그 전체