#상전이

• 문맥 내 학습과 유도 헤드 — 능력이 켜지는 순간모델이 프롬프트의 예시만 보고 새 규칙을 푸는 일은 어떻게 생길까. 외울 수 없게 만든 과제에서 정확도가 250스텝까지 10%에 머물다가 200스텝 만에 80%로 갈아탔다. 어텐션 1층으로는 10.2%였고 2층부터 87.6%였다 — 두 단계가 필요하기 때문이다. 그 구간에 어텐션이 정답 자리로 몰리는 것을 그대로 찍었다2026-09-23

← 태그 전체