#프로브

• 기계적 해석가능성 — 프로브에서 회로로모델 속 '개념'이 어디에 어떻게 들어 있나. 은닉 6차원에서 특징 16개를 선형 프로브로 읽으니 중요한 특징은 또렷했고(균형정확도 75%) 덜 중요한 건 중첩에 밀려 무작위(50%)로 사라졌다. 그 개념의 방향을 활성에 더하자 그 특징만 정확히 켜졌다(상관이 아니라 인과). 특징 방향들은 서로 겹쳐(비직교) 저장돼, 뉴런 하나가 평균 6.8개 특징을 겸했다2026-09-21

← 태그 전체