#클래스불균형
2편
- 긴 꼬리 — 전체 정확도 88%가 숨기고 있는 것클래스 빈도가 100대 1로 기울어진 데이터로 학습하니 전체 정확도는 87.4%가 나왔다. 그런데 드문 클래스 4개의 정확도는 24.7%였다. 더 놀라운 건 그 드문 클래스들의 학습 데이터 정확도가 100%였다는 것이다 — 덜 배운 게 아니라 볼 것이 모자란 것이다. 흔히 쓰는 재가중과 재표집은 오히려 더 나빠졌고, 같은 재가중이라도 마지막 층에만 걸면 8.9%p가 올랐다
- 로짓과 오즈 — 확률을 더하기로 바꾸는 자리긴 꼬리 편에서 로짓에 log(사전확률)을 빼던 그 한 줄이 어디서 나오는가. 로짓 축에서는 데이터가 주는 몫과 사전확률이 주는 몫이 그냥 더해진다. 그래서 '임계값을 옮기는 것'과 '로짓에 상수를 더하는 것'은 같은 일이고, 재 보니 두 방법의 예측이 한 건도 다르지 않았다