#추론비용
1편
- Jev — 글자를 안 만드는 모델은 왜 수백 배 싼가TypeSafe AI가 텍스트를 전혀 생성하지 않는 'System One' 모델 Jev를 냈다. 상태와 질문을 넣으면 모든 답의 확률을 한 번의 패스로 돌려준다. 왜 200배 빠르고 400배 싼가를 축소 모형으로 쟀다 — 자기회귀 생성 비용은 답 길이 L에 비례해 L=32에서 48배로 벌어졌고, 판별은 1로 평평했다. 분류 정확도는 둘 다 100%로 같았고, 판별은 정의상 파싱 실패가 불가능했다