#Tesla
1편
- 메모리를 절반으로 — 용량이 아니라 대역폭이라는 말의 산수머스크가 Tesla AI5 칩의 메모리를 144GB에서 72GB로 줄이면서 성능 영향은 "무시할 만하다"고 했다. 이유로는 병목이 용량이 아니라 대역폭이라는 점을 들었다. RTX 5080 에서 재 보니 토큰 하나를 만드는 행렬×벡터의 시간은 원소 수가 아니라 읽은 바이트를 따랐다(유효 대역폭 910GB/s). 30Hz 로 판단하는 로봇이라면 한 주기에 읽을 수 있는 양이 대역폭 × 33ms 로 정해진다. 72GB 를 매 주기 다 읽으려면 2,160GB/s 가 필요하다