기록
기록
163개 문서2026-11-02의 글
2개 문서
| 문서 | 게시일 |
|---|---|
| 루프 트랜스포머는 같은 가중치로 어떻게 더 깊게 계산할까 같은 층을 반복해 토큰 내부의 계산 깊이를 늘리는 원리와, 성능과 비용 비교에서 놓치기 쉬운 조건을 정리합니다. 공부 / TIL | |
| LLM 서빙의 성능은 요청과 메모리를 다루는 방식에서 갈린다 KV 캐시, 요청 스케줄링, speculative decoding과 GPU 커널이 LLM 서빙의 지연과 처리량에 미치는 영향을 설명한다. 공부 / CS |