LLM 技術名詞入門指南從 Layer、RNN、FFN、Gradient,到 Fine-tuning、LoRA、QLoRA、FLOPS、GPU 與 Production Inference,一次建立完整概念。深入 LLM 運算:矩陣、GPU 與 VRAM追蹤 Token 如何從 Embedding 進入記憶體階層、Tensor Core、Attention、KV Cache,最後產生輸出。包含互動式矩陣運算與記憶體計算器。
LLM 技術名詞入門指南從 Layer、RNN、FFN、Gradient,到 Fine-tuning、LoRA、QLoRA、FLOPS、GPU 與 Production Inference,一次建立完整概念。
深入 LLM 運算:矩陣、GPU 與 VRAM追蹤 Token 如何從 Embedding 進入記憶體階層、Tensor Core、Attention、KV Cache,最後產生輸出。包含互動式矩陣運算與記憶體計算器。