20262 篇

  1. 一张显卡,怎么微调大模型

    全量微调一个 8B 模型要 130 GB 以上的显存。LoRA 和 QLoRA 是怎么把它压到一张卡上的。

  2. 大模型为什么一个字一个字地回复

    按下回车之后,一条回复是怎么一个 token 一个 token 写出来的。