transformers 专题

从0到1构建小参数量的 MiniLLM 聊天模型项目

从0到1构建一个MiniLLM项目旨在开发小型llm chat模型，已完成预训练和指令微调阶段。使用bert4torch框架，优化内存占用，支持多轮对话。