记录@llm_course_chn的一些笔记

2. LLM scientist

2.1 Decode strategies

2.2 Instruction dataset

参考Chinese_llama_alpaca由GPT生成数据

2.3 Chat template

2.4 Pretrain code

2.5 Sft code (lora)

2.6 Deepspeed