渐进符号与函数增长率：Big-O、Ω、Θ 与严格比较
通过不等式与算例理解五种渐进记号，明确固定常数和量词，用比值、统一底数、变量替换比较对数、多项式、指数与阶乘增长。
# 算法 # 渐进分析 # Big-O
自然语言与大模型
10 篇路线笔记文本处理、Transformer、微调与 RAG
阅读进度0 / 10
最近在学
大模型微调与 RAG
136篇学习记录
5条知识路线
4个项目
AI 可视化
调整参数，观察采样、神经网络训练和注意力权重的变化。
项目记录
插画：tokkiAI 交互实验
打开实验 ↗和可莉一起炸鱼、下山找宝箱、清营地和模拟祈愿。
最新文章
计算复杂性入门：P、NP、NP完全与困难问题求解
从独立集证书区分P、NP、NP-hard与NP-complete，通过补图转换理解归约方向，比较困难问题求解方法，并在高级选读中分析竞争选址与PSPACE。
# 算法 # 计算复杂性 # NP完全
算法复杂度分析基础：从代码计数到时间与空间复杂度
从Python循环计数理解七种常见复杂度，并区分输入、辅助、输出空间以及最好、最坏和平均情况，配有八道代码分析练习。
# 算法 # 时间复杂度 # 空间复杂度
算法设计与分析导论：问题建模、正确性与算法选择
从输入、输出、约束和目标理解算法问题，区分问题、算法与程序，建立终止性、正确性和资源分析的基本流程，并连接后续六篇学习专题。
# 算法 # 问题建模 # 正确性证明
密码学数学基础（一）：集合、映射与二元运算
根据数论与代数课件整理对数、数集、集合族与划分、单射满射双射、复合与逆映射、二元运算，通过图例、手算和巩固练习理解基础符号。
# 密码学 # 数论 # 抽象代数
RAG检索增强生成：从向量检索到Hugging Face知识库问答
承接Hugging Face与SFT，从文档切分、句向量、余弦相似度、Top-K、重排序和上下文预算理解RAG，手算检索与下一个token的生成，并实现可检查的本地知识库问答项目。
# NLP # Hugging Face # Transformers
SFT（四）：QLoRA的4-bit量化与LoRA微调原理
承接LoRA监督微调，从显存组成、分块量化、NF4、Double Quantization和Paged Optimizer出发，解释QLoRA的前向与反向传播，并使用Hugging Face Transformers、TRL、PEFT和bitsandbytes完成可检查的4-bit SFT项目。
# NLP # 自然语言处理 # Hugging Face
SFT（三）：使用TRL SFTTrainer与LoRA微调对话模型
在理解input_ids、labels与Completion-only loss后，使用Hugging Face TRL SFTTrainer、Conversational Dataset、Chat Template和PEFT LoRA完成对话SFT，并讲清assistant-only loss、Packing、显存、Adapter保存加载与推理。
# NLP # 自然语言处理 # Hugging Face