LsWorld

学习笔记

按发布时间浏览文章。

最新文章

全部文章
机器学习

Adam Optimizer：从梯度下降到自适应学习率

从 SGD 的局限出发，理解 Adam 的动量、二阶矩、偏差修正和参数更新公式，并通过手算例子与 PyTorch 完整代码掌握 Adam 和 AdamW 的使用方法。

# 机器学习　# 深度学习　# PyTorch
自然语言处理

Word2Vec：从词向量训练到神经网络分类器

从 word2vec 出发，理解词向量是怎么训练出来的、怎么改进和评价词向量，并进一步过渡到基于词向量的神经网络分类器。

# 神经网络　# NLP　# 自然语言处理
机器学习

深度学习入门：从神经网络到学习路线

面向初学者梳理深度学习的核心概念、神经网络的基本计算方式、训练流程、常见模型方向，并给出后续学习路线。

# 机器学习　# 深度学习　# 神经网络
机器学习

MLP多层感知机：从原理到PyTorch实现

从多层感知机的结构、前向传播、反向传播、PyTorch实现和常用神经网络函数几个角度理解MLP与PyTorch训练流程。

# 机器学习　# 深度学习　# 神经网络
机器学习

图神经网络GNN：让模型学会理解关系数据

从图数据、消息传递、GCN、GraphSAGE、GAT、节点分类、图分类和PyTorch Geometric代码几个角度理解图神经网络。

# 机器学习　# 深度学习　# 图神经网络
机器学习

PPO算法：从策略梯度到裁剪目标函数

从策略梯度、重要性采样比率、优势函数、裁剪目标函数、Actor-Critic结构和PyTorch伪代码几个角度理解PPO算法。

# 机器学习　# 强化学习　# 策略梯度
算法

HEFT算法：异构计算中的任务调度方法

从任务DAG、异构处理器、向上排序值、最早完成时间和Python实现几个角度理解HEFT异构最早完成时间调度算法。

# 算法　# 任务调度　# 异构计算
自然语言处理

文本处理：让自然语言变成模型能理解的数字

从文本清洗、分词、词表、One-hot、词袋、TF-IDF、词向量、子词切分、padding 和 attention mask 几个角度理解 NLP 中文本如何变成模型输入。

# NLP　# 自然语言处理　# Transformer
机器学习

GBDT：从残差到梯度提升树的完整理解

从直觉、残差、负梯度、损失函数、学习率、分类任务、Python 实战和 XGBoost、LightGBM、CatBoost 等变体，系统理解 GBDT 的原理与应用。

# 机器学习　# 监督学习　# 集成学习