机器学习

目录

1. 注意力机制

• 1.1 Attention 注意力机制
• 1.2 Transformer
• 1.3 BERT

2. 卷积神经网络

• 2.1 卷积层
• 2.2 池化层
• 2.3 LeNet 简单卷积神经网络
• 2.4 AlexNet 深度学习兴起
• 2.5 VGG 基础卷积块
• 2.6 NiN 1×1卷积层
• 2.7 GoogLeNet 并行连接的网络
• 2.8 BatchNorm 批量归一化
• 2.9 ResNet 残差神经网络

3. 线性模型

• 3.1 线性回归的数学表示
• 3.2 线性回归的求解
• 3.3 最大似然估计
• 3.4 模型容量、欠拟合和过拟合
• 3.5 正则化：防止模型过拟合
• 3.6 Logistic Regression

4. 前馈神经网络

• 4.1 前馈神经网络与反向传播
• 4.2 Softmax
• 4.3 PyTorch的Tensor和自动求导
• 4.4 神经网络房价预测-PyTorch实现

5. 训练加速技术

• 5.1 混合精度训练
• 5.2 深度学习编译