主要依赖于Pytorch和TensorFlow框架。

数据

• torch.zeros_like() 和 torch.zeros()的区别_Kevinllli的博客-CSDN博客_torch銆倆eros (opens new window)
• pytorch中long.tensor和普通的tensor有什么不同？ - 知乎 (zhihu.com) (opens new window)
• Pytorch中，将label变成one hot编码的两种方式_我的博客有点东西-CSDN博客 (opens new window)

正则化

• batch norm、relu、dropout 等的相对顺序和BN、dropout的几个问题和思考_永远飞翔的鸟-CSDN博客 (opens new window)
• 学习笔记|Pytorch使用教程23(正则化之weight_decay)_NotFound1911的博客-CSDN博客 (opens new window)

优化器

• 深度学习中的常见正则化方法(Regularization)以及优化器中的WeightDecay参数详解 - 程序员大本营 (pianshen.com) (opens new window)
• torch代码解析 为什么要使用optimizer.zero_grad()_scut_salmon的博客-CSDN博客 (opens new window)
• Pytorch Leaning Rate Scheduler 坑s - 知乎 (zhihu.com) (opens new window)
• PyTorch学习之六个学习率调整策略_mingo_敏-CSDN博客_pytorch 学习率 (opens new window)
• Adam和学习率衰减（learning rate decay） - wuliytTaotao - 博客园 (cnblogs.com) (opens new window)
• 深度学习中的Adam优化算法详解_sinat_36618660的博客-CSDN博客_adam算法论文 (opens new window)
• pytorch优化器详解：Adam_拿铁大侠的博客-CSDN博客 (opens new window)
• pytorch 权重weight 与 梯度grad 可视化_Rainbow-CSDN博客_pytorch查看梯度 (opens new window)

损失函数

• Binary_Cross_Entropy (opens new window)
• 为什么正则化能够解决过拟合问题？_一扣解千愁的博客-CSDN博客_为什么正则化能处理过拟合 (opens new window)
• Pytorch详解NLLLoss和CrossEntropyLoss_豪哥的博客-CSDN博客_nllloss (opens new window)

标签

• 机器学习里经常出现ground truth这个词，能否准确解释一下？ - 知乎 (zhihu.com) (opens new window)

过拟合

模型配置

• pytorch保存和加载模型 - 知乎 (zhihu.com) (opens new window)
• 【PyTorch】state_dict详解_安静-CSDN博客 (opens new window)
• pytorch 状态字典:state_dict 模型和参数保存 - 交流_QQ_2240410488 - 博客园 (cnblogs.com) (opens new window)
• Pytorch_hook机制的理解及利用register_forward_hook(hook)中间层输出_越努力 越幸运-CSDN博客_register_forward_hook (opens new window)

可视化

Matplotlib

• Plotting points on the surface of a sphere in Python's matplotlib - Stack Overflow (opens new window)
• 深入理解 Matplotlib 3D 绘图函数 plot_surface 的 rstride 和 cstride 参数_月小水长-CSDN博客 (opens new window)

t-SNE

其他

• nvidia - Win10 linux subsystem libGL error: No matching fbConfigs or visuals found libGL error: failed to load driver: swrast - Ask Ubuntu (opens new window)
• Python格式化字符串f-string概览_sunxb10的博客-CSDN博客 (opens new window)

疑问

• 为什么二值交叉熵会导致过拟合？