把 cifar-10-batches-py 放置在 根 目录。
- Cifar10 https://www.cs.toronto.edu/~kriz/cifar.html, 50000 training images and 10000 test images.
- Using raw pixels as image feature
- Using kNN classifier
- Determine the best k & distance metric
- Due in the next work: source code, slides and oral presentation
-
自己推导
softmax clf 的 analytic grad,并采用 numpy 实现其计算,用 mini-batch grad descent 进行优化 - 使用sklearn计算评测指标(AUC, ROC, mAP)并画图分析,调整 batch, learning rate, epoch 等获得最佳训练结果
- 尝试 L2 (Undone),L1 (Done) 正则化方法( grad 自己推导),调整正则化项的权重。
- 注意数据的预处理,例如:像素值归一化到 0-1 ,调整参数,不用交叉验证,争取在整个训练集上训练,达到较高的测试准确率。
- 尝试数据增强,batch normalization,不同的optimizer等提升训练效果
- 依照课件上的内容,实现BP神经网络,在half moon上可视化非线性分类。
- 在cifar10上,采用自己实现的BP神经网络来训练和测试并计算正确率。
- 通过调整网络每层的节点数目、learning rate、正则化参数、网络层数、激活函数等,来争取获得最优的分类正确率。