栏目分类:
子分类:
返回
终身学习网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
终身学习网 > IT > 软件开发 > 后端开发 > Python

ML-Diary01

Python 更新时间:发布时间: 百科书网 趣学号
Learning 01 Pytorch 学习内容
  • 经典数据集:CIFAR10,并利用神经网络进行训练
  • 基础ndarray数据结构:Tensor和相应的处理类和函数
  • DataSet 和 DataLoader:从官方文档中学习
  • 神经网络torch.nn 的基本构建
  • torch.vision库的学习
李宏毅的机器学习 Lecture 1 Regression

​ 用自己的话总结,就是通过训练集找到一个在输出为实数的函数,函数能够将输入转化为一个数值,从而达到学习预测的目的。

​ Sigmoid方法就是一种非线性回归,通过gradient descend等其他的方法找到Loss最小的参数。

​ 每一个Sigmoid函数就是一个激活函数,一层层的激活函数构成神经网络,实现深度学习。

Classification

​ 输出是离散型,具体的实现方法需要继续学习。

Lecture 2 Optimization Issue

​ 我们知道说,我们今天用的optimization,在这门课裡面,我们其实都只会用到gradient descent,这种optimization的方法,这种optimization的方法很多的问题。

​ 举例来说 ,你可能会卡在local minima的地方,你没有办法找到一个,真的可以让loss很低的参数。

Overfitting

​ 在训练集上loss很小,在测试集上loss很大,不符合预期

解决方法

  • 增加训练集(如Data Augment)
  • 对model进行一些限制,给比较少的参数,比较少的features

​ 完成了Lecture对应的Homework,为了实现更好的模型,利用已有的图片镜像翻转,改变不同的learning rate和增加训练的epoch,使得loss减小。

转载请注明:文章转载自 www.051e.com
本文地址:http://www.051e.com/it/1070403.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 ©2023-2025 051e.com

ICP备案号:京ICP备12030808号