杨洁学姐嘻嘻
站好!
吴恩达深度学习课程第一课
[TOC]
二元分类意思就是是猫或者不是猫 这里只是打个比方。
logistic回归常见的logistic回归就是sigmoid函数套住y=wx+b 公式如下
$$y=\vartheta (\mathbf{W}^\mathrm{T}x+b)$
使得其概率鉴于0-1之间使得sigmoid函数变成这样
$\vartheta (\hat{z} ) = \frac{1} { 1+e^{\hat{z}} }$
损失函数:是衡量单一训练样例的效果损失函数定义位$\delta (\hat{y} ,y)=\frac{1}{z} (\hat{y}-y)^2$ 就是定义$\hat{y}$和y之间的距离有多近 这里的$\hat{y}$ 就代表了sigmoid(z)函数
但是这个损失函数更好因为e为底 $\delta =-(y(log \hat{y}+(1-y)log(1- \hat{y}))$
损失函数有负号的原因是在逻辑回归中我们需要最小化损失函数,但是由于有个负号并且log函数的单调递增的, 导致其最小化的损失函数就是最大化的logP(y|X)
损失函数又叫做误差函数,用来衡量算法的运行情 ...
吴恩达深度学习课程第二课
[TOC]
什么是方差和偏差?方差:如果一个模型的方差较高,意味着模型对于训练数据的小变化非常敏感,可能会导致过拟合(Overfitting)的问题,
偏差:偏差衡量了模型的预测值与实际观测值之间的差异或偏移。具体来说,它表示了模型在训练数据上的平均预测误差。如果一个模型的偏差较高,意味着模型在训练数据上不能很好地拟合,可能会导致欠拟合(Underfitting)的问题
欠拟合就是没把大头当回事,过拟合就是将偶然太当真
当涉及到模型的方差和偏差时,可以使用具体的例子来更好地理解这两个概念:
假设你正在开发一个简单的线性回归模型,用于预测房屋价格。你有一个包含房屋价格和各种特征(例如房屋大小、卧室数量、地理位置等)的数据集。以下是对方差和偏差的具体解释:
方差:
假设你多次随机划分你的数据集为训练集和测试集,然后训练相同的线性回归模型。如果不同训练集上训练的模型对于相同测试集产生的预测结果差异很大,那么模型的方差较高。这可能表示模型对于训练数据的小变化非常敏感。
例如,如果在一次模型训练中,模型预测某个房屋价值为$300,000,而在另一次训练中,相同模型对同一房屋的预测结果是$350 ...